Inhaltsverzeichnis
Werbung
k Rechenbereiche, Stellenzahl und Genauigkeit
Die nachstehende Tabelle zeigt den allgemeinen Rechenbereich (Bereich für Ein- und Ausgabe von
Werten), die Stellenzahl für die internen Berechnungen und die Berechnungsgenauigkeit.
Rechenbereich
Interne Berechnung
Genauigkeit
A Eingabebereiche und Genauigkeit der Berechnung nach Funktionen
Funktionen
DEG
x
sin
RAD
GRA
DEG
x
cos
RAD
GRA
DEG
x
tan
RAD
GRA
–1
x
sin
0 < |
–1
x
cos
–1
x
0 < |
tan
x
sinh
0 < |
x
cosh
–1
x
0 < |
sinh
–1
x
1 <
cosh
x
0 < |
tanh
–1
x
0 < |
tanh
x
x
log
/ln
0 <
x
10
–9,999999999×10
x
e
–9,999999999×10
'
x
0 <
–99
±1×10
bis ±9.999999999×10
15 Stellen
Generell ±1 an der 10 Stelle bei einer einzelnen Berechnung. Bei
Rechenergebnissen im Exponentialformat beträgt der Fehler ±1
an der niederstwertigen Stelle der Mantisse. In fortlaufenden
Berechnungen sind die Fehler kumulativ.
9
0 < |
| < 9×10
x
0 < |
x
| < 157079632,7
10
0 < |
x
| < 1×10
9
0 < |
x
| < 9×10
0 < |
x
| < 157079632,7
10
0 < |
| < 1×10
x
x
, außer bei |
Wie sin
x
, außer bei |
Wie sin
x
, außer bei |
Wie sin
x
| < 1
x
| < 9,999999999×10
x
| < 230,2585092
x
| < 4,999999999×10
x
< 4,999999999×10
x
| < 9,999999999×10
x
| < 9,999999999×10
x
< 9,999999999×10
99
x
<
99
<
x
100
x
< 1×10
99
Eingabebereich
x
| = (2
n
–1)×90.
π
x
| = (2
n
–1)×
x
| = (2
n
–1)×100.
99
99
99
99
–1
99
< 99,99999999
< 230,2585092
G-137
und 0
/2.
Quicklinks ausblenden:
Werbung
Inhaltsverzeichnis
