Inhaltsverzeichnis
Werbung
Rechenbereiche, Anzahl der Stellen
und Genauigkeit
Der Rechnungsbereich, die für die internen Berechnungen verwendete Anzahl
der Stellen und die Rechnungsgenauigkeit hängen von dem Rechnungstyp
ab, den Sie ausführen.
Rechnungsbereich und Genauigkeit
Rechnungsbereich
Anzahl der Stellen für interne
Berechnungen
Genauigkeit
Eingabebereiche und Genauigkeit von
Funktionsrechnungen
Funktion
DEG
x
RAD
sin
GRA
DEG
x
RAD
cos
GRA
DEG
x
RAD
tan
GRA
x
–1
sin
0
x
–1
cos
x
0
–1
tan
x
sinh
0
x
cosh
x
0
–1
sinh
x
–1
1
cosh
x
0
tanh
x
–1
0
tanh
x
x
0
log
/ln
1
15 Stellen
Normalerweise beträgt die Genauigkeit
1 an der 10. Stelle für eine einzelne
Rechnung. Die Genauigkeit für die
Exponentialanzeige beträgt 1 an der
am wenigsten signifikanten Stelle. Die
Fehler summieren sich im Falle von
fortlaufenden Rechnungen.
Eingabebereich
x
0
9
x
0
157079632,7
x
0
1
x
0
9
x
0
157079632,7
x
0
1
Gleich wie sin
90
Gleich wie sin
/2
Gleich wie sin
100
x
1
x
9,999999999
x
230,2585092
x
4,999999999
x
4,999999999
x
9,999999999
x
9,999999999
x
9,999999999
G-32
10
–99
bis 9,999999999
9
10
10
10
9
10
10
10
x
, ausgenommen wenn
x
, ausgenommen wenn
x
, ausgenommen wenn
99
10
99
10
99
10
99
10
−1
10
99
10
10
99
oder 0
x
n
= (2
–1)
x
n
= (2
–1)
x
n
= (2
–1)
Werbung
Inhaltsverzeichnis
