Berechnung von X in der Verhältnisgleichung 1 : 2 = 10 : X
Rechenbereiche, Anzahl der Stellen
und Genauigkeit
Der Rechnungsbereich, die für die internen Berechnungen verwendete Anzahl
der Stellen und die Rechnungsgenauigkeit hängen von dem Rechnungstyp
ab, den Sie ausführen.
Rechnungsbereich und Genauigkeit
Rechnungsbereich
Anzahl der Stellen für interne
Berechnungen
Genauigkeit
Eingabebereiche und Genauigkeit von
Funktionsrechnungen
Funktion
DEG
x
RAD
sin
GRA
(a:b=X:d) 1
2
(a:b=c:X) 1
2
1
10
15 Stellen
Normalerweise beträgt die Genauigkeit
1 an der 10. Stelle für eine einzelne
Rechnung. Die Genauigkeit für die
Exponentialanzeige beträgt 1 an der
am wenigsten signifikanten Stelle. Die
Fehler summieren sich im Falle von
fortlaufenden Rechnungen.
Eingabebereich
x
0
9
10
x
0
157079632,7
x
0
1
10
G-28
28
10
(RATIO)
10
–99
bis 9,999999999
9
10
Math
Math
Math
Math
Math
Math
Math
Math
99
10
oder 0