Wertebereiche Für Berechnungen, Stellenanzahl Und Genauigkeit; Zulässiger Wertebereich Und Genauigkeit - HP 300s+ Benutzerhandbuch

Numerischer Stapel
(1)
(2)
(3)
(4)
(5)
Die Fehlermeldung „Stack ERROR" tritt auf, wenn während
der Ausführung einer Berechnung die Kapazität eines Stapels
überschritten wird.
Wertebereiche für Berechnungen,
Stellenanzahl und Genauigkeit
Der zulässige Wertebereich für Berechnungen, die Anzahl der
für interne Berechnungen verwendeten Stellen und die
Rechengenauigkeit hängen vom Typ der auszuführenden
Berechnung ab.
Zulässiger Wertebereich und Genauigkeit
Zulässiger Wertebereich
Anzahl der für interne
Berechnungen
verwendeten Stellen
Genauigkeit
2
3
4
5
4
1✕10
15 Stellen
In der Regel 1 an der 10. Stelle für eine
einzelne Berechnung. Die Genauigkeit
bei exponentieller Darstellung beträgt
1 an der niederwertigsten Stelle.
Die Fehler summieren sich bei
fortlaufenden Berechnungen.
-99
bis 9,9999999✕10
89
Befehlsstapel
✕
(1)
(2) (
(3) (
(4) +
✕
(5)
(6) (
(7) +
-99
oder 0