Inhaltsverzeichnis
Werbung
4 Anzahl der Stellen und Genauigkeit
k Anzahl der Stellen
Standardmodus
Nachfolgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation"
im „Basic Format"-Dialogfeld nicht ausgewählt ist.
• Bis zu 611 Stellen werden für ganzzahlige Werte im Speicher abgespeichert.
• Dezimalwerte mit bis zu 15 Stellen werden in das Bruchformat umgewandelt und im Speicher
abgelegt. Falls ein mathematischer Term nicht in das Bruchformat umgewandelt werden kann,
wird das Ergebnis im Dezimalformat angezeigt.
• Die im Speicher abgelegten Werte werden unverändert angezeigt, unabhängig davon, wie
die [Display]-Einstellungen (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind (ausge-
nommen, wenn ein Dezimalwert angezeigt wird).
Dezimalmodus
Folgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation" im
„Basic Format"-Dialogfeld ausgewählt ist.
• Die im Ans-Speicher abgespeicherten Werte weisen die gleiche Anzahl an Stellen auf, mit
welchen sie angezeigt werden. Ein einer Variablen zugeordneter Wert weist die gleiche Anzahl
an Stellen auf, wie sie für Werte des Standardmodus definiert sind.
• Die Werte werden in Abhängigkeit davon angezeigt, wie die [Display]-Einstellungen (Normal
1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind.
• Die angezeigten Werte werden auf die entsprechende Anzahl von Dezimalstellen gerundet.
• In manchen Anwendungs-Menüs werden die Werte als Gleitkommazahlen unter Verwendung
einer bis zu 15-stelligen Mantisse und eines bis zu 3-stelligen Exponenten gespeichert.
k Genauigkeit
• Interne Berechnungen werden mit 15 Stellen ausgeführt.
• Der Fehler für einen einzelnen mathematischen Term (Dezimalmodus-Berechnungsfehler)
beträgt ±1 in der 10. Stelle. Im Falle der Exponentialanzeige beträgt der Berechnungsfehler
±1 in der am wenigsten signifikanten Stelle. Beachten Sie, dass durch die Ausführung von
aufeinander folgenden Berechnungen der Fehler kumulativ sein kann. Der Fehler ist auch
kumulativ für interne aufeinander folgende Berechnungen von: ^(
• Der Fehler ist kumulativ und kann in der Nähe eines singulären Punktes einer Funktion oder
eines Wendepunktes noch größer zu sein. So tritt zum Beispiel bei sinh(
Wendepunkt auf, wenn
ist schlecht.
α
-4-1
Anzahl der Stellen und Genauigkeit
x
= 0 ist. In dessen Nähe ist der Fehler kumulativ und die Genauigkeit
20030101
x
y
x
x
n
r
n
r
),
,
!,
P
,
C
usw.
x
x
) und tanh(
) der
Werbung
Inhaltsverzeichnis
