Herunterladen Inhalt Inhalt Diese Seite drucken

Anzahl Der Stellen Und Genauigkeit - Casio ClassPad 330 PLUS Bedienungsanleitung

Vorschau ausblenden Andere Handbücher für ClassPad 330 PLUS:
Inhaltsverzeichnis

Werbung

4 Anzahl der Stellen und Genauigkeit

k Anzahl der Stellen
Standardmodus
Nachfolgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation"
im „Basic Format"-Dialogfeld nicht ausgewählt ist.
• Bis zu 611 Stellen werden für ganzzahlige Werte im Speicher abgespeichert.
• Dezimalwerte mit bis zu 15 Stellen werden in das Bruchformat umgewandelt und im Speicher
abgelegt. Falls ein mathematischer Term nicht in das Bruchformat umgewandelt werden kann,
wird das Ergebnis im Dezimalformat angezeigt.
• Die im Speicher abgelegten Werte werden unverändert angezeigt, unabhängig davon, wie
die [Number Format]-Einstellungen (Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind
(ausgenommen, wenn ein Dezimalwert angezeigt wird).
Dezimalmodus
Folgendes trifft zu, wenn das Kontrollkästchen neben dem Eintrag „Decimal Calculation" im
„Basic Format"-Dialogfeld ausgewählt ist.
• Die im Ans-Speicher abgespeicherten Werte und die den Variablen zugewiesenen Werte
weisen die gleiche Anzahl von Stellen auf, wie sie für Werte des Standardmodus definiert
sind.
• Die Werte werden in Abhängigkeit davon angezeigt, wie die [Number Format]-Einstellungen
(Normal 1, Normal 2, Fix 0 – 9, Sci 0 – 9) konfiguriert sind.
• Die angezeigten Werte werden auf die entsprechende Anzahl von Dezimalstellen gerundet.
• In manchen Anwendungs-Menüs werden die Werte als Gleitkommazahlen unter Verwendung
einer bis zu 15-stelligen Mantisse und eines bis zu 3-stelligen Exponenten gespeichert.
k Genauigkeit
• Interne Berechnungen werden mit 15 Stellen ausgeführt.
• Der Fehler für einen einzelnen mathematischen Term (Dezimalmodus-Berechnungsfehler)
beträgt ±1 in der 10. Stelle. Im Falle der Exponentialanzeige beträgt der Berechnungsfehler
±1 in der am wenigsten signifikanten Stelle. Beachten Sie, dass durch die Ausführung von
aufeinander folgenden Berechnungen der Fehler kumulativ sein kann. Der Fehler ist auch
kumulativ für interne aufeinander folgende Berechnungen von: ^(
usw.
• Der Fehler ist kumulativ und kann in der Nähe eines singulären Punktes einer Funktion oder
eines Wendepunktes noch größer sein. So tritt zum Beispiel bei sinh(
Wendepunkt auf, wenn
ist schlecht.
α -4-1
Anzahl der Stellen und Genauigkeit
x
= 0 ist. In dessen Nähe ist der Fehler kumulativ und die Genauigkeit
20110901
x
y
x
x
n
r
n
),
,
!,
P
,
C
x
x
) und tanh(
) der
r

Quicklinks ausblenden:

Werbung

Inhaltsverzeichnis
loading

Inhaltsverzeichnis