Herunterladen Inhalt Inhalt Diese Seite drucken

NCR DECISION MATE V Bedienungsanleitung Seite 111

Inhaltsverzeichnis

Werbung

GW-BASIC
• Während der Auswertung eines mathematischen oder verglei­
chenden Ausdruckes werden alle Operanden dem mit der
höchsten Genauigkeit angepaßt. Auch das Ergebnis einer arith­
metischen Operation entspricht dieser Genauigkeit.
Beispiele:
10 D f = 6#/ 7
20 P R IN T D#
R U N
.8571428571428571
10 D = 6#/7
20 P R IN T D
R U N
.857143
• Logische Operatoren (siehe Seite 1—11) wandeln die Operan­
den in ganzzahlige Werte um und ergeben ein ganzzahliges
Resultat. Falls die Operanden außerhalb des Bereiches —32768
bis +32767 liegen, erscheint die Fehlermeldung " O V E R F L O W "
(Überlauf).
• Wenn ein Wert mit Gleitkomma in einen ganzzahligen Wert
umgewandelt werden muß, werden die Dezimalstellen gerun­
det.
Beispiel:
10 C% = 55.88
C%
20 P R IN T
R U N
56
• Falls einer Variablen mit doppelter Genauigkeit ein Wert mit
einfacher Genauigkeit zugeordnet wird, sind nur die ersten
sieben Ziffern der übertragenen Zahl genau. Das kommt davon,
daß die Zahl mit einfacher Genauigkeit nur 7 Ziffern hatte.
Der absolute Wert beider Zahlen weicht jedoch nur um weni­
ger als 6.3E—8 multipliziert mit dem Wert einfacher Genauig­
keit, ab.
Beispiel:
10 A = 2.04
20 B# = A
30 P R IN T A ;B #
R U N
2.04
2.039999961853027
Die arithmetische Operation wird mit
doppelter Genauigkeit ausgefiihrt und
das Ergebnis in D# wird mit derselben
Genauigkeit ausgegeben.
Die arithmetische Operation wird mit
doppelter Genauigkeit ausgeführt. Das
Ergebnis wird nach D gespeichert, ge­
rundet, und mit einfacher Genauigkeit
ausgegeben.
MS-BASIC
1-7

Quicklinks ausblenden:

Werbung

Inhaltsverzeichnis
loading

Inhaltsverzeichnis