Inhaltsverzeichnis
Werbung
29: hp ' kW
m ' J
33: kgf
•
37: °F ' °C
Die in den Umwandlungsformeln verwendeten Daten beruhen auf der „NIST
Special Publication 811 (1995)".
Hinweis: Bei der Umwandlung mit dem Befehl J 'cal wird von einer
Temperatur von 15 °C ausgegangen.
Rechenbereiche, Anzahl der Stellen
und Genauigkeit
Der Rechenbereich, die für die internen Berechnungen verwendete Anzahl
der Stellen und die Rechnungsgenauigkeit hängen von dem Rechnungstyp
ab, den Sie ausführen.
Rechnungsbereich und Genauigkeit
Rechnungsbereich
Anzahl der Stellen für
interne Berechnungen
Genauigkeit
Eingabebereiche und Genauigkeit von
Funktionsrechnungen
Funktion
x
sin
x
cos
x
tan
x
–1
sin
x
–1
cos
x
–1
tan
30: kW ' hp
34: J ' kgf
38: °C ' °F
± 1 × 10
15 Stellen
Normalerweise beträgt die Genauigkeit ± 1
an der 10. Stelle für eine einzelne Rechnung.
Die Genauigkeit für die Exponentialanzeige
beträgt ± 1 an der am wenigsten signifikanten
Stelle. Die Fehler summieren sich im Falle von
fortlaufenden Rechnungen.
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
|
|
x
DEG
0
|
|
x
RAD
0
|
|
x
GRA
0
Gleich wie sin
DEG
× 90.
Gleich wie sin
RAD
× π /2.
Gleich wie sin
GRA
× 100.
|
|
x
0
1
|
|
9,999999999 × 10
x
0
31: kgf/cm
m
35: lbf/in
•
39: J ' cal
bis ± 9,999999999 × 10
–99
Eingabebereich
9 × 10
9
157079632,7
1 × 10
10
9 × 10
9
157079632,7
1 × 10
10
, ausgenommen wenn |
x
, ausgenommen wenn |
x
, ausgenommen wenn |
x
99
G-41
' Pa 32: Pa ' kgf/cm
2
' kPa
36: kPa ' lbf/in
2
40: cal ' J
99
oder 0
2
2
| = (2
x
n
–1)
| = (2
x
n
–1)
| = (2
x
n
–1)
Quicklinks ausblenden:
Werbung
Inhaltsverzeichnis
