Inhaltsverzeichnis
Werbung
Der Dezimalwert einer Zahl im SREAL-Format berechnet sich zu:
(–1)
Beispiel für das SREAL-Format
Hier ein Beispiel für die Umrechung einer SREAL-Zahl in die entsprechende
Dezimalzahl:
SEEEEEEE EMMMMMMM MMMMMMMM MMMMMMMM
10111011 11001000 01001000 10010000
Das Vorzeichenbit "S" hat den Wert "1"; demnach handelt es sich um eine
negative Zahl.
Der Zweierexponent (01110111) hat den Dezimalwert:
6
2
Wegen des Exponenten-Offsets von 127 errechnet sich der tatsächliche Wert zu:
Exponent – 127 = 119 – 127 = –8
Der Dezimalwert der Mantisse [1.10010000100100010010000 (implizites MSB =
"1")] beträgt:
1 +2
Die Auswertung der Mantisse auf der Byte-Ebene statt auf der Bit-Ebene ergibt:
Byte 1
11001000 01001000 10010000
Mantisse =200
oder
Mantisse = (200
Der Dezimalwert der SREAL-Zahl beträgt demnach:
–1
Keysight 3458A Benutzerhandbuch
s
(Exponent)
×
×
(Mantisse)
2
5
4
2
1
+ 2
+ 2
+ 2
+ 2
+ 2
–1
–4
–9
–12
+ 2
+ 2
+ 2
Byte 2
Byte 3 = Byte 1
–7
×
2
+ 72
16
×
2
+ 72
–8
×
×
2
1.56471443177 = –6.1121657491E–3
0
= 119
–16
–19
+ 2
+ 2
= 1.56471443177
Byte 2
200
72
–15
–23
×
×
2
+ 144
2
8
–23
×
×
2
+ 144)
2
Durchführung von Messungen
Byte 3
144
= 1.56471443177
= 1.56471443177
4
161
Werbung
Inhaltsverzeichnis
