HBM QUANTUM X Bedienungsanleitung Seite 108

Funktionsbeschreibung
34
Datentyp (REAL64). Das Zwischenergebnis wird
schließlich in den Datentyp umgewandelt, der als
„SignalFormat" angegeben wurde. Rundungsfehler sind
hierbei durch die Anwendung von Fließkommazahlen
prinzipbedingt.
Ist der Datentyp für „SignalFormat" 64-bit Ganzzahl,
werden die Nachkommastellen des Fließkommawerts vor
der abschliessenden Umwandlung von REAL64 nach
UINT64 bzw. INT64 abgeschnitten. In allen anderen Fäl­
len wird der Fließkommawert zunächst auf eine Ganz­
zahl gerundet.
Nachfolgende Tabelle gilt ausschließlich für die hier
beschriebene „Fließkomma-Skalierung":
A4461-1.0 HBM: public
CANBus