Inhaltsverzeichnis
Werbung
6.8 Rechenalgorithmen im Titrando
PC Control / Touch Control
Nachfolgend werden einige der in der Gerätesoftware verwendeten Al-
gorithmen und Zahlenformate erläutert.
Zahlenformat
In der Software ist der Standard IEEE 754 (1985) für binäre Fliesskom-
ma-Arithmetik in "single precision" (32 Bit) implementiert.
Rundungsverfahren
Messwerte und Resultate werden, je nach Benutzereinstellung, gerun-
det dargestellt. Dabei wird der Betrag dieser Zahlen nach folgendem
Verfahren arithmetisch gerundet:
Beispiel für Runden auf n = 3 Nachkomma-Stellen:
1.
99.644499
2.
99644.499
3.
99644.499
4.
99644
Statistik
Es wird der arithmetische Mittelwert sowie die absolute und relative
Standardabweichung von Resultaten R, Endpunkten EP und Variablen
C berechnet:
Aus einer Bestimmung können maximal neun Resultate mit jeweils
höchstens 20 Bestimmungen statistisch ausgewertet werden.
Für nachstehende Formeln gilt folgende Konvention:
1 ≤ n ≤ 20
1 ≤ k ≤ 9
Mittelwert
x :
k
n
1
∑
=
⋅
x
R
k
i , k
n
i
=
1
Absolute Standardabweichung S abs
n
(
∑
−
R
i , k
=
+
i
=
1
S
abs
k
−
n
1
Relative Standardabweichung S rel
S
abs
k
S
rel
=
100
⋅
k
x
k
⋅ 10
n
99644.499
+ 0.5
99644.999
cut
99644
⋅ 10
-n
99.644
:
k
)
2
x
k
(in %):
k
6 Anhang
341
Werbung
Inhaltsverzeichnis
