Genauigkeit
Die Messtoleranzen werden in f.s. (Messbereich), rdg. (Anzeigewert) und dgt.
(Auflösung, digit) angegeben, denen die folgenden Bedeutungen zugrunde liegen:
(maximaler Anzeigewert)
f.s.
Zeigt normalerweise den maximalen Anzeigewert an. Bei diesem Instrument
wird damit der derzeit verwendete Bereich angegeben.
(Anzeigewert oder angezeigter Wert)
rdg.
Der aktuell gemessene und auf dem Messinstrument angezeigte Wert.
(Auflösung)
dgt.
Die kleinste anzeigbare Einheit auf einem Messinstrument, also der
Eingangswert, bei dem auf der digitalen Anzeige eine „1" angezeigt wird.
Genauigkeitsberechnungsbeispiele
(Zahlen nach den Anzeigeziffern werden abgerundet.)
1
Genauigkeit der Widerstandsmessung
Messbedingungen: Bereich 300m
Messobjekt = 100m
Genauigkeit der Widerstandsmessung: ±(0,020%rdg. + 0,020%f.s.)
± ( 0,020% × 100m
2
Genauigkeit der Temperaturmessung
Messbedingungen: Thermistor-Temperatursensor, Messtemperatur = 35 °C
Genauigkeit der Temperaturmessung: ±(0,55 + 0,012 × | t -30|)
± ( 0,55 + 0,012 × | 35 - 30 |)= ± 0,61 °C
3
Zusätzliche Temperaturkorrekturgenauigkeit
Messbedingungen: Temperaturkoeffizient = 3930 ppm/°C, Referenztemperatur = 20 °C,
Messtemperatur = 35 °C
Zusätzlicher Fehler
−
. 0
393
1
+
. 0
393
%
Ω
, Strom Lo (100 mA), OVC OFF,
Ω
Ω
+ 0,020% × 300m
α
t
−
∆
t
0
α
1
+
×
(
t
+
∆
t
0
%
×
(
±
. 0
) 6
+
=
×
(
35
±
0
6 .
−
20
)
HIOKI RM3548B984-00
Ω
) = ± 0,08m
[ ]
×
100
%
t
−
t
)
0
0.222%rdg ,−
0.223%rdg.
.
Messungsspezifikationen
Ω
115