Agilent Technologies U1253B True Servicehandbuch Seite 207

Tabelle 7-1 DC-Genauigkeit
Funktion
[6][7]
Widerstand
Hinweise für Widerstandsspezifikationen:
a 2 % Bereichsüberschreitung in allen Bereichen außer dem DC-Bereich von 1000 V.
3 Die Genauigkeit von 500 Ω und 5 kΩ wird nach der Null-Funktion angegeben, die verwendet wird, um den Widerstand der
Testleitung und den Wärmeeffekt abzuziehen.
4 Für den Bereich von 50 MΩ/500 MΩ wird eine relative Luftfeuchtigkeit von < 60% angegeben.
5 Die Genauigkeit wird für < 50 nS angegeben und nach der Null-Funktion mit offener Testleitung verwendet.
6 Die Spezifikationen sind für den Widerstand (2-Wire Ohms) mit der Math. Null-Funktion definiert. Addieren Sie ohne
Verwendung der Math. Null-Funktion einen zusätzlichen Fehler von 0,2 Ω.
7 Maximale offene Spannung: < +4,2 V.
U1253B Benutzer- und Servicehandbuch
± (% des Messwerts + Nr. der niederwertigsten Ziffer)
[a]
Bereich
500,00 Ω [3]
[3]
5,0000 kΩ
50,000 kΩ
500,00 kΩ
5,0000 MΩ
[4]
50,000 MΩ
[4]
500,00 MΩ
[5]
500,00 nS
Auflösung Teststrom oder
Lastspannung
0,01 Ω
0,0001 kΩ
0,001 kΩ
0,01 kΩ
0,0001 MΩ 375 nA // 10 MΩ
0,001 MΩ 187 nA // 10 MΩ
0,01 MΩ 187 nA // 10 MΩ
0,01 nS
Spezifikationen
(Fortsetzung)
Genauigkeit
1,04 mA 0,05 + 10
416 µA 0,05 + 5
41,2 µA 0,05 + 5
4,12 µA 0,05 + 5
0,15 + 5
1,00 + 5
3,00+5 < 200 M
8,00+5 > 200 M
187 nA
7
1+10
185