Widerstand - Agilent Technologies U3401A Benutzerhandbuch

Widerstand

Tabelle 6-7 Widerstandsauflösung, Full Scale-Messung und Präzision [±(% des Messwerts + Zähler)]
[1]
Rate Bereich
120,000
1,20000 k
12,0000 k
Langsam 120,000 k
1,20000 M
12,0000 M
120,000 M
400,00
4,0000 k
40,000 k
Mittel 400,00 k
4,0000 M
40,000 M
300,00 M
400,0
4,000 k
40,00 k
Schnell 400,0 k
4,000 M
40,00 M
300,0 M
[1]
Um die Einwirkung von Störstrahlung auf die Testleitungen zu vermeiden, empfiehlt sich die Verwendung eines
abgeschirmten Testkabels für die Messung von Widerständen über 100 K .
[2]
Rel-Operation verwenden.
U3402A Benutzer- und Servicehandbuch
Auflösung Höchster
Messwert
1 m 119,999
10 m 1,19999
100 m 11,9999
1 119,999
10 1,19999
100 11,9999
1 k 119,999
10 m 399,99
100 m 3,9999
1 39,999
10 399,99
100 3,9999
1 k 39,999
10 k 299,99
100 m 399,9
1 3,999
10 39,99
100 399,9
1 k 3,999
10 k 39,99
100 k 299,9
Spezifikationen und Eigenschaften
Stromstärkenqu Präzision (1 Jahr; 23 ºC ±5 ºC)
elle
2-Draht
0,5 mA 0,1 % + 8
0,5 mA 0,08 % + 5
100 µA 0,06 % + 5
10 µA 0,06 % + 5
1 µA 0,06 % + 5
100 nA 0,3 % + 5
10 nA 3,0 % + 8
0,5 mA 0,1 % + 5
100 µA 0,08 % + 3
50 µA 0,06 % + 3
5 µA 0,06 % + 3
500 nA 0,15 % + 3
50 nA 1,5 % + 3
10 nA 5,0 % + 5
0,5 mA 0,1 % + 2
100 µA 0,08 % + 2
50 µA 0,06 % + 2
5 µA 0,06 % + 2
500 nA 0,15 % + 2
50 nA 1,5 % + 2
10 nA 5,0 % + 2
6
4-Draht
[2] [2]
0,05 % + 8
[2] [2]
0,05 % + 5
[2]
0,05 % + 5
0,05 % + 5
0,05 % + 5
0,3 % + 5
3,0 % + 8
[2] [2]
0,05 % + 5
[2]
0,05 % + 3
0,05 % + 3
0,05 % + 3
0,15 % + 3
1,5 % + 3
5,0 % + 5
[2]
0,05 % + 2
0,05 % + 2
0,05 % + 2
0,05 % + 2
0,15 % + 2
1,5 % + 2
5,0 % + 2
99