6
Spezifikationen und Eigenschaften
Tabelle 6-1 DC-Auflösung, Full-Scale-Messwert und Genauigkeit [± (% des Messwerts + Zahl des
niedrigstwertigen Bit)] (Fortsetzung)
Funktion
Rate
Langsam
Widerstand
Medium
Schnell
Anmerkungen:
1 Eingangsimpedanz ist parallel zur Kapazität < 120pF.
2 Betriebsart Rel verwenden.
3 Im Vdc-1.000-V-Bereich können Werte gelesen werden, die um 5% (1.050 VDC) den Grenzwert überschreiten.
4 In der Regel bei Full Scale-Messung und Messung der Spannung für alle Eingangsanschlüsse.
5 Betriebsart Rel verwenden. Wenn die Betriebsart Rel nicht verwendet wird, addieren Sie einen zusätzlichen Fehler in Höhe
von 0,2 W.
6 Um die Einwirkung von Störstrahlung auf die Testleitungen zu vermeiden, empfiehlt sich die Verwendung eines
abgeschirmten Testkabels für die Messung von Widerständen über 100 KW.
88
[6]
Bereich
Auflösung
0,001 W
120,000 W
0,00001 kW
1,20000 kW
0,0001 kW
12,0000 kW
0,001 kW
120,000 kW
0,00001
1,20000 MW
MW
12,0000 MW
0,0001 MW
120,000 MW
0,001 MW
400,00 W
0,01 W
4,0000 kW
0,0001 kW
40,000 kW
0,001 kW
400,00 kW
0,01 kW
4,0000 MW
0,0001 MW
40,000 MW
0,001 MW
300,00 MW
0,01 MW
400,0 W
0,1 W
4,000 kW
0,001 kW
40,00 kW
0,01 kW
400,0 kW
0,1 kW
4,000 MW
0,001 MW
40,00 MW
0,01 MW
300,0 MW
0,1 MW
Höchster
Stromquelle
Messwert
119,999
0,5 mA
1,19999
0,5 mA
11,9999
100 µA
119,999
10 µA
1,19999
1 µA
11,9999
100 nA
119,999
10 nA
399,99
0,5 mA
3,9999
100 µA
39,999
50 µA
399,99
5 µA
3,9999
500 nA
39,999
50 nA
299,99
10 nA
399,9
0,5 mA
3,999
100 µA
39,99
50 µA
399,9
5 µA
3,999
500 nA
39,99
50 nA
299,9
10 nA
U3402A Benutzer- und Servicehandbuch
Genauigkeit (Ein Jahr; 23ºC ± 5ºC)
2-Draht
4-Draht
[2]
0,1% + 8
0,05% + 8
[2]
0,08% + 5
0,05% + 5
[2]
0,06% + 5
0,05% + 5
0,06% + 5
0,05% + 5
0,06% + 5
0,05% + 5
0,3% + 5
0,3% + 5
3,0% + 8
3,0% + 8
[2]
0,1% + 5
0,05% + 5
[2]
0,08% + 3
0,05% + 3
0,06% + 3
0,05% + 3
0,06% + 3
0,05% + 3
0,15% + 3
0,15% + 3
1,5% + 3
1,5% + 3
5,0% + 5
5,0% + 5
[2]
0,1% + 2
0,05% + 2
0,08% + 2
0,05% + 2
0,06% + 2
0,05% + 2
0,06% + 2
0,05% + 2
0,15% + 2
0,15% + 2
1,5% + 2
1,5% + 2
5,0% + 2
5,0% + 2
[2]
[2]
[2]