Tabelle 7-1 Dc-Genauigkeit ± (% Des Messwerts + Nr. Der Nieder- Wertigsten Ziffer) - Agilent Technologies U1251B Benutzerhandbuch

Tabelle 7-1 DC-Genauigkeit ± (% des Messwerts + Nr. der niederwertigsten Ziffer) (Fortsetzung)
Funktion
500,00 Ω
5,0000 kΩ
[6]
Widerstand
50,000 MΩ
500,00 MΩ
500,00 nS
Hinweise für Widerstandsspezifikationen:
3 Die Genauigkeit von 500 Ω und 5 kΩ wird nach der Null-Funktion angegeben, die verwendet wird, um den Widerstand der
Testleitung und den Wärmeeffekt abzuziehen.
4 Für den Bereich von 50 Ω/500 MΩ wird eine relative Luftfeuchtigkeit von <60 % angegeben.
5 Die Genauigkeit wird für <50 nS angegeben und nach der Null-Funktion mit offener Testleitung.
6 Maximale offene Spannung: <+4,2 V.
Agilent U1251B/U1252B Benutzer- und Servicehandbuch
Bereich Auflösung
[3]
0,01 Ω
[3]
0,0001 kΩ
50,000 kΩ 0,001 kΩ
500,00 kΩ 0,01 kΩ
5,0000 MΩ 0,0001 MΩ
[4]
0,001 MΩ
[ 4]
0,01 MΩ
[5]
0,01 nS
Teststrom/
U1251B
Lastspannung
1,04 mA 0,08 + 10
416 µA
41,2 µA 0,08 + 5
4,12 µA
375 nA 0,2 + 5
187 nA
187 nA
187 nA
Spezifikationen
Genauigkeit
U1252B
0,05 + 10
0,05 + 5
0,15 + 5
1 + 10 1 + 5
3 + 10 < 200MΩ/
-
8 + 10 > 200MΩ
1 + 20 1 + 10
7
157