HIOKI日置RM3545电阻计测量精度
精度保证条件
·温湿度范围 23℃ ±5℃、80% rh 以下
·在0～18、28～40℃时、温度系数加算 ±(测量精度的1/10)/℃
·精度保证期1年
·［仅限RM3545 ］预热时间60 分钟以上
(不满60 分钟的情况下，测量精度为精度表的２倍)
·［仅限RM3545 ］自校准功能AUTO
RM3545电阻计电阻测量精度
精度：±(%rdg. + %f.s.)
LP OFF
·f.s. = 1,000,000 dgt. 、0.001%f.s. = 10dgt.
·100MΩ量程高精度模式OFF的100MΩ量程以上为f.s. = 10,000 dgt.、0.01%f.s. = 1dgt..
|
量程 |
100MW 量程高精度模式 |
最大测量范围*1 |
分辨率 |
测量精度%rdg. +%f.s. *2 |
测量电流*3 |
无0ADJ 加算精度 %f.s. *4 |
最大开路电压 |
||||
|
FAST |
MED |
SLOW1 |
SLOW2 |
切换 |
|
||||||
|
10mW |
－ |
12.00000 mΩ |
10nΩ |
0.060+0.050 (0.060+0.015) |
0.060+0.020 (0.060+0.002) |
0.060+0.020 (0.060+0.001) |
－ |
1A |
0.020 (－) |
5.5V*4 |
|
|
100mW |
120.0000 mΩ |
100nΩ |
0.060+0.010 (0.060+0.003) |
0.060+0.010 (0.060+0.001) |
0.060+0.010 (0.060+0.001) |
High |
1A |
0.002 (－) |
|||
|
0.014+0.050 (0.014+0.015) |
0.014+0.020 (0.014+0.002) |
0.014+0.020 (0.014+0.001) |
Low |
100mA |
0.020 (－) |
||||||
|
1000mW |
1200.000 mΩ |
1μΩ |
0.012+0.010 (0.012+0.003) |
0.012+0.008 (0.012+0.001) |
High |
100mA |
0.002 (－) |
||||
|
0.008+0.050 (0.008+0.015) |
0.008+0.020 (0.008+0.002) |
Low |
10mA |
0.020 (－) |
|||||||
|
10W |
12.00000Ω |
10μΩ |
0.008+0.010 (0.008+0.003) |
0.008+0.008 (0.008+0.001) |
High |
10mA |
0.002 (－) |
||||
|
0.008+0.050 (0.008+0.015) |
0.008+0.020 (0.008+0.002) |
Low |
1mA |
0.020 (－) |
|||||||
|
100W |
120.0000Ω |
100μΩ |
0.007+0.005 (0.007+0.005) |
0.007+0.002 (0.007+0.001) |
0.007+0.001 (0.007+0.001) |
High |
10mA |
－ (－) |
|||
|
0.008+0.010 (0.008+0.003) |
0.008+0.010 (0.008+0.001) |
Low |
1mA |
0.002 (－) |
|||||||
|
1000W |
1200.000Ω |
1mΩ |
0.007+0.005 (0.007+0.005) |
0.006+0.002 (0.006+0.001) |
0.006+0.001 (0.006+0.001) |
－ |
1mA |
－ (－) |
|||
|
10kW |
12.00000 kΩ |
10mΩ |
0.008+0.005 |
0.007+0.002 |
0.007+0.001 |
1mA |
－ |
20V |
|||
|
100kW |
120.0000 kΩ |
100mΩ |
0.008+0.005 |
0.007+0.002 |
0.007+0.001 |
100μA |
|||||
|
1000kW |
1200.000 kΩ |
1Ω |
0.015+0.005 |
0.008+0.002 |
0.008+0.001 |
10μA |
|||||
|
10MW |
12.00000 MΩ |
10Ω |
0.030+0.005 |
0.030+0.002 |
0.030+0.001 |
1μA |
|||||
|
100MW |
ON |
120.0000 MΩ |
100Ω |
0.200+0.005 |
0.200+0.002 |
0.200+0.001 |
100nA |
||||
|
OFF |
120.00MΩ |
10kΩ |
10.00MΩ以下:0.50+0.02 10.01MΩ以上:1.00+0.02 |
1μA 以下 |
|||||||
|
1000MW |
OFF |
1200.0MΩ |
100kΩ |
100.0MΩ以下:1.00+0.02 100.1MΩ以上:10.00+0.02 |
|||||||
*1 负数端到-10%f.s.为止。最大显示范围为9,999,999dgt.或9GΩ。(超出最大测量范围的情况下，即使在最大显示范围以下也显示为超量程)
*2 测量精度是在调零后的精度，如果在不调零的情况下，要加算【无0ADJ加算精度】。下段的()是OVC ON的情况。
*3 测量电流精度为±5%
*4 触发源EXT或连续测量OFF(自由运行除外)的情况下，从测量结束(INDEX=ON)后1ms开始到下次的测量开始(TRIG=ON)为止开路电压限制在20mV以下。
LP ON ·f.s. =100,000 dgt.、0.001%f.s. =1dgt.
|
量程 |
100MΩ 量程高精度模式 |
最大测量范围*1 |
分辨率 |
测量精度%rdg. +%f.s. *2 |
测量电流*3 |
无0ADJ 加算精度%f.s. |
最大开路电压 |
|||||
|
FAST |
MED |
SLOW1 |
SLOW2 |
切换 |
|
|||||||
|
1000mW |
– |
1200.00 |
mΩ |
10 μΩ |
0.200+0.010 |
0.200+0.010 |
0.200+0.005 |
0.200+0.003 |
– |
1mA |
– |
20mV *5 |
|
10W |
12.000 0 |
Ω |
100 μΩ |
0.200+0.005 |
0.200+0.005 |
0.200+0.003 |
0.200+0.002 |
500μA |
||||
|
100W |
120.000 |
Ω |
1 mΩ |
0.200+0.005 |
0.200+0.005 |
0.200+0.003 |
0.200+0.002 |
50μA |
||||
|
1000W |
1200.00 |
Ω |
10 mΩ |
0.200+0.005 |
0.200+0.005 |
0.200+0.003 |
0.200+0.002 |
5μA |
||||
*1 负数端到-10%f.s.为止。最大显示范围为9,999,999dgt.或9GΩ。(超出最大测量范围的情况下，即使在最大显示范围以下也显示为超量程)
*2测量精度是在调零后的精度。LP仅限OVC ON的情况。
*3测量电流精度为±5%
*5 接触检查OFF的情况下(接触检查ON的情况下为300mV)
