Нормирование погрешностей при измерении сопротивлений
| Частота сигнала | Пределы измерения | Разрешение ЕМР | Абсолютная погрешность измерения | Примечание |
| 120 Гц | 20 Ом | 1 мОм | ± (2 % Rизм + 8ЕМР) | После калибровки КЗ |
| 200 Ом | 10 мОм | ± (0,5 % Rизм + 5ЕМР) | ||
| 2 кОм | 100 мОм | ± (0,5 % Rизм + 3ЕМР) | _ | |
| 20 кОм | 1 Ом | ± (0,5 % Rизм + 3ЕМР) | ||
| 200 кОм | 10 Ом | ± (0,5 % Rизм+ 3ЕМР) | ||
| 2 МОм | 100 Ом | ± (0,8 % Rизм + 5ЕМР) | После калибровки ХХ | |
| 10 МОм | 1 кОм | ± (1,2 % Rизм + 8ЕМР) | ||
| 1 кГц | 20 Ом | 1 мОм | ± (2 % Rизм + 8ЕМР) | После калибровки КЗ |
| 200 Ом | 10 мОм | ± (0,5 % Rизм + 5ЕМР) | ||
| 2 кОм | 100 мОм | ± (0,5 % Rизм + 3ЕМР) | _ | |
| 20 кОм | 1 Ом | |||
| 200 кОм | 10 Ом | |||
| 2 МОм | 100 Ом | ± (0,8 % Rизм + 5ЕМР) | После калибровки ХХ | |
| 10 МОм | 1 кОм | ± (1,2 % Rизм + 8ЕМР) |
ЕМР – единица младшего разряда
Таблица П2
Погрешности измерения емкостей и тангенса угла потерь
| Частота сигнала | Пределы измерения | Разрешение ЕМР | Абсолютная погрешность измерения | Примечание | ||
| 120 Гц | 20 нФ | 1 пФ | C | ± (1 % Cизм + 5ЕМР) | После калибровки ХХ | |
| D | ± (2 % Dизм +100/Cx +5ЕМР) | |||||
| 200 нФ | 10 пФ | C | ± (0,7 % Cизм + 5ЕМР) | |||
| D | ± (0,7 % Dизм + 100/Cx +5ЕМР) | |||||
| 2000 нФ 20 мкФ 200 мкФ | 100 пФ 1 нФ 10 нФ | С | ± (0,7 % Cизм + 3ЕМР) | _ | ||
| D | ± (0,7 % Dизм + 100/Cx +5ЕМР) | |||||
| 2000 мкФ | 100 нФ | С | ± (1 % Cизм + 5ЕМР) | После калибровки КЗ | ||
| D | ± (2 % Dизм + 100/Cx +5ЕМР) | |||||
| 20 мФ | 1 мкФ | C | ± (5 % Cизм + 5ЕМР) | |||
| D | ± (10 % Dизм + 100/Cx +5ЕМР) | |||||
| 1 кГц | 2000 пФ | 0,1 пФ | C | ± (1 % Cизм + 5ЕМР) | После калибровки ХХ | |
| D | ± (2 % Dизм + 100/Cx +5ЕМР) | |||||
| 20 нФ 200 нФ | 1 пФ 10 пФ | C | ± (0,7 % Cизм + 5ЕМР) | |||
| D | ± (0,7 % Dизм + 100/Cx +5ЕМР) | |||||
| 2000 нФ 20 мкФ | 100 пФ 1 нФ | C | ± (0,7 % Cизм + 3ЕМР) | _ | ||
| D | ± (0,7 % Dизм + 100/Cx +5ЕМР) | |||||
| 200 мкФ | 10 нФ | C | ± (1% Cизм + 3ЕМР) | После калибровки КЗ | ||
| D | ± (2 % Dизм + 100/Cx +5ЕМР) | |||||
| 2000 мкФ | 100 нФ | C | ± (5 % Cизм + 5ЕМР) | |||
| D | ± (10 % Dизм + 100/Cx +5ЕМР) |
Примечания:
1. Погрешности нормируются для тангенса угла потерь D < 0,1. _____
2. Если D > 0,1 , погрешности дополнительно умножаются на Ö 1+D2 .
3. Cизми Dизм- значения емкости и тангенса угла, отображаемые на ЖКИ с учетом единиц измерения.
4. Сх – цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мкФ; тогда, Сизм=18,888 мкФ, Сх =18888.
Таблица П3
Погрешности измерения индуктивности и тангенса угла потерь
| Частота сигнала | Пределы измерения | Разрешение ЕМР | Абсолютная погрешность измерения | Примечание | |
| 22304 5мГн | 1 мкГн | L | ± (2 % Lизм +Lx/10000+ 5ЕМР) | После кали-бровки КЗ | |
| D | ± (10 % Dизм +100/Lx +5ЕМР) | ||||
| 200 мГн | 10 мкГн | L | ± (1 % Lизм + Lx/10000+5ЕМР) | ||
| D | ± (3 % Dизм + 100/Lx +5ЕМР) |
Окончание табл. П3
| 120 гЦ | 2000 мГн 20 Гн 200 Гн | 100 мкГн 1 мГн 10 мГн | L | ± (0,7 % Lизм + Lx/10000+ЕМР) | _ | ||
| D | ± (1,2 % Dизм + 100/Lx +5ЕМР) | ||||||
| 2000 Гн | 100 мГн | L | ± (1 % Lизм +Lx/10000+ 5ЕМР) | После кали-бровки ХХ | |||
| D | ± (2 % Dизм + 100/Lx +5ЕМР) | ||||||
| 20000 Гн | 1 Гн | L | Не нормируется | _ | |||
| D | Не нормируется | ||||||
| 1 кГц | 2000 мкГн | 0,1 мкГн | L | ± (1 % Lизм + 5ЕМР) | После кали-бровки КЗ | ||
| D | ± (2 % Dизм + 100/Lx +5ЕМР) | ||||||
| 20 мГн | 1 мкГн | L | ± (0,7 % Lизм + 5ЕМР) | ||||
| D | ± (0,7 % Dизм + 100/Lx +5ЕМР) | ||||||
| 200 мГн 2000 мГн 20 Гн | 10 мкГн 100 мкГн 1 мГн | L | ± (0,7 % Lизм + 3ЕМР) | _ | |||
| D | ± (0,7 % Dизм + 100/Lx +5ЕМР) | ||||||
| 200 Гн | 10 мГн | L | ± (1 % Lизм + 3ЕМР) | После кали-бровки ХХ | |||
| D | ± (2 % Dизм + 100/Lx +5ЕМР) | ||||||
| 2000 Гн | 100 мГн | L | Не нормируется | _ | |||
| D | Не нормируется |
Примечания:
- Погрешности нормируются для тангенса угла потерь D < 0,5.
- Lизм и Dизм - значения индуктивности и тангенса, отображаемые на ЖКИ с учетом единиц измерения.
3. Lx - цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мГн; тогда, Lизм=18,888 мГн, Lx=18888.
ПРИЛОЖЕНИЕ 2
ПРИМЕРЫ РАСЧЕТА ПОГРЕШНОСТЕЙ
Пример 1.
На пределе измерения сопротивления 20 Ом при частоте сигнала 120 Гц прибор индицирует 1,8362 Ом. Из табл. п.1 видно, что на этом пределе разрешение 1 мОм, значит, 5 ЕМР равно 0,005 Ом. Определяем, что абсолютная погрешность измерения составит
D = ± (0,02 × 1,8362 + 0,005) = ±0,041724 Ом » ± 0, 042 Ом.
Относительная погрешность равна
d = ±( 0,42/ 1,8362) × 100 % = ± 2,3 %
Пример 2.
Измерение сопротивления кабеля дало значение Rк = 0,035 Ом. Тогда, с учетом поправки на сопротивление кабеля результат измерения составит
Rпопр = 1,8362 - 0,035 = 1,8012 Ом.
Итак, Rпопр » (1,800 ± 0, 042) Ом.
Пример 3.
На пределе измерения емкости 2000 пФ при частоте сигнала 1000 Гц прибор индицирует 1218,5 pF. Из табл. п.2 определяем, что на этом пределе разрешение 0,1 pF , значит, 5 ЕМР равно 0,5 pF. Абсолютная погрешность измерения составит
D = ± (0,01 × 1218,5 + 0,5) = ±12,685 pF » ± 13 pF.
Относительная погрешность равна
d = ±(13/ 1218,5) × 100 % = ± 1,1 %
Пример 4.
Измерение емкости кабеля дало значение Cк = 23 pF. Тогда, с учетом поправки на Cк = 23 pF результат измерения: Cпопр= 1218 -23 = (95 ± 13) F.
Пример 5.
Получены следующие результаты при измерении емкости на частоте 1000 Гц:
· Для последовательной схемы замещения:
Сs =2,152 мкФ, Rs = 82,81 Ом, Q =0,8918, D = 1,121;
· Для параллельной схемы замещения:
Сp = 0,954 мкФ, Rp =148,6 Ом, Q =0,8918, D = 1,121.
Проверим соотношения 5 и 6:
Rs =Rp/(1+ Q2) = 148,6 / (1+0,89182) = 82,77 Ом,
Cs = Cp (1 + 1/Q2) = 0,954 (1+ 1/0,89182) = 2,153 мкФ.
В соответствии с табл. п.2
DС = ±(0,007×2,152 мкФ + 3×0,001) = ±0,018 мкФ,
DD = ±(0,007×1,121 +100/2152+5×0,001) = ± 0,059.
Из оценки погрешностей измерения Cs видно, что соотношения 5 и 6выполняются в пределах допустимых погрешностей.