Оценка точности результата наблюдения
Для оценки точности результата наблюдения служит среднее квадратическое отклонение результата наблюдения
. Квадрат этой величины, т.е.
называется рассеянием или дисперсией результата наблюдения и обозначается обычно символом D.
Так как число наблюдений, конечно, то можно найти только приближенное значение
или оценку этого отклонения по формуле:
(1.41)
где
– число наблюдений;
– значение величины, полученное при i-м наблюдении;
– результат измерения (среднее арифметическое значение, математическое ожидание).
Для получения полного представления о точности и надежности оценки случайного отклонения результата наблюдения должны быть указаны доверительные границы, доверительный интервал и доверительная вероятность.
При известном
доверительные границы указывают следующим образом: нижняя граница
или
верхняя граница
или
(сокращено
), за пределы которых с вероятностью Р = 0,683 (или 68.3%) не выйдут значения случайных отклонений
или результатов отдельных наблюдений
ряда измерений. Доверительный интервал выражается в виде:

В зависимости от целей измерения могут задаваться и другие доверительные границы:
или
и
или 
Значения tp для наиболее употребительных доверительных вероятностей при n→∞ приведены в таблице 1.
Таблица 1.1 – Значения tp для различных вероятностей при n→∞
| Доверительная вероятность | Рд | 0,683 | 0,9 | 0,95 | 0,98 | 0,99 | 0,9973 |
| Значение tp | tp | 1,000 | 1,645 | 1,960 | 2,330 | 2,580 | 3,000 |
В инженерной практике предпочтение отдается доверительной вероятности Рд = 0,95 или 0,9973, т.е. для интервалов
или
.