Правила округления чисел.

В результате обработки измерений всегда получается приближенное значение измеряемой величины, точность которого определяется только погрешностью, допущенной в процессе измерения, и никакими расчетами нельзя повысить эту точность. Поэтому окончательный результат обработки измерения с точки зрения количества значащих цифр должен соответствовать точности, полученной в процессе измерения.

При численной записи окончательного результата придерживаются следующих правил.

1. В погрешности оставляют только первую значащую цифру. Если же первая значащая цифра - единица, то допускается записывать две значащие цифры, а остальные отбрасываются с округлением в большую сторону.

2. Среднее значение измеренной величины округляется в соответствии со значением погрешности. Правила округления - обычные.

Округлением числа называется уменьшение числа значащих цифр. Правила округления сводятся к следующему:

- если отбрасывается цифра меньше 5, то предпоследняя цифра оставляется без изменения: 1.9932 1.993;

- если отбрасывается цифра больше 5, то предпоследняя цифра увеличивается на единицу: 1.9937 1.994;

- если отбрасывается цифра 5, то предпоследняя цифра должна остаться или стать четной: 1.9935 1.994.

Рассмотрим пример. В качестве условий проведения опыта указано Р = 30 000 бар. Если все эти цифры значащие, то нули обозначают отсутствие единиц соответствующих разрядов, другими словами, мы ручаемся за то, что точность нашего измерения давления не хуже ± 1 бар. На самом деле это далеко не так: точность ниже на три порядка. Поэтому приведенная запись неверна, она создает совершенно ложное представление о точности эксперимента. Правильной записью будет 30 x 10³ бар или 30 кбар. В такой записи только две значащие цифры, и последняя из них соответствует реальной точности эксперимента. Другой пример. В результате серии измерений определена плотность ρ= 13.60 г / cм ³. В этой записи 4 значащие цифры, т.е. плотность измерена с точностью до единицы во втором знаке после запятой - до ± 0.01 г/ cм³ . Если бы реальная точность составляла только ± 0.1 г/см³, правильной записью было бы 13.6 г/см³. Пусть, однако, при реальной точности ± 0.01 г / см³ шкала измерительного прибора позволяет получать значение в следующем разряде (тысячные доли г/см³). Как поступить с этими значениями? Очевидно, что просто отбросить их было бы неверно, ибо значения, например, 13.615 и 13.605 г/см³ заметно отличаются. Такие цифры (в данном случае 0.00n г/см³) называются сомнительными; это значит, что n может принимать любое значение в пределах от 1 до 10. При записи результатов можно поступать двояко: а) отбрасывать все сомнительные цифры, б) оставлять последней сомнительную цифру. Например, число 1.9931 (0.0031 - сомнительные цифры) записывается в первом варианте как 1.99, а во втором - 1.993 (сохраняя последнюю сомнительную цифру 3).

В приведенных примерах мы провели округление результата.

Запись надо вести так, чтобы все значащие цифры были верны, и лишь последняя была бы сомнительной:

не Д = 1.4231 ± 0.005, а 1.413 ± 0.005,

не Р = 38.742 ± 0.04, а 38.74 ± 0.04.

Примеры записи результата:

v = (210 ± 8) м/c

или v = (2,10 ± 0,08)^.10² м/с - стандартная форма.

Следует помнить, что нули, стоящие в последних разрядах, есть значащие цифры. Так, числа 2,10 и 2, 10000 не равнозначны по своей точности.