Правила округления чисел.В результате обработки измерений всегда получается приближенное значение измеряемой величины, точность которого определяется только погрешностью, допущенной в процессе измерения, и никакими расчетами нельзя повысить эту точность. Поэтому окончательный результат обработки измерения с точки зрения количества значащих цифр должен соответствовать точности, полученной в процессе измерения. При численной записи окончательного результата придерживаются следующих правил. 1. В погрешности оставляют только первую значащую цифру. Если же первая значащая цифра - единица, то допускается записывать две значащие цифры, а остальные отбрасываются с округлением в большую сторону. 2. Среднее значение измеренной величины округляется в соответствии со значением погрешности. Правила округления - обычные. Округлением числа называется уменьшение числа значащих цифр. Правила округления сводятся к следующему: - если отбрасывается цифра меньше 5, то предпоследняя цифра оставляется без изменения: 1.9932 - если отбрасывается цифра больше 5, то предпоследняя цифра увеличивается на единицу: 1.9937 - если отбрасывается цифра 5, то предпоследняя цифра должна остаться или стать четной: 1.9935 Рассмотрим пример. В качестве условий проведения опыта указано Р = 30 000 бар. Если все эти цифры значащие, то нули обозначают отсутствие единиц соответствующих разрядов, другими словами, мы ручаемся за то, что точность нашего измерения давления не хуже ± 1 бар. На самом деле это далеко не так: точность ниже на три порядка. Поэтому приведенная запись неверна, она создает совершенно ложное представление о точности эксперимента. Правильной записью будет 30 x 103 бар или 30 кбар. В такой записи только две значащие цифры, и последняя из них соответствует реальной точности эксперимента. Другой пример. В результате серии измерений определена плотность ρ= 13.60 г / cм 3. В этой записи 4 значащие цифры, т.е. плотность измерена с точностью до единицы во втором знаке после запятой - до ± 0.01 г/ cм3 . Если бы реальная точность составляла только ± 0.1 г/см3, правильной записью было бы 13.6 г/см3. Пусть, однако, при реальной точности ± 0.01 г / см3 шкала измерительного прибора позволяет получать значение в следующем разряде (тысячные доли г/см3). Как поступить с этими значениями? Очевидно, что просто отбросить их было бы неверно, ибо значения, например, 13.615 и 13.605 г/см3 заметно отличаются. Такие цифры (в данном случае 0.00n г/см3) называются сомнительными; это значит, что n может принимать любое значение в пределах от 1 до 10. При записи результатов можно поступать двояко: а) отбрасывать все сомнительные цифры, б) оставлять последней сомнительную цифру. Например, число 1.9931 (0.0031 - сомнительные цифры) записывается в первом варианте как 1.99, а во втором - 1.993 (сохраняя последнюю сомнительную цифру 3). В приведенных примерах мы провели округление результата. Запись надо вести так, чтобы все значащие цифры были верны, и лишь последняя была бы сомнительной: не Д = 1.4231 ± 0.005, а 1.413 ± 0.005, не Р = 38.742 ± 0.04, а 38.74 ± 0.04. Примеры записи результата: v = (210 ± 8) м/c или v = (2,10 ± 0,08).102 м/с - стандартная форма. Следует помнить, что нули, стоящие в последних разрядах, есть значащие цифры. Так, числа 2,10 и 2, 10000 не равнозначны по своей точности.
|
1.993;
