Правила округления чисел при измерении физических величин

Числовые значения величин, полученные в результате измерений и используемые в дальнейших расчетах, всегда являются приближенными.

В общем случае в начале приближенного числа записываются нули, показывающие его порядок, далее следуют разряды, в которых занесены верные цифры, и в младших разрядах содержатся сомнительные (запасные) цифры.

Верными называются цифры, если абсолютная погрешность числа не превышает половины единицы разряда, в котором записана рассматриваемая цифра. Цифры, для которых данное условие не выполняется, то есть соизмеримые с погрешностью, называются сомнительными.

В некоторых источниках верными считают цифры, для которых абсолютная погрешность числа не превышает единицы разряда, где записывается рассматриваемая цифра.

В данной работе для выделения верных цифр будет использоваться первое определение.

Примеры:

а) на микрокалькуляторе получено sin 45˚ = 0, 707106. В этом числе все цифры верны (ноль в начале числа указывает его порядок), за исключением цифры 6, записанной в младшем разряде, так как погрешность микрокалькулятора в данном случае достигает единицы младшего разряда;

б) на микрокалькуляторе определено, что 3⁴ = 80, 99963. В этом числе сомнительными являются цифры в двух младших разрядах, то есть 63, так как погрешность микрокалькулятора при вычислении может достичь пяти единиц предпоследнего разряда;

в) по измеренному объему был найден диаметр шара d = 25, 4087мм. Абсолютная погрешность измерения Δ d = 3мм. Следовательно, в числе, характеризующем диаметр, верной будет только цифра 2, указывающая число десятков, а все остальные — сомнительными.

Приближенные числа необходимо округлить в соответствии с нижеуказанными правилами.

При округлении числа цифры в младших разрядах заменяются нулями или отбрасываются, если они стоят в конце десятичной дроби. При этом, если отбрасываемая (заменяемая нулем) цифра больше или равна 5, то цифра в соседнем старшем разряде увеличивается на 1. Если же отбрасываемая цифра меньше 5, то цифра в соседнем старшем разряде не изменяется. Например, 3, 141 592 3, 14; 9, 81 9, 8 10; 4, 186 05 4, 19 4, 2.

В числе, характеризующем измеряемую величину, при округлении сохраняются все верные цифры и ближайшая к ним сомнительная (некоторые из них могут быть равны нулю). При этом разряд, в котором записана сомнительная цифра, соответствует старшему разряду числа, представляющего удвоенную абсолютную погрешность измерения. Если абсолютная погрешность точно равна половине единицы какого-либо разряда, то цифра в этом разряде является верной, а в соседнем младшем — сомнительной.

Так, в примере:

d = 25, 408 7 = 25мм,

в случае, если абсолютная погрешность измерения диаметра Δ d = 0, 6мм. При меньшей погрешности Δ d = (0, 1–0, 5)мм, d = 25, 4мм.