Правила округления. Ввиду наличия погрешностей измерений не имеет смысла проводить излишне точные вычисления

Ввиду наличия погрешностей измерений не имеет смысла проводить излишне точные вычисления. Вычисления должны проводиться лишь с такой точностью, которая не увеличивает погрешность измерений, не более того. С учетом этого вводятся правила округления при проведении вычислений.

Окончательный результат лабораторной работы (результат косвенного измерения) рекомендуется округлять следующим образом.

1. В относительной погрешности оставить две значащие цифры. Пример: δR = 0,12.

2. В абсолютной погрешности оставить одну значащую цифру. Пример: ΔR = 0,03 кОм.

3. У среднего значения последняя значащая цифра должна находиться

в том же десятичном разряде, что и значащая цифра абсолютной погрешности. Пример: Ом.

Промежуточные вычисления делают с одной дополнительной

значащей цифрой, что дает возможность точнее округлить окончательный результат. В частности, абсолютные погрешности прямых измерений следует вычислять с двумя значащими цифрами. Промежуточные расчеты физических величин можно рекомендовать выполнять с четырьмя значащими цифрами; такой точности достаточно для всех лабораторных работ, но для большинства работ достаточно и трех значащих цифр.

ЛИТЕРАТУРА

[1] А. Н. Зайдель Погрешности измерений физических величин. Изд-во «Наука», Ленинград, 1985.

[2] Р. М. Пилосян Обработка результатов измерений. Изд-во ЛЭИС, Ленинград, 1979.