Точность записи результатов измерения

Точность записи (число значащих цифр) отдельных измерений и последующих вычислений при их обработке должна быть согласована с необходимой точностью результата измерения. Здесь рекомендуется придерживаться следующих правил.

1. Если первая из заменяемых нулями или отбрасываемых цифр больше или равна 5, но за ней следует отличная от нуля цифра, то последнюю оставляемую цифру увеличивают на единицу.

Пример.

8,3351 (округлить до сотых) ≈ 8,34;

0,2510 (округлить до десятых) ≈ 0,3;

271,515 (округлить до целых) ≈ 272.

2. Если первая (слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, то оставшиеся цифры не изменяют. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают.

Пример.

При сохранении четырех значащих цифр число 283435 должно быть округлено до 283400; число 384,435 – до 384,4.

3. Число цифр в результатах промежуточных расчетов обычно должно быть на одну больше, чем в окончательном результате. Погрешности при промежуточных вычислениях должны быть выражены не более чем тремя значащими цифрами.

4. Округлять результат измерения следует так, чтобы он оканчивался цифрой того же разряда, что и значение погрешности. Если десятичная дробь в числовом значении результата измерения оканчивается нулями, то нули отбрасывают только для того разряда, который соответствует разряду погрешности.

Пример.

Число 0,67731 при погрешности ± 0,005 следует округлять в третьей значащей цифре до значения 0,677.

5. Вычисление погрешности измерений также не следует производить с большей точностью, чем вычисление значения самой измеряемой величины.