Некоторые наиболее часто встречающиеся ошибки.
Пример 1: Пусть
Результат вычислений х записан с избыточной точностью. Количество цифр в ответе не должно превышать наименьшее число значащих цифр, среди чисел подставляемых в рабочую формулу. (Значащими цифрами являются все цифры в десятичном изображении, кроме нулей, стоящих в начале числа). В данном случае наихудшая точность у Правильно будет записать Пример 2: При измерениях диаметра цилиндра штангельциркулем получено:
В третьей записи ошибка, правильно При вычислении среднего записано:
Правильная запись: Пример 3: Итоговый результат записан в виде Неверная запись. Правильно Погрешность округляется до одной значащей цифры. Последняя значащая цифра результата должна иметь тот же порядок величины, что и погрешность.
|
;
; 
; 
.
.!
– 3 значащие цифры.
.
мм, 
мм, 
мм.!
мм, т.к. штангельциркуль позволяет проводить измерения с точностью до десятой доли миллиметра. (В результатах измерений записывают все цифры, которые показывает прибор, даже если эти цифры нули)
мм.!
мм, необходимо округлять до трех значащих цифр, в соответствии с точностью проведенных измерений. (В результатах вычислений записывают все точно известные цифры и одну известную не совсем верно. В приведённом примере точно известными нужно считать первые две цифры 1 и 3, т.к. они повторяются во всех измерениях).
мм.!
мм.
