Элементы техники вычислений

По своей природе числа бывают точными и приближёнными; в геодезических вычислениях большинство чисел являются приближёнными. Правильная запись приближённого числа несёт информацию не только о величине числа, но и о его точности; считается, что записанное приближённое число ошибочно не более, чем на половину единицы последнего разряда. Например, число 3,24 ошибочно не более чем на 0,005.

Все цифры числа кроме нулей слева являются значащими цифрами; например:

2,145 - 4 значащих цифры;

0,004147 - 4 значащих цифры;

40,00 - 4 значащих цифры.

При записи очень большого или очень маленького числа с ограниченной точностью рекомендуется использовать степень числа 10; например, число 2,47 ^. 10⁶ имеет три верных значащих цифры; число 0,45 ^. 10^-7 – две верных значащих цифры. Верными значащими цифрами числа считаются те цифры, значение которых больше ошибки этого числа.

Количество верных значащих цифр результата умножения, деления, возведения в целую степень и извлечения целого корня определяется наименьшим количеством значащих цифр в исходных числах:

2,457 ^. 0,62 = 1,52334 = 1,5

(4) (2) (2 верных значащих цифры);

2,457: 0,62 = 3,96290 = 4,0

(4) (2) (2 верных значащих цифры);

2,45² = 6,0025 = 6,00

(3) (3 верных значащих цифры);

= 1,5652 = 1,57

(3) (3 верных значащих цифры).

При выполнении этого правила применяется округление приближённых чисел, которое предусматривает, что:

- если первая отбрасываемая цифра больше 5 или 5 с последующими цифрами не равными нулю, то последняя оставляемая цифра увеличивается на единицу (2,461 ≈ 2,5; 2,4503 ≈ 2,5);

- если первая отбрасываемая цифра меньше 5, то последняя оставляемая цифра не изменяется (2,441 ≈ 2,4);

- если первая отбрасываемая цифра есть 5 и за ней либо нет цифр, либо есть одни нули, то последняя оставляемая цифра округляется до ближайшей чётной цифры (2,55 ≈ 2,6; 2,65000 ≈ 2,6).

При сложении и вычитании приближённых чисел количество верных десятичных знаков в ответе определяется наименьшим количеством десятичных знаков в исходных числах:

206,8 + 21,385 + 0,2751 = 228,4601 = 228,5

(1) (3) (4) (1 верный десятичный знак).

Если в задаче более одной операции, то в результатах промежуточных операций рекомендуется оставлять одну запасную цифру.