Возникновение вычислительных погрешностей

 

При решении задач на ЭВМ возникают так называемые вычислительные погрешности. Они обусловлены округлением чисел при записи и при выполнении арифметических операций.

Рассмотрим представление чисел в ЭВМ, которая работает, как правило, в двоичной системе, когда любое число записывается в виде последовательности нулей и единиц. Пусть x – действительное число. Его можно записать в двоичной системе с плавающей запятой:

 

(1)

 

где параметр p определяет порядок числа, а параметр t – количество значащих цифр в числе. Порядок чисел, представимых в ЭВМ, ограничен сверху и снизу, т.е.

 

 

где – машинный ноль, – машинная бесконечность.

 

Все вещественные числа, которые могут быть представлены в данной ЭВМ, расположены по абсолютной величине в диапазоне от M₀ до M_¥. Если в процессе счета появится вещественное число, меньшее по модулю чем M₀, то ему присваивается нулевое значение. При появлении в процессе счета вещественного числа, большего по модулю, чем M_¥, происходит так называемое переполнение разрядной сетки, после чего ЭВМ прекращает счет задачи.

Абсолютная погрешность записи числа с плавающей запятой (1) не больше единицы последнего разряда, т.е.

 

 

Из этого соотношения получим относительную погрешность представления

(1) чисел в ЭВМ:

 

 

То есть, предельная относительная погрешность представления действительных чисел в ЭВМ зависит только от значения t – числа разрядов, отведенных под мантиссу в записи числа. Чем больше t, тем точнее представление чисел.

 

При выполнении арифметических действий на ЭВМ одна арифметическая операция

вносит относительную погрешность не более чем 2^–t.