Теоретическое введение.

При обработке экспериментальных (или статистических) данных часто требуется проводить кривые заданного вида, проходящие поблизости от заданных точек.

Пусть мы имеем набор экспериментальных точек (x_i, y_i), i = 1, 2, …, m, причем x_i ¹ x_j при i ¹ j и значения y_i содержат ошибки измерения. Мы хотим через данные точки провести кривую F(x), которая является линейной комбинацией заранее выбранных базисных функций f_j (x), j = 1, 2, …, n. Другими словами,

.

 

Как правило, n << m. Коэффициенты c_j необходимо определить, выбрав определенный критерий для сравнения функций. Рассмотрим критерий, называемый методом наименьших квадратов [1]. Построим матрицу значений базисных функций в заданных точках

 

.

 

Матрица А, как правило, не будет квадратной матрицей. Пусть с – вектор из п искомых коэффициентов. Тогда можно построить вектор из т значений, через которые проходит данная кривая:

 

.

 

Потребуем, чтобы коэффициенты вектора c определялись минимумом «расстояния» между векторами y и у *, т.е. чтобы было выполнено условие

 

(1)

 

(отсюда и название метода).

Как правило, в литературе выводятся формулы для случая линейного и квадратичного приближения. Следуя [1], мы рассмотрим более общий алгоритм, пригодный для любого выбора базисных функций.

Чтобы найти минимум функции (1), необходимо продифференцировать ее по всем переменным с_к и приравнять соответствующие производные нулю. Тогда мы получим систему уравнений, которую можно записать в виде

 

, к = 1, 2, …, п.

 

Эту систему из п уравнений можно записать в виде матричного уравнения

 

(А с – у)^ТА = 0,

 

которое эквивалентно уравнению

 

А^Т(А с – у) = 0,

или

А^ТА с = А^Т у. (3)

 

Полученное уравнение в математической статистике называется нормальным уравнением. Очевидно, что матрица А^ТА является симметрической и, согласно теории матриц, если ее столбцы являются линейно независимыми, существует обратная матрица (А^ТА)^-1. Тогда решение системы (3) относительно неизвестного вектора с является единственным и выражается формулой

 

с = ((А^ТА)^-1А^Т) у = А⁺ у.

 

Матрица А⁺ = (А^ТА)^-1А^Т называется псевдообратной матрицей по аналогии с обратной матрицей для систем алгебраических линейных уравнений.

Вфайле Example находится пример построения приближения вида

 

F(x) = c ₁ + c ₂ x log₂ x + c ₃ e^x.

 

по точкам (1, 1), (2, 1), (3, 3), (4, 8), а также построен график функции F(x) и нанесены исходные точки. Очевидно, что в качестве базисных функций выбраны функции 1, x log₂ x, e^x.