Общая задача приближения по методу наименьших квадратов.

Пусть - заданная на отрезке [a,b] система линейно независимых и непрерывных функций.

Обобщенным полиномом m-й степени P_m(x) будем называть выражение следующего вида:

(7)

где a₀, a₁, a₂, …, a_m – произвольные постоянные.

Дадим обобщение результатов предшествующих двух пунктов в применении к приближению в смысле среднеквадратического при помощи обобщенных полиномов. При этом мы ограничимся случаем непрерывного аргумента (промежутка), так как случай ряда дискретных точек может быть рассмотрен по аналогии.

Ставим следующую задачу.

Требуется подобрать такие значения коэффициентов a₀, a₁, a₂, …, a_m в обощенном полиноме (7), чтобы интеграл

(8)

т.е.

принял наименьшее значение.

Приравнивая нулю частные производные интеграла I по всем a_k получим следующую систему уравнений:

 

или

 

(9)

Систему (9) можно записать в компактном виде:

(10)

где введем следующие обозначения:

(11)

Определитель системы (9) запишем в виде:

(12)

Определитель (12) есть определитель Грамма. Следовательно, , т.к. система линейно независима. Т.о., система (9) имеет и притом единственное решение a₀, a₁, a₂, …, a_m, которое очевидно, и будем давать наименьшее значении интегралу I.

Система (9), а также вычисления, связанные с ее решением значительно упрощаются, в том случае, когда система функций ортогональна на отрезке [a,b], то есть имеют место равенства:

при . (13)

Система (9) в этом случае дает:

. (14)

Числа a_k, определяемые по формуле (14), называются коэффициентами Фурье функции f(x) относительно ортогональной системы функций .

В качестве примера ортогональной системы функций можно указать систему тригонометрических функций 1, cos x, sin x, cos 2x, sin 2x, …, cos mx, sin mx, ортогональную на отрезке , так как интегрированием легко показать справедливость следующих равенств:

(15)

Отметим, что по аналогии со случаем приближения при помощи степенных многочленов в некоторых случаях вместо интеграла (8) рассматривают интеграл более общего вида:

при (16)

где - функция, такая же, как и в (6^’).

Система функций в этом случае, как правило, выбирается ортогональной с весом , то есть

при (17)

Коэффициенты обобщенного полинома будут определяться равенствами:

(18)

 

При приближении функции по способу наименьших квадратов в качестве системы функций часто выбирают систему специальных ортогональных полиномов, как, например, полиномы Лежандра, полиномы Чебышева, полиномы Якобы и т.д.

В этих случаях обощенный полином P_m(x) в конечном счете сводится к обыкновенному степенному полиному.

В качестве примера рассмотрим случаи полиномов Лежандра и полиномы Чебышева.

n-й полином Лежандра модно определить следующей формулой:

(19)

Полагая n=0,1,…,5 получим первые шесть полиномов Лежандра:

(20)

Используя формулу (19), интегрированием по частям можно убедиться в справедливости равенств:

(21)

Таким образом, полиномы Лежандра образуют ортогональную систему полиномов на отрезке [-1;1].

Полиномы Чебышева T_n(x) определяется равенством:

(22)

где (целое).

По формуле (22) получим первые шесть полиномов Чебышева:

(23)

Непосредственным подсчетом можно убедиться, что:

при

(24)

т.е. полиномы Чебышева образуют на отрезке [-1;1] ортогональную систему полиномов с весом

Пример. Требуется аппроксимировать функцию на отрезке [-1;1] полиномом четвертой степени с весом а также с весом .

Для аппроксимации с весом полином P₄(x) берем в виде линейной комбинации из первых пяти полиномов Лежандра:

где a_k согласно (14) и (21) определяются равенствами:

Подставляя сюда многочлены L_k(x) из (20), непосредственным подсчетом получаем:

Для аппроксимации с весом берем полином P₄(x) в виде линейной комбинации из первых пяти полиномов Чебышева:

Коэффициенты a_k согласно (14) и (24) определяются равенствами:

Подставляя сюда T_k(x) из (23), получаем:

и

Отметим, что приближение, получаемое с помощью полиномов Чебышева, учитывает, в большей степени значения приближаемой функции у концов отрезка [-1;1]; а приближение, получаемое с помощью полиномов Лежандра, учитывает все значения приближаемой функции в промежутке [-1;1] в одинаковой степени.