Метод наименьших квадратов. Комментарий. Восстанавливая траектории комет по на­блюдениям, Лежандр (1806 г.) и Гаусс (1809 г.) поставили и решили задачу нахождения значений параметров

Комментарий. Восстанавливая траектории комет по на­блюдениям, Лежандр (1806 г.) и Гаусс (1809 г.) поставили и решили задачу нахождения значений параметров , связывающих набор экспе­риментальных данных , полученных с неиз­бежными систематическими и случайными ошибками. Естественно, надо провести как можно большее число измерений, то есть , где число независимых параметров. Функция, свя­зывающая экспериментальные данные , известна априори, как и результаты измерений и _. Причём каждое измерение да­вало линейное соотношение между ними вида . Необходимо найти зна­чения параметров . Это типичная не­корректная задача. Идея её решения состояла в том, чтобы определить решениекак такое, кото­рое минимизирует сумму квадратов отклонений всех измерений, то есть квадратичный функцио­нал невязки . Тогда .

Пример. Пусть проведено 5 измерений и зависимость между ними задана таблицей.

, , ,

.

Тогда уравнение прямой имеет вид .

Если связать эту задачу с предыдущим при­мером, то мы получим линейную оболочку и задача ставится так: найти проекцию вектора на линейную оболочку то есть псевдорешение. , = {6,1; 7,1; 6,6; 4,6; 5,1} a₁ = {1,2,3,4,5}, a₂ = {1,1,1,1,1}.

Пусть теперь . Тогда . Этот метод называется методом наименьших квадратов или методом не­вязки.

Пример. Получить псевдорешение системы:

Составим матрицу Грама. , где .

Тогда правая часть получившейся СЛАУ (31,91; 245,28), а решение имеет вид .