Необходимые и достаточные условия экстремума

В классическом методе используется безусловная оптимизация, когда известно аналитическое выражение целевой функции F(X) и она не менее чем дважды дифференцируема по управляемым параметрам.

Разложим F (X) в ряд Тейлора в окрестности экстремальной точки Х`.

F(X) = F (X `) + ∂F/∂x₁∆x₁ + ∂F/∂x₂ ∆x₂ + … + ∂F/∂x_n ∆x_n + ½! (∂²F/∂x₁²∆x²₁ +

+∂²F/∂x₁∂x₂ ∆x₁∆x₂+ … + ∂²F/∂x_n² ∆x_n²) +...,

где ∆x_i = x_i -x_i`

∂F/∂x_k – первая производная по x_k.

 

X ₁ – X ₁`

∆ Х = Х – Х ` = X <sub>2</sub> – X <sub>2</sub>` - вектор столбец.

X ₃ – X ₃`

∆ X ^t – матрица строка (X ₁ – X ₁`; X <sub>2</sub> – X <sub>2</sub>`;…; X _n – X _n`)

∂²F/∂x₁²; ∂²F/∂x₁∂x₂; ….∂²F/∂x₁∂x_n

∂²F/∂x₁∂x₂; ∂²F/∂x₂²;……. ∂²F/∂x₂∂x_n

∂²F/∂ X ²= Ю = …………………………………………. – матрица Гессе.

∂²F/∂x₁∂x_n; ∂²F/∂x₂∂x_n;… ∂²F/∂x_n²

 

F(X) = F(X`) + ∂F/∂ X* ∆ X + 1/2 ∆ X ^t * ∂²F/∂ X ² *∆X + …

F (X) – F(X `) < 0 – условие максимума.

Может выполняться только при ∂F/∂ X = grad F = 0 – необходимое условие экстремума.

Точки, в которых выполняется необходимое условие экстремума называются стационарными.

∆ X ^t * ∂²F/∂ X ² *∆ X < 0

Матрица Гессе Ю, удовлетворяющую данному условию при любых ∆ Х называют отрицательно определенной матрицей.

Следовательно, отрицательная определённость матрицы Гессе является достаточным условием максимума.

 

∆ X ^t * ∂²F/∂ X ² *∆ X > 0

Соответственно матрицу Гессе, удовлетворяющую данному условию, называют положительно определённой.

Положительно определённая матрица Гессе достаточное условие min.

 

Седловая точка – это точка, в которой достаточные условия не выполняются, т.е. нет не максимума, не минимума.

 

Метод неопределённых множителей Лагранжа

Применяется для нахождения условного максимума при известных аналитических выражениях целевой функции и ограничений.

Рассмотрим случай ограничений типа равенств.

Запишем функцию Лагранжа:

Ф (Х; Λ;) = F(X) + Λ; * Ψ;(Х) = F(X) + ∑λ_kψ_k(X), где Λ; – Вектор неопределённых множителей Лагранжа.

Если Х € Х Д

то выполняются ограничения и

Ψ;(Х) = 0

^{Х € Х Д}

Ф (Х; Λ;) =F(X)

Х € Х Д

Найдем максимум Ф (Х; Λ;):

_p

∂ Ф (Х; Λ;)/∂ Х = ∂F(X)/∂ X + ∑ λ_k ^∂Ψ^k(X)

^{k=1 ∂X}

∂ Ф (Х; Λ;)/∂ Λ; = Ψ;(Х) = 0.

Метод неопределённых множителей Лагранжа может быть распространён и на задачи с ограничениями типа неравенств.