Классификация поисковых методов оптимизации

Различают методы безусловной и условной, локальной и глобальной оптимизации. Подавляющее большинство методов позволяет найти безусловный локальный экстремум.

1) Метод сканирования.

Находим max F(X); объём вычислений k^N

С помощью локальных методов с высокой степенью надёжности можно определить глобальный экстремум, если его область притяжения составляет не менее нескольких процентов от объёма всей области Х Д. Для этого следует несколько раз повторить локальный поиск с различных случайно выбранных исходных точек.

 

Методы оптимизации классифицируются по способу выбора направления очередного шага.

 

В методах первого порядка используется информация о первых производных целевой функции по управляемым параметрам.

В методах второго порядка используется информация о вторых производных.

В методах нулевого порядка учитываются лишь значения целевой функции.

Методы нулевого порядка.

1) Метод покоординатного спуска или Метод Гаусса – Зейделя

min F(X);

X₀ € X П

 

Минимум целевой функции в области протяжения.

Х ₀ – начальная точка поиска.

В методе Гаусса – Зейделя поиск совершают в направлении координатных осей.

h_нач – начальная величина шага поиска.

Для поиска минимума используются методы одномерной оптимизации.