Алгоритм статистического градиента
Все параметры и начальные действия такие же, как в предыдущем алгоритме. Отличие состоит в выборе направления движения. Оно определяется с учетом всех разыгранных направлений: каждый компонент вектора у вычисляется по формуле Новая точка находится перемещением на рабочий шаг h в направлении статистического антиградиента: Поиск завершается при выполнении условия Эффективность рассмотренных алгоритмов можно повысить за счет незначительных изменений их отдельных элементов или шагов. Так, при успешном шаге можно продолжать шаги в найденном направлении до тех пор, пока функция улучшается (использование идеи одномерной минимизации). Их эффективность выше вдали от экстремума и снижается по мере приближения к нему, так как падает вероятность выпадения удачных направлений. Целесообразность применения случайного поиска возрастает с увеличением числа переменных, а при средней и большой размерности он становится практически безальтернативным. В отличие от методов, использующих производные, алгоритмы случайного поиска, как и прямые методы, могут применяться в условиях помех (погрешностей вычислений).
|
. Направление y называется статистическим градиентом. В пределе (m à¥) он стремится к градиенту Ñ; f. Но определение y требует меньше вычислений, чем Ñ; f, и тем в большей степени, чем сильнее неравенство m < n.
.
.
или 
