Курсовая работа: Прямой поиск без ограничений. Метод поиска Хука-Дживса для функции Розенброка

В процессе оптимизации многомерных функций актуальны методы, позволяющие эффективно находить экстремумы, особенно в случае сложных ландшафтов. Одним из таких методов является алгоритм, названный в честь своих разработчиков — Хука и Дживса. Этот метод, являясь комбинированным, сочетает в себе элементы прямого поиска и локальной оптимизации, что делает его особенно полезным для задач с нелинейными целевыми функциями.

В качестве примера исследования можно рассмотреть функцию Розенброка, которая часто используется в качестве тестовой задачи для алгоритмов оптимизации. Эта функция характеризуется узкой, изогнутой "долиной" минимума, что делает ее сложной для поиска. Метод Хука-Дживса делится на две основные стадии: сначала выполняется исследование в направлении, выбранном по результатам предыдущих шагов, а затем осуществляется шаг в сторону, перпендикулярную направлению, чтобы уточнить найденное решение.

Прямой поиск без ограничений позволяет обойтись без явного задания границ поиска, что упрощает задачу. Однако это также требует определенного подхода к определению шагов и направления движения в пространстве параметров. Эффективное использование этого метода можно проиллюстрировать на примере минимизации функции Розенброка, где метод демонстрирует способность находить близкие к глобальному минимуму значения, несмотря на наличие локальных экстремумов.

Оптимизация алгоритма может включать адаптацию размеров шагов, что позволяет улучшить сходимость. Постепенное уменьшение шагов по мере приближения к минимуму может предотвратить "перепрыгивание" решением через край, обеспечивая стабильность.

Анализ эффективности метода Хука-Дживса на функции Розенброка показывает его потенциал в задачах оптимизации, где стандартные градиентные методы могут провалиться из-за геометрии решения. Этот подход продолжает оставаться актуальным, особенно в условиях повышенной сложности функциональных зависимостей. Непрерывное развитие методов и их адаптация под новые задачи подтверждает универсальность алгоритмов, в частности в области машинного обучения и математической оптимизации.