Методы оптимизации

Объект исследования: методы оптимизации как раздел математики.
Предмет исследования: методы оптимизации первого порядка (градиентные методы) и второго порядка: методы Ньютона и Ньютона- Рафсона.
Цель работы: изучить вопросы отыскания экстремума функции нескольких переменных, а также рассмотреть алгоритмы численных методов отыскания безусловного экстремума.
Задачи, решаемые в работе:
1. Изучить теорию нахождения безусловного и условного экстремумов функции нескольких переменных;
2. Рассмотреть задачи минимизации функции нескольких переменных;
3. Изучить численные методы решения задач поиска безусловного минимума функции.

Введение………………………………………………………………………
Глава I. Задача отыскания экстремума функций многих
переменных…............................................................................................
§1. Функция многих переменных………………………………………….
1.1 Необходимые условия экстремума…………………………….
1.2 Необходимые условия второго порядка. Достаточные
условия……………………………………………………………….
§2. Относительный экстремум. Метод множителей Лагранжа…………
2.1 Метод исключения………………………………………………
2.2 Метод множителей Лагранжа………………………………….
2.3 Седловая точка функции Лагранжа……………………………..
Глава II. Численные методы отыскания безусловного экстремума…….
§1. Методы первого порядка (градиентные методы)……………………..
1.1 Метод градиентного спуска с постоянным шагом……………
1.2 Метод наискорейшего градиентного спуска………………….
1.3 Метод покоординатного спуска……………………………….
§2. Методы второго порядка………………………………………………
2.1 Метод Ньютона………………………………………………….
2.2 Метод Ньютона-Рафсона……………………………………….
Заключение……………………………………………………………………
Литература…………………………………………………………………….