- •Экзаменационные вопросы
- •1 Постановка задачи. Локальные и глобальные экстремумы
- •2 Задача максимизации функции
- •3 Необходимые и достаточные условия локального экстремума. Классический метод нахождения экстремумов функций
- •3.1 Классический метод
- •4 Метод деления отрезка пополам
- •5 Метод золотого сечения
- •5.1 Модификация метода золотого сечения
- •6 Симметричные методы
- •6.1 Постановка задачи об оптимальных методах
- •6.2 Оптимальный пассивный метод для задачи А (метод равномерного перебора)
- •6.3 Оптимальный последовательный метод для задачи А (метод Фибоначчи)
- •7 Метод ломаных
- •7.1 Описание метода ломаных
- •7.2 Сходимость метода ломаных
- •7.3 Определение константы L
- •7.4 Достоинства и недостатки метода ломаных
- •9 Линейные пространства
- •10 Постановка задачи минимизации
- •12 Численные методы безусловной минимизации
- •13 Общая схема градиентого спуска
- •13.1 Градиентые методы с дроблением шага
- •13.2 Метод наискорейшего спуска
- •13.3.1 О сходимости градиентого метода
- •13.4 Методы покоординатного спуска (для отыскания безусловного экстремума)
- •13.4.1 Метод покоординатного спуска без вычисления производных
- •13.4.2 Рекомендации по применению этого метода
- •14 Относительный (условный) экстремум
- •15.1 Метод исключения
- •15.3 Метод Лагранжа
- •17 Обобщенная функция Лагранжа
- •17.1 Обобщеный метод множителей Лагранжа
- •17.2 Единственность вектора Лагранжа для нормального оптимального плана
- •18 Общая задача математического программирования
- •19 Выпуклые множества
- •19.1 Выпуклые функции
- •20 Дифференциальные условия оптимальности в задаче математического программирования
- •21.2 Метод проекции градиента
- •21.3 Проекция точки на гиперплоскость
- •21.4 Проекция точки на аффинное множество
- •21.5 Проекция точки на шар
- •21.6 Проекция точки на замкнутое полупространство
- •21.8 Метод покоординатного спуска для отыскания условного экстремума
- •22 Метод штрафных ф-ий
- •22.1 Метод внешних штрафных функций
- •22.2 Метод барьерных функций
- •22.2.1 Описание метода барьерных функций (для решения задачи 6.1)
- •23 Общая задача ЛП и ее канонические формы
- •23.1.3 Переход к эквивалентой системе неравенств
- •23.1.4 Переход от задачи минимизации к задаче максимизации
- •24 Различные формы записи задачи ЛП
- •24.1 Развернутая форма задачи ЛП
- •24.2 Векторная форма
- •24.3 Матричная форма
- •24.4 План. Опорный план. Оптимальный план
- •25 Выпуклые многогранники
- •26 Геометрическая интерпретация задачи ЛП
- •26.1 Свойства решения задачи ЛП
- •26.2 Графический метод решения задачи ЛП
- •27 Симплексный метод решения задач ЛП
- •27.1 Построение опорных планов
- •27.2 Отыскание оптимального плана. Условия оптимальности
- •27.3 Алгоритм симплексного метода. Симплексная таблица
- •27.3.1 Правила заполнения таблицы
- •27.3.2 Анализ симплексной таблицыx
- •27.3.3 Переход к новому опорному плану
- •27.3.4 Замечание к решению задачи на максимум
- •28 Методы искусcтвенного базиса
- •28.1 Метод больших штрафов
- •28.2 Двухэтапный метод
- •29 Вариация и ее свойства
- •30 Уравнение Эйлера
- •31 Простейшие случаи интегрируемости уравнения Эйлера
15.3Метод Лагранжа
1. Составляется ф-я n + m переменных, которые называется ф-ей Лагранжа
m
L(x; ) = f(x) + P igi(x)
i=1
2. Вычисляется и приравниваются к нулю ее частные производные по x и
8m
|
@Lj = |
@f |
+ |
i @gii = 0 j = 1; 2; :::n |
|
|
j |
|
|||
< |
@L |
|
iP |
i = 1; 2; :::; m |
|
@ i = gi(x) = 0 |
|
||||
|
@x |
@x |
@x |
(2:7) |
|
|
|
=1 |
|
:
3. Решается система (2:7) из n + m относительно n + m неизвестных x1; :::; xn; 1; :::; m
16Достаточные условия локального экстремума при ограниченияхравенствах
Пусть пара fx ; g есть решение у-ния (2:7) и Якобиан (1:2) не равен 0. Рассмотрим приращение ф-и f(x) в точке x и близких к ней допустимых точках x + dx. Точки x и x + dx должны удовлетворять у-ниям связи (1:1) тогда приращение ф-и f(x) равно приращению ф-и Лагранжа (2:6)
|
|
|
|
n |
|
|
n n |
@2L |
|
|
||
|
|
|
|
@L |
j |
1 |
|
r j |
2 |
|||
f(x + dx) f(x ) = L(x + dx; ) L(x ; ) = |
jP(2:14) |
|
|
P P |
|
|
|
+ O(jdxj ) |
||||
|
=1 @xj (x ; )dx |
|
+ 2 r=1j=1 @xr@xj (x ; )dx dx |
|||||||||
Первое слагаемое правой части (2:14) равно 0, тогда |
|
|
|
|
|
|
|
|||||
|
n |
n |
|
@2L |
|
|
|
|
|
|
|
|
1 |
PjP |
|
r |
j |
|
2 |
|
|
|
|||
|
|
|
|
|
|
+ O(jdxj ) (2:15) |
|
|
||||
|
|
|
|
|
|
|
|
|||||
f(x + dx) f(x ) = 2 r=1 |
=1 @xr@xj (x ; )dx dx |
|
|
Так, как смещение dx из точки x не должно нарушать условие связи (1:1), то разложение ф-и gi(x) в ряд Тейлора в окрестности точки x приводит к равенству
n |
@2gi |
|
|
|
|
|
|
|
jP |
|
j |
+ O(jdxj |
2 |
) = 0 i = 1; 2; :::; m |
|||
|
|
|
|
|
||||
=1 @xr@xj (x )dx |
|
|||||||
Пренебрегая вторым слагаемым получим |
|
|
|
|
|
|||
|
|
n |
|
2gi |
|
|
|
|
|
jP |
@ |
|
j |
|
|
||
|
@xr@xj (x )dx |
= 0 (2:16) |
||||||
|
=1 |
|||||||
|
|
|
|
|
|
|
Достаточные условия экстремума однозначно связаны со знакоопределенностью квадратичной формы
n n |
@2L |
|
|
|
PjP |
r |
j |
|
|
@xr@xj (x ; )dx dx |
|
(2:17) |
r=1 =1
Поскольку Якобиан (1:2) отличен от 0, то из уравнений (2:16) можно вычислить дифференциалы независимых переменных. Подставляя соотвествующие выражения в (2:17) получим квадратичную форму относительно независимых приращений dxm+1; :::; dxn. По аналогии с теоремой о достаточных условиях безусловного экстремума заключаем: для того, чтобы в точке x был относительный локальный минимум, необходимо и достаточно, чтобы его квадратичная была положительно определенной.
17 Обобщенная функция Лагранжа
17.1Обобщеный метод множителей Лагранжа
Обобщенная ф-я Лагранжа для f(x) имеет вид
m
L(x; ) = 0f(x) + P igi(x) (2:18)
i=1
28
Она отличается от классической ф-и Лагранжа наличием множителя 0 перед функцией f(x). Вектор
0 0 1
B 1 C
= B C @ ::: A
m
называют обобщенным вектором Лагранжа, где 0 - скаляр, а
0 1 1
B 2 C
= B C @ ::: A
m
классический вектор Лагранжа.
Теорема 1. Обобщенное правило множителей Лагранжа. Для каждого локально-оптимального решения x задачи (1:1) существует такой ненулевой обощенный вектор Лагранжа
0 6= 0
что
@L(x ; ) = 0 (2:19)
@x
т.е. x - стационарная точка обощенной ф-и Лагранжа (2:18) при
0 =
Вектор для которого в точке x выполняется равенство (2:19) называется обощенным вектором Лагранжа, соответствующем точке x . Точке x может соответствовать несколько обобщенных векторов Лагранжа.
Определение 5. Задачу (1:1) и ее оптимальное решение x называют нормальными, если среди обобщенных векторов Лагранжа
0 0 1 B 1 C
0 = B ::: C @ A
m
соотвествующих плану x нет такого, чтобы
0 = 0
17.2Единственность вектора Лагранжа для нормального оптимального плана
Обобщенный вектор Лагранжа из равенства (2:19) определяется с точностью до постоянного множителя, а в нормальной задаче (1:1) компонента 0 не равна 0, поэтому разделив на нее обощенный вектор получим обобщенный вектор Лагранжа вида
0 1
1
B 1C
BC
= B 2C
BC @... A
n
что означает, что обощенная ф-я Лагранжа станет классической ф-ей Лагранжа (2:6). Лемма. Нормальному оптимальному плану соотвествует единственный вектор Лагранжа.
Док-во. Предположим, что нормальному плану соотвествуют 2 неравных друг другу вектора Лагранжа и
8 |
|
im |
|
|
(2:20) |
|
@f(x ) |
m |
|
|
|
|
+ i @gi(x ) = 0 |
||||
> |
@f(x ) |
P |
i @gi(x ) |
= 0 |
|
> |
@x |
+ |
|
@x |
|
|
|
=1 |
|
|
|
> |
|
iP |
|
|
|
|
|
|
|
|
|
> |
@x |
|
|
@x |
|
< |
|
|
|
||
: |
|
=1 |
|
|
|
|
|
|
|
|
29
Вычитая одно равенство из другого получим, что сумма
m
P( i i)@gi(x ) = 0 @x
i=1
которая означает, что нормальному оптимальному плану x вопреки определению 4 соотвествует обобщенный вектор Лагранжа
0 1
0
B1 1 C
BC @ ::: A
m m
Полученное противоречие доказывает лемму.
30