книги из ГПНТБ / Васильев Ф.П. Лекции по методам решения экстремальных задач
.pdf80 М И Н И М И З А Ц И Я Ф У Н К Ц И И М НОГИ Х ПЕРЕМЕННЫ Х [Гл. 2
(с, р < £ , |
{gi (uk), р ) < | |
при is/ *, |
|pl'| s ^ l(i= l,..., |
т )}. |
Так |
как |
|
Ak — замкнутое ограниченное множество, a v (a )= | |
непрерывна на |
||||||
Ак, то существует такая |
точка |
— |
p*k)£Ah |
что |
m inv(a) = |
||
* |
* |
a=Q<=Ah, |
|
|
|
Ак |
Если |
~ v ( a k) = |
^t. При этом |
поэтому Efc<v(0) = 0. |
окажется, что < 0 , то р * ф 0 и р* является направлением, веду щим строго внутрь множества U, причем вдоль р* функция J (и) убывает. Таким образом, решая задачу минимизации v(a) на множестве Ак, находим подходящее направление р*, в некотором смысле наилучшее. Заметим, что задача минимизации v(a) на Ак является хорошо известной задачей линейного программирования н может быть эффективно решена методами, дающими решение за конечное число шагов (см. ниже § 1 1 ) . Пусть эта задача реше
на и найдено (Нь р\) = |
ак. |
|
3. Далее вычисляем новое значение параметра б: |
||
„ |
( |
б/г, если & < — бА, |
Щ-Н = |
{ |
0,5бА, если — бй< ^ < 0 . |
|
[ |
Может оказаться, что £* = 0. В этом случае нужно проверить, не является ли точка uh точкой минимума J (и) на U. Для этого решаем новую задачу линейного программирования: найти мини мум функции v(a) = £ на множестве
Al = |
{а = (|, р ): (с, р) < |
g, |
(gi (ик), р ) < Ъ |
||
при i 6 |
/ь |р‘ |< 1 (i |
= 1.......... |
т)}, |
||
|
где |
I'k = { iA < i< s ,g i( u k)= 0}. |
|||
Пусть min v (а) |
достигается на а |
— (£*, |
р*к). |
Если окажется, что |
\
^ = 0, то в силу теоремы 1 точка ик будет искомой точкой, и про
цесс |
на этом заканчивается. |
Если же £&<(), |
то |
полагаем 6fe+i= 0,5S fe |
|||||||||
и переходим к п. |
4. |
|
|
|
|
|
|
|
|
|
|||
|
4. Наконец, полагаем ик+] = |
ик - f a крк, где рк = pi |
при ^ < 0 , |
а |
|||||||||
если |
^ = |
0 |
и ! ь < 0 , то рк = |
pi, |
а число а к — min a ki, |
где |
a ki |
есть |
|||||
наименьший |
положительный |
корень |
|
l<£<s |
|
|
0 (i = |
||||||
уравнения |
g ( (uk -f а рк) = |
||||||||||||
= 1, |
. . . , s) (если |
при некоторых i |
окажется, |
что g t (uk -f apA) < |
0 |
||||||||
при |
всех |
a > 0 , |
то условно |
принимаем |
a ki = -)- оэ). |
Очевидно, |
|||||||
J (щ+1) = |
J |
(ик) + |
a k (с, pk) < |
J (ик) |
и % + iel/ . |
|
|
|
|
|
Метод возможных направлений описан. Кратко остановимся на отыскании начального приближения u0^ U , т. е. отыскании какого-либо решения системы неравенств (вообще говоря, нели
§ 4} |
Метод |
возможных направлений |
81 |
нейной) |
gi(u) s£T0(t= 1 , |
s ) . Оказывается, для |
определения и0 |
может быть использован только что описанный метод возможных направлений. А именно этим методом нужно решить-задачу мини
мизации функции v ( a )= | |
на множестве Л/= { а = (| , |
и) '.gi{u)^.%r |
|
i= 1, 2,_..., s}. Так как |
по условию U содержит внутреннюю точку |
||
ио,- то а0— (|о, и0) , где |
f 0 |
= max g t (w0) < 0, будет |
принадлежать |
А', и, следовательно, |
|
i<;<s |
|
m inv(w )<0. Поэтому для того, чтобы полу- |
А'
чить искомое начальное приближение w0, нет необходимости точно
решать эту вспомогательную задачу. Здесь |
достаточно, |
начиная |
с произвольной точки u0t.E m, проделать |
некоторое |
конечное |
число шагов описанного метода возможных направлений, пока не придем к точке а0=(£о, Ы о)еА', для которой |о=^0. Как видим, метод возможных направлений может быть использован для ре шения нелинейных систем неравенств.
Т е о р |
е м а 2. Пусть U = { u : g i ( u ) ^ . О ( t = 1,..., s ) } , где g i ( u ) — |
выпуклые |
функции из С1(Ет), пусть U ограничено и имеет внут |
ренние точки. Тогда последовательность {uh}, полученная описан
ным выше методом возможных направлений, |
такова, |
что: |
|
|
|
||||||||||||||
|
|
|
|
1) |
J (ик) = |
(с, |
ик) -+•J* = inf J |
(и); |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
и |
|
|
|
|
|
|
|
|
2) |
любая ее |
предельная точка и* будет точкой |
минимума J (и) |
||||||||||||||||
на U, а в случае единственности точки минимума вся последова |
|||||||||||||||||||
тельность {Wfe}->W*. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
Д о к а з а т е л ь с т в о . |
Так |
как |
{J{uk)} |
монотонно |
убывает |
и |
||||||||||||
J (ик) > |
J" > —оо. то существует lim J |
|
(ик) и J |
(ик)—J (ик+{) -»-0(&-нэо). |
|||||||||||||||
Покажем, что |
|
|
|
|
k~>oo |
|
|
|
|
|
|
|
|
|
|
||||
|
(k-^oo). Последовательность {бА} положительна |
||||||||||||||||||
и |
монотонно |
убывает, следовательно, существует |
lim SA= |
6 > |
0. |
||||||||||||||
Предположим, |
что б > 0 . |
Пусть |
kn— номер |
итерации, |
когда |
проис |
|||||||||||||
ходит дробление параметра б/;, |
т. |
е. — 6^ < |
^ |
< 0 |
и бдп+1 = |
0,58^ |
|||||||||||||
Если |
lim 6,г = |
б > -0, |
то процесс |
деления пополам |
заведомо |
конечен |
|||||||||||||
и, более того, |
найдется такой номер N0, что |
8k = |
8 и Ек < |
— б при |
|||||||||||||||
всех |
k > jV0. |
Пусть |
и* — предельная |
точка |
{ик}. Ясно, что u*£U . |
||||||||||||||
Выбирая при необходимости |
подпоследовательности, |
можем |
считать, |
||||||||||||||||
что |
ик |
и* (k -у оо). |
Пусть |
Г |
= |
{ i : K i < S |
, - S < |
g |
; |
(«’) < |
0}. |
В |
|||||||
силу |
непрерывности g l (и) имеем — б < |
(ик) < 0 при всех k ^ N x >//0 |
|||||||||||||||||
и г 6 /*. |
Следовательно, Г |
а |
1к при всех k ^ Nx. Тогда |
|
|
|
|
||||||||||||
|
|
|
(с - Р*) = (с, |
Р к ) < & < — б, |
(gi(uk), ,рк) < & < |
— 8 |
|
|
|
при всех i£ Г и всех /е > Л /j. Так как последовательность {рк} огра ничена, то она имеет предельную точку р*. При необходимости вы-
82 |
|
|
|
МИНИМИЗАЦИЯ ФУНКЦИИ МНОГИХ ПЕРЕМЕННЫХ |
|
[Гл. 2 |
|||||||||||||
бирая подпоследовательность, можем считать, |
что pft->p*. Тогда при |
||||||||||||||||||
k->-oo из |
|
предыдущих |
|
неравенств |
имеем |
|
(с, |
р*) ф — 8 < 0 , |
|||||||||||
(& («’), |
Р *)< — б < ° |
при всех |
Кроме |
|
того, |
£ £(« *)< — 6 |
при |
||||||||||||
i 0 I* |
по определению /*. |
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
Таким |
образом, |
р* Ф 0 |
и |
направление |
р* |
является |
подходящим |
|||||||||||
для |
точки и*. Пусть |
а* — min а*, где |
a j — наименьший |
положитель- |
|||||||||||||||
|
|
|
|
|
|
|
l< i< s |
|
|
|
|
|
|
|
|
|
|
||
ный корень уравнения g ( (и* + |
ар*) = 0 |
(t = 1 , |
. . . |
, |
s) |
(если |
при |
не |
|||||||||||
которых i |
окажется, |
что |
(и‘ + ар‘ ) < |
0 |
при всех а > - 0 , то условно |
||||||||||||||
полагаем а* = |
+ о о ). Тогда g t (и* -г ар*) < |
0 |
при всех |
а, |
0 < |
a < а \ |
|||||||||||||
и i = l , . . , |
, |
s. В силу непрерывности |
g c (и) |
|
имеем gt (и' |
арк) фО |
|||||||||||||
при всех |
к > |
АР, > |
|
0 < ^ а < ^ а ’ и t = 1 , . . . |
|
, s. |
Это |
означает, |
что |
||||||||||
а к > |
a* > |
0 при всех к > |
АР,. Тогда 0< а *8 < — ak (с, pk)= J(uk) — J{u-k+1) |
||||||||||||||||
при |
всех |
k > |
iV2, что |
противоречит соотношению |
J(uk) — У (ик+\) |
||||||||||||||
->■ 0 (k |
|
оо). |
Следовательно, |
8к->• 0 (/г |
оо) |
и |
последовательность |
||||||||||||
{£,,}, |
когда |
8 Ал+1 = 0,5 б&я и — Ькп < |
< 0, |
не |
обрывается |
ни |
при |
каком /г (конечно, здесь предполагаем, что метод возможных направ лений не приводит к искомой точке минимума за конечное число
шагов — в этом |
|
случае |
теорема |
очевидна). |
Отсюда |
вытекает, |
что |
||||||||||||||
Zkn-^0 |
при я -ь о о . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
Теперь покажем, что У(ы*)->У\ Пусть |
|
и* — предельная |
точка |
||||||||||||||||||
{ukJ . |
Можем |
считать, |
что |
икп~-^и*. |
|
Обозначим /* = |
( i : 1 |
< |
i |
< s , |
|||||||||||
gi [и") = 0}, |
так |
что |
gi (и*) •<0 |
при |
i 0 Г . |
Покажем, |
что |
4 |
|
|
|||||||||||
при всех л > АР,. Для |
этого |
обозначим |
maxg( (и*) = |
— 8*<^0. Тогда |
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
ге/* |
|
|
|
|
|
|
|
|
|
£ i(« * )< — s* при всех i 0 |
/*. Так как 8fe->0 и |
(«fc/,)-vgi(u*)(t= 1, . . . ,s), |
|||||||||||||||||||
то найдется такой номер АР,, что |
при всех п > |
АР, будет g c (ик ) < — |
|||||||||||||||||||
— 0 .5 6 *< — 8 fen |
|
|
для |
|
i 0 |
Г |
и |
— 0.58* |
< g f (uft/j) < 0 = g f («*) |
||||||||||||
для j £/*. |
Это |
и |
означает, |
|
что |
/*:=э/* |
при |
|
всех л>А Р,. Пусть я* |
||||||||||||
не является точкой минимума У (и) на б/. В |
|
силу |
теоремы |
1 |
|
тогда |
|||||||||||||||
существует |
число |
| < Д , |
и |
вектор |
рф О , |
такие, |
что, (с, |
р )< £ , |
|||||||||||||
(gi (и")> Р) < 1 |
(i 6 |
/*), |
|
1рг'| < 1 |
(i = 1, . . . |
, |
/тг). Из непрерывности |
||||||||||||||
gi (и) следует, что |
(g't (ukJ , |
р) < |
f при всех я > |
|
М, и i £ h n ф }\. |
||||||||||||||||
По определению |
^ |
тогда |
имеем |
|
|
|
|
при я > М 4, что проти |
|||||||||||||
воречит соотношению |
|
-*-0(я-> - оо). |
Следовательно, |
я* — точка ми |
|||||||||||||||||
нимума J (и) на U |
и У {икп) |
|
У (и*) = У\ |
Поскольку |
|
У (я&) монотон |
|||||||||||||||
но убывает, |
то |
|
и вся |
|
последовательность |
J (u k) - + J \ |
Тогда |
любая |
|||||||||||||
предельная |
точка последовательности {ик} |
является точкой минимума |
|||||||||||||||||||
У (и) на У, а в случае единственности |
точки |
минимума вся |
последо |
||||||||||||||||||
вательность {ик}~^и". |
А. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
S 4} |
Метод возможных направлений |
83 |
3. Остановимся на вопросе об оценке погрешности метода в можных направлений, а именно укажем простой способ оценки сверху разности / (% )— / * ^ 0 при фиксированном k. В силу вы пуклости gi(ti) и теоремы 1.2 имеем
|
О > gt (и) > g{ (ик) + |
(g\ {ик), |
и — ик) |
|
|
||
при всех и 6 U и i — 1, . . . |
, s. Это |
означает, |
что |
|
|
||
U ст Uk = { и : (gi (ик), |
и — и*) + & (“а) < |
О |
{ i = l , . . . |
, |
s)}. |
||
Тогда mi n / (и) < m in/(«) = /* и приходим к |
следующей |
оценке по- |
|||||
ик |
и |
|
|
|
|
|
|
грешности: |
|
|
|
|
|
|
|
О < |
/ {ик) — /* < / |
{ик) — mi n/ (и) (k = |
0, 1, 2 , . . . ) . |
(1)= |
|||
|
|
uk |
|
|
|
|
|
Эта оценка достаточно удобна на |
практике, |
поскольку |
задача |
||||
минимизации J (и) на Uk является |
стандартной задачей линейного- |
программирования. Следует заметить, что если минимальные зна чения J (и) на U и Uh не близки, то оценка (1) может оказаться, слишком грубой.
Такой прием получения оценки погрешности не зависит от способа получения величины uh и может быть использован при работе с другими методами минимизации во всех тех случаях,, когда удается найти множество Uh, содержащее U, для которого-
задача минимизации J (и) на Uk |
может быть решена достаточно |
просто. |
, |
Всюду выше от подходящего |
направления pk (k = 0, 1,...) мы |
требовали |р*|-< 1 (t = 1, . . . , тп). Это делалось для того, чтобы множество Ак было ограниченным и, следовательно, задача минимизации линейной функции v (q) s ^ на множестве Ак имела смысл. Возможны и другие способы нормировки вектора рк, на пример
m
=£ 1р*12< 1 . i=i
Взависимости от способа нормировки вектора рк можно получитьразличные модификации метода возможных направлений. По воп росам практического применения и сходимости различных вариан
тов |
метода |
возможных направлений |
подробнее |
см. |
в работах' |
|||||||
[79, |
109, .114, |
116, |
135, |
149, |
177, |
193, |
196, |
239, |
260]. |
|
|
|
|
Упражнения. |
1. Доказать эквивалентность двух задач миними |
||||||||||
зации .функций: /(«) |
на множестве |
U— {и : g i ( u ) |
s£:0(t= |
1,..., s)} и. |
||||||||
/i(|, |
и ) = £ |
|
на |
множестве £Л = {(|, |
и ) :/ ( а ) ^ | , gy(u) sg;0(i= |
|||||||
= l,...,s ) } . |
|
|
|
|
|
|
|
|
|
|
|
м |
М И Н И М И З А Ц И Я Ф У Н К Ц И И М НОГИ Х ПЕРЕМЕННЫХ |
\Гл. 2 |
2.Доказать, что линейная функция /(«) = (с, и), с Ф О может достигать своего минимума (и максимума) лишь в граничной точке U.
3.Для того чтобы точка и0 была внутренней точкой [гранич
ной |
точкой] множества |
U = {и : gi(u) ^ 0 ( i = 1 , |
s)}, £*(«)<= |
||||
е С(Ет ), |
необходимо |
и достаточно, |
чтобы |
(г^о) < 0 |
при всех |
||
i —1 |
, s |
[ g ' i ( w o ) = 0 , |
хотя |
бы при |
одном |
значении |
£, |
Доказать. |
|
|
|
|
|
|
§5. МЕТОД ПРОЕКЦИИ ОПОРНЫХ ФУНКЦИЙ
1.В описанных выше методах минимизации функций мног
переменных мы предполагали |
существование градиента функций |
в каждой точке множества U. |
В этом параграфе рассмотрим один |
метод минимизации при более слабых ограничениях на функцию.
Пусть задана функция J (и) |
на некотором множестве U. |
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
т |
|
|
О п р е д е л е н и е |
1. Линейная функция |
(I, и) = |
|
пе- |
||||||||
ременной u^U , определяемая |
вектором |
1= (к, |
|
£=1 |
|
назы |
||||||
к , —, 1т), |
||||||||||||
вается опорной к функции J (и) |
в точке u^U , |
если |
|
|
|
|
||||||
J (и) > / (ц) + |
(/, |
и — v) |
при всех и в U. |
|
|
(1) |
||||||
Вектор I назовем опорным |
вектором |
для |
функции J (и) |
в |
точке |
|||||||
а е У . |
|
|
|
|
|
|
|
|
|
|
|
|
Неравенство (1) геометрически означает, |
что |
гиперповерх |
||||||||||
ность, определяемая функцией £ = / (ц ), |
лежит не |
ниже |
гиперпо |
|||||||||
верхности, определяемой линейной |
функцией |
£=(/, |
и— у) + / ( у), |
|||||||||
|
|
|
причем |
при |
и = и эти две |
гипер |
||||||
|
|
|
поверхности |
имеют общую точку |
||||||||
|
|
|
(рис. 11). Если J (и) — выпукла |
|||||||||
|
|
|
и |
е С ‘ (Д), |
где |
U — выпуклое |
||||||
|
|
|
множество, |
то |
согласно |
теоре |
||||||
|
|
|
ме 1.2 J (и)—J (и) ^ |
|
|
и— и) |
||||||
|
|
|
при |
всех |
wet/, |
|
т. е. |
функция |
||||
|
|
|
£ = (/ '(ц ), |
и), |
является опорной к |
|||||||
|
|
|
J (и) |
в |
|
точке |
v, |
а |
градиент |
|||
|
|
|
Л (у) — опорный вектор в этой |
|||||||||
|
|
|
точке. Однако функция может |
|||||||||
|
|
|
иметь |
опорный |
вектор |
и в тех |
||||||
|
|
|
случаях, когда Л (а) не сущест |
|||||||||
вует. Например /(u) = |
|w| |
в точке |
и = 0 |
не имеет |
производных, |
однако имеет бесконечно много опорных векторов /, |/|^1, в этой точке, так как если |£|<С1, то (/, «)^| п | при всех и ^ Е т.. Заме тим, что \и\ — выпуклая функция. Оказывается, это не случайно. Ниже будет выяснена глубокая связь между выпуклыми функция
§ 5] |
Метод проекции опорных |
функций |
|
|
85 |
||
ми и функциями, |
которые |
в каждой |
точке |
обладают |
опорной |
||
функцией. |
|
|
|
|
|
|
|
Понятие опорного |
вектора обобщает понятие градиента |
и |
|||||
играет большую |
роль |
при |
исследовании |
экстремальных |
задач |
в |
|
общей постановке |
[73], [97], [99], [199], [269]. Различные свойст |
||||||
ва опорных векторов, |
техника их вычисления в |
конечномерных |
и |
бесконечномерных пространствах изучались в работах [73, 99, 199] и др. Здесь мы приведем без доказательства два свойства опор ных векторов, которые могут оказаться полезными при вычислении таких векторов.
|
Пусть функции |
Ji(u) |
|
в |
точке |
и |
имеют |
опорные |
векторы |
|||||||
l i ( i — 1, 2, . . . |
, |
р). |
Тогда: |
1) функция |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
р |
|
. |
|
|
|
|
|
|
|
|
Ч- |
|
|
|
|
J |
a cJ c (и), |
а£ = |
|
|
|
|
|
|
||||
|
|
|
|
(и) — |
const > |
О |
|
|
|
|||||||
|
|
|
|
|
i=i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
р |
|
|
|
|
|
в |
этой |
точке |
имеет опорный |
вектор |
/ = ^ |
а £/£; |
2) |
|
функция |
|||||||
J |
(и) = |
max Ji (и) |
|
|
|
|
|
|
|
i=i |
|
|
|
|
||
в точке и имеет опорный вектор |
|
|
|
|
||||||||||||
|
|
Ш <р |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i = |
£ |
vA. |
|
|
|
|
|
|
||
где у£ — произвольные числа, |
такие, |
что у£> 0 , |
|
£ |
у£ = |
1, |
а мно- |
|||||||||
жество |
индексов |
I |
(о) = {£: |
1 < |
i •< р, |
J |
(и) = |
/£ (о)}, |
в |
частности, |
||||||
можно взять / = |
/£, |
i € I (v). |
|
|
|
|
|
|
|
|
|
|
|
С помощью опорных функций можно просто сформулировать критерий минимума.
Т е о р е м а 1. Для того чтобы функция J (и) достигала абсо лютного минимума на некотором множестве U в точке и*е£/, необходимо и достаточно, чтобы нулевой вектор 1=0 был опорным к J (и) в точке и*.
Д о к а з а т е л ь с т в о . |
Необходимость. Если и* — точка миниму |
|||||
ма, то J (и) > J (и*) -)- (0, |
и — и*) = J (и*) при всех |
и 6 U, |
т. е. |
нуле |
||
вой вектор является опорным в точке и*. |
|
|
|
|||
Д о с т а т о ч н о с т ь ' |
Если |
нулевой вектор |
оказался опорньщ |
|||
к J (и) |
в точке и*, то I(и) |
(и*) + (0, и— u * ) = J( u * ) |
при |
всех |
||
« е У . |
Следовательно, и* — точка минимума J (и) |
на U. ± |
|
Перейдем к описанию метода проекции опорных функций для решения задачи минимизации функции J (и) на выпуклом множест ве U, Предположим, что /(«) в каждой точке имеет опорный
86 М И Н И М И З А Ц И Я Ф У Н К Ц И И М Н О ГИ Х ПЕРЕМЕННЫ Х [ Г л . 2
вектор /(и). Тогда метод проекции опорных функций заключает
ся в построении последовательности |
{ап} |
по правилу |
[187] |
||||
«л-Н = Ри (u„ — ап — / |
Y |
а„ > |
0, |
/г = |
0, 1, |
. . . |
(2) |
В зависимости от способов выбора а„ |
в |
(2) |
можно |
получить |
|||
различные варианты этого метода. Если 7 |
(и) |
выпукла |
и е С ‘ (7) |
||||
на выпуклом множестве U, то L(un) = / '(« „ ), |
и метод (2) превра |
||||||
щается в метод проекции градиента. |
Если |
U = E m, то P u (u )= u , п |
метод (2) в этом случае является непосредственным обобщением градиентного метода на случай негладких функций. Будем пред
полагать, что |
в |
(2) |
1{ип) =£0(/г = 0 ,■1, |
|
2 ,...), |
ибо. при |
l(un) = 0 в |
|||||||||
^ 1лу теоремы |
1 в |
точке |
ип функция /(и) достигает своего мини |
|||||||||||||
мума на U. Рассмотрим |
один вариант метода |
|
проекции опорных |
|||||||||||||
функций. Именно в (2) |
в качестве щ зафиксируем любую точку |
|||||||||||||||
из U, а {а„} выберем |
произвольно, |
|
лишь бы |
удовлетворялись |
||||||||||||
условия [187] |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
оо |
|
|
|
|
|
|
|
|
|
|
а „ > 0 , |
ая->-0 (п -эоо ), |
£ |
а л = |
+ о о |
|
|
(3) |
||||||
|
|
|
|
|
|
|
|
л = 0 |
|
|
|
|
|
|
||
^например, |
ап = — - j- y |
/г = |
0, 1, . ..^ . |
|
|
|
|
|
|
|
|
|||||
|
Т е о р е м а |
2. |
Пусть U |
выпуклое |
замкнутое |
множество |
в Ет, |
|||||||||
имеющее хотя бы одну |
внутреннюю |
точку |
(в частности, |
возможно |
||||||||||||
U = |
Em). Пусть функция J (и) непрерывна на U, |
inf J (и) = J *^>— оо |
||||||||||||||
и во |
всех точках v £U |
функция J (и) |
имеет |
опорную |
функцию | = |
|||||||||||
= (/ (о), и). Тогда для последовательности {ц„}, |
построенной соглас |
|||||||||||||||
но (2 — 3), |
при |
любом |
начальном u0£U справедливо |
равенство1 |
||||||||||||
lim J (ип) = |
J", |
или, иначе |
говоря, |
существует |
подпоследователь- |
|||||||||||
П - * оо |
|
такая, |
что / (u„s) —>J* (s |
оо). (В формулировке теоремы |
||||||||||||
ность {u„J, |
||||||||||||||||
требования |
на функцию J |
(и) |
можнб уточнить и ослабить; |
см. |
ниже |
|||||||||||
теоремы б, 7, 8.) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
Д о к а з а т е л ь с т в о . |
Прежде всего |
заметим, |
что |
при выполне |
|||||||||||
нии условий теоремы |
последовательность |
{ип} из |
(2 — 3) |
определя |
||||||||||||
ется однозначно (разумеется, |
если 1(ип) — 0, |
то ип— точка минимума, |
||||||||||||||
|
1 Напомним, |
что |
число а = |
lim ап — нижний |
предел последовательности |
|||||||||||
|
|
|
|
|
|
|
П-эоо |
|
|
|
|
|
|
|
|
|
{а п}, |
если все предельные точки |
(ол) не меньше а |
и существует |
такая подпос |
||||||||||||
ледовательность |
{п„Д , что a„k ~+a (k —>оо). |
Верхний |
предел |
lim а„ ~ Ь |
мож- |
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Я -*о о |
|
но определить так: 6 = — lim (— ап).
§ 5] |
|
|
Метод проекции |
опорных функций |
|
|
|
|
87 |
|||||
и итерации прекращаются). |
Пусть |
вопреки |
утверждению |
теоремы |
||||||||||
lim J (ип) = |
J* |
2е, е /> 0. Рассмотрим множество |
|
|
|
|
|
|||||||
«“>00 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Ме = { и : и 6 U, J (и) < J* + е}. |
|
|
|
|
|
||||||
Покажем, что это множество имеет |
внутреннюю точку. |
Пусть и0— |
||||||||||||
внутренняя |
точка U, существование |
которой |
вытекает |
из |
условия |
|||||||||
теоремы. По определению J* |
существует |
такая |
точка |
v 6 U, |
что |
|||||||||
J (v) < |
J" + |
е/2. Так как точки и = v + а (и0— v) |
при |
всех а, |
О < |
|||||||||
<а<С1> являются внутренними для |
множества U (см. |
ниже упраж |
||||||||||||
нение |
1) и функция J (и) непрерывна, то можно указать |
точку ие — |
||||||||||||
= v |
а (е) (и0— v), которая |
вместе |
с |
шаром |
и& = |
{и:\и — ие |< 6} |
||||||||
принадлежит U i i / ( w ) < J * - f e |
при |
всех |
u £Us. |
Следовательно, |
||||||||||
ие — внутренняя |
точка МЁ и Ue czM s. Так |
как |
J (ип) > J* + е при |
|||||||||||
всех |
|
0, |
то J {u n) > J * + |
е > / (и), |
при всех |
u^U&, |
или 0 > |
|||||||
> / (и) — J |
(ип) > (I (ип), и — ип) |
при всех |
и 6 U& и п > Nx. |
В |
част |
|||||||||
ности, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
поэтому |
|
и = ие + |
б I (и„) 11(ип) I” 1е U6, |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||
0 > ( / (ип), |
иг — ип + б / («„) 11(«„) |- •) = (/ (и„), и8— «„) + 8 1/ К ) |, |
|||||||||||||
или (/(«„), |
ие — ип) </ — б I / (И„) | при всех п > |
Л^. |
|
Тогда, |
учитывая |
сжимающее свойство ойерации проектирования (см. неравенство 3.2), имеем
|
|ие — ип+1 12 = (Р у (ые) — Ру (ы„ — а„/ (ип) (I (ип) h 1) (2 < |
||
|
< (ив— ип-f а„/ (м„) 11 {ип) |~! |2 = (иЁ-~ ип|2 + |
+ |
|
+ |
2ап {I (ия) . «s ~'«я) 11 К ) |“ ■1< |«Е — |
|3 + а* — 2а„б = |
|
|
= I«е — «я I2 — &*я + а п (а„ — 6). |
|
|
Так как |
а „ -> 0, то а„ — б < 0 при всех п > |
Nn, и, следовательно, |
|к8— un+i I2 < |ие— ип|2 — ал б,
или
а„б < |«е— у„|2 — |ие — «я+1 12 при всех п > N3 = max {Nlt N2}.
Просуммируем это неравенство по п от некоторого N > N3 до N + р. Получим
ЛЦ-р
б £ а „ < | п е — Му|2 — |ые — Иу+p+il2 < | и в — «лг|2 При всех р > 0.
OQ
Однако это противоречит условию ^ а„ = + оо. Д
П—1
88 |
М И Н И М И З А Ц И Я Ф У Н К Ц И Й М Н О ГИ Х ПЕРЕМЕННЫ Х |
[Гл. 2 |
|||
Если |
проекцию точки на множество U и опорные |
функции |
|||
1{ип) найти несложно, |
то метод |
(2— 3) |
очень прост. Однако этот |
||
метод, вообще говоря, |
немонотонный: |
необязательно |
J (un+1)^= |
||
^ J ( u n), |
поэтому близость J (ип) |
к /* трудно проверяема. Различ |
ные варианты метода опорных’ функций, а также другие методы минимизации негладких функций описаны, например, в работах
[35, 96, 109, 154, |
187— 189, |
193, 251—253]. |
|
|
|
|
|
||||
2. Выясним вопрос, какие функции обладают опорными функ |
|||||||||||
циями во всех точках выпуклого множества |
t/ sE ,n? |
|
|
||||||||
Т е о р е м а |
3. Для того чтобы функции I(u ), |
определенная на |
|||||||||
выпуклом множестве U, имела опорную функцию во всех точках |
|||||||||||
множества U, необходимо, |
|
чтобы J (и) была выпуклой на |
U. |
||||||||
Д о к а з а т е л ь с т в о . |
Возьмем |
произвольные |
точки и, |
v 6(7 и |
|||||||
число а, 0 < а < 1 . По условию J (и) |
во |
всех |
точках |
множества U |
|||||||
имеет опорные функции. В |
частности, |
для точки иа = а и + (1 — а) у |
|||||||||
существует вектор 1а , что |
|
|
|
|
|
|
|
|
|
||
J (w) — J («а) > |
(la, W— На) |
при Всех |
W6 U |
|
|||||||
Примем здесь |
последовательно w — и и и. Получим |
|
|
||||||||
J {и) |
J |
(Ца) ^ (/(xi U |
Ua) > J |
(у) — J |
(wа) ^ |
(/<Xi V — Cla)- |
|||||
* |
|
|
|
|
|
|
|
|
|
|
|
Умножим первое из этих неравенств на а, |
второе — на |
1 — а |
и сло |
||||||||
жим. Будем иметь |
|
|
|
|
|
|
|
|
|
||
а J (и) + (1 — а) J (у) — J (а и + (1 — а) и) > (/а, иа — иа) = 0. |
|||||||||||
Отсюда и из |
произвольности |
и, v £ U , |
0 < а < 1 |
следует |
выпук |
||||||
лость J(u). ± |
|
|
|
|
|
|
|
|
|
|
|
Однако существуют выпуклые функции, не имеющие опорных функций в некоторых точках области определения. Например, вы
пуклая функция |
J (и) = — У 1 — ц2 |
в точках |
и = ± 1 |
не имеет |
опорных. Заметим, |
что точки н = ± 1 |
являются граничными для об |
||
ласти определения |
этой функции. Оказывается, |
это |
неслучайно. |
|
Ниже будет показано, что всякая |
выпуклая |
на U функция во |
||
внутренних точках |
U имеет опорную функцию. Для доказательст |
ва этого факта н-ам понадобятся некоторые вспомогательные све дения.
3. Пусть X — некоторое множество в евклидовом пространст
ве Е п. Замыкание множества X в Е п обозначим через X, |
множест |
|||
во всех внутренних точек X — через Х°. |
|
|
|
|
О п р е д е л е н и е 2. Пусть X |
и У — два множества |
из Ет. |
||
Гиперплоскость (с, * )= a = c o n s t с |
направляющим |
вектором |
с ф 0 |
|
называется разделяющей множества X и У, если (с, |
х ) ^ а ^ |
(с, у) |
||
при всех х<=Х и г/еУ, или, иначе говоря, |
|
|
|
|
inf {с, х) > a > |
sup (с, у). |
|
|
|
х £ Х |
у&У |
§ 5] |
Метод |
проекции опорных |
функций |
|
|
89 |
|||
Если либо inf |
(с, х)^>а, |
либо sup (с, у) < |
а, |
то |
говорят |
о |
строгом |
||
х&Х |
|
|
у £ У ■ |
inf |
(с, х) = а, |
то |
гипер- |
||
разделении этих множеств. Если при этом |
|||||||||
|
|
|
|
|
х £ Х |
|
|
|
|
плоскость (с,х) = а называют опорной к множеству-Л". |
|
|
|||||||
. Геометрический |
смысл |
разделяющей |
гиперплоскости |
||||||
(с, х) — а состоит в том, |
что множество X находится в одном полу |
||||||||
пространстве, |
определяемом |
этой |
гиперплоскостью, |
множество |
|||||
У — в другом |
(рис. 12, |
13). |
Если |
гиперплоскость |
{с, х ) = а |
разде |
ле, х) ~о(
|
|
|
|
Рис . |
13 |
|
|
ляет множества X и У, то, очевидно, гиперплоскость |
(рс, л :)= р а |
||||||
при любом |
р > 0 |
также разделяет эти множества. |
Поэтому |
при |
|||
необходимости можно считать, что |с| = |
1. |
|
|
|
|||
Т е о р е м а |
4. Если X — выпуклое |
множество |
из Еп, то для |
||||
любой точку У0.Х0 существует |
гиперплоскость_ (с, |
х ) = а , |
с ф О, |
||||
разделяющая множество X и точку у. Если У0.Х, то |
разделение |
||||||
будет строгим. Если у — граничная точка X, то а = (с, |
у). |
|
|||||
Д о к а з а т е л ь с т в о . _Пусть сначала У0.Х (рис. 14). Проек |
|||||||
цию точки у на множество X обозначим через у*. Так как у$ЁХ, |
|||||||
то вектор |
с = у * —уфО. В силу_неравенства (3.1) |
|
(с, х— г/*) = |
||||
= (у*— у, х— у*) > 0 при всех л е ! А тогда |
|
|
|
||||
(с, х — у) = |
(«/*— у, х — у) = |
\у*— у\2 + (у*— У, х — у*) > |
|
||||
|
|
> U / * - y l 2 = |c|2> o . |
|
|
|
Это значит, что гиперплоскость (с, х) = (с, у ) = а строго раз-, деляет X и точку у. Кстати, (с, х) = (с, у*) — опорная гиперплос кость к множеству X.