книги из ГПНТБ / Васильев Ф.П. Лекции по методам решения экстремальных задач
.pdf240 МЕТОДЫ М И Н И М И З А Ц И И В ФУНКЦ И ОНАЛЬНЫ Х ПРОСТРАНСТВАХ |
[Гл. |
в |
Теоремы 1,4 служат основой многих теорем существования |
||
решений экстремальных задач; примеры таких задач см. |
ниже |
в |
§ 3—7. Ряд теорем, содержащих различные достаточные условия, гарантирующие достижение функционалом своей нижней грани на заданном множестве 5-пространства можно найти в работах [46] (гл. III), [186]. -
4. В дополнение к теореме 3 остановимся еще на других усл виях слабой полунепрерывное™ снизу функционалов — эти усло вия связаны с понятием опорного функционала.
О п р е д е л е н и е 12. Пусть J (и) — функционал, определен ный на множестве U банахова пространства 5 . Линейный непре рывный функционал /, определенный на В, называется опорным к
функционалу J (и) в точке v ^ U , если J {и) |
(v) -+- (/, u—v) при |
||
всех |
выпуклый и принадлежит Cl (U), где U — выпуклое |
||
Если /(«) |
|||
множество, то |
согласно теореме 2.1.2 J (и)— I ( v ) ^ ( J ' ( v ) , |
и— и) |
|
при всех u^U , |
т. е. l — J'(v ) — опорный функционал к J (и) |
в точ |
ке и. Таким образом, понятие опорного функционала обобщает понятие градиента на случай негладких функционалов. Различные свойства опорных функционалов, технику вычисления и их исполь зования при исследовании экстремальных задач в функциональных пространствах можно найти,'например, в работах [73, 99, 199] и др.
Нетрудно видеть, что теоремы 2.5.1, 2.5.3, 2.5.8 и их доказа тельства остаются справедливыми р в 5-пространствах, нужно лишь в формулировках и доказательствах этих теорем слово «функция» заменить на «функционал», Е т на 5 .
Для получения условий существования опорных функционалов, аналогичных теоремам 2.5.6— 7, нам потребуются теоремы разде лимости выпуклых множеств в 5-пространствах.
О п р е д е л е н и е 13. Пусть А' и I — два множества из не которого банахова пространства 5 . Линейный непрерывный функ
ционал с ф 0, определенный на 5 , называется |
разделяющим мно |
|||||||
жества X и У, если существует действительное число а, |
такое, |
что |
||||||
(с, х ) ^ а ^ (с, |
у) |
при всех |
х ^ Х и г/еУ, |
или, |
иначе говоря |
|||
inf (с, х) > |
a >sup |
(с, у). |
|
|
|
|
|
|
х € Х |
y £ Y |
|
либо s u p (c ,y )< a , |
то |
говорят |
о |
||
Если |
либо |
inf (с, х ) > а , |
||||||
|
|
л-ex |
ysY |
(с, х) — а, |
то функ- |
|||
строгом разделении этих множеств. Если inf |
х&Х
цнонал с часто называют опорным ко множеству X.
Справедливы следующие две теоремы, имеющие широкое при менение при исследовании экстремальных задач в функциональных пространствах.
Т е о р е м а 5. Пусть X — выпуклое множество банахова прост ранства 5 , содержащее хотя бы одну внутреннюю точку (Х ° Ф 0 ), и пусть У — непустое выпуклое множество в 5 , причем Х °[\¥ =0.
§ П |
Вспомогательные сведения |
241 |
|
Тогда существует функционал с, разделяющий эти два множества. Если X и У имеют общую граничную точку хо, т о
inf (с, х) = |
sup (с, у) = (с, х0) = а. |
хех |
,v6у |
Заметим, что в отличие от конечномерного случая ,(см. теоре мы 2.5.4— 5), требование существования внутренней'точки хотя бы одного из множеств в теореме 5 не может быть опущено (см. уп ражнение 5).
Т е о р е м а 6. Пусть X, Y — непустые и непересекающиеся вы пуклые множества в 5-пространстве, такие, что X замкнуто, a Y
компактно |(в частности, У может состоять из одной точки). Тогда |
||
существует функционал I, строго разделяющий X и У. |
||
Доказательство этих двух теорем можно найти в работе [245], |
||
гл. II, § 9 (см. также [88], стр. 452). |
||
Т е о р е м а 7. |
Пусть множество U банахова пространства В |
|
выпукло |
и имеет |
хотя бы одну внутреннюю точку (в частности, |
возможно |
I / s B ) . |
Тогда, для того чтобы функционал J (и) во всех |
точках иеС/ имел опорный функционал, необходимо и достаточно,
чтобы J (и) был выпуклым |
на U и для всякой точки v ^ U суще |
ствовала постоянная L = L ( v ) ^ 0, такая, что J ( u ) ^ J ( v ) — L (v )X |
|
•Xllw— oil при всех net/ . |
|
Д о к а з а т е л ь с т в о . |
Необходимость доказывается так же, |
как в теореме 2.5.7. |
|
Д о с т а т о ч н о с т ь . Пусть /(и) выпуклый на U и для каждого o e t/ существует постоянная L — L ( v ) ^ 0, такая, что J(u )^ tJ(v ) —
— L\\u— и|| при всех n et/ . По аналогии с доказательством теоремы
2.5.7 введем банахово пространство В\— Е хх В |
элементов х = (|, и ), |
1 — действительное число, « е В ; в качестве |
нормы х возьмем |
1М1в,= ||| +||ы||в. Зафиксируем точку n et/ и в |
рассмотрим два |
множества: |
|
X = { х = (|, и) : « 6 U, 1 < J (о) — Ь\\и— г»И}
и
Y = {y = & и): и d U, l > J { u ) } .
Очевидно, множества X и У выпуклы в В\ и не имеют общих внутренних точек — это проверяется так же, как в теореме 2.5.7. Покажем, что множество X имеет внутреннюю точку. По условию
множество |
U имеет внутреннюю точку v0. Это значит, что сущест |
||
вует |
шар |
||и— и0||=^б |
(6 > 0 ) , целиком принадлежащий U. Пока |
жем, |
что точка х0= ( | 0, wo), где l o = J ( v ) —L\\v—v0\\—6 (1 + L ), яв |
||
ляется внутренней для X. Для этого достаточно показать, что шар |
|||
К = { х : ||а—АоНв.г^б} |
принадлежит X. Возьмем произвольную точ |
||
ку x = ( i , |
и)(=К, т. е. |
||а—a0||B i= ||— |о|+1|и— Уо11^б. Отсюда |
IIй — w0 | | < 6 , ! 0 — б 5 < ^ т б.
242 МЕТОДЫ М И Н И М И З А Ц И И В ФУНКЦ И ОНАЛЬНЫ Х ПРОСТРАНСТВАХ [ Г л . (Р
Поэтому u £ U |
и |
|
|
|
|
|
|
|
|
|
|||
|
K U |
+ |
b = J(v) — L\\v — w0|— 8(1 + L) + Ь = |
|
|
||||||||
|
|
= |
J{v) — L |v — и + и — v01 — 8L < / (о) — |
|
|
||||||||
|
— Z-1|гг— v |+ |
L |и — о0|— L8 < J (ь) — L\\u — п||. |
|
|
|||||||||
Таким'образом, |
|
если х = |
(|, и) 6 К, |
то и 6 U и £ < / ( ц ) — L\\u — v\\v |
|||||||||
т, е. х 6 X. Следовательно, К с : Х |
и х0— внутренняя точка X . |
||||||||||||
Точка |
x = ( J ( v ) , |
v) является |
общей граничной точкой мно |
||||||||||
жеств X и У. В силу теоремы 5 существует разделяющий эти мно |
|||||||||||||
жества |
функционал |
с=^0: (с, |
х) ^ (с, х ) = а ^ |
(с, у) |
при всех' |
||||||||
х е Х , y^.Y. |
Заметим, |
что всякий |
функционал с из сопряженного’ |
||||||||||
пространства |
В х |
представим в виде с = (vo, /о), |
где vo — |
действи |
|||||||||
тельное |
число, |
|
|
|
и результат |
применения |
с |
к элементу х — |
|||||
— (I, и) |
можно записать в виде (с, х) =Vo£-|-t(A), «)• Поэтому усло |
||||||||||||
вие разделимости множеств X и У перепишется в виде vog+i(^o, |
|||||||||||||
^ v 0J (v) + |
(lQ, |
v) ^ v0ii+ |
(k, и) при всех (£, m) g JC и (if, u )^ Y , или |
||||||||||
vo{^— |
|
(/о, |
и— и) ^ v 0[r|—J(v)] |
при всех « e f/ , |
т)^/(ы ) |
и ^ |
|||||||
^ •J(v)— L\\u—v\\. Эти |
|
неравенства |
совпадают с |
(2.5.5), |
и |
даль |
нейшее доказательство проводится так же, как в теореме 2.5.7. Д , Во внутренних точках множества U существование опорного функционала может быть доказано при условиях, отличных от ус
ловий предыдущей теоремы.
Т е о р е м а |
8. Пусть |
U — выпуклое множество банахова про |
странства В, |
имеющее |
внутренние точки (возможно U— B), и |
пусть выпуклый на U функционал J (и) ограничен сверху в окрест ности некоторой точки v0, являющейся внутренней точкой U. Тогда
J {и) имеет |
опорный функционал во |
всех |
внутренних точках мно |
|||
жества V. |
|
|
|
|
|
|
Д о к а з а т е л ь с т в о . |
Как и в предыдущей теореме, введем |
|||||
банахово пространство |
В \= Е \ Х В элементов х — (£, и) |
с нормой |
||||
IUIIb, = |i| +11«11в- В |
этом |
пространстве |
рассмотрим |
множество |
||
X = { x = i ( i , |
и) : u^.U, |
|
Очевидно, X — выпуклое множест |
|||
во в В\. Покажем, что X имеет внутреннюю точку. По условию |
||||||
/(«) ограничен в окрестности некоторой |
внутренней точки v0, по |
|||||
этому существуют такие постоянные А и |
5 > 0 , что J (и) ^.А для |
|||||
всех u^.U, |
||и— Оо11^б. Так как v0 внутренняя точка множества U> |
|||||
то можем |
считать, что шар ||и— ооН^'б целиком принадлежит U„ |
|||||
Покажем, что тогда точка |
х0= ('|0, &о), |
где |0=.4-|-6, |
является |
|||
внутренней для X. Для этого достаточно показать, что шар |
||||||
|
К =-{.r:||x — x0|B l< 6 } |
|
||||
принадлежит X. Пусть |
|
(£, и) ^ К , |
т. е. |
|
|
|
|
. II* — * 0lk = |
l i — iol + |
Ци— у01 К б- |
|
§ П |
|
Вспомогательные сведения |
|
|
|
243 |
|
Отсюда |
||и— ио11<'6, £о— & < !< ;£ о + б . Поэтому |
б= |
Л > / (« ) |
||||
для всех |
« из |
\\и— г>о11^б. Таким образом, |
если |
х = (£, |
ы)е/<С, то |
||
u ^ U , а |
|
т. е. х е ^ , |
Следовательно, |
/(с=К п хо— внутрен |
|||
няя точка X. |
|
|
|
|
|
_ |
|
Возьмем произвольную |
внутреннюю точку |
о е У . Точка |
х = |
||||
,=-(/(и), п) является граничной для X. В силу теоремы 5 суще- |
|||||||
ствует функционал с = (v0, |
lo) ФО, разделяющий |
множество |
X и |
||||
точку х : (с, х) ^ |
(с, х) или (с, х— х) = v o (£ —/ (о )) + |
(10, и— о) ^ 0 |
при |
всех «е/7, £^ / (w ). Полученное неравенство совпадает с неравен ством (2.5.4) и дальнейшее доказательство такое же, как в теореме
2.5.6. А
Заметим, что принятое в теореме 8 требование ограниченности сверху J (и) в окрестности некоторой внутренней точки v0 равно сильно непрерывности /(«) в этой точке — это следует из теоремы
2.5.8.
Ряд других теорем, содержащих различные условия слабой полунепрерывное™ снизу функционалов, существования опорных функционалов, а также выражающих связи этих понятий с выпук лостью, гладкостью, ограниченностью функционалов см., например,
вработах [46, 73].
5.Как и в конечномерном случае, в теории выпуклого програм мирования в бесконечномерных пространствах важное место зани мает теорема Куна—Таккера. Здесь ограничимся следующим ва
риантом этой теоремы. |
_ |
Т е о р е м а 9. Пусть' U— {и : w e [Л, |
g i(u )^ .0, i = 1, 2, ..., s}, |
где Ui — заданное выпуклое множество |
из банахова пространства |
В, функционалы gi(u), i = |
1, 2, ..., s, определены и выпуклы на t/j. |
|
Пусть |
множество Ui удовлетворяет следующему условию регуляр |
|
ности: |
для любого вектора |
l ^ E s, 1Ф 0 существует элемент n e t/ ь |
такой, что (/, g '(u ))< 0 , где g = (gu ..., g-s). Тогда, для того чтобы выпуклый на Ui функционал J (и) достигал в точке u *et/ i своего минимума на U, необходимо и достаточно существования точки
Я* = (Xi, . . . , Я5) 6 E s, Я > 0, такой, что пара |
(ы*, |
Я*) образует сед |
||||
ловую |
точку |
функционала Ь(и, |
Я) ==/(ы)-}-(Я,' |
g(u)) |
в области |
|
UiXAi, |
Ai = |
{Я : Я е £ 8, Я ^ О } в |
следующем |
смысле: |
Ь (и *, Я) ^ |
|
^ L ( u * , |
Я *)^ 1L(u, Я*> при всех w et/ь Я еЛ ь |
|
|
|
Доказательство этой теоремы проводится дословно также, как и теоремы 2.10.2. Теорему Куна — Таккера в более общей форму лировке и различные ее приложения см., например,, в работах [73, 119, 135, 141, 199, 256] и др.
6. Наконец, остановимся на классе сильно выпуклых функцио налов в гильбертовых пространствах.
О п р е д е л е н и е 14. Функционал J (и), определенный на вы
244 |
МЕТОДЫ М И Н И М И З А Ц И И В ФУНКЦ И ОНАЛЬНЫ Х ПРОСТРАНСТВАХ [ Г л . 5 |
|
пуклом множестве U гильбертова пространства, называется сильна |
||
выпуклым, |
если существует такая постоянная х > 0 , что |
|
J |
(аи + |
(1 — а) и) -< a J (и) + (1 — а)J(v ) — иа (1 — а) |и ■— v |2 |
при всех и, v ^ U н всех а, 0 ^ а ^ 1 .
Очевидно, сильно выпуклый функционал J (и) будет выпуклым: и даже строго выпуклым. Примером сильно выпуклого функцио нала является J (и) = ||«||2 с х = 1.
Нетрудно убедиться, что теоремы 2.1.4— 6 и их доказательства остаются справедливыми и в Я-пространствах, нужно лишь в фор мулировках и доказательствах этих теорем слово «|функция» заме нить на «функционал», Ет на Я.
Т е о р е м а |
10. Пусть U — |
замкнутое |
выпуклое |
множество |
|||
гильбертова пространства |
Я |
(в |
частности, |
возможно |
Я = Я ) , а |
||
/ ( « ) — сильно |
выпуклый |
непрерывный функционал |
на |
И. Тогда: |
|||
1) J (и) ограничен снизу на |
U: |
inf J(u) = J * > — оо; |
2) |
существу- |
|||
|
|
|
U E .U |
|
|
|
ет и притом единственная точка u*^ U , в которой достигается ниж
няя грань J (и) на U: |
/ (« * )= / * ; |
3) множество |
M(v) — { u :u ^ U , |
J ( u ) ^ . J ( v ) } выпукло, |
замкнуто |
и ограничено |
при любом u g U. |
Эта теорема доказывается точно так же, как и теорема 2.1.7, однако вместо классической теоремы Вейерштрасса здесь следует использовать теорему 4. Заметим, что в теореме 10 в отличие от теорем 1,4 ограниченность множества U не требуется.
При изложении-методов минимизации, как и в конечномерном случае, нам понадобится понятие проекции элемента на мно жество.
О п р е д е л е н и е 15. Проекцией точки и на множество U в Д-пространстве называется точка P u (u )^ U , удовлетворяющая ус
ловию ||«—Ри(и)\\ — р(и, |
U), |
где р (и, 0) = inf ||«— п||— расстояние |
от точки и до множества |
U. |
V C .U |
|
||
Очевидно, если ие1/, то |
Рц\(и)— и. Теорема 2.3Л и ее дока |
зательство без изменений сохраняют силу в гильбертовых простран ствах.
Упражнения. 1. Сохраняют ли силу утверждения, высказанные в упражнениях 2.1.1 — 13, 2.5.1— 6, в Я-пространствах? В-простран- ствах?
2. Доказать, что множество U = { u — u ( t ) ^ L 2[0, 1], | ii(f)| ^ l, не имеет внутренних точек в L2[0, 1]. Будет ли U компакт
ным в Z.2[0, 1]? Слабо компактным?
3. Пусть a {t), p ( f ) — некоторые функции из L2[0, 1], a ( t ) ^ sS^P (t), 0 ^ < 1 . Доказать, что U = {u = u (t) e L 2[0, 1], a{t) ^ u (t) <C =^p(f), O^fssCl} слабо компактно в L2[0, 1]. Будет ли U компакт ным в L2[0, 1]? Имеет ли U внутренние точки в L2 [0, 1]? В С[0, 1]?
§ П |
|
|
|
Вспомогательные |
сведения |
|
|
|
245 |
|||
|
|
|
|
|
|
|
||||||
|
|
|
1 |
|
|
|
|
|
|
|
|
|
4. Пусть J (и) = |
| /(ы(0) dt, где /(«)— непрерывная функция на |
|||||||||||
|
|
|
о |
|
|
|
|
|
но может быть раз |
|||
Ei. а) Доказать, что J (и) непрерывен в С[0, 1], |
||||||||||||
рывным в Ь2[0, 1]; |
б) |
Доказать, |
что |
если |
|/(«+/г)—f(u) |^ |
|||||||
^С(|гг| |/i| + |
|A|2) |
при всех и, h ^ E i (С = const ^ 0 ) , |
то |
J (и) не |
||||||||
прерывен в L2[О, II]. |
в) Если /(«) полунепрерывна снизу, |
то будет |
||||||||||
ли /(и) полунепрерывным |
снизу |
в |
С[0, |
1]? 1 2[0, |
1]? |
г) Доказать,, |
||||||
что если f ( u ) ^ C l (Ei) |
и /'(«) удовлетворяет условию Липшица на. |
|||||||||||
Е и то /(«), дифференцируемый функционал в L2[0, |
1]. д) Дока |
|||||||||||
зать, что если f(u) |
выпукла [сильно выпукла] в Ей то J (и) выпук |
|||||||||||
лый |
[сильно |
выпуклый] |
в L2[0, |
1]. |
Следует ли |
из выпуклости |
||||||
[сильной выпуклости] J (и) |
выпуклость [сильная выпуклость] f(u)> |
|||||||||||
е) Доказать, что если /(«) |
выпукла и удовлетворяет условию п. б),, |
|||||||||||
то J (и) достигает своей нижней грани на множестве U из упраж |
||||||||||||
нения |
3. |
|
|
|
|
|
|
|
|
|
и2, |
и11, ...) |
5. В пространстве /2 последовательностей и— (и1, |
.с нормой ||u||=^2lM'l2j ,/* < ° 0 рассмотреть множество U— { u : u e l 2>.
\ип \< |
— , п = \ , |
2, |
...} |
(«гильбертов |
кирпич» |
[88], |
стр. 490). До |
||||||
казать, |
га |
|
|
|
замкнуто, |
ограничено и компактно в /2; |
|||||||
что 1) U выпукло, |
|||||||||||||
2) |
U не имеет внутренних точек в /2; |
3) не существует функциона |
|||||||||||
ла, |
разделяющего U и точку и = ( и \ |
..., ип, ...) , |
\ип |<С-^-, п = 1,2,... |
||||||||||
|
6. |
Доказать, |
что |
в точке |
и = ( и \ ..., ип, |
...), |
для |
которой |
|||||
I ып I = |
—- хотя бы при одном |
|
1, можно провести опорный функ- |
||||||||||
|
|
|
П |
|
|
|
|
|
|
|
|
|
|
ционал ко множеству U из упражнения 5. |
|
|
|
||||||||||
|
7. |
Пусть Р — линейное нормированное пространство всех мно |
|||||||||||
гочленов на отрезке [0, |
1] с нормой |
|
|
|
|
||||||||
и (t) |= |
max |и (t) |
|
|
|
|
|
П |
|
П |
|
|||
Положим |
|
^ (w) — £ ] 1 а;1 для и (t) — ^ |
aLtJ 6 Р. |
||||||||||
|
|
|
o<t<\ |
|
|
|
|
|
|
£=0 |
|
1=0 |
|
|
|
|
|
|
|
|
|
|
|
|
|||
Показать, что J (и) — выпуклый функционал, однако не является |
|||||||||||||
непрерывным на Р. |
( У к а з а н и е. Рассмотреть последовательность |
||||||||||||
un (t)— tn— tn+x.) |
Будет ли J (и) полунепрерывным снизу на Р? |
||||||||||||
|
8. |
Доказать, что функционал /(гг) = ||гг|| |
дифференцируем в- |
||||||||||
LP[0, |
1] I(1 <Ср <С |
оо) |
всюду, |
кроме и = 0, и найти / '(«). |
Будет ли |
||||||||
J(u) |
дифференцируем в Li[0, |
1]? С[0, |
1]? |
|
|
|
|||||||
|
9. |
Доказать, |
|
что |
функционал |
/(и) = ||ц|| в |
Я-пространстве |
||||||
дифференцируем во всех точках и ф 0. Найти J'(u). |
|
|
|||||||||||
|
|
10. Пусть А — оператор из примера 1. Доказать, что если А — |
|||||||||||
положительный |
оператор |
(т. |
е. (Аи, и) ^ 0 |
при |
всех и ^ Н ), то |
2 4 6 МЕТОДЫ М И Н И М И З А Ц И И В ФУНКЦ И ОНАЛ ЬНЫ Х ПРОСТРАНСТВАХ [ Гл. в
функционал J (и) — |
(Аи, и) — (Ь, и) |
из примера 1 выпуклый, и |
||
задачи минимизации J (и) на Н и решения уравнения А и = Ь экви |
||||
валентны. |
|
|
|
|
11. Пусть А — оператор из примера |
1. Доказать, что если А — |
|||
сильно |
положительный |
оператор (т. |
е. |
(Аи, и)^у\\и\\2 при всех |
л е Я , |
Y = c o n s t> 0 ), то |
функционал |
J |
{и) — - i - (Аи, и) — (Ь, и) из |
примера 1 сильно выпуклый и в Н достигает своей нижней грани |
|
на единственном элементе ц*, являющемся единственным решением |
|
уравнения Аи— Ь (это |
обстоятельство лежит в основе метода Рит- |
ца решения уравнений |
А и = Ь ). |
12. |
Доказать, что |
в рефлексивном ^-пространстве |
||с||= |
= т а х |
(с, и) при всех |
c e S * . |
|
Ци|1<1 |
Пусть I ( и ) — выпуклый функционал на выпуклом |
|
|
13. |
откры |
том множестве U S -пространства. Доказать, что следующие четыре утверждения эквивалентны: 1) J (и) полунепрерывен сверху в точ
ке У; |
2) J ( и ) |
непрерывен в точке |
у ; 3) J |
( и ) |
ограничен |
в окрест |
ности |
точки |
у ; 4) J (и) ограничен |
сверху |
в |
окрестности |
точки у |
(см. [73]). |
|
|
|
|
|
14.Для того чтобы функционал /(ы), заданный в S -простран стве был полунепрерывен снизу [слабо полунепрерывен снизу], не обходимо и достаточно, чтобы множество 0 С= {и : J (и) ^ .С } было замкнутым [слабо замкнутым] при любом вещественном С. Дока зать ([46], стр. 97— 99).
15.Если на открытом выпуклом множестве U S -пространства
задан |
конечный выпуклый функционал |
/(«), то |
в каждой точке |
|
v ^ U |
он имеет опорный функционал и, |
следовательно, слабо полу |
||
непрерывен снизу. Доказать ([46], стр. 104— 107). |
|
|||
16. |
Слабо полунепрерывный снизу функционал J{u ), удовлет |
|||
воряющий условию ТТгтГ J (и) = -]-оо, |
в рефлексивном S -прост- |
|||
ранстве достигает своей нижней грани- |
([46], стр. 119). Доказать. |
|||
17. |
Доказать, что /(а) = ||ы— «0И на любом выпуклом замкну |
|||
том множестве U рефлексивного S -пространства |
достигает своей |
|||
нижней грани (теорема существования |
проекции «о на U или эле |
|||
мента |
|
наилучшего приближения к заданному элементу и0^ В ) . |
||
18. |
Пусть U — множество из S -пространства |
с непустой внут |
||
ренностью, и пусть для некоторого функционала |
c e S * известно, |
|||
что <(с, м ) = 0 при всех u^U . Доказать, |
что тогда с = 0 . |
19. Прямым произведением двух линейных пространств S i и
S 2 называется линейное пространство S = |
S i X S o упорядоченных |
пар х — (х\, х2), у = ( у ь £/г) •••, где x ^ .y ^ B i |
(j— 1, 2) с правилами |
сложения х-\-у— (-*ч+Яь Яг+г/г) и умножения на число а х = (axi,
§ 2} |
Некоторые методы |
минимизации функционалов |
|
247 |
||
ах 2). Доказать, что если |
В\ |
и В 2 — банаховы |
пространства, та |
|||
В = В \ Х В 2 также банахово с нормой ||x |= ||x iIIb , +1М1в3, |
и сопря |
|||||
женное к В пространство В * представимо в виде В = |
В\ х |
В2. |
||||
20. |
Теорема Мазура |
гласит ([127], стр. |
173): |
если последо |
||
тельность щ, |
« 2 ...... «в, |
в линейном нормированном |
(в частности, |
в |
банаховом) |
пространстве В слабо сходится к элементу и, то для |
|
всякого е > 0 |
найдется такая выпуклая комбинация |
||
п |
п |
п |
|
£ |
щщ ^сс; > |
0, ^ |
ссг = 1) элементов {«,}, что ||и— ^ а ;П;||<8. |
<=i |
г=1 |
t= 1 |
Вывести отсюда утверждение, использованное при доказательстве теоремы 3.
У к а з а н и е . Применить теорему Мазура к последовательности
«а, tih+i, ..., ип, ... при 6 = — , k — \, 2, ....
в
§ 2. НЕКОТОРЫЕ МЕТОДЫ МИНИМИЗАЦИИ ФУНКЦИОНАЛОВ
Пусть J.(u) — некоторый функционал, определенный на мно жестве U //-пространства. Будем рассматривать задачу минимиза
ции J (и) на |
U, |
понимая |
под этим следующие вопросы: 1) найти |
||||
J* = inf J |
(и); |
2) |
указать последовательность {un} ^ U , для которой |
||||
U&U |
J*, |
или же, |
если это |
возможно, |
найти точку |
u *^ U , |
|
lim J(u n) = |
|||||||
—>00 |
|
|
|
|
|
|
|
такую, что / (« *)= / * . |
|
|
|
|
|||
Описание |
наиболее |
известных |
и часто |
применяемых |
методов |
минимизации функционалов в Я-пространствах внешне ничем не отличается от описаний аналогичных методов в конечномерных
пространствах. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
1. |
Градиентный |
метод |
(случай Я = Я ) . |
|
Предполагается, |
что |
|||||||||||||
/ (и )е С ‘ (Я ). |
|
Строится последовательность {ип} |
по правилу ([3, |
27, |
|||||||||||||||||
35, |
46, |
47, |
57, |
59, |
75, |
82, |
102, |
111, |
135, |
147, |
148, |
155, |
161, |
164, |
171, |
||||||
193, |
|
229, 244, |
255]): |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
«п+1 = |
un—a nJ'(un), числа |
ап> 0 , |
|
п = 0, |
1, ... |
|
(1) |
||||||||||
Если ]'{ип) Ф 0, |
то можно |
подобрать |
|
а „ > 0 , |
что / (« „ + ])< / (« „ ). |
||||||||||||||||
Это следует из (1.1). Если |
|
при |
каком-либо |
п ^ О |
|
J'(un) — 0, то |
|||||||||||||||
нужно провести дополнительное исследование поведения J (и) в ок |
|||||||||||||||||||||
рестности |
ип для |
выяснения |
того, будет ли |
|
и„ |
точкой минимума |
|||||||||||||||
J (и) |
на Я . |
В частности, |
если J (и) |
выпуклый функционал, |
то необ |
ходимость в таком исследовании отпадает, так как согласно теоре ме 2.1.3 в точке ип, где J'(un) = 0, достигается минимум J (и) на Я .
Здесь и во всех излагаемых ниже методах начальная точка «0^1/ предполагается известной. На практике начальное прибли-
248 МЕТОДЫ М И Н И М И З А Ц И И В Ф У НКЦ И О НАЛ ЬНЫ Х ПРОСТРАНСТВАХ [Гл. 6
жение выбирают исходя из конкретных особенностей задачи; об щих правил выбора ио, к сожалению, не существует.
В зависимости от способа выбора а п в (1) можно получить различные варианты градиентного метода. Перечислим некоторые из них:
|
а) |
а„ |
определяется из условия ming„ (a)= g„ (а,г), г д е £ „ (а ) = |
||||||||||||||||
~ J ( u n— a J'(u n)) |
|
|
|
а>0 |
|
|
|
метода |
принято |
||||||||||
— этот вариант |
градиентного |
||||||||||||||||||
называть методом скорейшего спуска; |
|
|
|
|
|
|
|
|
|||||||||||
|
б) |
если IJ' (и) — J ’ (v)I < L ||и — v\ при всех и, v £ H , L = |
const > О, |
||||||||||||||||
то |
a„ |
может быть |
выбрано |
из условий |
ех < |
а„ < |
|
2 |
|
где |
ех, |
||||||||
L + 2в |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
’ |
|
||||
в — параметры алгоритма, выбираемые вычислителем, 0 ■<е1 < |
2 |
|
|||||||||||||||||
L + |
2е |
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
0. |
В частности, |
возможно е = |
— |
, ех = |
а п = — |
; |
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
2 |
|
|
|
L |
|
|
|
|
||
|
в) |
а„ выбирается из условия |
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
J |
(ы„) — J |
(и„ — anJ' (и,,)) > |
ect2|J' |
(ип) f , |
a„ > 0 , |
|
|
|||||||||
где |
e — параметр алгоритма, |
е > 0 ; |
|
|
|
|
|
|
|
|
|
||||||||
|
г) |
ап = |
р„ I J ’ (ип) ||-‘, где {Р,,}— произвольная последовательность |
||||||||||||||||
со |
свойствами |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
00 |
|
|
|
|
|
|
|
|
|
|
||
р * > 0 , |
Р „->0 |
(п ->оо), У |
рп = + о о |
/^например, |
р„ = |
— |
|
||||||||||||
|
|
|
|
|
|
|
t o |
|
|
' |
|
|
|
|
|
“ + |
1 ' |
||
|
д) |
если |
заранее |
известна |
величина J* = |
inf J (и), |
то можно взять |
||||||||||||
= |
|
|
|
. |
|
|
|
|
|
|
Н |
|
|
|
|
|
|||
п |
|
| / ' |
Ы |
Р |
’ . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
е) в некоторых случаях отправляются от некоторого началь |
||||||||||||||||||
ного a „ = a |
и, произведя необходимые дробления а, |
ограничивают |
|||||||||||||||||
ся таким выбором а п, чтобы / (un+i) < / (ип) . |
|
|
|
|
|
||||||||||||||
|
Приведем теорему сходимости метода скорейшего спуска. |
|
|||||||||||||||||
|
Т е о р е м а |
1. |
Пусть функционал |
/(«) |
определен на |
гильбер |
|||||||||||||
товом |
пространстве Н, J (и) 6 С1 (#), |
inf J (и) = У* > |
— оо, |
и гради- |
|||||||||||||||
■ент У {и) |
|
|
|
|
|
|
|
и е и |
|
|
||/'(ы)—/'(и) |^L||«— |
||||||||
удовлетворяет условию Липшица |
|||||||||||||||||||
— w||, L = c o n s t> 0 , |
и, а е Я ; |
Пусть |
{ип} — последовательность, |
по |
|||||||||||||||
лученная |
методом |
скорейшего |
спуска |
при |
некотором |
начальном |
|||||||||||||
и0^ Н |
(см., выше, |
п. а)). Тогда |
Нш |
(и„) = |
0. |
Если, |
кроме того, |
||||||||||||
|
|
|
|
|
|
|
|
|
.Д— *оо |
|
|
|
|
|
|
|
|
J {и) выпуклый функционал и множество Ми(и0) = { и : J (и) ^ / (ы 0)} ограничено, то последовательность {ип} является минимизирующей
§ 2] Некоторые методы минимизации функционалов 249
и любая ее слабая предельная точка будет точкой минимума /(«) на Я , причем в случае единственности точки минимума к ней слабо сходится вся последовательность {м„}; справедлива оценка скоро сти сходимости
|
П , л = 1 - 2 , |
где D = sup |
|и — у |— диаметр множества М(и0). |
u,v£M(ua) |
|
Если / («), |
кроме того, сильно выпуклый функционал на Я , то- |
{]ип} сходится к единственной точке минимума и* по норме прост
ранства Я , |
причем |
|
|
|
|
|
0 < / ( и п) |
J |
[J (ио) |
J ]уп> II ип |
и ||2 |
|
< — [J Ы — |
= |
|
||
где <7 = 1 — |
0 < < 7 < |
1, а р ]> 0 |
константа |
из теоремы 2.1 .4 - |
|
Доказательство этой теоремы полностью |
аналогично доказа |
||||
тельству теоремы 2.2.1. |
В |
частности, |
вывод (2.2.5— 6 ) остается та |
ким же, только лишь для обоснования существования точки и* из
оценки (2 .2 .6 ) здесь нужно использовать выпуклость, |
замкнутость, |
и ограниченность множества M(uo) и сослаться на |
теорему 1.4. |
Существование хотя бы одной слабой предельной точки о* после
довательности {tin} следует из слабой компактности М (и0) |
(см. |
|||||||||||||||||
теорему 1.2). Пусть Unk~+v* слабо в Я . |
Тогда равенство J ( v * ) = J * |
|||||||||||||||||
вытекает из слабой полунепрерывности J (и) |
(см. |
теорему |
1.3) и |
|||||||||||||||
соотношений |
J* = |
lim J (ип) = |
lim J (ип ) > J |
(о*) |
J*. |
Все |
|
осталь- |
||||||||||
|
|
|
|
|
П -> оо |
|
k -* o o |
|
|
|
|
|
полностью |
со |
||||
ные рассуждения из доказательства теоремы 2 .2 .1 |
||||||||||||||||||
храняют силу и здесь. |
|
|
|
|
|
|
параметр а п |
|
|
|||||||||
|
Сходимость градиентного |
метода, |
когда |
из |
(1) |
|||||||||||||
выбирается согласно п. б), следует из теоремы 2 |
при Я = Я |
(см. |
||||||||||||||||
ниже). |
|
|
|
|
|
|
|
(случай 1]ф Н ). |
|
|
|
|
|
|||||
|
2 . Метод проекции градиента |
Предполагает |
||||||||||||||||
ся, |
что /(м )еС *(£/). |
Строится последовательность |
{ип} по прави |
|||||||||||||||
лу |
([9, |
10, |
31, |
35, |
75, |
97, |
124, |
135, |
155, |
158, |
159, |
171, |
179, |
189, |
193, |
|||
244, 255, 267]) |
* |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
ип+ 1 = |
Ри (ип— a nJ' («„)), числа а п> |
0, |
п = |
О, |
1, . . . , |
|
(2> |
в предположении возможности указанной здесь операции проек
тирования точки |
ип— otnJ'(Un) на множество U. |
а п в (2): |
|
Перечислим |
некоторые способы выбора параметра |
||
а) |
если |
||/'(«)— J'{v) ||^L||u— v\\ при всех и, v<=U, L = con s |
|
> 0 , то ссп может быть выбрано так.ж е, как в пункте 1 |
б); |