книги / Системы экстремального управления
..pdfЛ, А. РАСТРИГИН
СИСТЕМЫ
ЭКСТРЕМАЛЬНОГО
УПРАВЛЕНИЯ
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
Мо с к в а 1 9 7 4
ТЕОРЕТИЧЕСКИЕ
ОСНОВЫ
ТЕХНИЧЕСКОЙ
КИБЕРНЕТИКИ
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
М О С К В А 1974
6ф6.5 P 24
УДК 62-5Q
Системы экстремального управлення. Л. А. Р а- с т р и г и н, Главная редакция физико-математи ческой литературы изд-ва «Наука», М., 1974, 632 стр.
Книга посвящена введению в проблему оптими зации и экстремального управления сложными объек тами в обстановке неопределенности.
В ней рассматриваются и анализируются поиско вые алгоритмы решения экстремальных задач различ ного вида: одно- и мпогопараметрических, статических, динамических, одно- и многоэкстремальных, одно- и многокритериальных и т. д. Анализируются регуляр ные и статистические алгоритмы поиска. Исследуются процессы поиска оптимального состояния в экстре мальных объектах различного рода и предлагаются пути улучшения алгоритмов поиска, учитывающих специфику объектов. Описаны конструкции экстре мальных регуляторов и оптимизаторов.
Книга рассчитана на инженеров и научных работ ников, занимающихся исследованием и разработкой систем экстремального управления, а также на лиц, интересующихся применением методов оптимизации сложных систем.
Табл. 3. Илл. 312. Библ. 263 назв.
© Издательство «Наука», 1974.
Р30501—032 ^ус; 7/ 053(02)-74
ОГЛАВЛЕНИЕ
Предисловие |
|
|
|
|
|
|
|
|
|
9 |
|
В ведение........................... |
|
|
|
|
|
|
|
|
|
13 |
|
§ |
0.1. Управление . . . . |
|
|
|
|
13 |
|||||
§ 0.2. Экстремальность |
управления.................... |
|
|
16 |
|||||||
§ 0.3. Структура управления (универсальность экстре |
19 |
||||||||||
|
|
мального управления) |
|
|
|
|
|||||
Г л а в а |
1. |
Типы управления |
|
|
|
|
26 |
||||
§ |
1.1. |
Жесткое |
управление |
|
. |
|
|
26 |
|||
§ 1 .2 . |
Регулирование . . . |
|
|
. |
30 |
||||||
§ |
1.3. |
Настройка |
(экстремальноеуправление) . |
33 |
|||||||
§ |
1.4. Общность |
и |
различие |
|
регулирования |
по |
38 |
||||
|
|
отклонению |
и |
настройки |
|
|
|
||||
Г л а в а |
2. Задачи и объекты экстремальногоуправления |
42 |
|||||||||
§ |
2.1. Классификация задач экстремального управле |
42 |
|||||||||
|
|
ния . . . |
|
|
|
. . . |
..................... |
|
|||
§ 2.2. Классификация |
объектов |
экстремального |
43 |
||||||||
|
|
управления. Примеры |
|
.......................... |
|
|
|||||
§ 2.3. Постановка задачи оптимизации. Объекты опти |
59 |
||||||||||
§ |
|
мизации |
. |
|
|
|
. . . |
||||
2.4. Постановка задачи экстремального регули |
70 |
||||||||||
|
|
рования . |
|
|
|
управления |
регулиро |
||||
§ 2.5. Замена экстремального |
73 |
||||||||||
|
|
ванием |
по |
отклонению |
|
|
|
|
|||
Г л а в а 3. Математические аспекты |
отыскания экстремума |
78 |
|||||||||
|
|
(п = 1) |
|
|
|
|
|
|
|
|
|
§ 3.1. Модели функции качества объектов |
|
|
78 |
||||||||
§ 3.2. Методы |
математического |
анализа |
|
|
86 |
||||||
§ 3.3. Метод |
дихотомии |
|
|
|
|
91 |
|||||
§ |
3.4. Метод |
Кифера |
сечения |
|
|
|
93 |
||||
§ 3.5. Метод золотого |
|
|
|
99 |
|||||||
Г л а в а |
4. |
Шаговые |
алгоритмы |
поиска |
|
|
102 |
||||
§ 4.1. Алгоритм |
с |
парными |
пробами |
|
|
102 |
|||||
§ 4.2. Поиск с непарными пробами.............................. |
рабочими |
111 |
|||||||||
§4.3. Поиск с совмещенными пробными и |
114 |
||||||||||
|
|
ш агами............................ |
|
|
|
|
. |
. . . . |
|
||
§ 4.4. Потери на поиск. Предельный цикл. Потери на |
118 |
||||||||||
§ |
|
рысканье . . . . |
|
|
|
|
|||||
4.5, Адаптация |
поиска |
|
|
|
|
129 |
|||||
Г л а в а 5. Методы улучшения шагового поиска |
131 |
||
§ 5.1. |
Градиентный |
п о и ск .......................... |
131 |
§ 5.2. |
Поиск с линейной экстраполяцией . |
138 |
|
§ 5.3. |
Поиск с квадратичной экстраполяцией |
144 |
|
§ 5.4. |
Обобщение |
экстраполяции |
150 |
Г л а в а |
6. Непрерывные алгоритмы |
поиска |
(безынерцион |
153 |
||||||||
|
ные |
объекты) |
|
|
|
|
|
|
||||
§ 6.1. Непрерывный поиск |
с |
реверсом |
. . |
|
154 |
|||||||
§ 6.2. Синхронное |
детектирование . . |
|
169 |
|||||||||
§ 6.3. Экстремальное регулирование с применением |
176 |
|||||||||||
§ 6.4. |
синхронного |
детектирования . . |
|
|
||||||||
Биологические |
системы поиска |
|
|
182 |
||||||||
Г л а в а |
7. Экстремальное управление непрерывными инер |
187 |
||||||||||
|
|
ционными |
объектами . |
|
|
|
||||||
§ 7.1. |
Модель |
инерционных |
|
объектов . . . |
. |
187 |
||||||
§ 7.2. Поиск с реверсом на инерционном объекте пер |
191 |
|||||||||||
|
|
вого |
рода . . . |
|
............................................... |
|||||||
§ 7.3. Поиск |
с реверсом на |
|
инерционном |
объекте |
198 |
|||||||
|
|
второго |
рода |
|
. |
|
....................................... |
|
||||
§ 7.4. Влияние инерционности объекта на процесс |
203 |
|||||||||||
|
|
поиска методом |
синхронного |
детектирования |
||||||||
§7.5. Улучшение процессов экстремального управ ления инерционными объектами (объекты пер
|
вого |
р о д а ) ....................................... |
|
|
|
|
. . |
209 |
||
§ 7.6. Улучшение |
процессов |
экстремального управ |
|
|||||||
|
ления |
инерционными |
объектами |
(объекты |
217 |
|||||
|
второго |
рода) |
................................... |
|
|
|
|
|||
§ 7.7. Адаптация |
частоты при синхронном детектиро |
225 |
||||||||
|
вании |
инерционныхобъектов |
|
|
||||||
Г л а в а 8. |
Поиск в обстановке помех |
|
|
228 |
||||||
§ 8.1. Модели |
объектов |
экстремального |
управления |
228 |
||||||
|
с помехами........................................................ |
управление в обстановке по |
||||||||
§ 8.2. Экстремальное |
|
|||||||||
|
мех |
.................................................................................. |
|
|
|
|
|
|
|
230 |
§ 8.3. Статистические свойства случайных блужданий |
236 |
|||||||||
|
в процессе |
п ои ск а ............................... |
|
|
. . . |
|||||
§ 8.4. Поиск точного |
положения экстремума в об |
241 |
||||||||
|
становке помех (стохастическая аппроксимация) |
|||||||||
Г л а в а 9. Методы улучшения работы поиска в обстановке |
250 |
|||||||||
|
помех |
|
|
. |
|
|
|
|
|
|
§ 9.1. |
Пороговая |
фильтрация.......................... |
|
|
250 |
|||||
§ 9.2. |
Накопление в процессе поиска с дискретными |
254 |
||||||||
|
помехами.................... |
|
|
|
|
|
|
|||
§ 9.3. |
Самонастраивающаяся |
система |
экстремаль |
257 |
||||||
|
ного |
управления....................... |
|
|
|
|
||||
§ 9.4. |
Последовательное |
накопление.................................. |
в |
процессе |
260 |
|||||
§ 9.5. |
Фильтрация непрерывной помехи |
|
||||||||
экстремального управления |
265 |
Г л а в а |
10. Глобальный |
поиск . . . |
. |
одномерных |
270 |
|||||
§ 10.1. Модели |
многоэкстремальеых |
270 |
||||||||
|
объектов.............................................. |
|
|
|
|
|
|
|
||
§ 10.2. Глобальный поиск на объектах без помех |
272 |
|||||||||
§ 10.3. Глобальный поиск в обстановке помех |
280 |
|||||||||
Г л а в а 11. Задача |
многопараметрпческой |
оптимизации |
285 |
|||||||
§ |
11.1. Особенности |
задачи |
многопараметрического |
285 |
||||||
§ |
экстремального |
управления.............................. |
|
|
||||||
11.2. Примеры |
многопараметрических объектов оп |
290 |
||||||||
|
тимизации |
. . |
|
|
|
|
||||
§ 11.3. Геометрия поиска........................................ |
|
|
|
|
298 |
|||||
§ 11.4. Модели многопараметрических объектов |
305 |
|||||||||
§ 11.5. Идентификация объектов оптимизации |
313 |
|||||||||
Г л а в а |
12. Математические аспекты задачи многопарамет |
321 |
||||||||
|
рической |
оптимизации . |
|
|
|
|||||
§ |
12.1. Задачи |
оптимизации |
в |
открытой |
области |
|
||||
|
(необходимые |
и |
достаточные условия экст |
321 |
||||||
§ |
ремума) |
.................................................................... |
|
|
|
|
|
|
||
12.2. Задачи оптимизации при наличии ограничений |
328 |
|||||||||
§ 12.3. Метод штрафных функций . |
|
|
||||||||
Г л а в а |
13. Математические |
основы |
поисковых |
методов |
333 |
|||||
|
оптимизации |
|
|
|
|
|
|
|||
§ |
13.1. Метод |
итераций |
|
|
|
|
|
333 |
||
§ |
13.2. Метод Зайделя . . |
|
|
|
|
335 |
||||
§ |
13.3. Метод |
релаксации |
|
|
|
|
337 |
|||
§ |
13.4. Метод |
Ньютона |
|
|
|
|
|
339 |
||
Г л а в а |
14. Методы |
покоординатного |
спуска |
|
|
344 |
||||
§ 14.1. Метод |
Гаусса — Зайделя ................................... |
параметров |
344 |
|||||||
§ 14.2. Работа |
метода |
в пространстве |
346 |
|||||||
§ 14.3. Модификации |
метода |
Гаусса — Зайделя |
353 |
|||||||
§ 14.4. Метод Розенброка............................. |
касательных |
|
356 |
|||||||
§ 14.5. Метод параллельных |
|
359 |
||||||||
Г л а в а |
15. Градиентные |
методы |
поиска |
|
|
361 |
||||
§ 15.1. Метод |
градиента................................................. |
|
|
|
|
361 |
||||
§ 15.2. Работа метода градиента при наличии ограни |
370 |
|||||||||
|
чений |
метода..................................................................градиента в обстановке помех |
||||||||
§ 15.3. Работа |
374 |
|||||||||
Г л а в а |
16. Модификации |
градиентного м етода................. |
поиска |
381 |
||||||
§ 16.1. Адаптация |
в |
процессе градиентного |
381 |
|||||||
§ |
16.2. Метод наискорейшего спуска . . |
|
|
384 |
||||||
§ 16.3. Метод сопряженных |
градиентов |
|
|
391 |
||||||
§ 16.4. Метод тяжелого |
ш арика |
...................... |
|
|
395 |
|||||
§ 16.5. Метод стохастической аппроксимации |
|
401 |
||||||||
Г л а в а |
17. Методы случайного поиска |
|
. . |
405 |
||||||
§ 17.1. Гомеостат Эшби |
|
. . . |
406 |
|||||||
§ 17.2. Случайный поиск с линейной тактикой |
411 |
|||||||||
§ 17.3 Локальный |
случайный |
поиск . . |
. . |
422 |
||||||
§ 17.4. Самообучение |
в |
процессе |
случайного |
поиска |
432 |
|||||
§ 17.5. Коллектив |
оптимизирующих автоматов |
44G |
||||||||
Г л а в а |
18. Непрерывный многопараметрнческнй попек . |
452 |
||||||||
§ 18.1. Синхронное детектирование многопараметриче |
452 |
|||||||||
|
ских безынерционных объектов...................... |
|
|
|
||||||
§ |
18.2. Синхронное детектирование многопараметриче |
459 |
||||||||
§ |
ских инерцнопных объектов.................................. |
|
|
|
|
|||||
18.3. Экстремальное управление с синхронным детек |
467 |
|||||||||
|
тированием ................................................................ |
|
|
|
|
|
|
объ |
||
§ 18.4. Непрерывная оптимизация инерционных |
473 |
|||||||||
Г л а в а |
ектов ...................... |
|
п ои ск |
|
|
|
|
|||
19. Овражный |
|
|
перемен |
477 |
||||||
§ |
19.1. Существенные |
и |
несущественные |
477 |
||||||
|
ные. Понятие |
оврага |
|
|
|
|
||||
§ 19.2. Модели |
оврагов.................... |
|
|
|
|
481 |
||||
§ 19.3. Пример |
овражного объекта |
|
|
|
|
482 |
||||
§ 19.4. Метод оврагов........................................................ |
|
|
|
поиск. |
486 |
|||||
Г л а в а |
20. Глобальный |
многопараметрический |
491 |
|||||||
§ 20.1. Постановка |
задачи глобального |
поиска |
мно |
491 |
||||||
|
гоэкстремальной функции многих |
переменных |
||||||||
§ 20.2. Примеры многоэкстремальных многопараметрп- |
495 |
|||||||||
|
ческих о б ъ е к т о в ........................................................ |
|
многопарамет- |
|||||||
§ 20.3. Модели |
многоэкстромальных |
498 |
||||||||
|
рпчеекпх |
объ ек тов ....................... |
|
|
|
|
||||
§ 20.4. «Независимый» глобальный поиск . |
|
. |
500 |
|||||||
§ |
20.5. «Блуждающий» |
глобальный поиск . . . |
505 |
|||||||
§ 20.6. Случайный поиск с самообучением в роли |
гло |
512 |
||||||||
|
бального |
......................................................................... |
|
|
|
|
|
|
|
|
§ 20.7. «Сглаживающие» алгоритмы глобального поиска |
525 |
|||||||||
Г л а в а |
21. Бсспоисковые системы экстремального управ |
53 |
||||||||
|
ления ............................................. |
|
задачи. Примеры . . . |
|
|
|||||
§ 21.1. Постановка |
|
|
536 |
|||||||
§ 21.2. Методы |
теории |
чувствительности . . |
|
544 |
||||||
§ 21.3. Бесноисковая |
идентификация |
объектов . . |
550 |
|||||||
§ |
21.4. Беспоисковое |
экстремальное |
управление |
с |
557 |
|||||
|
м оделью |
.......................................................................... |
|
|
|
|
|
|
|
|
Г л а в а 22. Многокритериальные задачи экстремального уп |
559 |
|||||||||
|
равления |
....................................... |
|
|
|
|
|
|
|
|
§ 22.1. Постановка задачи. Примеры .......................... |
|
оптимиза |
559 |
|||||||
§ 22.2. Анализ многокритериальных |
задач |
562 |
||||||||
|
ции ....................... |
подход — ранжирование |
критериев |
|||||||
§ 22.3. Первый |
566 |
|||||||||
§ 22.4. Второй подход |
— синтез глобального крите |
569 |
||||||||
|
рия ...................................................................... |
|
|
|
|
|
|
|
|
|
Г л а в а |
23. Аппаратура |
|
экстремального |
управления . |
573 |
|||||
§ 23.1. Особенности аппаратурной реализации алгорит |
|
|||||||||
|
мов экстремального управления...................... |
|
|
|
573 |
|||||
§ 23.2. Промышленные экстремальные регуляторы |
580 |
|||||||||
§ 23.3. Многоканальные |
оптимизаторы |
|
|
|
591 |
|||||
Литературный комментарий |
|
|
|
|
|
|
597 |
|||
Литература |
|
|
|
|
|
|
|
|
609 |
|
Предметный указатель |
|
|
|
|
|
|
|
|
625 |
|
ПРЕДИСЛОВИЕ
Не будет преувеличением сказать, что проблема опти мизации является в определенном смысле, пожалуй, са мой острой проблемой современности. В любой сфере деятельности человек всегда ищет оптимальные решения. Оптимальность является той жар-птицей, за которую стоит заплатить обожженными руками.
За многолетнюю историю оптимизации разработано большое число методов, которые в значительной мере связаны с объектом оптимизации, т. е. опираются на сведения о природе и структуре объекта. Это — разно образные вариационные принципы наименьшего действия, минимальной энергии, максимума и т. д. Применение этих принципов почти целиком зависит от объема априор ных сведений об объекте и требует, как правило, достаточ но полной математической модели объекта. Однако так как именно этих сведений мало (как чаще всего и бывает при решении практических задач), то использование этих методов ограничено или попросту невозможно.
В связи с этим возникла острая практическая необ ходимость в создании достаточно универсального метода решения задач оптимизации объектов при малых априор ных сведениях об них. Таким универсальным методом является поиск, доставляющий информацию, необходимую для отыскания оптимального решения.
Сначала поиск развивался как модификация итератив ного процесса при решении сложных аналитических за дач. Разработанные итеративные методы дали начало тео рии поиска. Аппаратурная реализация поисковых проце дур привела к созданию разнообразных экстремаль ных регуляторов и оптимизаторов и к необходимости теоретического исследования процессов поисковой оптими
зации. Так появилось экстремальное управление как раздел технической кибернетики, который контактирует с теорией итеративных процессов, с одной стороны, теорией автома тического управления, с другой, и теорией планирования экстремальных экспериментов, с третьей.
Эта книга посвящена системам поисковой оптимиза ции — описанию методов поиска и элементарному теоре тическому анализу этих методов, раскрывающему их воз можности. В настоящее время теория поисковой оптими зации развита довольно сильно. Имеются теоретические исследования различных аспектов поиска. Среди них сле дует отметить монографии А. А. Красовского [П. 1], Я. 3. Цыпкина [П. 2], В. М. Кунцевича [П. 3], Г. А. Мед ведева и В. П. Тарасенко [П. 4], Д. Дж. Уайлда [П. 5], М. Вазана [П. 6], автора [П. 7—П. 9], Ковалика и Осбор
на [П. |
10], диссертацию |
В. |
В. Казакевича |
[П. |
22], |
главы |
из монографий А. |
А. |
Фельдбаума |
[П. |
11], |
А. А. Первозванского [П. |
12], |
И. Б. Моцкуса |
[П. |
13], |
|
А. Г. Ивахпенко [П. 14] и другие. Однако эти исследова ния имеют сугубо научный характер и не могут быть ис пользованы инженером в повседневной деятельности. Приятным исключением из этого правила являются кни ги Д. Дж. Уайлда [П. 5] и А. А. Первозванского [П. 15], которые доступно вводят в идеи и методы поисковой опти мизации.
Следует отметить, что учебная и справочная литерату ра по экстремальному управлению имеет несколько одно сторонний характер, так как рассматриваются в основном проблемы экстремального регулирования инерционными объектами и т. д. [П. 16 — П. 21].
Настоящая книга написана инженером для инженеров. Основная цель — просто и доступно изложить основные идеи и направления в области поисковых систем экстре мального управления. По глубокому убеждению автора, научные истины просты в своей основе и доступны всем.
Если жё какой-либо параграф книги оказался для чита теля темным и неясным, то вину в этом автор целиком берет на себя.
Книга предназначена для широких кругов инженеров и лиц, интересующихся проблемой поисковой адаптации сложных систем. В ее основу положен курс «экстремаль* ное управление», который автор читал в течение семи лет на факультете автоматики Рижского политехнического института. Постепенно, год от года, этот курс «обрастал» деталями, пока не принял очертания настоящей книги, которая поэтому в значительной степени имеет учебный характер. Отбор, широта охвата и глубина проработки материала, естественно, определились вкусами автора (так, например, введена специальная глава 17, посвящен ная случайному поиску, к которому автор давно питает симпатию).
Автор предвидит недоумения коллег, которые не най дут обзора своих работ в книге. Единственным оправда нием ему являются бессмертные слова К. Пруткова о не возможности объять... всю проблематику систем экстре мального управления, которая в настоящее время настоль ко широка и так быстро развивается, что попытка сделать мало-мальски полный обзор существующих методов и под ходов приведет к «необъятному» распуханию книги, что одинаково не устроит ни читателя, ни издательство, ни автора. Отбирая материал для книги, автор в разговорах с коллегами, в дискуссиях на конференциях и т. д. убе дился, что по поводу перспективности того или иного ме тода нет не только единодушия, но и двух одинаковых мне ний. Поэтому оценки, выводы и прогнозы книги носят
неизбежно |
несколько субъективный |
характер. |
|
|
Книгу условно можно подразделить на три раздела. |
||
В нервом—самоммалом, включающем введение и первые |
|||
две |
главы, |
обсуждаются общие вопросы экстремально |
|
го |
управления, рассматривается |
соотношение между |
|