29. Какая основная особенность градиента используется в методах оптымизации?

30. Опишите общую схему градиентных методов.

31. В чем состоят особенности методов второго порядка (Метод Ньютона и его модификации)?

32. Опишите схему метода Ньютона.

Для того чтобы построить более эффективную по скорости сходимости стратегию поиска, следует дополнительно привлечь информацию о вторых производных целевой функции, что позволяет реализовать нелинейную (квадратичную) аппроксимацию целевой функции. С этой целью разложим целевую функцию в ряд Тейлора

Отбрасывая все члены разложения третьего порядка и выше, получим квадратичную аппроксимацию f(x):

На основе квадратичной аппроксимации функции f(x) сформируем последовательность итераций таким образом, чтобы во вновь получаемой точке x⁽^k⁺¹⁾ градиент аппроксимирующей функции обращался в нуль. С этой целью продифференцируем (7.25) по Δx с учетом того, что все остальные компоненты являются константами. В результате получим

33. Какие недостатки метода Ньютона? Дайте их характеристику

– предполагает вычисление вторых производных, что может быть связано с существенными трудностями;

– очень чувствителен к выбору стартовой точки, т.е. может расходиться, если целевая функция не является выпуклой, а начальное приближение находится достаточно далеко от точки минимума.

35. Структурная идентификация

В общем случае критерии k_i(x) имеют различный смысл, размерность, интервал и шкалы измерения, т.е. не сравнимы между собой. Поэтому сначала их необходимо привести к некоторому общему базису (изоморфному виду). При этом процедура приведения должна быть однотипной для всех критериев, не зависеть от их смысла и отражать представление ЛПР о предпочтительности различных значений оценки. Такая базовая оценка может быть интерпретирована как функция полезности частных критериев

37. Принцип последовательной (лексикографической) оптимизации.

Наибольшая трудность анализа любого крупного технического и народнохозяйственного проекта заключается в необходимости решения задачи многокритериальной оптимизации для управления его характеристиками. При этом многокритериальную задачу желательно свести к однокритериальной задаче, сформулировав единую цель при множестве критериев:

Однако математика не может на это дать однозначного ответа (добиться оптимизации всех критериев одновременно невозможно в принципе), но может помочь принять решение и сделать правильный выбор. Реально возможно достичь только некоторого компромисса (сочетания требуемых качеств). В некоторых случаях эффективным методом сведения многокритериальной задачи к однокритериальной является расстановка приоритетов. В этом случае в многокритериальной задаче оптимизации на множестве допустимых решений задаются лексикографические отношения предпочтения: все критерии можно ранжировать (строго упорядочить) по важности так, что при последовательном рассмотрении критериев вначале используется первый критерий, затем второй и т.д. Задание набора ранжированных критериев ,,…,при синтезе сложной системы позволяет выделить некоторые стратегии в качестве оптимальных, упорядочить все стратегии по степени их предпочтительности (так располагают слова в словаре) и свести многокритериальную задачу клексикографической [1].При отсутствии случайных и неопределенных факторов (детерминированной) в лексикографической задаче каждой стратегии соответствуют определенные числовые значения частных критериев. Оптимизация структуры и свойств сложной системы, состоящей из взаимосвязанных подсистем, находящихся на разных иерархических уровнях, легко представляется в лексикографической форме.

Как уже отмечалось, при сравнении двух стратегий в первую очередь используется первый критерий: лучшей считается та стратегия, для которой значение этого критерия больше. Если значения первого критерия для обеих стратегий равны, то применяется второй критерий и предпочтение отдается той стратегии, для которой его значение больше. Если и второй критерий не позволяет выделить лучшую стратегию, привлекается третий и т.д.

Лексикографическое отношение предпочтения задается в виде:

- стратегия предпочтительнее стратегииv (обозначается ), если выполняется одно изусловий: