1. Задачи математического программирования называются также статическими задачами оптимизации.

Формулировка задачи математического программирования. Найти вектор с компонентами из некоторого допустимого множества , задаваемого в виде ограничений

, (1.1)

который минимизирует (или максимизирует) целевую функцию

,

т.е. или . (1.2)

В зависимости от вида функций и выделены отдельные типы задач, для которых разработаны специальные методы.

Классические задачи оптимизации. Отличаются тем, что среди ограничений, задающих допустимое множество , отсутствуют неравенства, нет условий неотрицательности или дискретности переменных, а функции и непрерывны и имеют частные производные, по крайней мере, второго порядка. Типичными задачами являются задачи на отыскание минимума (или максимума) функции либо в предположении, что на вектор никаких ограничений не накладывается (задачи на безусловный экстремум), либо в предположении, что вектор связан только равенствами (задачи на условный экстремум).

Эти задачи, как правило, могут быть решены классическими методами, основанными на использовании дифференциального исчисления. Трудности возникают при получении численных результатов, поэтому классические методы являются в большей степени теоретическими.

Задачи линейного программирования. Характеризуются тем, что функции и являются линейными по .

Требуется найти вектор с компонентами , обеспечивающий минимум (или максимум) функции

(1.3)

при условиях , .

В основе большинства методов решения задач линейного программирования лежит симплекс-метод [9, 11].

Задачи нелинейного программирования. К ним относятся все задачи с нелинейной целевой функцией или нелинейными ограничениями. Частным случаем являются задачи квадратичного программирования.

Задачи квадратичного программирования. Характеризуются квадратичной зависимостью целевой функции и линейной зависимостью функций . Методы решения задач этого типа в основном базируются на теореме КунаТаккера [4].

Детерминированные задачи. В этих задачах целевая функция является детерминированной (неслучайной) функцией параметров.

Стохастические задачи. Характеризуются тем, что параметры задачи являются случайными величинами, и поэтому целевая функция представляет собой какую-либо статистическую характеристику случайной функции параметров.

Для решения задач нелинейного программирования (как детерминированных, так и стохастических) применяются методы поиска, которые, в свою очередь, могут быть детерминированными и стохастическими.

Детерминированные методы поиска. Имеют жесткий алгоритм поиска (без случайных элементов). К этим методам относятся градиентные методы, метод покоординатного спуска, метод штрафных функций, овражные методы, одномерные методы поиска и другие.

Методы случайного поиска. Характеризуются наличием элемента случайности в алгоритме поиска (например, случайными могут быть величины пробного шага, рабочего шага и другие). К этим методам относятся методы ненаправленного случайного поиска, комбинированные методы поиска, методы случайного поиска с самообучением.

Формулировка вариационной задачи. Дана модель динамической системы

, (1.4)

где - вектор состояния, - вектор управления, на которые накладываются ограничения , ( и - соответственно допустимые множества векторов состояния и управления ). Поведение системы рассматривается на некотором конечном отрезке времени . Требуется найти такое управление системой, т.е. вектор , которое обращает в минимум или максимум функционал

.