2. Нельдер-Мид әдісі

Бұл әдіс іс жүзінде тұрақты симплекстердің қарапайым алгоритміне қарағанда әсерлірек болып табылады. Себебі, симплекс циклдан циклға өзінің формасын өзгертіп отырады. Алгоритмнің жұмыстық циклі келесі операциялардан тұрады:

1. бастапқы симплекстер таңдалып алынады және алдыңғы алгоритмдегі секілді оның төбелеріндегі мақсатты функцияның мәндері есептелінеді.

2. Мақсатты функцияның табылған мәндерінен максимал және минималмәндерін іздейді.

3. Қарсы шектің ауырлық ортасына қатыстыкоэффициентімен жоғарыда көрсетілген (4.1) формуласы көмегімен «ең нашар» төбені кескіндейді.

4. Алдыңғы симплекс төбесімен кескінделген төбенің функция мәндерін салыстара отырып, кескіннің нәтижесін анализдейді.

1. Егер жаңа төбедегі функция мәні алдыңғы симплекстің ең жақсы мәніне қарағанда кішкентай болса, яғни, , онда кескінделген төбеден ауырлық ортасына дейінгі қашықтықты(әдетте)есе үлкейтіп, симплексті созады.

2. Кескінделген төбедегі функцияның мәні алдыңғы симплекстегі ең нашар төбедегіден кем, бірақ басқаларында үлкен болатын болса, (4.2) формуласындағы коэффициентімен сығу операциясы орындалады. (әдетте).

3. Егер кескінделген нүктедегі функция мәні алдыңғы симплекстің ең нашар төбесінен үлкен болса, яғни , онда редукция (әдетте симплекстердің көлемінің кішірейтілуі екі есе), яғни симплекстің барлық төбелерінің координаттары ең жақсы нүктеге дейінгі қашықтықтың жартысына жылжиды

Алгоритмді тоқтату критериі ретінде авторлар симплекс төбесіндегі функция мәндерінің айырмасының орта квадраттық шамасын және оның орта шамасын алуды ұсынады, яғни:

Мұндағы берілген дәлдік.

3. Градиентті әдістер

Барлық градиентті әдістердің мәні оптимумға бағыттылған қозғалысты анықтау үшін градиент векторын қолдану болып табылады. градиент векторы бірнеше айнымалының функциясының экстремал нүктелерін іздеу кезінде оның эффективті қолданылуын қанағаттандыратын бірнеше қасиеттерге ие. Олардың біразын атап өтсек:

• Градиент векторы әрқашан берілген нүктедегі функцияның тезірек өсетін жағына қарай бағытталады. Сондықтан, функцияның минимал мәндерін іздеу барысында кері бағытта жүру керек екені айқын. Қозғалыстың бұндай бағытын антиградиент немесе теріс градиент деп атайды және ол функцияның тезірек кемуін сипаттайды.

• Градиент берілген нүктесі арқылы өтетін тең деңгей сызығына ортогональ.

• Көп айнымалы функциясының экстремумының бар болу шартына сәйкес, экстремум нүктеде функция градиенті нөлге айналады. Бұл қасиет көбінесе градиентті әдісте іздеудің аяқталуының тексерісі кезінде қолданылады, яғни

Градиентті әдістің жалпы алгоритмі қандай да бір бастапқы нүктеден жақындаудың тізбектілігін тұрғызу болып табылады (минимизация тапсырмасын қарастырамыз):

мұндағы нүктесіндегімақсатты функциясының градиенті бағытындағы бірлік вектор:

• градиент бағытындағы қадам мөлшері.

1. Бокс-Уилсонның тік өрлеу әдісі

Бокс-Уилсонның тік өрлеу әдісі градиент құраушыларын бағалау үшін,нүктесінің маңайында тәжірибені белгілеу нәтижесінде алынған регрессияның сызықты теңдеуіқолданылатын, дыбыс беру бетімен қозғалыстың қадамды процедурасын көрсетеді.

Содан кейін дыбыс беру бетімен градиент бағытында, қадам мөлшері коэффициентініңтүрлендіру интервалы туындысына пропорционал болатын, қозғалыс жүзеге асады. Бұл бет бойынша қозғалыс оптимизация параметрі үлкейе бастағанға дейін жалғаса береді(минимумды іздеу жағдайында). Алынған нүктеде қайтадан тәжірибенің белгіленуі жүргізіліп, жаңа қозғалыс бағыты бағаланады. Іздеу процедурасы градиент векторының мәні белгіленген дәлдіктен кішкентай болып қалғанша жалғаса береді.

Бізде функциясы бар болсын. Тік өрлеу әдісі көмегімен функцияның минимумын табу қажет.

Іздеудің алгоритмі келесідей.

іздеудің бастапқы нүктесін таңдап аламыз. Нүкте төңірегінде толық факторлы тәжірибе жүргіземіз.үшін кодтау айнымалыларына жоспарлау матрицасы келесідей:

Кодталған айнымалылардан натуралға өту келесі формула көмегімен іске асады:

Мұндағы тірек деңгей;

айнымалының кодталған мәні;

түрлендіру интервалы.

Тірек деңгейге іздеудің бастапқы нүктесінің координаттары сәйкес келеді, айнымалылардың кодталған мәндері матрицасында көрсетілген. Есептеулер үшін түрлендіру интервалын бірге тең деп алуға болады. Осыны ескере отырыпматрицасы натурал айнымалыларда келесідей болады:

Алынған төрт нүкте үшін функциясының мәнін есептеп,мәндерін анықтаймыз. ПФЭ әдісі у-тің х₁ және х₂-ден сызықты тәуелділігін алуға мүмкіндік береді:

теңдеулерінің коэффициент мәндерін бағалау керек:

Регрессия коэффициентін анықтап алғаннан кейін, дыбыс беру бетімен градиент векторы бағытында қозғалысты бастаймыз.таңбасы минимумды іздеу жүріп жатқанын көрсетеді. Есептеуді келесі формуламен жүргіземіз:

Мұндағы градиент бағытындағы қозғалыстыңсыншы қадамындағыші фактордың мәні;

пропорционалдық коэффициенті.

Дыбыс беру бетімен қозғалыс функция мәні өсіп бастағанға дейін жасалына береді. Бұл жағдайда негізгі нүкте ретінде функция мәні минимал болатын нүкте алынады. Бұл нүктеде қайта жүзеге асып, регрессия коэффициентті есептеледі және дыбыс беру бетімен қозғалыс қайта жүргізіледі. Процедура градиент вектор ұзындығыберілгенмәннен кіші болғанша қайталана береді.