3.5. Ньютон әдісі

Егер  функциясының минимум нүктесіне біртіндеп жуықтау тізбегін құру кезінде  функциясының тек бірінші туындысының мәнін ғана емес, сонымен бірге екінші туындысының мәнін пайдаланатын болсақ, онда белгілі бір шарттар жағдайында осы тізбектін градиенттік әдістерден қарағанда әлдеқайда жылдам жинақталуын қамтамасыз етуге болады. Нақты бір мысал қарастырмас бұрын екі рет дифференциалданатын дөңес функцияларды минимизациялаудың шартсыз есебі үшін қолданылатын Ньютон әдісін қарастырайық [7].

Айталық,  және -де қатаң дөңес функция болсын.  нүктесі  функциясының минимум нүктесі болсын. Келесі теңдеулер жүйесін шешу керек болсын:

,                                  (24)

яғни Ньютон әдісімен -ті, одан кейін  табу қажет.

(24) жүйенің бірқатар  жуықтауыбелгілі деп жорамалдайық. Ньютон әдісі бойынша  шешіміне келесі жуықтауы келесі формуламен анықталады:

                    (25)

мұндағы  - төмендегі алгебралық сызықтық теңдеулер жүйесінің шешімі болып табылады:

Ньютон әдісімен  нүктесін анықтау , (мұндағы  алдын ала берілген сан) шарты орындалатын  нүктеде аяқталады.

Бастапқы жуықтауы -ді ізделінді  функциясының минимум нүктесі -нүктесіне өте жақын болатындай етіп таңдап алынған болса, онда бір екі итерация жасау жеткілікті.

Ньютон әдісін функцияның бірінші және екінші туындысын есептеу, сонымен бірге (26) көмекші теңдеулер жүйесінің шешімін есептеукүрделі болмаған жағдайда қолданады. Ньютон әдісіннің артықшылғы оның жинақтылу жылдамдығының үлкендігінде.

Мысал 4. Егер бастапқы жуықтауы  және дәлдігі  берілген болса, онда келесі функцияның дөңестігін дәлелденіз және Ньютон әдісімен функцияның ең кіші мәнің анықтаныз:

.

Шешуі. 1) Функцияның дөңестігін дәлелдеу үшін оның бірінші және екінші ретті дербес туындыларын анықтаймыз:

Екінші ретті туындыларынан матрица құрамыз және оның бұрыштық минорларын есептейміз:

 матрицасы оң анықталған, яғни  функциясы дөңес.

2) Ньютон әдісінің (25) және (26) формулалары арқылы  функциясының минимум нүктесіне жуықтайтын бірінші  нүктесін есептейміз:

,

мұдағы - келесі алгебралық теңдеулер жүйесінің шешімі

Соңғы жүйені шешу арқылы  екенің аламыз. (24) формулаға  мәндерін қойсақ, онда , яғни  - бірінші жуықтауын анықтадық.

Берілген  дәлдік орындалатындығын тексереміз:

Яғни  нүктесі  функциясының минимум нүктесі  болады.

3) Онда : .