Если при построении последовательности приближений к точке минимума функции использовать информацию, содержащуюся в значениях не только первых, но и вторых производных , то при определенных условиях можно обеспечить более быструю, чем в градиентных методах, сходимость этой последовательности. Прежде чем рассмотреть конкретный пример, изложим метод Ньютона, применяемый для безусловной минимизации выпуклых дважды дифференцируемых функций [7].

Пусть функция и строго выпукла в , точка минимума функции - . Требуется решить систему уравнений

, (24)

т.е. найти , а затем методом Ньютона.

Предположим, что определено некоторое приближение к решению системы (24). По методу Ньютона следующее приближение к решению определяется по формулам

(25)

где образуют решение системы линейных алгебраических уравнений

(26)

в которой

Поиск точки по методу Ньютона заканчивается на точке , для которой , где заранее задано.

При выборе начального приближения достаточно близкого к искомой точке для определения минимума функции достаточно провести две-три итерации.

Метод Ньютона обычно применяют в тех случаях, когда вычисление первой и второй производных, а также вспомогательной системы уравнений (26) не представляет особых трудностей. Достоинством метода Ньютона является высокая скорость сходимости.

Пример 4. Показать, что функция

выпукла, и найти минимальное значение заданной функции методом Ньютона, если задано нулевое приближение и точность .

Решение. 1) Докажем выпуклость функции, для чего найдем ее частные производные первого и второго порядка:

Составим матрицу вторых производных и вычислим ее угловые миноры

Матрица положительно определена, значит - выпукла.

2) Найдем - точку первого приближения к точке минимума функции методом Ньютона по формулам (25), (26):

,

где - решение следующей системы алгебраических уравнений

Решая последнюю систему, находим Подставим в (24), тогда , нашли - первое приближение.

Проверим, выполняется ли заданная точность :

т.е. точка и есть точка минимума функции : .

3) Найдем : .