Пусть в некоторой области евклидова -мерного пространства задана функция .

Мы скажем, что в точке функция достигает своего наименьшего (наибольшего) значения, если для любой точки выполняется следующее неравенство:

.

Теорема Вейерштрасса [5]. Всякая функция, непрерывная в замкнутой ограниченной области, достигает в ней своего наименьшего и наибольшего значений.

Определение 1. Пусть функция определена в области . Точка называется точкой строгого минимума (соответственно точкой строгого максимума) функции , если существует такая окрестность точки , что выполняется неравенство (соответственно ) для всех точек .

Точка строгого минимума (соответственно точка строгого максимума) характеризуется тем, что

　(соответственно )

при всех .

Если же для точки существует такая окрестность , что для всех точек выполняется условие (соответственно ), то точка называется просто точкой минимума (соответственно точкой максимума).

Точки минимума и максимума функции называются точками экстремума этой функции.

Под классическим методом будем подразумевать тот подход к поиску точек экстремума функции многих переменных (т.е. точек локального минимума и максимума), который основан на дифференциальном исчислении. Напомним некоторые понятия из дифференциального исчисления функций многих переменных [1]-[5].

Определение 2. Пусть функция определена в некоторой окрестности точки u. Говорят, что функция дифференцируема в точке u, если существует вектор такой, что приращение функции , можно представить в виде

, (11)

где - величина, бесконечно малая более высокого порядка, чем , т.е. .

Величина представляет главную линейную часть приращения (1) относительно h и называется дифференциалом функции в точке u, а вектор - градиентом этой функции в точке u.

Условие (11) определяет градиент

,    (12)

где - частная производная функции в точке u по переменной .

Для определения дважды дифференцируемой функции понадобится понятие квадратичной формы.

Определение 3. Квадратичной формой называют функцию

　переменных , которая однозначно определяется заданием симметричной числовой матрицы порядка , называемой матрицей квадратичной формы:

.

Определение 4. Пусть функция определена в некоторой окрестности точки u. Говорят, что функция дважды дифференцируема в точке u, если наряду с градиентом (12) существует симметричная матрица порядка такая, что приращение функции в точке u можно представить в виде

где - величина, бесконечно малая более высокого порядка, чем , т.е. .

Квадратичную форму переменной называют вторым дифференциалом функции в точке u, а матрицу - второй производной этой функции в точке u.

Условием (13) матрица определяется однозначно и имеет следующий вид:

Элементами матрицы являются вторые частные производные функции по переменным .