Воспользуемся разложением в ряд Тейлора, обозначив вектор сдвига как h=(h1,…,hm). Тогда
f(x+h)=f(x)+12!hTH(x)h+o_((‖h‖)2),‖h‖=√n∑i=1h2if(x+h)=f(x)+m∑i=1m∑j=1∂f2∂xi∂xjhihj+o_((‖h‖)2)f(x+h)—f(x)=12!‖h‖2[m∑i=1m∑j=1∂f2∂xi∂xjhi‖h‖hj‖h‖+o_(1)]
Отсюда следует, что знак выражения в левой части, позволяющий судить о наличии или отсутствии экстремума в точке x, определяется знаком выражения в квадратных скобках. Посмотрим на неё внимательнее: пусть h!=0, тогда вектор e=(h1‖h‖,h2‖h‖,…,hm‖h‖) имеет единичную норму ‖e‖=1, каким бы он ни был. Форма ∑mi=1∑mj=1∂f2∂xi∂xjhi‖h‖hj‖h‖ непрерывна на Rm как однородный многочлен второй степени от координат h в силу непрерывности вторых производных f в окрестности x. Квадратичная форма непрерывна и на единичной сфере S(0;1)={x∈Rm|‖x‖≤1}. Приниципиальный интерес этот факт представляет по той причине, что единичная сфера — компакт, а свойства скалярных функций, непрерывных на компакте, хорошо известны и сыграют важную роль. В частности, непрерывная на компакте функция достигает на нём своих точных верхней и нижней граней m и M.
Если форма положительно определена, то 00, что ∀y:‖y‖<δo_(1)=α(y)<m⇒o_(1)<m0.
Доказательство для случая отрицательно определённой квадратичной формы симметрично приведенному.
Докажем далее, что значения разных знаков, принимаемые формой в окрестности данной точки, являются достаточным условием отсутствия в ней экстремума функции. Сохраняя обозначения предыдущего пункта, назовём em и eM точки единичной сфера, в которых форма достигает значений m и M соответственно, причем пусть m<0<M.
Вновь выпишем разложение в ряд Тейлора функции f, взяв за вектор сдвига вектор tem, где число t подобрано таким образом, чтобы x+tem∈U(x):
f(x+h)−f(x)=12!‖tem‖2[m+o_(1)]=12!(|t|‖em‖)2[m+o_(1)]=12!t2[m+o_(1)]
Аналогично рассуждениям предыдущего пункта, рассмотрим случай sign(o_(1))=1: lim‖t‖→0α(tem)=0⇒∃δ>0:∀tm. Тогда значение в квадратных скобках, как и выражение в левой части, неположительно. В ходе аналогичных рассуждений получим двойственную ситуацию для eM. Следовательно, в любой окрестности U(x) точки x функция f принимает значения, как большие, так и меньше f(x), следовательно, в точке x экстремума быть не может по определению.
[свернуть]