Odpowiedź :
Zacznijmy od warunku koniecznego:
[tex]\frac{df}{dx}=2x-6y+3=0\\\frac{df}{dy}=-6x+3y^2+6=0\\x=3y-\frac{3}{2}\\-6(3y-\frac{3}{2})+3y^2+6=0\\-18y+9+3y^2+6=0\\y^2-6y+5=0\\\Delta=36-20=16\\y_1=\frac{6-4}{2}=1\ \Rightarrow x_1=\frac{3}{2}\\y_2=5\ \Rightarrow x_2=\frac{27}{2}[/tex]
Mamy zatem dwa punkty podejrzane o bycie ekstremum. Należy teraz policzyć macierz Hessego w tych punktach
[tex]\frac{d^2f}{dx^2}=2\\\frac{d^2f}{dxdy}=-6\\\frac{d^2f}{dy^2}=6y[/tex]
Pierwszy punkt
[tex](x,y)=(\frac{3}{2},1)[/tex]
[tex]\left[\begin{array}{cc}2&-6\\-6&6\end{array}\right][/tex]
Macierz ta jest nieokreślona, gdyż M1>0 ale M2=12-36<0
Zatem w punkcie (3/2;1) funkcja ma punkt siodłowy
Drugi punkt
[tex](x,y)=(\frac{27}{2};5)\\\left[\begin{array}{cc}2&-6\\-6&30\end{array}\right][/tex]
Tu mamy M1>0 oraz M2=50-36>0. Macierz jest dodatnio określona, zatem w rozważanym punkcie funkcja ma minimum.
pozdrawiam