Odpowiedź :
Domyślam się, że chodzi o równanie:
[tex]x^2+\sqrt{5}mx+m^2+m+3=0[/tex]
Warunek można zapisać w postaci:
[tex]x_1^2+x_2^2\geq 3x_1x_2\\x_1^2+2x_1x_2+x_2^2\geq5x_1x_2\\(x_1+x_2)^2\geq5x_1x_2[/tex]
robię te sztuki, aby móc skorzystać ze wzorów Viete'a
[tex]ax^2+bx+c=0\\x_1+x_2=-\frac{b}{a}\\x_1x_2=\frac{c}{a}[/tex]
W naszym wypadku
[tex]x_1+x_2=-\sqrt5}m\\x_1x_2=m^2+m+3\\5m^2\geq5(m^2+m+3)\\0\geq5m+15\\m\leq-3[/tex]
Ponieważ pierwiastki mają być różne:
[tex]\Delta=5m^2-4(m^2+m+3)\neq0\\m^2-4m-12\neq0\\\Delta_m=16+48=64\\m_{1}=\frac{4-8}{2}=-2\\m_2=6\\m\notin\{-2;6\}[/tex]
Nie ma ograniczenia, że pierwiastki mają być rzeczywiste, więc nie robię ograniczenia, że delta musi być dodatnia. W wypadku zespolonych pierwiastków x1 oraz x2 są sprzężone, w związku z czym x1+x2 jest rzeczywiste i x1*x2 jest rzeczywiste - można rozwiązywać nierówność.
pozdrawiam