Uczynię moje rozwiązanie nieco czytelniejszym, niż treść Twojego zadania:
[tex]x^5+2x^4-4x^3-8x^2+3x+6=0\\x^4(x+2)-4x^2(x+2)+3(x+2)=0\\(x^4-4x^2+3)(x+2)=0\\x_1=-2[/tex]
dalej robię podstawienie:
[tex]x^2=\xi\\x^2-4\xi+3=0\\\Delta=16-12=4\\\xi_1=\frac{4-2}{2}=1\Rightarrow x_{2,3}=\pm 1\\\xi_2=\frac{4+2}{2}=3\Rightarrow x_{4,5}=\pm\sqrt{3}\\[/tex]
ostatecznie
[tex]x\in\{-2;-\sqrt{3};-1;1;\sqrt{3}\}[/tex]
pozdrawiam