uwaga: domyślam się, że w wielomianie H(x) wkradł się błąd i nie powinno być 10x² tylko 10x
należy najpierw doprowadzić wszystkie wielomiany do najprostszej postaci (wymnożyć):
W(x)=ax³+(4a-2)x²+(4a-8)x-8
F(x)=2x³+bx²+6x+3b
H(x)=5x³+11x²+10x-5
następnie znaleźć wielomian W(x) + F(x) - H(x) (przez zwykłe dodawanie i odejmowanie wyrażeń algebraicznych)
W(x) + F(x) - H(x)=(a+2-5)x³+(4a-2+b-11)x²+(4a-8+6-10)x-8+3b+5=(a-3)x³+(4a+b-13)x²(4a-12)x+3b-3
wielomian jest zerowy, gdy wszystkie jego współczynniki są zerowe, a więc trzeba rozwiązać układ równań:
a-3=0
4a+b-13=0
4a-12=0
3b-3=0
stąd wynika, że warunki zadania są spełnione dla a=3 i b=1