Как предоставить в виде произведения многочлен a^2*b-2b+a*b^2-2a ?

Вынесем за скобку общий множитель (a*b) и общий множитель 2:

a^2*b-2b+a*b^2-2a=a^2*b+a*b^2-2b-2a=a*b*(a+b)-2*(b+a)=(a+b)*(a*b-2)

а^2*b-2b+a*b^2-2a=(a^2*b+a*b^2)-(2b+2a)=a*b(a=b)-2(b=a)=(a=b)(a*b-2)