Разложить на множители -6аквадрат+12ав-6вквадрат

Вынесем -6 за скобки, получим:
-6*(a^2 -2ab+b^2) 
видим, что (a^2 -2ab+b^2)  - бином, то есть квадрат (a-b), получаем:
-6*(a-b)*(a-b)