Подобные слагаемые,если это возможно 3a - 4b + a² + b² =

Группируем первое с третьим, второе с четвертым:
(3a+a²)-(4b-b²)
Выносим из первой скобки a, из второй b
a(3+a)-b(4-b)
Все, больше ничего, вроде сделать нельзя)

Думаю, что нет – невозможно. Однако есть формула 3а–4b+(a+b)(a+b)