Решить систему уравнений, a2 + b2 = 68 ab = 16

А2+b2=68
Ab=16

A=16/b
(16/b) 2+b2=68

A=16/b
256/b2+b2=68 (*)
Решаю отдельно
(*) пусть b2=t, b>=0
256/t+t=68, домножим на t
256+t2=68t
t2-68t+256=0
D=4624-1024=3600=60*60
T= (68+-60) /2
T= 4, b=+-2
T= 64, b=+-8

Подставляем в Ab=16, получаем следующие ответы системы:
1. B=2, a=8
2. B= -2, a= -8
3. B= 8, a= 2
4. B= -8, a= -2