X^2+xy-y^2=0 x^2-4y^2=0 это система как

если имелось ввиду, нет, исправьте условие на верное

x^2-2x+ y^2-4y +5=0

перепишем в виде

x^2-2x+ y^2-4y +1+4=0

группируя

(x^2-2x+1)+ (y^2-4y +4)=0

по формуле квадрат двучлена

(x-1)^2+(y-2)^2=0

сумма двух неотрицательных выражений равно 0, когда каждое из них равно (квадрат любого выражения неотрицателен)

x-1=0 и y-2=0

x=1 и y=2

ответ: (1;2)

Вроде так