Решите систему методом подстановки x^2-y^2=24 2y-x=-7

Спокойно, без паники.

Из второго уравнения мы получаем x=2y+7
Подставляем в первое:
4y^2+2*2y*7+49-y^2=24 ⇒ 3y^2+28y-25=0
Считаем дискриминант: D=b^2-4ac=28^2+4*3*25=1084
y1,2= (-28+√1084)/6
Получившиеся значения y подставляем во вторую формулу. Получаем x1,2.

Надеюсь, что не напутал с арифметикой!)