Решить методом заменой переменной

√(2x² - 6x + 40) = x² - 3x + 8

√(2(x² - 3x + 8) + 24) = x² - 3x + 8

x² - 3x + 8 = t > 0

√(2t + 24) = t

t² = 2t + 24

t² - 2t - 24 = 0

D = 4 + 96 = 100

t12 = (2 +- 10)/2 = 6    -4

t = -4 нет t > 0

t = 6

x² - 3x + 8 = 6

x² - 3x + 2 = 0

D = 9 - 8 = 1

x12 = (3 +- 1)/2 = 1  2

ответ x = {1,2}