Решить этот пример, где пример [x^3+x^2+x] это в модуле ((x^2+x+1)^2-2[x^3+x^2+x]-3x^2)/10x^2-17x-6

Я правильно понял, что это уравнение, и оно = 0 ?
Если да, то вот решение.
Знаменатель
10x^2 - 17x - 6 = (x - 2)(10x + 3)
Выражение под модулем
x^3 + x^2 + x = x*(x^2 + x + 1)
Трехчлен в скобках положителен при любом х, поэтому это выражение будет отрицательным, если x < 0 и положительным, если x > 0
1) x < 0
((x+2+x+1)^2 + 2x(x^2+x+1) + x^2 - 4x^2) / (10x^2 - 17x - 6) =
= ((x^2+x+1 + x)^2 - (2x)^2) / ((x-2)(10x+3)) =
= (x^2+2x+1-2x)(x^2+2x+1+2x) / ((x-2)(10x+3)) =
= (x^2+1)(x^2+4x+1) / ((x-2)(10x+3)) = 0
x^2+1 > 0 при любом х, поэтому
x^2 + 4x + 1 = 0
D = 4^2 - 4*1*1 = 16 - 4 = 12 = (2√3)^2
x1 = (-4 - 2√3) / 2 = -2 - √3 < 0
x2 = (-4 + 2√3) / 2 = -2 + √3 < 0
Подходят оба корня.

2) x > 0
((x+2+x+1)^2 - 2x(x^2+x+1) + x^2 - 4x^2) / (10x^2 - 17x - 6) =
= ((x^2+x+1 - x)^2 - (2x)^2) / ((x-2)(10x+3)) =
= (x^2+1-2x)(x^2+1+2x) / ((x-2)(10x+3)) =
= (x-1)^2*(x+1)^2 / ((x-2)(10x+3)) = 0
x3 = 1, x4 = -1 < 0 - не подходит

Если же это НЕ уравнение, то вот:
1) x < 0
(x^2+1)(x^2+4x+1) / ((x-2)(10x+3))
2) x > 0
(x-1)^2*(x+1)^2 / ((x-2)(10x+3))
Больше это никак не упрощается