Sin^2 x + 2 sin (π - x) cos x - 3 cos^2 (2π - x) = 0

Sin^2 x + 2 sin (π - x) * cos x - 3 cos^2 (2π - x) = 0
sin² x + 2 sin x * cos x - 3 cos² x = 0 

Пояснение: sin (pi - x) = sin x   cos² (2pi - x) = cos² x

sin² x + 2 sin x * cos x - 3 cos² x = 0   | : cos²x ≠ 0
tg² x + 2 tg x - 3 = 0  
Вводим замену  tg x = t
Решаем квадратное уравнение
t² + 2t - 3 = 0
D = b² - 4ac = 2² - (-4*1*3) = 4 + 12 = 16  √D = 4
t1 = (-2+4)/2 = 1
t2 = (-2-4)/2 = -3

tg x = t
1) tg x = 1 
x = pi/4 + pik, k ∈ Z

2) tg x = -3
x = -arctg3 + pik, k ∈ Z

ОТВЕТ: pi/4 + pik, k ∈ Z; -arctg3 + pik, k ∈ Z