5sin если cos альфа = 2корень6/5; альфа принадлежит (3п/2; 2п)

Ты должен помнить тригонометрическую формулу cos²α+sin²α=1. Отсюда спокойно выражаем sin=√(1-cos²α). Но у тебя cos=2√6/5 ( >1, т.е. корень будет отрицательным, чего быть не может). Значит или пустое множество или ты что-то напутал с косинусом.