Не подскажите с тригонометрией , не могу понять почему получается отрицательное число ?

Т.к. угол находится в промежутке от п/2 до а, то соs такого угла будет всегда отрицательный. Лучше всего убедиться на построении координатных прямых