Проверьте равенство: cos80°+cos40°-cos20° = 0

Может ты имел в виду cos20*cos40*cos80

Домножим числитель и знаменатель дроби на 2sin20 и т.д. 
cos20°cos40°cos80°/1=2cos20°sin20°cos40°cos80°/2sin20°= 
sin40°cos40°cos80°/2sin20°=2sin40°cos40°cos80°/2*2sin20°= 
sin80°cos80°/2*2sin20°=2sin80°cos80°/2*2*2sin20°=sin160°/8sin20°=
sin(180°-20°)/8sin20°=sin20°/8sin20°=1/8

0,1736+0,766-0,9397=-0,0001( не равняеться нулю)