Существует ли треугольник, у которого два меньших угла равны 40° и 75° ?

Да, думаю может. Так как их сумма равна 115 градусам, а значит, что третий угол будет тупоугольный. Соответственно и треугольник будет тупоугольный.