Если онпроизвольный, то из одной вершины проведите все диагонали и найдите площадькаждого получившегося треугольника. результаты сложите. если многоугольник правильный, то существуют формулы для каждого отдельного случая. но можно вывести и общую формулу, зависящую от количества сторон
