От прямоугольного листа картона со сторонами а и б, отрезали по углам квадраты со сторонами х, из оставшейся части сделали открытую коробку. нужна формула обьёма коробки.

Одна сторона коробки равна (а-2х), второая (в-2х).Высота коробки х.
Объём V= x(a-2x)(b-2x)

Попробуй может быть так 
V = a * b