Построить отрезок длиной √(a² + b² + ab) именно +ab а не -ab за минус аb буду отмечать как нарушение и да, на этом сайте может не искать такоек решение, здесь его нет.

1) Берём прямую через точку A

2) В точке A строим угол с прямой в (Ну, как строить равносторонние треугольники циркуля думаю, что знаете). 

3) На втором луче из точки A отмечаем отрезок AB длиной a

4) Из точки B на исходную прямую опускаем перпендикуляр BC. Соответственно , так как катет против угла в

5) От точки A в сторону от точки C отмеряем отрезки длиной b. Получаем отрезок CD, где  .

6) Вычислим длину отрезка BD.

Итог - отрезок BD будет иметь требуемую длину.