Стороны ac, ab, bc треугольника abc равны 3√2, √14 и 1 соответственно. точка к располагается вне треугольника abc, прием отрезок kc пересекает сторону ab в точке, отличной от b. известно, что треугольник с вершинами k, a и c
подобен исходному. найдите косинус угла akc? если угол kac > 90 градусов

Удивительно, я три раза решал эту задачу - и все три раза попал в ловушку. Неплохо там ребятки работают:)))))). Так вот, есть варианты удовлетворить условию:
1. Если треугольник АСК - просто зеркально отраженный треугольник АВС. Тогда угол АКС = угол АВС. 
2. Если попытаться сделать угол САК равным углу АВС (который тупой, между прочим), то из подобия будет следовать, что угол КСА должен быть равен одному из углов АВС. Но углу ВСА он равен быть не может - тогда К лежит на СВ, что противоречит условию "KC пересекает сторону AB в точке, отличной от B". Остается только угол АКС = угол ВСА.
Занятно отметить, что обе точки лежат на одной прямой, то есть в обоих вариантах угол КСА один и тот же и равен углу ВАС.
Осталось вычислить углы АВС и ВСА треугольника АВС.
1.угол АВС - тупой (!), косинус его отрицательный!
cos(ABC) = (1+14-18)/(2*1*√14)) = -3/(2√14);
2.угол ВСА - острый
cos(BCA) = (1 + 18 - 14)/(2*1*√18) = 5/(6√2);
На чертеже показаны оба случая, как точки К1 и К2.