Найдите скалярное произведение векторов a(3; 1) и b(2; -6)

Поделив вектор b(2;-6) на число 2, получим вектор b`(1;-3), сонаправленный вектору b(2;-6) и отличающийся от него только по модулю.

Не трудно заметить, что угол между векторами a и b` равен 90 градусам.

Скалярное произведение векторов равно произведению модулей векторов, умноженному на косинус угла между ними:
__   
ab = |a|*|b|*cos(90*) = sqrt(10)*sqrt(10)*0 = 0

ответ: ab = 0.