При каком условии векторы a+b и a-b взаимно перпендикулярны? как доказать?

Если их скалярное произведение равно 0, то есть: 
(a-b)·(a+b)=0 
a²-b²=0 
|a|²-|b|²=0, можете воспользоваться этим условием. Либо вычисляете координаты векторов a+b и a-b и находите скалярное произведение в координатах.