|-|5|+|√2-1|| в ответе 6, но это не так, разобраться, или ошибка в книге или я неправильно делаю? ?

Ну судя по тому, что здесь написано ответ должен быть такой: 
|-|5|+|√2-1|| =  |-5+√2-1| =  |-6+√2| = |-(6-√2)| =6-√2