Вычислительная математика (Численные методы)
Тема: Элементы теории погрешностей.
Определить какое равенство точнее.
На первом рисунке похожее задание
А на втором мой вариант исправить мой вариант. Если неправильно покажите как это решить.

Равенство √7 = 2,646 определено точнее

Пошаговое объяснение:

8/13 = 0,615; √7 = 2,646

обозначим a = 8/13 = 0,61538; a~ = 0,615

b = √7 = 2,64575; b~ = 2,646

тогда Δa~ = |a - a~| ≤ 0,00038 =

и Δb~ = |b - b~| ≤ 0,00025 =

так как , то равенство √7 = 2,646 определено точнее