Windows Calculator Showing Strange Output
Попробуйте это в Windows
Шаги:
- Откройте Calculator непосредственно или путем ввода calc в ВЫПОЛНЕНИИ.
- Затем тип 4 и пускает квадратный корень "sqrt"
- И независимо от того, что Вы добираетесь (идеально, Вы доберетесь 2!), substract 2 от него.
Теперь Мой Вопрос, это математически правильно??
3 ответа
Идеально не правильный, но путь число с плавающей точкой представлено в компьютере, привел бы к такому неожиданному ответу.
При изучении численного значения ответа это очень близко к 0, который является ожидаемым ответом.
Нет, это не математически правильно. 2-2 = 0 :)
Calc дает,-0.0000000000000000001, что означает, что функция sqrt привела к числу очень близко к 2, но который имел некоторую крошечную дробную часть, округленную в целях дисплея. Когда Вы вычитаете 2, Вы получаете число, которое является очень близко к 0, но не совсем.
Это - артефакт того, как числа с плавающей точкой хранятся в компьютере. Каждый (не символьный) калькулятор будет иметь некоторые проблемы, которые приводят к неправильным результатам как этот. Например, попробуйте (sqrt (пи)) ^2-pi, который должен быть 0. Я просто попробовал его в этом калькуляторе онлайн и добрался-1.3691388027.
это дает-8.1648465955514287168521180122928e-39
который является в основном = 0, как это имеет 10^-39...