Почему решение алгоритма арифметически неточно?
Выполнив одно из заданий курса по Питону, заметил, что одно из вычисленных алгоритмом значений имеет как-то уж слишком много знаков после запятой. Проверил ответ на калькуляторе - действительно, есть расхождение. Почему так?
ПрограммированиеPython+1
Лучший
Математика взаимодействия с числами с плавающей запятой реализована разными способами в базовом интерпретаторе пайтона и калькуляторе в windows. Если вам нужны точные вычисления используйте модуль decimal
Просто странно, что это доп. модуль, а не часть базового функционала
Эта проблема существует не только в Питоне, но в других языках, где арифметические операции производятся над числами в двоичном формате (а это подавляющее большинство).
Многие десятичные дроби нельзя точно перевести в двоичный... Читать далее
Вычисление арифметических действий в компьютерах - целая наука, довольно сложная. Там используются специальные низкоуровневые алгоритмы, причем такие, которые смогли бы работать и с целыми числами, и с дробными, и с отрицательны... Читать далее
Вообще говоря, не составило бы труда дополнить алгоритм вычисления шагом, который бы определял, до какого разряда... Читать дальше