Многие прикладные задачи требуют для их решения работы с действительными числами. Форматы записи действительных чисел в памяти имеют богатую историю, многие годы инженеры искали способ записи, который удовлетворил бы потребности и пользователей, и производителей процессоров. В поисках компромисса между скоростью, размером и точностью представления ученые предложили числа с плавающей точкой (плавающей запятой).
Каждому специалисту, решающему вычислительные задачи на компьютере, полезно знать особенности работы с числами с плавающей точкой, чтобы избежать ошибок в работе.
-
Представление чисел с плавающей точкой в памяти компьютера
Экспоненциальная запись действительных чисел; запись в памяти компьютера; запись нуля, бесконечности и NaN; денормализованные числа; точность записи чисел.
-
Возможные проблемы при работе с числами с плавающей точкой
Конечная точность представления чисел; переменная абсолютная точность; другие особенности.
Экспоненциальная запись
Число с плавающей запятой
Число одинарной точности
Число двойной точности
Exponent bias
Генри С. Уоррен, мл. Алгоритмические трюки для программистов
Что нужно знать про арифметику с плавающей запятой
Одинарная или двойная точность?
Представление чисел с плавающей точкой
What Every Computer Scientist Should Know About Floating-Point Arithmetic, David Goldberg
Comparing floating point numbers, Bruce Dowson