Показать сообщение отдельно
Старый 13.01.2009, 12:31   #14
ffinder
Дэвелопер
 
Аватар для ffinder
 
Регистрация: 10.09.2007
Сообщений: 1,442
Написано 793 полезных сообщений
(для 1,460 пользователей)
Ответ: Математика в Blitz3D

SBJoker
молодец, правильно все объяснил.
добавлю вот что:
стек FPU 80битный, float 32бита, double - 64.
пока вычисления происходят без сохранения в память из стека FPU - точность 80битная (это правда зависит от флагов FPU). как только сохраняем значение в переменную - происходит отсечение (SBjoker об этом и сказал).

также стоит знать про машинный эпсилон (наименьшее представимое число с заданной разрядной сеткой). еще надо помнить, что формат IEEE 754 предусматривает повышение точности в области чисел в диапазоне 0..1 (хотя память мне тут может изменять, смотрите номрализованную и денормализованную форму числе с плавающей точкой).

так что не пугайтесь, когда видите, что 10.0 показывается как 9,999999. все так и зажумано
(Offline)
 
Ответить с цитированием
Эти 2 пользователя(ей) сказали Спасибо ffinder за это полезное сообщение:
HolyDel (28.01.2013), SBJoker (13.01.2009)