Показать сообщение отдельно
Старый 29.12.2009, 15:07   #341
BlackOut
Кодер "win" ЭВМ
 
Аватар для BlackOut
 
Регистрация: 10.11.2009
Адрес: ЖуковSKY
Сообщений: 194
Написано 77 полезных сообщений
(для 155 пользователей)
Ответ: Вопрос-Ответ (для новичков)

скорее всего косяк обработки сверх малых чисел, причем результат иногда может различаться в зависимости от проца

====
у меня комп Celeron CPU 2.26; 768 MB RAM

x# = 0.003
res# = x#^2
Print res#
WaitKey()

на экране и в дебаге res#=9.е-006
__________________
Жизнь игра, задумка дурацкая но графика ...
(Offline)
 
Ответить с цитированием