Показать сообщение отдельно
Старый 17.12.2011, 21:19   #1
nil0q
ПроЭктировщик
 
Аватар для nil0q
 
Регистрация: 30.06.2009
Адрес: Челябинская обл.
Сообщений: 111
Написано 32 полезных сообщений
(для 99 пользователей)
Серьёзный глюк в калькуляторе SE

Heдавно, пользуясь встроенным приложением "Калькулятор" на СЕ, обнаружил, что с точки зрения телефона 10000000.9999 + 0.00005 = 10000000.1 Далее: 9999999 + 0.999995 = 1.0Е7 (результат правильный, но интересно то, что экспоненциальная запись больше нигде в нём не встречается, а числа от 1Е12 его переполняют). А самый удивительный результат вы можете получить сами, посчитав 9999999 + 0.999996
При аналогичных расчётах, выполняемых мидлетом (fixed point и floating point), результаты верные. Тем не менее, просьба всем программерам иметь это в виду и проверять расчёты своих приложений.

Всё-таки по-прежнему самый надёжный компьютер - это счёты.
__________________
Аинéжарбази овокáсьф имятнэ́меле как, имякщтóт и имяини́ль оклёт ими́ньдо сяюзлёп, ильсы́м эынэвьтспóс ышáн мóнян тягалзи, эы́жущт тят-ищт сант-ищтý анакаккáт; áкызэй овóваримь авотэ́ як итя́ммарг тыжýлс аирьтэмяег аянлетя́трэщтанот, мадóраи мынавóзарбо мэ́сьф мынтáняп авокáныдя, икиньхэ́ть мóкызэй астэя́львэй шóтрэщт ильсэ́й.
Щамóпф раткáдэрь оидюá!
(Offline)
 
Ответить с цитированием