forum.boolean.name

forum.boolean.name (http://forum.boolean.name/index.php)
-   Прочие вопросы (http://forum.boolean.name/forumdisplay.php?f=50)
-   -   Серьёзный глюк в калькуляторе SE (http://forum.boolean.name/showthread.php?t=16047)

nil0q 17.12.2011 21:19

Серьёзный глюк в калькуляторе SE
 
Heдавно, пользуясь встроенным приложением "Калькулятор" на СЕ, обнаружил, что с точки зрения телефона 10000000.9999 + 0.00005 = 10000000.1 :) Далее: 9999999 + 0.999995 = 1.0Е7 (результат правильный, но интересно то, что экспоненциальная запись больше нигде в нём не встречается, а числа от 1Е12 его переполняют). А самый удивительный результат вы можете получить сами, посчитав 9999999 + 0.999996 :)
При аналогичных расчётах, выполняемых мидлетом (fixed point и floating point), результаты верные. Тем не менее, просьба всем программерам иметь это в виду и проверять расчёты своих приложений.

Всё-таки по-прежнему самый надёжный компьютер - это счёты.

AVL 17.12.2011 21:46

Ответ: Серьёзный глюк в калькуляторе SE
 
Советую students calculator - интерфейс удобный, точность высокая, функций много.

nil0q 17.12.2011 21:56

Ответ: Серьёзный глюк в калькуляторе SE
 
Спасибо, [S]поржал[/S] пользуюсь BigCalc by тов. Aren Isoyan на основе своего собственного графопостроителя.
Кстати, оптимизировать его надо бы, а то всё руки не доходят


Часовой пояс GMT +4, время: 09:12.

vBulletin® Version 3.6.5.
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Перевод: zCarot