Показать сообщение отдельно
Старый 21.12.2014, 15:53   #3
Paul Kellerman
Gold Member
 
Регистрация: 25.06.2005
Адрес: F000:FFF0
Сообщений: 1,804
По умолчанию

Обновление, небольшая оптимизация двоичных преобразований.

Протестировал все 4 сочетания режимов преобразований в дробь
и обратно по 10 миллионов случайных вещественных чисел float80.

В режиме двоичный/двоичный, худшая относительная погрешность = 0.
В режиме десятичный/двоичный, худшая относит. погрешность = 9,99E-19.
В режиме двоичный/десятичный худшая относит. погрешность = 2,99E-19.
В режиме десятичный/десятичный худшая относит. погрешность = 1,11E-18.
Вложения
Тип файла: zip E2Rtest.zip (423.6 Кб, 1 просмотров)
Paul Kellerman вне форума   Ответить с цитированием
Реклама