Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

11 байт добавлено, 07:28, 20 октября 2011
Свойства
==Свойства==
Иногда есть возможность найти более точные границы ошибки округления, что будет видно далее из лемм. Первая лемма используется, когда один операнд много меньше другого, а вторая - когда сумма близка к степени двойки. Для лемм 1 - 5 пусть <tex>a, b </tex> - <tex>p</tex>-битные числа с плавающей точкой.
355
правок

Навигация