Изменения

Перейти к: навигация, поиск

Представление чисел с плавающей точкой

951 байт добавлено, 10:03, 16 декабря 2011
Unit in the last place
}}
== Unit in the last place (Unit of least precision)==Мера единичной точности используется для оценки точности вычислений.
{{Определение
|definition=
Пусть <tex> a </tex> - число с плавающей точкой, мантисса которого имеет длину <tex> m </tex> бит, а экспонента - <tex> e </tex> бит. Тогда <tex> ulp(a) = 2^{e - m} </tex>.
}}
 
Приведем пример кода на Python, который показывает, при каком значении числа <tex> x </tex> компьютер не различает числа <tex> x </tex> и <tex> x + 1 </tex>.
>>> from math import *
>>> x = 1.0
>>> while (x != x + 1):
... x *= 2
...
>>> x
9007199254740992.0
>>> log(x) / log(2)
53.0
 
То есть <tex> x = 2^{53} </tex>, так как мантисса числа двойной точности содержит 53 бита (в памяти хранятся 52).
В C++ для расчета расстояния между двумя числами двойной точности можно воспользоваться функцией <tex> \mathrm{boost::math::float\_distance(a, b)} </tex>.
== Погрешность предиката "левый поворот" ==
Анонимный участник

Навигация