Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

1 байт добавлено, 06:57, 20 октября 2011
Округление
{{Определение
|definition=
'''ULP''' (англ. ''units in the last place'') - эффективная величина самого младшего (<tex>p</tex>-ого) бита.
}}
'''Например''', <tex>ulp(-1100) = 1, ulp(1) = 0.001</tex> в <tex>p</tex>-битной арифметике.
355
правок

Навигация