Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

424 байта добавлено, 06:56, 20 октября 2011
Округление
Из-за округления данные операции теряют некоторые важные свойства, например, ассициативность: <tex>(1000 \oplus 0.011) \oplus 0.011 = 1000</tex>, но <tex>1000 \oplus(0.011 \oplus 0.011) = 1001</tex>.
 
При анализе округления часто используют так называемый ''ulp''.
{{Определение
|definition=
'''ULP'' (англ. ''units in the last place'') - эффективная величина самого младшего (<tex>p</tex>-ого) бита.
}}
'''Например''', <tex>ulp(-1100) = 1, ulp(1) = 0.001</tex> в <tex>p</tex>-битной арифметике.
355
правок

Навигация