Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

Нет изменений в размере, 19:58, 21 октября 2011
Округление
Далее в этой статье символами <tex>\oplus, \ominus</tex> и <tex>\otimes</tex> будут обозначаться <tex>p</tex>-битные сложение, вычитание и умножение с точным округлением соответственно.
Из-за округления данные операции теряют некоторые важные свойства, например, ассициативностьассоциативность: <tex>(1000 \oplus 0.011) \oplus 0.011 = 1000</tex>, но <tex>1000 \oplus(0.011 \oplus 0.011) = 1001</tex>.
При анализе округления часто используют так называемый <tex>ulp</tex>.
Анонимный участник

Навигация