Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

997 байт добавлено, 06:45, 20 октября 2011
Округление
'''Округление к нулю''' (англ. ''round-toward-zero'') - правило, при котором округление в вышеописанном случае производится <tex>p</tex>-битному значению, находящемуся между точным значением и нулем, а также ближайшему к точному значению.
}}
 
'''Например''', в 4-битной арифметике число <tex>10011</tex> будет округлено до <tex>1.010 \times 2^4</tex> по первому правилу, и до <tex>1.001 \times 2^4</tex> по второму.
 
Стоит отметить, что стандарт IEEE 754 использует округление до ближайшего четного по умолчанию.
 
Далее в этой статье символами <tex>\oplus, \ominus</tex> и <tex>\otimes</tex> будут обозначаться <tex>p</tex>-битные сложение, вычитание и умножение с точным округлением соответственно.
 
Из-за округления данные операции теряют некоторые важные свойства, например, ассициативность: <tex>(1000 \oplus 0.011) \oplus 0.011 = 1000</tex>, но <tex>1000 \oplus(0.011 \oplus 0.011) = 1001</tex>.
355
правок

Навигация