Изменения

Перейти к: навигация, поиск

Adaptive precision arithmetic

1406 байт добавлено, 06:31, 20 октября 2011
Округление
* если точный результат ''может'' быть представлен в <tex>p</tex> битах, то результатом округления будет точное значение числа;
* если точный результат ''не может'' быть представлен в <tex>p</tex> битах, то результатом округления будет ближайшее <tex>p</tex>-битное значение.
}}
 
'''Например''', в 4-битной арифметике произведение <tex>111 \times 101 = 100011</tex> будет округлено в <tex>1.001 \times 2^5</tex>.
 
При вычислении результата может возникнуть ситуация, когда значение попадает в точности между двумя соседними <tex>p</tex>-битными значениями. Тогда требуется определить правило поведения в таком случае. Рассмотрим некоторые из них.
 
{{Определение
|definition=
'''Округление до ближайшего четного''' (англ. ''round-to-even'') - правило, при котором округление в вышеописанном случае производится к ближайшему <tex>p</tex>-битному четному значению.
}}
 
{{Определение
|definition=
'''Округление к нулю''' (англ. ''round-toward-zero'') - правило, при котором округление в вышеописанном случае производится <tex>p</tex>-битному значению, находящемуся между точным значением и нулем, а также ближайшему к точному значению.
}}
355
правок

Навигация