Изменения

Перейти к: навигация, поиск

Представление вещественных чисел

20 байт добавлено, 11:43, 11 июля 2019
м
В предыдущей версии получалось, что неопределённость 0/0 равна неопределённости inf/inf, что в общем случае неверно
|Half precision||-||6,10&times;10<sup>-5</sup>..65504||11||16
|-
|Single presicion||float||-3,4&times;10<sup>-38</sup>..3,4&times;10<sup>38</sup>||23||32
|-
|Double precision||double||-1,7&times;10<sup>-308</sup>..1,7&times;10<sup>308</sup>||53||64
|-
|Extended precision||На некоторых архитектурах (например в сопроцессоре Intel) long double||-3,4&times;10<sup>-4932</sup>..3,4&times;10<sup>4932||65||80
|}
* <tex>0\times\infty= NaN</tex>
* <tex>\frac{\pm0}{\pm0}=NaN</tex> * <tex>\frac{\pm\infty}{\pm\infty} = NaN</tex>
* <tex>\sqrt{x} = NaN</tex>, где <tex>x<0</tex>
1
правка

Навигация