„Lebegőpontos számábrázolás” változatai közötti eltérés

[ellenőrzött változat][ellenőrzött változat]
Tartalom törölve Tartalom hozzáadva
Legobot (vitalap | szerkesztései)
a Bot: 1 interwiki link migrálva a Wikidata d:q117879 adatába
BinBot (vitalap | szerkesztései)
a 4 bites stb. kötőjel nélkül; OH 411. (helyesírási javítás kézi ellenőrzéssel)
41. sor:
ahol : ''m'' = ''e'' – ''127'', illetve ''q'' = ''(1,f)''<sub>''2''</sup>.
 
Ebben az esetben 1 ≤ ''q'' < 2, melynél a legfontosabb bit az első, amelyik nincs expliciten tárolva. Az ''s'' az ''x'' szám előjelét adja meg (ha negatív: 0, ha pozitív: 1), ''m'' = ''e'' – ''127'' a 8- bites eltérített exponens, és ''f'' a 23- bites törtrésze a számnak, amely az első egyessel együtt adja az értékes számjegyeket.
 
Az ''e''-re való kikötés, miszerint csak 8 biten ábrázolható, korlátozza a számítógépen ábrázolható számok nagyságát: