Optimalizacia konstantneho float vyrazu, was: C xc8

[Zuffa Jan]

Nasiel som ze cele cisla existuju az po 2^m (m - mantisa u mojho floatu 24)
na stranke cislo 96.0000 existuje, cislo 96.0000000 uz nie :)
Vdaka za odkaz, dostudujem

j.

-----Original Message-----
From: Hw-list [mailto:hw-list-bounces na list.hw.cz] On Behalf Of Ladislav Vaiz
Sent: Wednesday, December 06, 2017 2:17 PM
To: HW-news
Subject: Re: Optimalizacia konstantneho float vyrazu, was: C xc8

 > hlavne ze to funguje :) V reale ciso 96.0000 neexistuje

To není pravda. "Malá" celá čísla jsou uložena přesně. Třeba u 0.96 už byste měl pravdu. Viz třeba https://www.h-schmidt.net/FloatConverter/IEEE754.html .
L.
_______________________________________________
HW-list mailing list  -  sponsored by www.HW.cz Hw-list na list.hw.cz http://list.hw.cz/mailman/listinfo/hw-list