Round float24

milger milger na pobox.sk
Středa Únor 13 14:28:42 CET 2013


3 je este v pohode ale 0.3 uz nie..

Milan
On 13. 2. 2013 14:18, Jaroslav Buchta wrote:
> Tak ono se hlavne to cislo deli jakoby 2 az je coslo v bitovem formatu 
> 1.xxxxxx * 2^exp, ta jednicka pred d.t. se neuklada do mantisy. A v 
> tomto formatu se mantisa uklada, takze to vyjadreni neni tak uplne 
> jednoduche - treba ani cislo 3 nebude mit myslim ukonceny rozvoj a 
> nebude zobrazeno presne.
>
> Dne 13.2.2013 14:13, Jan Waclawek napsal(a):
>>> Myslim ze to nie je take jednoduche, asi preto ze mantisa aj 
>>> exponent su
>>> v 16-kovej a nie desiatkovej sustave...
>>> Takze exponet neznamena x10,x100... ale x2,x4,x8... a to zase ovplyvni
>>> mantisu.
>>>
>>> ...dufam ze moc netaram
>> No pre cislo 12727.0000 to take jednoduche je, pretoze exponent je 
>> 10^0 a
>> to je zhodou okolnosti to iste ako 2^0.
>>
>> Ale vo vseobecnosti mate pravdu s tym exponentom ze je 2^n a nie 
>> 10^n; no a
>> prave preto uz u 127.27 mantisa nie je 12727.
>>
>> wek
>>
>>
>> _______________________________________________
>> HW-list mailing list  -  sponsored by www.HW.cz
>> Hw-list na list.hw.cz
>> http://list.hw.cz/mailman/listinfo/hw-list
>
> _______________________________________________
> HW-list mailing list  -  sponsored by www.HW.cz
> Hw-list na list.hw.cz
> http://list.hw.cz/mailman/listinfo/hw-list



Další informace o konferenci Hw-list