Re: OT Zaokrouhlování

Jaroslav Lukesh lukesh na seznam.cz
Sobota Listopad 11 22:15:37 CET 2017


V práci když dělám s čísly (dělám s časem, ne s prachama), tak zaokrouhluju 
na 9 desetinných míst.

Z čísel "pod rozlišovací schopnost"

0,4999999999999999999999945534
0,999999999999999932436
1,00000000000000007586

vzniknou krásná čísla 0,5 1 a 1.

Protože vždycky záleží na tom že FLOAT čísla jsou sice FLOAT, ale s velmi 
omezenou přesností.



----- Původní zpráva ----- 
Od: "Miroslav Mraz" <mrazik na volny.cz>

> 3. Lze zaokrouhlovat i dolů, nakonec je to otázka konvence (absolutní 
> hodnota chyby je stejná), ale to už je to pravidlo složitější a nic 
> lepšího nepřináší. A ještě ke všemu jaksi mlčky předpokládá, že 0.4‾9 je 
> rovno 0.5. Ale ono není - matematik by řekl, že se 0.5 v limitě blíží.



Další informace o konferenci Hw-list