Re: OT Zaokrouhlování
Jaroslav Lukesh
lukesh na seznam.cz
Sobota Listopad 11 22:15:37 CET 2017
V práci když dělám s čísly (dělám s časem, ne s prachama), tak zaokrouhluju
na 9 desetinných míst.
Z čísel "pod rozlišovací schopnost"
0,4999999999999999999999945534
0,999999999999999932436
1,00000000000000007586
vzniknou krásná čísla 0,5 1 a 1.
Protože vždycky záleží na tom že FLOAT čísla jsou sice FLOAT, ale s velmi
omezenou přesností.
----- Původní zpráva -----
Od: "Miroslav Mraz" <mrazik na volny.cz>
> 3. Lze zaokrouhlovat i dolů, nakonec je to otázka konvence (absolutní
> hodnota chyby je stejná), ale to už je to pravidlo složitější a nic
> lepšího nepřináší. A ještě ke všemu jaksi mlčky předpokládá, že 0.4‾9 je
> rovno 0.5. Ale ono není - matematik by řekl, že se 0.5 v limitě blíží.
Další informace o konferenci Hw-list