Round float24

Jaroslav Buchta jaroslav.buchta na hascomp.cz
Středa Únor 13 13:27:22 CET 2013


Ja bych s tim po vynasobeni 100 a prevedeni na int uz pracoval celociselne.
24 bitu na float je IMHO hodne malo, kolik bitu ma mantisa - 17,18?

Dne 13.2.2013 13:22, Tomáš Hamouz napsal(a):
> Ještě jsem našel tento konvertor:
> http://www.binaryconvert.com/result_float.html?decimal=049050055046054055
> Je to sice také do obyčejného floatu, ale krásně ukazuje že 127.67 má
> rozvoj delší než je délka mantisy (možná i nekonečný, nezkoumal jsem
> to)
> Přesně to nevychází ani v double.
>
> Tomáš
>
>
> H> No, konkrétně mi nefunguje tento kód:
> H> int x = round(127,67383*100);
> H> float y = (int)x; // tady by mělo být v y 12767,00000 ale je 12767,xxxxx
> H> S pozdravem,
> H> Miloš Dašek
>
> H> Dne 13. února 2013 10:49 Tomáš Hamouz <hamouz na alsoft.cz> napsal(a):
>>> Pravděpodobně se číslo 127,67000 nedá vyjádřit ve float přesně.
>>> viz http://gregstoll.dyndns.org/~gregstoll/floattohex/
>>>
>>> Tomáš
>>>
>>> H> Zdravím,
>>> H> potřeboval bych v XC8 nebo Hi-Tech zaokrouhlit float24
>>> H> číslo(proměnnou) 127,67383 na 127,67000. A´t dělám co dělám, výsledkem
>>> H> je vždy nějaká modifikace původního čísla(na všech pozicích za
>>> H> desetinnoum tečkou jsou nějaké hodnoty). Zkoušel jsem kde co i
>>> H> konverze round(float) pak do int a zpět do float atd. Co jsem tak
>>> H> ještě nezkoušel je modf(), protože na malých MCU jsou operace s FP
>>> H> zbytečným plýtváním a tak potřebné radši přepisuju do celých čísel.
>>> H> Přesto by mně zajímalo, proč to zaokruhlení nefunguje. Manuály k oběma
>>> H> kompilérům žádné omezení, pokud jsem něco nepřehlédl, při práci s
>>> H> float24 nepopisují. Vidím to na nějaké přehlédnutí některé vlastnosti,
>>> H> ale nedaří se mi k tomu nic dohledat, byl by někdo ochotný tohle
>>> H> objasnit?
>>> H> S pozdravem,
>>> H> Miloš Dašek
>>> H> _______________________________________________
>>> H> HW-list mailing list  -  sponsored by www.HW.cz
>>> H> Hw-list na list.hw.cz
>>> H> http://list.hw.cz/mailman/listinfo/hw-list
>>>
>>>
>>> _______________________________________________
>>> HW-list mailing list  -  sponsored by www.HW.cz
>>> Hw-list na list.hw.cz
>>> http://list.hw.cz/mailman/listinfo/hw-list
> H> _______________________________________________
> H> HW-list mailing list  -  sponsored by www.HW.cz
> H> Hw-list na list.hw.cz
> H> http://list.hw.cz/mailman/listinfo/hw-list
>
>
> _______________________________________________
> HW-list mailing list  -  sponsored by www.HW.cz
> Hw-list na list.hw.cz
> http://list.hw.cz/mailman/listinfo/hw-list



Další informace o konferenci Hw-list