Float na 8bit - minitest

[Pavel Hudeček]

Typický příklad je měření absorbance. Data z 2x 24b ADC, výstup má být 
logaritmus podílu těch hodnot. A může se stát, že z jednoho kanálu 
přijde 1e7 a druhého  17, nebo taky z obou kolem 1e7. Požadovaná 
přesnost v té druhé situaci je 1e-5.

Ano, lze pak kouzlit s celočíselným zpracováním, vymejšlet jak to 
zlogaritmovat, ... vymýšlet kolo. A nebo použiju double od začátku do 
konce, všechno rovnou funguje. Mám jistotu, že samotné počítání prostě 
funguje a má na přesnost takovou rezervu, že tomu při analýze nemusím 
věnovat pozornost. A můžu naopak věnovat pozornost tomu, co zákalzník 
chtěl abych udělal lepší než má konkurence, třeba rychlejší měřící 
algoritmus, což je skutečná nová věc na vymýšlení.

PH

Dne 24.04.2024 v 12:01 Miroslav Mraz napsal(a):
> K čemu by vlastně 64-bit double na MCU byl ? Když provedu nějaký 
> přesný výpočet, kde na přesnosti opravdu záleží, musím provést zároveň 
> i odhad chyby, což je řádově složitější záležitost. Jinak je to 
> Cimrman - 26.května 1902 v 9 hodin 55 minut +/- 200 let.
>
> Mrazík
>
> On 24. 04. 24 10:08, Jan Waclawek wrote:
>> Vyguglil som https://gcc.gnu.org/wiki/avr-gcc 
>> <https://gcc.gnu.org/wiki/avr-gcc> , kde sa hovori, ze od gcc verzie 
>> 10 je 64-bit double, s prislusnym prepinacom.
>>
>> S tym delenim, ze nie je HW, beriem na vedomie. Nesledujem to a v 
>> ramci toho ze tie nove AVR stale vznikaju a ze je 21.st. som nejako 
>> automaticky ocakaval, ze to tam uz bude...
>>
>> ... '51 mala DIV, aj ked nepouzitelnych 8/8, ale zase to bol rok 1980...