OT:Fragmentace

Jiří Nesvacil nesvacil na posys.eu
Pondělí Srpen 3 10:10:33 CEST 2020


Pro nějakou operativu bych klidně přeposlal poslední x tisíc záznamů 
logu do SQL, velikost db např. 100MB a do app bych nesahal. V SQL se dá 
rychle z ruky vyhledat.

K uložení kompletního logu do db: SQL neví, že máte data uložená 
setříděně a musela by si za chodu či vy pevně jí vytvořit index či 
indexy na více dotazů. Dále taky SQL je většinou psáno pro sdílení tj. 
paměť sdílí s další db na serveru tj. pokud dáte SQL dotaz, tak se Vám o 
paměť vše pere a nedosáhnete nikdy takové rychlosti jako při single 
přístupu, teda pokud to potřebujete.

Jirka

Dne 03.08.2020 v 9:45 Martin Záruba napsal(a):
> Děkuji všem za nápady. Samozřejmě nechce se mi to příliš předělávat a 
> použití sql znamená to předělat hodně. To řešení, které požívám je 
> velmi svižné, některé soubory mají okolo 200 000 záznamů a nalezení 
> potřebných dat trvá do vteřiny, přičemž je třeba přečíst cca 1000 
> vzorků. Pokud to není zoufale fragmentované. Soubory jsou setříděny 
> podle klíče-datum+čas.  Asi opravdu nejlepší bude ssd. Celá databáze 
> má nyní asi 50 GB.
>
> Martin Záruba
>
> Dne 3.8.2020 v 9:18 Jiří Nesvacil napsal(a):
>> Pokud to jsou logové informace každých x sekund, tak bych je do db 
>> necpal. Za rok či dva budou 4/5 GB velikosti databáze jen logové 
>> informace. Dostat se k těmto datům pružně bude stejně problematické 
>> jako v souboru. Žádný SQL server nebude držet data v paměti, aby se 
>> nad tím dalo rozumně pracovat. SQL je relační db a ne archiv log 
>> informací. Dá se samozřejmě použít k čemukoliv, ale s limity. Nad tím 
>> velkým logem Vám při dání SQL dotazu s setříděním třeba vypadne 
>> spojení, protože to bude zpracovávat minuty či hodiny. Pokud to bude 
>> na webhostingu, tak s tím třeba ani nic neuděláte. Nejprve si 
>> spočítejte kolik toho zaplníte za jakou dobu a zda tomu SQL dáte 
>> pořádně RAM v nastavení, aby mohl pracovat... .
>>
>> Jirka
>>
>>
>> Dne 03.08.2020 v 8:54 Ladislav Vaiz napsal(a):
>>> Souhlasím, že je to práce pro databázi (jsou i malé typu sqlite), 
>>> ale k původnímu dotazu jsem našel: 
>>> https://stackoverflow.com/questions/53334343/windows-refs-ntfs-file-preallocation-hint 
>>>
>>> L.
>>>
>>> Dne 03.08.2020 v 8:50 Jan Půhoný napsal(a):
>>>> Podle me kdyz to budete ukladat do databaze tak nebudete muset 
>>>> resit takoveto obezlicky. Uz z povahy věci je to úloha pro nějaký 
>>>> hosting za pár korun a bude to řádově spolehlivější než PC s 
>>>> win2000 někde u Vás na firmě. MySQL umí kdejaký hosting za pár korun.
>>>>
>>>> HP
>>>>
>>>> Dne po 3. 8. 2020 7:55 dop. uživatel Róbert Šuška 
>>>> <suska.roobert na gmail.com <mailto:suska.roobert na gmail.com>> napsal:
>>>>
>>>>     Alebo pouzit SSD disk pre servre ? Nebudes musiet riesit
>>>>     fragmentaciu a ani zivotnost...
>>>>     Robo
>>>>
>>>>     -----Original Message-----
>>>>     From: Hw-list <hw-list-bounces na list.hw.cz
>>>>     <mailto:hw-list-bounces na list.hw.cz>> On Behalf Of Lubor Otta
>>>>     Sent: Monday, August 3, 2020 3:16 AM
>>>>     To: hw-list na list.hw.cz <mailto:hw-list na list.hw.cz>
>>>>     Subject: Re: OT:Fragmentace
>>>>
>>>>     Jsem jenom laik, ale není systémové řešení tohoto problému v 
>>>> použití
>>>>     databázového serveru?
>>>>     Lubor
>>>>
>>>>
>>>>     Dne 2.8.2020 v 21:42 Martin Záruba napsal(a):
>>>>     > Jasně. To mě taky napadlo. Data přibývají spojitě, vždy cca 
>>>> po 10 s
>>>>     > asi 100 byte.
>>>>     >
>>>>     > Jenže jak se to zachová, když více vláken spustí zápis (je to 4
>>>>     jádro)
>>>>     > současně? Provede se to sekvenčně? Myslím to tak, že pokud 
>>>> vznikne
>>>>     > současně ze dvou vláken zápis, vytvoří jedno vlákno souvislý 
>>>> blok
>>>>     > (třeba nul) a pak druhé, nebo se prostřídají a stejně to bude
>>>>     > fragmentované?
>>>>
>>>>     _______________________________________________
>>>>     HW-list mailing list  -  sponsored by www.HW.cz <http://www.HW.cz>
>>>>     Hw-list na list.hw.cz <mailto:Hw-list na list.hw.cz>
>>>>     http://list.hw.cz/mailman/listinfo/hw-list
>>>>
>>>>     _______________________________________________
>>>>     HW-list mailing list  -  sponsored by www.HW.cz <http://www.HW.cz>
>>>>     Hw-list na list.hw.cz <mailto:Hw-list na list.hw.cz>
>>>>     http://list.hw.cz/mailman/listinfo/hw-list
>>>>
>>>>
>>>>
>>>> _______________________________________________
>>>> HW-list mailing list  -  sponsored by www.HW.cz
>>>> Hw-list na list.hw.cz
>>>> http://list.hw.cz/mailman/listinfo/hw-list
>>>
>>>
>>>
>>> _______________________________________________
>>> HW-list mailing list  -  sponsored by www.HW.cz
>>> Hw-list na list.hw.cz
>>> http://list.hw.cz/mailman/listinfo/hw-list
>>
> _______________________________________________
> HW-list mailing list  -  sponsored by www.HW.cz
> Hw-list na list.hw.cz
> http://list.hw.cz/mailman/listinfo/hw-list

-- 
Tento e-mail byl zkontrolován na viry programem AVG.
http://www.avg.cz



Další informace o konferenci Hw-list