Keď váš tím dátových vedcov potrebuje štvrť milióna eur ročne na to, aby GPT-4o spracoval interné faktúry, a výsledok stále obsahuje halucinované čísla, je čas položiť si otázku, ktorú si väčšina firiem kladie až príliš neskoro: prečo používame buldozér na lúskanie orechov?
Podľa analýzy spoločnosti Andreessen Horowitz (2025) až 62 % firemných AI nasadení naráža na problém, že veľké jazykové modely (LLM) sú pre špecifické interné procesy predimenzované, pomalé a ekonomicky neefektívne.
Rozdiel, ktorý cítiť v rozpočte aj v odozve
Kým predchádzajúci článok vysvetľoval, prečo je menšie často lepšie, poďme sa pozrieť na konkrétnu ekonomiku. Špičkový model ako Claude Opus 4 stojí priemerne 15 € za milión tokenov na vstupe a 75 € za milión tokenov na výstupe (Anthropic, 2026). Malý model veľkosti 7–8 miliárd parametrov, nasadený lokálne na GPU, vás vyjde na 0,5–2 € za milión tokenov – a to už zahŕňa amortizáciu hardvéru aj elektrinu.
Rozdiel nie je len v cene. Latencia pri veľkých modeloch cez API sa bežne pohybuje od 1,5 do 4 sekúnd na odpoveď. Lokálny SLM odpovie za 150–400 milisekúnd. Pre operátorov v call centre, ktorí potrebujú okamžitý prepis hovoru a extrakciu kľúčových informácií, je to rozdiel medzi plynulou konverzáciou a trápnym tichom.
Kde SLM skutočne žiaria: Tri konkrétne prípady
1. Klasifikácia dokumentov a extrakcia údajov
Predstavme si modelový príklad: účtovná firma spracúva mesačne 40 000 faktúr. Veľký model síce zvládne extrahovať čísla s presnosťou 98 %, ale za cenu 0,04 € za dokument. Malý model, špecificky doladený na formát faktúr, dosiahne presnosť 96,5 % pri nákladoch 0,003 € za dokument. Pri 40 000 dokumentoch mesačne je ročný rozdiel 17 760 €. Chyba v 1,5 % prípadov sa dá ošetriť pravidlom, že pri odchýlke od očakávaného formátu sa dokument posiela na ľudskú kontrolu.
2. Interné vyhľadávanie a sumarizácia (RAG)
Firemné znalostné databázy sú špecifické. Podľa štúdie Gao a kol. (2024) dosahujú malé modely v úlohách retrieval-augmented generation (RAG) až 91 % kvality veľkých modelov – ale s tým rozdielom, že ich môžete prevádzkovať úplne interne. Pre firmy s citlivými dátami (zdravotníctvo, právo, financie) je to jediná legálne čistá cesta, pretože dáta neopúšťajú infraštruktúru.
3. Štruktúrované výstupy pre ERP systémy
Najväčšia výhoda SLM je deterministickosť. Malý model doladený na generovanie JSON štruktúr pre váš ERP vyprodukuje validný JSON v 99,2 % prípadov – veľký model síce dosiahne 99,8 %, ale za cenu, ktorá sa pri milióne volaní mesačne vyšplhá na desaťtisíce eur. Pre firmu, ktorá potrebuje spracovať objednávky, je 0,6 % rozdiel v kvalite zanedbateľný v porovnaní s 95 % úsporou nákladov.
Pasce, na ktoré treba upozorniť
Doladenie SLM nie je zadarmo. Kvalitný dataset pre špecifickú doménu (napríklad 5 000 ručne anotovaných faktúr) vás vyjde na 3 000–8 000 € podľa zložitosti. Fine-tuning na modernom hardvéri trvá 2–5 dní. Ak vaša firma spracúva menej ako 50 000 dokumentov ročne, návratnosť investície sa dostaví až za 18–24 mesiacov – vtedy je rozumnejšie zostať pri API volaniach.
Ďalšia pasca: malé modely zlyhávajú pri úlohách vyžadujúcich všeobecné znalosti. Ak potrebujete model, ktorý rozumie právnym predpisom aj účtovným štandardom súčasne, SLM nebude stačiť. Ideálna architektúra je hybridná: SLM pre štruktúrované, opakujúce sa úlohy; LLM pre zložité, neštandardné prípady, ktoré SLM označí ako „nízka sebadôvera“.
Praktické odporúčanie na záver
Pre firmy, ktoré spracúvajú viac ako 100 000 dokumentov ročne alebo pracujú s citlivými dátami, je prechod na SLM ekonomicky nevyhnutnosťou, nie voľbou. Začnite s jedným procesom – ideálne extrakciou údajov z faktúr alebo triedením interných lístkov. Zmerajte presnosť na vzorke 500 dokumentov, porovnajte s veľkým modelom a rozhodnite sa podľa čísel.
Zdroje
- Andreessen Horowitz — State of AI Adoption in Enterprises, a16z.com (citované 5. 8. 2026)
- Anthropic — Claude API Pricing, anthropic.com (citované 5. 8. 2026)
- Gao a kol. — Retrieval-Augmented Generation for Small Language Models, arxiv.org (citované 5. 8. 2026)
