Predstavte si, že sa ChatGPT spýtate, koľko je 2+2, a on odpovie „5“.
Nebude to chyba v matematike, ale dôsledok toho, že model nevníma čísla ako čísla, ale ako kúsky textu – tokeny. A práve v tomto detaile sa skrýva odpoveď na otázku, prečo vám AI občas s plnou vážnosťou tvrdí, že Bratislava je hlavné mesto Maďarska.
Tokeny: stavebné kamene, o ktorých ste netušili
Keď zadáte prompt, model ho nerozdelí na slová ani písmená, ale na tokeny. Token je zhluk znakov – môže to byť celé slovo („ahoj“), časť slova („ahojte“ = „ahoj“ + „te“) alebo dokonca jeden znak. Pre predstavu: anglické slovo má priemerne 1,3 tokenu, zatiaľ čo slovenčina je na tom o niečo horšie. Pri bežnom dopyte v našom jazyku rátajte s približne 1,5 – 1,8 tokenu na slovo.
Prečo je to dôležité? Pretože kontextové okno modelu sa meria v tokenoch, nie v slovách. Keď model GPT-4o ponúka 128 000 tokenov, v praxi to znamená zhruba 90 000 slov angličtiny, ale len okolo 75 000 slov slovenčiny. Ak pracujete s dlhými dokumentmi, tento rozdiel vás môže nepríjemne prekvapiť.
Kontext: pamäť, ktorá má svoje limity
Kontextové okno je pracovná pamäť modelu. Všetko, čo sa doň zmestí – váš prompt, história konverzácie, dokumenty – model „vidí“ naraz. A tu prichádza prvý kameň úrazu: model si nepamätá nič, čo sa do okna nezmestí. Keď konverzácia presiahne limit, staršie časti sa jednoducho „zabudnú“, aj keď ich máte v rozhraní stále zobrazené.
Druhým limitom je fenomén „stredného zabúdania“. Model si najlepšie pamätá začiatok a koniec kontextu, ale informácie v strede sa mu strácajú. Ak máte dokument s kľúčovou informáciou na 50. strane z 80, model ju s vysokou pravdepodobnosťou prehliadne. Praktické ponaučenie? Kritické údaje dávajte na začiatok alebo koniec promptu, nie doprostred.
Prečo AI halucinuje? Nie je to chyba, je to dizajn
Halucinácia nie je porucha, ale priamy dôsledok toho, ako LLM funguje. Model negeneruje odpoveď podľa faktov, ale predikuje najpravdepodobnejšie pokračovanie textu na základe vzorov z tréningových dát. Keď sa ho spýtate na niečo, o čom nemá dostatok informácií, vygeneruje najpravdepodobnejšie znejúci text – a ten nemusí byť pravdivý.
K halucináciám prispievajú tri faktory:
- Neutrálne témy bez jednoznačnej odpovede – model radšej vygeneruje niečo, než by priznal nevedomosť.
- Príliš všeobecný prompt – čím menej kontextu dáte, tým viac si model „domýšľa“.
- Teplota generovania – parameter, ktorý určuje náhodnosť výstupu. Vyššia teplota = kreatívnejšie, ale aj menej presné odpovede.
Ako halucinácie obmedziť: konkrétne techniky
1. Dajte modelu oporu v texte. Namiesto „Napíš zhrnutie tohto dokumentu“ použite:
Na základe nasledujúceho textu odpovedz na otázku: [vložte text]. Ak text neobsahuje odpoveď, napíš "Neviem".
2. Obmedzte kreativitu. V API nastavte teplotu na 0,2 – 0,4 pre faktické úlohy. V ChatGPT to priamo nejde, ale môžete promptom zadať: „Odpovedz striktne len na základe poskytnutých informácií, bez domýšľania.“
3. Použite techniku RAG (retrieval-augmented generation). Namiesto toho, aby model čerpal z vlastnej pamäte, nechajte ho pracovať s vaším dokumentom. Nástroje ako ChatGPT „Attach files“ alebo Claude Projects fungujú presne takto – model nehľadá v sebe, ale vo vašom texte.
4. Vyžiadajte si zdroje. Prompt typu „Uveď, z ktorých častí poskytnutého textu vychádzaš“ prinúti model pracovať presnejšie.
Kedy sa na AI spoľahnúť a kedy nie
Dôverovať môžete: sumarizácii textov, ktoré ste sami poskytli, prepisu a štruktúrovaniu, generovaniu kódu s testami, prekladom.
Dôverovať by ste nemali: aktuálnym udalostiam bez overenia, číslam a štatistikám, citáciám a odkazom na zdroje, právnym a lekárskym radám.
Erikov kreatívny tip
Keď potrebujete fakty, nikdy neberte prvú odpoveď ako konečnú — ale nepýtajte sa modelu „Si si istý?“. Práca FlipFlop (arXiv 2311.08596) otestovala presne túto otázku na desiatich modeloch: po nej model zmení odpoveď v priemere v 46 % prípadov a jeho presnosť klesne o 17 %. Necúvne k pravde, ale k tomu, čo od neho podľa všetkého čakáte. Funguje niečo iné: pýtajte si ku každému tvrdeniu zdroj a nechajte model odpoveď porovnať s konkrétnym dokumentom, nie s vlastnou pamäťou. A ak pracujete s dôležitými dátami, vždy si nechajte výstup overiť druhým modelom. Dva nezávislé zdroje sú lepšie ako jeden, aj keď oba sú umelé.
