Ak vaša mesačná faktúra za API od Anthropicu alebo OpenAI presiahla 10 000 €, tak viete presne, o čom hovorím.
Platíte za špičkový výstup, no zároveň financujete marketingové kampane a právne tímy v San Franciscu. Čínska spoločnosť Zhipu AI práve vypustila model GLM 5.2, ktorý v benchmarkoch ako MMLU-Pro alebo GPQA dosahuje výsledky porovnateľné s Opus 4.8, no za zlomok nákladov. Poďme sa pozrieť na tvrdé dáta, nie na reklamu.
Benchmarky: Kde GLM 5.2 reálne stojí?
Nebudeme si klamať, že ide o úplnú dominanciu. GLM 5.2 je extrémne konkurencieschopný v oblastiach ako: - Kódovanie (HumanEval, SWE-bench): približne na úrovni Opus 4.8, v niektorých úlohách s dlhým kontextom ho dokonca prekonáva. - Matematika a logické uvažovanie (MATH, AIME): rozdiel je v rámci štatistickej chyby, cca 1 – 2 %. - Agentské úlohy (BFCL, τ-bench): GLM 5.2 je navrhnutý na volanie funkcií a prácu s nástrojmi, čo je kritické pre RAG (rozšírené generovanie) a automatizáciu.
Kde stráca? V kreatívnom písaní dlhých textov a jemných nuansách slovenskej či českej lokalizácie. Angličtina a čínština sú výborné, no ak potrebujete dokonalý marketingový text v slovenčine, Opus 4.8 má stále navrch. Pre technickú dokumentáciu, analýzy kódu alebo štruktúrované dáta je to však úplne jedno.
Cenová vojna: Prepočítané na tokeny a reálne náklady
Tu prichádza jadro celej témy. Porovnanie cien za milión tokenov (vstupy/výstupy): - Anthropic Opus 4.8: 5 USD / 25 USD za milión tokenov. - GLM 5.2 (cez Zhipu API): približne 12 € / 48 €.
Pri mesačnej spotrebe 50 miliónov vstupných a 10 miliónov výstupných tokenov zaplatíte pri Opus 4.8 5 400 €. Pri GLM 5.2 to je 1 080 €. Ročný rozdiel? Takmer 52 000 €. To nie je drobná úspora, to je jeden junior vývojár alebo kompletná infraštruktúra pre testovacie prostredie.
Pozor na pascu: Zhipu API je primárne hosťované v Číne alebo cez Singapur. Ak máte dáta podliehajúce GDPR alebo NIS2, musíte riešiť dátovú lokalitu. Zhipu síce ponúka dedikované inštancie pre EÚ, no cena za ne je vyššia a stále nejde o plnú zhodu s európskymi cloudmi. Pre produkčné nasadenie s citlivými dátami odporúčam self-hosted variantu cez vLLM alebo SGLang na vlastných GPU.
Hardvérové nároky: Čo budete potrebovať na lokálny chod?
GLM 5.2 vyšiel ako jediný model typu MoE so 744 miliardami parametrov (~40 miliárd aktívnych na token) pod licenciou MIT. Pre väčšinu firiem je ideálny variant 32B, ktorý pri kvantizácii na 4-bit (GGUF) zaberie približne 20 GB VRAM. To znamená, že ho bez problémov rozbeháte na jednej NVIDIA RTX 4090 (24 GB VRAM) alebo na L40S v dátovom centre.
Výkon pri inference: - RTX 4090: 40 – 60 tokenov za sekundu pre 32B model. To je dostatočné pre interaktívne použitie. - H100 (80 GB): na plný GLM 5.2 (744 miliárd parametrov v MoE architektúre) jedna karta nestačí — ani v 4-bitovej kvantizácii sa model do 80 GB nezmestí, ale tam sa bavíme o nákladoch na infraštruktúru.
Ak plánujete nasadenie pre 50+ zamestnancov, odporúčam 2× RTX 4090 alebo 1× L40S (48 GB VRAM) pre rezervu na kontextové okno 128k tokenov. Či sa náklad na hardvér vráti, závisí od toho, koľko tokenov denne reálne spracujete — pri nízkych objemoch vychádza cloudové API stále lacnejšie.
Bezpečnosť a riziká: Čo vám nikto nepovie
Čínsky model znamená čínske regulačné prostredie. Zhipu AI podlieha čínskym zákonom o kybernetickej bezpečnosti, čo môže znamenať: - Cenzúra výstupov pri politicky citlivých témach. - Telemetria a logovanie – overte si, či API neposiela dáta na servery v Číne. - Zraniteľnosti voči prompt injection – čínske modely majú často slabšiu obranu proti jailbreakom, preto je nutné nasadiť guardrails (ochranné vrstvy) ako NeMo Guardrails alebo Llama Guard.
Pre firmy v EÚ je kritické vykonať DPIA (posúdenie vplyvu na ochranu údajov) ešte pred nasadením. Ak spracúvate osobné údaje, odporúčam ostať pri self-hosted riešení a model úplne odpojiť od internetu.
Richardov biznis verdikt: oplatí sa čínsky model pustiť do firmy?
GLM 5.2 je okamžite nasaditeľný pre interné nástroje, sumarizáciu, kódovanie a RAG systémy, kde nemáte prísne dátové obmedzenia. Ak vaše dáta nesmú opustiť EÚ, investujte do dedikovanej inštancie alebo lokálneho GPU servera – úspora 80 % nákladov za výstup je príliš veľká na to, aby ste ju ignorovali.
Počkať na verziu 2.0 odporúčam len vtedy, ak potrebujete dokonalú slovenčinu v marketingových textoch alebo máte extrémne citlivé dáta, ktoré si vyžadujú certifikáciu ISO 27001 od poskytovateľa cloudu. Pre všetkých ostatných: začnite s pilotným projektom na 32B modeli a merajte kvalitu výstupov na vlastných dátach. Ušetrené peniaze investujte do bezpečnostnej vrstvy a prompt engineeringu, ktorý model posunie nad úroveň Opusu.
