Keď v júli 2024 vstúpil do platnosti európsky Akt o umelej inteligencii (AI Act), väčšina slovenských firiem si vydýchla – veď povinnosti sa týkajú hlavne „vysokorizikových“ systémov a tie my predsa nemáme.
Súčasne začal plne účinkovať európsky Akt o umelej inteligencii (AI Act) s komplexnými pravidlami a zrazu sa ukázalo, že sa to týka aj vás. Konkrétne: ak nasadzujete AI na hodnotenie zamestnancov, na posudzovanie bonity klientov alebo na triedenie životopisov, európska regulácia vás môže zasiahnuť už začiatkom roka 2027.
Čo vlastne nový zákon prináša
Európsky Akt o umelej inteligencii (AI Act) stanovuje jednotné pravidlá, ktoré v niektorých bodoch vyžadujú prísny prístup. Kľúčové rozdiely:
- Zoznam vysokorizikových oblastí – AI Act sa zameriava na kritickú infraštruktúru, zdravotníctvo, justíciu, ale zahŕňa aj HR procesy, vzdelávanie a finančné služby.
- Registrácia v databáze EÚ – poskytovatelia vysokorizikových systémov musia zabezpečiť registráciu systému v európskej databáze pred uvedením na trh.
- Ľudský dohľad – zákon vyžaduje, aby mal každý vysokorizikový systém určenú konkrétnu zodpovednú osobu, ktorá rozumie fungovaniu modelu a vie zasiahnuť do jeho rozhodnutí.
- Transparentnosť voči verejnosti – ak váš systém ovplyvňuje viac ako 1 000 osôb ročne, musíte zverejniť základné informácie o fungovaní algoritmu na svojom webe.
Podľa odborných odhadov sa nové povinnosti dotknú tisícok subjektov na Slovensku – od bánk cez personálne agentúry až po poskytovateľov vzdelávacích platforiem.
Kde vás to zasiahne najviac
HR a nábor
Ak používate nástroje na filtrovanie životopisov, prediktívne hodnotenie kandidátov alebo AI chatboty na prvotné pohovory, spadáte pod nový režim. Zákon vyžaduje, aby ste:
- mali zdokumentovaný postup výberu dát a tréningu modelu,
- vedeli vysvetliť rozhodnutie systému každému uchádzačovi,
- zabezpečili pravidelný audit (minimálne raz ročne) na zistenie zaujatosti.
Finančné služby
Automatizované posudzovanie úverovej bonity, detekcia podvodov či dynamické oceňovanie poistného – to všetko je pod drobnohľadom. Zákon vyžaduje testovanie na syntetických dátach pred nasadením do ostrých procesov a zavedenie mechanizmu na odvolanie sa proti automatizovanému rozhodnutiu.
Vzdelávanie
Adaptívne vzdelávacie platformy, automatické hodnotenie testov či systémy na predikciu študijného neúspechu – ak ich používate, musíte preukázať, že nerobia diskriminačné rozhodnutia na základe pohlavia, etnicity alebo sociálneho zázemia.
Ako sa pripraviť – praktický plán na 6 mesiacov
Nečakajte na poslednú chvíľu. Kontroly dodržiavania nariadenia môžu začať pôsobiť od 1. januára 2027 a pokuty za nesplnenie povinností podľa AI Actu dosahujú až 7 % z celosvetového obratu alebo 35 miliónov eur.
Mesiac 1–2: Audit a inventúra - Zmapujte všetky systémy, ktoré používajú AI alebo automatizované rozhodovanie. - Rozdeľte ich na kategórie: vysokorizikové, nízkorizikové, len čiastočne automatizované. - Pomenujte zodpovednú osobu pre každý systém – bez nej zákon neuzná vašu zhodu.
Mesiac 3–4: Dokumentácia a testovanie - Vytvorte technickú dokumentáciu ku každému modelu: účel, tréningové dáta, metrika úspešnosti, limity. - Spustite testy na zaujatosť – odporúčam použiť framework (rámec) AI Fairness 360 od IBM (2025) alebo open-source nástroj Fairlearn od Microsoftu. - Zaveďte logovanie rozhodnutí – každé automatizované rozhodnutie musí byť spätne dohľadateľné.
Mesiac 5–6: Procesy a školenia - Nastavte eskalačné procedúry pre prípady, keď človek nesúhlasí s rozhodnutím AI. - Preškoľte zamestnancov, ktorí prichádzajú do styku s výstupmi systémov. - Pripravte sa na registráciu – proces zápisu do európskej databáze si vyžaduje dôkladnú prípravu všetkých podkladov.
Päť pascí, na ktoré firmy najčastejšie zabúdajú
-
Dodávateľská zodpovednosť – ak nakupujete AI systém od externej firmy, zodpovednosť za súlad so zákonom nesiete vy ako prevádzkovateľ, nie dodávateľ. Zmluvne si vyjednajte prístup k dokumentácii a zdrojovým dátam.
-
Retrospektívna povinnosť – zákon sa vzťahuje aj na systémy nasadené pred účinnosťou zákona. Ak používate AI od roku 2023, musíte ju dodatočne zdokumentovať.
-
Dáta v cloude – ak váš model beží na serveroch mimo EÚ, musíte preukázať, že dáta sú spracúvané v súlade s GDPR a že máte právny základ na prenos.
-
Modelové karty – zákon nevyžaduje konkrétny formát, ale inšpektori budú očakávať niečo ako model card (štandardizovaný opis modelu) v štýle, ktorý presadzuje Google (Mitchell a kol., 2019). Pripravte si ju vopred.
-
Aktualizácie a verzie – každá zmena modelu, aj malá, je podľa výkladu ministerstva novým nasadením, čo znamená novú registráciu a nové testy. Zaveďte si správu verzií a proces schvaľovania zmien.
Čo to znamená pre vaše náklady
Odborné odhady naznačujú, že náklady na dosiahnutie súladu pre strednú firmu sa môžu pohybovať v desiatkach tisíc eur – v závislosti od počtu systémov a stavu existujúcej dokumentácie. Ak máte všetko poriadne zdokumentované už teraz, môžete sa dostať na spodnú hranicu. Ak nie, rátajte skôr s tou hornou.
Technický záver: Regulácia ako konkurenčná výhoda, nie bremeno
Nepozerajte sa na nový zákon ako na ďalšiu byrokratickú záťaž. Firmy, ktoré prejdú procesom auditu a dokumentácie včas, získajú dôležitú výhodu: dôveryhodnosť u zákazníkov aj partnerov v EÚ. V čase, keď sa európsky trh s AI čoraz viac delí na „certifikovaných“ a „nespoľahlivých“ hráčov, je súlad s európskym AI Actom váš vstupný lístok do prémiového segmentu. Začnite s auditom dnes – o šesť mesiacov už bude neskoro.
Zdroje
-
Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 (Akt o umelej inteligencii), eur-lex.europa.eu
-
Mitchell M. a kol. — Model Cards for Model Reporting, proceedings.mlr.press (citované 5. 8. 2026)
- IBM — AI Fairness 360 Toolkit, github.com/Trusted-AI/AIF360
