Evropská unie se stala prvním regionem na světě, který přijal komplexní právní rámec pro regulaci umělé inteligence. AI Act, oficiálně nařízení Evropského parlamentu a Rady (EU) 2024/1689, vstoupil v platnost 1. srpna 2024 a postupně nabývá účinnosti. Tento legislativní milník má zásadní dopad na firmy, vývojáře i uživatele AI v celé Evropě. Co přesně přináší, jaká jsou pravidla pro umělou inteligenci a proč je považován za revoluční krok? To se dozvíte v následujících řádcích.
Proč vznikl AI Act?
Umělá inteligence se stala nedílnou součástí našeho života – od zdravotnictví přes dopravu až po finanční služby. S rostoucím vlivem AI však narůstala i obava z jejího nekontrolovaného využívání: diskriminace, ztráta soukromí, manipulace chování či šíření dezinformací. AI Act proto zavádí zákon o umělé inteligenci pro bezpečné, transparentní a etické používání AI.
Které technologie spadají pod AI Act
Nařízení regulace AI se vztahuje na široké spektrum systémů umělé inteligence – od algoritmů strojového učení přes generativní modely až po systémy využívající statistické metody pro rozhodování. AI Act definuje „systém umělé inteligence“ velmi široce, aby pokryl nejen současné technologie, ale i budoucí inovace. Patří sem:
- Generativní AI: např. textové a obrazové modely,
- Prediktivní algoritmy: např. scoring v bankovnictví,
- Rozpoznávání obrazu a hlasu,
- Autonomní systémy: robotika, samořídící vozidla,
- AI pro analýzu dat: např. zdravotní diagnostika. Výjimku tvoří systémy vyvinuté výhradně pro vědecký výzkum nebo osobní nekomerční použití.
Jak funguje regulace? Přístup založený na riziku
AI Act uplatňuje risk-based approach – čím vyšší riziko systém představuje, tím přísnější pravidla musí splňovat. Nařízení rozděluje AI systémy do čtyř kategorií:
- Nepřijatelné riziko – systémy zcela zakázané (např. sociální skórování, podprahová manipulace, biometrické sledování v reálném čase).
- Vysoké riziko – AI používaná v kritických oblastech (zdravotnictví, doprava, vzdělávání, nábor, veřejná správa). Tyto systémy musí projít přísným posouzením, mít dokumentaci, lidský dohled a mechanismy řízení rizik.
- Omezené riziko – např. chatboty nebo generátory obsahu. Povinnost informovat uživatele, že interagují s AI, a označovat AI-generovaný obsah
- Minimální riziko – běžné aplikace (spam filtry, AI ve hrách) bez zvláštních povinností.
Speciální pravidla pro generativní AI
Modely obecného účelu (GPAI), jako ChatGPT nebo Copilot, mají vlastní režim regulace. Musí:
- označovat obsah vytvořený AI,
- zveřejnit přehled dat chráněných autorským právem použitých pro trénink,
- zavést opatření proti tvorbě nelegálního obsahu.
Jaké povinnosti ukládá firmám
Firmy, které vyvíjejí nebo nasazují AI, musí dodržovat řadu povinností:
- Identifikace rizikové kategorie každého AI systému,
- Transparentnost – informovat uživatele, že interagují s AI,
- Dokumentace a audit – u vysoce rizikových systémů vést podrobnou technickou dokumentaci,
- Lidský dohled – zajistit možnost zásahu člověka u kritických aplikací,
- Kybernetická bezpečnost – chránit systémy před zneužitím. Pro generativní AI platí navíc povinnost označovat obsah vytvořený AI a zveřejnit informace o tréninkových datech.
Dopad na firmy a vývojáře
Firmy musí:
- provést analýzu rizik svých AI systémů,
- zavést interní procesy pro dodržování legislativy,
- zajistit AI gramotnost zaměstnanců,
- u vysoce rizikových systémů splnit technické a organizační požadavky (certifikace, dokumentace, monitoring).
Dopad AI Actu na běžné uživatele
Pro běžné uživatele znamená AI Act především vyšší míru ochrany a transparentnosti. Uživatelé budou:
- Vědět, kdy komunikují s AI (např. chatboty musí být jasně označeny),
- Chráněni před manipulací a diskriminací,
- Mít jistotu, že systémy používané ve zdravotnictví, vzdělávání či veřejné správě splňují přísné bezpečnostní standardy. AI Act také podporuje právo na vysvětlení rozhodnutí AI, což zvyšuje důvěru v technologie.
AI Act EU
Co to znamená pro Evropu?
AI Act je nejen nástrojem kontroly, ale i strategickým krokem k vytvoření důvěryhodného ekosystému AI. EU chce být lídrem v oblasti bezpečné a etické umělé inteligence, která podporuje inovace, ale zároveň chrání základní práva občanů. Umělá inteligence už není „divoký západ“. AI Act nastavuje jasná pravidla hry – od zákazu nebezpečných praktik po povinnosti pro vývojáře a firmy. Přestože implementace bude náročná, přináší příležitost pro ty, kteří vsadí na transparentnost, bezpečnost a odpovědnost.
Kdy vstupuje AI Act v platnost
AI Act byl oficiálně přijat v červnu 2024 a vstoupil v platnost 1. srpna 2024. Jeho implementace je rozložena do několika fází:
- Únor 2025 – zákaz nepřijatelných praktik,
- AI zákon 2025–2026 – pravidla pro generativní AI a kodexy praxe,
- 2027 – plná účinnost pro vysoce rizikové systémy. Tento postupný náběh má firmám i institucím umožnit adaptaci na nové požadavky.
Pokuty a postihy podle AI Actu
Podle AI Actu (Nařízení EU 2024/1689) jsou sankce za nedodržení poměrně přísné a odstupňované podle závažnosti porušení:
Výše pokut
- Nepřijatelné praktiky (např. sociální skórování, podprahová manipulace):
až 35 milionů EUR nebo 7 % celosvětového ročního obratu firmy (podle toho, co je vyšší). - Porušení povinností u vysoce rizikových systémů (např. nedostatečná dokumentace, absence lidského dohledu):
až 15 milionů EUR nebo 3 % celosvětového obratu. - Nedostatečná spolupráce s orgány dohledu (např. neposkytnutí informací):
až 7,5 milionu EUR nebo 1,5 % celosvětového obratu.
Další opatření
Kromě finančních sankcí může dojít k:
- Stažení produktu z trhu EU,
- Zákazu uvádění AI systému na trh,
- Povinnosti nápravných opatření (např. aktualizace systému, dodatečné testování).
Tyto sankce jsou nastaveny tak, aby byly odrazující a motivovaly firmy k dodržování pravidel.
