AI Act: kategorie rizika

Když si firma koupí novou elektrickou pilu, nikdo po ní nechce, aby ověřovala, jestli je bezpečná. To udělal výrobce, a značka CE na pile říká, že prošla předepsanými zkouškami. Firma jen musí pilu používat podle návodu a dát ji do ruky člověku, který s ní umí. Evropský AI Act je postavený na velmi podobné logice. Jen místo pil řeší systémy umělé inteligence a místo uříznutého prstu třeba nespravedlivě zamítnutý úvěr nebo uchazeče, kterého algoritmus vyřadil kvůli věku.

V téhle lekci se naučíš, co AI Act je, na koho dopadá a jak funguje jeho hlavní myšlenka: čím větší riziko pro lidi, tím přísnější pravidla. Na konci si zkusíš zařadit osm běžných firemních použití AI. V další lekci Povinnosti a termíny pak projdeme, co z toho plyne konkrétně a od kdy.

Co je AI Act

AI Act(Artificial Intelligence Act)

Nařízení Evropského parlamentu a Rady (EU) 2024/1689, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci. Česky se mu říká akt o umělé inteligenci. Je to první velký předpis, který reguluje AI napříč všemi obory.

Tři vlastnosti AI Actu ti pomůžou pochopit všechno ostatní.

Je to nařízení, ne směrnice. Směrnici musí každý stát nejdřív převést do vlastního zákona. Nařízení platí ve všech zemích EU přímo, stejně jako GDPR. Česká republika k němu sice připravuje doprovodný (adaptační) zákon, ale ten řeší hlavně to, který úřad bude dohlížet a jak se budou ukládat pokuty. Samotné povinnosti firem stojí v evropském nařízení.

Má logiku bezpečnosti výrobků. AI Act vychází z evropských pravidel pro výrobky, jako jsou hračky, výtahy nebo zdravotnické prostředky. Ten, kdo systém vyrábí a uvádí na trh, odpovídá za to, že splňuje požadavky. Ten, kdo ho používá, má povinnosti menší, ale ne nulové. Proto je klíčové vědět, jakou roli v tom hraješ ty.

Je založený na riziku. AI Act nereguluje technologii jako takovou. Je mu jedno, jestli uvnitř běží jazykový model, nebo jednoduchá statistika. Zajímá ho, k čemu se systém používá a co může způsobit lidem. Stejný model může být v jedné firmě neškodný pomocník na psaní e-mailů a v jiné vysoce rizikový nástroj na výběr zaměstnanců.

Do hloubkyCo je podle AI Actu „systém AI“+

Článek 3 nařízení definuje systém AI zhruba takto: strojový systém navržený tak, aby fungoval s různou mírou autonomie, který může po zavedení vykazovat adaptabilitu a který z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, jež mohou ovlivnit fyzické nebo virtuální prostředí.

Klíčové slovo je „odvozuje“. Běžný program, který jen provádí pravidla napsaná člověkem (třeba „když je faktura po splatnosti víc než 30 dní, pošli upomínku“), systémem AI typicky není. Systém, který se pravidla naučil z dat, ano. Hranice není vždy ostrá, a proto Komise v únoru 2025 vydala k definici nezávazné pokyny s příklady. Pro jazykové modely a nástroje typu ChatGPT, Claude nebo Copilot je ale odpověď jasná: jsou to systémy AI.

AI Act se navíc nevztahuje na všechno. Vyjmuté jsou například systémy výhradně pro vojenské a obranné účely, čistě vědecký výzkum a vývoj a čistě osobní, neprofesní použití. Když si doma necháš od chatbota napsat básničku k narozeninám, AI Act tě nezajímá. Když totéž uděláš v práci, už jsi v jeho dosahu.

Kdo je kdo: role v AI Actu

AI Act rozlišuje několik rolí. Souhrnně jim říká provozovatelé (operators), ale povinnosti se liší podle toho, kterou roli máš.

• Poskytovatel (provider) systém AI nebo model vyvíjí, nebo si ho nechá vyvinout, a uvádí ho na trh či do provozu pod svým jménem nebo značkou. Například OpenAI u ChatGPT, Microsoft u Copilotu, nebo dodavatel, který prodává software na třídění životopisů.
• Zavádějící subjekt (deployer) systém AI používá ve své činnosti, s výjimkou čistě osobního, neprofesního použití. Tak zní oficiální český termín, i když v běžné řeči se mu říká spíš „uživatel“.
• Dovozce (importer) uvádí v EU na trh systém poskytovatele usazeného mimo EU.
• Distributor systém dál prodává nebo zpřístupňuje, aniž by byl poskytovatelem nebo dovozcem.

Zavádějící subjekt(deployer)

Fyzická nebo právnická osoba, včetně úřadu, která používá systém AI v rámci své pravomoci nebo činnosti, pokud nejde o osobní neprofesní použití. Firma, jejíž zaměstnanci v práci používají ChatGPT nebo Copilot, je typicky zavádějící subjekt.

Pro většinu českých firem je to dobrá zpráva. Pokud AI nástroje jen nakupuješ a používáš, jsi zavádějící subjekt, a nejtěžší povinnosti (dokumentace, testování, posouzení shody) nese poskytovatel.

AI Act navíc dopadá i na firmy mimo EU, pokud jejich systém míří na evropský trh nebo se jeho výstupy v EU používají. Proto se týká i amerických výrobců velkých modelů.

Čtyři úrovně rizika

Celý AI Act se dá zjednodušeně nakreslit jako pyramida o čtyřech patrech. Nahoře je málo věcí, které jsou úplně zakázané. Pod nimi užší skupina vysoce rizikových použití s přísnými pravidly. Pak použití, u kterých stačí, aby lidé věděli, že jde o AI. A dole drtivá většina běžných aplikací, na které AI Act žádné zvláštní povinnosti neklade.

Úroveň	Co tam patří	Co z toho plyne
Nepřijatelné riziko	Praktiky z článku 5, například rozpoznávání emocí na pracovišti nebo sociální scoring	Zakázáno
Vysoké riziko	Bezpečnostní součásti regulovaných výrobků (příloha I) a vyjmenované oblasti z přílohy III, například nábor, vzdělávání, úvěry	Přísné požadavky na poskytovatele, povinnosti zavádějících subjektů
Riziko vyžadující transparentnost	Chatboty, generovaný obsah, deepfaky, rozpoznávání emocí mimo zakázané situace (článek 50)	Lidé musí vědět, že jde o AI nebo o obsah vytvořený AI
Minimální riziko	Filtry spamu, doporučování produktů, asistent na psaní, překlady	Žádné zvláštní povinnosti, jen obecné (a AI gramotnost)

Úrovně se nevylučují. Systém může být vysoce rizikový a zároveň mít povinnosti transparentnosti. A pyramida je zjednodušení: oficiální text žádné „čtyři kategorie“ nečísluje, jen to tak ze struktury nařízení vychází.

1. Zakázané praktiky (článek 5)

Tyhle praktiky jsou v EU zakázané od 2. února 2025, bez ohledu na to, kdo je nabízí. Zjednodušeně jde o systémy AI, které:

• manipulují: používají podprahové techniky mimo vědomí člověka nebo záměrně manipulativní či klamavé techniky, které podstatně naruší jeho rozhodování a způsobí (nebo pravděpodobně způsobí) významnou újmu;
• zneužívají zranitelnost kvůli věku, zdravotnímu postižení nebo sociální či ekonomické situaci, s výsledkem významné újmy;
• dělají sociální scoring: hodnotí lidi podle jejich sociálního chování nebo osobnostních vlastností a vede to k nepříznivému zacházení v nesouvisejících situacích nebo k zacházení nepřiměřenému;
• předpovídají trestnou činnost jednotlivce výhradně na základě profilování nebo osobnostních rysů;
• necíleně sbírají obličeje z internetu nebo kamerových záznamů pro vytváření databází k rozpoznávání obličejů;
• rozpoznávají emoce na pracovišti a ve škole, s výjimkou lékařských a bezpečnostních důvodů;
• biometricky kategorizují lidi tak, že z biometrických údajů odvozují rasu, politické názory, členství v odborech, náboženské přesvědčení, sexuální život nebo orientaci;
• identifikují lidi na dálku v reálném čase na veřejných místech pro účely vymáhání práva, s úzkými výjimkami (hledání obětí únosů, odvrácení bezprostředního teroristického útoku, lokalizace podezřelých ze závažných trestných činů).

Novela z roku 2026 (takzvaný Digital Omnibus, víc o něm v další lekci) přidala dva další zákazy, které platí od 2. prosince 2026: systémy, které vytvářejí realistické intimní nebo sexuálně explicitní zobrazení identifikovatelného člověka bez jeho souhlasu (aplikace na „svlékání“ fotek), a systémy vytvářející materiál zobrazující sexuální zneužívání dětí.

2. Vysoce rizikové systémy

Vysoce rizikový systém není zakázaný. Jen musí splnit přísné požadavky: řízení rizik, kvalitní data, technickou dokumentaci, záznamy o provozu, lidský dohled, přesnost a kybernetickou bezpečnost. Do této skupiny se dá dostat dvěma cestami.

Cesta první: příloha I, regulované výrobky. Systém AI je bezpečnostní součástí výrobku (nebo sám výrobkem), na který už existují evropská pravidla a který musí projít posouzením shody třetí stranou. Například AI ve zdravotnickém prostředku, v hračce nebo ve výtahu.

Cesta druhá: příloha III, vyjmenované oblasti. Tady jde o účel použití. Mezi oblasti patří:

• biometrie (například biometrická identifikace na dálku, rozpoznávání emocí tam, kde není zakázané);
• kritická infrastruktura (bezpečnostní součásti v dopravě, energetice, vodárenství);
• vzdělávání: rozhodování o přijetí, hodnocení výsledků učení, hlídání podvádění při zkouškách;
• zaměstnání a řízení pracovníků: nábor, cílené inzeráty na pracovní místa, třídění a hodnocení přihlášek, rozhodování o povýšení, propuštění, přidělování úkolů podle chování nebo vlastností, sledování a hodnocení výkonu;
• přístup k základním službám: nárok na sociální dávky, hodnocení úvěruschopnosti a kreditní skóre (s výjimkou odhalování podvodů), oceňování rizika a cen u životního a zdravotního pojištění, třídění tísňových volání;
• vymáhání práva, migrace a hraniční kontrola, justice a demokratické procesy (například systémy ovlivňující výsledek voleb).

Systém z přílohy III ale nemusí být vysoce rizikový vždycky. Článek 6 odst. 3 dovoluje výjimku, pokud systém nepředstavuje významné riziko, například když dělá jen úzký procedurální úkon nebo jen vylepšuje výsledek práce, kterou už udělal člověk. Výjimka neplatí, pokud systém profiluje fyzické osoby. A poskytovatel, který se jí dovolává, to musí zdokumentovat.

Do hloubkyProč zrovna tyhle oblasti+

Seznam v příloze III není náhodný. Jsou to situace, kde algoritmus rozhoduje o věcech, které zásadně ovlivňují život člověka (práce, vzdělání, peníze, svoboda), a kde se člověk nemůže snadno bránit, protože často ani neví, že o něm rozhodoval stroj.

Dobře to ilustruje problém zaujatosti z lekce Co model neví. Model, který se učil na historických datech o přijímání zaměstnanců, se může naučit i historické předsudky, například že na technické pozice se dřív brali spíš muži. Když pak třídí tisíce životopisů, tyto předsudky tiše a ve velkém opakuje. Proto AI Act u těchto systémů chce kvalitní a reprezentativní data, dokumentaci a hlavně člověka, který může do rozhodnutí zasáhnout.

Komise může seznam v příloze III aktualizovat aktem v přenesené pravomoci, pokud se objeví nová riziková použití. Přesné znění oblastí je proto dobré vždy ověřit v aktuálním konsolidovaném textu.

3. Povinnosti transparentnosti (článek 50)

Pro některé systémy AI Act nechce složitou dokumentaci, jen poctivost vůči lidem. Lidé mají vědět, kdy mluví se strojem a kdy se dívají na obsah vytvořený AI. Článek 50 platí od 2. srpna 2026 a rozděluje povinnosti mezi poskytovatele a zavádějící subjekty:

• Chatboty a další systémy, které komunikují s lidmi: poskytovatel je musí navrhnout tak, aby člověk věděl, že mluví s AI, pokud to není zřejmé.
• Generovaný obsah: poskytovatelé systémů, které generují text, obrázky, zvuk nebo video, musí výstupy strojově čitelně označit (například vodoznakem nebo metadaty), aby šly rozpoznat jako uměle vytvořené.
• Deepfaky: kdo pomocí AI vytvoří nebo upraví obrázek, zvuk či video, které věrohodně napodobuje skutečné lidi, místa nebo události, musí to zveřejnit. U zjevně uměleckých, satirických nebo fiktivních děl stačí zmínka, která dílo nekazí.
• Text pro informování veřejnosti: kdo zveřejní AI text, který má informovat veřejnost o věcech veřejného zájmu, musí uvést, že ho vytvořila AI. Neplatí to, pokud text prošel lidskou kontrolou nebo redakční úpravou a někdo za jeho zveřejnění nese redakční odpovědnost.
• Rozpoznávání emocí a biometrická kategorizace (tam, kde nejsou zakázané): zavádějící subjekt musí dotčené lidi informovat.

Co přesně to znamená pro firmu, která AI jen používá, rozebírá další lekce.

4. Minimální riziko

Sem patří většina toho, co firmy s AI dělají: asistent na psaní, shrnutí porad, překlady, filtry spamu, doporučení v e-shopu, analýza prodejních dat. AI Act na ně žádné zvláštní povinnosti neklade. Platí jen obecná povinnost AI gramotnosti z článku 4 (o té je samostatná lekce Povinnost AI gramotnosti) a samozřejmě všechny ostatní zákony, hlavně GDPR, autorské právo a ochrana spotřebitele.

Velké modely: pravidla pro GPAI

Zvláštní kapitola AI Actu se netýká systémů, ale modelů, ze kterých se systémy staví.

Model AI pro obecné účely(general-purpose AI model, GPAI)

Model, který je značně obecný a umí kompetentně plnit širokou škálu různých úkolů, a lze ho začlenit do mnoha různých systémů a aplikací. Typicky velké jazykové modely, ze kterých vznikají asistenti jako ChatGPT, Claude nebo Gemini.

Povinnosti tu nesou poskytovatelé modelů, tedy firmy jako OpenAI, Anthropic, Google nebo Mistral, ne ty, kdo jejich nástroje používají. Od 2. srpna 2025 musí mimo jiné:

• vést technickou dokumentaci modelu a předávat informace firmám, které na modelu stavějí vlastní systémy;
• mít zavedenou politiku dodržování autorského práva EU;
• zveřejnit dostatečně podrobné shrnutí obsahu, na kterém se model trénoval (podle šablony Komise).

U nejsilnějších modelů, které mohou představovat systémové riziko (nařízení to předpokládá mimo jiné u modelů trénovaných s výpočetním výkonem nad 10²⁵ operací s plovoucí desetinnou čárkou), přibývá povinnost model hodnotit a testovat, zmírňovat rizika, hlásit závažné incidenty a zajistit kybernetickou bezpečnost.

Aby poskytovatelé věděli, jak tyto povinnosti prakticky splnit, vznikl kodex zásad pro GPAI (General-Purpose AI Code of Practice). Komise ho zveřejnila 10. července 2025. Je dobrovolný a má tři kapitoly: transparentnost, autorské právo a bezpečnost (ta platí jen pro modely se systémovým rizikem). Komise a Rada pro AI ho uznaly jako vhodný nástroj, jímž mohou poskytovatelé plnění povinností prokázat. Podepsala ho většina velkých výrobců. Dohled nad poskytovateli modelů vykonává přímo Úřad pro AI (AI Office) při Evropské komisi.

Zkus to zařadit: osm firemních použití

Teď to nejdůležitější: vzít konkrétní použití a zařadit ho. Postup je vždycky stejný. Nejdřív se zeptej, jestli nejde o zakázanou praktiku. Pak jestli účel nespadá do přílohy III (nebo jestli nejde o bezpečnostní součást výrobku z přílohy I). Pak jestli se na něj nevztahuje článek 50. A až nakonec řekni „minimální riziko“.

Použití	Kategorie	Proč
Interní asistent na psaní e-mailů, shrnutí porad a překlady	Minimální riziko	Nerozhoduje o lidech, výstupy čte a upravuje zaměstnanec.
Chatbot zákaznické podpory na webu	Transparentnost	Komunikuje s lidmi, musí být jasné, že jde o AI. Pokud jen odpovídá na dotazy, vysoce rizikový není.
Nástroj, který třídí a hodnotí životopisy uchazečů	Vysoké riziko	Příloha III, bod 4: nábor a výběr zaměstnanců.
Hodnocení úvěruschopnosti žadatelů o půjčku	Vysoké riziko	Příloha III, bod 5: kreditní skóre fyzických osob.
Software, který z kamer v kanceláři vyhodnocuje emoce a „angažovanost“ zaměstnanců	Zakázáno	Článek 5: rozpoznávání emocí na pracovišti.
Obrázky z generátoru pro marketingové příspěvky	Minimální riziko, případně transparentnost	Ilustrační grafika nevadí. Pokud ale věrohodně napodobuje skutečné lidi nebo události (deepfake), je třeba to označit.
Analýza výkonu zaměstnanců, podle které se rozdělují odměny a úkoly	Vysoké riziko	Příloha III, bod 4: sledování a hodnocení výkonu, přidělování úkolů.
AI, která v e-shopu doporučuje produkty a odhaduje, kdy objednat zboží	Minimální riziko	Nerozhoduje o přístupu lidí k základním službám ani o zaměstnání.

Firma používá Copilot nebo ChatGPT ve firemním tarifu. Personalistka si s ním nechá přeformulovat text inzerátu. To je minimální riziko: asistent na psaní.

Druhý den do něj nahraje sto životopisů a napíše: „Seřaď uchazeče od nejlepšího po nejhoršího a vyber pět na pohovor.“ Teď se ten samý nástroj používá k třídění a hodnocení uchazečů, tedy k účelu z přílohy III. Výrobce ho k tomu nenavrhl a nedokumentoval. Firma tím může sama převzít povinnosti poskytovatele vysoce rizikového systému (článek 25), které prakticky nedokáže splnit.

Poučení: o kategorii nerozhoduje nástroj, ale účel, ke kterému ho používáš. Proto potřebuje každá firma pravidla, k čemu se AI nástroje používat smějí a k čemu ne.

Do hloubkyHraniční případy, na které narazíš+

Chatbot, který „jen“ radí s dávkami nebo úvěrem. Pokud chatbot odpovídá na obecné dotazy, je to transparentnost. Pokud ale v rozhovoru rozhoduje, kdo na úvěr dosáhne, je to hodnocení úvěruschopnosti a vysoké riziko.

Rozpoznávání emocí u zákazníků. Zakázané je jen na pracovišti a ve vzdělávání. Analýza hlasu zákazníků v call centru, která odhaduje jejich spokojenost, zakázaná není. Patří ale mezi vysoce rizikové biometrické systémy z přílohy III a zavádějící subjekt musí lidi informovat (článek 50). Pozor: jakmile by stejný systém hodnotil i operátory, jde o rozpoznávání emocí zaměstnanců.

Odhalování podvodů v platbách. Výslovně vyjmuté z vysoce rizikového „hodnocení úvěruschopnosti“. Pořád ale platí GDPR, včetně pravidel pro automatizované rozhodování.

Kontrola pravopisu ve školních pracích versus známkování. Nástroj, který žákovi ukáže chyby, je minimální riziko. Nástroj, který práci oznámkuje, hodnotí výsledky učení a je vysoce rizikový.

K zařazování vysoce rizikových systémů má Komise podle článku 6 odst. 5 vydávat nezávazné pokyny s praktickými příklady. Když narazíš na hraniční případ, vyplatí se dohledat jejich aktuální verzi na stránkách Komise.

Co si z toho vzít do praxe

Pro typickou firmu, která AI nástroje kupuje a používá, plyne z kategorií rizika jednoduchá úvaha. Většina použití bude minimální riziko a pár z nich spadne pod transparentnost (chatbot, generovaný obsah). Vysoce rizikové bývá to, co se týká lidí ve firmě a jejich práce (nábor, hodnocení, odměny) a zákazníků v citlivých službách (úvěry, pojištění). A zakázané je hlavně „měření emocí“ zaměstnanců.

Proto je prvním praktickým krokem soupis: jaké AI nástroje se ve firmě používají a k čemu. Bez něj nemáš co zařazovat. Jak takový soupis udělat a co dál, popisuje kontrolní seznam v lekci Povinnosti a termíny.

Co si odnést

• AI Act (nařízení (EU) 2024/1689) platí v celé EU přímo. Má logiku bezpečnosti výrobků: hlavní povinnosti nese poskytovatel, menší zavádějící subjekt.
• Firma, která AI nástroje jen používá, je typicky zavádějící subjekt (deployer). Poskytovatelem se může stát, když nástroj použije k vysoce rizikovému účelu, přejmenuje ho nebo podstatně změní.
• Rozhoduje účel použití, ne technologie. Stejný nástroj může být minimální riziko i vysoké riziko.
• Čtyři úrovně: zakázané praktiky (článek 5, například rozpoznávání emocí na pracovišti), vysoké riziko (příloha I a III, například nábor, vzdělávání, úvěry), transparentnost (článek 50, chatboty a deepfaky) a minimální riziko.
• Velké modely pro obecné účely mají vlastní pravidla pro své poskytovatele, prakticky rozpracovaná v dobrovolném kodexu zásad.

Zdroje a další čtení

• Evropská komise: AI Act (regulatory framework for AI) – oficiální přehled, úrovně rizika a aktuální harmonogram.
• AI Act v češtině, článek 5 (artificialintelligenceact.eu) – český text zakázaných praktik v přehledném neoficiálním prohlížeči; závazné znění je na EUR-Lex.
• Evropská komise: pokyny k zakázaným praktikám (únor 2025) – nezávazný výklad článku 5 s příklady.
• Evropská komise: kodex zásad pro modely AI pro obecné účely – obsah kodexu a seznam signatářů.