Přeskočit na obsah

GDPR a data · lekce 3 z 6 · 18 min čtení

Osobní údaje v AI nástrojích

Kdy se na práci s AI vztahuje GDPR, kdo je správce a kdo zpracovatel, proč „anonymizovaná“ data často anonymní nejsou, co s přenosy mimo EU, právy lidí, posouzením vlivu, automatizovaným rozhodováním a AI zapisovateli na poradách.

Kolegyně z obchodu vloží do chatu s AI dvacet e-mailů od zákazníků a požádá o shrnutí, na co si nejčastěji stěžují. Personalista nahraje deset životopisů a chce tabulku s porovnáním. Na poradě se k hovoru připojí „AI zapisovatel“ a po skončení pošle všem přepis. Všechny tři situace vypadají jako obyčejná kancelářská práce. Z pohledu práva jde ve všech třech o zpracování osobních údajů a platí na ně stejná pravidla jako na CRM, mzdový systém nebo kamery na recepci.

V lekci Kam putují tvoje data jsi viděl, kam text z promptu putuje a jak se liší osobní aplikace, firemní plány a API. Tady na to navážeme z druhé strany: co po firmě chce obecné nařízení o ochraně osobních údajů (GDPR), když do AI posílá údaje o lidech, a jak to v praxi ohlídat.

Kdy se GDPR na AI vztahuje

Odpověď je jednodušší, než by se zdálo: kdykoli s pomocí AI zpracováváš osobní údaje. GDPR nemá pro AI žádnou zvláštní výjimku ani zvláštní kapitolu. Zajímá ho, co se děje s údaji o lidech, a je mu jedno, jestli to dělá tabulka, člověk nebo jazykový model.

Osobní údaj(personal data)
Jakákoli informace o fyzické osobě, kterou lze přímo nebo nepřímo identifikovat (čl. 4 odst. 1 GDPR). Nejen jméno a rodné číslo, ale i e-mail, hlas na nahrávce, fotka, číslo objednávky, popis „vedoucí skladu v naší pobočce v Kolíně“ nebo názor, který o někom napíšeš.

Zpracování je přitom skoro jakákoli operace: shromáždění, uložení, vyhledání, úprava, předání, i pouhé nahlédnutí. Vložení e-mailu zákazníka do chatu je tedy zpracování. Shrnutí přepisu porady, kde se lidé oslovují jménem, je zpracování. Požádat model, aby ohodnotil uchazeče podle životopisu, je zpracování, a jak uvidíš níže, dost citlivé.

Na co se GDPR nevztahuje: na čistě osobní a domácí činnosti (plánuješ s AI dovolenou s rodinou) a na údaje, které jsou opravdu anonymní. Pozor na slovo „opravdu“, vrátíme se k němu.

Kdo je za data odpovědný: správce a zpracovatel

GDPR rozděluje odpovědnost mezi dvě role. Na tom, kterou roli má dodavatel AI, závisí, jakou smlouvu potřebuješ a co vlastně smíš.

Správce(controller)
Ten, kdo určuje účel a prostředky zpracování, tedy rozhoduje, proč a jak se s údaji pracuje. Nese hlavní odpovědnost. Když tvoje firma použije AI na vyřizování reklamací, správcem je firma.
Zpracovatel(processor)
Ten, kdo zpracovává údaje jménem správce a jen podle jeho pokynů. Typicky dodavatel služby: účetní kancelář, cloudové úložiště, nebo poskytovatel AI s firemní smlouvou, který data použije jen k tomu, aby ti vrátil odpověď.

U firemních tarifů a API velkých poskytovatelů bývá dodavatel AI v roli zpracovatele: data dostane, zpracuje je pro tebe, nepoužívá je k vlastním účelům a podepíše s tebou zpracovatelskou smlouvu (o ní je další lekce Smlouvy s dodavateli AI).

Jenže ne vždy. Když dodavatel data použije i pro sebe, typicky k tréninku vlastních modelů, k vývoji produktu nebo k reklamě, rozhoduje tím o vlastním účelu. Pro tuto část se stává samostatným správcem. To je přesně situace osobních (spotřebitelských) aplikací: poskytovatel tam vystupuje vůči uživateli jako správce podle svých zásad ochrany soukromí.

Proč na tom záleží:

  • Se zpracovatelem údaje zůstávají „uvnitř“ tvého zpracování. Dodavatel je jen tvoje prodloužená ruka, ty mu dáváš pokyny a ručíš za něj.
  • Samostatnému správci údaje předáváš. To je nové zpracování, na které potřebuješ vlastní právní základ, musíš o něm lidi informovat a nemáš pod kontrolou, co se s daty stane dál.
Jeden úkol, dvě právní situace

Obchodník vloží e-maily zákazníků do firemního AI nástroje, se kterým má firma zpracovatelskou smlouvu a trénink na datech je smluvně vyloučený. Firma je správce, dodavatel zpracovatel, údaje slouží pořád k témuž účelu (péče o zákazníky). To se dá obhájit.

Stejný obchodník vloží stejné e-maily do osobního účtu na bezplatné aplikaci, kde je zapnutý trénink. Firma tím údaje zákazníků předala jinému správci, bez smlouvy, bez informování zákazníků a pro účel (trénink cizího modelu), se kterým nikdo nepočítal. To obhájit prakticky nejde, i když úmysl byl dobrý.

Do hloubkyKde se role určují a proč je to někdy sporné

Role se podle GDPR neurčují tím, co si strany napíšou do smlouvy, ale tím, jak to doopravdy funguje. EDPB to podrobně rozebírá ve svých pokynech 07/2020 k pojmům správce a zpracovatel. Když smlouva tvrdí „jsme jen zpracovatel“, ale dodavatel přitom data používá ke zlepšování vlastních modelů, je v té části správcem bez ohledu na nadpis smlouvy.

U AI je to často rozdělené: pro samotné vyřízení tvého dotazu je dodavatel zpracovatel, pro některé vedlejší činnosti (odhalování zneužití služby, fakturace, bezpečnost) se v podmínkách označuje za správce. To samo o sobě problém být nemusí, ale měl bys vědět, kterých dat se to týká. Proto se vyplatí číst zpracovatelskou smlouvu a zásady ochrany soukromí vedle sebe.

Třetí možnost jsou společní správci (čl. 26), kteří o účelu a prostředcích rozhodují spolu. U běžného nákupu AI nástroje je to vzácné, objevuje se spíš u společných projektů dvou firem.

Právní základ a účel

Každé zpracování osobních údajů potřebuje právní základ podle čl. 6 GDPR. Pro běžné použití AI ve firmě to obvykle bývá plnění smlouvy (odpovídáš zákazníkovi na jeho objednávku), splnění právní povinnosti nebo oprávněný zájem firmy, který musí převážit nad zájmy dotčených lidí. Souhlas je u zaměstnanců a zákazníků často nevhodný, protože musí být svobodný a dá se kdykoli odvolat.

Pro praxi je ale důležitější druhá věc: zásada omezení účelu. Údaje, které jsi získal k jednomu účelu, nesmíš bez dalšího použít k jinému, neslučitelnému účelu. Shrnout reklamace s pomocí AI, aby se rychleji vyřídily, je pořád stejný účel. Vzít všechny e-maily zákazníků a natrénovat na nich vlastní model na marketing už je nový účel, který potřebuje samostatné posouzení.

Minimalizace: méně dat, menší problém

Zásada minimalizace údajů říká, že zpracováváš jen to, co k účelu opravdu potřebuješ. U AI je to nejlevnější a nejúčinnější ochrana, jakou máš. Když chceš shrnout, na co si zákazníci stěžují, model nepotřebuje jejich jména, adresy ani čísla objednávek. Potřebuje text stížnosti.

Prakticky: odstraň, co nepotřebuješ (jména, kontakty, čísla účtů, podpisy pod e-maily), nahraď to zástupnými značkami jako „[ZÁKAZNÍK_1]“, dej do modelu jen pasáž, které se otázka týká, a když osobní údaje do AI jít musí, tak jen do nástroje, který firma schválila a má k němu smlouvu.

Proč „anonymizováno“ bývá těžší, než to vypadá

Často zazní: „Smazal jsem jména, takže je to anonymní a GDPR se nás netýká.“ To je jeden z nejčastějších omylů. GDPR rozlišuje dva pojmy a rozdíl mezi nimi je zásadní.

Pseudonymizace(pseudonymisation)
Úprava údajů tak, aby je nešlo přiřadit konkrétnímu člověku bez dodatečných informací, které jsou uložené odděleně (čl. 4 odst. 5 GDPR). Typicky nahradíš jména kódy a převodní tabulku máš jinde. Pro tebe, kdo tabulku máš, jde pořád o osobní údaje.
Anonymizace(anonymisation)
Úprava, po které už člověka nelze identifikovat žádnými prostředky, které by někdo rozumně mohl použít (bod 26 odůvodnění GDPR). Na skutečně anonymní údaje se GDPR nevztahuje. Laťka je ale vysoko.

Proč je opravdová anonymizace těžká: člověka neidentifikuje jen jméno. Identifikuje ho kombinace údajů. „Zákaznice z Jihlavy, která 3. března reklamovala pračku a v e-mailu zmiňuje, že je po operaci kolena“ je s velkou pravděpodobností jeden konkrétní člověk, i když tam žádné jméno není. Přepis porady, kde „vedoucí IT říká, že odchází na mateřskou“, prozradí víc než jakékoli jméno. A jazykový model je mimochodem dobrý přesně v tom, co dělá anonymizaci těžkou: spojuje drobné nepřímé stopy do celku.

Pro praxi stačí jednoduché pravidlo: zástupné značky a odstranění jmen ber jako pseudonymizaci, která snižuje riziko, ne jako vstupenku mimo GDPR. Nechci tím říct, že to nemá smysl. Má, a velký. Jen se kvůli tomu nepřestávej ptát, jestli je nástroj schválený.

Do hloubkyAnonymní pro koho? Rozsudek SRB a stanovisko EDPB

Otázka, kdy jsou údaje anonymní, se v posledních letech hodně řeší i u soudů.

V září 2025 rozhodl Soudní dvůr EU ve věci EDPS proti SRB (C-413/23 P). Jednotný výbor pro řešení krizí předal poradenské firmě komentáře lidí, ve kterých nahradil jména kódy. Soud řekl, že pro výbor, který měl převodní klíč, to osobní údaje byly. Pro příjemce, který klíč neměl a neměl ani rozumné prostředky k identifikaci, osobními údaji být nemusely. Posuzuje se tedy z pohledu toho, kdo data drží. To ale neznamená, že pseudonymizovaná data poslaná do AI jsou automaticky v pořádku: odesílající firma má klíč, takže pro ni jsou to osobní údaje se všemi povinnostmi, a u volného textu (e-maily, přepisy) bývá nepřímých stop tolik, že identifikace rozumně možná zůstává.

Druhá otázka je, jestli je anonymní samotný model, který se na osobních údajích učil. Stanovisko EDPB 28/2024 říká, že automaticky ne. O anonymitě je třeba rozhodovat případ od případu, a anonymní je model jen tehdy, když je velmi nepravděpodobné, že by z něj někdo osobní údaje z tréninku vytáhl, ať už přímo, nebo vhodnými dotazy. EDPB také uvádí, že pokud byl model vyvinut s protiprávně zpracovanými údaji, může to mít dopad na zákonnost jeho dalšího nasazení (pokud model není řádně anonymizovaný). Pro firmu, která model jen kupuje, to je argument, proč se dodavatele ptát, z jakých dat a jak model vznikl.

Komise navíc v listopadu 2025 navrhla v rámci takzvaného digitálního omnibusu úpravy GDPR, které se týkají mimo jiné definice osobních údajů a oprávněného zájmu u AI. V době psaní se o nich ještě jedná a platí současné znění. Tohle je přesně typ informace, kterou si před rozhodnutím ověř v aktuálních zdrojích.

Zvláštní kategorie: zdraví, odbory, biometrie

Některé údaje GDPR chrání víc. Čl. 9 vyjmenovává zvláštní kategorie: zdravotní stav, genetické a biometrické údaje (pokud slouží k jednoznačné identifikaci), rasový či etnický původ, politické názory, náboženství, členství v odborech, sexuální život a orientaci. Jejich zpracování je v zásadě zakázané, pokud nejde o některou z výjimek, například výslovný souhlas nebo povinnosti v oblasti pracovního práva. Podobně přísně se zachází s údaji o trestných činech (čl. 10).

V AI se zvláštní kategorie objevují nenápadně. Omluvenka s diagnózou v e-mailu, poznámka „kolega je teď na neschopence kvůli depresím“ v přepisu porady, fotka zaměstnance pro „AI ověření totožnosti“. Pravidlo pro tým: zvláštní kategorie do obecných AI nástrojů nepatří, a pokud je nějaký proces opravdu potřebuje (třeba zdravotnické zařízení), musí ho předem posoudit pověřenec nebo právník.

Přenosy mimo EU

Většina velkých AI služeb má mateřskou firmu v USA a část infrastruktury tam. GDPR předávání údajů mimo Evropský hospodářský prostor nezakazuje, ale podmiňuje (kapitola V). Musí existovat jeden z mechanismů:

  • Rozhodnutí o odpovídající ochraně. Komise rozhodla, že určitá země chrání údaje srovnatelně. Pro USA platí rámec EU–US Data Privacy Framework (DPF), přijatý v červenci 2023. Vztahuje se jen na americké firmy, které se k němu certifikovaly; seznam je na webu dataprivacyframework.gov.
  • Standardní smluvní doložky (SCC). Vzorové smlouvy schválené Komisí, které dodavatel podepíše. Často jsou součástí zpracovatelské smlouvy jako záloha pro případ, že by DPF padl.
  • Další, méně časté nástroje (závazná podniková pravidla, výjimky pro konkrétní situace).

Řada dodavatelů dnes nabízí i uložení dat v EU (data residency), u firemních tarifů a API třeba jako volbu při zakládání účtu. Je to užitečné, ale čti pozorně, co přesně slibuje. Často se týká uložení dat „v klidu“, zatímco podpora, monitoring zneužití nebo některé dílčí funkce mohou běžet jinde. Microsoft třeba u své „EU Data Boundary“ sám uvádí omezené situace, kdy se data dál předávají mimo EU, a popisuje je ve zvláštní dokumentaci. To není nekalost, ale informace, kterou máš znát.

Práva lidí a model, který nezapomíná

Lidé mají vůči tvé firmě práva: na informace o zpracování (čl. 13 a 14), na přístup (čl. 15), opravu (čl. 16), výmaz (čl. 17) a námitku (čl. 21). U AI z toho plynou dvě praktické věci. Zaprvé, informuj: použití AI má být srozumitelně v informacích o zpracování, včetně příjemců (dodavatel AI) a přenosů mimo EU. Zadruhé, věz, kde data leží: při žádosti o přístup nebo výmaz musíš dohledat údaje i v historii AI nástrojů, v uložených přepisech a ve znalostní bázi napojené na model. Neschválené osobní účty zaměstnanců jsou v tomhle černá díra.

Těžší je to s tím, co se do modelu dostalo tréninkem. Jak víš z lekce o tréninku modelu, znalosti nejsou v modelu uložené jako řádky v databázi, ale rozprostřené v miliardách parametrů. Konkrétní údaj z nich nejde jednoduše vymazat. Výzkum takzvaného strojového odučování (machine unlearning) existuje, ale v době psaní nejde o spolehlivý běžně dostupný nástroj. Pro tebe z toho plyne jednoduché pravidlo: nejlepší výmaz je ten, který nemusíš dělat. Osobní údaje se do tréninku nemají dostat vůbec, a proto je otázka „trénujete na našich datech?“ v každé smlouvě tak důležitá.

Posouzení vlivu (DPIA)

Posouzení vlivu na ochranu osobních údajů(data protection impact assessment, DPIA)
Písemná analýza, kterou správce udělá předem u zpracování, jež pravděpodobně představuje vysoké riziko pro práva lidí (čl. 35 GDPR). Popisuje, co se zpracovává a proč, posuzuje nezbytnost a rizika a navrhuje opatření.

GDPR vyžaduje DPIA mimo jiné u systematického hodnocení lidí automatizovaným zpracováním, na kterém stojí rozhodnutí s právními nebo podobně závažnými účinky, u rozsáhlého zpracování zvláštních kategorií a u rozsáhlého systematického monitorování veřejně přístupných prostor. EDPB a ÚOOÚ k tomu přidávají kritéria, mezi kterými je výslovně použití nových technologií, hodnocení a bodování lidí, systematické sledování a zpracování údajů zranitelných osob, kam patří i zaměstnanci. ÚOOÚ zveřejňuje metodiku DPIA a seznam operací, které posouzení vyžadují a nevyžadují.

V praxi: obecný AI asistent na psaní textů bez osobních údajů DPIA typicky nepotřebuje. Na DPIA ale pomýšlej vždy, když AI hodnotí lidi (uchazeče, zaměstnance, klienty), sleduje je (analýza hovorů na zákaznické lince, monitorování výkonu) nebo pracuje se zvláštními kategoriemi. U vysoce rizikových systémů podle AI Actu navíc nasazující firma využije informace od poskytovatele i pro své DPIA (čl. 26 odst. 9 AI Actu). Jak se AI systémy podle rizika třídí, vysvětluje lekce Kategorie rizika.

Automatizované rozhodování (článek 22)

Čl. 22 GDPR dává lidem právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, včetně profilování, které má pro ně právní nebo podobně významné účinky. Typicky: zamítnutí žádosti o úvěr, vyřazení uchazeče z výběrového řízení, výpověď. Výjimky existují (nezbytnost pro smlouvu, zákon, výslovný souhlas), ale i pak musí mít člověk alespoň právo na lidský zásah, právo vyjádřit svůj názor a rozhodnutí napadnout.

Klíčové slovo je „výhradně“. Pokud AI připraví návrh a o věci skutečně rozhoduje člověk, který návrh posoudí a může ho změnit, čl. 22 se zpravidla neuplatní. Ale „skutečně“ znamená skutečně. Soudní dvůr EU v prosinci 2023 v rozsudku SCHUFA (C-634/21) řekl, že už samotné automaticky spočítané skóre úvěruschopnosti může být „rozhodnutím“, pokud na něm banka do značné míry staví. Člověk, který jen odklikává, co navrhl systém, ochranu nezajistí. Souvisí to s automatizačním zkreslením, o kterém je lekce Jak výstupy ověřovat, a s lidskou kontrolou v lekci Oprávnění a lidská kontrola.

AI zapisovatelé a přepisy porad

Nástroje, které schůzku nahrávají, přepisují a shrnují, patří k nejrozšířenějším a nejvíc podceňovaným použitím AI. Přepis porady je hustě nabitý osobními údaji: kdo co řekl, kdo s kým nesouhlasí, kdo je nemocný, kdo odchází.

Na co myslet:

  • Informuj předem. Účastníci mají vědět, že se nahrává a přepisuje, kdo k přepisu bude mít přístup a jak dlouho se uchová. Platí to zvlášť pro externí účastníky (klienty, uchazeče), kteří vaše interní pravidla neznají.
  • Měj právní základ. U interních porad to bývá oprávněný zájem firmy, ale ten neplatí automaticky pro každou schůzku. U citlivých jednání (personální pohovory, zdravotní témata, spory) nahrávání raději vůbec nepoužívej.
  • Pamatuj i na občanský zákoník. Ten v § 84–90 chrání podobu, soukromí a záznamy projevů osobní povahy a pořízení záznamu obecně podmiňuje svolením, pokud nejde o zákonnou výjimku. Kdy přesně je svolení nutné, závisí na okolnostech; u externích jednání je bezpečné se zeptat.
  • Hlídej, kde nástroj běží. Zapisovatel, kterého si zaměstnanec sám připojil přes osobní účet, posílá celou poradu dodavateli, se kterým firma nemá smlouvu. Pokud nástroj navíc vytváří hlasové profily k rozpoznání mluvčích, může jít o biometrické údaje podle čl. 9.
  • Nastav uchovávání. Přepisy se hromadí. Rozhodni, jak dlouho se drží, a nech je automaticky mazat.

Z čeho postavit firemní pravidla

Zvládne to i menší firma: seznam schválených nástrojů se smlouvami (viz další lekce), pravidlo, co do kterého nástroje smí (tři úrovně z lekce Kam putují tvoje data), doplněné informace o zpracování, DPIA u použití, která hodnotí nebo sleduje lidi, skutečné lidské rozhodnutí tam, kde jde o práva lidí, a AI nástroje zapsané v záznamu o činnostech zpracování (čl. 30).

Nic z toho není „zvláštní AI právo“. Je to staré dobré GDPR, jen použité na nový nástroj. Co k tomu přidává AI Act, vysvětluje lekce Povinnosti a termíny.

Co si odnést

  • GDPR se na AI vztahuje vždy, když s ní zpracováváš údaje o identifikovatelných lidech. Vložit e-mail zákazníka nebo přepis porady do chatu je zpracování.
  • Firma je správce. Dodavatel AI je zpracovatel, jen pokud data používá výhradně pro tebe; jakmile je používá i pro sebe (například k tréninku), je v té části samostatným správcem a ty mu data předáváš.
  • Odstranění jmen je obvykle pseudonymizace, ne anonymizace. Snižuje riziko, ale GDPR dál platí. Nejúčinnější ochrana je do AI dávat jen to, co úkol opravdu potřebuje.
  • Přenosy do USA dnes kryje Data Privacy Framework, který je ale napadený u Soudního dvora EU; smluvní doložky jsou rozumná záloha. Data residency v EU čti pozorně.
  • Z natrénovaného modelu se údaje nedají spolehlivě vymazat, proto je klíčové, aby se do tréninku vůbec nedostaly.
  • Když AI hodnotí nebo sleduje lidi, počítej s DPIA a se skutečným lidským rozhodnutím (čl. 22). AI zapisovatelé na poradách potřebují informování, schválený nástroj a lhůtu pro mazání.

Zdroje a další čtení