Odpovědné používání AI

„Etika AI“ zní jako téma pro konference a filozofické semináře. Ve firmě je ale velmi konkrétní: má obchodník napsat klientovi, že nabídku pomáhala sestavit AI? Smí personalistka nechat AI předtřídit životopisy? Komu patří obrázek, který vygeneroval nástroj? A co říct kolegům, kteří se bojí, že je AI nahradí? Na tyhle otázky zákon často neodpovídá úplně, a přesto je potřeba se nějak rozhodnout.

Tahle lekce je praktická. Projdeme šest oblastí, ve kterých se odpovědné používání AI v práci nejčastěji láme, a na konci z nich poskládáme vzor firemních pravidel. U právních otázek platí totéž co v celém kurzu: jde o vzdělávání, ne o právní radu, a závazné je znění předpisů a výklad úřadů a soudů.

Transparentnost: kdy říct, že pomáhala AI

Začni jednoduchou otázkou: očekává ten, kdo text čte, že ho psal člověk, a záleží mu na tom? Když kolegovi pošleš shrnutí porady, je mu nejspíš jedno, jestli jsi ho psal sám. Když ale klientovi pošleš „osobní“ posudek, studentovi zpětnou vazbu nebo čtenářům článek pod svým jménem, očekávají tvůj úsudek. Zamlčet, že ho z velké části dodal stroj, poškozuje důvěru, i když je text dobrý.

Praktická pravidla, která se osvědčují:

• Chatbot a hlasový asistent se představí jako AI. Člověk má vědět, že nemluví s člověkem. U poskytovatelů takových systémů to od 2. srpna 2026 vyžaduje i článek 50 AI Actu.
• Obsah, který by mohl klamat, označ. Realistický obrázek, video nebo hlas vytvořený AI, který působí jako skutečný (tzv. deepfake), musí podle článku 50 označit i ten, kdo ho zveřejňuje. Totéž platí pro text, který informuje veřejnost o věcech veřejného zájmu, pokud neprošel lidskou redakční kontrolou. Kdy přesně se povinnosti týkají, rozebírá lekce Kategorie rizika.
• U osobních a odborných textů to řekni. Stačí krátká věta: „Při přípravě jsem použil AI, obsah jsem zkontroloval.“ Víc k tomu najdeš v lekci Psaní a úprava textů.
• Uvnitř týmu buď otevřený. Když kolegové vědí, že podklad vznikl s AI, vědí, kde hledat typické chyby. A firma, kde se AI používá potají, nemá šanci nastavit rozumná pravidla.

Transparentnost neznamená psát „vytvořeno s AI“ pod každý e-mail. Jde o to, aby nikdo nebyl uveden v omyl v něčem, na čem mu záleží.

Férovost: rozhodnutí o lidech

Z lekce Co model neví už víš, že modely přebírají předsudky z dat a že se zaujatost u jedné odpovědi špatně pozná. Ukáže se až na velkém počtu případů. Dokud AI pomáhá psát e-maily, je to nepříjemnost. Jakmile pomáhá rozhodovat o lidech, je to vážný problém, etický i právní.

Rozhodnutím o lidech myslíme nábor, hodnocení a odměňování zaměstnanců, úvěry, pojištění, přístup ke službám nebo vzdělání. Většinu takových použití AI Act řadí mezi vysoce riziková (lekce Kategorie rizika). Pokud jde o automatizovaná rozhodnutí s osobními údaji, přidává svá pravidla i GDPR (lekce Osobní údaje). A nezávisle na AI platí český antidiskriminační zákon: diskriminace je zakázaná, ať ji způsobí člověk, nebo nástroj, který si firma vybrala.

Firma dostane na jednu pozici 300 životopisů a personalistka chce použít AI k předtřídění. Odpovědný postup vypadá zhruba takhle:

1. Kritéria předem a napsaná. Co pozice opravdu vyžaduje (zkušenosti, dovednosti), ne „najdi nejlepší kandidáty“. Vágní zadání nechává prostor pro skryté předsudky modelu.
2. Žádné citlivé údaje ani jejich náhražky. Věk, pohlaví, národnost a fotku z hodnocení vyřadit. Pozor na nepřímé signály: rok maturity prozradí věk, jméno pohlaví.
3. AI navrhuje, člověk rozhoduje. Nikoho nevyřadit jen na základě AI, aspoň namátkou projít i „odmítnuté“.
4. Kontrola výsledků po skupinách. Když AI posouvá dál výrazně méně žen nebo starších uchazečů, než kolik se jich hlásilo, je to signál k zastavení a prověření.
5. Dopředu ověřit právo. Taková úloha je nejspíš vysoce riziková podle AI Actu a týká se GDPR. Než se do ní pustíš, poraď se s někým, kdo to umí posoudit.

Obecné pravidlo: čím víc rozhodnutí ovlivní něčí život, tím víc musí být jasné, podle čeho se rozhodlo, a tím snazší musí být, aby se člověk mohl ohradit a dostal odpověď od člověka.

Odpovědnost: výsledek patří člověku

Z lekce Jak výstupy ověřovat znáš případ Moffatt v. Air Canada: firma odpovídá za to, co napíše její chatbot, a „to udělala AI“ není omluva. Pro odpovědné používání z toho plyne jednoduchá zásada: každý výstup AI, který se používá, má jmenovitého vlastníka. Člověka, který ho schválil a který za něj ručí stejně, jako by ho vytvořil sám.

Ve firmě to znamená tři věci. U každého AI nástroje nebo automatizace má být jasné, kdo za něj odpovídá (ne „IT“, ale konkrétní člověk). Lidé, kteří výstupy schvalují, potřebují čas a znalosti, aby je opravdu posoudili, jinak je kontrola jen razítko. A když se chyba stane, hledá se, kde selhal proces, ne kdo „naletěl“ AI. Tým, kde se za chybu z AI trestá, začne AI používat potají.

Autorská práva: trénovací data a komu patří výstup

Tady je právo v pohybu a poctivá odpověď často zní „záleží“. Dvě otázky je dobré oddělit.

První: smělo se na tom trénovat? Velké modely se učily z obrovského množství textů, obrázků a hudby, z nichž velkou část chrání autorské právo. Po světě běží desítky soudních sporů. Dva příklady, které ukazují, jak různé můžou být výsledky:

• V USA soudce v červnu 2025 ve sporu autorů proti firmě Anthropic (Bartz v. Anthropic) rozhodl, že trénink na legálně koupených knihách je tzv. fair use (americká výjimka z autorského práva), ale stahování milionů knih z pirátských knihoven ne. Spor skončil narovnáním ve výši 1,5 miliardy dolarů, které soud s konečnou platností schválil v červenci 2026.
• V Německu Zemský soud v Mnichově v listopadu 2025 ve sporu GEMA proti OpenAI rozhodl, že když si model zapamatuje texty písní a na jednoduchý dotaz je vypíše, porušuje autorská práva, a výjimka pro vytěžování textů a dat to neospravedlňuje. Rozsudek v době vydání nebyl pravomocný.

Pro běžnou firmu z toho plyne hlavně jedno: tyhle spory vedou autoři s výrobci modelů, ne s uživateli. Dávají ale najevo, že výstup může občas obsahovat cizí chráněné dílo. Proto se nevyplatí žádat po AI „napiš to ve stylu písně X“ a výsledek zveřejnit, nebo generovat obrázky s cizími postavami a logy.

Druhá: komu patří výstup? V Česku může být autorem jen fyzická osoba. Městský soud v Praze v rozsudku z roku 2023 (sp. zn. 10 C 13/2023) řešil obrázek vytvořený nástrojem DALL-E. Žalobce tvrdil, že je autorem, protože napsal zadání. Soud žalobu zamítl. Konstatoval, že AI autorem být nemůže, že takový obrázek není autorským dílem, protože není výsledkem tvůrčí činnosti člověka, a že samotné zadání je jen námět, který sám dílem není. Žalobce navíc ani nedoložil, že zadání opravdu napsal on.

Soud ale neřešil, jak by to vypadalo, kdyby člověk do výsledku vložil výraznou vlastní tvůrčí práci (výběr, úpravy, kompozici). Tahle otázka zůstává otevřená. Prakticky to znamená: výstup vytvořený AI s minimálním lidským zásahem pravděpodobně nikdo „nevlastní“ jako autorské dílo, takže ho firma nemusí umět ochránit před kopírováním. Pokud na exkluzivitě záleží (logo, kampaň, produktový design), počítej s tím, že rozhodující část musí udělat člověk. A přečti si podmínky nástroje, co říkají o výstupech a o tom, jestli výrobce firmu chrání při sporu.

Do hloubkyProč je výsledek sporů tak nejistý+

Autorské právo vzniklo pro svět, kde kopírování znamenalo vyrobit kopii. U jazykového modelu je to složitější. Model při tréninku dílo „přečte“ a upraví podle něj miliardy čísel (parametrů), ale obvykle si ho neuloží jako soubor. Soudy proto řeší, jestli je trénink kopírování, jestli na něj platí výjimky (v EU výjimka pro vytěžování textů a dat, v USA fair use) a jestli autoři mohli trénink zakázat.

Mnichovský soud rozhodl, že pokud si model text zapamatuje tak, že ho umí přesně vypsat, je v modelu jeho kopie. Americký soud v případu Anthropic naopak považoval samotný trénink za přípustný, ale ne způsob, jakým firma knihy získala. Obě rozhodnutí jsou z různých právních systémů a mohou je změnit odvolací soudy. V EU se k některým otázkám pravděpodobně vyjádří i Soudní dvůr. Než se právo usadí, potrvá to roky.

Ekologická stopa: co víme a co ne

AI běží v datových centrech, která spotřebovávají elektřinu a vodu na chlazení. Kolik přesně, je těžké říct, protože výrobci data zveřejňují málo a každý počítá jinak. Dvě čísla, která mají aspoň jasný původ:

• Na úrovni světa: Mezinárodní energetická agentura (IEA) odhaduje, že datová centra v roce 2024 spotřebovala asi 415 TWh elektřiny, zhruba 1,5 % světové spotřeby, a že do roku 2030 se spotřeba přibližně zdvojnásobí na asi 945 TWh. AI je podle IEA hlavním tahounem růstu. Agentura sama zdůrazňuje velkou nejistotu: její scénáře pro rok 2035 se rozcházejí víc než dvojnásobně.
• Na úrovni jednoho dotazu: Google v srpnu 2025 zveřejnil, že medián textového dotazu v aplikacích Gemini spotřebuje asi 0,24 Wh energie (podle Googlu méně, než kolik spotřebuje devět sekund sledování televize) a asi 0,26 ml vody. Je to odhad samotného výrobce, nezávisle neověřený, a týká se běžného textového dotazu jednoho nástroje. Dlouhé úlohy, „přemýšlející“ modely, generování videa nebo agenti, kteří pracují desítky minut, můžou spotřebovat řádově víc. Energie na trénink modelů v tom číslu není.

Rozumný závěr je tedy někde mezi „jeden dotaz je zanedbatelný“ a „AI je ekologická katastrofa“. Jednotlivý textový dotaz má malou stopu, ale celkový růst je velký. Pro firmu z toho plynou praktické zásady: nepoužívat nejsilnější model na úlohy, které zvládne menší (to šetří i peníze, viz lekce Náklady a volba modelu), nenechávat běžet automatizace, které nikdo nepotřebuje, a pokud vás stopa zajímá, ptát se dodavatelů na data.

Dopad na práci a jak o něm mluvit

Strach z toho, že AI vezme práci, je skutečný a nemá smysl ho zlehčovat. Má ale smysl ho uvést na pravou míru. Mezinárodní organizace práce (ILO) v květnu 2025 odhadla, že zhruba každý čtvrtý pracující na světě má práci, u které jsou některé úkoly vystavené generativní AI. Do nejvyšší kategorie vystavení ale spadá jen 3,3 % zaměstnanosti a nejvíc se to týká administrativních profesí. ILO z toho vyvozuje, že nejpravděpodobnějším dopadem je proměna práce, ne její zánik, protože většina profesí se skládá z úkolů, které lidský vstup potřebují. „Vystavení“ ale neznamená, že se nic nezmění: některé úkoly zmizí a s nimi se změní i náplň práce.

Jak o tom se zaměstnanci mluvit:

• Mluv dřív, než se začnou šířit fámy. Lidé si mezeru v informacích vyplní tím nejhorším scénářem.
• Buď konkrétní a poctivý. Řekni, které úlohy chcete s AI dělat a proč. Neslibuj „nikdo nepřijde o práci“, pokud to nevíš jistě. Zlomený slib je horší než nejistota.
• Zapoj lidi, kterých se to týká. Nejlepší nápady na využití AI mají ti, kdo práci dělají. A změnu, na které se podíleli, mnohem snáz přijmou.
• Řekni, co se stane s ušetřeným časem. Na co ho chcete využít: na práci s klienty, na úlohy, na které nebyl čas, na vzdělávání?
• Dej lidem čas a podporu na učení. AI gramotnost z předchozí lekce není jen povinnost, ale i způsob, jak lidem dát jistotu.

Jak s tím pracovat při zavádění, rozebírá kurz Zavádění AI v praxi.

Vzor: firemní pravidla používání AI

Všechno výše se dá shrnout do jednoho dokumentu. Neměl by mít víc než dvě strany, jinak ho nikdo nepřečte. Pravidlo o ověřování výstupů z lekce Jak výstupy ověřovat do něj můžeš vložit jako jednu kapitolu.

1. Proč a pro koho. Dvě věty o tom, proč firma AI používá, a že pravidla platí pro zaměstnance i externisty, kteří pracují jménem firmy.

2. Povolené nástroje. Seznam schválených nástrojů a účtů (firemní, ne soukromé), u každého k čemu se smí používat. Kdo chce nový nástroj, ví, koho požádat.

3. Co je povoleno. Příklady běžného použití: koncepty textů, shrnutí, překlady, nápady, analýza neosobních dat ve schváleném nástroji.

4. Co je zakázáno. Například: vkládat osobní údaje zákazníků a zaměstnanců, obchodní tajemství nebo hesla do neschválených nástrojů; rozhodovat o lidech jen na základě AI; vydávat výstup AI za ověřený fakt; vytvářet klamavý obsah o skutečných lidech; obcházet bezpečnostní nastavení.

5. Co vyžaduje schválení. Nové použití s osobními údaji, cokoli, co rozhoduje o lidech, chatbot pro zákazníky, automatizace napojené na firemní systémy, nákup nového nástroje. Uveď, kdo schvaluje (a že se posuzuje i AI Act a GDPR).

6. Pravidla pro data. Co do kterého nástroje smí (třeba ve třech úrovních: veřejné, interní, důvěrné). Odkaz na podrobná pravidla, pokud existují.

7. Ověřování a odpovědnost. Výstup AI je koncept, za výsledek odpovídá ten, kdo ho použije. Kontrola podle rizika (pro sebe, interně, ven).

8. Transparentnost. Kdy uvádět, že pomáhala AI (osobní a odborné texty, zákazníci, chatboti), a jak označovat obsah, který by mohl klamat.

9. Autorská práva. Nepoužívat AI k napodobování cizích děl, postav a značek; u klíčových výtvorů počítat s podstatným lidským podílem.

10. Hlášení a kontakt. Komu hlásit chybu, únik dat nebo podezřelé chování nástroje (jméno, e-mail). Chyby se hlásí, netrestají.

11. Vzdělávání. Kdo musí projít jakým školením (návaznost na AI gramotnost) a kde najde materiály.

12. Platnost a revize. Datum, verze a kdy se pravidla znovu projdou (doporučeně aspoň dvakrát ročně).

Co si odnést

• Transparentnost: nikdo nemá být uveden v omyl v tom, na čem mu záleží. Chatboti se představí jako AI, klamavý obsah se označuje, u osobních a odborných textů se použití AI přiznává.
• Rozhodnutí o lidech jsou nejcitlivější oblast: jasná kritéria, žádné citlivé údaje ani jejich náhražky, člověk rozhoduje, výsledky se kontrolují po skupinách.
• Každý použitý výstup AI má jmenovitého vlastníka, který za něj odpovídá jako za vlastní práci.
• Autorské právo je v pohybu. Podle českého soudu z roku 2023 výstup AI bez tvůrčího vkladu člověka není autorským dílem; spory o trénovací data vedou autoři s výrobci modelů a jejich výsledky se liší.
• Ekologická stopa jednoho textového dotazu je podle dostupných odhadů malá, celkový růst spotřeby datových center ale velký. Nepoužívej větší model, než úloha potřebuje.
• S lidmi o dopadu na práci mluv brzy, konkrétně a poctivě. Firemní pravidla používání AI shrň na dvě strany a pravidelně je aktualizuj.

Zdroje a další čtení

• EPRAVO.CZ: Městský soud v Praze o umělé inteligenci a autorském právu – rozbor rozsudku 10 C 13/2023 o obrázku z DALL-E.
• GEMA: Landmark ruling GEMA against OpenAI – shrnutí mnichovského rozsudku z pohledu žalující strany.
• IEA: Energy and AI – Executive summary – odhady spotřeby datových center a jejich nejistota.
• Google Cloud: Measuring the environmental impact of AI inference – metodika a čísla pro jeden dotaz v Gemini.
• ILO: Generative AI and jobs – a refined global index of occupational exposure – studie o tom, které profese AI nejvíc ovlivní.