Od 2. srpna začínají platit pravidla o transparentnosti AI podle EU AI Act

Od 2. srpna 2026 se v celé Evropské unii stávají účinnými pravidla transparentnosti umělé inteligence podle článku 50 AI Actu. Právě tato pravidla se v posledních měsících často zjednodušovala do věty, že "AI obsah se bude muset označovat". To je však značně zavádějící.

Obsah vychází z článku EU AI Act: Pravidla o transparentnosti AI začínají platit 2. srpna

Evropské nařízení AI Act neříká, že každý AI obrázek, každý AI text nebo každý výstup z chatbota musí dostat viditelnou nálepku. Článek 50 obsahuje pět různých povinností, které dopadají na různé aktéry, v různých situacích a různým způsobem.

Dva dokumenty, které budou pomáhat v praxi

K výkladu pravidel z článku 50 máme dva klíčové dokumenty.

1) Pokyny Evropské komise k implementaci povinností transparentnosti

Pokrývají celý článek 50. Jejich hlavním přínosem je výklad pojmů, na kterých vše stojí a které samotný AI Act nedefinuje dostatečně prakticky. Nabízejí konkrétní příklady situací, které do rozsahu povinnosti spadají a které nikoliv.

2) Kodex správné praxe pro transparentnost AI generovaného obsahu

Kodex přináší dobrovolný návod, jak v praxi plnit část pravidel z článku 50 AI Actu, a to konkrétně povinnosti technického označování obsahu, označování deepfaků a textů ve veřejném zájmu. Organizace ho může podepsat: vyplní formulář, nechá ho podepsat kompetentní osobou a odešle ho evropské AI Office. Podpisem se přihlásí k tomu, že bude postupovat podle konkrétních závazků kodexu. 

• Kdo podepíše, získá předvídatelnější cestu, jak ukazovat soulad s pravidly a dozor se u něj bude primárně zaměřovat na to, zda dodržuje závazky z kodexu. 
• Kdo kodex nepodepíše, může pravidla plnit jinak, ale bude muset být připraven vysvětlit a doložit, že jeho vlastní řešení je stejně účinné.

Přestože právně závazný výklad AI Actu může dát jen Soudní dvůr EU, tyto dva dokumenty ukazují, jak bude povinnosti chápat Komise a dozorové orgány, a v praxi se podle nich bude posuzovat, zda organizace pravidla plní.

Tento článek nabízí podrobný rozbor jednotlivých pravidel článku 50 tak, jak je vykládají pokyny Komise a doplňuje kodex správné praxe.

Kdo má vlastně povinnosti: poskytovatel versus zavádějící subjekt

Aby článek 50 dával smysl, je potřeba umět rozlišovat dvě role.

• Poskytovatel je ten, kdo AI systém vyvíjí nebo si ho nechává vyvinout a uvádí ho na trh nebo do provozu pod svým jménem či značkou. Typicky půjde o vývojáře AI řešení nebo společnosti, co si na míru nechají AI produkt vyvinout pro svou potřebu.
• Zavádějící subjekt je ten, kdo AI systém používá v rámci své profesní činnosti. Typicky firma, úřad, médium, reklamní agentura, škola, nemocnice nebo jiná organizace, která rozhoduje, k čemu a jak AI systém použije.

AI Act nedopadá na užití AI k soukromým, neprofesním účelům.

Čl. 50 odst. 1: když člověk komunikuje s AI systémem

První povinnost ukládá poskytovateli navrhnout a vyvinout AI systém tak, aby fyzická osoba byla informována, že komunikuje s umělou inteligencí. Ačkoli se povinnost projeví až za provozu, adresována je poskytovateli již ve fázi návrhu.

Povinnost se uplatní při splnění čtyř prvků: 

1. musí jít o AI systém, 
2. který je určen k interakci, 
3. a to přímo, 
4. s fyzickou osobou. 

Finální pokyny upřesňují, že interakce musí mít "skutečně konverzační nebo reaktivní charakter", tedy pouhé pasivní sbírání dat nebo jednorázová zpětná vazba sem nespadá. Přímost zpravidla znamená interakci v reálném čase; nepřímá je situace, kdy pracovník podpory využívá AI k asistenci, ale sám komunikuje se zákazníkem. Pokyny zároveň varují, že pouhá možnost lidského zásahu nesmí sloužit k obcházení povinnosti: u produktů kombinujících AI odpovědi a lidsky připravený obsah je třeba označit ty konkrétní výstupy, které jsou AI generované, ledaže je člověk skutečně zrevidoval a odeslal.

AI agenti

Pokyny rozpracovávají také dopad na agentní systémy. Agent musí zveřejnit nejen svou umělou povahu, ale i osobu, jejímž jménem jedná. Musí se identifikovat i vůči osobě, která ho instruuje, a to v klíčových krocích (autorizace, reporting, validace) a při každé nové interakci. Výslovně se počítá i s multiagentními architekturami. Pokud poskytovatel nemůže předem spolehlivě určit, zda agent vstoupí do interakce s člověkem, má být systém navržen tak, aby oznamoval vždy, kdy je taková interakce rozumně pravděpodobná.

Výjimka zřejmosti

Povinnost se neuplatní, pokud je z pohledu rozumně informované, pozorné a obezřetné osoby zřejmé, že jde o AI. Pokyny tuto výjimku vykládají restriktivně a zdůrazňují, že obecné povědomí o existenci AI neznamená, že ji lidé v konkrétní interakci poznají. S ohledem na avatary, agenty a lidsky působící systémy má být výjimka omezena na případy, kdy o povaze interakce nezůstává téměř žádná pochybnost.

Další výjimka platí pro systémy zákonně používané k odhalování, prevenci, vyšetřování nebo stíhání trestné činnosti.

Jak má oznámení vypadat

AI Act nestanoví jednu povinnou větu nebo jednu povinnou ikonku. Důležité je, aby informace byla jasná, rozlišitelná a poskytnutá nejpozději při první interakci.

Doporučuje se multimodální přístup: textové prvky (výrazný štítek, úvodní sdělení chatbotu), zvukové (slovní oznámení na začátku hlasové interakce) a vizuální (ikona AI, barevný rámeček).

Nestačí oznámení schované v obchodních podmínkách. Nestačí technická dokumentace. Nestačí obecná věta typu "naše služby mohou používat AI". A nestačí ani strojově čitelná metadata, která člověk při interakci nevidí.

Jedno úvodní oznámení zpravidla postačí, ale v rizikovějších kontextech (finanční, právní či zdravotní poradenství, AI společníci, systémy interagující se zranitelnými osobami nebo prostředí s rizikem závislosti) jsou nutná periodická a kontextově citlivá připomenutí.

Podívejte se na záznam webináře Označování AI obsahu a chatbotů

Na konkrétních příkladech jsme účastníkům ukazovali, jak má oznámení vypadat včetně dílčích doporučení a vyjímek.

Čl. 50 odst. 2: technické označování AI obsahu

Druhá povinnost je tou, která ve veřejné debatě vyvolává největší zmatek.

Čl. 50 odst. 2 se vztahuje na poskytovatele AI systémů, včetně general-purpose AI systémů, které generují nebo manipulují syntetický text, obraz, zvuk nebo video.

Tato povinnost ale neznamená, že každý uživatel musí k AI obrázku ručně přidat viditelnou ikonku. Jde o technickou povinnost poskytovatele systému. Výstupy systému mají být označeny ve strojově čitelném formátu a mají být detekovatelné jako uměle vytvořené nebo manipulované.

Jinak řečeno: čl. 50 odst. 2 vytváří technickou vrstvu transparentnosti. Jeho cílem je, aby bylo možné zpětně ověřit, zda konkrétní obsah vznikl nebo byl upraven pomocí AI. Nejde ale o pravidlo, které by samo o sobě určovalo, jak má být AI původ obsahu viditelně sdělen lidem. Tuto "lidskou" vrstvu označování řeší až čl. 50 odst. 4, a to jen u deepfaků a některých textů ve veřejném zájmu.

U této povinnosti platí přechodné období. Pro generativní AI systémy, které byly uvedeny na trh nebo do provozu před 2. srpnem 2026, platí odklad. Poskytovatelé je musí uvést do souladu s čl. 50 odst. 2 nejpozději do 2. prosince 2026. U systémů uvedených na trh nebo do provozu po 2. srpnu 2026 musí být tato povinnost splněna už při jejich uvedení na trh nebo do provozu.

Označování i detekce

Čl. 50 odst. 2 ukládá dvě vzájemně propojené povinnosti.

První je marking: výstup systému musí být označen ve strojově čitelném formátu.

Druhá je detection: musí existovat způsob, jak toto označení detekovat a jak určit, že obsah byl AI generovaný nebo manipulovaný.

Nestačí tedy obsah označit tak, že označení nikdo neumí přečíst. A nestačí ani slibovat detekci bez toho, aby byl výstup technicky označený. Technické řešení musí být efektivní, interoperabilní, robustní a spolehlivé v rozsahu, v jakém je to technicky proveditelné a v souladu se stavem techniky.

Kodex správné praxe tuto povinnost rozpracovává poměrně technicky. Počítá zejména s digitálně podepsanými metadaty, neviditelnými vodoznaky, případně doplňkově s fingerprintingem nebo loggingem. Kodex vychází z toho, že jedna technika většinou nebude stačit, a proto pracuje s vícevrstvým přístupem. Zároveň ale připouští, že v budoucnu může být možné prokázat soulad i pomocí jiné nebo jediné techniky, pokud splní požadavky na efektivitu, interoperabilitu, robustnost a spolehlivost.

Co spadá do obsahu?

Povinnost se týká syntetického obsahu ve čtyřech modalitách: 

• text, 
• obraz, 
• audio, 
• video.

Do rozsahu mohou spadat i multimodální výstupy, 3D obsah, virtuální nebo rozšířená realita, pokud mají podobu textu, obrazu, audia nebo videa vnímatelného člověkem.

Může jít také o AI agenty. Pokud AI agent při své činnosti vytvoří výstup v podobě textu, obrazu, zvuku nebo videa, který je vnímatelný fyzickými osobami, může tento výstup spadat pod čl. 50 odst. 2. Naopak interní mezikroky, reasoning nebo technické akce typu webového requestu do rozsahu typicky nespadají.

Mimo povinnost mohou spadat výstupy, které pouze reprodukují nebo uspořádávají existující obsah. Typicky recommender systém, který jen seřadí existující videa nebo články.

Mimo mohou být také čistě machine-to-machine výstupy, source code, krátké sekvence znaků, interní technické výstupy nebo některé uzavřené průmyslové a B2B aplikace, pokud nejsou určeny k expozici veřejnosti a riziko klamání nebo manipulace informačního prostoru je nízké.

AI Act také stanoví výjimky pro standardní editaci a pro situace, kdy AI systém podstatně nemění vstupní data nebo jejich sémantiku.To je prakticky důležité. Ne každá AI úprava je automaticky "obsah, který musí být označen". Gramatická korektura, drobná úprava formátu, technická komprese, odstranění šumu nebo menší korekce obrazu mohou spadat pod výjimku. Naopak shrnutí, parafráze měnící význam, vložení nebo odstranění objektů, realistická syntéza hlasu konkrétní osoby nebo vytvoření scény, která se nestala, budou typicky znamenat podstatnější zásah.

Čl. 50 odst. 3: rozpoznávání emocí a biometrická kategorizace

Na rozdíl od předchozích dvou povinností se tady bavíme o zavádějícím subjektu. Ten musí informovat fyzické osoby, které jsou vystaveny provozu takového systému.

Rozpoznávání emocí je podle AI Actu systém, který identifikuje nebo odvozuje emoce nebo záměry fyzických osob na základě jejich biometrických dat. Biometrická kategorizace je systém, který zařazuje fyzické osoby do specifických kategorií na základě biometrických dat (např. otisky prstů, sken obličeje, hlas).

Povinnost informovat platí bez ohledu na to, zda systém funguje v reálném čase, nebo ex post na již pořízeném záznamu.

Forma oznámení není předepsána jedním způsobem. Může jít o viditelné upozornění u vstupu, pop-up v digitálním prostředí, ikonu, ústní sdělení nebo jejich kombinaci. Důležité je, aby informace byla jasná, rozlišitelná a poskytnutá nejpozději při první expozici.

Tato povinnost se navíc nevylučuje s jinými pravidly. U těchto systémů bude často relevantní GDPR a u některých použití také režim vysoce rizikových nebo dokonce zakázaných AI systémů. Samotné splnění informační povinnosti podle článku 50 tedy neznamená, že je použití systému automaticky legální.

Čl. 50 odst. 4 (první část): deepfaky

První část čl. 50 odst. 4 se týká deepfaků. Povinnost dopadá na zavádějící subjekt, tedy na toho, kdo AI systém používá k vytvoření nebo úpravě obrazového, zvukového nebo video obsahu, který naplňuje definici deepfaku.

Deepfake podle AI Actu není jakýkoli AI obrázek, AI video nebo syntetický hlas. Musí jít o AI generovaný nebo AI manipulovaný obrazový, zvukový nebo video obsah, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem a zároveň by se mohl člověku nepravdivě jevit jako autentický nebo pravdivý.

Jinými slovy: nestačí, že obsah vznikl pomocí AI. Rozhodující je, zda může u publika vyvolat falešný dojem, že je autentickým záznamem reality.

Typickým deepfakem může být syntetické video veřejně známé osoby, která říká něco, co nikdy neřekla, AI generovaný hlas konkrétní osoby nebo realistická fotografie události, která se nestala. Naopak čistě fantasy obsah, zjevně nerealistická animace nebo stylizovaná scéna, kterou publikum nemůže rozumně chápat jako autentický záznam reality, deepfakem typicky nebude.

Důležité je, že se nezkoumá úmysl oklamat. Obsah může být deepfakem i tehdy, pokud jeho autor neměl záměr nikoho uvést v omyl. Zohlednit je třeba i rozmanité složení rozumně předvídatelného publika, zejména děti, seniory a osoby s nižší digitální gramotností, u nichž může k oklamání dojít snáz. Zavádějící subjekt ale není povinen zohledňovat další šíření třetími stranami nad rámec předvídatelného publika a distribučních kanálů.

Podobná AI úprava proto může mít v různých situacích odlišný právní význam.

Jak má označení vypadat?

Pokud obsah definici deepfaku naplní, musí zavádějící subjekt zveřejnit, že obsah byl uměle vytvořen nebo upraven. Označení musí být jasné a rozlišitelné a musí se k publiku dostat nejpozději při první expozici obsahu. Nestačí informace schovaná v obchodních podmínkách, metadatech nebo někde na konci vícevrstvého menu.

Kodex správné praxe pro transparentnost AI generovaného obsahu nabízí praktickou cestu, jak označení provést, doporučuje použití EU AI ikony. Pro plně AI generovaný obsah pracuje s označením AI GENERATED, pro částečně AI upravený obsah s označením AI MODIFIED. U audio deepfaků, kde vizuální označení není možné, má být informace sdělena slyšitelně, typicky krátkým upozorněním na začátku obsahu.

Zvláštní režim platí pro deepfaky, které jsou součástí zjevně uměleckého, kreativního, satirického, fikčního nebo obdobného díla. I tam musí být existence AI generovaného nebo manipulovaného obsahu zveřejněna, stačí však způsob, který nenaruší prožitek z díla. V praxi může jít například o informaci v úvodních nebo závěrečných titulcích, popisu díla, doprovodném programu nebo u vstupu na výstavu.

Výjimka z označování platí pro deepfaky, jejichž použití je zákonem povoleno k odhalování, prevenci, vyšetřování nebo stíhání trestné činnosti.

Čl. 50 odst. 4 (druhá část): text ve veřejném zájmu

Druhá povinnost z odstavce 4 dopadá na zavádějící subjekt, který AI systémem generuje nebo manipuluje text a ten je zveřejněn za účelem informování veřejnosti o věcech veřejného zájmu.

Zveřejněním se rozumí přístupnost neurčitému, poměrně velkému počtu vzájemně nespojených čtenářů, ať už za úplatu, nebo zdarma. Informováním veřejnosti se rozumí sdělování poznatků, názorů nebo faktů. Věci veřejného zájmu jsou ty, které se týkají společnosti jako celku a zasluhují veřejnou debatu nebo kontrolu. Pokyny sem řadí politiku, veřejnou správu, justici, základní práva, veřejnou bezpečnost, veřejné zdraví, životní prostředí, ochranu spotřebitele a další hospodářský, vědecký či kulturní vývoj. Výčet není uzavřený.

Označení musí být, stejně jako u deepfaků, jasné a vnímatelné člověkem.

Výjimka pro redakční kontrolu

Uplatní se při splnění dvou podmínek: text musel projít lidským přezkumem nebo redakční kontrolou a konkrétní osoba musí nést redakční odpovědnost za zveřejnění. Přezkum znamená věcné posouzení obsahu někým, kdo má k tématu potřebné znalosti. Povrchní gramatická korektura, pouhá existence redakční politiky ani automatizovaná revize nestačí. Pozor také na to, že pokud je AI použita k úpravě textu až po redakčním schválení, výjimka zaniká. Pojem redakční odpovědnosti se vykládá v souladu s unijním mediálním acquis (čl. 2 odst. 8 EMFA) a poskytovatelé mediálních služeb mohou pro splnění výjimky využít své stávající redakční postupy.

Co si z toho odnést?

Článek 50 AI Actu je soubor několika různých transparentnostních povinností, které dopadají na různé aktéry a řeší různé situace.

Pravidla nabývají účinnosti 2. srpna 2026, výjimkou je technické označování a detekce podle odst. 2, kde mají systémy uvedené na trh dříve odklad do 2. prosince 2026. Za nesplnění hrozí pokuta až 15 milionů EUR nebo 3 % celosvětového ročního obratu, podle toho, co je vyšší.

Pro praxi je klíčové nepokládat si otázku jen tak, zda "to vytvořila AI". Správná otázka zní spíš: kdo AI systém používá, v jaké roli, jaký obsah vzniká, komu je určen a jaké riziko omylu nebo klamání může vyvolat.

Transparentnost podle AI Actu tedy není o mechanickém lepení ikon. Je o tom, aby člověk v rozhodujících situacích věděl, že jedná s AI nebo že sleduje obsah, který může působit jako realita, ale realitou není. Dobře nastavená transparentnost proto nemá AI brzdit. Má pomoct udržet důvěru tam, kde se hranice mezi lidskou komunikací, syntetickým obsahem a realitou začíná rozostřovat.

Detailně pravidla rozebíráme také na záznamu webináře Označování AI obsahu a chatbotů. Zjistěte více.

Autorka: 

Lucie Malá, Legal and Public Affairs Manager v České asociaci umělé inteligence a právnička v advokátní kanceláři Legitas

Otázky a odpovědi k pravidlům o transparentnosti AI