Střelbě v Krakově a deepfaky

20.11.2026

Krakovské Hlavní náměstí, kde se obvykle potkávají turisté, studenti a pouliční muzikanti, se v sobotu 7. listopadu stalo dějištěm masové střelby. Krátce po třetí odpoledne sem vjel čtyřiadvacetiletý muž v černém Subaru a začal z auta střílet po náhodných kolemjdoucích. Šest lidí zemřelo, další byli zraněni. Útočník, kterého postřelila a zadržela dvojice policistů, v pondělí v nemocnici zemřel.

Téměř od prvních chvil po útoku zaplavila internet vlna dezinformací, a to hlavně snímky, které vytvořila nebo vylepšila umělá inteligence. Nešířili je jen anonymní uživatelé a boti, ale také politici a dokonce i ti, kdo se ověřováním informací zabývají profesionálně. V tomto článku se podíváme, které z nich jsou deepfakes, co s nimi udělá nová evropská regulace a kdy už jejich šíření může být trestným činem.

Od nevinného "zaostření" k záměrné lži

Ne za každým AI snímkem, který se po útoku objevil, stál někdo, kdo chtěl oklamat. Řada lidí chtěla jen lépe vidět, co se na náměstí stalo, a nechávala AI "vylepšovat" rozmazané záběry ze střelby. Jenže AI rozmazanou fotku ve skutečnosti nezaostří. Nevidí, co na ní opravdu je, a jen podle vzorců ze svých trénovacích dat hádá, co by tam asi mohlo být. Chybějící detaily si zkrátka domyslí. Výsledkem tak není ostřejší fotka, ale nový obrázek, který se tomu původnímu jen podobá.

Nejvíc se rozšířily dva takto "vylepšené" snímky. Prvním byl záběr ze zadržení: pachatel leží na zemi se zdviženýma rukama a vedle něj klečí policista. AI pachateli "přidala" třetí ruku, policistovi zdeformovala paže a přepsala i nápisy na graffiti v pozadí. Snímek sdílel i poslanec Konfederace Bartłomiej Pejo a dokonce i Marcin Tyc z fact-checkingového projektu Sprawdzamto.pl, jehož příspěvek nasbíral přes 1,2 milionu zobrazení.

Druhým byl "zaostřený" obličej střelce v černém tričku, který se šířil na Facebooku, Instagramu i X. Každý pokus o zaostření ale vytvořil trochu jinou tvář i jiný potisk na tričku. Pokud se pak vygenerovanému portrétu podobá někdo skutečný, může se stát terčem křivého obvinění.

Další podvrhy už tak nevinné nebyly. Ten, kdo je vyrobil nebo šířil, chtěl lidi navést k určitému vysvětlení útoku. Zatímco u "zaostřeného" obličeje si AI detaily domýšlela sama, tady je za ni domyslel člověk.

Ministr vnitra Marcin Kierwiński krátce po útoku uvedl, že útočník měl zřejmě krajně pravicové názory. Druhý den se objevila fotomontáž, na které si s ním útočník podává ruku. Měla naznačit opak: že vrah nebyl pravicový radikál, ale příznivec ministrovy liberální Občanské platformy (Platforma Obywatelska), nejsilnější vládní strany. Ministerstvo vnitra fotomontáž označilo za podvrh vytvořený AI a předalo ji prokuratuře.

Podobně posloužila i výstroj útočníka. Na sítích se objevily AI obrázky, které ho ukazovaly ve vojenské výstroji s dokreslenou ukrajinskou vlajkou. Přiživily tak teorie, že šlo o bývalého vojáka nebo bojovníka z Ukrajiny, přestože policie potvrdila, že útočník byl Polák. Kolovalo i AI video, na kterém pachatel v autě údajně ohlašuje útok, a řada účtů ho sdílela jako pravé.


Na úmyslu nezáleží. Deepfake je to stejně

Podle AI Actu je deepfake obrázek, zvuk nebo video, které vytvořila nebo upravila umělá inteligence, připomíná skutečné osoby, místa či události a člověk by si ho mohl splést se skutečností. Krakovské snímky splňují všechny tři znaky:

  1. Vytvořila nebo upravila je AI. Někde jen "vylepšila" skutečný záznam, jinde dokreslila věci, které se nikdy nestaly, nebo vyrobila snímek úplně od nuly.

  2. Týkají se skutečných lidí a skutečné události. Ukazují pachatele, ministra nebo policisty a vztahují se ke konkrétnímu útoku v Krakově.

  3. Působí jako pravé. Lidé je sdíleli jako autentické záběry a napálili se na ně i ti, kdo se ověřováním faktů živí.

Úmysl někoho oklamat pro definici roli nehraje.

Povinnosti spojené s generovaným obsahem

Článek 50 AI Actu ukládá povinnosti transparentnosti, mimo jiné:

  1. Poskytovatelé AI nástrojů musí obsah technicky označit. Firmy, které AI nástroje vyvíjejí (třeba OpenAI nebo Google), musí do výstupů vkládat neviditelný vodoznak, podle kterého jde poznat, že obsah vytvořila nebo upravila AI. Většina nástrojů musí tuto povinnost plnit až od 2. prosince 2026.

  2. Zavádějící subjekty musí viditelně označit deepfake. Zavádějící subjekt je ten, kdo AI používá v rámci své podnikatelské nebo profesní činnosti, třeba firma, úřad, redakce nebo influencer. Když s pomocí AI nástroje vytvoří a zveřejní deepfake, musí jasně a viditelně uvést, že obsah je uměle vytvořený nebo upravený. Kdo si naopak deepfake vytvoří doma jen pro zábavu, povinnost označit ho nemá.

AI Act v akci

Technické označení v Krakově vlastně zafungovalo: analýzy našly neviditelný vodoznak SynthID u "zaostřeného" obličeje střelce, u fotomontáže s ministrem i u AI videa.

Viditelné označení deepfaku žádný z obrázků očekávaně neměl. Neznamená to však nutně, že tato zákonná povinnost je k ničemu. Označování deepfaků míří spíše na "neškodný" obsah, například na reklamy, kde má pomoci lidem se zorientovat v tom, jestli se dívají na realitu nebo ne.

Nezapomeňme na pravidla, která tu už jsou

Primární zbraní v podobných situacích zůstávají ty "staré" zákony. Kdyby se krakovský scénář odehrál u nás, mohlo by jít například o:

  • šíření poplašné zprávy (§ 357 TZ), typicky zpráva o zabitém policistovi, která se v Krakově šířila, ale nepotvrdila. U události vážně ohrožující život a zdraví lidí hrozí až osm let odnětí svobody,

  • poškození cizích práv deepfakem (§ 181 odst. 2 TZ), které je trestné od 1. ledna 2026 pro toho, kdo s úmyslem způsobit vážnou újmu vyrobí nebo šíří podvrh, který působí jako pravý. Příkladem je fotomontáž s ministrem,

  • pomluvu (§ 184 TZ) člověka, jehož fotka posloužila jako předloha a kterého "zaostřený" portrét spojil s vrahem,

  • podvod (§ 209 TZ), když se pod záminkou "videí z útoku" šíří odkazy na podvodné stránky nebo když někdo zneužije soucit lidí k falešné sbírce,

  • podněcování k nenávisti (§ 356 TZ), pokud podvrh jako "střelec s ukrajinskou vlajkou" obviňuje celou národnost,

  • nebezpečné vyhrožování (§ 353 TZ), typicky když se na sítích ozvou napodobitelé s výkřiky "teď jsem na řadě já". Polská policie po útoku zadržela několik lidí, jejichž příspěvky na internetu představovaly možné ohrožení,

  • schvalování trestného činu (§ 365 TZ), pokud někdo útok veřejně oslavuje nebo z pachatele dělá hrdinu.

Všechny tyto trestné činy ale vyžadují úmysl pachatele. Kdo podvrh sdílí v dobré víře, jako polský fact-checker, trestně stíhán zpravidla nebude. Dotčený člověk se ale i po něm může podle občanského zákoníku domáhat, aby obsah smazal a omluvil se.

Poučení z Prahy

Podobnou vlnu jsme zažili i u nás. Po střelbě na Filozofické fakultě UK v prosinci 2023 se během několika hodin šířilo, že střelcem byl ukrajinský student, tedy stejná lež, jaká se teď objevila v Krakově. Tehdy se přitom obešla bez umělé inteligence. Dezinformace AI nepotřebují, AI je ale zrychluje a dodává jim na věrohodnosti.

Praha zároveň ukázala, že výše zmíněné paragrafy nejsou jen teorie. Policie po střelbě na FF UK řešila 299 skutků, které s útokem souvisely, a ve 170 z nich zahájila úkony trestního řízení. Dvacet se jich týkalo šíření poplašné zprávy, desítky dalších nebezpečného vyhrožování a schvalování trestného činu.

Týká se to i vás

Deepfaky nejsou jen problém tragických událostí, politiků a sociálních sítí. Každá firma, která AI používá ke generování obsahu, by si měla položit tři otázky:

  1. Můžou ve vašich materiálech vznikat deepfaky?

  2. Víte, jak deepfake označit?

  3. Kdo za (ne)označení odpovídá?

Pokud v tom nemáte jasno, přijďte na náš webinář Označování AI obsahu a chatbotů - Kdo, co, jak a kdy v úterý 24. listopadu v 15:00. Registrovat se můžete zde.

Autorky:

Petra Stupková, zakladatelka Legitas a spoluzakladatelka ČAUI,

Lucie Malá, Legal and Public Affairs Manager ČAUI

Markéta Řezníčková, paralegal Legitas


Krakovské Hlavní náměstí, kde se obvykle potkávají turisté, studenti a pouliční muzikanti, se v sobotu 7. listopadu stalo dějištěm masové střelby. Krátce po třetí odpoledne sem vjel čtyřiadvacetiletý muž v černém Subaru a začal z auta střílet po náhodných kolemjdoucích. Šest lidí zemřelo, další byli zraněni. Útočník, kterého postřelila a zadržela...

Tradiční české řemeslné a průmyslové výrobky čelí nejvýznamnější právní reformě za poslední desetiletí. Nové evropské nařízení ruší dosavadní vnitrostátní systém právní ochrany zeměpisných označení a staví tuzemské producenty před neúprosnou volbu. Buď včas přeneste svou ochranu na unijní úroveň, nebo o ní definitivně přijdete. Tento článek...

Share