Už nevíš, co je pravda a co AI? Od 2. srpna má EU odpověď

Falešné video politika, který „oznamuje“ něco, co nikdy neřekl. Hlas celebrity, která „doporučuje“ podvodný investiční produkt. Fotka, na které „jsi“ na místě, kde jsi nikdy nestál. Tohle není sci-fi, tohle je realita posledních let. A právě proto, že hranice mezi skutečností a AI výtvorem se stírá čím dál rychleji, přistoupila Evropská unie k jasnému kroku: od 2. srpna 2026 platí nová pravidla, která říkají, že pokud je obsah vytvořen nebo upraven pomocí AI a mohl by vypadat jako skutečnost, musí to být jasně označeno. Jaká je ale skutečná realita tohoto nařízení?

Největší mýtus: musím označovat každý AI obrázek?

Než se pustíme dál, rychlá zastávka u nejrozšířenějšího omylu: ne, nemusíš. A tohle je klíčová věc, která se v diskuzích neustále ztrácí.

Ve veřejném prostoru koluje zjednodušená zkratka „vše vytvořené AI bude muset být označeno.“ Skutečnost je ale podstatně složitější. Viditelné označení se týká především deepfaků a určitých AI textů ve veřejném zájmu. Všeho ostatního? Nikoli.

Tak co vlastně deepfake je?

Deepfake je obsah, tedy video, obrázek nebo zvuk, ve kterém umělá inteligence přesvědčivě zobrazí nebo namluví někoho, kdo tam ve skutečnosti není, nebo mu vloží do úst slova, která nikdy neřekl. Možná sis vzpomněl na virová videa, kde slavní lidé „říkají“ absurdní věci, nebo fotky, kde někdo „byl“ na místě, kde nikdy nestál. Přesně to jsou deepfaky.

Ale pozor, ne každý AI obrázek je deepfake. Podle AI Actu musí být splněny čtyři podmínky zároveň:

1. Jde o obrazový, zvukový nebo video obsah.
2. Byl vytvořen nebo upraven pomocí AI.
3. Podobá se existujícím osobám, objektům, místům nebo událostem.
4. Mohl by někomu připadat jako autentický záznam reality.

AI obrázek smyšleného futuristického města? Nejde o deepfake. AI video, kde politik říká věci, které nikdy neřekl a které vypadají jako skutečný záznam? To deepfake je a označit ho musíš. Další příklad: AI hlas zpěváka, který „vydává“ novou píseň, nebo AI tvář herce v reklamě na produkt, který nikdy nepropagoval. Obojí jsou deepfaky a povinnost označení platí. Důležité také je, že se nezkoumá úmysl. Obsah může být deepfakem i tehdy, když jeho autor nikoho oklamat nechtěl.

Na koho pravidla dopadají?

Pravidla se vztahují na tzv. zavádějící subjekty, tedy firmy, agentury, média, úřady, školy a e-shopy, které AI systémy používají v rámci své profesní činnosti a rozhodují, k čemu a jak je nasazují.

Soukromé, neprofesní použití pod zákon nespadá. Děláš si AI fotomontáž pro kamarády jako pozvánku na narozeninovou párty? V pořádku. Stejnou fotomontáž použiješ v reklamní kampani? Tam už pravidla platí. Nebo jiný příklad: novinář použije AI k vygenerování ilustračního portrétu smyšlené osoby do článku, to je v pořádku. Ale použije-li AI k vytvoření videa, kde skutečný politik „říká“ věci, které nikdy neřekl, a zveřejní ho jako zpravodajský obsah, povinnost označení platí.

Jak má označení vypadat?

AI Act nepředepisuje konkrétní ikonu ani povinnou formulaci. Doporučuje se použití EU AI ikon, které jsou volně ke stažení. Důležité je, že označení musí být jasné a viditelné, ne schované v podmínkách, metadatech nebo na konci vícevrstvého menu. Musí být přítomné nejpozději při první expozici obsahu a vnímatelné člověkem bez nutnosti použít speciální technický nástroj.

U audio deepfaků, kde vizuální označení není možné, musí být informace sdělena slyšitelně na začátku a u delších formátů opakovaně.

Dvě vrstvy označování, o kterých málokdo mluví

Viditelné označování deepfaků, o kterém jsme mluvili doposud, je jen jedna část příběhu. Jenže celý systém má ještě druhou vrstvu, která funguje v pozadí a které si většina lidí vůbec nevšimne.

Tato druhá vrstva se týká přímo těch, kdo AI nástroje vyvíjejí a provozují. Tedy takových gigantů jako jsou OpenAI za ChatGPT, Google za Gemini, Meta za svými AI nástroji zabudovanými do Facebooku a Instagramu, Adobe za Firefly nebo Midjourney. Tito poskytovatelé mají povinnost technicky označit veškerý syntetický obsah, který jejich systémy vytvoří, a to způsobem, který není vidět pouhým okem. Jde například o digitálně podepsaná metadata nebo neviditelný vodoznak přímo v souboru.

A to samé platí pro platformy jako YouTube, Facebook nebo Instagram. Nestačí jen obsah hostovat. Pokud na jejich platformě koluje AI obsah, nesou i ony část odpovědnosti za to, že je správně technicky označen a dohledatelný.

Obě vrstvy přitom fungují nezávisle na sobě. Fakt, že ChatGPT nebo Midjourney tvůj výstup technicky označí, tě jako firmu nebo agenturu nezbavuje povinnosti deepfake viditelně označit. Každý zodpovídá za svůj díl.

Přechodné období: u systémů uvedených na trh před 2. srpnem 2026 platí pro technické označování odklad do 2. prosince 2026.

A co AI texty?

Texty generované AI se viditelně označují jen tehdy, když jde o obsah ve veřejném zájmu, tedy zprávy, politika, zdraví, finance, bezpečnost nebo počasí. I tam ale platí výjimka: pokud text před zveřejněním věcně zkontroloval člověk, který tématu rozumí a nese za něj odpovědnost, označovat se nemusí.

Reklamní slogany nebo popisy produktů na e-shopu? Označovat nemusíš, i když je psala AI.

Tři otázky, které ti ušetří přemýšlení

Než začneš řešit, jestli konkrétní obsah označit, polož si tyhle tři otázky:

1. Vzniklo to nebo bylo upraveno pomocí AI?
2. Podobá se to existujícím osobám, objektům, místům nebo událostem?
3. Mohlo by to někomu připadat jako autentický záznam reality?

Třikrát ano znamená deepfake a povinnost označit, pokud jde o profesní použití.

Co za nedodržení hrozí?

Sankce za porušení transparentnostních povinností mohou dosáhnout až 15 milionů eur nebo 3 % celosvětového ročního obratu firmy, podle toho, která částka je vyšší. To jsou čísla, která firmy opravdu nemohou ignorovat.

Kde se dozvědět víc?

Česká asociace umělé inteligence (ČAUI) vydala praktického průvodce „Musím to označit?„, který celou problematiku vysvětluje na desítkách konkrétních příkladů z praxe, od zpravodajství přes reklamu až po produktové fotografie a audio obsah. Průvodce vznikl ve spolupráci s advokátní kanceláří Legitas a vychází z oficiálních Pokynů Evropské komise k implementaci článku 50 AI Actu. Je zdarma ke stažení na asociace.ai.

Zdroj PDF: Česká asociace umělé inteligence (ČAUI), průvodce „Musím to označit?“, verze 1.0, 31. 7. 2026. Materiál není právním poradenstvím. Právně závazný výklad AI Actu může poskytnout pouze Soudní dvůr EU. Pro konkrétní právní posouzení doporučujeme obrátit se na specializovaného právníka.