Nařízení Evropského parlamentu a Rady, známé jako Akt o umělé inteligenci („AI Akt“), vstoupilo v účinnost již 1. srpna 2024. Tím však regulace umělé inteligence v praxi zdaleka nezačala působit v celém svém rozsahu. Jedním z nových milníků je 2. srpen 2026, od kterého se začala uplatňovat pravidla transparentnosti podle čl. 50 AI Aktu. Ta míří především na interaktivní a generativní systémy AI, obsah vytvořený nebo upravený umělou inteligencí, deepfakes a systémy využívající rozpoznávání emocí či biometrickou kategorizaci.
Pro společnosti přitom nejde pouze o povinnost „přidat nálepku AI“. Rozhodující bude především správně určit, v jakém postavení subjekt vůči konkrétnímu systému AI vystupuje, jakým způsobem je systém používán a komu jsou jeho výstupy určeny. Teprve na základě tohoto posouzení lze určit, zda se na subjekt čl. 50 AI Aktu vůbec vztahuje a jaké konkrétní povinnosti musí splnit.
Zároveň Evropský zákonodárce na jaře a v létě 2026 přijal tzv. Digitální Omnibus AI, kterým mimo jiné zavedl omezené přechodné období pro některé systémy již uvedené na trh. To se však týká pouze povinností podle čl. 50 odst. 2 vztahujících se k technickému označování a detekovatelnosti AI-generovaného obsahu.
Rozdílné režimy transparentnosti
Komise ve svých finálních pokynech vydaných v červenci 2026 výslovně rozlišuje čtyři samostatné režimy transparentnosti podle čl. 50 odst. 1 až 4. Jejich adresáty, předmět i způsob splnění se vzájemně liší.
První povinnost se týká systémů AI přímo komunikujících s fyzickými osobami. Druhá míří na poskytovatele systémů vytvářejících nebo upravujících syntetický obrazový, zvukový, video či textový obsah. Třetí se vztahuje na nasazení systémů pro rozpoznávání emocí a biometrickou kategorizaci. Čtvrtá pak dopadá na deepfakes a na určitý AI-generovaný či AI-upravený text publikovaný za účelem informování veřejnosti o věcech veřejného zájmu. Nad těmito režimy stojí čl. 50 odst. 5, který stanoví obecné požadavky na způsob poskytování informací.
Právě tato struktura je důvodem, proč nebude možné posuzovat soulad s AI Aktem pouze optikou otázky, zda společnost používá AI.
Kdo je poskytovatelem a kdo zavádějícím subjektem?
Jedním z nejdůležitějších praktických aspektů čl. 50 je rozlišení rolí poskytovatele („provider“) a zavádějícího subjektu („deployer“).
Poskytovatelem je podle čl. 3 odst. 3 AI Aktu osoba, která systém AI vyvíjí nebo si jej nechává vyvinout a uvádí jej na trh či do provozu pod vlastním názvem nebo ochrannou známkou. Může přitom jít jak o systém poskytovaný za úplatu, tak bezplatně. Povinnosti poskytovatele podle čl. 50 odst. 1 a 2 se přitom mohou týkat i subjektů usazených mimo Evropskou unii, pokud jsou splněny podmínky působnosti AI Aktu.
Zavádějící subjekt je naopak osoba, která systém AI používá pod svou autoritou, s výjimkou čistě osobní a neprofesní činnosti fyzické osoby. Podstatné přitom není to, kdo systém technicky provozuje. Rozhodující je, kdo rozhoduje o tom, zda a za jakým účelem bude systém použit a jakým způsobem budou využívány jeho výstupy.
Toto rozlišení může být v praxi překvapivě významné. Společnost například využije externí generativní AI službu pro tvorbu reklamních materiálů. Samotný poskytovatel AI odpovídá za povinnosti, které mu ukládá čl. 50 odst. 1 a 2. Společnost však může být zavádějícím subjektem a za určitých okolností jí mohou vzniknout vlastní povinnosti podle čl. 50 odst. 4.
Ještě důležitější je skutečnost, že jeden subjekt může současně vystupovat v obou rolích. Typickým příkladem je společnost, která si vytvoří vlastní AI systém a současně jej sama používá. V takovém případě na ni mohou dopadat povinnosti poskytovatele i zavádějícího subjektu.
Pro interní compliance proto není dostačující vést pouze seznam používaných AI nástrojů. Organizace by měla být schopna u jednotlivých systémů určit, kdo je poskytovatelem, kdo zavádějícím subjektem, k jakému účelu je systém používán a jaký druh výstupů vytváří.
Označení chatbotů
Podle čl. 50 odst. 1 musí poskytovatelé systémů AI určených k přímé interakci s fyzickými osobami navrhnout systém tak, aby člověk věděl, že komunikuje s umělou inteligencí. Výjimkou je situace, kdy je umělá povaha interakce z pohledu rozumně informované, pozorné a obezřetné osoby vzhledem k okolnostem zjevná. Druhou výjimkou jsou některé systémy zákonem autorizované pro účely odhalování, prevence, vyšetřování či stíhání trestné činnosti.
Na první pohled může jít o pravidlo jednoduché. V praxi však bude často záležet na konkrétním způsobu nasazení. Evropská komise výslovně zdůrazňuje, že výjimku založenou na zjevnosti interakce je třeba vykládat restriktivně. Pouhá obecná skutečnost, že veřejnost ví o existenci chatbotů a generativní AI, ještě neznamená, že konkrétní uživatel rozpozná, že právě komunikuje se strojem.
Pokyny Komise jako příklady systémů spadajících pod čl. 50 odst. 1 uvádějí například zákaznické chatboty, hlasové asistenty, AI hotline, AI avatary či AI agenty. Naopak samotné automatizované překlady, spamové filtry nebo některé podpůrné systémy, u nichž nedochází k přímé interakci člověka se systémem, do tohoto režimu zpravidla nespadají.
Z hlediska praxe je přitom podstatné, že informace nemá být schována pouze v obchodních podmínkách nebo na samostatné webové stránce. Komise výslovně uvádí, že takové informace mohou doplňovat, nikoli však nahrazovat oznámení přímo v kontextu interakce. Za nedostatečné považuje rovněž obecné upozornění typu „na tomto webu používáme AI“, pokud uživatel není informován konkrétně o interakci, která probíhá.
V praxi tak může postačovat například jasné oznámení na začátku konverzace, že uživatel komunikuje s AI. V citlivějších případech však může být nutné upozornění opakovat. Komise tuto potřebu zdůrazňuje například u dětí, seniorů, osob se zdravotním postižením nebo v situacích, kde hrozí zvýšené riziko uvedení člověka v omyl, například při finančním, právním či zdravotním poradenství.
Technická zjistitelnost
Samostatný režim podle čl. 50 odst. 2 se týká poskytovatelů systémů AI, které generují nebo manipulují syntetický zvuk, obraz, video nebo text. Takové výstupy musí být označeny ve strojově čitelném formátu a musí být detekovatelné jako uměle vytvořené nebo upravené. Použitá technická řešení mají být účinná, interoperabilní, robustní a spolehlivá.
Tato povinnost je významná právě proto, že není určena pouze běžnému uživateli. Směřuje také k technickému ekosystému, ve kterém může být obsah dále distribuován, zpracováván a identifikován. Strojově čitelné označení tak může například umožnit platformám nebo jiným článkům distribučního řetězce rozpoznat, že určitý obsah vznikl či byl změněn pomocí AI. Komise výslovně spojuje tento mechanismus také s cíli Aktu o digitálních službách (DSA), zejména s identifikací a zmírňováním systémových rizik spojených s šířením uměle generovaného obsahu.
Rozsah tohoto pravidla je poměrně široký. Komise jej neváže pouze na deepfakes. Čl. 50 odst. 2 se týká syntetického audia, obrazu, videa a textu a může dopadat rovněž na multimodální obsah. Zahrnuty mohou být například i AI systémy schopné generovat nebo upravovat obsah ve formě 3D či ve virtuální a rozšířené realitě.
Právě zde však vstupuje do hry zmíněné přechodné období. Aktuální znění AI Aktu stanoví, že poskytovatelé systémů AI, včetně systémů obecného účelu, které generují syntetický zvuk, obraz, video nebo text a které byly uvedeny na trh před 2. srpnem 2026, musí zajistit soulad s čl. 50 odst. 2 nejpozději do 2. prosince 2026. Tato výjimka se netýká například povinnosti informovat člověka o tom, že přímo komunikuje s AI.
Označení deepfakes
Další významná povinnost podle čl. 50 odst. 4 dopadá na zavádějící subjekty. Pokud AI vytvoří nebo upraví obsah způsobem představujícím deepfake, tzn. obsah se znatelně podobá existujícím osobám, objektům, místům, subjektům nebo událostem, a určité osobě by se falešně jevil jako autentický nebo pravdivý, musí být jeho umělý původ zveřejněn jasným a rozlišitelným způsobem. Zvláštní pravidla existují pro deepfakes, které jsou součástí uměleckých, tvůrčích, satirických, fiktivních nebo obdobných děl či programů.
Zároveň deepfake nemusí být spojen pouze s politickou manipulací. Může jít například o reklamní materiál, obchodní komunikaci, audiovizuální kampaň nebo jiný obsah, který může u veřejnosti vytvořit falešný dojem autenticity.
Je však nutné odlišit technickou povinnost poskytovatele od povinnosti zavádějícího subjektu. Poskytovatel může mít povinnost zajistit strojově čitelné označení již při generování obsahu podle čl. 50 odst. 2, zatímco subjekt, který systém používá a obsah zveřejňuje, může mít navíc povinnost zajistit srozumitelné označení viditelné pro člověka podle čl. 50 odst. 4. Oba režimy tedy mohou existovat vedle sebe.
Rozpoznávání emocí a biometrická kategorizace
Podle čl. 50 odst. 3 mají zavádějící subjekty povinnost informovat fyzické osoby vystavené systémům pro rozpoznávání emocí nebo biometrickou kategorizaci o jejich používání. Smyslem tohoto pravidla je mimo jiné umožnit člověku uvědomit si, že je podroben technologii, která může být významně zásažná do jeho soukromí. Komise zdůrazňuje, že povinnost se vztahuje i na osoby, jejichž vystavení systému probíhá následně, nikoli pouze v reálném čase.
U tohoto ustanovení je navíc nutné dát pozor na souběh s jinými částmi AI Aktu. Dodržení čl. 50 totiž samo o sobě neznamená, že je konkrétní použití AI zákonné. Komise výslovně upozorňuje, že některé systémy podléhající transparentnostním povinnostem mohou současně spadat pod zákaz podle čl. 5 AI Aktu nebo pod režim vysoce rizikových systémů. Jako příklad uvádí mimo jiné některá použití rozpoznávání emocí na pracovišti nebo ve vzdělávacích institucích.
Jak má označení vypadat?
AI Akt obecně nestanoví jednu univerzální podobu označení použití AI. U interaktivních systémů proto může být vhodný text, vizuální symbol, zvukové upozornění nebo jejich kombinace. Komise doporučuje například zřetelné označení v uživatelském rozhraní či upozornění na začátku hlasové interakce. U zranitelných skupin je třeba zohlednit také požadavky na přístupnost a srozumitelnost.
U obsahu je však nutné rozlišit dvě věci. Technické označení podle čl. 50 odst. 2 má být strojově čitelné a detekovatelné. Naproti tomu u deepfakes a příslušných textových publikací podle odst. 4 musí být informace současně srozumitelně zpřístupněna člověku. Z technického metadata tedy nelze bez dalšího udělat náhradu uživatelského označení.
Evropská komise proto zveřejnila také Kodex správné praxe pro transparentnost AI-generovaného obsahu. Ten představuje praktický nástroj pro poskytovatele a zavádějící subjekty, které chtějí prokázat splnění povinností týkajících se označování a identifikace AI-generovaného obsahu. Subjekt, který se kodexem neřídí, však není automaticky v rozporu s AI Akt, ale musí být schopen prokázat splnění povinností jinými odpovídajícími prostředky.
Sankce
Porušení transparentnostních povinností podle čl. 50 není pouze otázkou reputačního rizika. AI Akt je řadí mezi porušení, za která mohou být uloženy správní pokuty až do 15 milionů eur nebo, jde-li o podnik, až do 3 % jeho celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, která částka je vyšší. U malých a středních podniků se přihlíží k jejich specifické situaci a horní hranice se posuzuje příznivěji v mezích stanovených nařízením.
Výše sankce se samozřejmě nebude určovat automaticky. Posuzovány mají být mimo jiné povaha, závažnost a délka porušení, jeho následky, úmysl či nedbalost a míra spolupráce s příslušným orgánem.
Dozor nad dodržováním čl. 50 je založen především na systému orgánů dozoru nad trhem. Vedle příslušných vnitrostátních orgánů má v určitých případech kompetence také Evropský úřad pro umělou inteligenci a ve vztahu k institucím, orgánům a agenturám Unie Evropský inspektor ochrany údajů.
Závěr
Pro podniky proto bude nejbezpečnější vnímat čl. 50 nikoli jako izolovanou povinnost týkající se označování obsahu, ale jako součást širšího systému řízení používání umělé inteligence. V současné chvíli navíc běží omezené přechodné období pouze pro část technických povinností poskytovatelů, které skončí 2. prosince 2026. Ostatní povinnosti podle čl. 50 již nelze odkládat.
Prakticky tedy platí jednoduché pravidlo, a to nejprve určit roli a konkrétní způsob použití AI, poté identifikovat příslušné povinnosti a teprve následně nastavit technické a organizační prostředky jejich plnění. Právě tento přístup odpovídá i logice pokynů Evropské komise, podle nichž má být transparentnost zabudována přímo do způsobu návrhu, provozu a řízení AI systémů, nikoli řešena až dodatečně po jejich nasazení.
