Evropská komise představila další důležitou kapitolu regulace umělé inteligence (AI), a to zveřejněním prvního návrhu kodexu zásad transparentnosti obsahu vytvořeného umělou inteligencí. Tento dokument, jenž má povahu dobrovolného nástroje, je koncipován jako praktický most mezi současnou praxí a budoucími právně závaznými povinnostmi vyplývajícími z Aktu o umělé inteligenci (Akt o AI). Kodex má být finálně přijat v průběhu jara letošního roku a jeho ambicí je vytvořit společný standard pro označování a zpřehlednění syntetického obsahu ještě před tím, než nastoupí plná regulační síla unijní legislativy.
Účel
Jádrem připravovaného kodexu je snaha reagovat na rychlý rozvoj generativních systémů, které dnes dokážou produkovat texty, obrazy, zvuk i video prakticky nerozeznatelné od lidské tvorby. Právě tato schopnost zvyšuje riziko klamání veřejnosti, zneužití identity či manipulace veřejného mínění a současně oslabuje důvěru v informační prostředí jako celek. Evropská komise proto vychází z premisy, že transparentnost původu obsahu není samoúčelným administrativním požadavkem, ale nezbytným předpokladem ochrany veřejného zájmu a základních práv.
Navrhovaný kodex se zaměřuje výhradně na obsah, který je sám o sobě legální. Neřeší tedy tzv. deepfaky a jiné formy syntetického obsahu, které již naplňují znaky protiprávního jednání, ať už jde o podvody, porušení soukromí, zásahy do volebních procesů, nenávistné projevy či zásahy do práv duševního vlastnictví. Takový obsah spadá pod existující právní režimy a má být bezodkladně odstraňován nebo účinně moderován. Kodex se naopak soustředí na situace, kdy je obsah dovolený, avšak jeho syntetický původ může být pro uživatele relevantní a měl by být transparentně sdělen.
Z hlediska právní povahy je kodex typickým příkladem evropského soft law. Není přímo závazný, přesto má potenciál významně ovlivnit chování aktérů na trhu i budoucí výklad závazných předpisů. V praxi podobné kodexy často fungují jako předstupeň regulace, sjednocují očekávání regulatorních orgánů a poskytují adresátům právních povinností relativně bezpečný rámec, jak se na nadcházející regulaci připravit.
Co kodex přináší?
Obsahově je návrh kodexu postaven na dvou vzájemně provázaných pilířích. První z nich se týká technických mechanismů umožňujících strojově čitelné označování a následnou detekci obsahu vytvořeného nebo upraveného AI. Zde se počítá s kombinací více nástrojů, protože žádné jednotlivé řešení dnes není samo o sobě dostatečně spolehlivé. Hovoří se o využití metadat, nepostřehnutelných vodoznaků, otisků obsahu či evidenčních systémů a současně o potřebě interoperability napříč platformami a typy médií. Poskytovatelé systémů AI by měli tyto mechanismy zavádět již na úrovni modelů a zároveň nabídnout nástroje, například rozhraní nebo aplikační rozhraní, které umožní ověřit původ konkrétního obsahu i dalším subjektům v hodnotovém řetězci.
Druhý pilíř se soustředí na samotné informování uživatelů. Zde kodex rozpracovává, jak má být syntetický původ obsahu srozumitelně a včas sdělen lidskému publiku, zejména jde-li o realistický syntetický obsah nebo texty určené k informování veřejnosti o otázkách veřejného zájmu. Návrh vychází z myšlenky jednotného vizuálního symbolu, který by byl rozpoznatelný napříč médii, a počítá i s možností jeho interaktivní podoby, jež by umožnila zobrazit podrobnější informace o tom, které části obsahu byly vytvořeny či upraveny pomocí AI.
Rozdělení povinností přitom důsledně vychází z Aktu o AI a rozlišuje mezi poskytovateli a uživateli systémů. Poskytovateli jsou subjekty, které systémy vyvíjejí, upravují nebo uvádějí na trh pod svým jménem, zatímco uživateli jsou ti, kdo umělou inteligenci využívají v rámci své profesionální činnosti. Právě na uživatele dopadá povinnost jasně označit realistický syntetický obsah, včetně deepfake videí či audia, a to nejpozději v okamžiku prvního kontaktu uživatele s obsahem. Soukromé neprofesionální užití zůstává mimo tento režim a odpovědnost zde nese primárně platforma.
Závěr
Celý návrh kodexu je v současnosti koncipován jako rozpracovaný dokument. Evropská komise otevřeně připouští, že řada otázek zůstává nevyřešena, ať už jde o označování velmi krátkých textů, nové formy agentů AI, virtuální prostředí nebo podobu jednotného symbolu. Právě proto má být kodex pravidelně aktualizován a doplňován na základě technického vývoje a zpětné vazby od širokého spektra zainteresovaných subjektů.
Z právního hlediska tak návrh kodexu nepředstavuje pouhou technickou příručku, ale důležitý interpretační rámec, který napovídá, jak budou povinnosti týkající se transparentnosti podle Aktu o AI chápány a prosazovány v praxi. Pro poskytovatele i uživatele umělé inteligence je proto vhodné jej vnímat jako příležitost včas nastavit interní procesy, technická řešení i organizační opatření tak, aby přechod k závazné regulaci proběhl plynule a bez zbytečných právních rizik.
