Evropská komise zprovoznila nový nástroj určený pro oznamovatele porušení povinností vyplývajících z Aktu o umělé inteligenci (Akt o AI). Tento krok představuje další významný prvek budovaného evropského systému dohledu nad vývojem a používáním umělé inteligence a podporuje včasnou detekci rizik, která by jinak mohla zůstat skryta.
Bezpečný prostor pro oznamování porušení povinností
Nový nástroj slouží jako přímý a vysoce zabezpečený komunikační kanál mezi jednotlivci a Evropským úřadem pro umělou inteligenci (Úřad pro AI), který byl v rámci Evropské komise pověřen dohledem nad aplikací a jednotným výkladem Aktu o umělé inteligenci. Nástroj umožňuje komukoli, kdo disponuje relevantními informacemi, upozornit na možné porušení pravidel, a to anonymně, v kterékoliv z úředních jazyků EU a bez ohledu na formát dokumentů.
Systém využívá certifikované šifrovací technologie a vytváří chráněnou schránku, skrze kterou může oznamovatel nejen odevzdat podání, ale také sledovat průběh dalšího šetření a odpovídat na případné doplňující dotazy. Důraz na anonymitu a přísně omezený okruh pracovníků, kteří mohou do spisu nahlížet, představuje hlavní nástroj ochrany oznamovatele do okamžiku, než začne být uplatnitelná právní ochrana před odvetnými opatřeními.
Význam včasné detekce porušení
Akt o AI představuje první komplexní právní rámec pro umělou inteligenci na světě (blíže jsme se Aktu o AI věnovali např. zde). Jeho cílem je podpořit inovace, ale zároveň zajistit, aby se systémy AI v Evropě vyvíjely a používaly způsobem respektujícím základní práva občanů, jejich bezpečnost a veřejnou důvěru. V praxi však mohou být rizikové nebo nezákonné postupy odhalitelné pouze osobami, které mají přímý přístup k interním informacím.
Typickými oznamovateli jsou proto současní nebo bývalí zaměstnanci poskytovatelů modelů a systémů AI, externí spolupracovníci, členové orgánů společnosti, ale i další osoby profesně spojené s vývojem či provozem systémů AI. Ti mohou jako první zaznamenat např. nedostatky v dokumentaci, opomenutí povinných informací o trénovacích datech, obcházení povinností Aktu o AI či jiné interní praktiky, které by mohly mít dopad na základní práva nebo veřejnou bezpečnost.
Rozsah informací, které mohou být předmětem oznámení
Nástroj je určen pro oznamování podezření na porušení povinností stanovených Aktem o AI, a to ať už se jedná o povinnosti vztahující se na poskytovatele, zavádějící subjekty nebo osoby zapojené do vývoje těchto systémů. Relevantní jsou zejména informace o:
- neplnění dokumentačních povinností, včetně povinného shrnutí trénovacích dat či kopií interních postupů,
- absenci či nedostatečnosti opatření pro řízení rizik,
- nedodržování pravidel v oblasti autorskoprávní kompatibility trénovacích dat,
- interních praktikách, které mohou ohrozit ochranu základních práv, zdraví nebo bezpečnosti,
- jiných činnostech, které mohou podkopat důvěru veřejnosti v technologie umělé inteligence.
Součástí oznámení mohou být interní zprávy, analýzy, prezentace, datové výstupy nebo jiné dokumenty. Úřad pro AI však výslovně upozorňuje, aby oznamovatelé pečlivě odstranili nebo začernili veškeré údaje, které by mohly odhalit jejich identitu, nebo osobní údaje třetích osob, pokud nejsou nezbytné.
Ochrana oznamovatelů
Ačkoli je Úřad pro AI povinen udržet absolutní důvěrnost totožnosti oznamovatelů, evropská právní ochrana proti odvetným krokům zaměstnavatele je zatím limitovaná. Plná ochrana podle směrnice o ochraně oznamovatelů (Whistleblower Directive) se na porušení Aktu o AI začne vztahovat až od 2. srpna 2026. Do té doby je klíčovým ochranným nástrojem právě anonymita.
Některé činnosti související s umělou inteligencí však již dnes mohou spadat do oblastí, které směrnice pokrývá, a to např. pokud se oznámení týká problémů spojených s bezpečností výrobků, ochranou spotřebitele, ochranou osobních údajů nebo informační bezpečností. V těchto případech může oznamovatel využít ochranu podle stávající evropské úpravy, pokud jeho profesní vztah podléhá právu členského státu EU.
Důležité je také pravidlo, že ochrana oznamovatele nezávisí na tom, zda se podezření později prokáže, neboť postačí, že měl v době podání odůvodněnou víru v pravdivost informací a že tyto informace spadaly do rámce právního předpisu, který ochranu poskytuje.
Závěr
Spuštění nástroje pro oznamovatele posiluje unijní schopnost identifikovat a řešit rizika, která by se jinak objevila až v pozdější fázi, kdy už mohou být škody značné. Tento mechanismus zároveň naznačuje budoucí podobu dohledu nad umělou inteligencí v EU, jakožto silně orientovanou na transparentnost, bezpečnost a zapojení osob, které jsou interními svědky problémů. Evropská regulace tak nestojí pouze na povinnostech subjektů vyvíjejících a provozujících systémy umělé inteligence, ale aktivně počítá také s rolí oznamovatelů jako důležitého zdroje informací.
