Rozvoj umělé inteligence (AI) přináší do různých oblastí lidské činnosti nejen nové příležitosti, ale i významné výzvy spojené s etickými otázkami. Tyto otázky se objevují napříč sektory od zdravotnictví, průmyslu, až po školství. Předmětem diskuse jsou především hodnoty, jako jsou odpovědnost, spravedlnost, transparentnost a ochrana základních lidských práv. Etická pravidla a zásady, jakož i jejich legislativní zakotvení, se proto stávají klíčovým faktorem pro využití těchto technologií.
Etické výzvy v oblasti AI
Používání systémů AI je často provázeno obavami z nedostatečné transparentnosti a obtížné předvídatelnosti chování jejich algoritmů (viz problematika tzv. black-boxů1). Tyto technologie jsou zpravidla výsledkem komplexních procesů, jejichž výstupy nemusí být vždy jasné ani pro samotné vývojáře. Nedostatečná transparentnost těchto systémů tak může vést ke ztrátě důvěry, zejména pokud výsledky systémů AI ovlivňují klíčová rozhodnutí, jako jsou například přijímací procesy na pracovní pozice, posuzování úvěruschopnosti osob nebo diagnóza zdravotního stavu.
Další zásadní výzvou je riziko diskriminace. I když jsou samotné systémy AI navrhovány jako neutrální, jejich fungování často odráží předsudky obsažené v datech, na kterých byly trénovány. Například při používání AI v personalistice může dojít k tomu, že systém upřednostňuje určité skupiny kandidátů na základě historických dat, která zrcadlí předchozí nerovnosti. Evropská unie proto ve svém návrhu Kodexu zásad AI pro obecné účely (Kodex) upozorňuje, že prevence diskriminace by měla být integrální součástí vývoje a nasazení systémů AI.
Evropský kodex zásad AI pro obecné účely
Evropská unie představila již druhý návrh Kodexu, na kterém se podíleli zejména nezávislí odborníci a Úřad pro AI, jako součást svého širšího rámce pro regulaci umělé inteligence. První návrh kodexu obsahoval mj. doporučení pro odpovědné využívání AI a zdůrazňuje hodnoty, jako je respekt k lidské důstojnosti, ochrana soukromí, bezpečnost systémů AI, řízení rizik, ale i ochrana autorských práv. Mezi klíčové principy patří povinnost zajištění transparentnosti, což zahrnuje srozumitelné vysvětlení procesů a rozhodnutí umělé inteligence pro uživatele. Rovněž se klade důraz na mechanismy lidského dohledu, které mají zajistit, že rozhodnutí učiněná AI lze přezkoumat a případně zvrátit, pokud by byla chybná.
V rámci druhého návrhu Kodexu byly upřesněny jednotlivé povinnosti, a byla zdůrazněna také potřeba vyvážit jasné povinnosti s flexibilitou přizpůsobit se vývoji technologií v oblasti AI. Důraz je kladen také na potřebu dalšího rozvoje ekosystémů pro správu umělé inteligence a řízení rizik.
Situace v ČR
V českém prostředí reagovala na etické otázky v oblasti AI především Česká asociace umělé inteligence, která zveřejnila svůj Etický kodex. Tento kodex stanovuje podobné hodnoty a principy jako evropský kodex, přičemž zdůrazňuje povinnosti jako jsou ochrana soukromí a osobních údajů, transparentnost nebo sociální dopady AI na společnost.
Přestože problematika etiky není v současnosti obecně upravena, některé společnosti již na etické otázky reagovaly vypracováním vlastních kodexů či zásad při práci s umělou inteligencí. Např. Redakční zásady při práci s AI nástroji, vypracované zpravodajským serverem Seznam Zprávy, uvádí, že redaktoři nemohou zveřejňovat texty generované AI, jelikož velké jazykové modely (LLM) mohou generovat věrohodně znějící texty, které se ale nemusí zakládat na realitě. Etický kodex a praktická pravidla pro využití nástrojů umělé inteligence, představený humanitární organizací Člověkem v tísni, zase klade důraz především na ochranu lidských práv a uvádí mj. to, že nástroje AI jsou v rámci této organizace využívány v souladu s Všeobecnou deklarací lidských práv a svobod.
Závěr
Regulace umělé inteligence, zejména na úrovni EU, nastavuje standardy, které budou pravděpodobně přejaty i na globální úrovni. Otázkou však zůstává, jak zajistit efektivní implementaci těchto zásad v praxi. Etické kodexy samy o sobě nestačí, pokud nejsou doplněny konkrétními závaznými opatřeními, jako je například pravidelné školení odborníků, audity systémů AI a vytvoření mechanismů pro řešení stížností. Kombinace právní regulace a samoregulačních opatření se jeví jako klíč k tomu, aby umělá inteligence sloužila společnosti eticky a odpovědně. Samotné téma etických zásad v oblasti AI však představuje dynamickou a komplexní oblast, která bude zcela jistě vyžadovat dlouhodobou diskusi mezi odborníky a poskytovateli AI z různých odvětví.

- Systém umělé inteligence, jehož vnitřní fungování nebo rozhodovací procesy jsou pro člověka „neprůhledné“ nebo nesnadno pochopitelné. ↩︎