V úvodním článku naší série o Aktu o umělé inteligenci jsme popsali cíle Aktu o umělé inteligenci, stav legislativního procesu, předmět a oblast působnosti Aktu o umělé inteligenci a základní definice dle Aktu o umělé inteligenci.
Jak plyne z našeho úvodního článku, jedním z předmětů Aktu o umělé inteligenci je mj. i zákaz určitých postupů v oblasti umělé inteligence. V tomto druhém článku naší série o Aktu o umělé inteligenci se proto budeme blíže zabývat tím, které konkrétní postupy v oblasti umělé inteligence jsou dle Aktu o umělé inteligenci zakázané a jaké sankce případně hrozí za porušení těchto zákazů.
Zakázané postupy v oblasti umělé inteligence
Akt o umělé inteligenci zakazuje následující postupy[1] v oblasti umělé inteligence:
- uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají podprahových technik mimo vědomí osob s cílem podstatně ovlivnit chování těchto osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;
- uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení, s cílem podstatně ovlivnit chování osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;
- uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:
- ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny;
- ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob, které je neodůvodněné nebo nepřiměřené jejich sociálnímu chování nebo jeho závažnosti;
- používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z následujících cílů a jen do té míry, do níž je to nezbytně nutné:
- cílené vyhledávání určitých potenciálních obětí trestných činů, včetně pohřešovaných dětí;
- prevenci konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;
- odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestného činu uvedeného v čl. 2 odst. 2 rámcového rozhodnutí Rady 2002/584/SVV 62 , pokud lze tento trestný čin v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky, jak je stanoveno v právních předpisech tohoto členského státu.
Sankce za nedodržení zakázaných postupů v oblasti umělé inteligence
V případě nedodržení zakázaných postupů v oblasti umělé inteligence lze dle Aktu o umělé inteligenci uložit správní pokuty[2] až do výše 30 000 000 EUR nebo, dopustí-li se porušení společnost, až do výše 6 % jejího celkového ročního obratu celosvětově za předchozí finanční rok podle toho, která hodnota je vyšší.
Při rozhodování o výši správní pokuty v jednotlivých případech se zohlední všechny příslušné okolnosti konkrétní situace s náležitým přihlédnutím k následujícím okolnostem:
- povaha, závažnost a doba trvání porušení těchto ustanovení a jeho následky;
- zda již byly stejnému provozovateli za stejné protiprávní jednání uloženy správní pokuty jinými orgány dozoru nad trhem;
- velikost provozovatele, který se porušení dopustil, a jeho podíl na trhu.
[1] Článek 5 Návrhu Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizované pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie, dostupný na internetové adrese: https://eur-lex.europa.eu/legal-content/CS/ALL/?uri=CELEX%3A52021PC0206
[2] Článek 71 Aktu o umělé inteligenci