Uměla inteligence (UI) je technologií, která se celosvětově neustále více a rychleji rozvíjí. O umělé inteligenci proto budeme slýchávat a budeme se s ní setkávat čím dál častěji s tím, jak se bude dále rozvíjet technologický pokrok v této oblasti. Jednotná právní úprava umělé inteligence však v současnosti defacto neexistuje v žádné zemi.
Komise Evropské unie se na tento stav rozhodla zareagovat a v rámci legislativního procesu Evropské unie předložila k přijetí Návrh Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizované pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie (v angličtině Artificial Intelligence Act), číslo řízení: 2021/0106/COD.[1]
V tomto úvodním článku naší série o Aktu o umělé inteligenci si proto řekneme obecné informace o Aktu o umělé inteligenci, tj. jaké jsou cíle přijetí Aktu o umělé inteligenci, jaký je současný stav legislativního procesu ve vztahu k Aktu o umělé inteligenci, co je předmětem Aktu o umělé inteligenci, oblast působnosti Aktu o umělé inteligenci a základní definice dle Aktu o umělé inteligenci.
Cíle Aktu o umělé inteligenci
Cíle, kterých se má dosáhnout přijetím Aktu o umělé inteligenci, vyplývají z důvodové zprávy k návrhu Aktu o umělé inteligenci[2], a jsou následující:
- zajistit, aby systémy UI, které budou uváděny na trh Unie a používány, byly bezpečné a aby byly v souladu se stávajícími právními předpisy o základních právech a hodnotách Unie,
- zajistit právní jistotu s cílem usnadnit investice a inovace v oblasti UI,
- zlepšit správu a účinné vymáhání stávajících právních předpisů upravujících základní práva a bezpečnostní požadavky platné pro systémy UI,
- usnadnit rozvoj jednotného trhu pro zákonné, bezpečné a důvěryhodné aplikace UI a zamezit roztříštění trhu.
Stav legislativního procesu Aktu o umělé inteligenci
V současnosti se čeká se na stanovisko Evropského parlamentu v 1. čtení k návrhu Aktu o umělé inteligence.
Předmět Aktu o umělé inteligenci
Předmětem Aktu o umělé inteligenci[3] je stanovení:
- harmonizovaných pravidel pro uvádění systémů umělé inteligence (dále jen „systémy UI“) na trh a do provozu a pro jejich používání v Unii;
- zákazu určitých postupů v oblasti umělé inteligence;
- zvláštních požadavků na vysoce rizikové systémy UI a povinnosti provozovatelů těchto systémů;
- harmonizovaných pravidel transparentnosti pro systémy UI určené k interakci s fyzickými osobami, pro systémy rozpoznávání emocí a pro systémy biometrické kategorizace, jakož i pro systémy UI používané k vytváření obrazového, zvukového nebo video obsahu nebo k manipulaci s ním;
- pravidel monitorování trhu a dozoru nad ním.
Oblast působnosti Aktu o umělé inteligenci
Akt o umělé inteligenci se bude vztahovat[4] na:
- poskytovatele, kteří uvádějí na trh nebo do provozu systémy UI v Unii bez ohledu na to, zda jsou tito poskytovatelé usazeni v Unii nebo ve třetí zemi;
- uživatele systémů UI nacházející se v Unii;
- poskytovatele a uživatele systémů UI, kteří se nacházejí ve třetí zemi, pokud se výstup systému používá v Unii.
Pro vysoce rizikové systémy UI, které představují bezpečnostní součásti produktů nebo systémů nebo které jsou samy o sobě produkty nebo systémy a které spadají do oblasti působnosti nařízení (ES) č. 300/2008; nařízení (EU) č. 167/2013; nařízení (EU) č. 168/2013; směrnice 2014/90/EU; směrnice (EU) 2016/797; nařízení (EU) 2018/858; nařízení (EU) 2018/1139; nařízení (EU) 2019/2144; se však použije pouze Článek 84 Aktu o umělé inteligenci.
Akt o umělé inteligenci se zároveň nevztahuje na systémy UI vyvinuté nebo používané výhradně pro vojenské účely.
Akt o umělé inteligenci se nevztahuje ani na orgány veřejné moci ve třetí zemi ani na mezinárodní organizace spadající do oblasti působnosti Aktu o umělé inteligenci, pokud tyto orgány nebo organizace používají systémy UI v rámci mezinárodních dohod o prosazování práva a o justiční spolupráci s Unií nebo s jedním či více členskými státy.
Základní definice Aktu o umělé inteligenci
Podle Aktu o umělé inteligenci se rozumí[5] pod pojmem:
- „systém umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;
- „poskytovatel“ fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které vyvíjí nebo nechávají vyvíjet systém UI za účelem jeho uvedení na trh nebo do provozu pod svým vlastním jménem nebo ochrannou známkou, ať už za úplatu, nebo zdarma;
- „uživatel“ jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo jiný subjekt, které v rámci své pravomoci využívají systém UI, s výjimkou případů, kdy je tento systém UI využíván při osobní neprofesionální činnosti
[1] Návrh Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizované pravidla pro umělou inteligenci (Akt o umělé inteligenci) a mění určité legislativní akty Unie, dostupný na internetové adrese: https://eur-lex.europa.eu/legal-content/CS/ALL/?uri=CELEX%3A52021PC0206
[2] Důvodová zpráva k Aktu o umělé inteligenci
[3] Článek 1 Aktu o umělé inteligenci
[4] Článek 2 Aktu o umělé inteligenci
[5] Článek 3 Aktu o umělé inteligenci