Digitalizace podnikových procesů v posledních letech zásadně proměnila i oblast lidských zdrojů. Personalistika, která bývala vnímána jako disciplína vyžadující intenzivní mezilidský kontakt, dnes ve stále větší míře spoléhá na software, prediktivní nástroje a algoritmy. S rostoucí dostupností umělé inteligence se proto proměňuje také způsob, jakým firmy vyhledávají nové talenty, hodnotí zaměstnance, plánují jejich rozvoj i organizují každodenní HR agendu. S tím však přicházejí i nové právní požadavky, které nejsou pouze administrativní překážkou, ale také nutnou ochranou zaměstnanců před riziky jako je například automatizované zpracování osobních údajů či diskriminace.
Ačkoli mnohé společnosti vnímají AI především jako prostředek ke zrychlení a zefektivnění HR procesů, právní regulace zdůrazňuje, že jde o oblast pracující s mimořádně citlivými daty. Špatně nastavené algoritmy totiž mohou vést k nerovnému zacházení nebo k neoprávněnému zásahu do soukromí. Proto je důležité porozumět tomu, jaké HR procesy dnes AI ovlivňuje a proč je právní rámec jejich používání neoddělitelnou součástí moderní personalistiky.
Umělá inteligence v HR
AI se v HR používá napříč celým pracovním cyklem zaměstnance. Běžně se uplatňuje např. při automatizovaném screeningu životopisů, plánování pohovorů či komunikaci s kandidáty prostřednictvím chatbotů. Dokáže rovněž zautomatizovat řadu rutinních administrativních úkonů, například zpracování žádostí, plánování směn nebo onboarding. Stále častěji se využívá také při vyhodnocování výkonu zaměstnanců, při predikci fluktuace nebo při analýze klíčových ukazatelů výkonnosti. Některé firmy pomocí AI monitorují pracovní činnost, ať už sledováním docházky nebo analýzou logů při práci na dálku.
Právě proto, že se jedná o procesy s přímým dopadem na pozici zaměstnance nebo uchazeče o zaměstnání, je regulace nezbytná. Systémy AI v této oblasti pracují s rozsáhlými soubory údajů a jejich rozhodnutí mohou ovlivnit např. profesní postup, přijetí do zaměstnání či hodnocení výkonu. V důsledku toho se do celé oblasti promítá rovněž GDPR, zákaz diskriminace, pracovněprávní pravidla a také evropský Akt o umělé inteligenci (Akt o AI).
Ochrana osobních údajů
HR oddělení pracují především s osobními údaji, a proto zapojení algoritmů nevyhnutelně znamená zpracování dle GDPR. Každá firma proto musí určit právní základ, o který se zpracování osobních údajů prostřednictvím AI opírá. Typicky může jít o plnění ze smlouvy, právní povinnosti nebo oprávněný zájem zaměstnavatele. Pokud je využit právě oprávněný zájem, je nezbytné určit, že zájem zaměstnavatele nepřevažuje nad právy zaměstnance.
Dalším pilířem ochrany osobních údajů je transparentnost. Zaměstnavatel musí zaměstnancům i uchazečům o zaměstnání jasně sdělit, jaké údaje jsou zpracovávány, k jakému účelu, zda dochází k profilování nebo automatizovanému rozhodování a jaká práva mohou subjekty údajů uplatnit. Jakékoli zavedení AI do HR procesů proto vyžaduje aktualizaci interních zásad i dokumentů poskytovaných kandidátům. Vzhledem k tomu, že většina systémů AI v HR pochází od externích dodavatelů, je rovněž nutné mít uzavřenou řádnou zpracovatelskou smlouvu podle GDPR.
V mnoha případech je dále nutné provést posouzení vlivu na ochranu osobních údajů (DPIA), protože automatizované hodnocení výkonu, predikce fluktuace, screening životopisů nebo monitorovací technologie představují vysoké riziko pro práva dotčených osob. Nelze-li tato rizika dostatečně zmírnit, musí následovat konzultace s Úřadem pro ochranu osobních údajů. Právě z těchto důvodů je obecně doporučováno v rámci společnosti určit pověřence pro ochranu osobních údajů.
Zákaz diskriminace
Přestože se AI může jevit jako objektivní, nemusí tomu tak být. Často totiž pracuje s daty, které mohou odrážet různé předsudky, a ty se následně mohou neúmyslně přenést do rozhodování algoritmu. To může vést například k tomu, že systém bude systematicky zvýhodňovat či znevýhodňovat určité skupiny kandidátů na základě pohlaví, věku nebo jiného chráněného znaku. Odpovědnost za diskriminační výstup však vždy nese zaměstnavatel, nikoliv dodavatel softwaru.
Zákoník práce i antidiskriminační zákon stanovují jasný zákaz diskriminace při přijímání zaměstnanců, v odměňování, při hodnocení výkonu, v povyšování i při skončení pracovního poměru. Aby zaměstnavatel předešel rizikům, musí systémy AI testovat před jejich nasazením, průběžně kontrolovat rozhodování těchto systémů a ověřovat, zda algoritmy nepracují s proměnnými, které by mohly sloužit jako nepřímé ukazatele chráněných charakteristik.
GDPR navíc zakazuje čistě automatizované rozhodování, pokud má závažný dopad na fyzickou osobu. To znamená, že přijetí či odmítnutí uchazeče, povýšení nebo přidělení bonusu nemůže být učiněno pouze algoritmem, a je vždy zapotřebí lidský dohled, jenž je schopen rozhodnutí změnit či zvrátit.
Monitoring zaměstnanců
Rostoucí dostupnost monitorovacích technologií založených na AI může svádět k jejich širokému nasazení. Český právní řád však stanoví velmi přísná pravidla pro sledování zaměstnanců. Zaměstnavatel nesmí bez důležitého důvodu nepřiměřeně zasahovat do jejich soukromí a jakýkoli monitoring musí být proporcionální a transparentní. Zaměstnanci musí být předem informováni o rozsahu, účelu i povaze sledování.
Rizikovými jsou zejména technologie, které analyzují komunikaci, chování nebo emoční projevy zaměstnance, případně nástroje, které monitorují pracovní výkon v reálném čase. I u legitimního monitoringu, například při ochraně majetku nebo zajišťování bezpečnosti práce, musí být zásah do soukromí omezen na nezbytně nutný rozsah.
Vysoce rizikové systémy AI
Akt o AI zavádí klasifikaci systémů podle rizikovosti (blíže např. zde) a některé HR technologie spadají právě mezi ty nejpřísněji regulované. Např. systémy používané pro nábor, výběr zaměstnanců, jejich hodnocení či analýzu chování jsou považovány za vysoce rizikové. S tím souvisí povinnosti týkající se řízení rizik, kvality tréninkových dat, transparentnosti, technické dokumentace, lidského dohledu a kybernetické bezpečnosti. Akt o AI také výslovně zakazuje některé praktiky, jako je např. tzv. social scoring, zneužívání zranitelnosti zaměstnanců nebo využívání technologií rozpoznávání emocí na pracovišti.
Závěr
AI může personalistice přinést výrazné zrychlení, přesnější analýzy i prostor pro personalizovaný rozvoj zaměstnanců. Zároveň však přináší významná právní rizika, která není možné ignorovat. Právně konformní využívání AI v HR vyžaduje proto komplexní přístup. Základem je formulace interních pravidel, která popisují, kdy a jak lze AI používat a kdo za jednotlivé procesy odpovídá. Každý významnější nástroj je třeba podrobit DPIA a ověřit, zda jsou rizika přijatelná. Neméně důležité je prověřování dodavatelů a správné nastavení zpracovatelských smluv. Lidský dohled musí být přítomen u všech rozhodnutí, která mohou ovlivnit pozici uchazeče nebo zaměstnance, a algoritmy je nutné průběžně testovat na možné diskriminační výstupy.
