#HRNOTES 33

Umělá inteligence v pracovním prostředí: Jaké povinnosti stanoví AI Act zaměstnavatelům?

Na počátku srpna vešla v účinnost velká část nařízení EU č. 2024/1689 o umělé inteligenci tzv. AI Act, které upravuje nejen tvorbu a distribuci umělé inteligence, ale také práci s ní. Ačkoliv je evropské nařízení zaměřeno primárně na poskytovatele AI systémů, určité povinnosti se mohou dotknout i zaměstnavatelů.

Podle článku 4 nařízení mají subjekty zavádějící AI do užívání obecnou povinnost zajistit, aby jejich zaměstnanci (a další osoby jednající jejich jménem) měli dostatečnou gramotnost v oblasti AI. Nařízení sice nestanoví přesnou formu zajištění gramotnosti zaměstnanců, ale na druhou stranu očekává, že zaměstnanci budou schopni rozpoznat rizika spojená s AI a používat tyto systémy informovaně a bezpečně.

Přísnější podmínky pak nařízení stanovuje pro užívání tzv. vysoce rizikových systémů. V rámci zaměstnávání mohou být tyto systémy využívány zejména pro nábor, hodnocení nebo sledování zaměstnanců na pracovišti. Uživatelé těchto systému musí zejména zavést systém řízení rizik, zajistit lidský dohled nad systémem nebo vést záznamy o jeho činnosti.

Ať už ve Vaší organizaci dochází k užívání vysoce rizikových systémů, nebo pouze běžných nástrojů AI, v každém případě je vhodné nepodceňovat prevenci. Doporučujeme proto nejen proškolit zaměstnance v oblasti nakládání s daty (například při práci s generativními nástroji typu ChatGPT) a kritického vyhodnocování výstupů AI, ale také přijmout a průběžně aktualizovat interní předpisy upravující podmínky používání AI. A s tím Vám ve Forlexu samozřejmě rádi pomůžeme.