Evropská komise zveřejnila návrh pokynů k zakázaným praktikám umělé inteligence podle nařízení (EU) 2024/1689 (AI Act). Tyto pokyny poskytují právní jasnost ohledně interpretace a aplikace článku 5 AI Act, který stanovuje kategorie nepřijatelných rizik spojených s AI technologiemi. Hlavní témata pokynů zahrnují:
- Manipulativní a klamavé AI systémy – zákazy používání technik, které mohou podprahově ovlivňovat chování lidí.
- Sociální skórování – zákaz hodnocení jednotlivců na základě sociálního chování, které by vedlo k diskriminaci.
- Predikce kriminality – omezení systémů, které automaticky hodnotí pravděpodobnost spáchání trestného činu na základě osobnostních rysů.
- Biometrické rozpoznávání v reálném čase – přísné regulace kamerových systémů pro automatickou identifikaci osob ve veřejném prostoru.
- Těžba obličejových snímků – zákaz nekontrolovaného shromažďování snímků pro účely rozpoznávání tváří.
- Rozpoznávání emocí – zákaz využívání AI pro analýzu emocí v pracovním prostředí a školách, s výjimkami pro medicínské a bezpečnostní účely.
Pokyny kladou důraz na regulaci inteligentních kamerových systémů, zejména těch, které využívají biometrickou identifikaci v reálném čase. AI Act zakazuje jejich plošné nasazení pro účely sledování veřejných prostranství, s výjimkou vysoce specifických situací, jako je lokalizace podezřelých osob či prevence teroristických útoků. Kromě toho pokyny zdůrazňují, že tvorba databází obličejových snímků prostřednictvím nekontrolovaného stahování z internetu či CCTV záznamů je výslovně zakázána.
Vzhledem k tomu, že zákazy v článku 5 AI Act budou přímo závazné od 2. února 2025, je pro provozovatele AI systémů klíčové, aby se s těmito pokyny seznámili a přizpůsobili jim své technologie a postupy. Dohled nad dodržováním pravidel bude zajišťovat síť orgánů dohledu na úrovni členských států, které budou oprávněny udělovat sankce až do výše 35 milionů EUR nebo 7 % celosvětového obratu společnosti.
Celé znění pokynů můžete nalézt zde