Evropský AI Akt vstupuje v platnost. Podpoří inovace a ochrání občany

Od srpna vstupuje v platnost první právní předpis regulující umělou inteligenci (AI) na světě, známý též jako AI Akt. Cílem nařízení je zajistit, aby systémy AI byly bezpečné, důvěryhodné a v souladu s hodnotami EU. Nebude tak možné, aby docházelo k biometrické kategorizaci občanů například s cílem vyvodit jejich politické názory, rasu, náboženskou víru či sexuální orientaci. Zároveň také zjednoduší vývoj, provoz a volný pohyb AI služeb a produktů na vnitřním trhu EU.

Záměrem nařízení je kromě ochrany obyvatel také podpora inovací. AI Akt předpokládá zřízení tzv. sandboxu, kontrolovaného prostředí, ve kterém bude možné otestovat systémy umělé inteligence v reálných podmínkách před jejich uvedením na trh. Společný sandbox bude moci zřídit i několik členských států EU. Podnikatelům tak opatření pomohou snížit počáteční náklady a zvýšit jejich konkurenceschopnost v mezinárodní konkurenci.

Součástí je také tzv. AI inovační balíček, jehož cílem je podpořit malé a střední podniky (SMEs) a start-upy v oblasti vývoje umělé inteligence. Evropským start-upům umožní například využívat superpočítače pro trénování modelů odpovědné umělé inteligence.

„Česko se během svého předsednictví významně zasadilo o vznik AI Aktu, který je naší odpovědí na výzvy rychlého technologického pokroku. Chceme zajistit etické a transparentní používání umělé inteligence, chránit základní práva občanů a umožnit našim podnikům stát se lídry v odvětví. Jsme první, kdo se této problematice komplexně věnuje a tímto krokem nastavujeme globální standard pro bezpečnou a odpovědnou umělou inteligenci. Občané tak budou chráněni a budou mít jistotu, že umělá inteligence pracuje v jejich prospěch, “ uvedl vicepremiér pro digitalizaci Ivan Bartoš.

AI Akt není regulací v tradičním slova smyslu, ale zaměřuje se na ochranu lidí před zneužitím umělé inteligence a vysoce rizikovými systémy AI. Čím větší riziko daný systém AI představuje, tím přísnější pravidla pro jeho použití musí být dodržena. Nebude možné, aby docházelo k biometrické kategorizaci občanů s cílem vyvodit jejich politické názory, rasu, náboženskou víru či sexuální orientaci.

Zamezí také případům, kdy by systémy umělé inteligence mohly být využívány pro tzv. social scoring, tedy sledování občanů kamerami ve veřejném prostoru na každém kroku a jejich hodnocení podle prohřešků. Nařízení bude nabíhat postupně a plně aplikovatelné bude až za 24 měsíců, tedy 2. srpna 2026. Výjimku tvoří již zmiňované zakázané praktiky, které budou vymahatelné již od 2. února 2025. Pravidla vztahující se na obecné modely AI a na systém správy, vymáhání a sankcí začnou být účinná od 2. srpna 2025.

Více o AI Aktu najdete na našem webu v sekci věnované tomuto nařízení: https://digitalnicesko.gov.cz/ai-akt/.