Od srpna platí v Česku i v celé Evropské unii první právní předpis regulující umělou inteligenci (AI), známý též jako AI Act. Zakazuje například biometrickou kategorizaci občanů a AI, která manipuluje s lidmi, zneužívá děti nebo klasifikuje lidi podle jejich sociálního chování. Nařízení zároveň zjednoduší vývoj, provoz a volný pohyb AI služeb a produktů na vnitřním trhu EU. Uvedl to kabinet místopředsedy vlády pro digitalizaci Ivana Bartoše v tiskové zprávě.

Záměrem nařízení je podle Ivana Bartoše vedle ochrany obyvatel také podpora inovací. AI Act předpokládá zřízení tzv. sandboxu, kontrolovaného prostředí, ve kterém bude možné otestovat systémy umělé inteligence v reálných podmínkách před jejich uvedením na trh. Společný sandbox bude moci zřídit i několik členských států EU. Podnikatelům tak opatření pomohou snížit počáteční náklady a zvýšit jejich konkurenceschopnost v mezinárodní konkurenci.

Součástí je také AI inovační balíček, jehož cílem je podpořit malé a střední podniky a start-upy ve vývoji umělé inteligence. Evropským start-upům umožní například využívat superpočítače pro trénování modelů odpovědné umělé inteligence.

„Česko se během svého předsednictví významně zasadilo o vznik AI Actu, který je naší odpovědí na výzvy rychlého technologického pokroku. Chceme zajistit etické a transparentní používání umělé inteligence, chránit základní práva občanů a umožnit našim podnikům stát se lídry v odvětví. Jsme první, kdo se této problematice komplexně věnuje a tímto krokem nastavujeme globální standard pro bezpečnou a odpovědnou umělou inteligenci. Občané tak budou chráněni a budou mít jistotu, že umělá inteligence pracuje v jejich prospěch,“ uvedl Ivan Bartoš.

AI Act se zaměřuje na ochranu lidí před zneužitím umělé inteligence a rizikovými systémy

AI Act není podle Ivana Bartoše regulací v tradičním slova smyslu, ale zaměřuje se na ochranu lidí před zneužitím umělé inteligence a vysoce rizikovými systémy AI. Čím větší riziko daný systém AI představuje, tím přísnější pravidla pro jeho použití musí být dodržena.

Podle poradenské firmy Deloitte by měly tuzemské firmy neprodleně začít s posuzováním stávajících a plánovaných AI systémů a při vývoji vlastních řešení sledovat, zda nejsou implementovány funkcionality, které mohou být v budoucnu zakázány AI nařízením. Musí také upravit dokumentaci k AI systémům tak, aby odpovídala požadavkům AI nařízení. Za nesoulad s nařízeními firmám hrozí pokuta až tři procenta z celosvětového obratu a za uplatňování zakázaných praktik až sedm procent.

Nařízení bude nabíhat postupně a plně aplikovatelné bude až za 24 měsíců, tedy 2. srpna 2026. Výjimku tvoří zakázané praktiky, které budou vymahatelné už od 2. února 2025. Pravidla vztahující se na obecné modely AI a na systém správy, vymáhání a sankcí začnou být účinná od 2. srpna 2025.

Česko se na AI snaží zaměřovat. Česká asociace umělé inteligence, která je největší AI organizací v ČR s více než 200 korporátními členy, vyhlásila letošní říjen měsícem umělé inteligence. V rámci mesic.ai chystá přes 100 akcí zdarma na podporu AI. Všechny akce se uskuteční v AI hubu na Rohanském nábřeží v Praze, který se otevře na jeden měsíc jako epicentrum AI v ČR. Na jednom místě se budou moci přední odborníci, firmy a uživatelé AI fyzicky potkávat a vyměňovat si zkušenosti.

Zdroj: ČTK
Foto: canva.com