Předsedkyně Evropské komise Ursula von der Leyenová přivítala první ucelená pravidla pro regulaci umělé inteligence (AI) na světě. Vyjednavači Evropského parlamentu a členských zemí Evropské unie dosáhli předběžné dohody na podobě unijních pravidel po 37hodinovém vyjednávacím maratonu. Ohledně konečné podoby dokumentu, který vstoupí v platnost nejdříve v roce 2025, poskytli zástupci unijních institucí ale jen málo informací, upozornil list The Guardian. V oblasti regulace AI se podle něj EU nicméně dostává před USA, Čínu a Británii.

„Umělá inteligence již mění náš každodenní život. A to je teprve začátek. Uvážlivé a široké využití umělé inteligence slibuje obrovský přínos pro naši ekonomiku a společnost,“ komentovala dohodu v tiskovém prohlášení předsedkyně EK von der Leyenová.

„Proto velmi vítám dnešní politickou dohodu Evropského parlamentu a Rady EU o Aktu o umělé inteligenci. Akt EU o umělé inteligenci je vůbec prvním uceleným právním rámcem pro umělou inteligenci na světě. Jedná se tedy o historický okamžik. Akt o umělé inteligenci přenáší evropské hodnoty do nové éry,“ dodala.

„Historický okamžik,“ napsal už v noci na síti X komisař pro vnitřní trh Thierry Breton. „EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání umělé inteligence,“ dodal. Podle Bretona dohodu vyjednávala stovka lidí v jedné místnosti téměř tři dny. Uzavření „historické“ dohody podle něj „za ten omezený počet hodin spánku stálo“.

Text podpořilo Německo a Francie, uvedla španělská státní tajemnice pro digitalizaci a umělou inteligenci Carme Artigasová.

Evropský parlament a členské státy EU jednaly zdlouhavě mimo jiné o AI řízených systémech dohledu, které by mohla využívat policie, zaměstnavatelé nebo maloobchodníci. Europarlament podle médií prosadil zákaz sledování v reálném čase a používání biometrických technologií včetně rozpoznávání emocí. Breton ale v tomto ohledu zmínil tři výjimky. Policie bude moci tyto technologie případně používat pouze v případě hrozby teroristického útoku, při pátrání po obětech trestné činnosti a při stíhání skutečně závažné trestné činnosti.

Základem dohody je odstupňovaný systém založený na riziku, v němž se nejvyšší úroveň regulace vztahuje na nástroje, které představují nejvyšší riziko pro zdraví, bezpečnost a lidská práva. Původní návrh legislativy předložený Evropskou komisí předpokládal, že do této kategorie budou patřit všechny systémy s více než 10 000 firemních uživatelů.

Kategorie nejvyššího rizika je nyní definována počtem počítačových operací potřebných k trénovaní stroje. Do této kategorie podle zdrojů zatím spadá ale pouze jeden model, kterým je Chat GPT4 společnosti OpenAI.

Regulace dále službám AI ukládá povinnost, aby zveřejňovaly údaje o způsobu trénování systému v širokém spektru činností od psaní novinových článků až po diagnostiku rakoviny.

„Měli jsme jediný cíl – vytvořit právní předpis, který by zajistil, že se ekosystém umělé inteligence v Evropě bude rozvíjet s ohledem na člověka, s respektem k základním právům, lidským hodnotám,“ řekl mimo jiné novinářům na tiskové konferenci Brando Benifei, jeden ze dvou zákonodárců EP, kteří vedou jednání o chystaných předpisech.

EU je odhodlána neopakovat chyby z minulosti, kdy bylo technologickým gigantům, jako je Facebook, umožněno vyrůst v multimiliardové korporace bez povinnosti regulovat obsah na svých platformách, včetně zasahování do voleb, sexuálního zneužívání dětí a nenávistných projevů, konstatoval už dříve Dragos Tudorache, druhý z vyjednavačů Evropského parlamentu.

Přísná a ucelená regulace ze strany EU by mohla „být silným příkladem pro mnoho vlád, které o regulaci uvažují“, uvedla odbornice na EU a digitální regulaci Anu Bradfordová, která se na Kolumbijské univerzitě zabývá právem. Ostatní země „možná nebudou kopírovat všechna ustanovení, ale pravděpodobně budou napodobovat mnoho jejích aspektů“, dodala.

Zdroj: ČTK
Ilustrační foto: canva.com