Tento článek se zaměřuje na přehled a rozbor právní odpovědnosti související s používáním a vývojem umělé inteligence v rámci právních předpisů Evropské unie a České republiky. Věnuje se třem hlavním oblastem – smluvní odpovědnosti mezi poskytovateli a uživateli AI systémů, odpovědnosti za škodu způsobenou těmito systémy a dále správní odpovědnosti podle evropských a českých digitálních regulací. Hlavní otázkou, kterou článek zkoumá, je, zda současný evropský a český právní rámec poskytuje dostatečnou právní jistotu v oblasti odpovědnosti při vývoji a využívání systémů umělé inteligence. Článek v této souvislosti zejména identifikuje, kde stávající úprava vykazuje nedostatky.

Otázky odpovědnosti patřily mezi první problémy, které byly v souvislosti s regulací umělé inteligence (dále „AI“)[1] identifikovány. Důvodem jsou specifické technické vlastnosti těchto systémů, zejména jejich schopnost autonomního rozhodování, z ní plynoucí určitá ztráta dohledu nad technologií, a tudíž i možná nepředvídatelnost v chování a jednání těchto systémů. Vývojáři si poměrně brzy uvědomili, že nebudou mít nad rozhodovacími procesy AI plnou kontrolu a nebudou schopni zaručit ani konzistentní chování těchto systémů. Proto právě otázka, kdo ponese nepříznivé následky v případě, že AI způsobí škodu, byla jedním z prvních témat, která se začala intenzivně řešit.

Odborná literatura v této souvislosti identifikovala tzv. „mezeru v odpovědnosti“ (angl. „responsibility gap“). Tento pojem označuje situaci, kdy tradiční princip odpovědnosti – podle něhož odpovědnost nese osoba mající nad určitou technologií kontrolu – nelze bez obtíží aplikovat na autonomní systémy. Autonomní chování umělé inteligence totiž může vést k výsledkům, které nelze přímo přičíst žádnému konkrétnímu lidskému jednání. Postupem času byl tento koncept rozvinut, přičemž byly identifikovány čtyři propojené problémy:[2] mezera v přičitatelnosti viny,[3] mezera v morální odpovědnosti,[4] mezera ve veřejné odpovědnosti[5] a mezera v aktivní odpovědnosti.[6] Tyto mezery mohou být způsobeny nejen technickými faktory, jako je autonomie nebo netransparentnost algoritmů, ale také faktory organizačními, právními, etickými či společenskými. Podstatou těchto mezer je, že ztěžují nebo znemožňují jednoznačně určit, kdo je za jednání umělé inteligence morálně či právně odpovědný, kdo má být schopen vysvětlit své rozhodnutí, kdo má nést odpovědnost před veřejností a kdo by měl negativním dopadům technologie aktivně předcházet.

Výhoda umělé inteligence spočívající ve schopnosti fungovat bez lidské kontroly se v kontextu právní odpovědnosti paradoxně ukazuje jako nevýhoda. Dostáváme se tak do komplikované situace. Přesto se nesmíme vzdát konceptu právní odpovědnosti jednotlivce a posuzování sporných situací individuálně. Zvláštní koncepty odpovědnosti, jako je např. zavedení tzv. elektronické osoby,[7] jež by řešilo komplikace s dokazováním a transparentností, v této souvislosti nelze zcela přijmout, aby nedošlo k narušení motivace osob jednat obecně zodpovědně.

Navzdory dlouhodobému povědomí o problematice odpovědnosti za jednání systémů umělé inteligence zůstává právní rámec v této oblasti roztříštěný a často nepřehledný. Jak evropská, tak česká právní úprava vycházejí z tradičních koncepcí odpovědnosti, které byly konstruovány v době, kdy technologie umožňovala poměrně snadné přiřazení odpovědnosti ke konkrétní osobě. Avšak v případě systémů umělé inteligence, a zejm. těch, které jsou schopny dynamického učení a autonomního rozhodování, narážíme na zásadní výkladové a aplikační obtíže. Tyto obtíže se projevují jak v oblasti smluvních vztahů, kde je často obtížné předvídat chování systému, a tím i jeho právní následky, tak v oblasti deliktní odpovědnosti, kde vzniká otázka, kdo má nést odpovědnost za škody způsobené systémem, jehož chování nebylo zcela určeno člověkem.

V tomto kontextu nabývá zvláštního významu princip právní jistoty, který představuje jeden ze základních pilířů demokratického právního státu. Právní jistota znamená, že adresáti právních norem musí mít možnost s dostatečnou mírou jistoty předvídat právní následky svého jednání a mohou se spolehnout na co možná nejkonzistentnější výklad právního řádu. Právní jistota tedy slouží ochraně důvěry lidí v právo a současně přispívá k celkové stabilitě a efektivitě právního systému. Jednoduše řečeno, právní jistota znamená, že právní předpisy mají být jasné, srozumitelné a formulované tak, aby nevzbuzovaly zbytečné pochybnosti o svém významu. Člověk má mít možnost pochopit, co od něj právní řád požaduje a jaká práva a povinnosti mu přiznává. Dále to znamená, že právo by nemělo být měněno zpětně (retroaktivně), ledaže jde o výjimky, které jsou ústavně přípustné a odůvodněné důležitými veřejnými zájmy. Právní jistotu rovněž posiluje konzistentní a předvídatelná aplikace práva ze strany soudů a správních orgánů.

Význam právní jistoty byl opakovaně potvrzen judikaturou Ústavního soudu, který např. ve svém nálezu sp. zn. I. ÚS 420/09 konstatoval, že „neopomenutelnou komponentou principu právní jistoty je předvídatelnost práva a legitimní předvídatelnost postupu orgánů veřejné moci v souladu s právem a zákonem stanovenými požadavky“.[8] Podobně i právo Evropské unie považuje právní jistotu za základní zásadu, kterou musí členské státy i unijní instituce respektovat, jak potvrzuje např. judikatura Soudního dvora Evropské unie.[9]

Celkově lze říci, že právní jistota je klíčovým prvkem fungování demokratického právního státu a zároveň jedním z kritérií kvality právní úpravy. Její nedostatek může vést k narušení důvěry občanů ve spravedlnost a legitimitu právního systému.

Při hodnocení, zda současná právní úprava v oblasti umělé inteligence dostatečně naplňuje požadavky právní jistoty, je třeba využít metod právního výkladu. Gramatický výklad zohledňuje jazykovou přesnost a jednoznačnost právního textu. Systematický výklad se zabývá souladem jednotlivých ustanovení s ostatními částmi právního řádu. Historický výklad čerpá z okolností a záměrů, jež vedly k přijetí příslušné právní normy. Teleologický výklad pak zkoumá, jaký účel měla právní úprava sledovat. Zejm. posledně jmenovaný přístup je důležitý při analýze nových právních předpisů, jako je např. evropské nařízení Akt o umělé inteligenci (angl. AI Act, dále jen „AIA“).[10]

Aktuální vývoj evropského práva v této oblasti představuje krok směrem k větší právní jistotě, nicméně ponechává řadu otázek otevřených – především ohledně přičitatelnosti odpovědnosti, rozsahu záruk a vztahu nové regulace k existujícím právním institutům.

Cílem tohoto článku je analyzovat, do jaké míry stávající právní rámec – jak na úrovni EU, tak v rámci českého práva – poskytuje dostatečnou právní jistotu pro subjekty, které se podílejí na vývoji a provozu systémů umělé inteligence. Analýza se zaměří na soukromé právo (prevenční povinnost, smluvní právo, deliktní odpovědnost) a na veřejnoprávní regulaci, přičemž cílem bude identifikovat, kde stávající úprava vykazuje nedostatky.

Obecné otázky odpovědnosti v oblasti vývoje a využívání AI

Při zkoumání vztahu mezi AI a odpovědností je nejprve nezbytné zaměřit se na samotný pojem odpovědnost. Tento termín totiž velmi často používáme, aniž bychom si plně uvědomovali jeho složitost a vícevrstevnatost.

Odpovědnost můžeme chápat jako soubor pravidel, která určují, kdo ponese negativní následek v případě, že dojde ke způsobení škody. Tato pravidla mohou mít buď povahu hmotněprávní, tedy stanovují, kdo konkrétně odpovědnost nese, nebo povahu procesní, kdy určují postup, jakým se určí odpovědná osoba. Současně je odpovědnost nástrojem sloužícím k regulaci lidského chování. Cílem vytváření odpovědnostních pravidel je udržení pořádku a míru ve společnosti. V této souvislosti plní odpovědnost dvě základní funkce – preventivní a nápravnou.

Preventivní funkce spočívá v tom, že pravidla odpovědnosti a s nimi spojené sankce slouží k ochraně společnosti před vznikem škod tím, že motivují jednotlivce, aby se škodlivému jednání vyhýbali. Nápravná funkce se pak uplatňuje v situacích, kdy ke škodě již došlo – v takovém případě odpovědnostní pravidla určují, kdo škodu napraví (tj. uvede věci do původního stavu), příp. nahradí (poskytne přiměřenou finanční kompenzaci).

Při určování, kdo ponese nepříznivé následky škody způsobené systémem umělé inteligence, můžeme vycházet ze dvou základních principů. Prvním z nich je princip tzv. subjektivní odpovědnosti. Tento přístup spočívá v tom, že odpovědná je ta osoba, která zavinila vznik škody. Pro vznik subjektivní odpovědnosti je tedy třeba prokázat nejen samotnou škodu, ale také zavinění a příčinnou souvislost mezi jednáním a vznikem škody. Vzhledem k netransparentnosti fungování systémů umělé inteligence však může být prokazování příčinné souvislosti velmi obtížné. Právě z tohoto důvodu EU připravila návrh směrnice o odpovědnosti za umělou inteligenci, která měla za cíl tyto problémy právně řešit novými pravidly pro změnu důkazního břemene.[11]

Druhým principem je pak tzv. objektivní odpovědnost, která nevyžaduje prokázání zavinění. Tento princip se uplatňuje zejm. tehdy, není-li možné snadno prokázat příčinnou souvislost, avšak ze samotné povahy věci je zřejmé, že osoba využívající určitou technologii – v tomto případě systém umělé inteligence – zvyšuje riziko vzniku škody pro ostatní, a zároveň z jejího využití čerpá určitý prospěch. V těchto případech je vhodné stanovit právní standardy pro bezpečný vývoj a využívání systémů umělé inteligence. Právě taková pravidla by měla zajistit, že tyto systémy budou nejen maximálně bezpečné a transparentní, ale také že budou vzbuzovat důvěru svých uživatelů. Takové standardy nastavila EU.

Návrhům směrnice o odpovědnosti za umělou inteligenci a AIA předcházela několikaletá analytická a legislativní příprava. V souvislosti s řešením odpovědnosti se nejprve objevilo usnesení Evropského parlamentu o občanskoprávních pravidlech pro robotiku, které upozorňovalo na odpovědnostní otázky spojené s autonomními systémy.[12] Následně vydala Evropská komise pracovní dokument o odpovědnosti za nově vznikající technologie[13] a pak zřídila odbornou skupinu pro odpovědnost a nové technologie. Její zpráva s názvem „Liability for AI and other emerging technologies“[14] se věnovala otázce odpovědnosti za škody způsobené umělou inteligencí a dalšími vznikajícími digitálními technologiemi. Hlavním cílem bylo posoudit, zda stávající právní rámce odpovědnosti v členských státech EU adekvátně reagují na specifika těchto technologií, a navrhnout případné úpravy.

Za hlavní problém považovala zpráva nesoulad mezi tradičními režimy odpovědnosti (zejm. odpovědností za zavinění) a novými charakteristikami digitálních technologií, jako je jejich komplexnost, autonomnost, obtížná předvídatelnost, schopnost učení, závislost na datech či zranitelnost vůči kybernetickým hrozbám. Tyto vlastnosti komplikují určení příčinné souvislosti, zavinění i přisouzení odpovědnosti, což může vést k tomu, že poškozeným nebude přiznáno odškodnění, ačkoliv by to bylo spravedlivé.

Zpráva formulovala několik klíčových principů pro budoucí regulaci. Předně navrhla zavedení přísné (objektivní) odpovědnosti pro ty, kdo provozují technologie se zvýšeným rizikem pro třetí osoby, např. autonomní systémy na veřejných prostranstvích. Dále zdůraznila nutnost rozlišit mezi různými typy provozovatelů technologií (např. „frontend“ a „backend“ provozovatelé) podle míry jejich kontroly a prospěchu z provozu dané technologie. Požadovala také, aby osoby využívající technologie s určitou mírou autonomie nesly obdobnou odpovědnost, jako ji nesou např. za své zaměstnance (tzv. princip funkční ekvivalence). Rovněž navrhla zavedení povinnosti vybavit technologie funkcemi pro zaznamenávání provozu („logging by design“) a stanovila, že nepředložení těchto záznamů může vést k obrácení důkazního břemene. Rovněž kladla důraz na spravedlivou alokaci odpovědnosti podle principu, že odpovědnost by měla nést osoba, která těžila z nasazení nebo využívání AI systému prospěch a měla nad ním určitou míru kontroly.

Ve vztahu k právní jistotě zpráva upozornila, že stávající právní rámce mohou vést k nejednotným, nepředvídatelným a nespravedlivým výsledkům, a tím ohrožovat důvěru v právo. Zdůraznila, že existuje nepoměr mezi oběťmi škod způsobených novými technologiemi a tradičními situacemi – v mnoha případech jsou oběti digitálních technologií méně chráněny. Právní jistotu podle zprávy podrývá rovněž to, že některé prvky odpovědnosti (zejm. příčinná souvislost a zavinění) jsou v digitálním kontextu obtížně dokazatelné, a proto navrhla i možnost přenesení důkazního břemene. Obecně lze shrnout, že zpráva vyzvala k reformě odpovědnostních pravidel tak, aby odrážela faktickou technologickou realitu a zachovala principy spravedlnosti, efektivity a právní jistoty.

Přestože se tato zpráva zaměřovala především na otázky odpovědnosti za škodu, v ní formulovaná pravidla mohou být v určitých případech analogicky aplikována i na další vybrané případy související s odpovědností za AI. Následující body podají přehled odpovědnostních otázek, kterých je s ohledem právě na vícevrstevnatost konceptu právní odpovědnosti celá řada.

AI a odpovědnost v soukromém právu

AI a prevenční povinnost

 Prevenční povinnost představuje obecný základ deliktní odpovědnosti v českém právu. Je zakotvena primárně v § 2900 a násl. o. z.[15] Její význam v kontextu vývoje a využívání AI je podstatný a uplatňování této povinnosti s sebou nese určitá specifika, protože tato ustanovení mohou výrazně ovlivnit odpovědnostní vztahy mezi uživateli, poskytovateli a provozovateli AI systémů. Této problematice se již věnovala i řada dalších českých publikací.[16] Nicméně aplikace ustanovení o prevenční povinnosti stále vyvolává řadu aplikačních otázek.

Ust. § 2900 o. z. stanoví obecnou povinnost každého jednat tak, aby nedošlo k nedůvodné újmě na základních hodnotách, jako je svoboda, život, zdraví a vlastnictví. V případě AI by to mohlo znamenat např. povinnost vývojáře navrhnout systém tak, aby jeho provoz nezpůsobil újmu, kterou lze s přihlédnutím k okolnostem předpokládat. To by zahrnovalo např. zajištění dostatečného testování systému, implementaci bezpečnostních prvků nebo zajištění lidského dohledu nad rozhodováním AI v citlivých oblastech (např. zdravotnictví, doprava). Problematické je zde určení, co konkrétně jsou „okolnosti případu“ a jaké jsou „zvyklosti soukromého života“ ve vztahu k využívání AI, jelikož jde o dynamicky se vyvíjející oblast s nízkou mírou standardizace. Odpověď v tomto kontextu ale již poskytuje Akt o umělé inteligenci (AIA), který lze při interpretaci tohoto ustanovení použít. Dá se říci, že okolnosti případu mohou být vykládány právě ve světle toho, co AIA považuje za zakázané praktiky, za vysoce rizikové systémy, nebo za zvláštní AI systémy, u nichž je vyžadována zvláštní povinnost transparentnosti.

Dalším ustanovením, které je pro prevenční povinnost relevantní, je tzv. zakročovací povinnost. Podle § 2901 o. z. má ten, kdo vytvořil nebezpečnou situaci nebo nad ní má kontrolu, povinnost zakročit na ochranu jiného. Pokud tedy např. poskytovatel AI ví o chybě v systému, která může vést k chybnému rozhodnutí s rizikem újmy, a přesto nezajistí nápravu nebo neinformuje uživatele, může být činěn odpovědným za následky. Nicméně v této souvislosti vyvstává otázka rozsahu a definice „kontroly“ nad AI, zejm. pokud se jedná o systémy schopné samostatného učení, kde výstupy nemusí být předem známé ani jejich tvůrcům. I zde bude s velkou pravděpodobností nápomocný AIA, který tím, že stanoví nejlepší praxi co do zajištění možné míry kontroly, de facto určuje i kritéria, jak kontrolu v těchto situacích posuzovat.

Další povinnost, tzv. oznamovací povinnost zakotvená v § 2902 o. z., která s předcházením škod souvisí, může být relevantní např. tehdy, zjistí-li vývojář či provozovatel AI závadu, která by mohla uživateli způsobit újmu. Povinnost včasného oznámení pak může být důležitým faktorem pro vyloučení odpovědnosti za újmu, která mohla být odvrácena. Právní nejistota zde může spočívat v určení, kdy lze rozumně očekávat, že daný subjekt „má a může vědět“ o porušení právní povinnosti, což v technologickém prostředí s vysokou mírou složitosti nemusí být jednoznačné. Zde lze tedy bez další specifikace očekávat případné soudní spory.

Povinnost osoby, které újma hrozí, jednat přiměřeně k jejímu odvrácení, je zakotvena v § 2903 o. z. V prostředí AI to může znamenat např. povinnost uživatele pravidelně aktualizovat software nebo neprovozovat systém, pokud vykazuje zjevné chyby. Pokud tak neučiní, může nést odpovědnost za následky. Komplikace může opět nastat při posuzování, co je „přiměřené“ a co už představuje nepřiměřený zásah s ohledem na technickou složitost a informační asymetrii mezi vývojářem a uživatelem. V praxi bude takové situace těžké standardizovat a pravděpodobně bude nutné, aby byly posuzovány případ od případu.

Zvláštní situací je pak ještě způsobení újmy náhodou, kdy § 2904 o. z. stanoví, že odpovědnost nese ten, kdo k takové náhodě dal podnět. Z hlediska AI by šlo např. o případ, kdy poskytovatel systému opomene implementovat záložní mechanismus nebo bezpečnostní prvek, čímž přispěje k tomu, že jinak nepředvídatelná událost způsobí újmu. Otázkou opět zůstává, co bude v technologickém kontextu považováno za „náhodu“ a co za předvídatelnou událost. Z hlediska ochrany právní jistoty a předvídatelnosti by mělo být zváženo, zda toto ustanovení pro oblast AI nevyloučit. Jeho aplikace by totiž mohla vést k dlouhým a nákladným právním sporům a také ke zvýšení nákladů na dosažení souladu s právem, protože míra nepředvídatelnosti by byla v těchto případech až příliš vysoká.

V souvislosti s prevenční povinností v soukromém právu stojí za to zmínit ještě jeden zvláštní případ, a to je prevenční povinnost v pracovním právu. Zákoník práce[17] totiž v § 249 upravuje zvláštní prevenční povinnost zaměstnance. Ta je v současné době nesmírně relevantní právě kvůli rostoucí míře využívání generativní AI a také trendu tzv. „shadow AI“, tedy využívání AI systémů zaměstnancem bez vědomí zaměstnavatele.

Zaměstnanec je podle § 249 odst. 1 zák. práce povinen jednat tak, aby předcházel škodám na zdraví, majetku nebo bezdůvodnému obohacení. V oblasti AI to může konkrétně znamenat, že zaměstnanec nesmí vědomě používat AI systém způsobem, který by mohl vést k poškození zařízení, úniku dat nebo narušení právních povinností zaměstnavatele, např. v oblasti ochrany osobních údajů. Pokud zaměstnanec zjistí, že AI systém vykazuje chyby, je jeho povinností upozornit na tuto skutečnost nadřízeného. Selhání v této povinnosti může pokládat základ pro následné uplatnění odpovědnosti zaměstnance za škodu, zejm. v případech, kdy škodě bylo možné předejít včasným zásahem. Druhý odstavec § 249 konkretizuje situace, kdy hrozí bezprostřední škoda zaměstnavateli. Pokud např. dojde k selhání AI systému, které může vést k poškození výrobního zařízení nebo ztrátě dat, je zaměstnanec povinen zakročit – např. vypnutím systému, odpojením od sítě nebo jiným přiměřeným technickým opatřením –, pokud takový zásah neohrožuje jeho vlastní bezpečnost nebo bezpečnost dalších osob. Problematický ale může být výklad pojmu „neodkladnost zákroku“, zejm. u AI systémů, jejichž dopady se mohou projevovat skrytě nebo postupně. Rovněž může být sporné, jaký typ zásahu může být od zaměstnance v konkrétní situaci rozumně očekáván a zda má k takovému zásahu dostatečné technické znalosti a oprávnění.

Poslední odstavec ukládá zaměstnanci povinnost oznámit, pokud nemá vytvořeny potřebné pracovní podmínky. V kontextu AI může jít např. o situace, kdy zaměstnanec nebyl proškolen a pracuje s AI systémem, u kterého není seznámen s jeho omezeními, nebo nemá k dispozici instrukce potřebné k jeho bezpečnému používání. Upozornění na takové nedostatky je důležitou součástí preventivní ochrany jak zaměstnance, tak i zaměstnavatele, a zároveň může mít význam pro posouzení případné odpovědnosti za škodu způsobenou nesprávným použitím AI. V této souvislosti je vhodné upozornit na novou povinnost zaměstnavatelů proškolovat dle čl. 4 AIA své zaměstnance v oblasti tzv. AI gramotnosti, která platí od 2. 2. 2025. V současné chvíli je její právní vynutitelnost nízká, protože AIA nestanoví sankce za nedodržení této povinnosti. Tyto sankce by mělo stanovit až národní právo.

Celkově lze konstatovat, že prevenční povinnost zaměstnance podle § 249 zák. práce hraje klíčovou roli v bezpečném a odpovědném zapojení AI do pracovních procesů. Přestože je právní norma formulována obecně, její aplikace na oblast AI vyžaduje zvýšenou pozornost zaměstnavatelů při nastavování interních pravidel, školení zaměstnanců a vymezení jejich kompetencí. Nejasnosti mohou vznikat především při určování hranice mezi běžným užíváním AI a odbornou správou systému, a tím i mezi běžnou pracovní odpovědností a odpovědností za škodu.

AI a smluvní odpovědnost

Smluvní odpovědnost je chápána jako odpovědnost za porušení smlouvy. V kontextu vývoje a užívání AI systémů půjde zejm. o právní vztahy mezi vývojářem (poskytovatelem) a zadavatelem. Ty se typicky řídí buď smlouvou o dílo (§ 2586 a násl. o. z.), nebo licenční smlouvou (§ 2358 a násl. o. z.). Součástí smluvního rámce mohou být i specifická ujednání o kvalitě poskytované služby ve formě tzv. „service level agreement“ (SLA).

Smlouva o dílo je v tomto kontextu zpravidla využívána pro vývoj na míru přizpůsobeného softwarového řešení zahrnujícího prvky AI. Problematické zde může být především určení předmětu díla a stanovení toho, zda následně výsledek odpovídá smluvnímu ujednání. Vzhledem k tomu, že AI systémy často vykazují vysokou míru autonomie a nepředvídatelnosti, mohou vzniknout spory, zda je dílo způsobilé sloužit svému účelu. Při předání AI systému lze doporučit provést u něj zkoušky ve smyslu § 2607 o. z. Nicméně problematická může být následně odpovědnost ve chvíli, pokud např. samoučící se algoritmus začne produkovat nežádoucí nebo škodlivé výsledky až po delším čase a v jiném provozním kontextu, než v jakém byl testován. Pro tyto případy je vhodné začlenit do smlouvy konkretizující právní ustanovení, jak se takové případy budou řešit, příp. včlenit doložku o vzdání se odpovědnosti za takovéto budoucí vady. Zde právě může pomoci již zmíněný „service level agreement“, který slouží k definici úrovně poskytovaných služeb, jako je dostupnost systému, reakční doby podpory nebo kvalita výstupů. Vzhledem k tomu, že občanský zákoník neobsahuje žádnou specifickou úpravu SLA ani smluvního standardu pro technologické služby využívající pokročilé algoritmy, vzniká zde prostor pro odlišný výklad jednotlivých smluvních ustanovení a zvýšené riziko sporů. Jako vhodné se jeví zpracovat minimálně vzory takových smluv s jasným výkladovým stanoviskem a příkladem nejlepší praxe.

V případě licenčních smluv, které upravují podmínky užívání vytvořeného systému umělé inteligence, se mohou objevit komplikace především v otázce rozsahu licence a odpovědnosti za vady právní či faktické. Uživatel nemusí mít jasné informace o omezeních systému, jeho schopnostech a hranicích odpovědnosti poskytovatele za případné selhání. To může být zvláště problematické u open-source komponent nebo modelů třetích stran, kde poskytovatel sám nemá plnou kontrolu nad chováním systému.

Další významnou otázkou je jak u smluv o dílo, SLA, tak i u licen­čních smluv absence obecně přijímaného vzoru pro spravedlivé rozložení odpovědnosti mezi stranami. V praxi tak často dochází k jednostrannému nastavení smluv ve prospěch poskytovatele, který se snaží vyloučit nebo výrazně omezit svou odpovědnost, zatímco uživatel zůstává bez dostatečných záruk. S tím mimochodem souvisí i další praktický problém, a tím je problematika uzavírání smluv při vytváření avatara člověka pomocí AI. Absence jasně definovaných pravidel ochrany osobnosti v situacích, kdy dochází k tzv. digitalizaci jednotlivce, tedy k vytvoření jeho digitální kopie využitelné např. ve formě hlasu, vzhledu či chování v digitálním prostředí, totiž představuje zásadní právní problém. Tento proces bývá často smluvně upraven mezi fyzickou osobou a komerčním subjektem, přičemž se typicky jedná o smlouvy poskytující licenci k využití podoby, hlasu nebo jiných osobnostních atributů. Tyto smlouvy se mohou výrazně lišit v rozsahu udělených oprávnění, včetně toho, zda a jak může být digitální kopie dále upravována či využívána v jiných kontextech, než byl původní záměr.

Z právního hlediska je problémem zejména to, že v současném právním řádu neexistuje zvláštní úprava, která by výslovně chránila jednotlivce před zneužitím jeho digitalizované podoby v případech, kdy sám nemá dostatečné vyjednávací postavení k vynucení specifických smluvních ustanovení. To se může týkat např. zákazu použití digitální kopie pro šíření sdělení, která jsou v rozporu s morálními nebo etickými hodnotami daného jednotlivce. Ačkoliv § 81 a násl. o. z. poskytuje obecnou ochranu osobnosti, včetně práva na podobu a projevy osobní povahy, tato ustanovení nejsou dostatečně přizpůsobena technologickému kontextu, v němž může být digitální kopie generována, upravována a distribuována bez přímé součinnosti dotčené osoby. Tím vzniká právní vakuum, které umožňuje komerčním subjektům rozšířit oprávnění udělená licenční smlouvou na způsoby využití, které by fyzická osoba při uzavření smlouvy ani nepředpokládala.

Tento nedostatek ochrany vede k situaci, kdy fyzická osoba může ztratit kontrolu nad tím, jak je její digitální obraz prezentován veřejnosti, příp. být konfrontována s jeho využitím v kontextech, které jsou z jejího pohledu nepřijatelné. Výsledkem může být vážné narušení lidské důstojnosti, reputace a osobní integrity, aniž by bylo snadné se proti tomu bránit prostřednictvím stávajících právních nástrojů.

Do budoucna by bylo žádoucí legislativní doplnění pravidel o ochranu osobnosti v digitálním prostoru, včetně povinnosti zachovat základní respekt k lidské důstojnosti i při využití digitálních kopií osob, a zavedení výslovného práva fyzické osoby na odvolání souhlasu s určitými způsoby využití své digitální podoby bez nutnosti čelit postihu (současné znění § 87 odst. 2 o. z. by totiž mohlo být pro tyto účely zneužito).

AI a odpovědnost za škodu 

Deliktní odpovědnost, tedy odpovědnost za škodu způsobenou porušením právní povinnosti mimo smluvní vztah, je v českém právu upravena v § 2894 a násl. o. z. Ve vztahu k vývoji a využívání AI systémů se však tato tradiční úprava potýká s výraznými obtížemi. Na toto téma byla zpracována již celá řada právních analýz,[18] které dospěly právě k tomu, že stávající právní úprava může při své aplikaci vést ke komplikacím při určení odpovědného subjektu, příčinné souvislosti[19] a protiprávnosti jednání. Za velký problém je považována rovněž oblast dokazování a díky komplexitě systémů a jejich obtížné vysvětlitelnosti i z toho plynoucí faktická nemožnost poškozené osoby domoci se svých práv. Zvláštním případem je pak i např. porušení autorských práv prostřednictvím AI.[20]

Řešením této situace měla být již výše zmiňovaná evropská směrnice o odpovědnosti za umělou inteligenci. Její návrh zveřejnila Evropská komise dne 28. 9. 2022. Směrnice si kladla za cíl zavést harmonizovaná pravidla pro usnadnění občanskoprávního uplatňování nároků na náhradu škody způsobené AI systémy. Měla doplňovat stávající rámec odpovědnosti tím, že zavede určité procesní výhody pro poškozené, zejm. v podobě usnadnění důkazní situace. Konkrétně měla být zavedena vyvratitelná domněnka příčinné souvislosti mezi porušením právní povinnosti a škodou způsobenou vysoce rizikovým AI systémem. Dále návrh umožňoval poškozeným požadovat přístup k důkazům, které jsou pod kontrolou provozovatele daného systému. Návrh směrnice však nebyl odbornou veřejností přijat bez výhrad a byl považován spíše za nedotažený.[21] Tato směrnice nebyla přijata a nová Komise ani její přijetí do budoucna neplánuje. Důvodem je mj. i fakt, že byla nově přijata směrnice o odpovědnosti za vadné výrobky,[22] která ve své legislativní podobě reaguje na potřebu modernizace pravidel odpovědnosti za škodu v digitálním a technologickém prostředí. Rozšiřuje totiž koncept vadnosti výrobku a umožňuje zohlednit i softwarové chyby nebo selhání systémů AI. Zároveň zavádí opatření ke zmírnění důkazní zátěže poškozeného, což je v případech škody způsobené komplexním AI systémem zásadní.

V následujícím textu se zaměříme právě na klíčové aspekty této směrnice s ohledem na její dopad na odpovědnostní otázky ve vztahu k AI systémům. Jak již bylo zmíněno, nová směrnice významně rozšiřuje oblast působnosti pravidel o odpovědnosti. Jedním z klíčových aspektů je rozšíření definice výrobku. Za výrobek se podle nové právní úpravy považuje i software, včetně samostatného softwaru a softwaru integrovaného do jiných zařízení. To znamená, že vývojáři a výrobci softwaru, včetně tvůrců AI systémů, mohou nést odpovědnost za škodu způsobenou vadami těchto digitálních produktů. Směrnice také upravuje odpovědnost za aktualizace a změny softwaru. Pokud výrobce nebo jiný subjekt poskytne aktualizaci softwaru, která způsobí vadu, nese za takto vzniklou škodu odpovědnost. Stejně tak osoba, která provede tzv. podstatnou úpravu výrobku – což se může týkat i změny algoritmu nebo jeho trénovacích dat –, se považuje za výrobce a přejímá s tím spojenou odpovědnost. V kontextu AI je to mimořádně významné, protože tyto systémy bývají často přizpůsobovány specifickým účelům či prostředí, a každý takový zásah může mít dopad na jejich chování.

V oblasti důkazního břemene směrnice usiluje o zmírnění nerovnovážného postavení mezi poškozeným a výrobcem. Poškozený má možnost žádat zpřístupnění důkazů od výrobce, pokud to je nezbytné pro prokázání vady výrobku, existence újmy a příčinné souvislosti mezi těmito skutečnostmi. Zvláště v případech, kdy jde o komplexní AI systémy, je pro uživatele často velmi obtížné zjistit, jak a proč k vadnému chování došlo. Toto ustanovení tedy zvyšuje šance na efektivní vymáhání náhrady škody i v technicky náročných případech.

Z výše uvedeného vyplývá, že směrnice přináší právní rámec, který odpovídá technologickému vývoji, a zároveň poskytuje poškozeným širší ochranu. Významným způsobem posiluje odpovědnost subjektů, které vyvíjejí, distribuují nebo upravují AI systémy, a tím do budoucna přispěje k větší právní jistotě a důvěře ve využívání těchto technologií. Samozřejmě i s touto směrnicí se budou v určitých případech pojit zvláštní výkladové problémy. To je však s prudkým vývojem AI nevyhnutelné. Problematické tak může být zejm. posuzování toho, co je skutečně vada, protože vždy bude docházet k individuálnímu posuzování. Je zde zachován princip oprávněného očekávání člověka co do bezpečnosti výrobku.

Pro české právo znamená přijetí této směrnice nutnost upravit zejména příslušná ustanovení o. z., a to zejm. v částech zaměřených na odpovědnost za škodu způsobenou vadou výrobku. Rovněž to ale bude znamenat i zásah do veřejného práva, kdy bude třeba upravit procesní ustanovení týkající se důkazních prostředků a důkazního břemene. Lze předpokládat, že zde bude existovat i navázání na AIA a jeho ustanovení týkající se požadavků na vysoce rizikové systémy.

AI a odpovědnost ve veřejném právu 

Do oblasti veřejného práva se do budoucna významně promítne právě zmíněná regulace odpovědnosti za vadu výrobků. Ta totiž stanoví, že v určitých případech dojde k obrácení důkazního břemene. V důsledku toho bude nezbytné přizpůsobit procesní předpisy.

Do veřejného práva spadá rovněž AIA, jehož cílem je právě zajistit bezpečnost a transparentnost AI systémů. Neupravuje sice soukromoprávní otázky odpovědnosti, ale ukládá provozovatelům AI systémů specifické povinnosti, jejichž porušení může být podkladem pro odpovědnost za škodu, a to např. v důsledku porušení povinnosti transparentnosti nebo neplnění požadavků na bezpečnost vysoce rizikových systémů. AIA stanoví celou řadu sankcí za porušení svých ustanovení, čímž de facto stanoví správní odpovědnost poskytovatelů a provozovatelů AI systémů.

Zvláštní pozornost je však třeba věnovat i samotné odpovědnosti státu. Podle čl. 99 AIA mají státy povinnost stanovit účinné, přiměřené a odrazující sankce za porušení tohoto nařízení. Z toho vyplývá primární odpovědnost státu za vytvoření vnitrostátního systému správních nebo jiných právních opatření, která zajistí vymahatelnost pravidel stanovených na evropské úrovni. Stát rovněž nese odpovědnost za fungování a nezávislost určených dozorových orgánů, které jsou pověřeny dohledem nad uplatňováním pravidel AIA. Pokud tyto orgány neplní své úkoly řádně, může se jednat o systémové selhání, za které odpovídá stát jako garant funkčního právního rámce. Čl. 100 AIA upravuje rovněž sankční mechanismus vůči unijním institucím, orgánům a agenturám. Přestože nedopadá přímo na členské státy, je i zde role členského státu nepřímo relevantní, neboť podíl členských států na správě a kontrole unijních struktur znamená i spoluodpovědnost za dodržování standardů v celém institucionálním rámci EU.

Konečně nelze opomenout ani situaci, kdy stát sám působí jako poskytovatel nebo uživatel systému umělé inteligence, např. ve veřejné správě, zdravotnictví či bezpečnostních složkách. V takovém případě se na něj jako na jakýkoliv jiný subjekt vztahují pravidla nařízení, včetně zákazů uvedených v čl. 5 AIA. Případné porušení těchto pravidel by mohlo vést k právní odpovědnosti státu nejen na unijní, ale i na vnitrostátní úrovni, a to jak z hlediska správního trestání, tak i z hlediska náhrady škody způsobené porušením práva EU.

Celkově tedy stát nese odpovědnost jednak jako tvůrce a garant vnitrostátního regulačního rámce, jednak jako subjekt, který může být sám nositelem práv a povinností podle nařízení. Tato odpovědnost je klíčová pro důvěru občanů a podnikatelských subjektů v právní jistotu a legitimitu regulace v oblasti AI.

Závěr

Z provedené analýzy vyplývá, že stávající právní rámec na úrovni Evropské unie i České republiky poskytuje v oblasti odpovědnosti při vývoji a využívání systémů umělé inteligence jen částečnou míru právní jistoty. Přestože nové evropské legislativní akty (AIA a směrnice o odpovědnosti za vadné výrobky) představují důležité kroky směrem k posílení této jistoty, řada otázek zůstává nevyřešena. Nejedná se pouze o otázky systematického zařazení nových pravidel do stávající právní struktury, ale i o výkladové a aplikační nejistoty, které plynou z technologické komplexity a dynamického vývoje AI systémů.

Lze proto doporučit zejména vytvoření výkladových stanovisek a vzorů obsahujících nejlepší praxi. De lege ferenda lze navrhnout několik klíčových směrů. V oblasti soukromého práva je zapotřebí kodifikace specifických smluvních standardů pro poskytování a využívání AI systémů, včetně zvláštních pravidel pro ochranu fyzických osob před zneužitím jejich digitalizované podoby. V oblasti soukromého práva procesního bude nutné doplnit pravidla týkající se důkazního břemene a přístupu k důkazům. V pracovním právu by bylo vhodné vypracovat vzorové směrnice pro využívání AI na pracovišti a povinnosti zaměstnavatele v oblasti školení. Ve veřejném právu pak bude třeba harmonizovat vnitrostátní sankční a procesní režimy s požadavky AIA.

Nad rámec těchto doporučení je však zřejmé, že je nezbytné dále zkoumat jednotlivé aspekty odpovědnosti v kontextu konkrétních technologických řešení. Pouze tak bude možné postupně vytvářet právní prostředí, které bude nejen spravedlivé a efektivní, ale především srozumitelné a předvídatelné pro všechny dotčené subjekty.[23]

 

Mgr. Alžběta Solarczyk Krausová, Ph.D., LL.M., působí v Centru pro výzkum inovací a kyberpráva Ústavu státu a práva Akademie věd ČR.

Ilustrační foto: Pixabay.com

---

[1] Zkratka z angl. termínu „artificial intelligence“.

[2] Blíže viz F. Santoni De Sio, G. Mecacci: Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them, Philosophy & Technology č. 4/2021, str. 1057-1084.

[3] Culpability gap (mezera v přičitatelnosti viny) označuje situaci, kdy nelze žádné konkrétní osobě legitimně přičíst vinu za škodlivý výsledek způsobený systémem umělé inteligence, protože chybí úmysl, předvídatelnost nebo kontrola.

[4] Moral accountability gap (mezera v morální odpovědnosti) spočívá v oslabení schopnosti jednotlivců porozumět významu a dopadů svého vlastního jednání při interakci s AI systémy, protože nemohou těmto systémům sami rozumět.

[5] Public accountability gap (mezera ve veřejné odpovědnosti) vzniká tehdy, když veřejné orgány nejsou schopny transparentně vysvětlit či odůvodnit rozhodnutí učiněná s pomocí umělé inteligence vůči veřejnosti nebo dohlížejícím institucím.

[6] Active responsibility gap (mezera v aktivní odpovědnosti) označuje stav, kdy osoby zapojené do vývoje či provozu AI systémů nemají dostatečné povědomí o etice či svých společenských povinnostech, anebo nejsou dostatečně schopné či motivované k tomu, aby jednaly v souladu s těmito pravidly.

[7] A. Krausová: Status elektronické osoby v evropském právu v kontextu českého práva, Právní rozhledy č. 20/2017, str. 700; nebo J. Zibner: Akceptace právní osobnosti v případě umělé inteligence, Revue pro právo a technologie č. 17/2018, str. 19-49.

[8] Nález Ústavního soudu ze dne 3. 6. 2009, sp. zn. I. ÚS 420/09.

[9] Soudní dvůr Evropské unie (SD EU) opakovaně zdůraznil zásadu právní jistoty ve své judikatuře, přičemž tato zásada vyžaduje, aby právní normy byly jasné, přesné a předvídatelné. Viz např. rozsudek ve věci C-212 až 217/80 (Amministrazione delle finanze dello Stato proti Srl Meridionale Industria Salumi a dalším; Ditta Italo Orlandi & Figlio a Ditta Vincenzo Divella proti Amministrazione delle finanze dello Stato), nebo rozsudek ve věci C-504/19 (Banco de Portugal a další proti VR).

[10] Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (Text s významem pro EHP) [online], 2024 [cit. 15. 8. 2024], dostupné z: http://data.europa.eu/eli/reg/2024/1689/oj/ces.

[11] Návrh směrnice Evropského parlamentu a Rady o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci (směrnice o odpovědnosti za umělou inteligenci) [online], 2022 [cit. 8. 11. 2022], dostupné z: https://eur-lex.europa.eu/legal-content/CS/ALL/?uri=CELEX:52022PC0496.

[12] Evropský parlament: Občanskoprávní pravidla pro robotiku – čtvrtek, 16. února 2017, in Evropský parlament [online], 16. 2. 2017 [cit. 14. 7. 2022], dostupné z: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_CS.html.

[13] Commission Staff Working Document: Liability for emerging digital technologies Accompanying the document Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions Artificial intelligence for Europe [online], 2018 [cit. 22. 7. 2022], dostupné z: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52018SC0137.

[14] Directorate-General For Justice And Consumers (European Commission): Liability for artificial intelligence and other emerging digital technologies [online], Publications Office of the European Union, 2019 [cit. 3. 3. 2024], dostupné z: https://data.europa.eu/doi/10.2838/573689.

[15] Zákon č. 89/2012 Sb., občanský zákoník, ve znění pozdějších předpisů, dále „o. z.“.

[16] V kontextu odpovědnosti za autonomní vozidla např. E. Fialová, A. Krausová: Otázky uplatňování prevenční povinnosti při výrobě a provozu autonomních vozidel, Časopis pro právní vědu a praxi č. 4/2021, str. 759-777.

[17] Zákon č. 262/2006 Sb., zákoník práce, ve znění pozdějších předpisů, dále „zák. práce“.

[18] Viz např. E. Fialová: Odpovědnost za škodu způsobenou umělou inteligencí, Právní prostor [online], 30. 6. 2020 [cit. 2. 4. 2024], dostupné z: https://www.pravniprostor.cz/clanky/obcanske-pravo/odpovednost-za-skodu-zpusobenou-umelou-inteligenci; nebo P. Čech: Odpovědnost umělé inteligence 2020, diplomová práce, Masarykova univerzita v Brně.

[19] Viz např. V. Žolnerčíková: Prokazování příčinné souvislosti u škod způsobených propojenými autonomními vozidly, Revue pro právo a technologie č. 21/2020, str. 129-152.

[20] J. Zibner: Otázky odpovědnosti umělé inteligence za zásah do autorského práva, Revue pro právo a technologie č. 20/2019, str. 65-90.

[21] P. Hacker: The European AI liability directives – Critique of a half-hearted approach and lessons for the future, Computer Law & Security Review 2023, roč. 51, str. 105871.

[22] Směrnice Evropského parlamentu a Rady (EU) 2024/2853 ze dne 23. října 2024 o odpovědnosti za vadné výrobky a o zrušení směrnice Rady 85/374/EHS (Text s významem pro EHP) [online], 2024 [cit. 17. 12. 2024], dostupné z: http://data.europa.eu/eli/dir/2024/2853/oj/ces.

[23] Na výzkumu vedoucím ke vzniku tohoto příspěvku se podílel JUDr. Alex Ivančo, Ph.D., Příspěvek vznikl za podpory projektu Technologické agentury České republiky č. TL03000152 s názvem Umělá inteligence, média a právo (Artificial Intelligence, Media, and Law – AIM Law).