AI + blockchain = smlouva o spotřebitelském úvěru?

2. 3. 2021 Eva Dvořáková Žádné komentáře

S rozvojem informačních technologií se začíná rozšiřovat i prostor pro jejich využití. Tímto prostorem je i oblast bankovnictví a financí. Ať už jde o odhalování podvodů, oblast KYC (know your customer; proces, ve kterém dochází k identifikaci a ověření totožnosti klienta, což představuje součást opatření vedoucích k zabránění zneužití finančního systému k legalizaci výnosů z trestné činnosti a financování terorismu),[1] nebo o obchodování na trzích s cennými papíry. Jednou z oblastí, kde se informační technologie začínají využívat čím dál více, je oblast úvěrů.

V nedávné době vznikl projekt Amanda založený na využívání umělé inteligence (AI) a blockchainu, kterým, jak se uvádí na oficiálních stránkách projektu, bude pokryta nejen samotná žádost o úvěr, ale i schvalovací procesy, tyto služby budou kryty kryptoaktivy. Kryptoaktiva mohou být využita i jako záruka při žádosti o úvěr. Amanda má uživatele provést skrze celý proces a má zájemce upozornit na jakákoli potenciální rizika, kterých si musí být vědom.[2] Amanda má tedy posuzovat úvěruschopnost spotřebitele. To má být však jen začátek. Do budoucna lze uvažovat o tom, že taková aplikace provede nejen posouzení úvěruschopnosti, ale smlouvu o spotřebitelském úvěru se spotřebitelem také uzavře a např. díky smart kontraktu dojde k jejímu vykonání.

Cílem tohoto článku je zanalyzovat možnost takového postupu a zamyslet se nad tím, zda je v tomto směru česká právní úprava připravena na využívání umělé inteligence, blockchainu a smart kontraktů, nebo zda by za tímto účelem bylo nutné přijmout jisté legislativní změny.

Pojmy

Na úvod je nutné definovat, co se rozumí jednotlivými pojmy, resp. komponenty, které jsou k výše popsanému uzavření smlouvy o spotřebitelském úvěru nezbytné.

Blockchain

Blockchainem se pro účely tohoto článku rozumí decentralizovaná distribuovaná databáze, která slouží k uchovávání záznamů.[3] Je charakteristický pro své jedinečné vlastnosti – bezpečnost, nemožnost či obtížná změnitelnost jednou již zapsaných dat, rychlost vykonání transakcí, efektivita vynaložených nákladů a spotřebovaného času.

Byť se původně využíval pro obchodování s kryptoměnami, později se začalo jeho využití díky výše zmíněným vlastnostem rozšiřovat i na další oblasti – pojišťovnictví, vedení katastru nemovitostí, nebo právě bankovnictví a finance.

Smart kontrakt

Jde-li o smart kontrakt, nejpřiléhavější je definice, která definuje smart kontrakt jako zdrojový kód zaznamenaný na blockchainové platformě, která zajišťuje nezávislost a automatické provedení smart kontraktu na základě předem určených podmínek.[4] Vzhledem k tomu, že smart kontrakty se začaly ve velkém užívat především ve spojitosti s kryptoměnami, kdy účelem smart kontraktu bylo vykonat zadaný příkaz, začaly se objevovat otázky, zda nelze do takového programu zakomponovat i práva a povinnosti stran a učinit z něj smlouvu.[5]

Právě pojetí smart kontraktu coby smlouvy je klíčové pro účely tohoto článku. Pokud smart kontrakt naplní náležitosti smlouvy uvedené v zákoně č. 89/2012 Sb., občanský zákoník, ve znění pozdějších předpisů,[6] je možné hovořit o smlouvě (byť existují i názory, že o smlouvu jít nemůže, neboť smart kontrakt je pouhým programem smlouvu vykonávajícím).

Zjednodušeně řečeno, se tedy v tomto článku smart kontraktem rozumí smlouva, která sama vykoná svůj obsah zadaný formou příkazů – převede peníze, umožní přístup k zaheslovaným údajům, zamkne zámek apod.

Umělá inteligence

Jde-li o vymezení umělé inteligence, jednotná legální definice neexistuje. Důvodem je i to, že se liší nahlížení na AI – např. spadá pod AI pouze obecná AI, nebo i ta specializovaná?[7] Jde pouze o software, nebo i o hardware? Mnoho autorů si proto vypomáhá definicí, která je postačující pro účely jejich textu. Např. Zibnerovi pro řešení otázky přiznání právní osobnosti AI vystačuje vymezení AI jako softwaru produkujícího výtvory hodné autorskoprávní ochrany.[8] Tato definice však mimo kontext jeho článku stačit nebude – ne každá umělá inteligence musí nutně vytvářet výtvory hodné autorskoprávní ochrany.

Odvážným krokem je pak pojetí Mikeše, který uvádí, že „Umělou inteligenci by bylo možné do právního řádu definovat např. jako útvar odlišný od člověka nadaný schopností samostatně rozhodovat a jednat, potažmo jako umělý útvar nadaný právní osobností od svého vzniku do svého zániku, obdobně jako je tomu u právnické osoby.“[9]

Hojně citovanou definicí je pak ta v dokumentu s názvem Definice AI: Hlavní schopnosti a vědní obory. Dokument definuje AI jako systémy software (nebo i hardware) navržené lidmi, působící ve fyzické nebo digitální sféře vnímáním jejich prostředí prostřednictvím získávání dat, interpretací strukturovaných nebo nestrukturovaných dat, získáváním znalostí nebo zpracováváním informací získaných z těchto dat za účelem dosažení stanoveného cíle. Systémy umělé inteligence mohou používat jak symboly, tak numerické modely, a mohou také přizpůsobovat své chování díky analýze toho, jak je prostředí ovlivněno jejich předchozími činy.[10], [11]

Problém této definice však je, že je příliš široká. Směšuje jednak AI založenou na předem naprogramovaných algoritmech, která se dále není schopná učit či jednat nad rámec naprogramovaných algoritmů, a AI založenou na pravém opaku – tedy na tom, že se nechová podle předem zadaných příkazů, nýbrž jedná sama. To by přitom mohlo mít zásadní vliv i na řešení právních problémů, které s sebou využití AI nese.

Např. zjistí-li uživatel AI založené na jím naprogramovaných algoritmech, že obsahují chybu, jednoduše chybu opraví/nechá ji opravit, popř. změní kritéria, na základě kterých AI vykonává určitou činnost (některé AI mohou např. jednat diskriminačně, protože berou v potaz pohlaví – k tomu blíže dále – pak stačí vypnout přihlížení ke kritériu pohlaví). Naproti tomu uživatel AI, která není založená na předem naprogramovaných algoritmech, má v tomto omezené možnosti. V takovém případě není co opravit, protože nedošlo k žádnému původnímu zadání algoritmů, a i kdyby to možné bylo, bude zřejmě nezjistitelné, proč AI jedná chybově. AI se zde vymyká kontrole.

Pro účely tohoto článku se proto jeví nejvhodnější definice reflektující výše uvedené. Za takovou definici lze označit definici užívanou Evropskou organizací spotřebitelů. Ta dělí AI na tzv. automated decision making (funguje na základě nahraných algoritmů, neučí se tedy sama, nejedná sama)[12] (dále jen „ADM“) a na AI, která je schopna se sama učit, tzn. je schopna si sama vytvářet a měnit kritéria a jednat podobně jako inteligence lidská (dále jen „AI v užším slova smyslu“).[13]

Požadavky na využívání umělé inteligence vůči spotřebiteli

Zaměříme-li se na využívání umělé inteligence ve vztahu spotřebitel-podnikatel, specifické požadavky lze nalézt v dokumentu Evropské organizace spotřebitelů.[14] Důvodem výslovného zakotvení byla především potenciální nevědomost spotřebitelů o tom, jak umělá inteligence funguje, co od ní očekávat a jaká hrozí spotřebitelům rizika. Z toho důvodu dokument zdůrazňuje informační povinnost.

Problémem však je, že existence takové informační povinnosti je sporná.[15] Kolaříková a Horák uvádějí, že v českém prostředí lze zatím proto uvažovat o klamavém jednání ve vztahu ke spotřebiteli, pokud by umělá inteligence vyvolávala dojem, že jde o fyzickou osobu (srov. § 5 zák. č. 634/1992 Sb., o ochraně spotřebitele, ve znění pozdějších předpisů).[16] Toto řešení však nelze považovat za přiléhavé, neboť definice klamavého jednání je vázána na spotřebitelovo rozhodnutí ohledně koupě, které by jinak neučinil. Dále nelze považovat řešení za vhodné i proto, že byť by si spotřebitel uvědomoval, že při uzavírání smlouvy o spotřebitelském úvěru nejedná s fyzickou osobou, neznamená to ještě, že si uvědomuje i rizika plynoucí z jednání s AI. V této oblasti by proto mohla být zajímavou inspirací právní úprava v Kalifornii, kde je zakotvena zákonná povinnost oznamovat spotřebitelům, že komunikují s umělou inteligencí.[17]

Samostatnou problematiku v oblasti informační povinnosti pak tvoří např. informační povinnost správce, kterou zakotvuje GDPR nařízení.[18]

Dokument dále lpí na garanci práva na transparentnost, výhrady, právo na přičitatelnost a kontrolu, právo na nestrannost, právo na nediskriminaci,[19] právo na spolehlivost a bezpečnost, právo na přístup ke spravedlnosti a právo na věrohodnost a důkladnost.[20]

S naplněním výše uvedených požadavků nebude mít umělá inteligence (ať už ADM, či AI v užším slova smyslu) pracující v blockchainu ve většině případů problém. Resp. tyto požadavky nijak nevybočují z požadavků na „obyčejné“ jednání se spotřebitelem. Výjimku tvoří právo na nediskriminaci. Na to se diskuse zaměřila především v souvislosti s aférou týkající se Apple Card, kdy úvěrové limity nových kreditních karet měly být výrazně nižší pro ženy než pro muže bez ohledu na jejich úvěruschopnost.[21]

V případě, kdy by byl vůči spotřebiteli využíván ADM, bude právo na nediskriminaci mnohem jednodušší dodržet. Stačí změnit nastavení zadaných algoritmů. Naproti tomu byla-li by využita AI v užším slova smyslu, nejenže bude obtížné či doslova nemožné změnit diskriminační kritéria, která si AI sama vytvořila, aniž by byla AI vypnuta, ale bude i obtížně zjistitelné, že vůbec jde o diskriminaci. Pokud to zjistitelné bude, nabízí se otázka, kdo by měl být za diskriminační jednání v takovém případě odpovědný (k odpovědnosti za újmu blíže níže).

Požadavky na posouzení úvěruschopnosti

Podle § 3 odst. 1 písm. c) zák. č. 257/2016 Sb., o spotřebitelském úvěru, ve znění pozdějších předpisů (dále jen „SpotřÚ“), je posouzením úvěruschopnosti spotřebitele posouzení jeho schopnosti splácet spotřebitelský úvěr. Definice je však nic neříkající. Po nahlédnutí do odst. 55 preambule MCD (CCD pojem nevymezuje nijak) lze zjistit, že tato směrnice úvěruschopností rozumí schopnost spotřebitele a jeho vůli (či jistou připravenost) úvěr splatit.[22] Bezouška rozumí schopností úvěr splatit situaci, ve které může spotřebitel splnit svoje platební povinnosti, aniž by tím byl tlačen až na samu hranu své hospodářské existence.[23] Česká národní banka tím rozumí, že by nemělo dojít k nepřiměřenému strádání spotřebitele.[24]

Klíčový je v této souvislosti § 86 odst. 2 SpotřÚ, dle kterého probíhá posouzení úvěruschopnosti ve dvou rovinách, a to v rovině posuzování příjmů a výdajů a způsobu plnění dosavadních dluhů a v hodnotě majetku. Dále lze např. uvést obecné pokyny Evropského orgánu pro bankovnictví k posuzování úvěruschopnosti a dohledové benchmarky. Požadavky na posouzení úvěruschopnosti jsou víceméně totožné.[25]

Jde-li o požadavky na využívání ADM či AI v užším slova smyslu při takovém posuzování úvěruschopnosti, ty nikde zakotveny nejsou. Výjimku tvoří snad jen požadavek na dodržení informační povinnosti o užívání umělé inteligence při scoringu klienta, jak bylo uvedeno výše.[26] Má-li informační povinnost platit při užívání ADM při posuzování úvěruschopnosti klienta, tím spíše by se měla vztahovat i na posuzování úvěruschopnosti pomocí AI v užším slova smyslu.

Písemná forma smlouvy

Byla-li posouzena úvěruschopnost a spotřebitel byl shledán úvěruschopným, je možné uzavřít smlouvu o spotřebitelském úvěru. Ust. § 104 SpotřÚ pro ni vyžaduje písemnou formu, kdy porušením této povinnosti jsou důsledky plynoucí z § 110 odst. 1 SpotřÚ.[27] Písemná forma může být zachována i při právním jednání učiněném elektronicky nebo jinými technickými prostředky umožňujícími zachycení jeho obsahu a určení jednající osoby (§ 562 odst. 1 o. z.). Naplní smart kontrakt tyto podmínky?

Elektronické nebo jiné technické prostředky

Skutečnost, že k uzavírání smlouvy dochází za pomoci užití zdrojového kódu a jeho nahrání na blockchain, dává jasnou odpověď na otázku, zda bylo právní jednání učiněno elektronickými nebo jinými technickými prostředky – bylo.

Zachycení obsahu právního jednání

Bude-li zdrojový kód obsahovat ujednání mezi stranami, lze učinit závěr, že bude splněna i podmínka zachycení obsahu právního jednání.[28] Problém však může nastat v okamžiku, kdy bude třeba hodnotit, zda je takto zachycený obsah právního jednání srozumitelný. Přesněji řečeno, zda smluvní strany musí rozumět programovacímu jazyku, ve kterém byl zdrojový kód napsán.

Obecně platí, že projev vůle je absolutně nesrozumitelný, je-li nesrozumitelný každému, zatímco relativně nesrozumitelný je tehdy, je-li nesrozumitelný jen vůči některým osobám. Relativní nesrozumitelnost hraje roli u adresných právních jednání, zatímco u neadresných je nezbytné, aby byl projev vůle nesrozumitelný absolutně.[29]

Nejvyšší soud vyslovil názor, že pouhá skutečnost, že právní jednání bylo učiněno v cizím jazyce, nemá sama o sobě vliv na vyslovení neplatnosti takového právního jednání[30] (dnes podle § 553 odst. 1 o. z. zdánlivost). V předmětném rozsudku zároveň uvádí, že kritériem pro neplatnost právního jednání je nesrozumitelnost vůči druhé smluvní straně, vůči níž bylo právní jednání učiněno.[31]^, [32]

Na svůj názor následně Nejvyšší soud navazuje v dalších rozhodnutích, konkrétně v usnesení, v němž udává, že nejde o neplatné právní jednání za předpokladu, že z okolností, za nichž byla smlouva uzavřena, lze dovodit spolehlivý závěr, že druhá smluvní strana byla i přes neznalost jazyka seznámena s obsahem smlouvy, a tudíž je možné podepsání smlouvy z její strany vyhodnotit jako projev vůle smlouvu o daném obsahu uzavřít. Zároveň však upozorňuje, že „Samotná skutečnost, že předsmluvní jednání se zprostředkovatelem vedl jmenovaný v angličtině, na níž odvolací soud založil svou úvahu, však takové posouzení neumožňuje, nebylo-li zároveň zjištěno, že obsah smlouvy věrně odráží to, co bylo předjednáno v angličtině.“[33]

To, že obsah smart kontraktu je zapsán v programovacím jazyce, který strany neovládají, tedy ještě nutně neznamená, že právní jednání je zdánlivé. Aby takové právní jednání nebylo zdánlivé pro nesrozumitelnost, bude nutné, aby byl obsah zdrojového kódu vůči druhé smluvní straně srozumitelný. Mělo by být možné dovodit vůli stran smlouvu s takovým obsahem uzavřít. Obsah smlouvy ujednaný v předsmluvním stadiu by se pak ale měl promítnout do výsledné smlouvy o spotřebitelském úvěru (§ 1844 odst. 1 o. z.).

Určení jednající osoby

Identifikace smluvních stran smart kontraktu je založena na tzv. asymetrické kryptografii, tedy na metodě identifikace spočívající v použití veřejného a soukromého klíče. Oba dva klíče jsou tvořeny souborem čísel a písmen, jejichž shluk vytváří jedinečnou kombinaci, kterou nemůže disponovat nikdo jiný než jeden konkrétní držitel. Veřejný klíč slouží k identifikaci smluvní strany navenek (je tedy viditelný ostatním), zatímco soukromý klíč zná pouze strana, které byl přiřazen. Strana pak může vstoupit do procesu uzavírání smart kontraktu, pouze má-li k dispozici oba dva své klíče.

Jelikož identifikace jednající osoby je jednou z funkcí písemné formy, lze se ztotožnit s názorem, že naplnění takové funkce je nutné posuzovat s ohledem na smysl a účel písemné formy, tedy s ohledem na funkci varující a zajišťovací.[34] V případě smart kontraktu bude naplněna nejen funkce varující (použití klíčů je stvrzením konečnosti a zároveň je tím prokázáno, že daný projev vůle pochází od dané smluvní strany), ale byla by případně splněna i funkce zajišťovací (je tím zabezpečena i právní jistota třetích osob).[35] Uvedené musí platit tím spíše, že požadavek identifikace jednajícího je v některých případech splněn i uvedením jména za e-mail.[36]

Samotná skutečnost, že v případě smart kontraktů se využívá asymetrická kryptografie, hovoří rovněž ve prospěch toho, že strany jsou pomocí veřejného a soukromého klíče určeny dostatečně.[37] Právě asymetrická kryptografie je totiž užívána i u kvalifikovaných certifikátů pro elektronické podpisy.[38] Považuje-li se takový elektronický podpis za dostatečnou identifikaci smluvní strany, mělo by za ni být považováno i uvedení veřejného a soukromého klíče u smart kontraktu.

Podpis?

Někteří autoři dovozují, že k tomu, aby smart kontrakt jako elektronické právní jednání učiněné podle § 562 odst. 1 o. z. naplnil písemnou formu, je nezbytné k němu připojit podpis.[39]

Tomuto názoru svědčí i komentářová literatura k zák. č. 40/1964 Sb., občanský zákoník, ve znění pozdějších předpisů,[40] i komentářová literatura k o. z.[41] Obdobně se k věci vyjadřuje i konstantní judikatura Nejvyššího soudu. Nejvyšší soud uvádí, že má-li být v případě právního jednání učiněného elektronicky zachována písemná forma právního jednání, je nezbytné připojit elektronický podpis.[42]

Podle Melzera a Korbela je nutné zkoumat, jaký je vztah mezi § 561 odst. 1 a § 562 odst. 1 o. z.[43] Zjednodušeně řečeno, zda je § 562 o. z. lex specialis vůči § 561 o. z. a zda tak je k zachování písemné formy nutné naplnit nejen podmínky § 562 odst. 1 o. z., ale zároveň i § 561 odst. 1 o. z. Za pomoci argumentu spočívajícího v historii projednávání návrhu občanského zákoníku dovozují, že § 562 o. z. je speciální vůči § 561 o. z., a že tak není nutné, aby bylo právní jednání elektronicky podepsáno.[44]

Tomuto názoru odpovídá i samotná textace o. z., kdy udává-li § 562 odst. 1 o. z., že písemná forma je zachována „i při…“, lze se domnívat, že bude následovat výčet podmínek, za kterých bude písemná forma zachována i bez toho, aby byly splněny podmínky předcházejícího § 561 odst. 1 o. z.

Při řešení této otázky nemůže zůstat stranou ani funkce elektronického podpisu. Dřívější definice elektronického podpisu, uvedená v zákoně č. 227/2000 Sb., o elektronickém podpisu a o změně některých dalších zákonů (zákon o elektronickém podpisu), ve znění platných předpisů (dále jen „ZEP“), definovala elektronický podpis jako „[ú]daje v elektronické podobě, které jsou připojené k datové zprávě nebo jsou s ní logicky spojené a které slouží jako metoda k jednoznačnému ověření identity podepsané osoby ve vztahu k datové zprávě“.[45] Vyžadovala tedy, aby měl elektronický podpis identifikační funkci. Dnešní definice zakotvená v eIDAS však elektronickým podpisem rozumí „[d]ata v elektronické podobě, která jsou připojena k jiným datům v elektronické podobě nebo jsou s nimi logicky spojena a která podepisující osoba používá k podepsání“.[46] Dochází tak ke snižování významu sporu mezi názory na nutnost připojení elektronického podpisu k právnímu jednání podle § 562 odst. 1 o. z., neboť elektronickým podpisem bude prakticky cokoli.[47]

Při nahlédnutí do zahraničních právních řádů (např. Polsko, Švýcarsko, Slovensko, Německo) je však patrné, že v jiných zemích není tak snadné naplnit požadavky písemné formy, což lze jen kvitovat. Jinak by tomu pak nemělo být ani v případě smart kontraktu. Vzorem by mohla být Itálie, která jako jistý evropský průkopník v oblasti legislativy zabývající se smart kontrakty podmínila naplnění požadavků písemné formy v případě smart kontraktu identifikací odpovídající předem stanoveným požadavkům.[48]

I kdybychom trvali na tom, že v případě právního jednání učiněného elektronicky je zachována písemná forma právního jednání tehdy, je-li připojen elektronický podpis, tato podmínka by v případě smart kontraktů byla splněna. V souladu s definicí v eIDAS lze uvedení veřejného a soukromého klíče považovat za elektronický podpis jednajících smluvních stran,[49] a to dokonce za zaručený elektronický podpis ve smyslu čl. 26 eIDAS.[50]

Na základě výše uvedeného lze shrnout, že smart kontrakt naplní požadavky na písemnou formu podle § 561 o. z., stejně jako může splnit požadavky § 562 odst. 1 o. z. a písemná forma bude zachována i při takovém právním jednání.

Odpovědnost za újmu

Využívání umělé inteligence s sebou přináší mnoho problémů, a to i přes její značné přínosy. Jedním z nich je chybovost. Ta může v případě uzavírání smlouvy o spotřebitelském úvěru nastat nejen v předsmluvní fázi, např. při posuzování úvěruschopnosti, ale může nastat i později – typicky při výkonu smlouvy – tedy chybovost smart kontraktu.

U ADM se v případě vzniku škody nabízí úvaha o aplikaci zvláštních skutkových podstat – v úvahu přichází např. aplikace ustanovení o porušení smluvní povinnosti (§ 2913 o. z.), o škodě způsobené z provozní činnosti (§ 2924 o. z.), o škodě způsobené věcí (§ 2936 o. z.). Pomineme-li obecné problémy, které se s jednotlivými skutkovými podstatami pojí (např. zda je odpovědnost v případě škody způsobené věcí odpovědností objektivní s možností liberace, nebo jde o odpovědnost subjektivní), aplikaci těchto ustanovení nic nebrání.[51] Svou podstatou nejde totiž o nic jiného než o využití určitého zařízení, které má ten, kdo jej používá, plně ve své moci. Problém však teoreticky může nastat v případě využívání AI v užším slova smyslu.

Názorným příkladem je případ robota Tay. Ten měl jediný úkol – být populární na Twitteru díky svým příspěvkům. To, jakým způsobem se stát populárním, si robot určoval sám na základě již zveřejněných příspěvků a na základě toho, že se učil z komunikace s ostatními uživateli. Po spuštění však začal Tay šířit nenávistné příspěvky. K tomu byl převážně naváděn ostatními uživateli, kteří robota naváděli k rasismu, homofobii a sexismu.[52] Na tomto případě lze demonstrovat dva základní problémy: subjektivní vrstevnatost a to, že na jednání AI v užším slova smyslu se podílejí i třetí osoby odlišné od programátorů, výrobců, prodejců a provozovatelů.

Co se skrývá pod pojmem subjektivní vrstevnatost, vysvětluje velmi názorně Polčák na příkladu autonomního vozidla: „[u] autonomního vozidla může jednomu subjektu patřit příslušný hardware (tj. samotné vozidlo), jiného vlastníka může mít síť, z níž robot přijímá data bezprostředně ovlivňující jeho chování, a jiné vlastníky (nebo ‚vlastníky‘) mohou mít různé kategorie těchto dat nebo kódu. Robota jako funkční celek tedy nemusí vlastnit ani provozovat identický subjekt, neboť může jít o komplexní strukturu, k jejímž jednotlivým součástem může mít absolutní práva vlastnická či jiná více subjektů současně. Vlastník či provozovatel hmotného těla autonomního systému navíc může mít v praxi jen minimální kontrolu nad tím, co nebo jak jeho robot provádí. Výsledné chování robota může být totiž kauzálně dáno příčinami, které jsou zcela mimo kontrolu jakéhokoli právem uznaného subjektu a jejichž podíl na konkrétním chování robota může být proměnlivý a ve výsledku totálně diskutabilní.“[53]

Podíl třetích osob na jednání AI v užším slova smyslu je pak v případě Tay víc než zřejmý – třetí osoby ovlivňují AI v užším slova smyslu tím, že s ní komunikují, mnohdy bez jakýchkoli pohnutek či úmyslu způsobit škodu. Výsledkem je, že AI v užším slova smyslu se od nich učí, přebírá, selektuje.

Výše uvedené dva problémy přitom u ADM vysledovat nelze, resp. pouze částečně. I u ADM lze bezpochyby nalézt hned několik osob, které se na jeho tvorbě a používání podílejí. Avšak lze také vysledovat, kdo z nich se dopustil jaké chyby. Lze např. vysledovat chybu v zadaném algoritmu (způsobil ji programátor), lze vysledovat, kdo odstranil kritérium výběru při užívání ADM (provozovatel), lze vysledovat, že mechanická součást zařízení ADM je vadná (pak lze uvažovat o odpovědnosti výrobce). Naproti tomu u AI v užším slova smyslu to možné být nemusí. Nemusí být zřejmé, v důsledku čeho se umělá inteligence dopustila nějaké chyby, resp. příčiny mohou splývat. Např. mohla sama vyhodnotit danou situaci tak, jak ji vyhodnotila, aniž by na tom měl podíl kdokoli z osob, které ji stvořily. Vliv třetích osob pak u ADM odpadá úplně, neboť ADM není schopno se samo učit a jednat jinak, než jak bylo naprogramováno a než jak je používáno.

Zamyslíme-li se nad tím, jak by mohla vypadat odpovědnost v případě škody vzniklé při uzavírání smlouvy o spotřebitelském úvěru, lze jako příklad uvést chybovost při posuzování úvěruschopnosti. Buď dojde k posouzení úvěruschopnosti a k vyhodnocení, že spotřebitel je úvěruschopný, což může vést k uzavření smlouvy o úvěru, i když spotřebitel úvěruschopný nebyl (absolutně neplatná smlouva v případě existující příčinné souvislosti – v případech, kdy by smlouva uzavřena nebyla),[54]^{, [55]} nebo naopak, spotřebitel může být úvěruschopný, ale AI dojde k závěru, že úvěruschopný není.

V takových případech lze uvažovat o vzniku újmy. Ta může spočívat nejen v negativní interessi (náklady, které poškozenému vznikly v souvislosti s tím, že nebyl shledán úvěruschopným a úvěr mu nebyl poskytnut – např. vyšší úroky u jiného poskytovatele úvěru), ale i v té pozitivní (např. ztráta zisku, který by poškozený získal v důsledku poskytnutí úvěru; to bude záviset na prokázání příčinné souvislosti – zda by po shledání poškozeného úvěruschopným byla smlouva vůbec uzavřena.)[56]^{, [57]}

V případě, kdy by chybu způsobil software založený na ADM, bylo by možné vysledovat, kde se chyba stala. Lze uvažovat o tom, že odpovědný je programátor, který zadal algoritmus chybně tak, že ten zohledňoval něco, co zohledňovat neměl, nebo naopak nezohlednil něco, co zohlednit měl. Odpovědný by také mohl být ten, kdo ADM k posouzení úvěruschopnosti použil. Možná to byl on, kdo zadal příkaz ignorovat určité kritérium, nebo mu naopak přisoudil větší váhu. To vše je zjistitelné – kontrolou vloženého kódu, kontrolou ovládacího programu pro uživatele. Kdyby však byla využita AI v užším slova smyslu, hledání osoby, která škodu způsobila, se rozpadá na nekonečné množství možností. Možná nemusel škodu způsobit ani programátor, ani uživatel. Možná umělá inteligence sama na základě několika předešlých případů zhodnotila, že např. ženy jsou méně úvěruschopné než muži, a tak úvěruschopnost další ženy posoudila tak, že tato úvěruschopná také není. Jak tedy situaci odpovědnosti v případě využití AI v užším slova smyslu řešit?

V první řadě je nutné uvést, že povinnost nahradit škodu se výlučně neváže pouze na toho, kdo škodu skutečně způsobil. Dále lze vyslovit tezi, že obecné východisko odpovědnosti za újmu způsobenou umělou inteligencí by mělo zřejmě spočívat v důvodu odpovědnosti. Tím je zvýšené riziko při využívání umělé inteligence. To by měl tedy nést ten, kdo umělou inteligenci používá. Je to uživatel, kdo z umělé inteligence čerpá benefity, v ideálním případě přímo zisky. Není proto důvod, proč by neměl být nositelem i potenciálního rizika. V případě vzniku škody při posuzování úvěruschopnosti půjde dokonce o odpovědnost objektivní – není vyžadováno zavinění (§ 2913 o. z.). Byť je tedy výše demonstrována subjektivní vrstevnatost, ta může být relevantní maximálně pouze v případě liberace. Ani v případě AI v užším slova smyslu tak nebude nic bránit aplikaci ustanovení o jednotlivých skutkových podstatách (v případě škody vzniklé při posuzování úvěruschopnosti konkrétně § 2913 o. z.).[58]^{, [59]}

Závěr

Jak je patrné z předestřených úvah, je nezbytné rozlišovat ADM a AI v užším slova smyslu, neboť se liší problémy vznikající při jejich užívání. Avšak tyto problémy lze jak v případě ADM, tak v případě AI v užším slova smyslu překlenout za použití současné právní úpravy.

Bude-li při uzavírání smlouvy o spotřebitelském úvěru využívána AI v užším slova smyslu, blockchain a smart kontrakty, narazí tento postup na jisté požadavky. Jde-li o požadavky na vztah spotřebitel-podnikatel za současného využití umělé inteligence, tyto se však nijak zásadně neliší od klasických požadavků na takový vztah. Klade se ale značný důraz na informační povinnost, nejen na tu obecnou, ale i na povinnost informovat o využívání umělé inteligence ve vztahu ke spotřebiteli. To však není neřešitelným problémem. Na významu zde také nabývá právo na nediskriminaci, které již může být v případě AI v užším slova smyslu ohroženo – s tím se pak pojí problematika odpovědnosti za újmu.

Jde-li o požadavky na posuzování úvěruschopnosti pomocí umělé inteligence, lze opět vyzdvihnout povinnost informovat klienta o tom, že posuzování jeho úvěruschopnosti probíhá pomocí ADM. Je-li taková povinnost vyžadována u ADM, tím spíše musí být vyžadována u posuzování klienta pomocí AI v užším slova smyslu. Jiná specifika zatím nelze dohledat. Naplnění písemné formy smlouvy pak nebude činit vůbec žádné problémy.

Jde-li o odpovědnost za újmu, mohlo by se zdát, že se bude lišit situace, kdy bude k uzavírání smlouvy o spotřebitelském úvěru použito ADM a kdy AI v užším slova smyslu. Tak tomu však není. I v případě AI v užším slova smyslu bude možné aplikovat stávající právní úpravu.

Lze tedy uzavřít, že česká právní úprava je připravena na využívání umělé inteligence, a to i té v užším slova smyslu. Jde-li o využívání technologií blockchainu a smart kontraktu, na ty lze v případě uzavírání smluv o spotřebitelském úvěru také aplikovat současnou právní úpravu, alespoň co se procesu uzavírání smluv týče. Do budoucna bude třeba vyřešit ale další otázky pojící se nejen konkrétně s takovým postupem, ale i s využíváním těchto technologií obecně – např. otázky týkající se ochrany osobních údajů nebo problematiky kybernetické bezpečnosti.[60]

Mgr. Markéta Zimnioková je advokátní koncipientkou a doktorandkou na Katedře soukromého práva a civilního procesu Právnické fakulty Univerzity Palackého v Olomouci.

[1] J. Mašlej, J. Petřík: ICO a KYC v české právní úpravě, epravo.cz, 29. 5. 2018 [cit. 9. 9. 2020], dostupné na <https://www.epravo.cz/top/clanky/ico-a-kyc-v-ceske-pravni-uprave-107598.html>.

[2] Blockchain meets AI: Introducing Amanda, the Money Token AI loan assistant [online], becominghuman.ai, 21. 12. 2017 [cit. 2. 9. 2020], dostupné na <https://becominghuman.ai/introducing-amanda-money-token-artificial-intelligence-loan-assistant-f5c3c608c973>.

[3] K tomu, jak blockchain funguje, srov. např. M. Corrales, M. Fendwick, H. Haapio: Legal Tech, Smart Contracts and Blockchain, Springer, 2019, str. 2 a násl.

[4] A. Savelyev: Contract law 2.0: «Smart» contracts as the beginning of the end of classic contract law, str. 15 [online], wp.hse.ru [cit. 2. 9. 2020], dostupné na <https://wp.hse.ru/data)2016/12/14/1111743800/71LAW2016.pdf>.

[5] Szabo uvádí, že smart kontrakt je komplexem slibů specifikovaných v digitální podobě zahrnující protokoly, díky kterým strany tyto sliby vykonají. N. Szabo: Smart Contracts: Building Blocks for Digital Markets [online], fon.hum.uva.nl [cit. 2. 9. 2020], dostupné na <http://www.fon.hum.uva.nl/rob)Courses/InformationInSpeech/CDROM/Literature/LOTwinterschool2006/szabo.best.vwh.net/smart_contracts_2.html>. Stejnou otázkou se zabývají i jiní autoři, např. K. Lauslahti, J. Mattila, T. Seppälä: Smart Contracts – How will Blockchain Technology Affect Contractual Practices? ETLA Reports č. 68/2017, str. 20 a násl. Ve španělském prostředí pak např. R. J. Feliu: Smart Contract: concepto, ecosistema y principales cuestiones de Derecho privado, La Ley Mercantil č. 47/2018, str. 7 a násl.

[6] K formě smart kontraktu coby smlouvy se podrobně vyjadřuje Krupičková in P. Krupičková: Smart contract – revoluce v smluvním právu 21. století? Revue pro právo a technologie č. 15/2017, str. 26 a násl.

[7] K tomu srov. L. Kolaříková, F. Horák: Umělá inteligence a právo, Wolters Kluwer ČR, Praha 2020, str. 2 a násl.

[8] J. Zibner: Akceptace právní osobnosti v případě umělé inteligence, Revue pro právo a technologie č. 17/2018, str. 19.

[9] S. Mikeš: Právo ve věku inteligentních strojů, Bulletin advokacie č. 4/2018, str. 18.

[10] High-level Expert Group on Artificial Intelligence set up by the European Commission. A Definition of AI: Main Capabilities and Disciplines, 8. 4. 2019 [cit. 2. 9. 2020], dostupné na <https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines>.

[11] Dokument se zabývá i vymezením AI coby vědní disciplíny, když ji definuje jako vědeckou disciplínu, která zahrnuje několik přístupů a technik, jako je strojové učení (jehož konkrétním příkladem je hluboké učení a učení posilováním), strojové logické myšlení (které zahrnuje plánování, rozvrhování, reprezentaci znalostí a uvažování, vyhledávání a optimalizaci) a robotika (která zahrnuje ovládání, vnímání, senzory a působící činitele, jakož i integraci všech ostatních technik do kyber-fyzikálních systémů) [tamtéž].

[12] Dnes tak např. fungují některé algoritmy pro scoring klientů.

[13] The European Consumer Organisation. Automated Decision Making and Artifical Intelligence – A Consumer Perspective, 20. 6. 2018 [cit. 2. 9. 2020], dostupné na <https://www.beuc.eu/publications/beuc-x-2018-058_automated_decision_making_and_artificial_intelligence.pdf>.

[14] The European Consumer Organisation. AI Rights for Consumers, 23. 10. 2019 [cit. 3 9. 2020], dostupné na <https://www.beuc.eu/publications/beuc-x-2019-063_ai_rights_for_consumers.pdf>.

[15] L. Kolaříková, F. Horák, op. cit. sub 7, str. 125.

[16] Tamtéž.

[17] Senate Bill No. 1001, Chapter 892; An act to add Chapter 6 (commencing with Section 17940) to Part 3 of Division 7 of the Business and Professions Code, relating to bots.

[18] Čl. 12 nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů).

[19] Srov. § 2 a 3 zák. č. 198/2009 Sb., o rovném zacházení a o právních prostředcích ochrany před diskriminací a o změně některých zákonů (antidiskriminační zákon).

[20] Op. cit. sub 14.

[21] Situace plnila i titulky novin, v českém prostředí např. Apple Card diskriminuje ženy, nabízí jim nižší úvěrové limity než mužům, idnes.cz, 13. 11. 2019 [cit. 3. 9. 2020], dostupné na <https://www.idnes.cz/ekonomika)zahranicni/apple-card-kreditni-karta-goldman-sachs-diskriminace-zeny.A191112_173352_eko-zahranicni_maz>.

[22] Odst. 55 preambule směrnice Evropského parlamentu a Rady 2014/17/ЕU ze dne 4. února 2014 o smlouvách o spotřebitelském úvěru na nemovitosti určené k bydlení a o změně směrnic 2008/48/ES a 2013/36/EU a nařízení (EU) č. 1093/2010.

[23] P. Bezouška: Zkoumání úvěruschopnosti dle zákona o spotřebitelském úvěru, Právní rozhledy č. 11/2017, str. 381.

[24] Česká národní banka. Dohledový benchmark č. 3/2016: Požadavky na výkon činnosti nebankovního poskytovatele spotřebitelského úvěru podle § 15 zák. č. 257/2016 Sb., o spotřebitelském úvěru, 31. 10. 2016 [cit. 3. 9. 2020], dostupné na <https://www.cnb.cz/export/sites/cnb)cs/dohled-financni-trh/.galleries/vykon_dohledu/dohledove_benchmarky/download)dohledovy_benchmark_2016_03.pdf >.

[25] Srov. Evropský orgán pro bankovnictví: Obecné pokyny Evropského orgánu pro bankovnictví k posouzení úvěruschopnosti, 19. 8. 2015 [cit. 3. 9. 2020], dostupné na <https://eba.europa.eu/sites/default/documents/files/documents/10180/1162894/8d5d0108-f433-403f-b486-b3ff0047486b)EBA-GL-2015-11_CS_%20GL%20on%20creditworthiness.pdf>; či op. cit. sub 24.

[26] Op. cit. sub 14.

[27] § 110 odst. 1 SpotřÚ: „Neobsahuje-li smlouva o spotřebitelském úvěru informaci o zápůjční úrokové sazbě, o roční procentní sazbě nákladů nebo o celkové částce, kterou má spotřebitel zaplatit, nebyla-li ohledně některé z těchto informací dodržena písemná forma smlouvy, nebo nebylo-li písemné vyhotovení smlouvy obsahující tyto informace poskytnuto spotřebiteli v listinné podobě nebo na jiném trvalém nosiči dat, platí, že zápůjční úrokovou sazbou je repo sazba uveřejněná Českou národní bankou, platná v den uzavření smlouvy o spotřebitelském úvěru, nebyla-li sjednána zápůjční úroková sazba nižší. K ujednáním o jiných platbách sjednaných ve smlouvě o spotřebitelském úvěru se nepřihlíží.“

[28] Zachycení obsahu právního jednání ve zdrojovém kódu odpovídá i požadavku, aby šlo o grafické znázornění souboru znaků (M. Hulmák in J. Švestka, J. Spáčil, M. Škárová, M. Hulmák a kol.: Občanský zákoník I, II, 2. vydání, C. H. Beck, Praha 2009, str. 370).

[29] F. Melzer in F. Melzer, P. Tégl a kol.: Občanský zákoník – velký komentář, Svazek III, § 419-654, Leges, Praha 2014, str. 567.

[30] Tento názor vyslovuje i M. Hrdlička in P. Lavický a kol.: Občanský zákoník I, Obecná část (§ 1-654), Komentář, C. H. Beck, Praha 2014, str. 2020.

[31] Rozsudek Nejvyššího soudu ze dne 11. 3. 2008, sp. zn. 21 Cdo 1760/2007.

[32] Z novější doby lze jmenovat např. usnesení Nejvyššího soudu ze dne 23. 5. 2019, sp. zn. 21 Cdo 3733/2018.

[33] Usnesení Nejvyššího soudu ze dne 19. 7. 2016, sp. zn. 32 Cdo 4459/2014.

[34] F. Melzer, F. Korbel, in F. Melzer, P. Tégl a kol., op. cit. sub 29, str. 647.

[35] Melzer s Korbelem demonstrují výraz nedostatečnosti zajišťovací funkce na příkladu postoupení pohledávky formou e-mailu, kterým se zabýval Nejvyšší soud v rozsudku ze dne 29. 1. 2009, sp. zn. 30 Odo 1230/2007 (tamtéž, str. 648).

[36] Tamtéž.

[37] Obdobně tamtéž, str. 648: „Požadavek identifikace jednajícího je tím spíše splněn i v případě, kdy si strany dohodly zvláštní způsob ověření identity jednajícího, např. zadáním kódu.“ K závěru, že v případě smart kontraktu je určena jednající osoba, se kloní i Krupičková (P. Krupičková, op. cit. sub 6, str. 25).

[38] K tomu blíže V. Smejkal: Kryptografický a dynamický biometrický podpis podle platné právní úpravy, Právní rozhledy č. 10/2019, str. 343 a násl.

[39] P. Krupičková, op. cit. sub 6, str. 24; A. Kulifajová: Revoluce zvaná chytré kontrakty – právní perspektiva, Právní rozhledy č. 8/2019, str. 277.

[40] M. Hulmák, op. cit sub 28, str. 370.

[41] M. Hrdlička, op. cit sub 30, str. 2024.

[42] K tomu srov. rozsudek Nejvyššího soudu ze dne 10. 4. 2014, sp. zn. 23 Cdo 1593/2012, usnesení Nejvyššího soudu ze dne 1. 6. 2017, sp. zn. 20 Cdo 1741/2017, z nedávné doby pak usnesení Nejvyššího soudu ze dne 22. 5. 2019, sp. zn. 26 Cdo 1230/2019.

[43] F. Melzer, F. Korbel, in F. Melzer, P. Tégl a kol., op. cit. sub 29, str. 646.

[44] Uvádějí, že vládní návrh občanského zákoníku z roku 2011 upravoval problematiku tak, že daná podoba občanského zákoníku vyvolávala představu, že písemná forma právního jednání je zachována jen v případě elektronického podpisu, a z toho důvodu bylo zařazení odstavců občanského zákoníku následně pozměněno. Tamtéž.

[45] § 2 písm. a) ZEP.

[46] Čl. 3 bod 10 nařízení Evropského parlamentu a Rady (EU) č. 910/2014 ze dne 23. července 2014 o elektronické identifikaci a službách vytvářejících důvěru pro elektronické transakce na vnitřním trhu a o zrušení směrnice 1999/93/ES.

[47] Beran např. zastává názor, shodně jako Melzer a Korbel, že podpis není nutný k tomu, aby byla podle § 562 odst. 1 o. z. písemná forma zachována: V. Beran in J. Petrov, M. Výtisk, V. Beran a kol.: Občanský zákoník, Komentář, 2. vydání, C. H. Beck, Praha 2019, str. 623.

[48] Art. 8-ter 2. Legge 11 febbraio 2019, n. 12 Conversione in legge, con modificazioni, del decreto-legge 14 dicembre 2018, n. 135, recante disposizioni urgenti in materia di sostegno e semplificazione per le imprese e per la pubblica amministrazione.

[49] Melzer s Korbelem uvádějí, že i kód může splňovat požadavek elektronického podpisu. F. Melzer, F. Korbel, in F. Melzer, P. Tégl, op. cit. sub 29, str. 648, pozn. pod čarou č. 1755.

[50] Shodně P. Krupičková, op. cit. sub 6, str. 26. Hulmák taktéž uvádí, že v případě veřejného a soukromého klíče půjde o zaručený elektronický podpis nebo jeho vyšší formu (M. Hulmák, op. cit. sub 28, str. 365).

[51] Problémy pojící se s jinými oblastmi využití umělé inteligence (např. autonomní doprava) ponecháváme stranou.

[52] R. Metz: Microsoft’s neo-Nazi sexbot was a great lesson for makers of AI assistants, MIT Technology review, 27. 3. 2018 [cit. 4. 9. 2020], dostupné na <https://www.technologyreview.com/s/610634/microsofts-neo-nazi-sexbot-was-a-great-lesson-for-makers-of-ai-assistants>.

[53] R. Polčák: Odpovědnost umělé inteligence a informační útvary bez právní osobnosti, Bulletin advokacie č. 11/2018, str. 24.

[54] Rozsudek Soudního dvora ze dne 5. 3. 2020 ve věci C-679/18 OPR –Finance s. r. o. proti GK: „S ohledem na všechny předchozí úvahy je třeba na předběžné otázky odpovědět tak, že čl. 8 a 23 směrnice 2008/48 musí být vykládány v tom smyslu, že vnitrostátnímu soudu ukládají, aby z úřední povinnosti zkoumal, zda došlo k porušení předsmluvní povinnosti věřitele stanovené v čl. 8 této směrnice, tj. povinnosti posoudit úvěruschopnost spotřebitele, a vyvodil důsledky, které z porušení této povinnosti vyplývají ve vnitrostátním právu, za podmínky, že sankce splňují požadavky tohoto čl. 23.“

[55] Už v minulosti přitom chápal Ústavní soud koncepci relativní neplatnosti spotřebitelských smluv jako nesouladnou s právním pořádkem: usnesení Ústavního soudu ze dne 9. 2. 2011, sp. zn. Pl. ÚS 1/10.

[56] Hulmák in M. Hulmák a kol.: Občanský zákoník V, Závazkové právo, Obecná část (§ 1721-2054), Komentář, C. H. Beck, Praha 2014, str. 55.

[57] Opačně J. Hrádek: Předsmluvní odpovědnost, Bulletin advokacie č. 3/2011, str. 48: „Jestliže dojde k porušení předsmluvních povinností a s tím souvisejícímu vzniku škody ještě před uzavřením smlouvy, vyplývá z obecného chápání rozsahu náhrady škody v případě předsmluvního vztahu, že není možné nahrazovat pozitivní škodu (tedy škodu z budoucího smluvního vztahu), neboť tu v této fázi ještě nelze stanovit, a teorie i judikatura se přiklánějí k náhradě toliko negativní škody (tedy náhrady nákladů).“

[58] Existují však i názory opačné, srov. např. L. Kolaříková, F. Horák, op. cit. sub 7, str. 141.

[59] Přesto se však začíná na evropské úrovni objevovat snaha o úpravu odpovědnosti za újmu. Srov. např. Expert Group on Liability and New Technologies: Liability for Artificial Intelligence and other emerging digital technologies, 2019 [cit. 8. 9. 2020], dostupné na <https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupMeetingDoc&docid=36608>.

[60] Příspěvek je výsledkem projektu APVV-17-0562 „Zmluvy uzatvárané prostredníctvom elektronických platforiem“.