Autor následujícího článku se zamýšlí nad umělou inteligencí jako revoluční metodou poznávání okolního světa. Ve svém příspěvku podává hlavní rozdíly mezi umělou inteligencí a dvěma dalšími metodami poznání: narativem a vědou. Všechny tři metody jsou využívány i v právu a každá má své přínosy i úskalí. Jejich správnou kombinací bychom mohli nahlédnout dále za obzor a přiblížit se zase o kousek ideálu o správném a spravedlivém rozhodování v právu. Východiskem pro esej je Kafkův román Proces, který je prakticky povinnou četbou advokátů. Obsahuje totiž nejedno varování, jak se zákony nezacházet. Na závěr autor navrhuje i jedno možné pravidlo pro nasazování nástrojů umělé inteligence do práva a podává paralelu k jednoduché, leč výstižné Radbruchově formuli.

„Skutečně spolu souvisí rostoucí automatismus a strach velmi úzce, a to v tom, že člověk omezuje svá rozhodování ve prospěch technických úlev. Vede to k nejrůznějšímu zpohodlnění. Tak se ale nutně musí prohlubovat i ztráta svobody. Jedinec už nestojí ve společnosti jako strom v lese, nýbrž je podoben pasažéru rychlého dopravního prostředku, který může nést jméno Titanik, ale třeba i Leviathan.“

Ernst Jünger: Chůze lesem

Kafkův román Proces je pozorováním zvláštního světa, kde je osud jednotlivce ovládán právem. Představme si paralelu pozorování v dnešním světě: jsme práva znalí pozorovatelé prostředí, kterým je soudní proces v celé jeho šířce. Na rozdíl od románu nejsme limitováni autorovým vyprávěním na stránkách knihy, ale můžeme nahlédnout kamkoliv. V realitě Procesu by nám tak bylo umožněno podívat se do zavřených místností i do duší aktérů, které Josef K. míjel. Námi pozorovaná realita je pak všechno spojené s aplikací práva: od první pohnutky aktéra právně jednat, přes soudní jednání ve věci, až po vykonání rozsudku.

Do pozorování soudního procesu zapojíme nyní i umělou inteligenci (AI) a zhodnotíme, zda může příznivě ovlivnit proces aplikace práva. Otázka, na kterou budeme v příspěvku hledat odpověď, je: proč zavádíme AI do práva a jaký sociální problém chceme touto technologií vyřešit?[1]

Pozorované prostředí – soudní proces

V pozorovaném prostředí, tj. v realitě soudního procesu, na první pohled rozeznáváme aktéry a jejich role. Vnímáme roli soudce a role procesních stran (žalobce a žalovaného), kterak s ohledem na jejich svébytné zájmy interpretují realitu. Proces interpretace vedle zpracovávání masy dat a informací zahrnuje také vnímání a interpretaci tří hodnot práva, což jsou: spravedlnost, právní jistotu a účelnost. Přítomnosti těchto hodnot a jejich míry si jako pozorovatelé-právníci budeme zvlášť všímat.

Vedle jednání aktérů pozorujeme také rozličné zdroje dat a informací. Typicky se jedná o soudní spis se všemi obvyklými písemnými podklady, jako je žaloba a vyjádření k ní (replika a duplika), důkazní materiály, protokoly z jednání atd. Pozorovaným zdrojem budou i důvěrná jednání mezi klientem a advokátem nebo tajná porada soudců, podvědomé zájmy aktérů. Zkrátka, pozorovanou realitou budou veškeré události svázané kontextem se soudním procesem.

Některé události mohou být zachyceny v tzv. fázovém vztahu k dalším událostem,[2] což v podstatě znamená, že např. určité informace ve spise se budou vyskytovat vícekrát, ale pokaždé z odlišné perspektivy nebo v jiném kontextu. Tato eventualita fázového stavu, tj. o stejném jinak, v právu nastává často – typicky při popisu skutků nebo při interpretaci právní normy. Nota bene spor o tyto eventuality je podstatou soudních řízení. Fázový vztah dopadá nejen na data a informace, ale i na hodnoty práva. Určitou stejnou událost tak můžeme vnímat současně jako právně jistou, ale současně nespravedlivou. Ve vzájemném konfliktu nebo alespoň na rozhraní se pravidelně ocitají všechny tři hodnoty.

Hodnoty v právu a Radbruchova formule

Právo je právem, když naplňuje současně stránku spravedlnosti (justice), právní jistoty (legal certainty) a účelnosti (instrumentality). Na této výstižné premise postavil Gustav Radbruch svou formuli, kterou objasňoval, v reáliích po druhé světové válce, dilema mezi právní jistotou a spravedlností.[3] Radbruchova formule zní:

„Konflikt mezi spravedlností a právní jistotou patrně lze řešit jen tak, že pozitivní právo, zajišťované předpisy a mocí, má přednost i tehdy, pokud je obsahově nespravedlivé a neúčelné, vyjma toho, jestliže rozpor mezi pozitivním zákonem a spravedlností dosáhne tak nesnesitelné míry, že zákon musí jako ‚nenáležité právo‘ (unrichtiges Recht) spravedlnosti ustoupit.“

Při konfliktu hodnot nastává vždy dilema, která hodnota by měla převážit. Pro lepší představu si připomeňme dilema mezi právní jistotou a spravedlností v procesu s Adolfem Eichmannem, který byl jedním z hlavních strůjců holocaustu. V dilematu nelze přehlédnout fázový stav, kdy přičinlivost Adolfa Eichmanna plně vyhovuje tehdejšímu (nacistickému) vnímání hodnoty právní jistoty, ale nevyhovuje pozdějšímu (poválečnému) vnímání hodnoty spravedlnosti. Eichmann byl uznán vinným a odsouzen zejména proto, že při výkonu své funkce zcela potlačil individuální morální odpovědnost a s nepřiměřenou služební horlivostí (tj. mechanicky) realizoval příkazy vedoucí k systematickému vyhlazování lidí.

Dnes lze identifikovat právních hodnot mnohem více (např. svoboda, důstojnost…), ale v podstatě se jedná o odstíny a kombinace některé ze tří základních hodnot vytyčených Radbruchem. Podobně jako v barevném spektru lze každý nový odstín přiřadit původem ke směsi některé ze tří základních barev (červená, zelená, modrá), lze u každé právní hodnoty určit dominující stránku z trojice právní jistota, spravedlnost nebo účelnost.

Intenzita každé ze tří základních hodnot pak „zabarvuje“ soudní proces: hodnota spravedlnosti vnáší morální aspekt práva; hodnota právní jistoty vnáší stabilitu a předvídatelnost právních rozhodnutí; hodnota účelnosti pak přináší pragmatický aspekt do práva, kterým má být dosažení politikou vytyčených společenských cílů.

A stále platí, že jedním z nejdůležitějších společenských cílů v právu je řešit spory právem (ne násilím nebo bezohledností) a regulovat společenské chování v souladu s politickými cíli.[4] Platilo a stále platí, že posláním práva je ochránit lidi zejména před lidmi samotnými.

Zájem a účel – energie soudního procesu

Jsme zpátky v soudním procesu. Pozorované prostředí je velmi dynamické a plné změn a střetů. Je to dáno tím, že každá role v soudním procesu je odlišná a jejich aktivita je živena rozdílnými zájmy. Zájem procesních stran je kontradiktorní: jedna strana hodlá přetavit maximum argumentů a hodnot na pravdivé, relevantní a správné, kdežto druhá strana se tomu snaží všemožně bránit. Zájmem soudce je pak dosažení (právně) správného a spravedlivého rozhodnutí. Takové kvality lze dosáhnout tehdy, je-li rozhodnutí vyváženou distribucí všech tří hodnot práva. Pamatujme, že právo zájmy nevytváří, nýbrž je jen uznává. Regulativní funkce práva je jedním z efektů práva v lidské společnosti.

Jako pozorovatelé chápeme, že účelem celého soudního procesu má být rozpletení sporu procesních stran, což v podstatě znamená nalézt odpověď na řadu dílčích otázek, které jsou v konečném důsledku zastřešeny jedinou kardinální otázkou. Např.: Je žalovaný odpovědný? Nebo: Je žalobcův nárok oprávněný? V trestním soudním řízení by kardinální otázka zněla: Je obžalovaný vinen? Nikdy se nejedná o jednoznačnou a jednoduchou odpověď, to by se jinak strany nepotkávaly u soudu. Jak tedy správně rozplést uzel informací a současně zohlednit a zvážit všechny tři hodnoty práva? Jak poznáme, že výsledné rozhodnutí je kvalitní a v rovnováze?

Metody poznání: narativ, věda, AI

Co se nám jako pozorovateli může jevit jako chaotický uzel mnoha nesourodých vláken, je vlastně sbíhající se odraz tří zrcadel. Odraz je interpretací reality, která vychází z rolí a signalizuje přítomnost informací a právních hodnot.

Každé zrcadlo představuje jednu metodu poznání: naraci (N), vědecký přístup k objektivní realitě (OR) a umělou inteligenci (AI).[5] Tedy pro naše pohodlí jsou signály interpretace na zrcadla tříděny ne podle původce (tj. která role interpretaci produkuje), ale podle způsobu poznání (tj. jak byla vnímána a jak byla pochopena). Díky projekci v zrcadle si jako pozorovatelé zachováváme potřebný nadhled vůči pozorované realitě.

Narativ

Narativ interpretuje realitu osobní perspektivou, tedy projektuje subjektivní realitu. Každá role (každý aktér) má vedle vlastního zájmu i originální osobní charakter utvářený zkušeností, vzděláním, zásadami, předinformacemi,[6] trojicí předporozumění, předvědění, předsudků[7] nebo i genetickým nastavením. Vědomě i nevědomě jsme každý z nás usměrňováni vlastním charakteristickým narativem. Narativ vypráví příběhy, tj. přináší charakteristická sdělení, která obsahují směs faktů a idejí. Obraz v zrcadle narace tedy signalizuje přítomnost emocí, pocitů, intuice a intencí. Společnost a lidská přirozenost je plná těchto signálů, proto ani právo nemůže jejich existenci a vliv přehlížet. Ani věda, ani my sami neznáme zdroj těchto signálů, zda vycházejí z mozku nebo ze srdce, z vědomí či nevědomí, prostě „sálají“ z blackboxu lidské přirozenosti.[8]

Lidská práva jsou příkladem souboru přirozených práv, která platí paralelně s technokratickými zákony pozitivního práva. Jsou do jisté míry garantem přirozené lidské spravedlnosti před strohými zákony a mocí těch, kteří tyto zákony dokážou ovládat. Geneze lidských práv začala v době francouzské revoluce, ale již mnohem dříve, v době athénské demokracie, bychom vystopovali základy pokrokových občanských práv, která byla znovuobjevena až o tisíc let později.[9] Do budoucna bude platit vyjádření Rousseaua o tom, že citovost je základem lidských práv. Lidská emoce ve své proměnlivosti a neuchopitelnosti je ideálním příkladem substance narativu.

Narativ čerpá svoji moc a kredibilitu z autenticity a originality. Lidská představivost dodává metodě narativu potřebnou dynamiku k poznávání toho, co je v každé době morální a spravedlivé. Díky představivosti zůstanou lidé nenahraditelnou součástí aplikace práva.[10] Posláním narativu je zintenzivnit hodnotu spravedlnosti, protože lidská emoce usiluje o spravedlnost a pravdivost. Z tohoto pohledu pak spravedlivé právo nemůže být nepravdivé.

Spravedlnost nelze kalkulovat, ovšem právo není jen spravedlnost, proto je nutné, abychom kalkulovali.[11] Okolní svět lze rozkládat do binární struktury jedniček a nul, se kterými lze kalkulovat jak do minulosti, tak i do budoucnosti. Nyní postoupíme k metodě poznání, která kalkuluje.

Věda

V klasické formulaci čteme: „Právní věda je souborem moudrosti věků, kombinujícím principy původní spravedlnosti s nekonečnou rozmanitostí lidských záležitostí.“[12] Právní věda tak ze své povahy nebude kompletně exaktní vědou, jako třeba matematika, přesto obsahuje exaktní části, jako je právní logika nebo právní informatika. Exaktní právní věda, představovaná pozitivistickým právním expertem, interpretuje realitu ryze objektivní perspektivou. Ze zkoumané reality extrahuje algoritmy, které skládá do modelů. V podstatě redukuje pozorovanou realitu na teorie – lidově řečeno, „škatulkuje“. Mezním projevem takového přístupu v aplikaci práva je přepjatý právní formalismus, jehož nosnou teorií je, že psané právo poskytuje dostatečně spolehlivý podklad pro právní rozhodování, a to i navzdory mnohdy absurdním a evidentně nespravedlivým výsledkům.

Statické zákony nikdy nedokážou postihnout dynamickou sociál­ní realitu. Je to dáno zejména tím, že zákony (a právo obecně) jsou při popisu reality omezeny přirozeným jazykem, který ne­umožňuje jednoznačné mechanické překlopení reality do logického systému.[13] Tak jako v geografii mapa není krajinou, není v právu model či teorie úplným a kompletním popisem sociální reality.

Algoritmus je ideálním příkladem substance vědy. Algoritmus je abstraktní, formalizovaný, založený na logice, kde není rozhodující pravda, ale správnost. U jednoduchých právních otázek nekomplikovaných případů, tzv. „soft cases“, si při aplikaci práva vystačíme s jednoduchým algoritmem, s jednoznačnou interpretací textu, která stoprocentně sedí na faktický stav daného případu (case). V právu ovšem existují i jiné případy, označované jako „hard cases“, které si s logikou nevystačí. Jinými slovy, u části právních případů pozorujeme stav, kdy „existující, nepochybně platné právní normy za aplikace korektních deduktivních norem nevedou k jednoznačným rozhodnutím; tedy o případy, v nichž znalost nesporně platného práva nestačí na to, aby udávala fakta, na nichž závisí, kdo je v právu a kdo v neprávu“.[14] Existence odchylky od standardních podmínek je drobným nedostatkem u pozitivistického přístupu a vědeckého pozorování reality. Trefně tento nedostatek vyjadřuje bonmot, že logika je způsob, jak jít sice špatně, ale s důvěrou.[15] Takto odosobněná věda, přehlížející odchylky, vede k degradaci člověka[16] a zákonitě i ke ztrátě právních hodnot. Tento do jisté míry setrvačný trend vědy může zvrátit AI, protože na rozdíl od člověka je ne­únavná (nesmrtelná) a dokáže korigovat i drobnosti prakticky donekonečna.

Věda čerpá svoji moc a kredibilitu z autority vědeckého poznání. Posláním vědy je zintenzivnit hodnotu právní jistoty, protože vědecké zákonitosti založené mj. na binární logice se i přes drobnosti osvědčily a fungují v drtivé většině každodenních situací.

Co kdybychom ale dokázali synchronizovat narativ a vědu tak, abychom z obojího vytěžili maximum pozitivního a současně odstínili nedostatky?

Umělá inteligence (AI)

AI je kombinací obou předchozích metod a má něco navíc: přináší rozšířené poznání reality. Poznání, které nebylo viditelné nebo jednoduše bylo z kapacitních či mentálních důvodů obtížně dostupné a které jsme doposud vnímali odděleně.[17] Díky AI můžeme nalézat nové kontexty a zákonitosti mezi subjektivní realitou narativu a objektivní realitou vědy, resp. dokážeme je jasněji rozeznávat. Na tuto doposud nezvyklou interferenci mezi dvěma realitami si jako lidé pomalu zvykáme při hře s ChatGPT a podobnými nástroji AI.

Navážeme-li na úvodní výklad o pozorovaném prostředí a charakteru práva, pak lze konstatovat, že právní hodnoty mívají různou intenzitu a záleží vždy na jedinečnosti daného právního případu (case). Pokud bychom si právní hodnotu představili jako prostorový vektor zohledňující směr i intenzitu, pak lze mezi třemi vektory nalézt matematicky rovnovážný bod. Bohužel tento druh projekce lidský soudce nemá, což ovšem neznamená, že by tento deficit nemohla vyplnit právě AI.

AI je tedy novou reprezentací reality. Nesnažme se ji proto chápat tradičně ani prizmatem narativů (podobenstvími), ani prizmatem binárního kódu vědy. Do zrcadla AI se projektuje fuzzy realita. Pokusíme se popsat fungování fuzzy reality na příkladu ze života. Představme si, že chceme odpověď na banální otázku bez dalšího promptování: Jaká je voda? V přirozeném jazyce narativu máme k odpovědi k dispozici vágní termíny „studená“, „horká“, „vřelá“, „ledová“, „mokrá“, příp. ještě v kombinaci s přídavnými jmény „hodně“, „trochu“, „tak akorát“. V metrické struktuře vědy máme na jedné straně měření teploměrem a údaje stupnicí teploty „37 °C“. V AI by byla možná následující odpověď: „Pokud chcete koupat dítě jako předevčírem, pak je teplota tak akorát.“ AI pracuje s reálnými i virtuálními informacemi a hledá kombinace pravděpodobnosti v daném kontextu. Inteligentní je proto, že se dokáže „učit“ z předchozích zkušeností a upravovat si i kritéria.

Kritéria jsou kódy, které reprezentují konkrétní eventuality[18] a vytvářejí konkrétní predikáty. Ve shora uvedeném případu tak můžeme zaznamenat kód na teplotu následovně: teplá voda je (toto je predikát), když má 37 °C (toto je eventualita). Rozšířením tohoto základního kódu by pak bylo: teplá voda je také, když má 36 °C. Takto bychom mohli pokračovat a dál snižovat stupně Celsia, až bychom narazili na možná paradoxní otázku: kde, tj. na kolika stupních přesně, začíná studená a kde teplá voda? Ve světě narativu a vědy se jedná o tzv. sorites paradox, vyjádřený všetečnou otázkou, kolik zrnek písku tvoří hromadu písku? Ve fuzzy realitě by tato otázka a paradoxní situace neměla ani vzniknout, protože AI vyhodnotí všechny známé kontexty a porovná je mezi sebou navzájem.[19]

Soubor kódů tvoří program. Funkcí programu je uvádět, zda jsou kódové hodnoty přiřazovány správně podle pravidel programu. Kódování je nová reprezentace reality, když rozlišuje na základě kritérií (hledisek), co přijme jako vlastní systému a co nechá vně systému.[20] V systému práva je AI komplexní program, který odráží pravidla rozhodování na základě kódů. Tyto kódy jsou záměrně vkládány programátory, hackery[21] nebo vlastní AI na základě zpětné vazby učení. Kódy představují různá hlediska, která jsou zachycena do formálního (binárního) schématu. Základním hlediskem AI v právu budou hodnoty právo-neprávo a rozhodování bude oscilací mezi nimi. Tedy proces diferenciace mezi stavem souladným s právem nebo souladným s neprávem. Tyto dvě velké hodnoty jsou dále precizovány dalšími drobnějšími hledisky, a to rekurzí až do komplexních hlubin, kam by ani představivost narativu nedohlédla, ani by se teorie vědy nedopočítala (nedokalkulovala).

Tato vlastnost AI a efekt neúnavné diferenciace se jeví jako nezpochybnitelný přínos např. při snaze o minimalizaci dezinformací. V soudním řízení dochází k ohýbání i manipulaci reality (viz fázový stav v kapitole nazvané Pozorované prostředí – soudní proces). Nemusí se jednat přímo o lhaní, falšování důkazních listin nebo obecně o mnohdy složité prokazování jejich věrohodnosti. I výpověď svědků, aniž by si to sami dokázali připustit, může být postižena zašumělostí (bias) nebo fantaziemi. Naopak mechanické přístupy, které zastává věda, šum negenerují.[22]

AI odvozuje svoji moc i kredibilitu současně od narativu a vědy. Posláním AI je zintenzivnit hodnotu účelnosti, protože dokáže – po řádném nastavení – neúnavně vyrovnávat diskrepance mezi oběma metodami poznání. Design AI, tj. jeho architektura i programátorské nastavení, by měl zejména zohlednit setrvačnou inklinaci k matematicky čitelnější právní jistotě. Opatření, jak tomuto zabránit, bude více, ale dovolujeme si navrhnout předem povinné nastavení zpětnovazebního mechanismu na minimálně 1 % objemu AI pro hodnotu spravedlnost; tato část by byla pod svrchovanou kontrolou lidského operatéra[23] a AI ji bude respektovat a vnímat jako trpěný black­box lidí. Vznikne-li tak pro AI dilema, měla by se člověka zeptat, tedy poptávat odpověď v metodě narace.

Nastavování a ladění systému AI v právu může být náročné. Již nyní máme řadu dilemat (jako Eichmann) a paradoxů (jako sorites paradox), které jsme jako lidé dokázali s pomocí metody narativu nebo vědou překlenout. Mnohdy však za horizontem vyrostl další vrchol a objevila se další otázka.[24] Tyto otázky vznikají na rozhraní mezi metodami poznání a označujeme je různě. Na rozhraní s narativem vznikají absurdity, na rozhraní s vědou paradoxy a na rozhraní s AI halucinace.

Rovnováha s pomocí komplexního programu 

V právu ke konfliktům mezi hodnotami dochází pravidelně a je na soudcích, aby se pokusili najít rovnovážný bod a v souladu s tím případ autoritativně rozhodli. V odrazu tří zrcadel existuje v konkrétním okamžiku právě jeden rovnovážný bod, jediná správná odpověď na otázku, která je uzlem sváru soudního řízení. Soudce při rozhodování zapojuje různé obrazy zrcadel. V případě AI to může být struktura založená na Radbruchově formuli.

Radbruchova formule je program, který agreguje tři základní hodnoty v právu – spravedlnost, právní jistotu a účelnost. V aplikační praxi nenarazíme na jeho ryzí podobu, ale spíš jej pozorujeme v granulované verzi zohledňující další kritéria a hlediska přicházející ze vzájemné interakce narativu, vědy i samotné AI. Program neomezuje, ale zvyšuje způsobilost řádného fungování práva v komplexním sociálním prostředí. Radbruchova formule v ryzí formě je určitým garantem i nejvyšší kolizní normou: ať se stane cokoliv, poslední slovo – fail save – by měla mít vždy spravedlnost a narativ pocházející přímo od účelu člověka (viz náš návrh opatření z přechozí kapitoly).

Přednosti a rizika AI v právu

Znovu si připomeňme otázku z úvodu: proč zavádíme technologii AI do práva a jaký sociální problém tímto hodláme vyřešit? Hlavním důvodem, proč zavádíme AI do práva, je využít jejích předností: příležitost rozšířit naše kapacity při pozorování i interpretaci reality. AI je schopna absorbovat z reality více interpretací narativu i vědy a odstínit nedostatky každé metody. Stereotypy v jednání nutí lidi jednat rutinně; máme kognitivní limity (zejména lenost a zapomnětlivost); neznalost nás nutí některá naše jednání opakovaně hodnotit. Obojí vnímáme jako sociální problém a překážku další evoluce. Díky technologii AI přestaneme přemýšlet rutinně a přestaneme přehodnocovat.[25] Je jistě osvobozující mít okamžitý přístup k osvědčeným rozlišením (předvýběr) bez toho, aniž bychom museli zpětně sledovat sekvence vypracování. Tak, jako se lze spolehnout na rozlišení, že Země je kulatá, a ne placatá, lze se i v komplexnějších informačních systémech (např. díky blockchainu) spolehnout na „obdobná“ rozlišování faktů a pravd od balastu či výmyslů. AI je příležitost, jak odstínit z reality šum. Odvrácenou stranou je s tím spojená hrozba, že lidé se stanou pohodlní, že bude potlačena jejich kreativita, což se ukazuje jako demoralizující.[26] I přesto nevidíme důvod přeceňovat přínos člověka, protože sám je řízen mnohdy stejně „nespolehlivou“ inteligencí. AI nám pomůže realitu lépe poznat a zpracovat z ní užitečné informační signály.

Závěr

Na začátku jsme si položili otázku, proč zavádíme AI do práva a jaký sociální problém chceme touto technologií vyřešit. Abychom získali odpověď, zaujali jsme ve výkladu realistický přístup k právu a pozorovali soudní proces. Právní realisté představují směr právního myšlení zdůrazňující, že právo není jen souborem abstraktních pravidel, ale je potřeba jej chápat v kontextu skutečné aplikace a v interakci se společností. Jinými slovy, považují za právo to, co konstatuje soud. Právě soudci (a do jisté míry i zákonodárci) mají vypracovanou citlivost vůči právním problémům a nedostatečnostem nějaké dané normy. Jejich narativ z pozice „někteří za všechny“[27] tak funguje jako zpětná vazba. Pokud je hlavním posláním práva rozplétat uzly, pak čím více informací bude v soudním procesu zpracováno, tím kvalitnějšího rozhodnutí může být dosaženo. Zpracování více informací je důvodem, proč zavádět technologie do práva, protože předpokládáme, že komplexním zpracováním informací dosáhneme přesnějších (právně jistějších) a spravedlivějších výstupů aplikace práva.

AI přináší příležitost významného navýšení výpočetní kapacity informací. S ohledem na Kafkův Proces můžeme díky AI poznat více, než nám autor na stránkách románu zanechal. To je vskutku velká síla, jež by v literárním světě Kafkova Procesu zásadně změnila osud Josefa K., kterého stihl nespravedlivý konec. Ve skutečném světě, a obzvlášť v právu, bychom měli s touto sílou jednat s pokorou[28] a již při designu AI dbát o vyváženou, byť zjednodušenou, přítomnost právních hodnot. Inspirací může být Radbruchova formule, která by jako skript (program) byla zabudována do srdce právní AI.

 

JUDr. Libor Pavlíček je advokátem v advokátní kanceláři LAW GROUP v Brně a externím doktorandem na PF UK v Praze.

 

Ilustrační foto: AI  (Copilot)

---

[1] T. Gillespie: Wired shut: copyright and the shape of digital culture, MIT Press, Cambridge, Mass, 2007, str. 2.

[2] M. Svítek, L. Žák: Holistický pohled na problematiku vědomí, in V. Mařík, T. Maříková, M. Svítek (ed.): Eseje o vědomí: směrem k umělé inteligenci, Pavel Mervart, Červený Kostelec 2024, str. 166.

[3] Hodnoty jsou Radbruchem zmíněny už v jeho předválečných textech (např. Filozofie práva – předválečné vydání z 30. let), ale kladen je velký důraz na právní jistotu. Až po válce Radbruch zdůrazňuje, že právo je vůlí ke spravedlnosti, a tím posouvá těžiště od jistoty ke spravedlnosti – v případě extrémní nespravedlnosti. K použitelnosti Radbruchovy ontologie v diskurzu práva a počítačových věd viz M. Hildebrandt: Law for computer scientists and other folk, Oxford University Press, Oxford 2020, str. 18. Naopak výhrady k použitelnosti viz R. Alexy: Law‘s ideal dimension, Oxford University Press, Oxford 2021; nebo J. Finnis: Natural law and natural right, 2nd ed., Oxford University Press, Oxford 2011.

[4] Politickými cíli nejsou myšleny cíle politických stran, ale širší množina cílů a představ, jak má být řízena obec – polis.

[5] M. Svítek, L. Žák: V zrcadlech umělé inteligence, narace a vědy, 10.13140/RG.2.2.33848.66567. (2024), dostupné na: https://www.researchgate.net/publication/386573722_V_zrcadlech_umele_inteligence_narace_a_vedy.

[6] B. Christian, T. Griffiths: Algoritmy pro život: jak využít počítačové algoritmy při každodenním rozhodování, Pod povrchem, Jan Melvil Publishing, Brno 2017, str. 147 a násl.

[7] Pojmy předvědění, předporozumění a předsudek jsou před-struktury v právu, tedy východiska poznávání práva interpretem. Viz J. Hroch, M. Konečná, L. Hlouch: Proměny hermeneutického myšlení, Centrum pro studium demokracie a kultury, Brno 2010, str. 156. Oto Weinberger chápe předporozumění jako „… znalosti interpreta o předmětu sdělení a o způsobu a podstatě toho, jak interpret tento předmět chápe. … Předporozumění je zčásti chápáno jako kategoriální rámec porozumění, zčásti jako předvídatelný přístup k interpretovanému projevu.“ Viz L. Hlouch: Teorie a realita právní interpretace, Aleš Čeněk, Plzeň 2011, str. 95.

[8] Představu lidského blackboxu bychom mohli připodobnit k zašumělému (biased) systému, který dokáže lépe reagovat na změny a absorbuje nově se objevující hodnoty. Blíže viz D. Kahneman, O. Sibony, C. R. Sunstein: Šum: o chybách v lidském úsudku, Jan Melvil Publishing, Brno 2021, str. 309 a 314.

[9] Dokonce již některé neolitické společnosti se vyznačovaly rozvinutým smyslem pro spravedlnost tak, jak ji vnímáme dnes. Viz D. Graeber, D. Wengrow: Úsvit všeho: nová historie lidstva, History, Jan Melvil Publishing, Brno 2024.

[10] L. Pavlíček: Algoritmizované rozhodování u triviálních právních otázek, Revue pro právo a technologie č. 29/2024, dostupné na: https://journals.muni.cz/revue/article/view/35297.

[11] J. Derrida: Síla zákona: „Mystický základ autority“, Oikoymenh, Praha 2002, str. 22 a 36.

[12] Citováno dle N. Luhmann: Právo společnosti. Společnost, Academia, Praha 2021, str. 280.

[13] V. Svoboda, J. Peregrin: Od jazyka k logice: filozofický úvod do moderní logiky, Galileo, Academia, Praha 2009, str. 138.

[14] Op. cit. sub 12, str. 249.

[15] „Logic is the art of going wrong with confidence.“ Citováno z S. G. Krantz: The proof is in the pudding: the changing nature of mathematical proof, Springer, New York 2011, str. 1.

[16] K. Němečková: Postmaterialistické paradigma: nelokální teorie vědomí – člověk jako spojnice mezi věčností a časem, in V. Mařík, T. Maříková, M. Svítek (ed.), op. cit. sub 2, str. 108.

[17] Op. cit. sub 5.

[18] Eventualita je jakákoliv událost, která zahrnuje změnu. V naší pozorované realitě má být obsaženo maximum eventualit, proto odkazujeme i na možnosti (eventualites) ve smyslu jiné komplementární vědecké teorie. A. S. Gordon, J. R. Hobbs: A formal theory of commonsense psychology: How people think people think, Cambridge University Press, 2017, str. 93 a 196.

[19] Mimochodem, když se na tuto otázku „kolik zrnek písku tvoří hromadu“ zeptáte v ChatGPT, dostanete nejprve obecnou odpověď příslušnou k vysvětlení sorites paradox, a nakonec se vás ChatGPT zeptá: a co si myslíte vy, kolik zrnek písku tvoří hromada? Touto protiotázkou nám AI podává reflexi: jaký praktický smysl má vědět, kolik zrnek je hromada?

[20] Op. cit. sub 12, str. 166.

[21] Tento termín používáme v neutrálním významu podle L. Lessig: Code: version 2.0, Member of the Perseus Books Group, New York 2006. Viz též Ch. Steiner: Automate this: How Algorithms Came to Rule Our World, Penguin Books, London 2012.

[22] Op. cit. sub 8, str. 115.

[23] European Commission: Approval of the content of the draft Communication from the Commission – Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), Brussels, 6. 2. 2025 C (2025) 924 final, bod 18.

[24] V knize Stopařův průvodce po galaxii AI zná již koncovou odpověď na „základní otázku života, vesmíru a vůbec“, tedy číslo 42. My ostatní ještě potřebujeme najít cestu k tomuto zdánlivě absurdnímu poznání.

[25] Přehodnocovat v tomto kontextu označuje mj. doporučování ve smyslu AI Act. Viz op. cit. sub 23, bod 57.

[26] Op. cit. sub 8, str. 297 a 304.

[27] Op. cit. sub 12, str. 207.

[28] Přehnaně optimistickou vizi bychom na závěr zmírnili připomenutím známého případu systému COMPAS, který měl americkým soudcům pomáhat predikovat riziko recidivy po podmíněném propuštění. U systému COMPAS se potvrdila „zašumělost“ (algorithmical bias). Dále viz G. Van Dijck: Predicting Recidivism Risk Meets AI Act, European journal on criminal policy and research č. 3/2022, str. 407-423, online, dostupné z: https://doi.org/10.1007/s10610-022-09516-8. [cit. 2025-11-12].