Umělá inteligence se stala běžnou součástí práce advokátů. Pomáhá při vyhledávání informací, analýze dokumentů, přípravě podkladů nebo při dalších činnostech spojených s poskytováním právních služeb. Její využívání však současně otevírá řadu otázek – mimo jiné kde končí pouhé využití technologického nástroje a začíná poskytování právní služby, kdo nese za výstup odpovědnost nebo jak při práci s AI zachovat povinnost mlčenlivosti.

Právě na tyto otázky reaguje nové stanovisko představenstva České advokátní komory k vymezení pojmu právní služby ve vztahu k využívání umělé inteligence a online platforem advokáty. Představenstvo ČAK jej schválilo na své zářijové schůzi. Stanovisko připravila Sekce pro umělou inteligenci a nové technologie.

O tom, proč stanovisko vzniklo, jaké situace z advokátní praxe řeší a co by si z něj měli advokáti odnést, jsme hovořili s členkou představenstva a předsedkyní Sekce pro umělou inteligenci a nové technologie Barborou Vlachovou a náhradnicí představenstva a místopředsedkyní AI sekce Janou Pattynovou.

 

Začněme úplně od začátku. Co bylo hlavním impulzem pro vznik tohoto stanoviska? Proč ČAK považovala za potřebné se k využívání AI a online platforem při poskytování právních služeb vyjádřit právě nyní?

Barbora Vlachová: Pociťovali jsme především potřebu nahradit a aktualizovat stanovisko z roku 2023, které již bylo do značné míry překonané a neodpovídající současnému vývoji. Rovněž jsme chtěli zareagovat na Guide on the Use of Generative AI by Lawyers, které v říjnu 2025 vydala CCBE.

 

Setkáváte se už dnes v praxi s konkrétními situacemi, kdy není jasné, zda jde ještě o využití technologického nástroje, nebo už o poskytování právní služby?

Barbora Vlachová: V praxi může být vymezení hranice poměrně obtížné. Je tak třeba rozlišovat mezi obecnou právní radou a konkretizovanou právní službou. Rozeznání hranice může být problematické zejména pro klienty, kteří často nevnímají rozdíl mezi individualizovanou právní radou a prostou informací o platném právu. Přitom rozdíl může být i z pohledu odpovědnosti značný. Obecně se ČAK samozřejmě snaží bojovat i proti tzv. „AI vinklaření“.

 

Jedním z hlavních témat stanoviska je právě vymezení pojmu právní služba. Kde podle vás vede hranice mezi AI jako pomocným nástrojem advokáta a situací, kdy už technologický nástroj fakticky poskytuje právní službu? Můžete uvést konkrétní příklad?

Jana Pattynová: Nástroj používaný advokátem bude vždy jen prostředkem k poskytování právních služeb. Právní službu neposkytuje nástroj, ale vždy jen advokát. Nedovoleným poskytováním právních služeb jsou zejména online služby, které nejsou poskytovány advokáty a jsou nabízeny jako právní služba nebo náhrada služeb advokátů. Většinou to vyplývá už z jejich označení například jako „Online advokát“, „AI právník“ či „virtuální právník“, nebo tvrzením typu „poskytujeme právní rady“, „nepotřebujete drahého advokáta“ nebo „okamžité právní řešení“.

 

Pokud advokát při své práci využije výstup vytvořený umělou inteligencí, kdo za něj odpovídá? A může advokát takový výstup převzít bez další kontroly, nebo jej musí vždy ověřit?

Barbora Vlachová: V tomto je postoj ČAK v nově přijatém stanovisku jednoznačný. Advokát se nemůže zprostit odpovědnosti za výstup, který klientovi dodá, nebo za podání, které doručí soudu, tím, že odkáže na užití umělé inteligence. Nutnost kontroly správnosti výstupu je nezbytné.

 

Velmi citlivou otázkou je také advokátní mlčenlivost. Co by měl advokát vědět, než do veřejně dostupného AI nástroje vloží informace týkající se jeho klienta nebo konkrétního případu?

Jana Pattynová: Advokát nesmí zadávat klientská data ani osobní údaje do veřejně dostupných nástrojů umělé inteligence bez odpovídajících smluvních a technických záruk. Rozhodující je konkrétní smluvní a technický režim služby, nikoli její obecná dostupnost nebo samotné označení jako „AI“ – advokát by měl ověřit zejména smluvní závazek důvěrnosti, vyloučení použití vstupních dat k trénování modelů či jinému sekundárnímu účelu, přiměřenou dobu uchovávání, úroveň zabezpečení a právní režim případného předávání dat dozorovým orgánům. Doporučit lze i zásadu minimalizace údajů a podle povahy věci anonymizaci či pseudonymizaci klientských a osobních údajů ještě před jejich vložením do systému. Nicméně pseudonymizace nebo anonymizace dat nejsou nutnou podmínkou využívání AI nástrojů advokáty. Pokud přes nástroj dochází ke zpracování osobních údajů, je namístě uzavřít s poskytovatelem zpracovatelskou smlouvu (DPA).

 

Je z pohledu povinnosti mlčenlivosti rozdíl mezi veřejně dostupným nástrojem a interním či jinak zabezpečeným AI řešením?

Jana Pattynová: V principu ne. I do „interních“ nástrojů budou zapojeni externí dodavatelé. Žádná kancelář si nevyvíjí AI modely zcela sama, jejich trénování je mimořádně náročné a na světě to zvládá jen několik desítek poskytovatelů. Proto jsou smluvní záruky vždy zásadní. U veřejně dostupných nástrojů se podmínky mohou lišit i podle typu licence, a tomu je třeba věnovat pozornost. Vypořádali jsme se i s požadavkem na označení důvěrných informací při jejich předání třetím osobám dle § 3a odst. 2 zákona o advokacii. Ve stanovisku vyjasňujeme, že tento požadavek na označení důvěrných informací může být naplněn i rámcově, pokud právní nebo smluvní režim služby jednoznačně stanoví, že veškerá vstupní data se považují za důvěrná a poskytovatel je nesmí využít pro jiné účely než poskytování služby – individuální označování každého vstupu se pak nevyžaduje.

 

Jaké další základní mantinely by měl podle stanoviska advokát při využívání AI respektovat?

Jana Pattynová: Vedle odpovědnosti advokáta za výstup a povinnosti mlčenlivosti a ochrany důvěrnosti je to zásada nezávislosti – advokát nesmí nahradit vlastní odborný úsudek doporučením technologie a vždy uplatňuje své vlastní nezávislé právní posouzení. Dále je to předcházení konfliktu zájmů – advokát posuzuje, zda zvolený nástroj a režim používání nevytváří zvýšené riziko nechtěného sdílení informací mezi případy či klienty. Nelze opomíjet ani povinnosti plynoucí z předpisů mimo advokacii, zejména z Aktu o umělé inteligenci a GDPR.

 

Má advokát povinnost klienta informovat o tom, že při poskytování právních služeb využívá umělou inteligenci? Záleží v tomto ohledu na tom, k jakému účelu AI použil – například zda šlo jen o administrativní úkon, nebo o práci s právní analýzou či dokumenty klienta?

Barbora Vlachová: Na rozdíl od předchozího stanoviska ČAK z roku 2023 není nezbytné informovat klienta o užití umělé inteligence, ani si vyžádat jeho výslovný souhlas. Je však možné ve smlouvě mezi advokátem a klientem nastavit pravidla jinak.

 

Co by si měl z nového stanoviska odnést advokát, který dnes při své práci používá například ChatGPT nebo jiný nástroj umělé inteligence?

Jana Pattynová: Především to, že umělá inteligence včetně generativní je přípustným nástrojem, který advokát při poskytování právních služeb může využívat, pokud přitom dodrží své povinnosti podle zákona o advokacii a stavovských předpisů.

Advokát by si měl být vědom, že generativní AI vytváří obsah pravděpodobnostně a její výstup může být nepřesný nebo smyšlený, přestože působí věrohodně. Klíčové je proto ověřování výstupů, obezřetné zacházení s důvěrnými informacemi a znalost používaných nástrojů.

Advokát musí také zajistit, že nástroje, které využívá, poskytují dostatečné smluvní záruky ochrany klientských dat. Smluvní záruky se mohou lišit nejen mezi jednotlivými poskytovateli, ale i podle typu licence.

 

Má stanovisko především nastavit hranice a vymezit odpovědnost, nebo má advokátům také pomoci AI bezpečněji a efektivněji využívat?

Barbora Vlachová: Snažili jsme se upravit oboje. Stanovisko se pokouší vymezit hranice, zároveň má být i do značné míry nástrojem pro bezpečné použití umělé inteligence a uvědomění si rizik, které tyto nástroje přinášejí.

 

Lze podle vás očekávat, že se s dalším vývojem umělé inteligence bude muset stanovisko ČAK průběžně měnit a doplňovat?

Barbora Vlachová: Určitě nechceme, aby stanovisko zůstalo statickým dokumentem na několik dalších let. Naopak vyzýváme kolegy k otevřené odborné diskusi a konstruktivní kritice vydaného stanoviska. Sekce bude připomínky pravidelně projednávat a diskutovat o nich, přičemž počítáme s pravidelnou aktualizací.

 

A pokud byste měly dát advokátům jednu praktickou radu, na co by při používání AI neměli nikdy zapomenout?

Barbora Vlachová: Myslím, že by kolegové hlavně neměli zapomínat, že umělá inteligence je dobrý sluha, ale zlý pán.

Jana Pattynová: Advokát nesmí nikdy zapomenout zkontrolovat výstup. Nástroje připravují přesvědčivé a dobře zformátované podklady, ale často v nich jsou chyby – i specializované právní nástroje vykazují určitou míru chyb a halucinací, a proto se na ně nelze spoléhat bez následného ověření advokátem. Advokát je vždy odpovědný za poskytnutou právní službu a veškeré výstupy, i když k nim využil AI. A stejně důležité je v tomto smyslu školit celý tým a dbát na dostatečnou úroveň AI gramotnosti v advokátní kanceláři.

 

Děkuji za rozhovor!

 

Hana Rýdlová, šéfredaktorka Bulletinu advokacie a Advokátního deníku

Foto: ČAK