S výzvami spojenými s příchodem nástrojů umělé inteligence se potýkají víceméně všechny byznysové segmenty. Z pohledu právníků jde o vítanou pomoc například pro rešerše a rychlou orientaci v historických judikátech, zároveň ale tato inovace přináší a přinášet bude celou řadu otazníků. Nejistota přitom nepanuje jen kolem technologií či odpovědnosti za jejich výstupy. To neméně podstatné se odehrává na subtilnější rovině, totiž v oblasti psychologie, jak naznačila první řečnice večera, řídící partnerka společností SingleCase a SingleDraft Lucie Tvarůžková.
„Z mých debat s právníky vyplývá, že samotná technologie je na tom zajímá ze všeho nejméně. Myslím, že pro adaptaci AI je nejpodstatnější to, co se děje v našich hlavách,“ přibližuje svůj pohled. Podle Tvarůžkové stojí většina lidí před nelehkým úkolem, jímž je přijmout novou perspektivu. Připomněla příběh tradovaný o firmě Black & Decker, která údajně nové rekruty přesvědčovala, že firma neprodává vrtačky, ale kvalitně vyvrtanou díru do zdi. Podobný přístup je podle ní nutný i při zavádění nástrojů AI nejen do právnických firem. „Ani právníci neprodávají klientům své rešerše,“ naznačuje.
„Každý, kdo přemýšlí o adaptaci AI ve své firmě, by si měl dobře identifikovat, co je ta služba a ta hodnota, kterou od něj zákazníci čekají. Zní to jako banalita, ale není. Firmy inklinují k tomu pořídit si nástroje, zapnout je a tím je celá věc vyřešena. To nestačí. Pro mě to nejsou jen nástroje, ale změna paradigmatu. Poslední roky sloužily technologie hlavně automatizaci, ale tohle je něco jiného, a proto jsme z toho možná tak nervózní,“ pokračuje Tvarůžková.
Specificky právnické profesi stěžují adaptaci nástrojů AI podle řečnice dva jevy. První z nich je „povinnost“ právníka vše vědět, druhý averze k IT. „Právníci si nemohou dovolit nevědět, proto se i mezi sebou naučili vystupovat tak, že vědí. Z toho pak pramení úzkost, protože pod sebevědomou fasádou je skryt ten fakt, že nevědí. Je to ale zbytečné, protože mohu všechny uklidnit, že pokud jde o AI, v zásadě neví nikdo nic. Další věc je, že řada právníků šla na práva právě proto, že nemají blízko k technologiím. A teď se hroutí z toho, že jim technologie lezou do firmy všemi možnými kanály,“ říká. Rozhodnutí zavádět nástroje AI do firmy tedy musí předcházet důkladná příprava a mentální práce. „Není to věc workshopu a tříměsíčního zaškolení. Jde o úplnou změnu mindsetu, změnu práce, způsobu, jak o ní přemýšlíme, a vyžaduje to skutečně otevřenou mysl,“ přidává.
Implementace AI je inovace. Problém podle Tvarůžkové ale je, že i slovo inovace bývá často špatně pochopeno. „Inovace není nějaký magický recept, který vše změní. Kdo chce inovovat, musí rozebrat celý proces, podívat se na každý detail a zpochybnit ho. Tedy ptát se, zda by se to nedalo dělat jinak. Je to strašně těžké, ne-li nemožné, protože zpochybňujete svou vlastní nedávnou práci,“ varuje bývalá novinářka a zároveň navrhuje možné řešení. „Do takové chvíle je vhodné přivést člověka, který o tom oboru neví vůbec nic. Bude klást pro vás absurdní otázky, ale má větší šanci najít místo, které lze cracknout, a přinést nějaké vylepšení,“ dodává.
Správný digitální kentaur
Častým mixem emocí ve vztahu k umělé inteligenci je nadšení brzděné obavami. Nevyhýbá se přitom ani těm největším expertům na danou oblast, k nimž lze jistě řadit i další z diskutujících, Alžbětu Solarczyk Krausovou z Ústavu státu a práva AV ČR, zakladatelku a CEO Respectful AI. V diskusi vedené Veronikou Huml Válovou z Trinity Bank vystoupila spolu s Evelinou Gabašovou, vedoucí datovou vědkyní ve společnosti Gen. Gabašová se zaměřuje na výzkum AI agentů a velkých jazykových modelů s důrazem na zachování a podporu digitální svobody uživatelů. Aktuálně pracuje na umělé inteligenci pro detekci online podvodů.
Solarczyk Krausová zase představila aktuální projekt Ústavu státu a práva, který publiku tvořenému převážně firemními právníky zajisté přijde vhod. „Již rok pracujeme na vývoji právního jazykového modelu a zároveň nezávislých benchmarků pro testování právních jazykových modelů, které by právníkům měly usnadnit to, jak si budou vybírat právní jazykový systém nebo AI agenty pro svou praxi.
Solarczyk Krausová zároveň rozvíjí i svou další specializaci, což je etika v technologiích, a dokončuje knihu nazvanou Digitální sebedůvěra: Jak si uchovat lidskost a autenticitu v éře umělé inteligence. „Ta úzkost z umělé inteligence, o které mluvila Lucie Tvarůžková, je sdílená, stejně jako obava ji přiznat. Na to se musíme zaměřit. Ujasnit si, jaké máme osobní hodnoty a jak a co má každý z nás udělat, aby pro nás AI byla přínosem,“ říká.
Gabašová navazuje s tím, že z jejího pohledu musí AI lidem pomáhat, ne je nahrazovat a z lidí udělat jen kontrolory jejích výstupů. „To pro člověka není produktivní ani zábavné,“ myslí si. Připomíná výrok spisovatele a blogera Coryho Doctorowa, podle nějž má AI z člověka udělat digitálního kentaura, cosi jako napůl člověka, napůl stroj, ovšem nikoli ve smyslu fyzického kyborga. „Ta metafora znamená, že stroj umožní člověku zvládnout víc, než by dokázal sám. Je to tedy stále nástroj, který člověku poskytuje mnohé možnosti. Dnes je tomu často naopak, je to obrácený kentaur, kdy člověk slouží technologii, což je právě ten případ, kdy kontroluje práci AI,“ vysvětluje vědkyně. Sama proto volí opačný přístup. „Snažím se dávat lidem možnosti mimo jejich normální způsob práce. Product manager bez znalosti programování může sám s pomocí AI agenta zanalyzovat data, bez toho, aby musel žádat o pomoc ostatní a čekat na odpověď,“ dodává Gabašová.
Obě dámy, rozkročené mezi výzkumem a praxí, mají dobrý přehled o slabých místech či častých chybách, ke kterým při aplikaci pokročilých technologií dochází. Gabašová rozvíjí svou myšlenku o nesprávném uchopení celého fenoménu. „Firmy jsou pod tlakem, aby používali AI. Ve skutečnosti mají nejčastěji chat GPT či něco podobného, co navrhne znění e-mailu či sumarizuje dokument. To zas tolik hodnoty nepřináší, protože nikdo nechce číst osobní korespondenci, která vypadá jako text generovaný AI. U sumarizace dokumentů zase AI často přeskočí to skutečně zajímavé, protože vychází ze standardních informací, na něž generuje standardní odpovědi. Nikdo tedy nechce číst texty generované AI, ale korporáty tlačí, aby je lidé pro ten účel používali. To je chyba,“ říká výzkumnice, která působila mimo jiné i v britském Institutu Alana Turinga. Z pohledu Solarczyk Krausové zůstává v otázce implementace nástrojů AI firmami často opomíjena a podceněna oblast etiky. Celá věc je pro ně přitom příležitostí sestavit si hodnotový rámec. „Když firmy začínají uvažovat o etickém využívání umělé inteligence, je to pro ně vágní slovo, soft skill. Řeknou si něco v duchu: dáme na web, že se chováme eticky. Přitom etika může být velmi účinný nástroj, který pomůže compliance. V řadě případů nevíme, jak se zachovat správně, a právo o tom nic neříká. Čili je to taková šedá zóna a právě etika AI může nastavit metriky, vnitřní pravidla, zkrátka stát se nástrojem, který pomůže compliance a auditovatelnosti. Spoustě firem také chybí interní pravidla pro promptování a zacházení s daty, což také spadá do oblasti etiky a auditovatelnosti. Takže je to příležitost pojmout etiku ne jako filozofické téma, ale jako nástroj, který pomůže ke snížení nejistoty a následně tudíž k růstu,“ poukazuje akademička.
Začněte lidmi
Hlas ze světa praktické advokacie na akci reprezentoval Petr Vitha. K zájmu o umělou inteligenci byl dle svých slov víceméně donucen tlakem okolí, jak profesního, tak soukromého. „U svých kolegů i v mé praxi čím dál častěji vnímám, že klienti požadují rychlejší a ekonomičtější dodání právních služeb. Přibývá rovněž lidí, kteří chodí s vlastními právními řešeními, kterou si vygenerovali pomocí AI. Mou rolí tedy už není jen přesvědčovat klienty o správnosti právního řešení, ale musím také bojovat s AI a analýzami, které tato technologie vytváří,“ popisuje genezi svého zájmu o tuto oblast. Holistický přístup k implementaci AI nástrojů, tzv. AI governance, do firemních struktur závěrem představila Stanislava Hejnová, chief compliance officer ve společnosti Aricoma, která sama stojí před úkolem AI governance implementovat. Firma momentálně zaměstnává téměř 2 500 lidí. A právě personál podle Hejnové stále představuje zásadní rizikový faktor. „Při implementaci AI governance je klíčové vyškolit lidi, a to ještě před analýzou potřeb. Lidé na netechnických postech třeba často ani nevědí, že s AI již pracují. Je třeba je s tím důkladně seznámit a vysvětlit jim, proč se k AI governance vůbec přistupuje,“ uzavírá Hejnová.
•
