Umelá inteligencia (AI) dosiahla významný pokrok v rôznych oblastiach, vrátane vytvárania deepfake obrázkov, skladania hudby a dokonca aj riadenia pretekárskych áut. AI tiež neprekvapivo zanechala svoju stopu v právnom systéme, s pozitívnymi aj znepokojujúcimi dôsledkami.
Súdy sa spoliehajú na právnikov, ktorí predkladajú zákony ako súčasť prípadu klienta, čo je chrbtom právneho systému. Avšak narastajúcim problémom je vznik falošných zákonov generovaných AI, ktoré sa používajú v právnych sporoch. Použitie takýchto nepravdivostí nielenže vzbudzuje obavy o legalitu a etiku, ale tiež predstavuje hrozbu pre vieru a dôveru vloženú do našich právnych systémov.
Ako vznikajú tieto falošné zákony? Generatívna AI, silný nástroj s transformačným potenciálom, je využívaná na trénovanie modelov na rozsiahlych datasetoch. Keď sú tieto modely vyzvané, vytvárajú nový obsah, vrátane textových a audiovizuálnych materiálov. Zatiaľ čo vygenerovaný obsah môže pôsobiť presvedčivo, môže byť aj nepresný v dôsledku závislosti modelu AI na chybných alebo nedostatočných trénovacích dátach, čo vedie k tzv. „halucinácii“.
V niektorých kontextoch môže generatívna AI halucinácia byť vnímaná ako tvorivý výstup. Avšak keď sa nepresný obsah vytvorený AI používa v právnych procesoch, stáva sa problémovým. Tento problém sa zhoršuje časovým tlakom na právnikov a obmedzeným prístupom k právnym službám pre mnohých jednotlivcov, čo môže viesť k nedbanlivosti a skratkám pri právnom výskume a príprave dokumentov. Takéto praktiky môžu podkopať renomé právnickej profesie a dôveru verejnosti v spravodlivosť.
Výskyt falošných prípadov uľahčených generatívnou AI nie je len hypotetickým obavou. V známom prípade Mata v Avianca v Spojených štátoch v roku 2023 právnici predložili návrh obsahujúci zmanipulované výpisy a citácie prípadov súdu v New Yorku. Návrh bol vypracovaný pomocou ChatGPT, AI chatbota. Nevedomí o potenciáli modelu generovať falošné informácie, právnici neoverili existenciu citovaných prípadov. Následne bol prípad ich klienta zamietnutý a právnici sa stretli s sankciami a verejným pohoršením.
Podobné incidenty s falošnými prípadmi generovanými AI vyšli na verejnosť, vrátane prípadov týkajúcich sa Michaela Cohena, bývalého právnika Donalda Trumpa, a právnych záležitostí v Kanade a Spojenom kráľovstve. Pokiaľ sa tieto problémy nevyriešia, tento trend má potenciál zavádzať súdy, poškodzovať záujmy klientov a podkopávať zásady právneho štátu, čím by sa nakoniec oslabila dôvera v právny systém.
Právni regulátori a súdy po celom svete začali riešiť tento problém. Štátne advokátske komory a súdy v Spojených štátoch, ako aj justičné spoločnosti a súdy v Spojenom kráľovstve, Britskej Kolumbii a Novej Zélandii, vydali usmernenia a pravidlá pre zodpovedné používanie generatívnej AI v právnickom povolaní.
Avšak okrem dobrovoľných usmernení je potrebný aj povinný prístup. Právnici by nemali generatívnu AI považovať za náhradu za vlastné posúdenie a starostlivosť. Je pre nich nevyhnutné overiť presnosť a spoľahlivosť informácií generovaných týmito nástrojmi. Austrálske súdy by mali prijať pravidlá alebo pravidlá postupov, ktoré vymedzujú očakávania pri používaní generatívnej AI v súdnom konaní, nie len pre právnikov, ale aj ako vodítko pre samozastupujúcich sa straníkov. Tento proaktívny krok by demonštroval povedomie súdov o probléme a ich odhodlanie tento problém riešiť.
Okrem toho by sa právnická profesia mala zaoberať formálnymi usmerneniami na podporu zodpovedného používania AI právnymi zástupcami. Technologická zdatnosť by mala byť požiadavkou na stále vzdelávanie právnikov v Austrálii. Stanovením jasných požiadaviek na etické a zodpovedné používanie generatívnej AI môžeme podporiť vhodné prijatie a posilniť dôveru verejnosti voči našim právnikom, súdom a celkovej správe spravodlivosti v krajine.
Vplyv AI na právny systém je nevyhnutný, ale je dôležité riešiť výzvy, ktoré predstavuje, aby sme zabezpečili integritu a dôveryhodnosť našich právnych systémov. S proaktívnymi opatreniami a zodpovedným používaním môžeme zvládnuť tento rýchlo sa meniaci priestor a chrániť zásady, na ktorých sú naše právne systémy postavené.
FAQ
The source of the article is from the blog elperiodicodearanjuez.es