Tehnologija potpomognuta umjetnom inteligencijom postala je ključni alat u različitim industrijama, uključujući i pravno područje. Međutim, nedavni incidenti koji uključuju lažne citate slučajeva generirane umjetnom inteligencijom izazvali su zabrinutost zbog njezine zloupotrebe. U iznenađujućem obratu događaja, Michael Cohen, bivši predsjednik Donald Trumpov savjetnik, i njegov odvjetnik našli su se upleteni u kontroverzu oko ovih lažnih citata.
Cohen, koji je prethodno priznao krivnju za nekoliko zločina, uključujući utaju poreza, podnio je ove lažne citate svog odvjetniku Davidu Schwartzu u pokušaju da oslobodi se ranije nadziranog otpusta. Međutim, američki sudac Jesse Furman odbacio je Cohenov zahtjev, nazvavši ga četvrtim neuspješnim pokušajem. Iako je sudac priznao “sramotan i svakako nemaran” karakter incidenta, odbio je nametnuti sankcije Cohen-u ili njegovom odvjetniku.
Odluka suca Furmana temeljila se na uvjerenju da je Cohen iskreno vjerovao da su navedeni slučajevi stvarni. Bilo bi nelogično da Cohen svjesno pruži lažne slučajeve svom odvjetniku, uzimajući u obzir potencijalne posljedice. Sudac je istaknuo mogućnost da Schwartz otkrije problem sam ili da vlasti i sudski organi prepoznaju problem, što bi moglo ozbiljno utjecati na Cohena. Ipak, Furman je naglasio neodgovorno ponašanje Cohena i njegovog odvjetnika.
Zloupotreba umjetne inteligencije od strane Cohena za izmišljanje slučajeva nije izoliran incident. U sličnom slučaju prošle godine, dvojica odvjetnika kažnjena su zbog korištenja AI-powered chatbota nazvanog ChatGPT za stvaranje lažnih citata slučajeva. Cohen je, s druge strane, priznao korištenje Gemini Google-a, ranije poznatog kao Bard. Ovi incidenti ističu potrebu pravne zajednice da se pozabavi i regulira pravilnu upotrebu AI tehnologije u pravnim postupcima.
Učinak lažnih citata generiranih AI-em nije ograničen samo na Cohenov kazneni slučaj. Glavni sudac John Roberts naglasio je važnost AI-a u svojem nedavnom godišnjem izvješću, pozivajući pravosuđe da procijeni njegovu odgovarajuću ulogu unutar pravnog sustava. Potencijalna manipulacija dokaza putem AI-generiranog sadržaja postavlja duboka pitanja o integritetu i pouzdanosti pravnih postupaka.
Iako je Cohenov posljednji zahtjev za smanjenjem nadziranog otpusta bio potaknut njegovim svjedočenjem na Trumpovom sudskom procesu za civilnu prijevaru, sudac Furman smatrao je njegovo svjedočenje proturječnim i bez vjerodostojnosti. Tijekom unakrsnog ispitivanja, Cohen je priznao krivokletstvo i lažiranje u prethodnim postupcima. Ova otkrića ozbiljno su oslabila njegov zahtjev za ranim otpustom.
Sudac Furman smatrao je da su Cohenovi uporni napori za izbjegavanje odgovornosti za svoje zločine dokaz as njegove stalne potrebe za posebnim odvraćanjem. Sudac je Cohena nazvao “perversnim” i naglasio je važnost odgovornosti i kažnjavanja za one koji su prekršili zakon.
Slučaj lažnih citata generiranih umjetnom inteligencijom služi kao opomena. On ističe potencijalne opasnosti povezane s zloupotrebom tehnologije u pravnom sustavu. Pravna zajednica mora proaktivno uspostaviti smjernice i mjere zaštite kako bi spriječila manipulaciju i izmišljanje dokaza. Transparentnost i etičke prakse trebaju biti centralne u integraciji AI u pravosudne postupke.
Često postavljana pitanja (FAQ)
The source of the article is from the blog maestropasta.cz