Pravnici prihvaćaju alate zasnovane na umjetnoj inteligenciji za pravno istraživanje, ali zabrinutost je porasla zbog mogućnosti da ovi alati proizvode pogrešne ‘halucinacije’ – dezinformacije unutar njihovih rezultata. Studija naziva “Slobodne od halucinacija? Procjena pouzdanosti vodećih AI alata za pravna istraživanja”, izvješćuje Agerpres, stavila je fokus na ovaj problem.
Istraživanje, koje potječe iz publikacija Sveučilišta Stanford, analizira upotrebu sofisticiranih jezičnih modela u AI alatima koje koriste pravnici u svrhu istraživanja, otkrivajući njihov potencijal za generiranje ovih netočnosti. Autori studije izražavaju rezervacije zbog tvrdnji kompanija koje proizvode AI alate, tvrdeći da su riješili problem halucinacija, nazivajući takve tvrdnje ‘pretjeranim’.
Proučavajući poznate alate poput LexisNexisa i Thomson Reutersa, otkrili su greške u 17% do 33% slučajeva. Te greške uključivale su pozivanje na ne postojeće zakone i krivo tumačenje sudske prakse.
Važnost problema ističe se činjenicom da, počevši od siječnja 2024., barem 41 od 100 najvećih odvjetničkih tvrtki u SAD-u počinje koristiti AI u svojoj praksi. Takav trend označava promjenu u načinu obavljanja pravnog rada i točnosti pravne savjetodavne usluge pružene klijentima.
Autori su pozvali pravnike da pomno pregledaju i provjere rezultate generirane AI alatima. Također su pozvali developere ovih AI alata da budu transparentni o točnosti svojih proizvoda i pruže dokaze koji podržavaju svoje tvrdnje o točnosti, čuvajući integritet pravnog istraživanja i prakse.