AI-генерираната технология е станала съществено средство в различни индустрии, като юридическата сфера не е изключение. Въпреки това, последните инциденти, свързани с фалшиви цитати на случаи, генерирани от изкуствен интелект, пораждат загриженост относно нейното злоупотребление. В един неочакван обрат, Майкъл Коен, бившият фиксер на президента Доналд Тръмп, и неговият адвокат се оказаха замесени в скандал относно тези фалшиви цитати.
Коен, който по-рано се призна виновен за няколко престъпления, включително укриване на данъци, представи тези фалшиви цитати на случаи на своя адвокат, Дейвид Шварц, с цел да постигне ранно освобождение от неговия надзорен дневен режим. Въпреки това съдията от САЩ Джеси Фърман отхвърли искането на Коен, обявявайки го за четвъртото неуспешно опитване. Въпреки че съдията призна „срамен и определено небрежен“ характер на случилото се, той отказа да наложи санкции на Коен или неговия адвокат.
Решението на съдията Фърман бе основано на разбирането, че Коен наистина вярвал, че цитираните случаи са истински. Би било нелогично Коен да предостави фалшиви случаи на своя адвокат, като има предвид потенциалните последици. Съдията подчерта възможността Шварц да открие проблема сам или правителството и съдебните органи да идентифицират проблема, което би могло сериозно да засегне Коен. Въпреки това, Фърман подчерта небрежното поведение от страна на Коен и неговия адвокат.
Използването на ИИ от Коен за фалшифициране на цитати на случаи не е изолиран случай. В подобен случай миналата година, двама адвокати бяха наказани за използването на чатбот, задвижван от ИИ, наречен ChatGPT, за създаване на фалшиви цитати на случаи. Коен, от друга страна, призна, че използвал Gemini на Google, познат преди като Bard. Тези случаи подчертават необходимостта от юридическото общество да се заеме с правилната употреба на технологията на ИИ в правните процеси.
Въздействието от фалшивите цитати на случаи, генерирани от ИИ, не е ограничено само до наказателното дело на Коен. Главният Съдия Джон Робъртс подчерта важността на ИИ в своя годишен доклад, насърчавайки юстициите да оценят неговата подходяща роля в правната система. Възможността за манипулиране на доказателства с помощта на съдържание, генерирано от ИИ, поражда дълбоки въпроси за целостността и надеждността на правните процеси.
Докато последното искане на Коен за намаляване на неговия надзорен режим беше предизвикано от неговото показание в гражданския мошенически процес на Тръмп, съдия Фърман намери това показание като противоречиво и липсващо на достоверност. По време на кръстосано допитване, Коен призна, че е извършил лъжливо свидетелство и измама в предишни производства. Този разкритие сериозно подкопа основите на искането му за ранно освобождаване.
Съдия Фърман разглежда упоритите усилия на Коен да се измъкне от отговорността за престъпленията си като доказателство за неговата продължаваща нужда от специфично сдържане. Съдията нарече поведението на Коен „перверзно“ и подчерта важността на отговорността и наказанието за тези, които са нарушили закона.
Случаят с фалшивите цитати на случаи, генерирани от ИИ, служи като предостережение. Той подчертава възможните опасности, свързани със злоупотребата на технология в правната система. Юридическото общество трябва активно да установи насоки и мерки за предотвратяване на манипулирането и фалшифицирането на доказателства. Прозрачността и етичните практики трябва да бъдат централни за интеграцията на ИИ в правните процедури.
Често Задавани Въпроси (FAQ)
The source of the article is from the blog combopop.com.br