인공지능(AI)은 딥페이크 이미지 생성, 음악 작곡, 경주 카 드라이브와 같은 여러 분야에서 중요한 발전을 이루었다. 놀랍게도 AI는 법률 제도에서도 그 존재를 강하게 느끼게 하며 긍정적인 측면과 우려되는 측면이 모두 함께 존재한다.
법원은 법률을 고객의 사례의 일부로 제시하는 변호사들에게 의지함으로써 법률 제도의 척추 역할을 수행한다. 그러나 증가하는 문제는 AI가 생성한 가짜 법률이 법률 분쟁에서 사용되고 있다는 문제다. 이러한 거짓 정보의 사용은 단순히 합법성과 윤리에 대한 우려로 불안을 뿌릴뿐만 아니라 법률 체계에 믿음과 신뢰에 대한 위협을 제공한다.
그렇다면 이러한 가짜 법률은 어떻게 발생할까? 변형적 AI, 변형적 잠재능력을 가진 강력한 도구는 방대한 데이터셋에서 모델을 훈련시키도록 사용된다. 이러한 모델은 촉발되었을 때 텍스트 및 영상 물질을 포함한 새로운 콘텐츠를 생성한다. 생성된 콘텐츠는 설득력 있게 보일 수 있지만, AI 모델이 결함 또는 충분하지 않은 훈련 데이터에 의존하여 부정확할 수도 있기 때문에 “환청”으로 알려진 현상이 발생한다.
일부 상황에서 변형적 AI 환청은 창의적 결과물로 간주될 수 있다. 그러나 AI가 생성한 부정확한 콘텐츠가 법정에서 사용될 때 문제가 된다. 이 문제는 변호사의 시간 압박과 많은 개인들에게 법률 서비스에 대한 접근이 제한되어 있음을 감안할 때, 법률 연구 및 문서 작성에서 부주의와 지름길이 발생할 수 있으며, 이러한 실천은 법적 직업의 평판과 사회가 정의의 실행에 대한 신뢰를 침식시킬 수 있다.
2023년 미국의 Mata v Avianca 사건에서 잘 알려진 가짜 사례가 발생했다. 변호사들이 뉴욕 법원에 허위 인용과 경우 인용이 포함된 서류를 제출했다. 이 서류는 AI 챗봇인 ChatGPT를 사용하여 조사되었다. 모델이 거짓 정보를 생성할 수 있는 잠재력을 인식하지 못한 변호사들은 인용된 사례의 존재 여부를 확인하지 못했다. 결과적으로 그들의 고객 사례는 기각, 변호사들은 처벌과 대중적 비판을 받았다.
AI에 의해 생성된 가짜 사례를 포함한 비슷한 사례들은 미국 전 법률사무주식회, 도널드 트럼프의 전 변호사인 마이클 코헨, 캐나다와 영국의 법률 문제 등과 관련된 예가 드러났다. 이러한 추세가 대응되지 않으면 법원을 혼란에 빠뜨리고 고객의 이익을 훼손시킬 가능성이 있으며 법치의 원칙을 훼손하는 결과를 초래할 수 있다.
법률 규제기관과 전세계 법원은 이 문제에 대응하기 시작했다. 미국 주변의 상원과 법원뿐 아니라 영국, 브리티시 콜럼비아, 뉴질랜드의 법률 협회 및 법원은 변형적 AI의 적절한 사용에 대한 지침과 규칙을 발표했다.
그러나 자발적인 가이드 이상의 의무적인 접근이 필요하다. 변호사는 변형적 AI를 자신의 심사와 성실의 대체책으로 취급해서는 안 된다. 이 도구로 생성된 정보의 정확성과 신뢰성을 확인하는 것이 중요하다. 오스트레일리아의 법원은 변형적 AI 사용 시 변호사뿐만 아니라 자기 대표 소송자를 안내하기 위한 실천 노트나 규칙을 채택해야 한다. 이러한 선제적인 조치는 법원이 문제를 인식하고 해결하려는 의지를 보여줄 것이다.
또한 법률 직업은 변형적 AI의 책임 있는 사용을 촉진하기 위한 공식적인 지침을 고려해야 한다. 기술 능력은 변형적 AI의 윤리적이고 책임 있는 사용을 위한 변호사의 지속적인 법률교육 요구사항이 되어야 한다. 변형적 AI의 적절한 채택과 공중의 변호사, 법원 및 국가 내 법정의 신뢰도를 강화할 수 있게끔 명확한 요구사항을 설정함으로써 우리는 이러한 도구에 대한 고객의 신뢰와 사법제도를 보호할 수 있다.
인공지능이 법률 제도에 미친 영향은 부인할 수 없지만, 도전과 과제를 해결하여 법률 제도의 통합성과 신뢰성을 보장할 것이다. 선제적인 조치와 책임 있는 사용을 통해 우리는 빠르게 변화하는 이 경험에 대처하고 법률 제도가 담긴 원리를 보호할 수 있다.
FAQ
The source of the article is from the blog enp.gr