La Inteligencia Artificial (IA) ha logrado avances significativos en diversos campos, como la creación de imágenes deepfake, la composición de música e incluso la conducción de autos de carrera. No es sorprendente que la IA también haya dejado sentir su presencia en el sistema legal, con implicaciones tanto positivas como preocupantes.
Los tribunales dependen de los abogados para presentar la ley como parte del caso de un cliente, siendo el sustento del sistema legal. Sin embargo, un problema creciente es la aparición de leyes falsas generadas por la IA que se utilizan en disputas legales. El uso de tales falsedades no solo plantea preocupaciones legales y éticas, sino que también supone una amenaza para la fe y la confianza depositadas en nuestros sistemas legales.
Entonces, ¿cómo surgen estas leyes falsas? La IA generativa, una herramienta poderosa con potencial transformador, se emplea para entrenar modelos en vastos conjuntos de datos. Cuando se le solicita, estos modelos crean nuevo contenido, incluidos textos y materiales audiovisuales. Si bien el contenido generado puede parecer convincente, también puede ser inexacto debido a la dependencia del modelo de IA en datos de entrenamiento defectuosos o insuficientes, lo que lleva a lo que se conoce como «alucinación».
En algunos contextos, la alucinación de la IA generativa se puede ver como una producción creativa. Sin embargo, cuando el contenido inexacto creado por la IA se utiliza en procesos legales, se convierte en un problema. Este problema se ve exacerbado por las presiones de tiempo sobre los abogados y el acceso limitado a los servicios legales para muchas personas, lo que puede resultar en descuidos y atajos en la investigación legal y la preparación de documentos. Tales prácticas pueden erosionar la reputación de la profesión legal y la confianza del público en la administración de justicia.
La aparición de casos falsos facilitados por la IA generativa no es solo una preocupación hipotética. En el infame caso Mata v. Avianca en Estados Unidos en 2023, los abogados presentaron un escrito que contenía extractos y citas falsificadas ante un tribunal en Nueva York. El escrito fue investigado utilizando ChatGPT, un chatbot de IA. Sin saber del potencial del modelo para generar información falsa, los abogados no verificaron la existencia de los casos citados. Como resultado, el caso de su cliente fue desestimado y los abogados enfrentaron sanciones y escrutinio público.
Incidentes similares involucrando casos falsos generados por la IA han salido a la luz, incluidos ejemplos que implican a Michael Cohen, antiguo abogado de Donald Trump, y asuntos legales en Canadá y el Reino Unido. A menos que se aborde, esta tendencia tiene el potencial de inducir a error a los tribunales, perjudicar los intereses de los clientes y socavar el imperio de la ley, erosionando en última instancia la confianza en el sistema legal.
Los reguladores legales y los tribunales en todo el mundo han comenzado a responder a este problema. Las barras estatales y los tribunales en Estados Unidos, así como las sociedades legales y tribunales en el Reino Unido, Columbia Británica y Nueva Zelanda, han emitido pautas y reglas para el uso responsable de la IA generativa en la profesión legal.
Sin embargo, más allá de la orientación voluntaria, se necesita un enfoque obligatorio. Los abogados no deben tratar a la IA generativa como un sustituto de su propio juicio y diligencia. Es crucial que verifiquen la exactitud y confiabilidad de la información generada por estas herramientas. Los tribunales australianos deberían adoptar notas de práctica o reglas que delimiten las expectativas cuando se utiliza IA generativa en litigios, no solo para los abogados sino también para guiar a los litigantes sin representación. Este paso proactivo demostraría la conciencia de los tribunales sobre el problema y su compromiso para abordarlo.
Además, la profesión legal debería considerar orientación formal para fomentar el uso responsable de la IA por parte de los abogados. La competencia tecnológica debería convertirse en un requisito de la educación legal continua en Australia. Al establecer requisitos claros para el uso ético y responsable de la IA generativa, podemos fomentar una adopción adecuada y reforzar la confianza pública en nuestros abogados, tribunales y la administración de justicia en el país.
El impacto de la IA en el sistema legal es innegable, pero es crucial abordar los desafíos que presenta para garantizar la integridad y confiabilidad de nuestros sistemas legales. Con medidas proactivas y un uso responsable, podemos navegar por este panorama en rápida evolución y salvaguardar los principios sobre los que se construyen nuestros sistemas legales.
Preguntas Frecuentes
The source of the article is from the blog lokale-komercyjne.pl