In una decisione rivoluzionaria, un giudice nello stato di Washington ha vietato l’uso di video migliorati dall’intelligenza artificiale (IA) come prova in un caso penale. Questa sentenza è considerata la prima del suo genere negli Stati Uniti. La decisione del giudice del King County Superior Court, Leroy McCullogh, resa pubblica venerdì, mette in luce preoccupazioni sulla affidabilità e trasparenza della tecnologia IA nei procedimenti legali.
Il giudice ha descritto il video potenziato dall’IA come “innovativo” e ha argomentato che si basa su metodi opachi per interpretare e presentare informazioni visive. McCullogh ha espresso preoccupazioni riguardo all’ammissione di prove potenziate dall’IA che potrebbero confondere la giuria e complicare il processo, scatenando un dibattito secondario sul modello di IA non sottoposto a revisione tra pari utilizzato per generare il video potenziato.
Il caso coinvolge Joshua Puloka, accusato di un triplo omicidio fuori da un bar nell’area di Seattle. Il team di difesa di Puloka ha cercato di introdurre un video girato con il cellulare migliorato da un software di apprendimento automatico come prova. Tuttavia, i pubblici ministeri hanno sostenuto che non esiste un precedente legale che consenta l’uso di tale tecnologia nei tribunali penali. Gli esperti legali credono che questo sia il primo caso penale in cui un tribunale statunitense ha affrontato l’uso di prove potenziate dall’IA.
Il machine learning, una sotto-categoria dell’IA, ha guadagnato importanza negli ultimi anni come base di molti moderni sistemi AI. Essa coinvolge l’uso di algoritmi che consentono ai computer di apprendere e fare previsioni basate su modelli di dati. Il software utilizzato per migliorare il video in questo caso è stato sviluppato da Topaz Labs, una società con sede in Texas nota per i suoi strumenti di elaborazione video utilizzati da professionisti creativi.
La decisione arriva in un momento in cui l’uso della tecnologia AI, compresi i deepfake (video o immagini manipolate), sta rapidamente evolvendo. I legislatori a livello statale e federale si confrontano con i potenziali rischi associati a queste tecnologie. La comunità giuridica è particolarmente preoccupata per l’accuratezza, la credibilità e il possibile pregiudizio dei modelli di IA utilizzati per manipolare prove visive.
Gli analisti video forensi ed esperti hanno opinioni contrastanti sulla affidabilità dei video potenziati dall’IA. I sostenitori argomentano che possano chiarire e migliorare i dettagli visivi, mentre i critici avvertono sui potenziali errori e risultati fuorvianti della tecnologia. Alcuni esperti, come l’ex investigatore scena del crimine George Reis, ritengono che siano necessarie ulteriori ricerche e metodologie sottoposte a revisione tra pari prima che le prove potenziate dall’IA possano essere considerate affidabili in contesti legali.
Domande Frequenti:
Q: Di cosa trattava la decisione del tribunale nello stato di Washington?
A: Il tribunale si è opposto all’uso di video potenziati dall’IA come prova in un caso penale, suggerendo che i metodi opachi della tecnologia e il potenziale di confondere le giurie potrebbero compromettere il processo di giudizio.
Q: Perché il team di difesa voleva presentare prove video potenziate dall’IA?
A: Il team di difesa sosteneva che il video potenziato avrebbe sostenuto la loro richiesta di legittima difesa fornendo una rappresentazione più chiara degli eventi che hanno portato al triplo omicidio.
Q: Quali preoccupazioni ha sollevato il giudice riguardo alle prove potenziate dall’IA?
A: Il giudice ha espresso preoccupazioni sulla mancanza di revisione tra pari e trasparenza nel modello di IA utilizzato per migliorare il video, il che potrebbe portare a controversie e distrazioni durante il processo.
Q: Quali sono alcune delle critiche alle prove potenziate dall’IA?
A: I critici sostengono che le prove potenziate dall’IA possano produrre risultati inesatti e tendenziosi. Ritengono inoltre che siano necessarie ulteriori ricerche e metodologie consolidate per garantire l’affidabilità della tecnologia.
Q: Come stanno affrontando i legislatori i rischi associati alla tecnologia AI?
A: I legislatori a livello statale e federale si stanno attualmente confrontando con i potenziali pericoli della tecnologia AI, compresa la diffusione dei deepfake e la necessità di regolamentazioni per affrontare tali rischi.
(Fonte: NBC News)
Oltre ai dettagli forniti nell’articolo, è importante notare le previsioni di mercato e settore relative alla tecnologia dell’IA nei procedimenti legali. L’industria dell’IA sta crescendo rapidamente, con applicazioni che vanno dal settore sanitario a quello finanziario, e il sistema giudiziario sta esplorando l’integrazione delle tecnologie dell’IA.
Secondo un rapporto di ricerca di mercato di MarketsandMarkets, il mercato globale dell’IA nel settore legale è proiettato a raggiungere 1.23 miliardi di dollari entro il 2024, con un tasso di crescita annuale composto (CAGR) del 31.3% dal 2019 al 2024. Questo indica un significativo potenziale di mercato per le soluzioni di IA nel settore legale, inclusa l’uso di prove potenziate dall’IA.
Tuttavia, ci sono diversi problemi e sfide associati all’uso dell’IA nei procedimenti legali. La trasparenza e l’interpretabilità dei modelli di IA sono preoccupazioni principali. I sistemi di IA generano spesso output complessi basati su algoritmi intricati, rendendo difficile per non esperti e persino professionisti legali comprendere e convalidare i risultati. Questa mancanza di trasparenza può sollevare dubbi sull’accuratezza e l’affidabilità delle prove potenziate dall’IA.
Inoltre, il bias negli algoritmi di IA è una preoccupazione significativa. I modelli di machine learning sono addestrati su dati esistenti, che possono perpetuare pregiudizi presenti nei dati di addestramento. Ciò può portare a risultati tendenziosi nelle prove potenziate dall’IA, rafforzando disparità esistenti nel sistema di giustizia penale.
Per affrontare questi problemi, la comunità giuridica sta chiedendo rigorosi standard e linee guida per l’uso dell’IA nei procedimenti legali. Essi sottolineano la necessità di metodologie sottoposte a revisione tra pari, convalida da terze parti e linee guida per garantire la trasparenza, credibilità ed equità dei sistemi di IA utilizzati per potenziare le prove.
Questo decreto nello stato di Washington potrebbe stabilire un precedente per casi simili in tutti gli Stati Uniti. Altri tribunali potrebbero prendere in considerazione questa decisione nell’valutare l’ammissibilità di prove potenziate dall’IA.
Per ulteriori informazioni sull’IA nel settore legale e argomenti correlati, è possibile visitare fonti autorevoli come il sito web dell’American Bar Association (ABA) su American Bar Association o il sito web dell’International Association for Artificial Intelligence and Law (IAAIL) su International Association for Artificial Intelligence and Law. Queste risorse forniscono preziose informazioni sulle discussioni in corso e gli sviluppi nel campo.
The source of the article is from the blog elblog.pl