In una mossa innovativa, un’unità di ricerca e sviluppo nel Regno Unito ha svelato una visione innovativa per “garanzie quantitative di sicurezza” nel campo dell’intelligenza artificiale (IA). L’Agenzia per la Ricerca e l’Invenzione Avanzata (ARIA) sta aprendo la strada per alti standard di sicurezza nell’IA, facendo parallelismi con le rigorose misure di sicurezza nel settore del nucleare e dell’aviazione passeggeri.
Al centro del piano di ARIA c’è l’implementazione di un sistema AI “gatekeeper”. Questo sentinella digitale agirà come salvaguardia, garantendo che altri agenti di IA operino entro limiti predefiniti per applicazioni specifiche. Sviluppando questo gatekeeper AI, ARIA mira a instillare una garanzia probabilistica che nessun danno derivi dalle azioni dell’IA.
ARIA ha destinato £59 milioni al progetto, con l’obiettivo di dimostrare una prova di concetto scalabile in un ambito designato. Le applicazioni potenziali vanno dal bilanciamento della rete elettrica alla gestione della catena di approvvigionamento, con l’obiettivo finale di garantire implementazioni di AI ad alto rischio come il miglioramento dell’infrastruttura critica o l’ottimizzazione dei trial clinici.
L’ideatore di questa iniziativa rivoluzionaria è David ‘davidad’ Dalrymple, co-inventore della popolare criptovaluta Filecoin. La vasta ricerca di Dalrymple sulla sicurezza tecnica dell’IA lo ha motivato a esplorare l’approccio del gatekeeper. Ora, in qualità di direttore del programma di ARIA, ha l’opportunità di trasformare le sue teorie in soluzioni tangibili.
**La Garanzia del Gatekeeper:**
I gatekeeper sviluppati da ARIA si baseranno su modelli scientifici di mondo e dimostrazioni matematiche per garantire la sicurezza. Dalrymple sottolinea che questo approccio combina concetti sia commerciali che accademici. A differenza dei metodi esistenti utilizzati dalle grandi aziende di IA, che si basano su campioni finiti senza fornire garanzie, l’approccio del gatekeeper di ARIA fonde capacità di frontiera con ragionamento matematico.
Raggiungere questa fusione richiede una profonda collaborazione interdisciplinare, ed è qui che il ruolo di ARIA diventa fondamentale. Fondata l’anno scorso, ARIA finanzia la ricerca “ad alto rischio, alto rendimento” e ha suscitato paragoni con DARPA, la rinomata unità di ricerca del Pentagono nota per i suoi progetti all’avanguardia.
Dalrymple stabilisce parallelismi tra il nuovo progetto di ARIA e il programma HACMS di DARPA, che ha creato con successo un quadricottero inviolabile attraverso la verifica formale. Applicando principi simili, il piano di Dalrymple mira a mantenere la promessa di “garanzie quantitative di sicurezza”. È importante notare che il rinomato informatico Yoshua Bengio ha espresso delusione per la mancanza di progressi in questo settore, rendendo l’iniziativa di Dalrymple un potenziale game-changer.
Mentre il bilancio di ARIA è stato oggetto di scrutinio da parte dei politici, con alcuni legislatori che ne mettono in discussione la dimensione rispetto ad altri enti di ricerca governativi, l’agenzia può mostrare potenziali risparmi di costo. Uno dei suoi programmi lanciati di recente, ad esempio, mira a formare sistemi di IA a soli lo 0,1% del costo attuale.
Conferenza TNW, che si concentra sul tema “Ren-AI-ssance: La Rinascita Alimentata da AI”, questo innovativo approccio alla sicurezza dell’IA senza dubbio susciterà ulteriori discussioni. Con l’implementazione del sistema gatekeeper e un focus sulle garanzie quantitative di sicurezza, ARIA e il suo visionario leader David Dalrymple hanno il potenziale per sbloccare nuove frontiere nell’IA, garantendo il deployment sicuro e responsabile di questa tecnologia trasformativa.
**Domande Frequenti**
**Qual è l’approccio del gatekeeper nella sicurezza dell’IA?**
L’approccio del gatekeeper nella sicurezza dell’IA comporta l’implementazione di un sentinella digitale che regola e garantisce il corretto funzionamento di altri agenti di IA entro limiti definiti per applicazioni specifiche. Mira a fornire garanzie probabilistiche che nessun danno derivi dalle azioni dell’IA.
**Come intende ARIA ottenere garanzie quantitative di sicurezza nell’IA?**
ARIA mira a ottenere garanzie quantitative di sicurezza nell’IA attraverso lo sviluppo di sistemi AI gatekeeper. Questi gatekeeper si baseranno su modelli scientifici di mondo e dimostrazioni matematiche per garantire la sicurezza. Mescolando capacità di frontiera con ragionamento matematico, ARIA spera di creare un framework robusto per il deployment sicuro dell’IA.
**Quali sono le potenziali applicazioni dell’approccio del gatekeeper di ARIA?**
Alcune potenziali applicazioni dell’approccio del gatekeeper di ARIA includono miglioramento dell’infrastruttura critica, ottimizzazione dei trial clinici, bilanciamento della rete elettrica e gestione della catena di approvvigionamento. Proteggendo le implementazioni di AI ad alto rischio, ARIA mira a migliorare la sicurezza e l’efficacia di queste applicazioni.
**In cosa differisce l’approccio di ARIA dai metodi esistenti utilizzati dalle grandi aziende di AI?**
A differenza dei metodi esistenti adottati dalle grandi aziende di AI, che si basano su campioni finiti senza garantire, l’approccio del gatekeeper di ARIA combina capacità di frontiera con ragionamento matematico. Questa fusione consente sia la velocità che la sicurezza, offrendo un approccio più completo al deployment dell’IA.
**Cos’è DARPA e perché ARIA è stata paragonata ad essa?**
DARPA sta per Defense Advanced Research Projects Agency, un’unità di ricerca all’interno del Pentagono nota per i suoi progetti all’avanguardia e ad alto rischio. ARIA è stata paragonata a DARPA per la sua focalizzazione sulla ricerca “ad alto rischio, alto rendimento” e la sua ambizione di spingere i limiti dell’innovazione tecnologica, simile a DARPA.
**Fonti:**
– TNW (https://tnw.com)
Oltre alle informazioni fornite nell’articolo, ecco alcuni dettagli aggiuntivi sull’industria, le previsioni di mercato e le problematiche relative all’industria dell’IA:
L’industria dell’IA sta vivendo una crescita rapida e ci si aspetta che continuerà ad espandersi nei prossimi anni. Secondo un rapporto di Grand View Research, le dimensioni del mercato globale dell’IA erano valutate a 39,9 miliardi di USD nel 2019 e si prevede che raggiungerà i 733,7 miliardi di USD entro il 2027, con un CAGR del 42,2% durante il periodo di previsione. Questa crescita è guidata dall’aumento dell’adozione dell’IA in vari settori come la sanità, il settore finanziario, il retail e la manifattura.
Una delle sfide dell’industria dell’IA è la necessità di robuste misure di sicurezza. Man mano che i sistemi di IA diventano sempre più avanzati e autonomi, garantire il loro deployment sicuro e responsabile diventa cruciale. Problemi come il bias negli algoritmi di IA, la mancanza di trasparenza e i rischi potenziali associati alle decisioni dell’IA hanno sollevato preoccupazioni tra ricercatori, policy maker e il pubblico in generale.
Un’altra sfida è la mancanza di regolamenti e linee guida standardizzate per l’IA. Con lo sviluppo e il deployment rapido delle tecnologie di IA, c’è bisogno di quadri etici e legali chiari per garantire l’uso responsabile e equo dell’IA. Governi e organismi regolatori stanno lavorando per sviluppare linee guida e politiche per affrontare queste problematiche, ma c’è ancora molta strada da fare.
Le aziende dell’industria dell’IA stanno investendo pesantemente nella ricerca e nello sviluppo per migliorare la sicurezza dell’IA e affrontare le sfide sopra menzionate. Stanno anche avvenendo sforzi collaborativi tra accademia, industria e organizzazioni governative per promuovere la ricerca interdisciplinare e l’innovazione nella sicurezza dell’IA.
Per ulteriori informazioni sull’industria dell’IA, previsioni di mercato,
The source of the article is from the blog mivalle.net.ar