Într-o mișcare revoluționară, o unitate de cercetare și dezvoltare din Marea Britanie a dezvăluit o viziune inovatoare pentru „garanțiile de siguranță cantitativă” în domeniul inteligenței artificiale (AI). Agenția Avansată de Cercetare și Inventică (ARIA) deschide drumul pentru standarde ridicate de siguranță în AI, desenând paralele cu măsurile riguroase de siguranță din domeniul energiei nucleare și al aviației pasagerilor.
În centrul planului ARIA se află implementarea unui sistem AI „portar”. Acest sentinel digital va acționa ca un paznic, asigurându-se că alte agenți AI operează în limitele predefinite pentru aplicații specifice. Prin dezvoltarea acestui AI portar, ARIA își propune să insufle o garanție probabilistică că nu va rezulta niciun rău din acțiunile AI.
ARIA a alocat 59 milioane de lire sterline proiectului, cu scopul de a demonstra un concept scalabil într-un domeniu desemnat. Aplicațiile potențiale variază de la echilibrarea rețelei electrice la gestionarea lanțului de aprovizionare, având scopul final de a asigura implementări AI de înaltă importanță, cum ar fi îmbunătățirea infrastructurii critice sau optimizarea testelor clinice.
Geniul din spatele acestei inițiative revoluționare este David ‘davidad’ Dalrymple, co-inventator al criptomonedei populare Filecoin. Cercetările extinse ale lui Dalrymple în domeniul siguranței tehnice AI l-au motivat să exploreze abordarea portarului. Acum, în calitate de director de program al ARIA, el are ocazia de a-și transforma teoriile în soluții tangibile.
Garantare Portar:
Portarii dezvoltați de ARIA se vor baza pe modele științifice ale lumii și pe dovezi matematice pentru a asigura siguranța. Dalrymple subliniază că această abordare combină concepte comerciale și academice. Spre deosebire de metodele existente utilizate de marile companii de AI, care se bazează pe eșantioane finite fără a oferi garanții, abordarea portarului ARIA amestecă capacitățile de frontieră cu raționamentul matematic.
Realizarea acestei fuziuni necesită o colaborare interdisciplinară profundă, iar aici rolul ARIA devine esențial. Fondată anul trecut, ARIA finanțează cercetări „cu risc ridicat, cu recompense pe măsură” și a atras comparații cu DARPA, unitatea de cercetare renumită a Pentagonului cunoscută pentru proiectele sale de frontieră.
Dalrymple trasează paralele între noul proiect al ARIA și programul HACMS al DARPA, care a creat cu succes un quadcopter imposibil de spart printr-o verificare formală. Aplicând principii similare, planul lui Dalrymple își propune să îndeplinească promisiunea de „garanții de siguranță cantitative.” În mod remarcabil, renumitul informatician Yoshua Bengio a exprimat dezamăgire privind lipsa de progres în această zonă, făcând inițiativa lui Dalrymple un posibil schimbător de joc.
În timp ce bugetul ARIA a fost supus atenției politicienilor, cu unii legislat…
Sursă: TNW (https://tnw.com)
The source of the article is from the blog oinegro.com.br