Inteligența artificială (IA) avansează într-un ritm fără precedent, iar guvernul federal trebuie să ia măsuri imediate pentru a reglementa această tehnologie, conform pionierului în domeniul IA, Yoshua Bengio. Bengio, cunoscut sub numele de „nașul” IA, a subliniat că traiectoria actuală a IA prezintă riscuri semnificative pentru societate și că Ottawa nu ar trebui să întârzie în implementarea legislației, chiar dacă aceasta nu este perfectă.
Una dintre principalele preocupări ridicate de Bengio este utilizarea incorectă a IA, în special prin crearea de videoclipuri deepfake care pot răspândi dezinformări. Aceste videoclipuri utilizează IA pentru a manipula aspectul vizual și pentru a face ca figuri publice să pară că spun sau fac lucruri pe care nu le-au făcut în realitate. În plus, IA poate fi folosită pentru a înșela utilizatorii de pe rețelele de socializare, angajându-se în dialoguri care pot schimba opiniile politice ale acestora, conducând la o posibilă erodare a principiilor democratice.
Mai mult, Bengio a evidențiat riscul crescând ca sistemele avansate de IA să fie exploatate pentru cyberatacuri. Pe măsură ce tehnologia IA continuă să progreseze, aceste sisteme pot deveni suficient de puternice pentru a breach actualul sistem de apărare cyber și a perturba infrastructura digitală critică. Dacă aceste capacități cad în mâinile greșite, consecințele ar putea fi grave.
În răspuns la aceste preocupări, comitetul de industrie al Camerei Comunelor studiază în prezent un proiect de lege guvernamental care vizează reglementarea sistemelor de inteligență artificială. Cu toate acestea, Bengio a subliniat necesitatea implementării anumitor prevederi imediat, în loc să aștepte un proces regulator lung. El a propus înființarea unui registru care să solicite companiilor dezvoltatoare de sisteme de IA cu un nivel specific de capacități să raporteze guvernului. Acest lucru ar transfera responsabilitatea asigurării siguranței acestor sisteme de la contribuabili la companiile tehnologice.
De asemenea, Bengio a susținut extinderea definiției sistemelor de IA „de impact ridicat” în proiectul de lege pentru a include și acele sisteme care prezintă amenințări la adresa securității naționale și a societății. Acest lucru ar include sistemele de IA care ar putea fi folosite pentru a proiecta cyberatacuri și arme sau acele sisteme de IA care se replică autonom, în ciuda instrucțiunilor de programare contrare.
Urgența acțiunii guvernamentale de a reglementa IA a fost subliniată și de către Catherine Regis, profesor la Universite de Montreal. Regis a evidențiat dezvoltarea rapidă a IA la nivel mondial și a subliniat că Canada trebuie să-și definească poziția în ceea ce privește reglementarea IA pentru a avea un rol semnificativ în discuțiile privind guvernarea globală.
În concluzie, progresele rapide în tehnologia IA necesită o reglementare imediată din partea guvernului. Prin abordarea proactivă a riscurilor asociate cu IA, guvernul poate diminua amenințările potențiale la adresa societății și securității provocate de această tehnologie puternică.
Secțiunea FAQ:
Î: Care este principala preocupare referitoare la IA conform lui Yoshua Bengio?
R: Yoshua Bengio este preocupat de utilizarea incorectă a IA, în special prin crearea de videoclipuri deepfake care pot răspândi dezinformări.
Î: Cum poate înșela IA utilizatorii de pe rețelele de socializare?
R: IA poate angaja dialoguri cu utilizatorii din rețelele de socializare și poate manipula opiniile politice ale acestora, ducând potențial la o eroziune a principiilor democratice.
Î: Care este un alt risc evidențiat de Bengio?
R: Bengio a evidențiat și riscul ca sistemele avansate de IA să fie exploatate pentru cyberatacuri, ceea ce ar putea avea consecințe grave dacă acestea cad în mâinile greșite.
Î: Care este soluția propusă pentru reglementarea sistemelor de IA?
R: Bengio a propus înființarea unui registru care să solicite companiilor dezvoltatoare de sisteme de IA cu un nivel specific de capacități să raporteze guvernului, transferând astfel responsabilitatea siguranței acestor sisteme de la contribuabili la companiile tehnologice.
Î: Ce subliniază Catherine Regis cu privire la reglementarea IA în Canada?
R: Catherine Regis subliniază că Canada trebuie să-și definească poziția în ceea ce privește reglementarea IA pentru a avea un rol semnificativ în discuțiile privind guvernarea globală.
Termeni cheie și definiții:
1. Inteligență Artificială (IA): Tehnologie care permite calculatoarelor să îndeplinească sarcini care în mod tipic necesită inteligență umană, cum ar fi recunoașterea vocii, rezolvarea problemelor și luarea deciziilor.
2. Deepfake: Un tip de media sintetică care utilizează IA pentru a manipula sau crea videoclipuri, sunete sau imagini false care pot părea reale, dar care sunt de fapt alterate sau complet fabricate.
3. Dezinformare: Informații false sau înșelătoare care sunt răspândite în mod deliberat pentru a înșela oamenii și a manipula opinia publică.
4. Cyberatacuri: Încercări malitioase de a perturba, deteriora sau obține acces neautorizat la sistemele de calculatoare, rețele sau dispozitive digitale.
5. Autonomie: Capacitatea unui sistem de IA de a acționa independent, fără intervenția umană sau fără a depinde de instrucțiunile de programare explicite.
Sugestii de legături relevante:
– The White House AI Initiative
– UK Government: Regulation of Artificial Intelligence Consultation
– AI Laws: Baza de date a reglementărilor privind IA
– World Economic Forum: The Global Competitiveness Report 2019
The source of the article is from the blog macholevante.com