Un raport recent a relevat că OpenAI a accelerat dezvoltarea de noi modele de inteligență artificială, neglijând protocoalele de siguranță și măsurile de securitate. Preocupările au fost ridicate de angajați neidentificați care au semnat o scrisoare deschisă exprimând îngrijorare în legătură cu lipsa de supraveghere în construcția sistemelor de inteligență artificială. În răspuns, OpenAI a înființat un nou comitet de siguranță și securitate format din membri ai consiliului de administrație și manageri selectați pentru a evalua și îmbunătăți protocoalele de siguranță.
În ciuda acuzațiilor de neglijență a protocoalelor de siguranță, trei angajați OpenAI, vorbind anonim pentru The Washington Post, au împărtășit că echipa s-a simțit presată să grăbească implementarea unui nou protocol de testare destinat „prevenirii daunelor catastrofale cauzate de sistemele de inteligență artificială”, pentru a respecta lansarea programată a lui GPT-4 Omni în luna mai, așa cum a fost stabilit de conducerea OpenAI.
Protocoalele de siguranță au ca obiectiv asigurarea că modelele de inteligență artificială nu oferă informații dăunătoare sau nu asistă la executarea de acțiuni periculoase precum crearea de arme chimice, biologice, radiologice și nucleare (CBRN) sau ajutorarea în atacuri cibernetice.
În plus, raportul a evidențiat un incident similar care a avut loc înaintea lansării lui GPT-4o, descris ca fiind cel mai avansat model de inteligență artificială al OpenAI. Planurile pentru lansare au fost făcute fără a asigura siguranța acestuia, cu un angajat OpenAI citat în raport afirmând: „am eșuat fundamental în acest proces.”
Aceasta nu este prima dată când angajații OpenAI atrag atenția asupra neglijării evidente a protocoalelor de siguranță și securitate în cadrul companiei. Luna trecută, fosti și actuali angajați OpenAI și Google DeepMind au semnat o scrisoare deschisă exprimând preocupări legate de lipsa de supraveghere în dezvoltarea de noi sisteme de inteligență artificială care ar putea prezenta riscuri semnificative.
Scrisoarea a cerut intervenția guvernamentală, mecanisme regulatorii și protecție robustă pentru persoanele care semnalează nereguli la locul de muncă. Doi dintre cei trei cofondatori ai OpenAI, Jeffrey Hinton și Yoshua Bengio, au sprijinit această scrisoare deschisă.
În luna mai, OpenAI a anunțat înființarea unui nou comitet de siguranță și securitate însărcinat cu evaluarea și îmbunătățirea operațiunilor de inteligență artificială ale companiei și asigurarea deciziilor critice de siguranță și securitate pentru proiectele și operațiunile OpenAI. Compania a împărtășit recent noi orientări pentru construcția de modele de inteligență artificială responsabile și etice, denumite Model Spec.
Un raport recent a dezvăluit detalii suplimentare cu privire la îngrijorările legate de protocoalele de siguranță la OpenAI, aducând în atenție întrebări cheie și provocări legate de această problemă.
Întrebări Cheie:
1. Ce protocoale de siguranță specifice au fost neglijate de OpenAI în timpul dezvoltării modelelor de inteligență artificială?
2. Cum a afectat presiunea de a grăbi implementarea noilor protocoale de testare măsurile de siguranță?
3. Ce riscuri potențiale sunt asociate cu sistemele de inteligență artificială care nu dispun de protocoale adecvate de siguranță și securitate?
4. Cum au propus angajații și experții din industrie soluționarea preocupărilor legate de siguranță la OpenAI?
5. Care sunt avantajele și dezavantajele abordării OpenAI de a prioritiza dezvoltarea modelelor de inteligență artificială în fața protocoalelor de siguranță?
Provocări și Controverse Cheie:
– Angajații OpenAI s-au simțit presați să priorizeze lansarea noilor modele de inteligență artificială în fața asigurării unor protocoale robuste de siguranță, ridicând preocupări legate de potențialul unei daune catastrofale.
– Neglijența în protocoalele de siguranță ar putea duce la ca modelele de inteligență artificială să furnizeze informații dăunătoare sau să fie implicate în acțiuni periculoase, precum facilitarea creării de arme sau atacuri cibernetice.
– Lipsa de supraveghere în construcția sistemelor de inteligență artificială ar putea genera riscuri semnificative și dileme etice, necesitând o atenție și intervenție imediată.
– Apelul la reglementare guvernamentală, protecția pentru semnalizatorii de nereguli și măsurile sporite de siguranță reflectă îngrijorarea crescândă cu privire la dezvoltarea necontrolată a tehnologiilor de inteligență artificială.
Avantaje:
– Dezvoltarea accelerată a modelelor de inteligență artificială poate duce la progrese remarcabile în tehnologie și inovație.
– Angajamentul OpenAI de a înființa un comitet de siguranță și securitate arată o abordare proactivă în abordarea preocupărilor legate de siguranță și îmbunătățirea protocoalelor.
– Cele mai recente orientări pentru construcția responsabilă și etică a modelelor de inteligență artificială, denumite Model Spec, indică o disponibilitate de a prioriza siguranța și considerentele etice.
Dezavantaje:
– Neglijarea protocoalelor de siguranță în dezvoltarea inteligenței artificiale prezintă riscuri semnificative pentru societate, putând duce la consecințe nedorite și rezultate daunatoare.
– Presiunea de a respecta programe de lansare ambițioase ar putea compromite măsurile de siguranță și împiedica evaluările complete ale riscurilor.
– Lipsa de supraveghere adecvată și responsabilitate în construcția de sisteme de inteligență artificială ar putea eroda încrederea publică și ridica preocupări etice în domeniul inteligenței artificiale.
Pentru mai multe informații despre importanța protocoalelor de siguranță în dezvoltarea inteligenței artificiale și discuțiile în desfășurare legate de practicile OpenAI, vizitați site-ul oficial OpenAI la OpenAI.
The source of the article is from the blog radardovalemg.com