Microsoft a făcut o dezvăluire surprinzătoare despre creșterea utilizării inteligenței artificiale (AI) generative de către țări cu relații tensionate cu Statele Unite. Gigantul tehnologic a dezvăluit că adversarii precum Iranul, Coreea de Nord, Rusia și China au început să utilizeze instrumente AI, dezvoltate de Microsoft și OpenAI, pentru a coordona atacuri cibernetice de amploare împotriva SUA.
În timp ce Microsoft și OpenAI au reușit să identifice și să contracareze unele dintre aceste amenințări, compania a subliniat necesitatea dezvăluirii publice a acestor tehnici incipiente. Experții în securitate cibernetică au avertizat că utilizarea AI generative în operațiuni cibernetice ofensive reprezintă o amenințare semnificativă la adresa securității naționale.
Tradițional, companiile de securitate cibernetică au utilizat învățarea automată în scopuri de apărare. Cu toate acestea, apariția modelelor de limbaj extinse (LLMs), conduse de ChatGPT de la OpenAI, a intensificat meciul de șoarecele și pisica între apărători și actorii malefici. Națiunile rivale utilizează din ce în ce mai mult LLM-uri pentru a-și consolida capacitățile în spargerea rețelelor și în efectuarea de operațiuni de influență.
În raportul său, Microsoft a evidențiat mai multe cazuri în care conturile și activele generative AI ale diferitelor grupuri au fost dezactivate. Acestea includ grupul de spionaj cibernetic Kimsuky din Coreea de Nord, Garda Revoluționară din Iran, unitatea de informații militare GRU Fancy Bear din Rusia și grupurile de spionaj cibernetic Aquatic Panda și Maverick Panda din China.
Potențialul AI generative în îmbunătățirea ingineriei sociale malefice este o preocupare deosebită. Raportul Microsoft avertizează că deepfake-urile și clonarea vocală bazate pe AI pot submina procesele democratice, în special în contextul alegerilor viitoare din peste 50 de țări.
Deși OpenAI afirmă că modelul său actual GPT-4 oferă capacități limitate pentru sarcini malefice de securitate cibernetică, experții anticipează progrese în acest domeniu. Criticii susțin că lansarea modelelor de limbaj extinse fără luarea în considerare adecvată a securității a fost grabită și iresponsabilă. Unii profesioniști în securitate cibernetică îndeamnă Microsoft să se concentreze pe îmbunătățirea securității LLM-urilor în loc să vândă instrumente defensive.
Pe măsură ce amenințările generate de AI și LLM-uri continuă să evolueze, este clar că acestea au potențialul de a deveni arme puternice în arsenalul fiecărei armate naționale. Este imperativ ca guvernele și companiile de tehnologie să acorde prioritate dezvoltării de sisteme AI sigure și să stabilească strategii solide de apărare pentru a proteja interesele naționale.
Întrebări frecvente:
1. Ce a dezvăluit Microsoft cu privire la utilizarea AI generative de către anumite țări?
Microsoft a dezvăluit că țări precum Iranul, Coreea de Nord, Rusia și China folosesc instrumente AI dezvoltate de Microsoft și OpenAI pentru a efectua atacuri cibernetice de amploare împotriva Statelor Unite.
2. Cum au răspuns Microsoft și OpenAI la aceste amenințări?
Microsoft și OpenAI au reușit să identifice și să contracareze unele dintre aceste amenințări. Cu toate acestea, ei consideră că este important să se expună public aceste tehnici incipiente.
3. Care este îngrijorarea referitoare la utilizarea AI generative în operațiuni cibernetice ofensive?
Experții în securitate cibernetică avertizează că utilizarea AI generative în operațiuni cibernetice ofensive reprezintă o amenințare semnificativă la adresa securității naționale.
4. Ce sunt modelele de limbaj extinse (LLMs) și cum sunt ele utilizate?
Modelele de limbaj extinse (LLMs), precum ChatGPT de la OpenAI, sunt utilizate de națiunile rivale pentru a-și consolida capacitățile în spargerea rețelelor și în efectuarea de operațiuni de influență.
5. Ce grupuri și-au dezactivat conturile și activele datorită AI generative?
Raportul Microsoft a evidențiat dezactivarea conturilor și a activelor aparținând grupurilor precum Kimsuky din Coreea de Nord, Garda Revoluționară din Iran, unitatea de informații militare GRU Fancy Bear din Rusia și grupurile de spionaj cibernetic Aquatic Panda și Maverick Panda din China.
6. Care este îngrijorarea referitoare la AI generative și ingineria socială malefică?
Raportul avertizează că deepfake-urile și clonarea vocală bazate pe AI pot submina procesele democratice, în special în contextul alegerilor viitoare din peste 50 de țări.
7. Care este opinia criticilor în ceea ce privește lansarea modelelor de limbaj extinse?
Criticii susțin că lansarea modelelor de limbaj extinse fără luarea în considerare adecvată a securității a fost grabită și iresponsabilă. Ei îndeamnă Microsoft să acorde prioritate securității acestor modele.
8. La ce ar trebui să acorde prioritare guvernele și companiile de tehnologie în răspunsul la amenințările AI și LLM-uri în evoluție?
Este important ca guvernele și companiile de tehnologie să acorde prioritate dezvoltării de sisteme AI sigure și să stabilească strategii solide de apărare pentru a-și proteja interesele naționale.
Definiții:
– Inteligența artificială generativă (AI): Sisteme AI care au capacitatea de a genera conținut sau informații noi, cum ar fi text, imagini sau videoclipuri.
– Modele de limbă extinse (LLMs): Modele avansate de AI care pot înțelege și genera limbaj uman. ChatGPT de la OpenAI este un exemplu de model de limbaj extins.
– Spionaj cibernetic: Actul de a utiliza instrumente și tehnici digitale pentru a aduna informații și inteligență de la persoane țintă, organizații sau guverne.
– Procese democratice: Se referă la principiile și mecanismele care susțin funcționarea unui sistem democratic, cum ar fi alegerile și procesele decizionale.
Linkuri relevante:
– Microsoft
– OpenAI
– Agenția de Securitate Cibernetică și Infrastructură (CISA)
The source of the article is from the blog be3.sk