OpenAI imsis ryžtingų veiksmų, siekiant pašalinti paskyras, susijusias su valstybės remiamomis kodinėmis grupėmis iš Rusijos, Kinijos, Irano ir Šiaurės Korėjos, kurios naudojo jos AI kalbėtojo robotą ChatGPT kenksmingoms tikslams. Tai yra svarbus žingsnis, siekiant saugoti platformos integritetą ir saugumą.
Šioms grėsmių grupėms priklausančios paskyros, t.y. „Forest Blizzard” (Rusija), „Emerald Sleet” (Šiaurės Korėja), „Crimson Sandstorm” (Iranas), „Charcoal Typhoon” (Kinija) ir „Salmon Typhoon” (Kinija), išnaudojo ChatGPT skirtingiems veiksmams, susijusiems su jų saugumo operacijomis. Hakeriai naudojo ChatGPT galimybes atlikti tyrimus, optimizuoti savo operacijas, gerinti evazijos takikas ir rinkti jautrią informaciją.
Nors OpenAI ir „Microsoft” vykdyti tyrimai parodė, kad padidėjo išankstinęs nuolatinio užsiėmimo grėsmių (ANU) segmentas, tokiu kaip žvejyba ir socialinė inžinerija, daugumai stebimų veiklų buvo tyrinėjamasis pobūdis. Grėsmių grupės naudojo ChatGPT įvairiems tikslams, tokiais kaip militarinių technologijų tyrimas, specialiųjų žvejybos turinių generavimas, tinklapio technologijų derinimas ir evazijos technikų kūrimas.
Verta paminėti, kad valstybės remiami hakeriai tiesiogiai neišvystė kenkėjiškos programinės įrangos ar tinkintų išnaudojimo įrankių, naudodami didelius kalbos modelius. Vietoj to jie ieškojo kodavimo pagalbos žemesnio lygio užduotims, pvz., evazijos patarimams, scenarijų rašymui ir techninių operacijų optimizavimui.
OpenAI, bendradarbiaudama su „Microsoft” grėsmių žvalgybos komanda, nedelsdama ėmėsi veiksmų prieš šias piktnaudžiavimo paskyras gavusi svarbią informaciją. Šių paskyrų pašalinimas rodo įsipareigojimą palaikyti platformos saugumą ir apsaugą.
Suprasdama, kaip šie sudėtingi grėsmingi veikėjai išnaudoja AI sistemas, OpenAI įgyja vertingų žinių apie naujas tendencijas ir praktikas, kurios ateityje galėtų pakenkti platformai. Šios žinios aprūpina organizaciją nuolatos evoliucionuoti ir stiprinti jos gynybines priemones nuo kenksmingo naudojimo.
OpenAI nuolat stebi ir trukdo valstybės remiamiems hakeriams, pasitelkdama specializuotą stebėjimo technologiją, pramonės partnerystę ir skirtas komandas, kurios skiriasi įtartinas naudojimo schemas. Organizacijos nuolatinis atsidavimas saugumui pabrėžia jos įsipareigojimą teikti patikimą ir atsparią AI platformą.
DUK skyrius
K: Kodėl OpenAI pašalino tam tikras paskyras iš savo AI kalbėtojo roboto, ChatGPT?
A: OpenAI pašalino paskyras, susijusias su valstybės remiamomis kodinėmis grupėmis iš Rusijos, Kinijos, Irano ir Šiaurės Korėjos, kurios naudojo ChatGPT kenksmingais tikslais.
K: Ką šios grėsmių grupės darė su ChatGPT?
A: Šios grėsmių grupės naudojo ChatGPT įvairioms veikloms, susijusioms su jų saugumo operacijomis, įskaitant tyrimus, operacijų optimizavimą, evazijos takikų gerinimą ir jautrios informacijos rinkimą.
K: Ar hakeriai kūrė kenkėjišką programinę įrangą ar tinkintus įrankius, naudodami didelius kalbos modelius?
A: Ne, valstybės remiami hakeriai tiesiogiai neišvystė kenksmingos programinės įrangos ar tinkintų išnaudojimo įrankių, naudodami didelius kalbos modelius. Jie daugiausia ieškojo kodavimo pagalbos žemesnio lygio užduotims, tokiais kaip evazijos patarimai, scenarijų rašymas ir techninių operacijų optimizavimas.
K: Kokius veiksmus atliko OpenAI prieš šias piktnaudžiavimo paskyras?
A: OpenAI bendradarbiaudama su „Microsoft” grėsmių žvalgybos komanda, nedelsdama ėmėsi veiksmų šių piktnaudžiavimo paskyrų pašalinimui gavusi svarbią informaciją.
K: Kaip OpenAI užtikrina savo platformos saugumą?
A: OpenAI nuolat stebi ir trukdo valstybės remiamiems hakeriams, naudodama specializuotą stebėjimo technologiją, pramonės partnerystę ir skirtas komandas, kurios skiriasi įtartinas naudojimo schemas.
Pagrindinių terminų apibrėžimai
– ANU: Išankstiniu nuolatiniu užsiėmimu (ANU) vadinamos sudėtingos kompiuterinės atakos, kurias dažniausiai vykdo valstybės remiamos kodinės grupės.
– Specialūs žvejybos žaibai: Tai yra padalintas žvejybos tipas, kai atakuotojai atsiunčia asmeniui ar organizacijai asmeniškai pritaikytus elektroninius laiškus su tikslu jį apgauti ir priversti atskleisti jautrią informaciją ar atsisiųsti kenksmingą turinį.
– Evazijos takikai: Technikos, naudojamos vengiant aptikimo arba apeinant saugos priemones.
– Socialinė inžinerija: Individų manipuliavimas siekiant juos apgauti ir priversti atskleisti konfidencialią informaciją ar atlikti veiksmus, kurie gali pakenkti saugumui.
Siūlomi susiję nuorodų šaltiniai
– OpenAI
– Microsoft
The source of the article is from the blog zaman.co.at