Microsoft on hiljuti avalikustanud, et riigid nagu Iraan ja Põhja-Korea ning teatud määral ka Venemaa ja Hiina kasutavad generatiivset tehisintellekti (TI) küberrünnakute korraldamiseks. Kuigi kasutatud tehnikad ei pruugi olla erakordselt uuenduslikud, on nende paljastamine oluline, arvestades nende võimet võrgustikke rikkuda ja infot manipuleerida. Suurekeelsete mudelite, nagu OpenAI ChatGPT, tekkimisega on küberturvalisuse ettevõtete ja häkkerite vaheline kassi-hiire mäng jõudnud uude faasi.
Microsofti partnerlus OpenAI-ga koos nende ühistest jõupingutustest AI-põhiste ohtude avastamiseks ja tõkestamiseks valgustab küberrünnaku muutuvat maastikku. Generatiivse TI potentsiaali tõttu kahjustada pahatahtlikku sotsiaalset manipulatsiooni tunnistatakse selgelt demokraatlike protsesside suhtes esitatava ohuna, eriti kuna rohkem kui 50 riiki kavatsevad sel aastal valimisi korraldada.
Microsofti poolt esitatud näited näitavad erinevate vaenulike gruppide poolt tehisintellekti erinevaid viise kasutamist. Põhja-Korea küberspioonide rühm Kimsuky on kasutanud suurekeelseid mudeleid välisriikide mõttekodade uurimiseks ja sisu loomiseks varta kalaonu rünnakute kampaaniate jaoks. Iraani Revolutsioonikaard kasutab tehisintellekti tehnikaid sotsiaalse manipulatsiooni ja probleemide lahendamise tarkvara arendamiseks, samuti kalapüügi meilide väljatöötamiseks, et ohvreid petta. Vene sõjaväe luureüksus GRU, nimega Fancy Bear, on uurinud satelliitide ja radaritehnoloogiaid, mis on seotud konfliktidega nagu Ukraina sõda. Lisaks on Hiina küberspioonide rühmad Aquatic Panda ja Maverick Panda samuti suhelnud generatiivse tehisintellektiga, et parandada oma tehnilisi operatsioone ning koguda luuret erinevatel tundlikel teemadel.
Kuigi OpenAI väidab, et nende GPT-4 mudeli juturobot pakub praegu piiratud võimalusi pahatahtlikuks küberturvalisuseks, ennustavad eksperdid, et see võib tulevikus muutuda. Tehisintellekti ja suurekeelsete mudelite potentsiaal relvadeks on tekitanud muret nii küberturvalisuse spetsialistide kui ka poliitikakujundajate seas. AI-tehnoloogiate turvalise ja vastutustundliku arendamise tagamine on hädavajalik.
Kuna maailm tegeleb tehisintellekti kasvava tähtsusega erinevates valdkondades, sealhulgas riikliku julgeoleku valdkonnas, on riikidel oluline läbi vaadata oma tehisintellekti arendamise lähenemine. Tagamaks, et AI-l oleksid tugevad turvafunktsioonid, tuleb selle arendamisel prioriteediks seada riskide leevendamine, mis on seotud selle halva kasutamisega. Arvestades AI poolt esitatavate oluliste väljakutsetega, muutub koostöö tehnoloogiaettevõtete, valitsuste ja teadlaste vahel veelgi olulisemaks, et luua turvalisem digitaalne tulevik.
KKK osa
1. Millised riigid kasutavad generatiivset tehisintellekti (TI) pahatahtlike küberrünnakute jaoks?
– Microsoft on avalikustanud, et riigid nagu Iraan ja Põhja-Korea ning teatud määral ka Venemaa ja Hiina kasutavad generatiivset TI-d pahatahtlike küberrünnakute jaoks.
2. Miks on oluline paljastada pahatahtliku TI kasutatavad tehnikad?
– Nende tehnikate paljastamine on oluline, kuna neil on potentsiaal võrgustikke rikkuda ja infot manipuleerida, ohustades demokraatlikke protsesse.
3. Milline on Microsofti ja OpenAI suhe?
– Microsoftil on partnerlus OpenAI-ga ning nad töötavad koos AI-põhiste ohtude avastamiseks ja tõkestamiseks.
4. Kuidas on vaenulikud grupid generatiivset TI-d kasutanud?
– Microsofti esitatud näited näitavad, et vaenulikud grupid on kasutanud generatiivset TI-d tegevustes nagu uurimistöö läbiviimine, sisu loomine varta kalaonu rünnakute kampaaniate jaoks, sotsiaalne manipulatsioon, tarkvara probleemide lahendamine, kalapüügi meilide väljatöötamine, militaaralaste tehnoloogiate uurimine ning luure kogumine tundlikel teemadel.
5. Kas OpenAI GPT-4 mudel pakub võimekust pahatahtlikeks küberturbeülesanneteks?
– OpenAI väidab, et nende GPT-4 mudeli juturobot pakub praegu piiratud võimalusi pahatahtlikuks küberturvalisuseks, kuid eksperdid ennustavad, et see võib tulevikus muutuda.
Olulised mõisted ja släng
– Generatiivne tehisintellekt (TI): Selle all mõeldakse AI-süsteeme, mis suudavad luua uut sisu, nagu tekst, pildid või videod, põhinedes olemasolevatest andmetest õpitud mustritele ja näidetele.
– Pahatahtlikud küberrünnakud: Need on küberrünnakud, mida tehakse eesmärgiga võrgustikke rikkuda, infot manipuleerida või kahjustada sihitud üksust.
– Varta kalaonu rünnakute kampaaniad: Need on sihitud rünnakute kampaaniad, kus ründajad kohandavad oma lähenemist, et petta konkreetsed isikud või organisatsioonid paljastama tundlikku teavet või tegema teatud toiminguid.
– Sotsiaalne manipulatsioon: See on tehnikate komplekt, mida kasutatakse inimeste mõjutamiseks, et nad paljastaksid tundlikku teavet või teeksid toiminguid, mis võivad olla nende enda huvides vastupidised.
– Pahatahtlikud küberturbeülesanded: Need on tegevused, mida tehakse eesmärgiga ära kasutada haavatavusi, rikkuda turvasüsteeme või kahjustada arvutivõrke või inimesi.
Soovitatud seotud lingid
– Microsoft
– OpenAI
– AI roll küberturvalisuses
The source of the article is from the blog tvbzorg.com