UIUC teadlased on avaldanud uuringu, milles selgitatakse välja oluline võimalik oht arenenud tehisintellekti süsteemides. Selle uuringu kohaselt on GPT-4 keelemodel, mis kuulub ChatGPT perekonda, võimeline iseseisvalt tuvastama ja ära kasutama turvavigu infosiseneduste süsteemides, kui talle antakse üksikasjalikud kirjeldused neist vigadest.
Uuring kasutas 15 avalikustatud turvaauku sisaldavat andmekogumit, mida nimetatakse “ühepäeva” turvaaukudeks, mis erinevalt nullipäeva turvaaukudest on juba avalikkusele teada. Teadlased leidsid, et tehisintellekt GPT-4 suutis leida ära kasutatavaid aspekte 87% nendest turvaaukudest, viidates sellele, et mudel võib potentsiaalselt teostada tegevusi, mis sarnanevad häkkeri omadega. Vastupidiselt varasematele mudelitele nagu GPT 3.5 ja teistele avatud lähtekoodiga variantidele ei näidanud need samasugust võimet, näidates nendes testides 0% edu määra.
Oluline on märkida, et uuring ei hõlmanud otseste konkurentide nagu Google Gemini 1.5 Pro andmeid, kuna ligipääsuprobleemide tõttu, aga teadlased loodavad neid mudeleid tulevikus hinnata. UIUCs Daniel Kang edastas The Registerile, et GPT-4 suudab iseseisvalt järgida vajalikke samme nende turvaaukude ärakasutamiseks, tuues esile selle potentsiaalse kasutamise ohtliku töövahendina kurikaelte käes, võimaldades seeläbi küberrünnakute sooritamise lihtsustamist.
GPT-4 sarnaste keelemudelite kiire areng viitab sellele, et tulevased iteratsioonid, näiteks oodatav GPT-5, võivad olla sellistes ülesannetes veelgi osavamad, suurendades seeläbi potentsiaalseid turvariske. Sellest arusaamisest tulenevalt muutub üha olulisemaks tugevamate küberturbeabinõude kiireloomulisus, kuna tehisintellekt jätkab arengut.
Peamised väljakutsed ja vastuolud:
Üks suurimaid väljakutseid arenenud tehisintellekti mudelite nagu GPT-4 kasutamisel on tagada nende vastutustundlik kasutamine, et nad ei panustaks tahtmatult küberohtudesse. Selliste tehisintellekti tööriistade võimalik kasutamine kuritahtlike eesmärkide saavutamiseks tekitab eetilisi ja õiguslikke kaalutlusi, mida nii teadlased kui ka poliitikakujundajad peavad käsitlema. Arenevate ja täiustatavate tehisintellekti võimete arendamise ja lihvimise kontroversiaalset olemust, et tuvastada turvaauke, võib näha kui topeltlõiketera: kasulik turvalisuse parandamiseks, kuid samas ka potentsiaalselt ohtlik, kui kasutatakse valesti.
Eelised:
Arenenud tehisintellekti mudelid võivad aidata turvaaukude ennetavat tuvastamist ja parandamist, tugevdades potentsiaalselt küberturbe kaitset. Nad võivad oluliselt kiirendada turvaaukude hindamise protsessi, vähendades turvalisusealaste professionaalide poolt vajalikku aega tuvastada ja lahendada probleeme. Võime kiiresti analüüsida ja mõista keerulisi süsteeme võib olla samuti oluline ressurss küberturvalisuses personali koolitamisel ja tõhusamate ja intelligentsemate turvaprotokollide arendamisel.
Puudused:
Peamine puudus on väärkasutamise oht. Arenenud tehisintellekti mudelid nagu GPT-4, mis suudavad tuvastada ja ärakasutada turvaauke, võivad pakkuda küberrünnakute läbiviimiseks kurjategijatele võimsaid tööriistu. Veel üks puudus on võimalik sõltuvus sellistest tehisintellekti süsteemidest, mis võivad viia inimjärelevalve ja kriitilise mõtlemise vähenemiseni küberturvalisuse operatsioonides. Samuti on olemas oht, et need tehisintellekti süsteemid võivad tuvastada valepositiive, viies tarbetutele või valesti suunatud tegevustele.
Eetilisi kaalutlusi ja ennetavaid meetmeid puudutavate teadmiste kohta on organisatsioonidel nagu OpenAI, kes on GPT seeria taga, vastutustundliku tehisintellekti arenduse ja rakendamise poliitikad, mida saab leida nende põhilehelt aadressil OpenAI. Sarnaselt edusammudega tehisintellekti turvalisuses ja eetiliste tehisintellekti tavadega peab AI Now Institute tegelema sotsiaalsete tagajärgedega tehisintellekti uurimiskeskus, kust leiate rohkem teavet aadressilt AI Now Institute.
Tulevikustsenaariumid peavad leidma ettevaatliku tasakaalu, kuidas ära kasutada tehisintellekti turvalisuse suurendamiseks ja takistada selle ärakasutamist kurjade osapoolte poolt. Kestev arutelu küberturbeühenduses, selge seadusandlus ja rahvusvaheline koostöö on olulised nende keeruliste küsimuste lahendamisel.
The source of the article is from the blog girabetim.com.br