AI tyrėjai iš „Google“, „Carnegie Mellon“ universiteto ir „Bosch Center for AI“ padarė ypatingą proveržį priešiškumo atsparumo srityje. Jų pradinis metodas demonstruoja ženklų vystymąsi ir praktines implikacijas, približindamas mus prie saugesnių ir patikimesnių AI sistemų.
Šis tyrimas pristato supaprastintą požiūrį siekiant pasiekti lyderio tarpusavio atsparumą prieš perturbacijas. Komanda demonstruoja, kad tai įmanoma padaryti naudojant paruoštus, iš anksto apmokytus modelius, todėl supaprastinant modelių stiprinimo priešiškų grėsmių atžvilgiu procesą.
Permainų slopinimas
Sujungę iš anksto apmokytą triukšmo diffuzijos tikimybinį modelį su aukštos tikslumo klasifikatoriumi, tyrėjai pasiekė revoliucingus 71% tikslumo rezultatus „ImageNet“ požiūriu, susiduriant su priešiškomis permainomis. Šis rezultatas žymiai pagerina ankstesnių patvirtintų metodų rezultatus 14 procentinių punktų atžvilgiu.
Praktiškumas ir prieinamumas
Vienas iš šio metodo privalumų yra tai, kad jis nereikalauja sudėtingo smulkinimo vai „iš naujo mokymo“. Tai padaro jį labai praktišką ir prieinamą įvairioms taikymams, ypač tiems, kurie reikalauja apsaugos nuo priešiškų atakų.
Unikali triukšmo slopinimo technika
Naudojama technika apima dviejų etapų procesą. Pirma, denoizerio modelis naudojamas pašalinti pridėtą triukšmą, o tada klasifikatorius nustato žymę apdorotai įvesčiai. Taip tampa įmanoma pritaikyti atsitiktinį lyginimą su iš anksto mokomais klasifikatoriais.
Naudojant triukšmo slopinimo difuzijos modelius
Tyrėjai pabrėžia, kad triukšmo diffuzijos tikimybiniai modeliai yra tinkami triukšmo slopinimo žingsnio apsaugos mechanizmams. Šie modeliai, gerbiami paveikslėlių generavime, efektyviai atkurią aukštos kokybės apdorojamas pažymas iš triukšmingų duomenų pasiskirstymų.
Įrodyta veiksmingumas pagal pagrindinius duomenų rinkinius
Nuostabu, bet šis metodas puikiai veikia „ImageNet“ ir „CIFAR-10“ duomenų rinkiniuose, pralenkdamas anksčiau apmokytus individualius smulkinimo metodus, net esant griežtiems pažeidimo normoms.
Atvira prieiga ir atkaklumas
Tyrėjai savo kodą pateikią viešumo ir tolesnės paieškos skatinimo iniciatyvos kontekste, jų kodas yra prieinamas „GitHub“ repozitorijoje. Tai leidžia kitiems atkartoti ir remtis jų eksperimentais.
Apsaugos nuo priešiškų atakų stiprumas yra svarbi AI tyrimų dalis, ypač autonominių transporto priemonių, duomenų saugumo ir sveikatos apsaugos srityse. Giliosios mokymosi modeliai jautrūs priešiškoms atakoms, kelia rimtas grėsmes AI sistemų vientisumui. Todėl gyvybiškai svarbu plėtoti sprendimus, kurie išlaiko tikslumą ir patikimumą, net susidūrus su apgaulingais įvesties duomenimis.
Anksčiau naudotos metodikos siekė didinti modelio atsparumą, tačiau dažnai reikalavo sudėtingų ir išteklių intensyvių procesų. Tačiau naujas diskretiškois slopinimo (DDS) metodas reprezentuoja didžiulį poslinkį, jungiant iš anksto apmokytus triukšmo diffuzijos probabilistinius modelius su aukštos tikslumo klasifikatoriais. Šis unikalus požiūris pagerina efektyvumą ir prieinamumą, išplėsdamas ryškios stabilumo gynybos mechanizmų potencialą.
DDS metodas slopina priešiškas atakas taikant sudėtingą triukšmo slopinimo procesą, kad būtų išvalytos įvesties duomenys. Taikant šiuolaikines difuzijos technologijas nuo paveikslėlių generavimo, metodas efektyviai pašalina priešišką triukšmą ir užtikrina tikslų klasifikavimą. Svarbu pažymėti, kad metodas pasiekia įspūdingus 71% tikslumo rezultatus „ImageNet“ duomenų rinkinyje, gerindamas ankstesnių šiuolaikinių metodų rezultatus.
Šio tyrimo implikacijos yra plačios. DDS metodas siūlo efektyvesnį ir prieinamesnį būdą pasiekti atsparumą priešiškoms atakoms, su potencialiais pritaikymais autonominėms transporto priemonėms, kibernetinei saugai, sveikatos diagnostikos vaizdams ir finansų paslaugoms. Forto technikų naudojimas žada pagerinti AI sistemų saugumą ir patikimumą kritinėse ir didelių statytiškų aplinkose.
Dažnai užduodami klausimai: Disruptingriba požiūris į gilios mokymosi modelių priešiškų atakų atsparumo didinimą
Tyrėjai naudodami mergintą iš anksto apmokytą triukšmo diffuzijos probabilistinį modelį ir aukštos tikslumo klasifikatorių pasiek istorinį 71% tikslumą „ImageNet“ duomenų rinkinyje, susiduriant su priešiškomis permainomis. Tai žymiai pagerina ankstesnių patvirtintų metodų rezultatus.
Ar šis metodas reikalauja sudėtingo smulkinimo ar mokymo „iš naujo“?
Ne, vienas iš šio metodo privalumų yra tai, kad jis nereikalauja sudėtingo smulkinimo ar mokymo „iš naujo“. Tai padaro jį labai praktišką ir prieinamą įvairioms taikymams, ypač tiems, kurie reikalauja apsaugos nuo priešiškų atakų.
Koks yra unikalūs šiame tyrimame naudoti metodai?
Metodas apima dviejų etapų procesą. Pirmiausia naudojamas triukšmo šalinimo modelis, kad būtų pašalintas pridėtas triukšmas, o tada klasifikatorius nustato žymę apdorotai įvesčiai. Tai leidžia pritaikyti atsitiktinį švelninimą priešiškomis atakomis iš anksto mokomiems klasifikatoriams.
Kas yra triukšmo diffuzijos tikimybiniai modeliai?
Triukšmo diffuzijos tikimybiniai modeliai yra modeliai, naudojami triukšmo slopinimo žingsnyje apsaugai. Jie yra gerbiami paveikslėlių generavimo srityje ir efektyviai atkuria kokybiškas be triukšmo apdorotas įvestis iš triukšmingų duomenų pasiskirstymų.
Kaip šis metodas veikia pagrindiniuose duomenų rinkiniuose?
Šis metodas puikiai veikia pagrindiniuose duomenų rinkiniuose, tokiuose kaip „ImageNet“ ir „CIFAR-10“, pralenkdamas anksčiau apmokytus individualius smulkinimo metodus, net ir esant griežtiems pažeidimo normoms.
Ar šio metodo kodas yra viešas?
Taip, siekiant skatinti skaidrumą ir tolesnius tyrimus, tyrėjai savo kodą pateikia „GitHub“ repozitorijoje. Kiti gali atkartoti ir kurti remiantis jų eksperimentais.
Kokios gali būti šio tyrimo taikymo sritys?
Šio tyrimo implikacijos yra plačios. Metodas siūlo efektyvesnį ir prieinamesnį būdą pasiekti atsparumą priešiškoms atakoms, su potencialiais pritaikymais autonominėms transporto priemonėms, kibernetinei saugai, sveikatos diagnostikos vaizdams ir finansų paslaugoms.
Norėdami gauti daugiau informacijos, apsilankykite tyrėjų pagrindiniame domeinui: Google, Carnegie Mellon University, Bosch.
The source of the article is from the blog girabetim.com.br