Googlen, Carnegie Mellonin yliopiston ja Bosch Center for AI:n tekoälytutkijat ovat tehneet poikkeuksellisen läpimurron adversaarisen kestävyyden alalla. Heidän uraauurtava menetelmänsä esittelee merkittäviä edistysaskeleita ja käytännön sovellusmahdollisuuksia, jotka vievät meitä lähemmäksi turvallisempia ja luotettavampia tekoälyjärjestelmiä.
Läpimurto denoisointisiirtymätasoisen todennäköisyysmallin avulla
Yhdistämällä esikoulutetun denosointisiirtymätasoisen todennäköisyysmallin korkean tarkkuuden luokittimeen, tutkijat ovat saavuttaneet ennennäkemättömän 71 prosentin tarkkuuden ImageNetissä adversaaristen häiriöiden suhteen. Tämä tulos merkitsee huomattavaa 14 prosenttiyksikön parannusta aiempiin varmennettuihin menetelmiin verrattuna.
Käytännöllisyys ja saavutettavuus
Yksi tämän menetelmän keskeisistä eduista on, ettei se vaadi monimutkaista hienosäätöä tai uudelleenkoulutusta. Tämä tekee siitä erittäin käytännöllisen ja saavutettavan erilaisiin sovelluksiin, etenkin niihin, jotka vaativat puolustusta adversaarisia hyökkäyksiä vastaan.
Uniikki denoisointisiirtymätekniikka
Tutkimuksessa käytetty tekniikka koostuu kaksivaiheisesta prosessista. Ensin kohinasuojausmallia käytetään lisätyn kohinan poistamiseen, jonka jälkeen luokitin määrittelee hoidetulle syötteelle luokan. Tämä prosessi tekee esikoulutetuille luokittimille satunnaista pehmentämistä soveltamisesta mahdollista.
Hyödyntämällä denoisointisiirtymätasoisia malleja
Tutkijat korostavat denoisten siirtymätasoisten todennäköisyysmallien sopivuutta denoistusmekanismien denoising-vaiheeseen. Nämä mallit, jotka ovat arvostettuja kuvan tai äänen generoinnissa, palauttavat tehokkaasti korkealaatuiset denoisoidut syötteet kohinaisista datajakaumista.
Todistettu vaikuttavuus merkittävillä aineistoilla
Menetelmä näyttää erinomaisia tuloksia ImagesNetissä ja CIFAR-10:ssä, jopa tiukkojen häiriönormien alla, ja suoriutuu paremmin kuin aiemmin koulutetut räätälöidyt denoisoijat.
Avoin saatavuus ja toistettavuus
Tutkijat ovat tehneet koodinsa saataville GitHub-repositoriossa edistääkseen läpinäkyvyyttä ja jatkotutkimusta. Tämä mahdollistaa muiden ihmisten kokeiden toistamisen ja niiden pohjalta rakentamisen.
Adversaarinen kestävyys on tärkeä osa tekoälytutkimusta, erityisesti autonomisissa ajoneuvoissa, tietoturvassa ja terveydenhuollossa. Syväoppimismallien alttiutta adversaarisille hyökkäyksille pidetään vakavana uhkana tekoälyjärjestelmien eheydelle. Siksi ratkaisujen kehittäminen, jotka ylläpitävät tarkkuutta ja luotettavuutta jopa petollisten syötteiden edessä, on erittäin tärkeää.
Aiemmat menetelmät pyrkivät parantamaan mallien sietokykyä, mutta ne vaativat usein monimutkaisia ja resurssitehokkaita prosesseja. Kuitenkin uusi Diffusion Denoised Smoothing (DDS) -menetelmä edustaa merkittävää muutosta yhdistämällä esikoulutetut denoisen siirtymätasoiset todennäköisyysmallit korkean tarkkuuden luokittimiin. Tämä ainutlaatuinen lähestymistapa parantaa tehokkuutta ja käytettävyyttä, laajentaen näin kestävien adversaarien puolustusmekanismien sovellusaluetta.
DDS-menetelmä vastustaa adversaarisia hyökkäyksiä soveltamalla hienostunutta kohinasuojausprosessia syöttein puhdistaakseen. Soveltaen viimeisintä kuvan generoinnista peräisin olevaa siirtymätekniikkaa, menetelmä poistaa tehokkaasti adversaariset kohinat ja varmistaa tarkan luokittelun. Menetelmä saavuttaa huomattavat 71 prosentin tarkkuuden ImageNetin aineistossa, parantaen aiempia huippuluokan menetelmiä.
Tämän tutkimuksen vaikutukset ulottuvat laajalle. DDS-menetelmä tarjoaa tehokkaamman ja saavutettavamman tavan saavuttaa kestävyys adversaarisia hyökkäyksiä vastaan, ja sillä voi olla sovelluksia autonomisissa ajoneuvojärjestelmissä, tietoturvassa, terveydenhuollon kuvantamisessa ja rahoituspalveluissa. Edistyneiden kestävyyden tekniikoiden käyttö lupaa parantaa tekoälyjärjestelmien turvallisuutta ja luotettavuutta kriittisissä ja korkean panoksen ympäristöissä.
Lisätietoja on saatavilla tutkijoiden pääverkkotunnuksella: Google, Carnegie Mellonin yliopisto, Bosch.
The source of the article is from the blog mendozaextremo.com.ar