AI-forskere fra Google, Carnegie Mellon University og Bosch Center for AI har gjort et ekstraordinært gennembrud inden for området for modstandsdygtighed mod angreb. Deres banebrydende metode viser betydelige fremskridt og praktiske implikationer, der bringer os tættere på mere sikre og pålidelige AI-systemer.
Denne forskning introducerer en strømlinet tilgang til at opnå førsteklasses modstandsdygtighed mod angreb. Holdet viser, at dette kan opnås ved hjælp af forudtrænede modeller, hvilket forenkler processen med at styrke modeller mod angreb.
Gennembrud med Denoised Smoothing
Ved at fusionere en forudtrænet model til probabilistisk støjreduktion med en højpræcisionsklassifikator har forskerne opnået en banebrydende nøjagtighed på 71% på ImageNet for angrebspåvirkninger. Dette resultat markerer en betydelig forbedring på 14 procentpoint i forhold til tidligere certificerede metoder.
Praktisk anvendelighed og tilgængelighed
En af de vigtigste fordele ved denne metode er, at den ikke kræver kompleks finjustering eller genudtræning. Dette gør den meget praktisk og tilgængelig for forskellige anvendelser, især dem, der kræver forsvar mod angreb.
En unik teknik til støjreduktion
Den teknik, der anvendes i denne forskning, involverer en totrins proces. Først bruges en støjdæmpende model til at fjerne den tilføjede støj, og derefter bestemmer en klassifikator mærket for den behandlede input. Denne proces gør det muligt at anvende randomiseret støjreduktion på forudtrænede klassifikatorer.
Udnyttelse af støjdæmpende diffusionsmodeller
Forskerne fremhæver egnetheden af støjdæmpende probabilistiske diffusionsmodeller til støjdæmpningsprocessen i forsvarsmekanismer. Disse modeller, der er anerkendt inden for billedgenerering, gendanner effektivt kvalitetsinputs uden støj fra støjende datadistributioner.
Dokumenteret effektivitet på store datasæt
Imponerende viser metoden fremragende resultater på ImageNet og CIFAR-10 og overgår tidligere trænede tilpassede støjdæmpere, selv under streng perturbationsnormer.
Åben adgang og reproducerbarhed
I et forsøg på at fremme gennemsigtighed og yderligere forskning har forskerne gjort deres kode tilgængelig på et GitHub repository. Dette giver andre mulighed for at replikere og bygge videre på deres eksperimenter.
Modstandsdygtighed mod angreb er en kritisk faktor inden for AI-forskning, især inden for områder som autonome køretøjer, datasikkerhed og sundhedsvæsen. Sårbarheden hos dyb-læringsmodeller over for angrebsmetoder udgør alvorlige trusler mod AI-systemernes integritet. Derfor er udviklingen af løsninger, der opretholder nøjagtighed og pålidelighed, selv over for vildledende input, af største betydning.
Tidligere metoder havde til formål at forbedre modellernes robusthed, men de krævede ofte komplekse og ressourcekrævende processer. Den nye metode “Denoised Smoothing” (DDS) repræsenterer imidlertid et betydningsfuldt skift ved at kombinere forudtrænede modeller til probabilistisk støjreduktion med højpræcisionsklassifikatorer. Denne unikke tilgang forbedrer effektiviteten og tilgængeligheden og udvider omfanget af robuste forsvarsmekanismer mod angreb.
DDS-metoden bekæmper angreb ved at anvende en sofistikeret støjdæmpningsproces til at rense inputdata. Ved at anvende state-of-the-art diffusionsmetoder inden for billedgenerering fjerner metoden effektivt støj fra angreb og sikrer præcis klassifikation. Bemærkelsesværdigt opnår metoden en imponerende nøjagtighed på 71% på ImageNet-datasettet og forbedrer dermed tidligere state-of-the-art-metoder.
Betydningen af denne forskning er vidtrækkende. DDS-metoden præsenterer en mere effektiv og tilgængelig måde at opnå robusthed mod angreb på, med potentiale for anvendelse inden for autonome køretøjer, cybersikkerhed, diagnosticering af sundhedsbilleder og finansielle tjenester. Anvendelse af avancerede metoder til robusthed bringer muligheden for at forbedre sikkerheden og pålideligheden af AI-systemer i kritiske og højrisikomiljøer.
Ofte stillede spørgsmål: En banebrydende tilgang til at forbedre modstandsdygtighed mod angreb i dyb-læringsmodeller
Forskerne har opnået en banebrydende nøjagtighed på 71% på ImageNet for angrebspåvirkninger ved hjælp af en fusion af forudtrænede modeller til probabilistisk støjreduktion og en højpræcisionsklassifikator. Dette markerer en betydelig forbedring i forhold til tidligere certificerede metoder.
Kræver denne metode kompleks finjustering eller genudtræning?
Nej, en af de vigtige fordele ved denne metode er, at den ikke kræver kompleks finjustering eller genudtræning. Dette gør den meget praktisk og tilgængelig for forskellige anvendelser, især dem der kræver forsvar mod angreb.
Hvad er den unikke teknik, der anvendes i denne forskning?
Teknikken involverer en totrins proces. Først bruges en støjdæmpende model til at fjerne tilføjet støj, og derefter bestemmer en klassifikator mærket for den behandlede input. Denne proces gør det muligt at anvende randomiseret støjreduktion på forudtrænede klassifikatorer.
Hvad er støjdæmpende diffusionsprobabilistiske modeller?
Støjdæmpende diffusionsprobabilistiske modeller er modeller, der bruges i støjdæmpningsprocessen i forsvarsmekanismer. De er anerkendt inden for billedgenerering og gendanner effektivt kvalitetsinput uden støj fra støjende datadistributioner.
Hvordan klarer denne metode sig på store datasæt?
Metoden viser fremragende resultater på store datasæt som ImageNet og CIFAR-10 og overgår tidligere trænede tilpassede støjdæmpere, selv under strenge perturbationsnormer.
Er koden for denne metode tilgængelig for offentligheden?
Ja, som et led i bestræbelserne på at fremme gennemsigtighed og videre forskning har forskerne gjort deres kode tilgængelig på et GitHub repository. Andre kan replikere og bygge videre på deres eksperimenter.
Hvad er de potentielle anvendelser af denne forskning?
Konsekvenserne af denne forskning er vidtrækkende. Metoden præsenterer en mere effektiv og tilgængelig måde at opnå robusthed mod angreb på, med potentiale for anvendelse inden for autonome køretøjer, cybersikkerhed, diagnosticering af sundhedsbilleder og finansielle tjenester.
For mere information kan du besøge forskernes primære domæne: Google, Carnegie Mellon University, Bosch.
The source of the article is from the blog rugbynews.at