Microsoft sitt AI Raudt Lag leier an ei revolusjon innan raudt lags strategiar ved å nytta krafta til AI automatisering. I motsetnad til tradisjonelle tilnærmingar til raudt lags strategiar, som fokuserer på å evaluere sikkerheitsrisikoar i klassiske programvare eller AI-system, involverer raudt lags genererande AI-system å vurdere både sikkerheits- og ansvarlege AI-risikoar samtidig. Denne banebrytande tilnærminga bryt veg for meir omfattande og effektive raudt lags praksisar.
Eit av hovudutfordringane med raudt lags genererande AI-system er den sannsynlege naturen til desse systema. I motsetnad til eldre programvaresystem der gjentaking av same angrepsveg ville gi tilsvarande resultat, har genererande AI-system ein høg grad av ikkje-determinisme. Dette betyr at same inndata kan produsere ulike og uventa utdata. For å overvinne denne utfordringa har Microsoft sitt AI Raudt Lag utvikla ein struktur kalla PyRIT, som automatiserer gjentakande aktivitetar og gir sikkerheitsprofesjonelle viktige verktøy for å identifisere potensielle sårbarheiter og undersøkje dei grundig.
Arkitekturen til genererande AI-system varierer enormt, frå friståande applikasjonar til integrasjonar i eksisterande applikasjonar, og over ulike modalitetar som tekst, lyd, foto og video. Denne mangfaldet presenterer ei betydeleg utfordring for manuell raudt lags sondring. Microsoft sitt AI Raudt Lag anerkjenner behovet for effektive og straumlinjeforma vurderingsmetodar for å takle desse kompleksitetane.
For å handsame desse utfordringane, har Microsoft lansert ein ny verktøykasse spesifikt designa for raudt lags genererande AI-system. Denne verktøykassa nyttar ekspertisen til AI Raudt Lag, saman med ressursar frå heile Microsoft, som kontoret for Ansvarleg AI og Senteret for Rettferd i Microsoft Research. Ved å kombinere menneskeleg domenekunnskap med AI automatisering, gir verktøykassa sikkerheitsprofesjonelle meir effektive måtar å oppdage og redusere risikoar i genererande AI-system.
Til slutt leier Microsoft sitt AI Raudt Lag an revolusjon av raudt lags strategiar med AI automatisering. Deira innovative tilnærming, i tillegg til utviklinga av PyRIT og den nye verktøykassa, set ein ny standard for å vurdere sikkerheits- og ansvarlege AI-risikoar i genererande AI-system. Med dette banebrytande arbeidet hjelper Microsoft bedrifter og organisasjonar med å innovere på ein etisk måte med AI, samstundes som dei vernar mot potensielle truslar.
The source of the article is from the blog mendozaextremo.com.ar