Lidia PerskaUudet Oppimistekniikat Luovat Monimutkaisia Haasteita AI-Malleille
Tutkijat ovat huomanneet, että uusimmat oppimistekniikat aiheuttavat ongelmia kehittyneille AI-malleille, kuten GPT-4o ja Llama 3.1 405B, kuten raportoitu yhteisessä tutkimuksessa, johon osallistuivat muun muassa Washingtonin yliopisto, Princeton, Chicagon yliopisto, USC ja Google. Tutkimus osoittaa, että nykyiset oppimistekniikat eivät vielä ole tehokkaita tiettyjen tietojen poistamisessa vahingoittamatta mallin yleistä toiminnallisuutta.
AI-Mallien Oppimisprosessi
Generatiiviset AI-mallit toimivat perustuen niihin kuvioihin, jotka ne ovat oppineet valtavasta määrästä dataa. Esimerkiksi syötettäessä sähköpostidataa, joka päättyy ”Odotan innolla…”, automaattinen täydennysominaisuus ennustaa lauseen ”… kuulevani takaisin.” Nämä mallit eivät sisällä tarkoitusta, vaan luottavat pelkästään tilastolliseen analyysiin ehdottaakseen vastauksia.
Tekijänoikeushaaste ja Oppimistekniikoiden Nousu
Kehittyneiden AI-mallikehittäjien luvattomat tietojen kaappaukset julkisista lähteistä ovat johtaneet tekijänoikeuskiistoihin yksilöiden ja organisaatioiden kuten kirjailijoiden, kustantajien ja levy-yhtiöiden kanssa. Oppimistekniikat ovat herättäneet merkittävää huomiota vastauksena tähän ongelmaan, ja Google on aloittanut kilpailuja kannustaakseen tehokkaiden menetelmien kehittämistä mallien korjaamiseksi.
Haasteet Oppimistekniikoiden Toteuttamisessa
Oppimisstrategiat pyrkivät ohjaamaan malleja tietyistä datamalleista parantaakseen tietosuoja. Kuitenkin mallin ennusteiden vaikutus voi johtaa suorituksen heikkenemiseen vastatessaan kysymyksiin. Shi ja hänen tiiminsä esittivät Machine Unlearning Six-way Evaluation (MUSE) -mittapuun arvioidakseen oppimisen vaikutusta mallin tiedon säilyttämiseen.
Tulevaisuudennäkymät ja Jatkuvat Tutkimukset
Tutkimus korostaa oppimistekniikoiden monimutkaisuutta ja korostaa tarvetta lisätutkimukselle tällä alalla. Vaikka unohtaminen voisi lupailla tulevaisuuden AI-datankäsittelyä varten, nykyiset haasteet viittaavat siihen, että lisätutkimus on välttämätöntä voittaakseen olemassa olevien menetelmien asettamat rajoitukset.
etc…
