Yhteenveto:
Generatiivisen tekoälyn (genAI) alustojen nopean kehityksen myötä on syntynyt huoli näiden järjestelmien voimaa antavien suurten kielifragmentointimallien (LLM) luotettavuudesta. Kun LLM-mallit ovat yhä kyvykkäämpiä matkimaan luonnollista kieltä, on yhä vaikeampaa erottaa tosi ja väärä tieto toisistaan. Tämän ongelman ratkaisemiseksi nimeltään Patronus AI-niminen startup on kehittänyt automatisoidun arviointi- ja turva-alustan, jonka avulla yritykset voivat käyttää LLM-malleja turvallisesti. Patronus AI:n työkalut käyttävät vastakkainasettelutestejä tunnistaakseen ristiriidat, epätarkkuudet, hallusinaatiot ja vinoumat LLM-malleissa. Yrityksen ohjelmisto nimeltään SimpleSafetyTests käyttää diagnostisia työkaluja, joihin kuuluu 100 testipyyntöä, jotta voidaan tunnistaa kriittiset turvallisuusriskit tekoälyjärjestelmissä. Patronus AI:n suorittamien testien perusteella suosituilla genAI-alustoilla tekoälychattibotti epäonnistui noin 70 prosentissa tapauksista ja onnistui vain silloin, kun sille annettiin selkeät ohjeet oleellisen tiedon hakemiseen. Tulokset korostavat tarvetta laadunvarmistukseen tekoälyjärjestelmissä, sillä yritykset käyttävät tällä hetkellä merkittäviä resursseja manuaaliseen virheen havaitsemiseen. Lisäksi teollisuuden analysoijat ennustavat, että genAI:n kasvavan luottamisen vuoksi kyberturvatoimia on lisättävä ja niihin on tarkoitus käyttää 15 prosenttia enemmän resursseja vuoteen 2025 mennessä.
Uusi tekoälyn testausalusta takaa luotettavat tulokset:
Luotettavuuteen liittyviin kielifragmentointimalleihin kohdistuvien huolten käsittelemiseksi Patronus AI on kehittänyt innovatiivisen automatisoidun arviointi- ja turva-alustan. Startupin työkalut pyrkivät varmistamaan, että generatiivisen tekoälyn (genAI) järjestelmissä käytetyt suuret kielifragmentointimallit tuottavat tarkkaa ja luotettavaa tietoa. SimpleSafetyTests, Patronus AI:n diagnostisiin työkaluihin kuuluva ohjelmisto, käyttää vastakkainasettelutestejä tunnistaakseen kielifragmentointimalleissa olevat kriittiset turvallisuusriskit. Kun suosittuja genAI-alustoja testattiin näillä testeillä, tiimi huomasi, että chattibotit epäonnistuivat noin 70 prosentissa tapauksista arvioidessaan kykyään ymmärtää SEC-tiedostoja ja muita oleellisia tietoja. Nämä epäonnistumiset korjattiin vasta, kun täsmälliset ohjeet annettiin siitä, mistä oleelliset tiedot löytyvät.
Tällaisten testausalustojen tarve johtuu nykyisten tekoälyjärjestelmien rajoituksista, sillä yritykset epäröivät luottaa tekoälyn generoimaan sisältöön. Epävarmuus kielifragmentointimalleissa johtuu huolista hallusinaatioista, epätarkkuuksista ja vinoumista. Perinteiset laadunvarmistusmenetelmät eivät riitä havaitsemaan virheitä suuressa mittakaavassa, mikä on johtanut automatisoitujen työkalujen, kuten SimpleSafetyTestsin, kehittymiseen.
Katsoessaan tulevaisuuteen, teollisuuden analysoijat ennustavat, että genAI-tekniikan luottamuksen kasvaessa myös tarve parannetuille kyberturvatoimille kasvaa. Tämä kasvava kysyntä voi johtaa siihen, että vuoteen 2025 mennessä kyberturvallisuuden varmistamiseen käytettävien resurssien määrää lisätään 15 prosenttia. Yritysten jatkaessa tekoälyliiketoimintojen tutkimista on välttämätöntä tunnustaa, että näitä järjestelmiä ei voida jättää autopilotin varaan ilman ihmisen puuttumista. Ihmisen osallistuminen on tärkeää, jotta voidaan tunnistaa ja korjata ongelmia, jotka voivat syntyä tekoälyn generoimasta sisällöstä.
Yhteenvetona Patronus AI:n uusi testausalusta tarjoaa arvokkaan ratkaisun kielifragmentointimallien luotettavuuden takaamiseksi jatkuvasti kehittyvällä generatiivisen tekoälyn alalla. SimpleSafetyTestsin tarjoamien automatisoitujen virheen havaitsemisen ja turvallisuuden arvioinnin työkalujen avulla yritykset voivat luoda luottamusta tekoälyjärjestelmiin ja välttää virheiden aiheuttamat riskit epätarkasta tai harhaanjohtavasta tiedosta.
The source of the article is from the blog oinegro.com.br