Sužavanje rizika u AI jezičnim modelima
S umjetnom inteligencijom (AI) koja transformira industrije, pozornost je usmjerena na Generative AI i njegovu kreativnu moć. Unatoč potencijalu, razlikovanje činjenica od fikcije predstavlja izazov za tvrtke koje razmatraju njegovu upotrebu. Tu je Cleanlab, startup za AI koji je potekao iz kvantnog računalnog laboratorija MIT-a, posjedujući novu rješenje za povećanje korisničkog povjerenja u visokorizičnim scenarijima.
Predstavljanje Pouzdanog Jezičnog Modela
Cleanlab je razvio aplikaciju nazvanu Pouzdani Jezični Model, koja ocjenjuje izlaze jezičnih modela na skali od 0 do 1 za pouzdanost. Time se korisnicima omogućuje razlikovanje vjerodostojnih od AI-generiranih odgovora koji bi se trebali zanemariti, pozicionirajući Cleanlab kao svojevrsni detektor lažnih informacija u AI.
Izvršni direktor Cleanlaba, Curtis Northcutt, izražava optimizam citirajući da će ovaj alat unaprijediti privlačnost velikih jezičnih modela za poslovne primjene. Ističe važnost prevladavanja prepreka koje povremeno predstavlja AI “halucinacije”, koje se odnose na generiranje netočnih ili besmislenih informacija.
Točnost u Središtu Pozornosti
Zabrinjavajuće otkriće iz studije Vectara ukazalo je da chatboti, sve više važni za pretraživanje informacija, isporučuju izmišljene informacije otprilike 3% vremena – značajna pogreška u poslovnom svijetu.
Povijest i Budući Ciljevi Cleanlaba
Tijekom 2021. Cleanlab je napredovao identificirajući pogreške u skupovima podataka često korištenim za obuku algoritama strojnog učenja. Zapažene korporacije, uključujući Google, Tesla i Chase, od tada su primijenile tu tehnologiju. Pouzdani Jezični Model proširuje ovaj princip na chatbotove, ciljajući označiti inkonzistentnosti i tako odrediti opću pouzdanost sustava.
Primjer naveden u prezentaciji tvrtke Cleanlab prikazuje kako bi takav alat mogao funkcionirati. Kad je upitan koliko se puta slovo ‘n’ pojavljuje u riječi “enter”, različiti odgovori chatbota ilustrirali su slučajnosti u AI odgovorima. Alat Cleanlaba ocijenio je točan odgovor s umjerenom ocjenom pouzdanosti, naglašavajući potencijalni rizik bez takvog sustava za ocjenjivanje. To naglašava misiju Cleanlaba: učiniti nepredvidivu prirodu AI-a očitijom te spriječiti da zavaravajuće točni odgovori stvore lažan osjećaj sigurnosti u visokorizičnim scenarijima.
Poboljšanje Pouzdanosti AI-a Cleanlabovim Inovativnim Pristupom
Kako ovisnost o AI raste, osiguravanje da su njezini izlazi točni i pouzdani postaje ključno. Pouzdani Jezični Model tvrtke Cleanlab suočava se s tom potrebom. Ocjenjivanjem izlaza za pouzdanost, korisnici mogu donijeti informiranije odluke o informacijama koje primaju od sustava AI. To je posebno važno u domenama gdje donošenje pogrešne odluke na temelju neispravnih informacija AI-a može imati ozbiljne posljedice.
Ključni Izazovi u Pouzdanosti AI-a
Jedan od glavnih izazova u pouzdanosti AI-a jest inherentna sposobnost AI sustava, posebno jezičnih modela, da generiraju uvjerljive, ali netočne ili besmislene odgovore (poznate kao “halucinacije”). Drugi izazov je prisutnost pristranosti i pogrešaka u skupovima podataka za obuku, koje mogu održavati dezinformacije i iskrivljene perspektive kada su modeli implementirani.
Kontroverze Povezane s Pouzdanošću AI-a
Pouzdanost AI-a često je dovođena u pitanje, budući da neprozirnost procesa odlučivanja unutar modela dubokog učenja može dovesti do nepredvidljivosti i nedostatka odgovornosti. Također postoji zabrinutost u vezi s opsegom na koji se oslanjanje na AI može dovesti do suzdržanosti, potencijalno narušavajući kritičko mišljenje i vještine donošenja odluka među korisnicima.
Prednosti Cleanlabova Pristupa
Prednosti:
– Povećana transparentnost: Dostavljanje ocjene pouzdanosti pomaže korisnicima da razumiju razinu povjerenja koje mogu imati u izlaze stroja.
– Poboljšana sigurnost i odgovornost: U visoko rizičnim sektorima poput zdravstva, financija ili provedbe zakona, posljedice djelovanja na netočne informacije mogu biti teške. Pouzdani Jezični Model može djelovati kao zaštita.
– Ispravak podataka: Povijest Cleanlaba u identificiranju pogrešaka u skupovima podataka za obuku znači da ne samo da ocjenjuju izlaz, već i doprinose poboljšanju AI-a izvora.
Nedostaci:
– Pretjerano oslanjanje na ocjene: Korisnici se mogu osloniti na ocjene pouzdanosti, koje možda ne uvijek obuhvaćaju suptilnosti istinitosti ili primjenjivosti na nove situacije.
– Ograničen opseg: Početni lansiranje fokusira se na jezične modele. Drugi oblici AI-a, poput prepoznavanja slika ili autonomnih sustava, još uvijek mogu prezentirati rizike koje alat nije adresirao.
Za istraživanje Pouzdanosti AI-a i razvoje u području Sigurnosti AI-a, moguće je uputiti se na ugledne domene organizacija i akademskih institucija uključenih u istraživanje AI-a, kao što su:
– Google AI
– DeepMind
– OpenAI
– Microsoft AI Research
– MIT IBM Watson AI Lab
Važno je osigurati da korisnici budu usmjereni na glavne domene ovih organizacija, pružajući pristup širokom rasponu informacija o najnovijim AI inovacijama, sigurnosnim pristupima i istraživačkim probojima.
The source of the article is from the blog maestropasta.cz