Nyleg forsking har kasta lys over ein overraskande svakheit i kunstig intelligens (AI)-system: deira tendens til å gjere irrasjonelle feil som synes enkle for menneske. Ei forskargruppe ved University College London utførte ein grundig evaluering av AI si evne til å resonnere på ein måte liknande mennesket sin tankegang.
Testar utført på AI-modellar viste ei uoverensstemming med menneskeleg logikk, og enda ofte opp med feil svar sjølv når logikken såg ut til å vere fornuftig. Særleg viste Meta si Lama-modell forvirring mellom vokalar og konsonantar, noko som førte til feil som ville vore lett unngåelege for dei fleste menneske.
Nokre AI-nettpratrobotar viste ei overlydsnem oppførsel, og gjekk så langt som å nekte å svare, sjølv på uskuldige spørsmål basert på etiske sikringar. Denne konservatismen tyder på mogleg overivrig beskyttande eigenskapar eller ein tendens mot ekstrem forsiktighet innebygd i AI.
Sjølv om ChatGPT-4, blant dei testede AI-modellane, viste den høgaste nøyaktigheitsraten, innrømte forskarane at dei var forbløffa over korleis den kom fram til dei rette svarene.
Funna i denne studien belyser dei potensielle risikoa ved å setje ut AI-modellar i kritiske brukssituasjonar. Når AI fortset å bli utvikla, blir det stadig tydelegare at den kanskje ikkje er like flink til å etterlikne mennesket sine tenkningsprosessar som tidlegare håpa, og dette skaper utfordringar for framtidig integrering og pålitelegheit.
Viktigheita av å forstå AI sine sårbarheiter
Å forstå sårbarheitene til kunstig intelligens er avgjerande for å sikre tryggleik, pålitelegheit, og robustheit i AI-baserte system. AI blir stadig oftare brukt i område som har alvorlege konsekvensar som helsevesen, finans, og autonom køyring, der feil kan ha store følgjer. Dermed er å gjenkjenne og dempe svake punkt i AI sin resonnering eit kritisk område for pågåande forsking.
Dei viktigaste utfordringane og kontroversane
Ei av hovudutfordringane i AI-utviklinga er å skape system som kan forstå og prosessere informasjon med den nyanserte forståinga til menneske. Dette inkluderer handtering av tvetydighet, samanheng, og bruk av sunn fornuft. Ei relatert kontrovers er kor mykje AI bør følgje menneskeliknande resonnering, sidan styrkane deiras kan ligge i ulike område enn menneskets kognisjon.
Fordelar med AI-siksisrøynsle
– AI kan prosessere og analysere data i ein skala og fart som overgår menneskeleg evne.
– Den kan oppdage mønster og samanhengar i store datasett som kan vere usynlege for menneske.
– AI kan arbeide målretta utan behov for kvile, og behalde konsistent ytelse.
Ulemper med AI-siksisrøynsle
– AI kan mangle sunn fornuft og gjere feil i enkle logiske resonnement.
– Noverande AI-modellar kan ha problem med samanheng og kan feiltolke informasjon utanfor treningsdataene deira.
– Det er ei risiko for overtilpassing, der AI presterer bra på kjent data men dårleg på ny, ukjent data.
For å finne meir om AI og relatert forsking frå eit breitt perspektiv, kan du besøkje:
Kvar av desse føretaka er dypt involverte i skjærande AI-forsking og slit med problem knytte til AI sin pålitelegheit og resonneringsevne.
The source of the article is from the blog cheap-sound.com