Fersk forsking har kasta lys over ein overraskande svakheit i kunstig intelligens (AI)-system: deira tendens til å lage ulogiske feil som virker enkle for menneske. Ei gruppe forskarar ved University College London gjennomførte ei grundig evaluering av AIs evne til å resonnere på ein måte lik menneskeleg tanke.
Testar utført på AI-modellar avslørte ein diskrepans med menneskeleg logikk, som ofte resulterte i feil svar sjølv om logikken såg fornuftig ut. Særleg Meta si Lama-modell blanda saman vokalar og konsonantar, som førte til feil som dei fleste menneske enkelt kunne unngå.
Ein del AI-pratbotar viste ein altfor forsiktig oppførsel, og gjekk så langt som å nekte å svare på sjølv harmlause spørsmål basert på etiske verneåtgjerder. Denne forsiktige haldninga tyder på mogleg overivrig beskyttelsesfunksjonar eller ei tendens til ekstrem forsiktighet som er innbygd i AI-en.
Sjølv om ChatGPT-4, blant dei testede AI-modellane, viste høgast nøyaktigheitsrate, innrømde forskarane at dei var forundra over korleis den kom fram til dei riktige svarene.
Funna i denne studien understrekar dei potensielle risikane ved å bruke AI-modellar i kritiske søknadar. Som AI fortset å utviklast, har det blitt stadig meir klart at det kanskje ikkje er like flink til å imitere menneskeleg tenkning som ein tidlegare hadde håpa på, og det byr på utfordringar for framtidig integrering og pålitelegheit.
Viktigheit av å Forstå AI-sårbarheiter
Det er avgjerande å forstå sårbarheiter i kunstig intelligens for å sikre tryggleik, pålitelegheit og robustheit i AI-baserte system. AI blir stadig oftare brukt i felt som har alvorlige implikasjonar, som helse, finans og autonom kjøring, der feil kan få store konsekvensar. Derfor er å anerkjenne og redusere svake punkt i AI-resonnement ein kritisk del av pågåande forsking.
Utfordringar og Kontroversar
Ein av hovudutfordringane i AI-utviklinga er å skape system som kan forstå og prosessere informasjon med den nyanserte forståinga til menneske. Dette inkluderer å handtere tvetydighet, kontekst og bruken av sunn-fornuft-resonnering. Ein relatert kontrovers er kor mykje AI bør følgje menneskeleg resonnement, då styrkane deira kan ligge på andre område enn menneskeleg kognisjon.
Fordelar med AI-resonnement
– AI kan prosessere og analysere data i ein skala og fart som overgår menneskjelege mogleikar.
– Det kan oppdage mønster og samanhengar i store datasett som kan vere umerkelige for menneske.
– AI kan jobba uavlatande utan behov for kvile, og oppretthalde ein konsekvent ytelse.
Ulemper med AI-resonnement
– AI kan mangle forståing for sunn fornuft og lage feil i enkel logikk.
– Noverande AI-modellar kan streve med kontekst og kan misforstå informasjon utanfor treningsdataene deira.
– Det er ein risiko for overtilpassing, der AI presterer bra på kjende data, men dårleg på ny, ukjent data.
For å lære meir om AI og relatert forsking frå eit bredt perspektiv, kan du besøke:
Kvar av desse aktørane er djupt involverte i toppmoderne AI-forsking og slit med problem knytt til AI-pålitelegheit og resonnementsevne.