Artificiell intelligens oregelbundet svar ställer nya utmaningar
Googles nyliga implementering av ett AI-driven översynsverktyg avsett att erbjuda omedelbara svar i sökresultat har genererat oväntade, fantasifulla svar såsom påståenden om existensen av månkatter. Vid ett tillfälle, när reportrar från Associated Press frågade om katter hade varit på Månen, returnerade Googles AI-sökning ett fantasifullt svar som antydde att astronauter faktiskt hade stött på och till och med hjälpt kattvänner på månens yta, lustigt tillskrivande Neil Armstrongs historiska ord till en ”liten steg för en katt.”
Experter uttrycker oro över AI-system som hämtar från tvivelaktiga källor, vilket leder till spridning av falsk information. Melodie Mitchell, en AI-forskare från USA, upplevde förstahands de fallgropar som finns med Googles AI när hon frågade om muslimska presidenter i USA. Google svarade självsäkert med felaktig information och felaktigt påstod att Barack Obama var den enda muslimska presidenten. Mitchell påpekade att AI stödde sitt felaktiga påstående med en hänvisning till en akademisk publikation, vilken inte bekräftade desinformationen utan bara nämnde konspirationsteorin.
AI-fel innefattar inte bara humoristiska fel utan även potentiellt skadliga lögnaktigheter. Kritiska nödfrågor, ställda av användare under stress, kan gå obemärkt förbi på grund av stress och brådska, vilket kan försämra situationen genom att leda till felplacerad tillit till första ögonkastet av information. Dessutom finns en ökande oro över att dessa neurala nätverk förstärker farliga fördomar, med problematiskt innehåll som upptäckts i de datasets som används för att träna AI.
Google har erkänt vikten av att snabbt åtgärda dessa fel och drar nytta av dessa erfarenheter för framtida förbättringar. Brådskan att ligga i framkant i den konkurrensutsatta landskapet, med företag som amerikanska utvecklare OpenAI och Perplexity AI, kan ha varit en bidragande faktor till problemen med den nya funktionen. Inte minst har Perplexity AI visat sig leverera mer exakta svar än Google på flera frågor.
Vikten av ansvarig AI-övervakning
När tekniken fortsätter att utvecklas anförtros alltmer att AI-system som Googles levererar information. Men detta ansvar medför inneboende risker när noggrannheten kompromissas. Två huvudfrågor uppstår från denna situation:
1. Hur kan vi säkerställa att informationen som tillhandahålls av AI är korrekt?
2. Vilka åtgärder bör vidtas för att förhindra spridning av desinformation?
Utmaningarna som är förknippade med ämnet för AI-misstag och desinformation inkluderar att säkerställa källornas tillförlitlighet som AI-system hämtar ifrån, förebyggande av förstärkning av samhälleliga fördomar och snabb åtgärd av fel när de uppstår.
Att hantera desinformation och fördomar
Kontroverser inom detta område handlar ofta om att avgöra vem som är ansvarig för AI-genererad desinformation och hur man reglerar AI för att förhindra sådana förekomster. Att utveckla mer sofistikerade algoritmer för att verifiera information och hämta från tillförlitliga data är en del av lösningen. Dessutom är det viktigt att ta itu med de inbyggda fördomarna inom träningsdatamängder är nödvändigt för rättvisa och opartiska AI-utgångar.
Fördelarna med AI-driven översynsverktyg är många. De ger snabb åtkomst till information, hjälper till med att hantera talrika frågor samtidigt och eliminerar vissa mänskliga fel. Dock är nackdelarna lika betydande. De inkluderar leverans av felaktig information, potentiell förstärkning av fördomar och förvirring eller skada om man förlitar sig på dem för kritiska beslut.
Sammanfattningsvis, medan potentialen för AI är stor, likaså är behovet av rigorös övervakning, förädling och etisk övervägande. För mer information om artificiell intelligens och dess framsteg kan följande länkar vara av intresse:
– OpenAI
– Google
Det är avgörande för branschledare och reglerare att bidra till utvecklingen av standarder och ramverk för ansvarig AI för att undvika att undergräva allmänhetens förtroende för denna kraftfulla teknologi.