En nyligen genomförd studie avslöjade att AI-chattrobotar som ChatGPT, Grok, Gemini och andra sprider desinformation som gynnar Ryssland. Resultaten pekar på en oroande trend där falsk information inte bara genereras av artificiell intelligens, utan också förstärks och sprids av dem.
Enligt en undersökning utförd av NewsGuard sprider ledande AI-modeller som OpenAIs ChatGPT pro-rysk desinformation. I en tid av ökande oro för att AI sprider falsk information, särskilt under globala val som det kommande valet 2024, kan användare som vänder sig till chattrobotar för pålitlig information oavsiktligt stöta på felaktigheter.
Studien indikerade att även om bekymren kvarstår angående AI-drivna desinformation, finns det begränsad data om i vilken utsträckning falsk information spridd av chattrobotar kan upprepas och bekräftas. När 57 frågor matades in i 10 chattrobotar upptäcktes att de spred pro-rysk propaganda till en grad av 32%.
Märkvärdigt nog, presenterades fabricerade historier som härstammade från John Mark Dougan, en amerikansk flyktling känd för att skapa desinformation i Moskva, för dessa chattrobotar. Chattrobotarna som undersöktes inkluderade ChatGPT-4, You.coms Smart Assistant, Grok, Inflection, Mistral, Microsofts Copilot, Meta AI, Anthropics Claude, Google Gemini och Perplexity.
Medan den individuella prestationen hos varje chattrobot inte analyserades, visade det sig att av 570 svar innehöll 152 uppenbar desinformation, 29 upprepade felaktiga påståenden med en förbehållsförklaring, och 389 inte innehöll någon falsk information antingen genom att vägra svara (144) eller genom att avfärda påståendet (245).
Dessa resultat understryker det brådskande behovet för reglerare globalt att ta itu med de potentiella skadorna av AI som sprider desinformation och snedvridning. NewsGuard har lämnat in sin forskning till National Institute of Standards and Technologys AI Security Institute i USA och till Europeiska kommissionen för övervägande som en del av ansträngningar att skydda användare från desinformation som underlättas av AI-teknik.
Ytterligare relevanta fakta:
1. AI-chattrobotar används alltmer för olika ändamål utöver att bara sprida desinformation, inklusive kundtjänst, psykiskt stöd och utbildning.
2. Teknologin bakom AI-chattrobotar fortsätter att utvecklas snabbt, med nya modeller och algoritmer som utvecklas för att förbättra konversationsförmågan och noggrannheten.
3. Vissa AI-chattrobotar har programmerats specifikt för att bekämpa desinformation genom att erbjuda faktakontrolltjänster och korrigera felaktiga påståenden i realtid.
Nyckelfrågor:
1. Hur kan vi säkerställa ansvarighet och öppenhet i utvecklingen och implementeringen av AI-chattrobotar för att förhindra spridningen av desinformation?
2. Vilka åtgärder kan vidtas för att utbilda användare om riskerna med att lita på AI-chattrobotar för information och främja kritiskt tänkande?
3. Bör det finnas regelverk för att styra användningen av AI-chattrobotar och mildra riskerna med att sprida desinformation?
Fördelar:
1. AI-chattrobotar kan erbjuda snabb och tillgänglig information till användare, vilket förbättrar bekvämligheten och effektiviteten.
2. De kan användas för att skala upp kundtjänstoperationer och förbättra svarstiderna.
3. AI-chattrobotar har potentialen att skräddarsy interaktioner och erbjuda skräddarsydda rekommendationer till användare baserat på deras preferenser.
Nackdelar:
1. Utan ordentlig tillsyn och reglering kan AI-chattrobotar förstärka spridningen av desinformation och bidra till att erodera förtroendet för onlinematerial.
2. Chattrobotar kan sakna förmågan att skilja mellan korrekt och falsk information, vilket leder till oavsiktlig spridning av felaktigheter.
3. Beroendet av AI-chattrobotar för information kan potentiellt göra användare mer mottagliga för manipulation och påverkan av illvilliga aktörer.
Relaterade länkar:
1. www.economist.com
2. www.wired.com