Stött av ett växande hot om desinformation från artificiell intelligens, uppdaterade Google brådskande sin AI-genererade innehållsplattform, AI Overviews, förra fredagen. Användare rapporterade att de fick bisarra och potentiellt farliga svar på sina frågor, vilket fick den tekniska jätten att agera snabbt. Enligt företaget togs åtgärder så snart problem uppstod som bröt mot riktlinjerna för innehållspolicy.
Felaktiga AI-svar leder till snabba åtgärder från Google
Googles AI Overviews har varit uppmärksammat sedan användare började märka udda svar på sina frågor. Till exempel, när de frågades om antalet muslimska presidenter i USA, föreslog AI Overviews felaktigt att Barack Obama kan vara den första muslimska presidenten. Google tog snabbt bort denna felaktiga information och bekräftade att den bröt mot deras innehållsregler.
En annan användare delade en ovanlig rekommendation från AI Overviews. Som svar på en fråga om hur man förhindrar att ost fastnar på pizza, föreslog AI användning av ”icke-toxiskt lim,” en idé som tydligen härstammade från ett gammalt Reddit-inlägg. På liknande sätt användes felaktigt en satirisk påstående från The Onion av AI Overviews, som citerade CIA:s påstådda erkännande av att använda svarta markörer för att dölja text i dokument.
Google har tagit dessa fall på allvar och använt dem för att förbättra systemets noggrannhet. Vissa förbättringar har redan implementerats. Infört i mitten av maj, strävar AI Overviews efter att ge ett skriftligt svar på sökningar, vilket avviker från de traditionella länkbaserade resultaten. Även om hyperlänkar fortfarande är tillgängliga, finns de nu under AI-skrivet innehåll som kunde fullt tillfredsställa användares frågor.
Utmaningar och kontroverser inom AI-genererat innehåll
En av de viktiga utmaningarna med AI-genererade innehållsplattformar, som Google’s AI Overviews, är hanteringen och förebyggandet av desinformation. Eftersom maskininlärningsalgoritmer tränas på stora dataset från internet, kan de oavsiktligt förstärka fel eller partiskhet som finns inom dessa datakällor. Att säkerställa pålitligheten hos sådana system är en primär oro för utvecklare, användare och intressenter.
Det finns också potential för att AI kan utnyttjas av skurkar. Desinformation och falsk information är allvarliga hot i den digitala tidsåldern, särskilt när AI kan generera övertygande men falskt innehåll i stor skala. Google, bland andra, behöver kontinuerligt uppdatera algoritmer och tillsynsåtgärder för att skydda sig mot dessa hot.
Viktiga frågor och svar
F: Vilka åtgärder har Google vidtagit som svar på desinformation från AI Overviews?
A: Google har uppdaterat sin AI Overviews-algoritm för att ta bort felaktiga svar och fortsätter att förbättra sitt system för att öka noggrannheten och efterlevnaden av riktlinjer för innehåll.
F: På vilket sätt uppstår desinformation i AI-genererat innehåll?
A: Desinformation kan uppstå när AI-system tränas på felaktiga eller partiska datamängder, eller när AI felaktigt tolkar legitima data på oavsiktliga sätt.
Fördelar och nackdelar med AI-genererade översikter
Fördelar:
– AI Overviews kan potentiellt ge snabbare, mer exakta sammanfattningar av komplex information.
– Systemet kan förbättra sökeffektiviteten genom att ge användare den information de behöver utan att behöva klicka igenom flera länkar.
– Genom att använda maskininlärning kan Google kontinuerligt utveckla plattformen för att förbättras över tid, anpassa sig till nya data och användarfeedback.
Nackdelar:
– Systemet är utsatt för fel och kan sprida desinformation om det inte noggrant övervakas och rättas till.
– Det kan minska trafiken till externa webbplatser, vilket kan skada publicister genom minskad tittarskara och annonsintäkter.
– Det finns en risk för överberoende av AI, vilket kan leda användare att acceptera AI-genererad information utan kritiskt tänkande eller verifiering.
Att säkerställa giltigheten hos onlineinnehåll är en pågående uppgift för sökmotorer som Google, som måste balansera användbarheten hos AI-verktyg mot riskerna med att sprida desinformation. För mer information om Googles bredare ansträngningar och funktioner kan du besöka Googles huvuddomän på Google.
The source of the article is from the blog combopop.com.br