Google’s innovatieve AI-zoektool heeft een factcheck-functie nodig
Ondanks ontwikkelingen in technologie vertoont de nieuwe Google-zoekfunctie die gebruikmaakt van generatieve kunstmatige intelligentie recentelijk aanzienlijke gebreken, wat heeft geleid tot de verspreiding van onjuiste informatie. In plaats van het doorzoeken van talloze artikelen en socialemediaberichten, was deze tool bedoeld om gebruikers een beknopte samenvatting direct op de zoekresultatenpagina te verstrekken.
Deze revolutionaire zoekassistent heeft echter aanzienlijke uitdagingen ondervonden. Het suggereerde op foutieve wijze schadelijke acties zoals het consumeren van stenen, kaas aan pizza bevestigen met niet-giftige lijm en roken tijdens de zwangerschap aanmoedigen, wat aangeeft dat de leercurve van de AI nog steeds steil is.
Een incident betrof Chris Castanova, een AI-evangelist van Adobe, die een vreemde aanbeveling van de AI ontving waarin stond dat individuen minstens één kleine steen per dag moesten eten, afkomstig van een ongepast artikel dat hij per abuis had geciteerd. Terwijl online meldingen van onjuiste suggesties verschijnen, gaf Ben Collins, CEO van The Onion, aan dat de zoekervaring satire als feit onjuist weergaf, waardoor het probleem werd vergroot.
Google heeft deze missers erkend, waarbij ze aangeven dat dit uitzonderlijke gevallen zijn in een verder betrouwbaar systeem. Ze benadrukken dat de meerderheid van door AI gegenereerde samenvattingen nauwkeurige informatie biedt en dat ontwikkelaars voortdurend de algoritmes verfijnen om de prestaties te verbeteren.
Echter, de genuanceerde fouten van de AI vormen een groter probleem. Melanie Mitchell van het Santa Fe Institute benadrukte een zorgwekkende fout waarbij de AI ten onrechte beweerde dat Barack Obama een moslimpresident was. Dergelijke fouten kunnen gemakkelijk bijdragen aan de verspreiding van misinformatie.
Google, bekend om het verifiëren van informatie, suggereert nu ironisch genoeg het gebruik van zijn traditionele zoekfunctie om de door AI gegenereerde samenvattingen te controleren. Deze recente ontwikkeling suggereert een stap terug, waarbij gebruikers worden aangespoord om feiten onafhankelijk te verifiëren – een omkering van de bedoelde gebruikerservaring van Google.
Misstappen van Google’s AI-zoekfuncties: een oproep tot voorzichtigheid
De controverse rondom Google’s AI-aangedreven zoekfuncties kan worden gevat in verschillende belangrijke punten:
Belangrijke vragen:
1. Hoe genereert Google’s AI samenvattingen van zoekresultaten?
Google’s AI maakt gebruik van generatieve kunstmatige intelligentie, waarschijnlijk met behulp van machine learning-modellen zoals neurale netwerken die zijn getraind op uitgebreide datasets om samenvattingen te maken. Ze proberen de context en informatie van het web te begrijpen om beknopte reacties te genereren.
2. Welke stappen onderneemt Google om deze onnauwkeurigheden aan te pakken?
Google heeft de problemen erkend en werkt waarschijnlijk aan het verfijnen van de algoritmes. Ze kunnen het trainingsmateriaal van het model verbeteren, de manier waarop de AI informatie valideert aanpassen of de filtermechanismen verbeteren om soortgelijke fouten te voorkomen.
3. Wat zijn de implicaties van AI-fouten voor gebruikers die afhankelijk zijn van zoekmachines voor informatie?
Gebruikers kunnen misleid worden, waardoor ze onbedoeld misinformatie verspreiden. De betrouwbaarheid van zoekmachines is cruciaal voor de verspreiding van informatie; fouten kunnen daarom het vertrouwen schaden.
Belangrijke uitdagingen of controverses:
– Nauwkeurigheid en vertrouwen: Het ontwikkelen van AI-systemen die consequent nauwkeurige informatie verstrekken, blijft een uitdaging, waarbij fouten het vertrouwen van gebruikers ondermijnen.
– Misinforma…