I den snabbt utvecklande världen av artificiell intelligens (AI) har det senaste incidenten med Googles Gemini chatbot lyft fram utmaningarna med att eliminera kulturellt bias i teknikverktyg. Chatboten genererade bilder på svarta och asiatiska nazistiska soldater, vilket väckte ilska och underströk konsekvenserna av obegränsad AI-makt.
Googles VD Sundar Pichai fördömde felen som gjordes av Gemini AI-appen och erkände att de producerade bilderna var historiskt felaktiga, vilket ledde till en tillfällig stopp i genereringen av bilder på personer. Den allmänna reaktionen på denna händelse tjänar som en påminnelse om den enorma påverkan några få teknikjättar har över AI-plattformar som har potentialen att omforma samhället.
Joshua Weaver, en advokat och tech-entreprenör, beskriver Googles åtgärder som alltför ”väckta”, och föreslår att företaget gick för långt i sitt försök att prioritera inkludering och mångfald. Medan Google snabbt rättade till sina misstag, anser Charlie Burgoyne, VD för Valkyrie Applied Science Lab, att sådana korrigeringar bara tar upp ytan och inte adresserar det underliggande problemet.
Google, tillsammans med andra teknikjättar, är nu engagerade i en AI-race med företag som Microsoft, OpenAI och Anthropic. Denna ökade konkurrens lämnar lite utrymme för företag att förbättra sina produkter över en längre tid. Misstag som görs i strävan efter kulturell känslighet blir betydande brännpunkter, särskilt med tanke på den politiskt delade klimatet i USA.
När AI alltmer genererar enorma mängder information blir frågan om vem som kontrollerar AI-säkerhet avgörande. Potentialen för desinformation och biasförstärkning ger upphov till oro över inflytandet som de som kontrollerar AI-system har. Det senaste misstaget har fått experter att ifrågasätta användarnas kontroll över AI-verktyg och den information de producerar.
Karen Palmer, en prisbelönad skapare av blandad verklighet, spekulerar i en framtid där AI kan påverka betydande beslut, som att dirigera personer med utestående överträdelser till polisstationen istället för deras avsedda destinationer. Träningen av AI-modeller är starkt beroende av befintlig data, som innefattar bias, sociala ojämlikheter och desinformation.
Tekniker som strävar efter att balansera algoritmer för att återspegla mänsklig mångfald står inför en överväldigande utmaning. Teknikjuristen Alex Shahrestani betonar svårigheten med att upptäcka och rätta till bias, eftersom även välinformerade tekniker påverkas av sina egna livserfarenheter och undermedvetna fördomar. Dessutom förvärrar bristen på transparens kring de inre arbetsmetoderna för generativa AI-modeller problemet, vilket hindrar användare från att upptäcka dolda bias.
Experter och aktivister kräver större mångfald inom AI-utvecklingsteam och ökad transparens avseende funktionen hos AI-verktyg. Det är väsentligt att införliva perspektiv från olika samhällen världen över och bygga algoritmer som etiskt utnyttjar deras data. Detta tillvägagångssätt, använd av Indigenous AI och liknande organisationer, motverkar det toppstyrda tillvägagångssättet som observeras inom tech-industrin och främjar inklusiv och kulturellt känslig AI-utveckling.
**FAQ**
**Vad var kontroversen kring Googles Gemini chatbot?**
Gemini-chatboten genererade bilder på svarta och asiatiska nazistiska soldater, vilket väckte ilska för dess historiskt felaktiga framställningar.
**Varför är kulturellt bias i AI-verktyg ett viktigt problem?**
AI-modeller är starkt beroende av befintlig data, som ofta innehåller bias, sociala ojämlikheter och desinformation. Obekräftade bias i AI-verktyg kan upprätthålla diskriminering och förstärka befintliga samhällsfördomar.
**Hur kan AI-utvecklare adressera kulturellt bias?**
Experter förespråkar att diversifiera AI-utvecklingsteam för att införliva ett brett spektrum av perspektiv. Dessutom är transparens i funktionen hos AI-verktyg avgörande för att identifiera och rätta till dolda bias.
**Vilka är konsekvenserna av obegränsad AI-makt?**
AI har potentialen att omforma samhället och påverka betydande beslut. Misslyckande med att hantera bias och implementera lämpliga skydd kan leda till orättvis behandling, desinformation och brist på ansvar i AI-system.
Incidenten med Googles Gemini chatbot har riktat uppmärksamheten mot utmaningarna med kulturell bias i AI-verktyg inom den snabbt utvecklande världen av artificiell intelligens. Chatboten genererade bilder på svarta och asiatiska nazistiska soldater, vilket väckte oro för konsekvenserna av obegränsad AI-makt. Googles VD Sundar Pichai erkände felen och stoppade tillfälligt genereringen av bilder på personer. Dock tror experter att dessa korrigeringar bara tar upp ytan och misslyckas med att adressera det underliggande problemet.
I den konkurrensutsatta AI-racet bland teknikjättar som Google, Microsoft, OpenAI och Anthropic finns det lite tid för företag att förbättra sina produkter över en längre tid. Misstag som görs i strävan efter kulturell känslighet kan bli betydande brännpunkter, särskilt med tanke på det politiskt delade klimatet i USA.
När AI genererar enorma mängder information blir frågan om vem som kontrollerar AI-säkerhet avgörande. Potentialen för desinformation och biasförstärkning ger upphov till oro över det inflytande som de som kontrollerar AI-system har. Experter ifrågasätter användarnas kontroll över AI-verktyg och den information de producerar.
Träningen av AI-modeller är starkt beroende av befintlig data, som innefattar bias, sociala ojämlikheter och desinformation. Det är utmanande för tekniker att balansera algoritmer för att återspegla mänsklig mångfald. Även välinformerade tekniker påverkas av sina egna livserfarenheter och undermedvetna fördomar. Dessutom förvärrar bristen på transparens kring de inre arbetsmetoderna för generativa AI-modeller problemet, vilket gör det svårt för användare att identifiera dolda bias.
För att hantera dessa frågor förespråkar experter och aktivister större mångfald inom AI-utvecklingsteam och ökad transparens i funktionen hos AI-verktyg. Genom att införliva perspektiv från olika samhällen världen över och bygga algoritmer som etiskt utnyttjar deras data kan branschen främja inklusiv och kulturellt känslig AI-utveckling. Organisationer som Indigenous AI följer detta tillvägagångssätt och motverkar det toppstyrda tillvägagångssättet som observeras inom tech-industrin.
Incidenten med Googles Gemini chatbot bör fungera som en väckarklocka för tech-industrin att prioritera kulturell känslighet och mångfald i AI-verktyg. Genom att ta itu med dessa utmaningar på en gång och involvera en bred mångfald av perspektiv genom hela utvecklingsprocessen kan branschen minimera riskerna för bias och förstärka den positiva påverkan av AI-teknologi.
The source of the article is from the blog elperiodicodearanjuez.es