Google sitt Gemini AI-chatbot vil no bli avgrensa i si evne til å svare på valrelaterte spørsmål i land der det er planlagt valg i år. Denne avgjerda, alt i kraft i USA og India, vil bli rulla ut til andre nasjonar med komande val i 2024. Målet er å førebygge spreiing av misinformasjon og verne om integriteten til den demokratiske prosessen.
Implementeringa av desse restriksjonane kjem då regjeringar og regulatørar over heile verda slit med dei raske framstega innan kunstig intelligens og dei potensielle truslane dei utgjer mot val. Med bekymringar om AI-generert desinformasjon, deepfakes og propaganda, er teknologigigantar som Google under aukande press for å kontrollere misbruket av deira AI-verktøy.
Gemini gir no unnvikande svar på valrelaterte spørsmål, som «Eg lærer framleis korleis eg skal svare på dette spørsmålet. I mellomtida, prøv Google-søk.» Sjølv spørsmål om registrering til å røyste møter ein henvisning til søkemotoren. Sjølv om desse avgrensingane kan frustrere nokre brukarar som ynskjer direkte svar frå chatboten, er dei med på å førebygge potensiell spreiing av fordomsfulle eller misleiande opplysningar.
For å kjempe mot misinformasjon i større skala, introduserer Google fleire funksjonar, inkludert digital vannmerking og innhaldsetikettar for AI-generert innhald. Desse tiltaka har mål om å identifisere og dempe misvisande informasjon som blir spreiing via ulike plattformer.
Gemini har nyleg møtt kritikk for å unøyaktig generere bilete av personar med ulik etnisitet når det blir bedt om historiske scenario, noko som har ført til påstandar om rasebias. Google svara på kontroversen ved å midlertidig suspendere nokre av Gemini sine funksjonar og lova å takle saka. Dette høvet undergrev utfordringane AI-selskap står overfor når det gjeld å handtere samfunnsmessig påverknad av teknologiane deira.
Framståande AI-entreprenørar, inkludert OpenAI og Google, er i aukande grad villige til å blokkere chatbotsa frå å svare på sensitive spørsmål som kan føre til offentleg motstand. Desse restriksjonane kva spørsmål som skal avgrenses, inneheld eigne utfordringar. Ein nyleg rapport avslørte at Gemini nekta å svare på spørsmål om Palestina, men engasjerte seg med liknande spørsmål om Israel.
Sjølv om avgrensingane som er pålagt Gemini sine valrelaterte evner, kan avgrense umiddelbar tilgang til politisk informasjon via chatboten, er dei eit steg mot å verne om den demokratiske prosessen mot risikoen som AI-generert misinformasjon utgjer. Ved å rettleie brukarar til tradisjonelle søkemetodar, ønskjer Google å gi nøyaktig og påliteleg informasjon frå truverdige kjelder.
Spørsmål og svar
The source of the article is from the blog qhubo.com.ni