Googlovega Gemini orodja
Google je nedavno napovedal, da bo v svoje Gemini orodje za umetno inteligenco (AI) uvedel nove omejitve, da prepreči določene odgovore na vprašanja, povezana z volitvami. Ta odločitev tehnološkega giganta je del njegovega zavezanosti k odgovornemu pristopu k generativnim AI izdelkom.
V blog objavi je Google izjavil: “Iz previdnosti glede tako pomembne teme smo začeli uvajati omejitve glede vrst volilnih poizvedb, na katere bo Gemini vrnil odgovore. Našo odgovornost za zagotavljanje visokokakovostnih informacij za te vrste poizvedb resno jemljemo in nenehno delamo na izboljšavah.”
Ker se leta 2024 pričakuje kot pomembno leto za volitve po vsem svetu, saj bo preko 4 milijarde ljudi v več kot 50 državah sodelovalo v volilnem procesu, je dostopnost generativne AI brez primere. Kljub temu so strokovnjaki izrazili skrbi glede potenciala generativne AI, da z zavajajočimi dezinformacijami, kot so izmišljeni teksti, deepfake slike in videoposnetki, zavede volivce.
Nedavna raziskava, ki jo je izvedla OnePoll, je pokazala, da je vsebina, ustvarjena z uporabo AI, med največjimi skrbmi tako demokratov kot republikancev pred prihajajočimi ameriškimi volitvami. Raziskava, ki jo je naročila varnostna družba Yubico in neprofitna organizacija Defending Digital Campaigns, je pokazala, da 42% demokratov in 49% republikancev meni, da bo AI negativno vplival na izide volitev.
David Treece, podpredsednik za arhitekturo rešitev pri Yubico, je poudaril: “Najbolj zanimivo se nam zdi, da se več kot 78% respondentov zanima za uporabo vsebine, ustvarjene z AI, za ponarejanje političnega kandidata ali ustvarjanje nepristnih vsebin, pri čemer demokrati zasedajo 79% in republikanci 80%. Morda še bolj zgovorno je, da verjamejo, da bo AI imel negativen učinek na izide letošnjih volitev.”
Googlova odločitev o uvedbi omejitev za svoje AI orodje glede volilnih poizvedb sledi korakom drugih podjetij, kot je OpenAI, ustvarjalec ChatGPT. OpenAI je že prej opredelil svoj načrt za preprečevanje zlorabe svoje tehnologije letos prej. Podjetje je oblikovalo ekipe, sestavljene iz inženirjev, pravnikov, strokovnjakov za politiko, varnost in grožnje s ciljem preiskovanja in reševanja morebitnih zlorab svojih orodij ChatGPT in Dall-E.
“Ko se pripravljamo na volitve leta 2024 v največjih demokracijah sveta, je naš pristop, da nadaljujemo z delom na varnosti naše platforme z dvigovanjem natančnih informacij o volitvah, izvajanjem merjenih politik ter izboljševanjem preglednosti,” je zapisano v blog objavi OpenAI januarja. “Kot vsaka nova tehnologija tudi ta orodja prinašajo koristi in izzive. Prav tako so brez primera in svoj pristop bomo še naprej razvijali, ko bomo izvedeli več o tem, kako se uporabljajo naša orodja.”
Vključitev omejitev za AI izdelke s strani podjetij, kot sta Google in OpenAI, poudarja pomen odgovornega razvoja in uporabe AI. Ker se AI še naprej razvija, je ključno najti pravi ravnovesje med izkoriščanjem njenih koristi in reševanjem izzivov ter morebitnih tveganj, povezanih z njeno uporabo.
Pogosta vprašanja
V: Katere nove omejitve uvaja Google za svoje Gemini AI orodje?
O: Google uvaja nove omejitve za svoje Gemini AI orodje, da prepreči določene odgovore na vprašanja, povezana z volitvami.
V: Zakaj Google uvaja te omejitve?
O: Ta odločitev je del Googlove zavezanosti k odgovornemu pristopu k generativnim AI produktom in zagotavljanju visokokakovostnih informacij za volilne poizvedbe.
V: Kako zaskrbljeni so strokovnjaki glede generativne AI in volitev?
O: Strokovnjaki so izrazili skrbi glede potenciala generativne AI, da zavaja volivce preko prepričljivih dezinformacij, kot so izmišljeni teksti, deepfake slike in videoposnetki.
V: Kakšen odstotek demokratov in republikancev je zaskrbljen glede vpliva vsebine, generirane z AI, na izide volitev?
O: Po nedavni raziskavi meni 42% demokratov in 49% republikancev, da bo AI negativno vplival na izide volitev.
V: Kakšne korake je sprejel OpenAI za preprečevanje zlorabe svoje tehnologije?
O: OpenAI je oblikoval ekipe, ki sestavljajo inženirje, pravniki, strokovnjaki za politiko, varnost in grožnje, da preiskujejo in naslavljajo morebitne zlorabe njihovih orodij ChatGPT in Dall-E.
Ključni pojmi
– Gemini: Orudje za umetno inteligenco (AI), ki ga je razvil Google.
– Generativna AI: AI tehnologija, ki lahko ustvarja vsebine, kot so besedila, slike ali videoposnetki.
– Dezinformacija: Lažne ali zavajajoče informacije, namenjene zavajanju ali manipulaciji.
Povezane povezave
– OpenAI: OpenAI
– Google Blog: Google Blog
The source of the article is from the blog anexartiti.gr