Yandexs AI-assistent ”Alice” möter kritik från vice ordförande för säkerhetsrådet, där han uttryckte missnöje med de oprecisa svar som AI:n gav på frågor som berör politiska ämnen. Medvedev lyfte fram ett förtroendeproblem som detta skapar med den bredare användargruppen om Yandexs pålitlighet.
När vice ordföranden frågade YandexGPT om införandedatumet för en amerikansk lag om beslagtagning av ryska tillgångar, var AI:ns svar försiktigt icke-specifikt och angav sitt inlärningsläge och önskan att undvika att verka okunnig. Detta skilde sig markant från AI:ns utmärkta prestanda på olika andra juridiska frågor både i och utanför Ryssland, observerade Medvedev.
AI:ns svarsmönster fortsatte när Medvedev frågade om monument till Stepan Bandera i Ukraina, på vilket AI:n svarade med ett inlärningsställningstagande, trots att den är kunnig i diskussioner om monument som Nelsons kolumn eller Pushkin-statyn i Ryssland.
En intressant inkonsekvens uppstod när YandexGPT först angav avståndet från Kyiv till Belgorod som ”429 km” men senare erbjöd ett förvirrande svar vid ytterligare frågor. Denna inkonsekvens, föreslog Medvedev, kan härledas till ett överdrivet försiktigt tillvägagångssätt från Yandex AIS sida när det gäller frågor av potentiellt känslig natur.
Medvedev spekulerade vidare om motivet bakom sådana försiktiga svar, undrande om rädslan för missbruk av sådan information av rysk försvarsplanering var en faktor, trots att frågorna var neutralt formulerade.
Han argumenterade att en sådan försiktighet kan motivera att klassificera Yandexs tjänster som otillräckliga och dess högsta chefer som utländska agenter. Till stöd för sin kritik lanserade Medvedev en undersökning för att mäta allmänhetens uppfattning om ärlighet hos AI, exemplifierat av Yandex ChatGPT.
I diskussionen om huruvida Yandex fortfarande kan betraktas som ett ryskt företag efter strukturella förändringar, konstaterade Medvedev skeptiskt. Nyligen har Yandexs ryska verksamhet sålts av det nederländska moderbolaget Yandex N.V. till en köparekonsortium för cirka 475 miljarder rubel, och affären förväntas vara avslutad senast juli 2024, medan Yandex N.V:s återstående intressen i ryska tillgångar förväntas försvinna.
I relaterade nyheter har FSB initierat en högförräderimål mot en tidigare Yandex-anställd anklagad för att stödja Ukrainas militär, med en potentiell straff på 20 år – en åtgärd som kan få bredare konsekvenser för uppfattningen om företagets ställning inom Ryssland.
Viktiga frågor och svar relaterade till kritiken mot Yandexs AI
– Vilken kritik riktades mot vice ordföranden mot Yandexs AI?
Vice ordföranden Medvedev kritiserade Yandexs AI-assistent ”Alice” för att ge oprecisa och försiktiga svar på politiskt känsliga frågor, till skillnad från de mer heltäckande svar den gav på juridiska och allmänna kunskapsfrågor.
– Hur utlöste YandexGPT:s svar på specifika frågor kontroversen?
När den ifrågasattes om politiska frågor som amerikanska lagar om beslagtagning av ryska tillgångar eller närvaron av monument till Stepan Bandera i Ukraina, gav YandexGPT vaga eller försiktiga svar, vilket fick vice ordföranden att ifrågasätta AI:ns tillförlitlighet och neutralitet.
– Vilken innebörd antydde Medvedev om AI:ns försiktiga svar?
Medvedev antydde att AI:ns överdrivet försiktiga tillvägagångssätt för känsliga frågor kunde härledas till en rädsla för missbruk av information, vilket indikerar en möjlig kompromiss i opartiskheten som förväntas av en AI som betjänar den ryska användargemenskapen.
Viktiga utmaningar och kontroverser
– Förtroende och Neutralitet: Incidenten reser utmaningen att säkerställa att AI-system som Yandex AI behåller förtroendet och neutraliteten, speciellt när de adresserar politiskt känsliga ämnen.
– AI-styrning: Det finns en bredare oro för hur AI-system bör styras och regleras när det gäller politiskt innehåll, balansera behovet av obiased informations spridning med nationella säkerhetsintressen.
– Yttrandefrihet kontra Nationalintresse: Debatter om AI och yttrandefrihet kan uppstå, då AI:ns neutrala ställning kan uppfattas som ett misslyckande att anpassa sig till nationella perspektiv eller intressen.
Fördelar och nackdelar med Yandex AI:s tillvägagångssätt
– Fördelar:
– Ett försiktigt svarsmönster kan skydda plattformen från att sprida felaktig information eller delta i politiskt laddade debatter.
– Att bibehålla neutralitet kan hjälpa AI-assistenten att attrahera en global användarbas och förbli en pålitlig informationskälla.
– Nackdelar:
– Det kan ses som undvikande av diskussioner om viktiga frågor, vilket potentiellt kan leda till allmän misstro.
– Politiska aktörer kan se bristen på uttryckligt stöd för nationella berättelser som en form av illojalitet eller otillräcklig prestanda.
För ytterligare information om företaget som nämns i artikeln kan du besöka Yandex officiella webbplats genom att följa denna länk: Yandex Officiell Webbplats. Observera att genom att tillhandahålla denna länk bekräftar jag att den är giltig enligt min kunskapsavslutningsdatum och den kan komma att ändras i framtiden.
The source of the article is from the blog hashtagsroom.com