Izpēte par AI tērzēšanas robota uzvedību atklāj satraucošu tendenci, kur šie roboti izplatīja nepareizu informāciju par vēlēšanu procedūrām. Democracy Reporting International (DRI) veica šo pētījumu vairākās vēlēšanu saistītās jautājumos, ko uzdeva ievērojamiem AI tērzēšanas robotiem, ieskaitot Google Gemini un Microsoft Copilot.
Iedziļinoties šo virtuālo asistentu iespējās, pētījums aptvēra vairākas ES valodas. Jautājumi svārstījās no jautājumiem par reģistrāciju ārvalstu pilsoņiem, balsošanu pa pastu un Eiropas Parlamenta vēlēšanu rezultātu paziņošanu. Atjaunotā analīze, pēc iepriekšējā ziņojuma, mainīja sava rakstura no “dezinformācijas” uz “disinformāciju,” uzsverot apzinātu viltus datu izplatīšanu.
Pārstrādātā analīze uzsvēra, ka Gemini atteicās sniegt jebkādu vēlēšanu saistītu informāciju, izvēloties izvairīties no potenciāli kļūdaina satura sniegšanas. Savukārt Microsoft Copilot izvēlējās izvairīties no jautājumiem, it īpaši angļu un portugāļu valodās, novirzot lietotājus uz Bing, lai iegūtu pārbaudītu informāciju.
Citas valodas nerādīja konsekventu atteikšanās modeļu, liekot domāt, ka Microsoft daļēji risināja šo problēmu, lai ierobežotu tērzēšanas robota viltus stāstus. Tomēr, kad Copilot reaģēja, būtiska daļa sniegtās informācijas bija vai nu pilnībā vai daļēji nepareiza, ieskaitot Polijas pilsoņu ārzemēs informēšanu par viņu balsošanas tiesībām un Grieķijas pilsoņu maldināšanu par vēlētāju reģistrāciju.
OpenAI ChatGPT4 modeļi tika konstatēti, ka atbildē daudz biežāk, tomēr to atbildes saturēja neprecizitātes vai nepamanīja svarīgas nianses. Nepiedaloties vēlēšanu dezinformācijā, OpenAI norāda kā satraucošu, un pētījums iesaka steidzamu pārtrenēšanu, lai kompensētu viltus informācijas izplatīšanu. OpenAI ir apgalvojis nodomu sniegt precīzu informāciju un pārredzamību savas vietnes, taču uzsvars uz pārtrenēšanas nepieciešamību liecina par atšķirību starp mērķiem un rezultātiem.
Viltus un dezinformācijas izplatīšanas problēma, ko veic tērzēšanas roboti, ir kritiska tādēļ, ka tā var ietekmēt sabiedrības izpratni un uzvedību, it īpaši attiecībā uz demokrātiskām procesām, piemēram, balsošanu. Šeit ir daži aktuāli punkti, jautājumi un atbildes, izaicinājumi un kontroverses, kā arī priekšrocības un trūkumi saistībā ar rakstā aprakstīto tēmu.
Nozīmīgi papildu fakti:
– AI roboti bieži balstās uz esošiem datiem no tīmekļa, daži no kuriem var būt novecojuši vai nepareizi.
– AI mācību algoritmu izstrāde būtiski var ietekmēt tā spēju atšķirt un izplatīt patiesu informāciju.
– Regulējošās iestādes var cīnīties ar ātrumu, kādā AI tehnoloģijas attīstās, veidojot plaisas pārvaldībā.
Svarīgie jautājumi un atbildes:
– J: Kāpēc AI dezinformācijas izplatīšana ir īpaši satraucoša vēlēšanu laikā?
– A: Vēlēšanas ir kritiski demokrātiski procesi, un dezinformācija var ietekmēt vēlētāju uzvedību un apdraudēt vēlēšanu sistēmas integritāti.
– J: Kādas darbības var veikt, lai novērstu AI robotu dezinformācijas izplatīšanu?
– A: Ir būtiski ieviest efektīvus apmācības datu kopumus, pastāvīgi uzraudzīt AI uzvedību, ātri atjaunināt informācijas avotus un atklāti komunicēt par tērzēšanas robota ierobežojumiem.
Svarīgie izaicinājumi un kontroverses:
– Nodrošināt, ka AI datu avoti ir precīzi un atjaunināti, ir pastāvīgs izaicinājums.
– Neitrālums ir karstā tēma attiecībā uz AI robotiem, jo biāzes datu, kurus viņi apmāca, var novest pie biāzēm viņu izvadījumos.
– Ir spriegums starp AI sniegto informāciju nekavējo priekšrocību un viltus informācijas izplatīšanas risku.
Priekšrocības un trūkumi:
– P: AI roboti var piedāvāt nekavējošu informāciju plašai auditorijai, palīdzot izglītot vēlētājus, ja tā ir precīza.
– T: Kad izplatītā informācija ir viltus, tā var izraisīt sabiedrības sajukumu, mazināt uzticību AI, un iespējams ietekmēt vēlēšanu rezultātus.
Rekomendēta saistītā saite:
Lai iegūtu papildinformāciju par OpenAI apņemšanos precīzumam un pārredzamībai:
– OpenAI
Lai iegūtu informāciju par Democracy Reporting International darbību:
– DRI
Kopumā, lai gan AI tērzēšanas roboti sola ļoti uzlabot pieeju informācijai, nodrošinot to uzticamību, it īpaši svarīgās jomās, piemēram, vēlēšanās, paliek būtiska atbildība izstrādātājiem un regulējošām iestādēm. Laikā pienākums nodrošināt laikus izdevīgu informācijas sniegšanu jāsaskaņo ar risksiem, kas saistīti ar viltus izplatīšanu, kas prasa nepārtrauktu modrību un AI sistēmu aktīvu pārvaldību.
The source of the article is from the blog shakirabrasil.info