Grupė 20 technologijų įmonių, įskaitant Google, Meta, OpenAI ir X (ankstesnis pavadinimas Twitter), padarė kolektyvinį įsipareigojimą kovoti su suklastotu turiniu, kurį generuoja dirbtinis intelektas (AI), siekiant apsaugoti šiais metais vyksiančius pasaulio rinkimus. Įmonės sujungė jėgas ir pasirašė technologinį susitarimą dėl apgaulingo AI naudojimo 2024 m. rinkimuose Müncheno saugumo konferencijoje.
Susitarimas nustato dobrovolinį pagrindą, kuriame numatytos pagrindinės nuostatos ir veiksmai, skirti prevencijai, aptikimui, reagavimui, vertinimui bei apgaulingo AI rinkimų turinio šaltinio nustatymui. Susitarimo signatarai, kuriems priklauso taip pat TikTok, Amazon, IBM, Anthropic ir Microsoft, įsipareigojo didinti visuomenės sąmoningumą apie apsaugą nuo manipuliacijų, sukeltų tokiu turiniu.
Remiantis susitarimu, šios 20 organizacijų įsipareigojo vykdyti keletą iniciatyvų. Jos sieks aptikti ir užkirsti kelią apgaulingam AI rinkimų turiniui, suteikti skaidrumą viešajai nuomonei dėl savo požiūrio į tokį turinį, bei kurti įrankius, skirtus nustatyti ir apriboti apgaulingo turinio platinimą. Taip pat bus imtasi pastangų sekant turinio kilmę, galbūt naudojant klasifikatorius, kilmės metodikas, vandenženavimą ar pridėjant mašinai skaitymą turintį informaciją prie AI sugeneruoto turinio.
Įsipareigojimai, kuriuos įmonės priėmė, bus taikomi jų teikiamoms paslaugoms. Technologinis susitarimas apima įtikinamą AI sugeneruotą garso, vaizdo ir vaizdinių turinių, kurie apgaulingai klasto ar keičia politinių kandidatų, rinkimų pareigūnų ir kitų svarbiausių suinteresuotųjų šalies veikėjų, veido, balso ar veiksmus, taip pat platinant suklastotos informacijos apie balsavimo procedūras.
Susitarimas pripažįsta AI augančią svarbą demokratinėje procese ir pabrėžia poreikį kolektyvinei veiklai, siekiant apsaugoti rinkimus ir rinkiminį procesą. Signatarai supranta, kad kovojant su apgaulingu AI naudojimu, iškilęs iššūkis yra ne tik techninis, bet ir politinis, visuomeninis ir etinis klausimas. Jie pabrėžia, kad rinkimų sąžiningumo ir viešojo pasitikėjimo saugojimas yra bendra atsakomybė, kuri pranoksta partinius interesus ir nacionalinius sienas.
Suderindami pastangas, technologijų įmonės siekia valdyti su apgaulingu AI rinkimų turiniu susijusius rizikos veiksnius savo viešose platformose ar atvirose pagrindinėse struktūrose. Susitarimas nenagrinėja modelių ar demonstracijų, skirtų tyrėjų tikslams ar daugiausiai įmonių naudojimui. Signatarai pabrėžia, kad AI gali padėti kovoti su blogais veikėjais ir greičiau aptikti apgaulinges kampanijas, taip pat sumažinti bendrą apsaugos išlaidų sumą.
Technologinis susitarimas yra esminis žingsnis, siekiant skatinti rinkimų sąžiningumą bei visuomeninį atsparumą, remiant kūrybines patikimas technologines praktikas. Kadangi dezinformacija ir neteisybės kelia didelius pavojus visuomenės sudėjimui, pasaulinė bendruomenė turi likti aktyvi, saugant naujai ateinančių vyriausybių teisėtumą.
DUK apie technologinį susitarimą dėl apgaulingo AI naudojimo 2024 m. rinkimuose:
1. Koks yra Technologinio susitarimo tikslas?
Technologinio susitarimo tikslas yra kovoti su suklastotu turiniu, kurį generuoja dirbtinis intelektas (AI), siekiant apsaugoti globaliuosius rinkimus, planuojamus įvykti 2024 m.
2. Kokios įmonės prisijungė prie susitarimo?
Susitarimą pasirašė 20 technologijų įmonių, įskaitant Google, Meta, OpenAI, X (ankstesnis pavadinimas Twitter), TikTok, Amazon, IBM, Anthropic ir Microsoft.
3. Ką nustato susitarimas?
Susitarimas nustato dobrovolinį pagrindą, kuriame numatytos pagrindinės nuostatos ir veiksmai, skirti prevencijai, aptikimui, reagavimui, vertinimui bei apgaulingo AI rinkimų turinio šaltinio nustatymui.
4. Kokias iniciatyvas įmonės įsipareigojo vykdyti?
Susitarimo signatarai įsipareigojo aptikti ir užkirsti kelią apgaulingam AI rinkimų turiniui, suteikti skaidrumą viešajai nuomonei dėl savo požiūrio į šį turinį, bei kurti įrankius, skirtus nustatyti ir apriboti apgaulingo turinio platinimą.
5. Kaip bus sekamos apgaulingo turinio kilmės?
Bus imtasi pastangų sekti apgaulingo turinio kilmę, galbūt naudojant klasifikatorius, kilmės metodikas, vandenženavimą ar pridėjant mašinai skaitymą turintį informaciją prie AI sugeneruoto turinio.
6. Ar susitarimas taikomas visoms paslaugoms, teikiamoms signatūrinių įmonių?
Taip, įmonių priimti įsipareigojimai bus taikomi jų teikiamoms paslaugoms.
7. Kokio tipo turinį apima susitarimas?
Technologinis susitarimas apima apgaulingą AI sugeneruotą garso, vaizdo ir vaizdinių turinių, kurie apgaulingai klasto ar keičia politinių kandidatų, rinkimų pareigūnų ir kitų svarbiausių suinteresuotųjų šalies veikėjų, veidus, balsus ar veiksmus, taip pat platinant suklastotą informaciją apie balsavimo procedūras.
8. Kodėl reikalinga kolektyvinė veikla siekiant spręsti apgaulingo AI naudojimo problemas?
Susitarimas pripažįsta AI augančią svarbą demokratiniame procese ir pabrėžia, kad kovojant su apgaulingo AI naudojimu iškilęs iššūkis yra ne tik techninis, bet ir politinis, socialinis ir etinis klausimas. Tai bendra atsakomybė, kuri pranoksta partinius interesus ir nacionalines sienas.
9. Ar susitarimas apima visus AI modelius?
Susitarimas neapima modelių ar demonstracijų, skirtų tyrinėjimo tikslams ar daugiausiai įmonių naudojimui. Jis koncentruojasi į viešąsias platformas ar atviras pagrindines struktūras.
10. Kaip susitarimas prisideda prie rinkimų sąžiningumo ir visuomenės atsparumo?
Technologinis susitarimas yra esminis žingsnis, siekiant skatinti rinkimų sąžiningumą bei visuomenės atsparumą, remiant kūrybines patikimas technologines praktikas. Jis siekia apsaugoti naujų ateinančių vyriausybių teisėtumą ir saugoti viešąjį pasitikėjimą.
Apibrėžimai:
– Dirbtinis intelektas (AI): žmogaus intelekto simuliacija mašinose, kurios yra programuotos mąstyti ir mokytis, kaip žmonės.
– Apgaulingas turinys: Turinys, kuris yra sukurtas suklaidinti ar manipuliuoti žmones, pateikiant klaidinančią ar neteisingą informaciją.
– Rinkimų sąžiningumas: Principai ir praktikos, kurios užtikrina laisvus, sąžiningus ir skaidrius rinkimus.
– Visuomenės atsparumas: Visuomenės gebėjimas atlaikyti ir atsigauti po šokų, tokių kaip dezinformacijos ir neteisybės plitimas.
Rekomenduojami susiję nuorodos:
– Technologinis susitarimo oficiali svetainė
– Müncheno saugumo konferencija
– OpenAI oficiali svetainė
– Google
– Twitter (šiuo metu X)
– Meta
– IBM
The source of the article is from the blog mgz.com.tw