Vienošanās par drošāku AI nākotni: Globālie tehnoloģiju līderi izveido starptautiskus drošības standartus
Saukts par vēsturisku projektu, ievērojami tehnoloģiju uzņēmumi no Ķīnas un Amerikas Savienotajām Valstīm ir apvienojušies, lai izveidotu kopīgu standartu kopumu, kas paredzēts, lai stiprinātu mākslīgā intelekta lietojumprogrammas un lielas valodu modeļus pret kiberdraudiem. Ķīnas uzņēmumi Ant Group, Baidu un Tencent Holdings sadarbojas ar globāliem tehnoloģiju gūjoniem kā OpenAI, Microsoft un Nvidia. Šī koalīcija radīja divus visaptverošus vadlīnijus: viens vērsts uz sintētisko AI lietojumprogrammu drošības autentifikāciju, bet otrs uz drošības novērtēšanas metodēm lieliem valodu modeļiem.
Šie struktūri ir atbilde uz ātrajiem mākslīgā intelekta tehnoloģiju izplatīšanās tempa, tostarp OpenAI ChatGPT un Microsoft Copilot. Uzņēmumu milzīgās korporācijas kā Baidu, Tencent un Ant Group ir katrs izstrādājuši savus uzlabotos AI čatbotus un valodu modeļus dažādiem mērķiem, norādot tirgus pieaugošo atkarību no šiem tehnoloģiskajiem risinājumiem.
Izgatavots no ekspertu komandas no dažādu tehnoloģiju konglomerātu, tostarp Nvidia un Meta Platforms, un rūpīgi pārbaudīts no Amazon un Google līdzīgiem uzņēmumiem, jaunie standarti sniedz pamatu GenAI lietojumprogrammu drošības stāvokļa pārbaudei un apstiprināšanai. Ant Group ir īpaši bijis noderīgs, pavirzot priekšā 17 savu darbinieku izstrādājot izsmeļošus standartus lieliem valodu modeļiem, kas ietver uzbrukumu imitācijas klāstu to noturības novērtēšanai.
Kad GenAI tehnoloģijas paceļas uz jauniem augstumiem tirgū un personīgajā lietotāju telpā, nozares līderi uzsvēra šīs pārredzamās inovācijas aizsardzības būtību. OpenAI izpilddirektors Sems Altmans uzsvera ieguldījumu nozīmīgumu visaptverošās drošības pasākumos, tā kā AI lietojumprogrammas kļūst arvien integrētākas mūsu ikdienas dzīvē.
Papildus aktīvajam Kinas valdības nostājumam, kas jau no 2023. gada jūlija ir ieviesusi noteikumus GenAI un saistītajai pakalpojumu jomai, parāda pieaugošo globālo atzīšanu par AI pārvaldību. Starptautisko standartu krustpunkts, piemēram, tie, kas rosināti UNESCO un Starptautiskā standartizācijas organizācijas (ISO) iestāžu darbība, un vadošo tehnoloģiju uzņēmumu stratēģiskā alianse uzsvērt kopīgo centienu veikšanu kāpšanai pašplūsmā AI uzmundrināt ar piesardzību un integritāti.
Svarīgie jautājumi un atbildes:
1. Kādēļ ir nozīmīga AI drošības standartu izveide?
AI drošības standartu izveide ir nozīmīga tādēļ, ka, jo vairāk AI tehnoloģijas iekļaujas dažādās nozarēs, jo lielāks ir risks radīt kaitējumu dēļ drošības neveiksmēm. Drošības standarti palīdz nodrošināt, ka AI sistēmas ir izturīgas pret kiberdraudiem, aizsargājot jutīgos datus un saglabājot uzticamību un uzticamību AI lietojumprogrammās.
Svarīgākie izaicinājumi vai kontroverses:
Galvenais izaicinājums AI drošības standartu izveidē ir AI attīstības ātrums, kas var pārāktrumtēt standartu vienošanās un ieviešanu ātrumu. Tas ir īpaši izaicinošs globālā kontekstā, kur atšķirīgās valstis varētu būt konkurējoši interešu vai atšķirīgu regulatīvu pieeju dēļ. Turklāt pastāv nepārtraukta diskusija par līdzsvaru starp inovāciju un regulējumu, jo pārāk stingri standarti varētu potenciāli iznīcināt radošumu un izaugsmi AI sektorā.
Priekšrocības:
– Izveido kopīgu struktūru, kā risināt ievainojamības un uzlabot AI sistēmu drošību.
– Veicina vienotību drošības pasākumos dažādu organizāciju un valstu starpā.
– Palielina sabiedrības uzticību AI tehnoloģijām, demonstretot saistību ar drošību.
– Potenciāli novērš liela mēroga tīkla uzbrukumus, kas var rasties no nedrošām AI sistēmām.
Trūkumi:
– Ja regulējumi ir pārāk stingri, tas var palēnināt inovāciju.
– To varētu būt dārgi uzņēmumiem ieviest, īpaši maziem uzņēmumiem.
– Starptautiskie standarti var nebūt pielāgojami vietējiem likumiem un kultūras atšķirībām.
– Monopolizācijas risks, ja standarti atbalsta lielākus, labi izveidotas tehnoloģiju kompānijas, kam ir līdzekļi lai būtu saderīgi.
Saistītie saites:
Lai iegūtu papildinformāciju par AI tehnoloģiju un starptautiskajiem centieniem standartu noteikšanā, jūs varat apmeklēt šādas vietnes:
– UNESCO
– Starptautiskā standartizācijas organizācija (ISO)
– OpenAI
– Ant Group
Svarīgi ir pārbaudīt, vai šīs saites vada uz autoritatīvām un aktuālām avotiem, kas nodrošina attiecīgo informāciju par AI standartiem un pārvaldību.