AI’s ‘Black Box’ Nature Spurs Transparency Debate
Kam spēju mākslīgajai intelektam (AI) attīstoties sabiedrības lietojumos, jēdziens “black box” ir ieguvis nozīmīgu nozīmi. Rodas bažas par šo attīstītajiem sistēmu necaurspīdīgumu, kas rada jautājumus par transparentu, uzticību un ētiku gan šo tehnoloģiju attīstībā, gan lietošanā.
Aicinājums pēc vairāk atklātības AI riskos
Bijušais OpenAI darbinieks sadarbībā ar citiem uzņēmuma kolēģiem izdeva paziņojumu, uzsverot trūkumu pārredzamībā saistībā ar potenciālajiem AI riskiem. Viņi brīdina par riskantu sacensību starp uzņēmumiem, kuri cenšas izstrādāt superinteliģentu AI vai mākslīgo vispārīgo inteliģenci (AGI), kas varētu sasniegt vai pārspēt cilvēku inteliģenci.
Atkāpšanās lai paziņotu par AI nesaderības briesmām
Kerols Veinraits, kurš strādāja praktiskas saderības un superlīnijas komandās OpenAI, atstāja savu amatu, lai signalizētu par potenciālajām briesmām. Šīs komandas nodrošina, ka OpenAI spēcīgākie modeļi paliek droši un saskanē ar cilvēku vērtībām. Viņš uzskata, ka, lai arī nav nekādas garantijas, ir iespējams, ka mēs varētu redzēt ievērojamus mainīgumus AI jomā piecos gados, un šī potenciālā derīga nopietna izvērtēšana.
«Black Box» AI sistēmu noslēpums
AI «black box» attiecas uz sarežģītiem un neinterpretejamiem modeļiem vai sistēmām. Lai gan AI modeļi, īpaši tie, kas balstīti uz dziļajiem neironu tīkliem, var būt iespaidīgi precīzi, ceļš uz to secinājumiem bieži vien ir noslēpums. Šī sarežģītība atšķiras no vienkāršākiem, caurspīdīgākiem modeļiem, piemēram, lēmumu koku vai lineāro regresiju.
Bijušais darbinieks kritisē OpenAI motivācijas
Veinraita aiziešanas galvenais iemesls bija pāreja OpenAI, kas pārtapa no misijas fokusētas nekomerciālas pētniecības laboratorijas par peļņu orientētu uzņēmumu, it īpaši pēc ChatGIP panākumiem 2022. gadā.
Treijs AGI saistīto risku identificēšana
Veinraits uzsvērt trīs AGI riskus: mašīnām var aizstāt cilvēku darbu, būtisku ietekmi sociālajā un garīgajā līmenī, piederojot AI draugam/personīgajam asistentam, un tehnoloģijas kontroli. Viņš pauda bažas, ka, ja modelis kļūst gudrāks par cilvēkiem, tas varētu neatbilst cilvēku vēlmēm vai ievērot savas mērķus, kas būtu biedējoši.
Regulēšana un AI nozares lielie spēlētāji
Veinraits uzskata, ka lielie AI uzņēmumi ievēros regulas, bet bez esošās īstenošanas nozare darbinieki savā vēstulē piedāvā sistēmu, kurā viņi varētu paziņot neatkarīgai iestādei par briesmām, ko viņi uztver savās kompānijās. Viņš it īpaši norādīja problēmu ar galveniem AI spēlētājiem, piemēram, “Open”, kam ir peļņas mērķi.
Svarīgie jautājumi un atbildes:
– Kādas ir etiskās bažas, kas saistītas ar AI?
Etiķētiskās bažas ietver privātumu, pārredzamību, atbildību, tendencēm, diskrimināciju, darba pārvietošanu un potenciālu AI ļaunprātīgu izmantošanu kaitīgām darbībām.
– Kā pārredzamība AI varētu tikt uzlabota?
Pārredzamība var tikt uzlabota caurspīdīgā AI, kas cenšas padarīt AI sistēmu lēmumu pieņemšanas procesus saprotamus cilvēkiem, un atvērtā koda prakses, kas ļauj kopienai izpētīt un ieguldīt AI attīstībā.
– Kāda ir saskanēšanas nozīme AI jomā?
Saskanēšana nodrošina, ka AI sistēmas rīkojas veidā, kas ir noderīgs cilvēcei un saskan ar cilvēku vērtībām. Tas ir būtiski, lai novērstu negaidītus rezultātus vai ļaunprātīgu AI tehnoloģiju izmantošanu.
Galvenie izaicinājumi un kontroverses:
– Black Box AI regulēšana: efektīvu noteikumu izstrāde, kas līdzsvaro inovāciju ar ētiskām apspriežu un kontroli, ir izaicinoša.
– AGI attīstība: Tā kā AGI varētu pārsniegt cilvēka inteliģenci, atbildīga tā attīstība ir kontroverza, kur daži aicina strauju progresu, bet citi ierosina piesardzību.
– Uzticēšanās AI: Pārredzamības jautājumi var apdraudēt uzticēšanos AI lietotāju un iesaistīto pušu starpā, ietekmējot tehnoloģiju pieņemšanu.
Avantāžas un trūkumi:
– Avantāžas:
– Inovācijas: Pastāvīga AI attīstība var novest pie sasniegumiem dažādās jomās, uzlabojot efektivitāti, produktivitāti un pat risinot sarežģītus globālus izaicinājumus.
– Uzlabotas iespējas: AI var apstrādāt un analizēt lielas datu apjomus ātrāk nekā cilvēki, vadot pie labāka lēmumu pieņemšanas veselības, finansu un drošības jomās.
– Trūkumi:
– Darba pārvietošana: Uzdevumu automatizācija var aizstāt darbus, kas tradicionāli veikti cilvēkiem, un radīt sociālus un ekonomiskus traucējumus.
– Etiķešanas un drošības bažas: Nepareiza saskanēšana vai neizprotama AI varētu radīt neprognozējamus vai kaitīgus lēmumus, paaugstinot drošības un etiskās jautājumus.
Saistītie saites:
Lai iegūtu papildinformāciju par AI attīstību un ētiku, apmeklējiet zemāk minēto organizāciju mājas lapas, kurās ir atbilstoši resursi un jaunumi:
– OpenAI
– AI Now Institute
– Partnership on AI
– OECD (AI Policy Observatory)
Lūdzu, pārliecinieties par šo URL adresēm derīgumu, jo digitālā vide var pastāvīgi mainīties, un saites var kļūt novecojušas.
The source of the article is from the blog mivalle.net.ar