OpenAI, vadošā speka AI tehnoloģijas jomā, ir apkopojis nozīmīgus līdzekļus attīstībai, parādot generatīvo AI modeļu transformējošo spēku. Tomēr šo sistēmu sarežģītība joprojām liek ekspertiem domāt par to iekšējo darbību. Īslandiešu sammitā Ženēvā OpenAI izpilddirektors Sems Altmans atzina, ka saprast uzņēmuma mākslīgo intelektu ir sarežģīti.
Savā runā priekš novatoru un domātāju kopienas Altmans atzina, ka pilnīgi pārredzamu AI modeļu ceļš joprojām ir nepieejams. Uzņēmums vēl nav atradis uzticamu metodi, lai izsekotu atpakaļ savas AI īpatnīgajām un dažreiz neprecīzajām rezultātu izpausmēm, kā arī procesiem, kas noved pie šiem rezultātiem.
Ārlietu lietu Globālajā sammitā Nika Subvaina no The Atlantic apšaubīja jaunu, spēcīgu modeļu izlaistu drošuma apsvērumu gudrību. Reaģējot uz to Altmans pārliecināja auditoriju par esošo AI tehnoloģiju kopējo drošību un labklājību.
Neskatoties uz šīm garantijām, bijušais OpenAI pētnieks Daniels Kokoļajo prognozē, ka ir 70% iespēja, ka uzlabota AI novedīs pie cilvēces civilizācijas sabrukuma, kas liek uzsvaru uz turpmāko diskusiju par AI drošību un Mākslīgās vispārīgās inteliģences (AGI) parādīšanos.
Dziļa ziņojums, ko pasūtījusi Lielbritānijas valdība un kas veidots, balstoties uz 75 ekspertu konsensu, uzsvēra satraucošo zināšanu trūkumu AI attīstībā. Pētījums atklāj, ka AI attīstītāji tikai pietiekami saprot, kā darbojas viņu sistēmas, un norāda, ka, lai gan modela interpretācijas tehnoloģijas ir solis uz priekšu, tās tikai virza virsotni.
Tajā pašā laikā AI entitāti izpēta jaunus priekšmetus, lai “atvērtu melno kasti”, kartējot mākslīgos neironus savos algoritmos. AI uzņēmums Antropisks, OpenAI konkurents, nesen sniedza iekšējas pārbaudes par savas jaunākās LLM iekšējo mehānismu, norādot kādu pagaidu pārceļas laukā.
AI interpretācijas meklējums ir būtisks, īpaši ņemot vērā karstu diskusiju par riskiem, kas saistīti ar AGI radīšanu, kas potenciāli varētu konkurēt ar cilvēci. Šaubu gadījumā Altmans ievērojami pārorientējis savas komandas pūles, lai izstrādātu veidus, kā vadīt un regulēt AI sistēmas, kas pārsniedz cilvēka inteliģenci.
Izprast mākslīgo intelektuālu (AI) nozīmē apmesties ar jautājumiem, izaicinājumiem un kontroversijām. Viena no centrālajām jautājumiem ir: Kā mēs varam izveidot pārredzamus un interpretējamus AI sistēmas? Vēlmes pēc pārredzamības daiļziedu izriet no nepieciešamības saprast un paredzēt AI uzvedību, nodrošinot tās uzticamību un drošību.
Galvenie izaicinājumi ietver mākslīgo intelektuālo algoritmu sarežģītību, it īpaši dziļos mācīšanās modeļus, kas darbojas kā “melno kastes” dēļ to sarežģītās un slāņainās struktūras. Cits izaicinājums ir AI mērķu potenciālās nesaskaņas ar cilvēku vērtībām, kas noved pie nevēlamām un potenciāli kaitīgām sekām.
Kontroversijas bieži saistās ar mākslīgās inteleģences etiskajām sekām, briesmām, ka radīs AGI, ietekmi uz nodarbinātību un mākslīgās intelekta pētījumu monopoliem, ko kontrolē dažas ietekmīgas organizācijas.
AI piedāvā vairākas priekšrocības, piemēram, efektivitātes uzlabošana, sarežģītu problēmu risināšana, cilvēka spēju papildināšana un jaunu inovāciju iespēju radīšana. Tomēr ir jāņem vērā arī trūkumi, tostarp darbu zaudēšana automatizācijas dēļ, lēmumu pieņemšanas procesos esošas tendences, un neredzētais spēks, ko AI varētu piešķirt tiem, kas to kontrolē.
Lai iegūtu papildinformāciju par mākslīgo intelektu un tās sekām, ir iespējams apmeklēt uzticamas institūcijas vai konsorcijus, kas veltīti AI pētījumiem un etikai, piemēram:
– OpenAI
– Anthropic
– Turklāt publikācijas kā The Atlantic bieži pievēršas mākslīgā intelekta sabiedriskajām un etiskajām aspektiem.
Diskusija par AI izpratnes izaicinājumiem neskatoties uz turpmāku, ņemot vērā tās ievērojamo ietekmi uz tehnoloģiju nākotni un sabiedrību kopumā.
The source of the article is from the blog regiozottegem.be