Spoštovani strokovnjak Geoffrey Hinton je svojo pozornost usmeril k potencialnim nevarnostim, ki jih predstavlja hitro napredovanje umetne inteligence (UI), poudarjajoč nujno potrebo po proaktivnih ukrepih.
Nasloviti zaskrbljujočo možnost preseganja človeške inteligence s strani UI, Hinton poudarja kritično pomembnost dodeljevanja znatnih virov za zaznane in preprečevanje scenarijev, kjer bi UI presegla človeštvo.
V nasprotju s trenutnimi praksami industrije, Hinton zagovarja namenitev 20 do 30% računalniških virov za študij načinov zagotavljanja človeške kontrole nad razvijajočimi se sistemi UI. Izraža skepticizem do posameznih podjetij, ki dajejo prednost varnosti pred dobičkom v kapitalističnem okolju, poudarja ključno vlogo vladnega posredovanja pri regulaciji nereguliranega napredovanja tehnologije UI.
Ena izmed opaznih primerov, ki ga navaja Hinton za ilustracijo naraščajoče inteligence UI, so izjemni napredki, ki jih prikazuje tehnologija ChatGPT podjetja OpenAI. Z razširjanjem sposobnosti modelov UI, kot je GPT-4, Hinton poudarja neizbežen trend proti dvigu inteligence, ki jo olajšujejo tehnološka izboljšanja in znanstveni preboji.
Kot posvarilo, ki ga je vtkal Hinton, prikazuje tekmovalno okolje, ki se vzpostavlja znotraj okvirov UI, kjer mehanizmi samoohranitve poganjajo entitete UI, da si prizadevajo za prevlado. Hinton poudarja etične implikacije evolucije UI ter poudarja nujno potrebo po sodelovanju deležnikov industrije in odločevalcev pri blaženju potencialnih tveganj in zavarovanju pred nepredvidenimi posledicami.
V dramatičnem odmiku od svojih povezav v industriji, odhod Geoffreya Hintona iz vodilnega tehnološkega podjetja poudarja naraščajoč občutek odgovornosti in etične zavesti znotraj pokrajine UI. Medtem ko se razprava o etiki UI stopnjuje, zagovarjanje Geoffreya Hint
The source of the article is from the blog mivalle.net.ar