Endekano strokovnjak za umetno inteligenco, Leopold Aschenbrenner, je nedavno prispeval h pogovoru o umetni inteligenci (UI) z obsežnim esejejem dolgim 165 strani. V njem se poglobi v hitro napredovanje UI tehnologij in raziskuje široke implikacije za družbo in varnost.
Anlitični UI sistem, GPT-4 je ključen pri preoblikovanju Aschenbrennerjevega dolgega razpravljanja v prebavljive vpoglede. Ta orodje, razvito s strani Aschenbrennerjevega nekdanjega delodajalca, poudari bistvo njegovih napovedi o razvoju UI.
Aschenbrenner je delal v OpenAI-jevi ‘Super Alignment Team,’ osredotočen na blaženje tveganj UI, preden je bil odpovedan aprila. Njegov odhod, med drugimi, je bil posledica zaskrbljenosti glede zavezanosti podjetja k varnosti UI. Razlog za njegovo odpustitev naj bi bil razširjanje informacij o pripravljenosti podjetja na napredno UI, obtožbo, ki jo je označil za izgovor za odpustitev.
Regionalni strokovnjaki trdijo, da Aschenbrennerjev esej zgovorno ne vsebuje zaupnih podatkov o OpenAI. Namesto tega seže v javno dostopne podatke, osebne vpoglede, tehnično strokovnost in govorice iz kavarn v San Franciscu, da bi sestavil svoja pripovedi.
Anlitični povzetek z umetno inteligenco izvestega ChatGPT-ja je skrčil Aschenbrennerjeva stališča v le 57 besed, poudarjajoč njegove teorije o preobražajočem potencialu splošne in superinteligence. Poleg tega napoveduje pomembne tehnične napredke v bližnji prihodnosti, ki bodo privedli do hitrega razvoja od obstoječih modelov, kot je GPT-4, do naprednejše UI, spodbujene s strani računske moči in algoritmične učinkovitosti.
Na kratko, Aschenbrenner predvideva svet, kjer se bo UI razvijala s hitrostjo, ki je doslej neznana, potencialno se ujemajoča s človeško kognitivno sposobnostjo v raziskavah in inženiringu UI do leta 2027, skok, ki bi lahko sprožil ‘intelektualno eksplozijo’. Opozarja na pomembne ekonomske, etične in varnostne izzive, ki bi jih napredek predstavljal, poudarja potrebo po močni infrastrukturni naložbi in skrbnih postopkih varovanja pred zlorabo, medtem ko razmišlja o potencialnem družbenem pretresu.
Najpomembnejša vprašanja in odgovori:
V: Kakšne so možne posledice, če se UI ujema s človeško kognitivno sposobnostjo pri raziskovanju in inženiringu?
A: Možne posledice vključujejo preobražujoč napredek na različnih področjih, obsežne ekonomske premike, etične preglede v zvezi z avtonomijo in pravicami UI, odpuščanje delavcev in varnostne pomisleke glede zlorabe UI. Obstaja tudi možnost ‘intelektualne eksplozije’, kjer bi se UI lahko pospešeno izboljševala same sebe, kar bi vodilo do izidov, ki jih je težko predvideti ali nadzorovati.
V: Kako lahko zagotovimo varnost in etični razvoj UI?
A: Zagotavljanje varnosti vključuje vlaganje v raziskave usklajevanja UI, vzpostavljanje mednarodnih predpisov, razvoj trdnih varnostnih ukrepov in ustvarjanje varoval. Etični razvoj lahko spodbudi meddisciplinarni dialog, ki vključuje etike, tehnologe, odločevalce in javne deležnike, da usmerijo odgovorno implementacijo UI.
Ključni izzivi in kontroverze:
Varnostni in kontrolni problem je prekladan; obvladovanje visoko naprednih sistemov UI predstavlja ogromne izzive. Drug spor je v vplivu UI na zaposlovanje; ker postajajo sistemi UI sposobni, lahko odstranijo delavce v različnih panogah. Dodatna težava je v zasebnosti podatkov in pristranskosti; sistemi UI se morajo usposabljati z obsežnimi podatki, kar sproža pomisleke o kršenju zasebnosti in povečanju družbenih pristranskosti.
Prednosti:
Razvoj UI lahko privede do izboljšav v zdravstvu, personalizirani izobrazbi, učinkoviti rabi energije in reševanju kompleksnih globalnih izzivov, kot je podnebne spremembe. Prav tako lahko poveča naše razumevanje inteligence kot pojavnosti.
Slabosti:
Če ni usklajen z človeškimi vrednotami, lahko UI povzroči škodo. Tu je nevarnost ekonomske neenakosti, saj bi tisti, ki obvladujejo mogočne tehnologije UI, lahko pridobili nesorazmerno bogastvo in moč. Poleg tega potencial za avtonomno orožje in nadzorne države sproža pomembna etična in varnostna vprašanja.
Za ostajanje posodobljenih o širšem pogovoru o umetni inteligenci lahko obiščete relevantne organizacije in dostopate do njihovih raziskav in razprav:
– OpenAI, katere delo je osredotočeno na napredovanje digitalne inteligence in zagotavljanje, da so njeni koristi široko deljene: OpenAI
– Future of Life Institute, ki preučuje eksistencialna tveganja, s katerimi se sooča človeštvo, zlasti eksistencialno tveganje zaradi napredne UI: Future of Life Institute
– Center za študij eksistencialnih tveganj, interdisciplinarni raziskovalni center, osredotočen na študij tveganj, ki ogrožajo izumrtje človeka in jih ni mogoče zanesljivo omejiti: CSER
– Ustanova za raziskovanje strojne inteligence, ki se osredotoča na razvoj formalnih teorij racionalnega vedenja za sisteme UI ter druge teoretične raziskave, pomembne za zagotavljanje pozitivnega vpliva sistemov UI: MIRI