Tidlegare OpenAI-tilsett Carroll Wainwright varsla nyleg om risikoane knytt til utviklinga av Artificial General Intelligence (AGI), ei form for AI som kunne overgå menneskeleg intelligens. Wainwright, som jobba med å sikre at kraftige AI-modellar var i samsvar med menneskelege verdiar, trur vi potensielt kan sjå AGI i løpet av fem år, men han innser også at det kan ta betydeleg lengre tid.
Forståing av AGI og dens potensielle påverknad
AGI er ulikt generativ AI, som no er i stand til å etterlikne menneskelege oppgåver som å skrive eller teikne. AGI derimot ville kunne forstå kompleksitetane og konteksten av handlingane sine. Sjølv om denne teknologien ikkje eksisterer enno, er utviklinga eit globalt tema, der ulike synspunkt på når det blir ein realitet varierer frå nokre få år til fleire tiår.
OpenAI si Endring i Visjonen
Utløysaren for Wainasserting, ifølgje Wainwright, var ein endring i OpenAI si fokus. Opprinneleg etablert som eit ideelt forskingslaboratorium med målet om å gagna menneskeheita, tyder han på at selskapet sine daglege motivasjonar no ser ut til å vere driven hovudsakleg av profitt, særleg etter suksessen til ChatGPT.
AGI sin Langsiktige Samsvarsrisko
Wainwright understrekar tre kjerneutfordringar med AGI: potensialet for å erstatte menneskelege arbeidarar, spesielt i faglærte jobbar; den sosiale og mentale påverknaden, då individ kan ende opp med AI-venner eller personlege assistentar; og kontrollen over teknologien sjølv. Å sikre at AGI er i samsvar med menneskelege mål er avgjerande for å hindre at maskinane følgjer sine uavhengige dagsordenar, noko Wainwright finn bekymringsfullt.
Han trur at dei største AI-selskapa truleg vil halde seg til regelverk, men for øyeblikket er det ikkje på plass eit adekvat regelverk. Derfor ber bransjeansatte om ei mekanisme for å varsla uavhengige organ om farene dei oppfattar på arbeidsplassen sin.
Rushfaktoren i AI-utvikling
Wainwright ser på hastverket i AI-utviklinga, drivne av konkurranse mellom giganter som OpenAI og Google, som ein potensiell utfordring. Sjølv om regelverk gradvis blir implementerte, med EUs AI-lov som den første som regulerer denne teknologien globalt, og amerikanske tilsynsorgan som vurderer kartellundersøkingar, forblir det ein paradoksal utfordring å sikre tryggleik i kampen for å utmerke seg innan AI.
Viktige spørsmål og svar kring Super Artificial Intelligence
Kva er Super Artificial Intelligence (SAI)?
Super Artificial Intelligence (SAI), eller Superintelligence, viser til ei hypotetisk AI som ikkje berre etterliknar menneskeleg intelligens, men langt overgår den på alle område, inkludert kreativitet, generell visdom og problemløysing.
Kva er nokre utfordringar eller kontroversar knytt til SAI?
Ei sentral utfordring er samsvarsproblemet: sikre at ein SAI sine mål er i overensstemming med menneskelege verdiar. I tillegg er det kontrollproblemet: hindre ei SAI i å opptre mot menneskelege interesser. Kontroversar oppstår også rundt den etiske bruken av SAI, potensialet for massearbeidsløyse, og dei sosio-politiske maktendringane som kunne kome som eit resultat av skapinga av Superintelligent AI.
Fordelar og Ulemper med Super Artificial Intelligence
Fordelar:
– SAI kunne løyse komplekse globale problem som klimaendringar, pandemiar og fattigdom ved å analysere store datasett og utarbeide optimale strategiar.
– Det kunne akselerere vitskaplege og teknologiske framsteg eksponensielt.
– SAI kan betre livskvaliteten ved å tilby personaliserte tenester, helsetjenester og utdanning.
Ulemper:
– Utskiftinga av jobbar på tvers av nesten alle sektorar kan føre til økonomisk forstyrring og sosial uro.
– Ein SAI kunne potensielt bli ukontrollerbar og handle på måtar som er skadeleg for menneskeheita.
– Etiske og personvernsbekymringar oppstår når ein vurderer den makta ein SAI ville ha over individuelle liv.
Risikoen med AGI før Adekvat Regulering
Fråværet av omfattande regulering før utviklinga av AGI er ei alvorleg bekymring. Bransjeprofesjonelle som Wainwright oppfordrar til oppretting av rammeverk for å dempe risikoane knytta til AGI, men framgangen er treg. Nøkkelen er å utvikle ein AGI som er nyttig og kontrollert, eit mål som tilsynsorgan og AI-utviklarar må samarbeide om å oppnå.
Potensielle Relaterte Ressursar
For dei som er interesserte i å utforske ytterlegare tema knytt til kunstig intelligens og dets reguleringar, kan de besøke nettsidene til leiande AI-forskningsorganisasjonar og tilsynsorgan. Vurder å besøke OpenAI si nettside på OpenAI for å lære om deira siste utviklingar innan AI-teknologi. Vidare informasjon om Den europeiske unions tilnærming til AI-regulering kan bli funne på Europakommisjonen si nettside på Eurokommisjonen. For innsikt i AI og etikk, tilbyr Future of Life Institute si domene på Future of Life Institute verdifulle ressursar.
Kvar av desse aktørane spelar ei rolle i å forme framtida til AGI og adressere problemstillingane skissert av ekspertar som Carroll Wainwright. Dei tilbyr plattformer for å diskutere og potensielt adressere dei store implikasjonane til AGI og superintelligent AI for menneskeheita.
The source of the article is from the blog japan-pc.jp