En tidligere OpenAI-forsker, Leopold Aschenbrenner, har for nylig bidraget til den løbende samtale om kunstig intelligens (AI) med en omfattende 165-siders essay. I den går han i dybden med den hurtige udvikling af AI-teknologier og udforsker de bredere implikationer for samfundet og sikkerheden.
Den analytiske AI-system, GPT-4, har været afgørende for at destillere Aschenbrenners lange diskussioner ned til forståelige indsigter. Dette værktøj, udviklet af Aschenbrenners tidligere arbejdsgiver, fremhæver kernen i hans forudsigelser vedrørende udviklingen af AI.
Aschenbrenner arbejdede inden for OpenAIs ‘Super Alignment Team,’ der fokuserede på at reducere AI-risici, før han blev opsagt i april. Hans afgang, blandt andre, skete på et tidspunkt, hvor der var bekymringer om virksomhedens dedikation til AI-sikkerhed. Årsagen til hans afskedigelse var angiveligt spredningen af information om virksomhedens beredskab til avanceret AI, en anklage, han betragtede som et påskud for afskedigelsen.
Regionale eksperter antyder, at Aschenbrenners essay er bemærkelsesværdigt frit for fortrolige detaljer om OpenAI. I stedet gennemgår det offentligt tilgængelige data, personlige indsigter, teknisk ekspertise og sladder fra kaffebarer i San Francisco for at konstruere sine fortællinger.
En AI-drevet opsummering af ChatGPT kondenserede Aschenbrenners perspektiver til blot 57 ord og understregede hans teorier om transformative potentiale for generel og superintelligens. Desuden forudsiger den betydelige teknologiske fremskridt i nær fremtid, som fører til hurtig udvikling fra nuværende modeller som GPT-4 til en mere avanceret AI, drevet af beregningskraft og algoritmisk effektivitet.
Kort sagt forudser Aschenbrenner en verden, hvor AI udvikler sig med en hidtil uset hastighed, potentielt matchende menneskelig kognitive evne inden for AI-forskning og ingeniørarbejde i 2027, et spring, der kunne udløse en ‘intelligens eksplosion.’ Han advarer om de betydelige økonomiske, etiske og sikkerhedsmæssige udfordringer, som denne udvikling ville medføre, og understreger behovet for robust investering i infrastruktur og omhyggelige sikkerhedsprocedurer mod misbrug, mens han spekulerer over potentiel samfundsmæssig oprør.