Roman Yampolskiy, en AI-forsker, rejser bekymringer om potentialet for, at AI fører til menneskehedens udslettelse og vurderer en overvældende 99,9% sandsynlighed for en så katastrofal konsekvens. I modsætning til troen på sikre AI-modeller understreger Yampolskiy fraværet af fejlfri modeller i eksistens og den lave sandsynlighed for, at fremtidige modeller vil være fejlfri.
I en nylig podcast-episode, dykker Lex Fridman ned i synspunkterne fra forskellige AI-ingeniører, hvor de fleste anslår en 1% til 20% chance for, at AI i sidste ende vil medføre menneskehedens udslettelse. Variationen i forudsigelser stammer fra forskellige tilgange til at stille spørgsmål og fremhæver kompleksiteten ved at vurdere AI-risici.
Yampolskiy, en professor i datalogi ved University of Louisville og forfatter til “AI: Uforklarbar, Uforudsigelig, Ukontrollerbar,” fastslår i en dialog med Fridman den kritiske vigtighed af at anerkende de potentielle farer, som AI-fremskridt udgør. Han postulerer, at menneskehedens skæbne hviler på evnen til at skabe essentielt fejlfri, ekstremt kompleks software inden for det næste århundrede – en usandsynlig bedrift givet de vedvarende sårbarheder, der er forbundet med menneskecentreret AI-design.
De seneste par år har fremskridt inden for AI-teknologi vist advarselstegn om misbrug og misinformation, fra spredning af deepfake-indhold til AI-genereret misinformation, som påvirker politiske begivenheder. Især har Googles Gemini AI-modeldrevne funktion, “AI-overblik,” tiltrukket opmærksomhed for at producere meningsløse svar, såsom at foreslå at bruge lim til at lave pizza eller hævde, at der ikke er lande i Afrika, der starter med “K.”
Yampolskiy fremhæver behovet for varige sikkerhedsmekanismer for effektivt at kontrollere AI-fremskridt. På trods af foreslåede sandkasseregler fra branchefigurer som OpenAIs Sam Altman forbliver naturen af AGI (Artificial General Intelligence) uforudsigelig en formidabel udfordring, hvor Yampolskiy advarer imod at undervurdere potentialet for afledte virkninger af meget intelligente systemer.
Yderligere fakta:
– AI’s potentielle indvirkning på arbejdsmarkedet er en betydelig bekymring, idet skøn tyder på, at automatisering kan føre til millioner af jobtab inden for forskellige sektorer.
– AI-systemer har vist bias baseret på de data, de trænes på, hvilket fører til potentiel diskrimination på områder som ansættelse, udlån og retsvæsen.
– Udviklingen af autonome våben drevet af AI rejser etiske spørgsmål om potentialet for, at disse våben træffer livsafgørende beslutninger uden menneskelig indgriben.
Nøglespørgsmål:
1. Hvilke foranstaltninger træffes der for at tackle de etiske implikationer af AI-udvikling?
2. Hvordan kan vi sikre gennemsigtighed og ansvarlighed i beslutningsprocesserne for AI-systemer?
3. Hvilken indvirkning vil bred AI-udbredelse have på social ulighed og jobtab?
Fordele:
– AI har potentiale til at revolutionere forskellige brancher og forbedre effektivitet, produktivitet og innovation.
– AI-teknologier kan hjælpe med at løse komplekse problemer inden for områder som sundhedsvæsen, klimaforandringer og katastrofeberedskab.
– Automatisering via AI kan føre til omkostningsbesparelser og forbedret kvalitet af produkter og tjenester.
Ulemper:
– Misbrug af AI-teknologier kan udgøre betydelige risici for privatliv, sikkerhed og demokrati.
– AI-systemer kan fastholde eksisterende bias og uligheder, hvis de ikke er omhyggeligt designet og overvåget.
– Den hurtige fremskridt i AI kan overgå de regulerende rammer, hvilket skaber udfordringer med at sikre ansvarlig udvikling og implementering.
Relaterede links:
– Electronic Frontier Foundation
– American Association for Artificial Intelligence
– Martin School