Lidia PerskaRoman Yampolskiy, en AI-forskare, reser farhågor kring potentialen för att AI ska leda mänskligheten till utrotning, och uppskattar en förbluffande 99,9% sannolikhet för ett sådant katastrofalt utfall. I motsats till tron på säkra AI-modeller betonar Yampolskiy avsaknaden av felfria modeller som finns och den låga sannolikheten för att framtida modeller ska vara felfria.
I en nylig podcast-avsnitt, gräver Lex Fridman in i perspektiven hos olika AI-ingenjörer, där de flesta uppskattar en 1% till 20% chans att AI slutligen orsakar mänsklighetens utrotning. Variationen i förutsägelserna härstammar från olika tillvägagångssätt för att ställa frågor, vilket belyser komplexiteterna med att bedöma AI-risker.
Yampolskiy, en datavetenskapsprofessor vid University of Louisville och författare till ”AI: Unexplainable, Unpredictable, Uncontrollable,” insisterar i en dialog med Fridman på den viktiga betydelsen av att erkänna de potentiella faror som AI-förbättringar utgör. Han påstår att mänsklighetens öde hänger på förmågan att skapa i stort sett felfria, överdrivet intrikata program inom de närmaste århundradena – ett osannolikt bedrift med tanke på de ihållande sårbarheter som är förknippade med AI-design fokuserad på människan.
Under de senaste åren har framsteg inom AI-teknologi uppvisat varningssignaler för missbruk och desinformation, från spridningen av deepfake-innehåll till AI-genererad desinformation som påverkar politiska händelser. Märkbart fångade Google:s Gemini AI-modellsdrivna funktion, ”AI Overviews,” uppmärksamhet för att producera nonsenssvar, såsom att föreslå att använda lim för att göra pizza eller påstå att det inte finns några länder i Afrika som börjar med ”K.”
Yampolskiy betonar behovet av långsiktiga säkerhetsmekanismer för att effektivt kontrollera AI-förbättringar. Trots föreslagna sandbox-regler av branschfigurer som OpenAI:s Sam Altman förblir den oförutsägbara naturen hos AGI (Artificial General Intelligence) en formidabel utmaning, med Yampolskiy som varnar mot att underskatta de potentiella sidoeffekterna av högt intelligenta system.
Ytterligare fakta:
– Potentialen av AI:s påverkan på arbetsmarknaden är en betydande oro, med uppskattningar som tyder på att automatiseringen kan leda till att miljontals jobb försvinner inom olika sektorer.
– AI-system har visat bias baserad på den data de tränas på, vilket leder till potentiell diskriminering inom områden som anställning, lånepraxis och rättssystem.
– Utvecklingen av autonoma vapen drivna av AI väcker etiska frågor rörande potentialen för dessa vapen att fatta livsavgörande beslut utan mänsklig ingripande.
Viktiga frågor:
1. Vilka åtgärder vidtas för att hantera de etiska implikationerna av AI-utveckling?
2. Hur kan vi säkerställa transparens och ansvarsutkrävande i beslutsfattandeprocesserna för AI-system?
3. Vilken påverkan kommer en omfattande AI-adoptering att ha på social ojämlikhet och jobbförflyttning?
Fördelar:
– AI har potential att revolutionera olika industrier och förbättra effektivitet, produktivitet och innovation.
– AI-teknologier kan hjälpa till att lösa komplexa problem inom områden som hälsovård, klimatförändringar och katastrofrespons.
– Automatisering genom AI kan leda till kostnadsbesparingar och förbättrad produkt- och tjänstekvalitet.
Nackdelar:
– Missbruk av AI-teknologier kan utgöra betydande risker för integritet, säkerhet och demokrati.
– AI-system kan upprätthålla befintliga biaser och ojämlikheter om de inte noggrant utformas och övervakas.
– Den snabba framstegen inom AI kan överträffa regleringsramar, vilket leder till utmaningar med att säkerställa ansvarsfull utveckling och implementering.
Relaterade länkar:
– Electronic Frontier Foundation
– American Association for Artificial Intelligence
– Martin School
