En färsk rapport, beställd av den amerikanska State Department, har varnat för de ”katastrofala” nationella säkerhetsriskerna som är förknippade med den snabbt framväxande artificiell intelligens (AI)-teknologin. Rapporten, genomförd av Gladstone AI, innefattar att AI har potentialen att utgöra ett ”utrotande hot mot människosläktet” om den får vara oreglerad.
Forskarna intervjuade över 200 personer, inklusive högre chefer från ledande AI-företag, cybersäkerhetsexperter, specialister inom massförstörelsevapen och nationella säkerhetstjänstemän. Deras resultat belyser det akuta behovet av att den federala regeringen vidtar åtgärder för att förhindra en potentiell katastrof.
Rapporten understryker att medan AI har kraften att medföra ekonomisk omvandling, såsom botemedel mot sjukdomar och vetenskapliga genombrott, bär den även betydande risker. När AI-kapabiliteterna fortsätter att utvecklas, finns det en växande evidens för att dessa system kan bli okontrollerbara över en viss tröskel.
Gladstone AIs rapport varnar för två centrala faror som AI kan innebära. För det första kan de mest avancerade AI-systemen användas som vapen, vilket kan leda till potentiellt oåterkallelig skada. För det andra finns det farhågor inom AI-labben att forskare kan förlora kontrollen över de system de utvecklar, med förödande konsekvenser för global säkerhet. Framväxten av AI och artificiell allmän intelligens (AGI) har potentialen att destabilisera den globala säkerheten, på samma sätt som införandet av kärnvapen.
För att bemöta dessa hot, uppmanar rapporten till beslutsamma åtgärder, inklusive inrättandet av en ny AI-myndighet och genomförandet av ”nödåtgärder” inom reglerande skydd. Rapporten föreslår även att begränsningar införs för mängden datorkraft som används för att träna AI-modeller. Den betonar det klara och akuta behovet av ingripanden från den amerikanska regeringen.
Rapporten erkänner att dess åsikter inte nödvändigtvis representerar de amerikanska regeringens eller State Departments åsikter. Det är dock värt att notera att den amerikanska regeringen har uttryckt oro över spridningen och säkerhetsriskerna med avancerad AI, vilket framgår av ett meddelande från State Departments Office of the Nonproliferation and Disarmament Fund från 2022.
Gladstone AI belyser säkerhetsaspekter inom den avancerade AI-gemenskapen. Rapporten avslöjar att medan konkurrenspress driver på en accelererad AI-utveckling, hamnar säkerhets- och säkerhetsaspekter ofta i bakgrunden. Det ökar risken för att de mest avancerade AI-systemen blir stulna och används som vapen mot USA.
Dessa resultat bidrar till den växande kör av varningar kring de existentiella risker som AI innebär. Framstående personligheter som Elon Musk och Geoffrey Hinton har uttryckt farhågor kring de potentiella farorna med AI, inklusive risken för mänsklighetens utrotning. Även företagsledare har uttryckt oro över den destruktiva potentialen hos AI.
Sammanfattningsvis fungerar Gladstone AIs rapport som en skarp påminnelse om de nationella säkerhetsrisker som artificiell intelligens innebär. Akuta åtgärder krävs för att möta dessa hot och mildra potentiella katastrofer. Det är avgörande för den amerikanska regeringen, i samarbete med internationella partners, att prioritera hanteringen och regleringen av framväxande teknologier för att säkra en trygg och säker framtid för mänskligheten.
FAQ
Vilka risker är förknippade med AI?
AI utgör betydande risker för nationell säkerhet, inklusive potentialen för att AI-system kan användas som vapen och leda till oåterkallelig skada. Dessutom existerar farhågor inom AI-gemenskapen om att förlora kontrollen över avancerade AI-system, med potentiellt förödande konsekvenser för global säkerhet.
Vilka åtgärder rekommenderar rapporten?
Rapporten förespråkar inrättandet av en ny AI-myndighet, implementeringen av reglerande skydd och begränsningar för datorkraft som används för träning av AI-modeller. Dessa åtgärder syftar till att adressera de akuta hoten och säkerställa den säkra utvecklingen och implementeringen av AI-teknologi.
Tar den amerikanska regeringen dessa risker på allvar?
Rapporten understryker behovet av brådskande ingripande från den amerikanska regeringens sida, men den erkänner också att dess åsikter inte nödvändigtvis speglar regeringens eller State Departments ståndpunkter. Regeringens notiser har emellertid indikerat dess oro kring de säkerhetsrisker som är förknippade med avancerad AI.
Vad säger branschledare och experter om AI-risker?
Framstående personligheter som Elon Musk och Geoffrey Hinton har uttryckt oro över de potentiella farorna med AI, inklusive risken för mänsklighetens utrotning. Företagsledare har också uttryckt oro över den destruktiva potentialen hos AI, även om de fortsätter att investera miljarder dollar i dess utveckling.
Vilka åtgärder kan vidtas för att mildra dessa risker?
För att minimera riskerna som är förknippade med AI föreslår rapporten inrättandet av reglerande organ, skyddsåtgärder och begränsningar för AI-utveckling. Dessutom krävs internationellt samarbete och tvärpolitisk lagstiftning för att effektivt hantera de risker som uppstår med framtida teknologier.
The source of the article is from the blog elperiodicodearanjuez.es