A mesterséges intelligencia (AI) kutatók súlyos aggodalmakat fejeznek ki a következő AI technológia generációról, magas valószínűséget állapítva meg a katasztrofális következményekre. Egy néhány jelenlegi és korábbi vezető AI-szervezetek (például az OpenAI, a Google DeepMind és az Anthropic) munkatársai által írt nyílt levél riasztó valószínűségét jelezte, hogy az AI gyors fejlődése hatalmas kárt okozhat, az emberi kihalás pedig egyértelmű és jelen veszélyt jelent.
A levél egy 70%-os esélyről szól, hogy az AI súlyos károkat okozhat az emberiségnek, Daniel Kokotajlo, az OpenAI korábbi kutatója által tett szenzációs jóslatot idézve. Figyelmeztet arra, hogy az etikai és biztonsági kockázatokkal kapcsolatos súlyos megfontolások és nyitottság hiánya miatt ezekben a vállalatokban a munkatársak aggodalmai gyakran elhallgatásra kerülnek, a nyilvánosságot pedig nem tájékoztatják a figyelemre méltó valóságokról.
Kokotajlo az OpenAI-t vádolta a New York Timesban, hogy lekicsinyelte azáltalános mesterséges intelligencia (AGI) lehetséges súlyos következményeit, ami egy olyan AI típus, amely képes bármely intellektuális emberi feladat elsajátítására. Aggódik, hogy egy AGI már 2027-ben kifejleszthető lenne, esetleg pusztító képességekkel járva. Az általa kifejezett aggodalmak tükrözik a szélesebb tudományos diskurzust, amely hangsúlyozza az AI által jelentett számos fenyegetést, az információ manipulációtól az autonóm rendszerhibák és diszkriminációkig, az emberi kihalás kockázatáig.
E vádak nyomán az OpenAI azt állítja, hogy szigorú tudományos normákat tart fenn az AI-vel kapcsolatos kockázatok enyhítése érdekében. Mindazonáltal ezek az ígéretek nem enyhítették a széleskörű nyugtalanságot. A nyílt levél nagyobb átláthatóságot és szigorúbb felügyeletet követel az AI-fejlesztő vállalatok részéről. Emellett az alkalmazottak számára névtelen bejelentési mechanizmusok felállítását kéri a kockázatok felvetéséhez félelem nélkül, az emberi lét védelmének végső céljával.
Az AI körüli aggodalmak és a következő kihívások
A lehetséges AI apokalipszis körül felmerülő kulcskérdések: Milyen súlyosak az AGI-hez kapcsolódó kockázatok? Milyen mechanizmusok hozhatók létre az AI biztonságos fejlesztése érdekében? Létezik-e egyetértés a résztvevők között az átláthatóság és a felügyelet szükségességéről?
Fontos pontok közé tartozik:
– Autonómia és irányítás: Ahogy az AI rendszerek egyre képesebbé válnak, fontos kihívás biztosítani, hogy azok maradjanak az emberi irányítás alatt. A kockázatok közé tartozik, hogy az AI rendszerek olyan módon is viselkedhetnek, ami nem volt a teremtőik szándéka, vagy túllépnek az emberi megértésen és ellenőrzésen.
– Etikai és morális következmények: Az AI felhasználása kritikus döntéshozatalban etikai kérdéseket vethet fel, például olyan élet-halál döntések delegálása gépeknek háborúban vagy egészségügyben.
– Gazdasági hatás: Az előrehaladott AI jelentős zavart okozhat a munkaerőpiacon, munkahely elvesztéshez és gazdasági egyenlőtlenség kiszélesedéséhez vezethet.
– Globális szabályozás: Az összefüggő nemzetközi keretrendszerek kialakítása az AI kormányzásához elengedhetetlen a nemzetközi verseny és a vállalatok közötti nyomások kezeléséhez, amelyek egyébként egy veszélyes versenyt eredményezhetnének az AGI felé.
Az átlátható AI fejlesztés előnyei:
– Növeli a nyilvánosság és résztvevők közötti bizalmat.
– Segíti a komplex kihívásokra megoldások kidolgozását.
– Csökkenti az esetleges mellékhatások kockázatát a szélesebb felügyelet miatt.
Hátrányok:
– Az innováció lassulhat a megnövekedett bürokrácia miatt.
– Esetlegesen felfedheti az ipari tulajdont, gazdasági hátrányokhoz vezethet a vállalatok számára.
– Az általános közvélemény vagy versenytársak által történő információk félreértelmezésének kockázata.
Viták:
– A technológiai fejlődés és a biztonsági intézkedések közötti egyensúly megtalálása.
– Az AI-ban rejlő előítéletek kiegyensúlyozása és az etikai döntésekre történő biztosítása.
– Meghatározni, hogy mekkora mértékű átláthatóság lehetséges anélkül, hogy versenyelőnyök nézőpontjából veszélyeztetné azt.
További információkért az AI és annak jövővel kapcsolatos következményeiről látogasd meg a vezető AI kutatószervezetek weboldalait. Példák ezekre az OpenAI, DeepMind, és Anthropic. Bár nem tudok közvetlenül hivatkozásokat biztosítani cikkekre vagy a tartalom frissítésére az én ismereteim utáni dátumon túl, ezek a források gyakran tárgyalják az AI területén felmerülő előrehaladásokat és aggodalmakat.