A mesterséges intelligencia (AI) vezető vállalatainak, mint az OpenAI, DeepMind és Anthropic által közzétett nyílt levélben súlyos figyelmeztetést adtak ki az AI fejlesztés ellenőrizetlen előrehaladása kapcsán. A jelenlegi és korábbi munkatársak által aláírt levél hangsúlyozza a mesterséges intelligencia kettős természetét: annak kapacitását, hogy jelentős mértékben elősegítse az emberi társadalmat, valamint annak lehetőségét, hogy súlyosbítsa a meglévő egyenlőtlenségeket, lehetővé téve a manipulációt és félrevezetést, valamint lehetséges katasztrofális következményekhez vezethet, beleértve az emberiség kihalását.
AI Ígérete vs. Kockázata: Felelős Fejlesztésre Hívás
A levél szerzői nyíltan elismerik az AI által bevezetett példátlan előnyöket, például a feladatok automatizálását, amely lehetővé teszi az emberi idő felszabadítását más tevékenységekre. Azonban hangsúlyozzák a kellő felügyeleti mechanizmusok hiányának sürgető szükségességét. Az AI technológia gyors fejlődése hatékony irányítás nélkül mélyen megerősítheti az egyenlőtlenségeket, és vezethet az autonóm AI rendszerek felett való irányítás elvesztéséhez.
Elégtelen Felügyelethez Való Hozzáállás az AI-ban
Az AI szakemberek felhívják a figyelmet a konfliktusra az AI cégeken belül, rámutatva a hatalmas anyagi ösztönzőkre, amelyek esetleg visszatartólag hatnak a szilárd felügyeletre. Hangsúlyozzák, hogy ezek a cégek rendkívül fontos információkkal rendelkeznek az általuk üzemeltetett rendszerek képességeiről és korlátairól, valamint a biztonsági óvintézkedések megfelelőségéről és a különböző típusú károk kockázatairól. Ennek ellenére jelenleg minimálisak az elvárások annak érdekében, hogy ezeket az információkat megosszák a kormánnyal, és gyakorlatilag nem léteznek a civil társadalom számára.
Az elégtelen hivatalos felügyelet fényében az alkalmazottak félik, hogy ők az egyetlen erő, amely képes elszámoltatni a szervezeteket közszolgáltatásokkal kapcsolatban. Aggodalmukat fejezik ki lehetséges megtorlás miatt, hivatkozva az ilyen esetekre az ágazaton belül.
Fontos Követelések az AI Szakemberektől
A nyílt levél a négy követelésből áll, amelyeket az AI fejlesztési cégek felé irányítanak. Ezek közé tartozik a megállapodások betiltása, amelyek megakadályozzák a kritikai észrevételeket az AI kockázataival kapcsolatban, névtelen bejelentési eljárások kialakítása potenciális fenyegetésekkel kapcsolatban, egy olyan kultúra kialakítása, amely értékeli a kritikus visszajelzéseket, valamint a megtorlás elkerülése azokkal szemben, akik nyilvánosan szólnak, amikor a belső folyamatok hatékonyságát nem bizonyítják.
Összefoglalva, az AI iparágon belüli felhívás cselekvésre világos. Azért, hogy az AI fejlődése teljesítse a benne rejlő lehetőséget az életminőség javítása érdekében, miközben biztonságot nyújt a jelentős kockázatok ellen, egy összehangolt, nyílt és átlátható megközelítés szükséges. Ehhez tudósoknak, jogalkotóknak és a szélesebb közösségnek együtt kell működniük azért, hogy biztosítsák ennek az erős technológiának felelős előrehaladását.
The source of the article is from the blog mendozaextremo.com.ar