Mesterséges Intelligencia (AI) ma már az életünk szerves részévé vált, olyan technológiai óriások, mint a Google élénkítik és finomítják az AI platformok fejlődését. Azonban az utóbbi események rávilágítottak az AI-hoz kapcsolódó potenciális veszélyekre és buktatókra. A Google Gemini botrány körüli botrány, amely történelmileg pontatlan képeket generált fekete és ázsiai náci katonákról, figyelmeztető jelként szolgál az AI erejére és az ezzel járó felelősségre.
Az elmúlt időszakban Austin, Texas tech fesztiválján a Google Gemini chatbot körüli botrány rávilágított arra, mekkora befolyással bírnak a tech óriások az AI platformok felett. Az AI alkalmazás hibái, amelyek ideiglenesen megakadályozták a felhasználókat abban, hogy emberek képeit hozzák létre a sokszínű náci katonák generálása miatt, széles körű kritikát és gúnyt váltottak ki a közösségi médiában. A Google vezérigazgatója, Sundar Pichai, ezeket az hibákat „teljesen elfogadhatatlannak” minősítette.
Bár a Google gyorsan orvosolta a problémát, az eset általánosabb aggodalmakat vetett fel a néhány vállalat által gyakorolt ellenőrzés miatt azokon az AI platformokon, amelyek forradalmasítják az életünk különféle területeit. Joshua Weaver, jogász és technológiai vállalkozó, a Google válaszát a balesetre túlzottan „ébernek” minősítette, amelyben az inklúzió és a sokszínűség hangsúlyozását tűzték ki célul. Charlie Burgoyne, a Valkyrie alkalmazott tudományi laboratórium vezérigazgatója a Google erőfeszítéseit hasonlította ahhoz, mint amikor egy sebtapaszt próbálnak tenni lőtt sebre, kiemelve a megoldatlan alapproblémát.
Ez az eset rávilágít a szükségességre a teljeskörű tesztelés és finomítás tekintetében az AI platformok fejlesztése során. Az AI technológiák gyors fejlődése, a Google, a Microsoft, az OpenAI és az Anthropic által folytatott heves verseny, alig hagy helyet a hibáknak. Weaver rámutatott, hogy ezek a vállalatok gyorsabban haladnak, mint ahogyan képesek követni, létrehozva egy feszült környezetet, ahol a hibák valószínűbben előfordulnak.
Az eset maga, bár jelentős, szélesebb kérdéseket is felvet az AI szerepével kapcsolatban a társadalomban. Weaver szerint ezek az hibák vitapontként szolgálhatnak a kívánt szintű AI-felhasználók általi információ ellenőrzésről szóló megbeszélésekhez. A következő évtizedben az AI által generált információ és dezinformáció felülmúlhatja az emberi által generáltat, ami aláhúzza a robustus védelmi intézkedések és a felelős AI fejlesztés szükségességét.
Az egyik kulcsfontosságú aspektusa az AI-nak, amelyet a Gemini eset kiemelt, az a bias kérdése. Az AI modellek hatalmas adatmennyiségen vannak képzve, és ha ezek az adatok kulturális biaszt hordoznak, az AI fennmaradhatja és akár felerősítheti ezeket a biaszokat. A Google mérnökei megpróbálták kezelni ezt a problémát az algoritmusok újrakiegyensúlyozásával, hogy tükrözzék az emberi sokszínűséget. Azonban az erőfeszítéseik visszájukra sültek, felfedve az AI-ban meglévő bias komplexitását.
A szakértők szerint a bias kezelése az AI-ban finomhangolt és kihívást jelentő feladat. Az ügyvédi technológusa, Alex Shahrestani, hangsúlyozza a bias azonosításának és kiküszöbölésének nehézségét az AI-algoritmusokban, mivel maguk a mérnökök is saját biaszaikat vihetik be a képzési folyamatba. Az AI-beli bias elleni küzdelem további bonyodalmat okoz a körülötte lévő működés hiányosságai tekintetében. A nagy tech vállalatok gyakran rejtik az AI-algoritmusok módszertanát, ami lehetetlenné teszi az felhasználók számára, hogy azonosítsák és kiküszöböljék bármely rejtett biaszokat.
Ezen kihívások leküzdéséhez nő a mozgalom a nagyobb sokszínűség érdekében az AI fejlesztési csapatokban és az AI-algoritmusokban való nagyobb átláthatóság érdekében. A szakértők és aktivisták szerint a különböző nézőpontok és tapasztalatok nélkülözhetetlenek olyan AI rendszerek építésében, amellyek igazságosak és előítéletektől mentesek. Jason Lewis, az Indigenous Futures Resource Centerből, arra törekszik, hogy a marginalizált közösségeket beavassa az AI-algoritmusok tervezésébe és fejlesztésébe, hogy az adatok etikus felhasználását és a különböző nézőpontok képviseletét biztosítsák.
A Google Gemini esete figyelmeztető jel a technológiai óriásoknak és a társadalomnak egyaránt. Aláhúzza a felelős AI fejlesztés, a teljes körű tesztelés és a biasok kezelésének szükségességét az AI-algoritmusokban. A sokféleség és átláthatóság elfogadásával az AI erejét kihasználva egy igazságosabb és befogadóbb jövőt teremthetünk.
Gyakran Ismételt Kérdések (GYIK)
The source of the article is from the blog yanoticias.es