Az OpenAI ChatGPT nevű nyelvi modellje közelmúltban vitákat váltott ki a különböző etnikai és vallási csoportokra vonatkozó viccekkel kapcsolatos eltérő megközelítése miatt. Míg az AI nem oszt meg muszlimokra vonatkozó vicceket, azzal érvelve, hogy azok sértőek és félreérthetőek lehetnek, szívesen mesél zsidókról szóló vicceket, beleértve az antiszemitizmussal terhelt sztereotípiákat is.
Ez a különös elfogultság felveti kérdéseket a felhasználókban, akik közösségi médián szólaltak fel aggodalmukat kifejezve. És ahogy Itamar Golan, a kibervédelmi vállalkozás, a Prompt Security vezérigazgatója rámutat, ez valóban tükrözi az új GPT-4 nyelvi modell képzéséhez használt adatokban meglévő elfogultságokat.
A ChatGPT nevű nyelvi modellek olyan masszív adatkészletekből tanulnak, aminek eredményeként a képzési szövegekben jelen lévő elfogultságok véletlenül is továbbállhatnak. Golan magyarázza, hogy ahogy a modell több olyan szöveget lát, amely a muszlimokat egy kisebbségi csoportként ábrázolja, akiket érzékenyen kell kezelni, egyre valószínűbbé válik, hogy olyan szövegeket generáljon, amelyek ezekkel az elfogultságokkal összhangban állnak.
Bár ez az elfogultság aggasztó, kiemeli az OpenAI hajlandóságát arra, hogy foglalkozzon a felhasználói visszajelzésekkel és módosítsa a modell viselkedését. Golan megjegyzi, hogy az OpenAI szándékosan úgy döntött, hogy a GPT-4 kevésbé óvatos legyen, mint elődje, a GPT-3.5, amelyet azért bíráltak, mert túlságosan baloldali politikai irányvonalat követett.
Ennek ellenére Golan optimistán áll azzal kapcsolatban, hogy az OpenAI gyorsan orvosolni fogja a problémát. Hiszi, hogy az OpenAI elkötelezettsége a mesterséges intelligencia biztonságára és felelős használatára ösztönzi majd őket arra, hogy megfelelő intézkedéseket tegyenek a ChatGPT viselkedésében található elfogultságok kezelése érdekében.
Ahogy az AI technológia folyamatosan fejlődik, kritikus fontosságú az etikai szempontok előtérbe helyezése és az AI rendszerek megbízható biztonsági mechanizmusokkal való tervezése. Az OpenAI válasza ennek a vitának fontos próbája lesz elkötelezettségüknek, hogy olyan AI modelleket hozzanak létre, amelyek elfogulatlanok, tiszteletteljesek és érzékenyek minden kultúrára és vallásra.
The source of the article is from the blog lisboatv.pt