Az év 2023 jelentős mértékben azt mutatta, hogy elterjedt a „ChatGPT” interaktív mesterséges intelligencia (MI) rendszer használata, amely így bepillantást nyújtott az alapvető generatív MI technológiák korszakába. Ahogyan ezek az MI rendszerek továbbfejlődnek, jelenleg kritikus értékelés alatt állnak képességeik.
A MI képtelensége az önréflektálásra jelentős korlátként kerül kiemelésre. Például az MI-nak hiányoznak azok az eszközök, amelyek révén értékelhetné helyességét bizonyos kérdésekre adott válaszainak, és kitart az pontatlan információk szolgáltatása mellett. Ha például a Japán legmagasabb hegyéről kérdezik, az MI pontosan válaszolhat „Fudzsi hegy”, ahol az egész világon szinte egyetértés van a helyességét illetően. Ugyanakkor, ha a kérdés egy Shikoku szigetbeli hegy legmagasabb csúcsára vonatkozik, még akkor is, ha az MI a helyes választ adja, ami „Ishizuchi-hegy”, általános bizonyosság sokkal alacsonyabb.
Az embereknek benne van az öröklött képessége a belső értékelésre és ítélkezésre, bizalmaikra és társadalmi hatásaikra vonatkozólag, amivel ‘metakogníciónak’ nevezett tevékenység van. Jelenleg ez a képesség nehézkesen replikálható a generatív MI-ben. Ez a kihívás súlyosbodik, amikor az MI időnként ‘hallucinációkat’ él át, ahol folyamatosan valótlan információkat szolgáltatva, ami megbízhatóságát akadályozza. Egyetlen pontatlan elem egy 99%-osan helyes válaszban komoly problémákhoz vezethet attól függően, hogy milyen a használati környezet.
Az MI-nak nehézségei vannak a metakogníció realizálásában, és ez kérdéseket vet fel az emberi függésről az MI rendszerekre. Az MI egyre növekvő hatással van a mindennapi döntéshozatalra, és egyre inkább megfigyelhető az emberek hajlama, hogy kikerüljék a kritikai gondolkodást, és inkább az MI ajánlásaira támaszkodjanak. Ez a viselkedési mintázat változás lehet a szűkülő emberi kognitív képességekhez vezethet, ami potenciálisan a perspektívák szűküléséhez és a szükséges kritikai gondolkodás hiányához vezethet, más néven a ‘visszhangkamra’ hatáshoz ismert.
Létfontosságú tehát az embereknek fenntartani a saját gondolkodási és tükrözési képességüket, hogy önállóan tudjanak gondolkodni és tükrözni, ítéleteket hozni és tanulni a hibáikból, különösen egy olyan korban, ahol az MI befolyása növekszik. Ezeknek a kognitív képességeknek a fenntartása biztosítja, hogy az egyének továbbra is az emberiségre jellemző bölcsességgel és alkalmazkodóképességgel cselekedjenek.
Az év 2023 jelentős fejleményeket hozott a generatív MI technológiák, például a ChatGPT elfogadásával. A generatív MI azokra az MI rendszerekre utal, amelyek új tartalmakat képesek generálni a megszerzett adatokból tanulás után. Ezek az önmagukat tartalmazzójú szöveg, kép és zene generátorok képesek új tartalmakat létrehozni, amelyek gyakran nem különböztetthetők meg az emberi eredetű tartalomtól.
Kulcskérdések és válaszok:
1. Mi a generatív MI?
Generatív MI az azon mesterséges intelligencia, amely új, eredeti tartalmat képes létrehozni a meglévő adatokból tanult minták alapján.
2. Milyen kihívások kapcsolódnak a generatív MI-hez?
A kihívások közé tartozik az MI metakogníció hiánya, a félreinformáció terjedésének potenciálja, az etikai szempontok, mint pl. a részrehajlás és az AI által létrehozott tartalom megtévesztő módon történő felhasználása, valamint a kreativitáson alapuló munkákra támaszkodó munkahelyek gazdasági hatása.
3. Miért fontos az MI képtelensége az önvizsgálatra?
Az önvizsgálat és metakognitív képességek nélkül az MI nem tudja megítélni a tartalom, amit generál, megbízhatóságát vagy etikai vonzatait, ami a félreinformáció terjedéséhez és az MI képtelenségéhez vezethet, hogy kijavítsa magát.
Előnyök és hátrányok:
Előnyök:
– A generatív MI jelentősen növelheti a termelékenységet és hatékonyságot, automatizálva sok kreatív feladatot.
– Különböző szektorokban, az oktatástól a vevőszolgálatig, értékes támogatást tud biztosítani.
– A generatív MI segíthet az emberi kreativitásban, új lehetőségeket és perspektívákat kínálva.
Hátrányok:
– Az AI-ra való támaszkodás csökkentheti az emberi kritikai gondolkodási készségeket és átvezethet a technológiába való túlzott támaszkodásra.
– Az AI által generált tartalom hozzájárulhat a félreinformáció terjedéséhez, ha nem megfelelően felügyelik.
– A kreatív és egyéb területeken dolgozó szakemberek gazdasági elmozdulása potenciális kockázatot jelent.
Kulcskérdések:
A generatív MI jelentős kihívása az, hogy biztosítsa, hogy az AI etikus és méltányos legyen folyamataiban. Ehhez hozzá tartozik a képzési adatokban meglévő elfogultságok kezelése és olyan mechanizmusok létrehozása, amelyek megakadályozzák a deepfake-ek vagy hamis információk generálásra történő visszaélést. Ezen túlmenően szociális-gazdasági kihívást jelent a generatív AI által replikálható ágazatokban dolgozók elmozdítása, amely párbeszédre készteti a továbbképzésről és a munkavégzés jövőjéről.
Kontroverziák:
A generatív MI vitákat váltott ki az okirati jogok körül – különösen, hogy kié a MI által létrehozott tartalom, valamint a generatív AI-k által létrehozott művészet vagy szöveg etikai vonzatai kapcsán. Emellett aggodalmak merülnek fel a személyes információkat tartalmazó adatokon képzett modellekkel kapcsolatban is.
További olvasnivaló és információ a fő fejleményekről a Generatív MI területén megtalálhatók MI kutatásokat és technológiai híreket tartalmazó weboldalakon, például a MIT Technology Review és a Wired, amelyek gyakran beszámolnak az AI kutatások legújabb eredményeiről, áttöréseiről és következményeiről.
The source of the article is from the blog zaman.co.at