Roman RemberAz Egyesült Államok Massachussettsi Műszaki Egyeteme (MIT) kutatóinak forradalmian új kezdeményezése rávilágított az áltudományok átformálásában betöltött mesterséges intelligencia erőteljes hatására. A chatbotokkal folytatott beszélgetések résztvevői esetlegesen szignifikáns csökkenést tapasztalhatnak áltudományos elméletekben való hittel kapcsolatban.
A tanulmányban 2,190 résztvevő vett részt, akik mindegyike különböző megalapozatlan narratívákhoz tartotta magát. 20%-os csökkenést tapasztaltak ezeknek az elméleteknek a hittel kapcsolatban az AI által közvetített beszélgetések után. A hatás mérésére a résztvevők eredetileg rangsorolták önbizalmukat az adott áltudományos elméletben. Ezután interakcióba léptek egy MI rendszerrel – konkrétan a GPT-4 Turboval -, legfeljebb három érvet cserélve.
Az MI a tényekre alapozott, közvetlen megközelítést alkalmazott, 83%-ban adott bizonyítékokon alapuló ellenérveket a hozzájuk fűzött viták alkalmával. Az emberi érzelmek hiánya nyugodt beszélgetési környezetet eredményezett, az alternatív nézőpontok nyitottabb megfontolására ösztönözve.
Az eredmények nemcsak azt mutatták, hogy csökkent a megvitatott áltudományos elméletbe vetett hit, hanem más, ehhez nem kapcsolódó áltudományos meggyőződésekben is. Különlegességét a helyzet a közölt információk szerint legalább két hónapon át tartó változása adta, ami arra utal, hogy a MI-val való interakció után a nézetváltozást véglegesnek tekinthetjük.
Az MIT kutatói hangsúlyozták, hogy a korábbi kísérletek a visszautasításra szánt áltudományos elméletekkel szemben gyakran sikertelenek voltak, mivel általánosító megközelítést alkalmaztak a tények bemutatására. Az MI általi részletes, célzott elemzés azonban hatékonyabbá teszi a résztvevők érzékeléseinek befolyásolását.
Ez az eljárás alapvető változást is jelezhet abban, hogyan befolyásolják az elméleteket, különösen azoknál, akik hajlamosak az áltudományos elméletekre, ezáltal egy alaprajzot kínálva a kritikai gondolkodás és a tényeken alapuló érvelés elősegítésére.
Jelenlegi piaci trendek:
Az online tartalom moderálásában és az elméletek befolyásolásában történő mesterséges intelligencia használata rendkívül fontossá válik. Egyre növekvő tendencia mutatkozik abban, hogy az MI eszközöket nemcsak a káros tartalmak jelzésére és eltávolítására használják, hanem a felhasználói magatartás és hiedelmek pozitív befolyásolására is. Az MI által hajtott beszélgetési ügynököket különböző platformokon alkalmazzák, hogy konstruktív párbeszédet folytassanak a felhasználókkal, a téves információk kezelésével és a kritikai gondolkodás elősegítésével.
Előrejelzések:
Az MI beavatkozása az információs hibák elleni küzdelemben és az elméletek átalakításában a következő években jelentős növekedést fog mutatni. Ahogy a természetes nyelvfeldolgozás és más MI technológiák egyre kifinomultabbá válnak, ezeket a rendszereket akár az oktatási környezetekben, internetes platformokon és akár a személyes digitális segítőkben is mindennaposan fellelhetjük. Ezenkívül a kormányok és a civil szervezetek valószínűleg szélesebb körben alkalmaznak majd ilyen technológiákat a téves információkból eredő társadalmi problémák elleni küzdelemben.
Kihívások vagy viták:
Azok a kihívások kapcsolódnak az MI-re való támaszkodáshoz, ami meggyőződésrendszerek megváltoztatásához, beleértve az etikai szempontokat a manipuláció és az önrendelkezés vonatkozásában. Az aggodalmak a transzparenciával kapcsolatosak, amikor az algoritmusok befolyásolják az egyéni hiedelmeket, függetlenül attól, hogy az szándékolt vagy sem. Továbbá fennáll az a veszély, hogy az MI szándékosan vagy véletlenül megerősítheti bizonyos narratívákat vagy elfogultságokat, ha nem megfelelően tervezik és figyelik.
Fontos kérdések:
1. Hogyan biztosítja az MI a pontos és elfogulatlan ellenérvek nyújtását az áltudományos elméletekkel szemben?
2. Az MI befolyása az egyéni hiedelemrendszerekre etikailag indokolt, és hol húzódik a határ?
3. Képesek maradni ezek az MI eszközök pártatlanok, vagy fennáll a veszélye, hogy megragadják azokat, akik bizonyos célokat kívánnak elérni?
4. Milyen intézkedések vannak annak érdekében, hogy védelmet nyújtsanak a felhasználók magánéletének ezekben az MI által mediált beszélgetésekben?
Előnyök:
– Az MI személyre szabott, bizonyítékokon alapuló ellenérveket tud szolgáltatni nagy méretben, amivel egy nagyszámú közönséghez juthatnak el.
– Az MI semleges hangja és a tényeken alapuló megközelítése elősegítheti a racionalitást és nyugodt párbeszédet.
– Állandó és fáradhatatlan módja lehet a téves információk elleni fellépésnek, szemben az emberi moderátorokkal, akik kiégést tapasztalhatnak.
– A hosszú távú hitváltozás általaz egészségesebb információs rendszerekhez és átgondoltabb döntéshozatalhoz vezethet a nyilvánosság körében.
Hátrányok:
– Az eljárást manipulatívnak tekinthetik, ami hatással lehet az egyének önállóságára a saját meggyőződéseik kialakításában.
– Fennáll a veszélye annak, hogy az MI rendszerek véletlenül vagy szándékosan saját elfogultságukat vagy adatokból eredő hibáikat erősítik meg.
– Az MI-re való túlzott támaszkodás alááshatja az emberi ítélőképesség és a személyes kutatás fontosságát.
– Adatvédelmi aggályok merülhetnek fel a beszélgetési adatok tárolása és elemzése kapcsán.
További információkért látogasd meg az Massachusetts Institute of Technology főoldalát, ahol szélesebb kontextust kaphatsz erről a kutatási területről: MIT. Kérlek ellenőrizd az összes URL-t közvetlenül, mivel azoknak 100%-ban pontosnak és relevánsnak kell lenniük.
