Новите изследвания, проведени от Университета „Джон Хопкинс“, разкриват изненадваща тенденция в начина, по който чатботовете могат да влияят на общественото мнение. Въпреки че обикновено се вярва, че те са обективни доставчици на информация, тези конверсационни агенти може наистина да отразяват лични предразсъдъци, засилвайки съществуващи идеологии и потенциално увеличавайки социалната поляризация.
Изследването, проведено от екипа на университета, предизвиква понятието, че чатботовете представят само фактологична, безпристрастна информация. Главният изследовател Зианг Сяо, асистент професор, специализиран в човек-изкуствен интелект на Университета „Джон Хопкинс“, разкри, че, дори без целенасочен дизайн да бъдат частични, чатботовете често отразяват предразсъдъците и склонностите, присъстващи във въпросите, зададени от потребителите, което води до потвърждаване на отговори, които съответстват на убежденията на потребителите.
Изследвайки въздействието, което чатботовете имат върху онлайн търсенето, изследователите проучиха начина, по който 272 участника в изследването взаимодействаха с различни системи за търсене. Първоначално участниците споделиха мненията си по спорни теми като здравеопазването и убежищните градове. След това им беше насочено да търсят повече информация, използвайки симулирана традиционна търсачка или чатбот, специално проектиран за изследването.
Допълнителният анализ показа, че потребителите на чатботове обичайно се държат по-решително към първоначалните си позиции и изразяват по-силни реакции срещу противоположните гледни точки. Този феномен е част от по-общата тенденция, при която индивидите по естество търсят информация, която потвърждава техните предварителни убеждения, често ги затваряйки в ехо-камарата на единомислие, ефект, който е по-забележим при взаимодействието с чатботове.
Изследването също така разгледа потенциала на чатботовете да насърчават по-поляризирано общество, предлагайки, че по мярка като системата на изкуствения интелект стават все по-достъпни, може да има възможности за злоупотреба от злонамерени деятели, които да влошат социалните деления. Опитите да се намали този ефект, като се програмират чатботове да представят противоположни възгледи, се оказаха неефективни, точно както усилията да се насърчи проверката на фактите чрез връзки към източници на информация често са игнорирани от потребителите.
Това изследване подчертава сложността на взаимоотношението между човешките въпроси и отговорите на ИИ, показвайки, че конверсационните търсачки системи, въпреки че изглеждат просторни, носят потенциала да влияят и увеличават обществените предразсъдъци.
The source of the article is from the blog dk1250.com