המחקר החדש בראשות אוניברסיטת ג'ונס הופקינס חושף פניה מפתיעה בדרך שבה צ'אטבוטים עשויים להשפיע על דעות הציבור. גם אם נאמין שהם ספקי מידע נייטרליים, סוחפים אלה עשויים בעצם לשקף מוטיבים אישיים, לחזק אסכולות קיימות ולגרום לגידול בהתאפקות חברתית.
המחקר שביצעה צוות האוניברסיטה מעריך את הרעיון שהצ'אטבוטים מספקים מידע מבוסס עובדות ונייטרלי. חוקר המחקר, צ'יאנג צ'יאו, פרופסור מסייע המתמחה באינטראקציות אדם-בינה מלאכותית באוניברסיטת ג'ונס הופקינס, ניגף על המציאות שאפילו ללא כוונה להיות חלקי אוטומטי, צ'אטבוטים נוטים לשקף את העיוותים והנטיות הקיימים בשאלות שמועלות על-ידי המשתמשים, ומביאים לתגובות מאשרות שמתאימות לאמונותיהם של המשתמשים.
מחקר זה בדק את ההשפעה של צ'אטבוטים על התנהגות בחיפוש מקוון, ואנליזה את הדרך שבה 272 משתתפים במחקר זה פעלו עם שיטות חיפוש שונות. בתחילה, המשתתפים שיתפו את דעותיהם בנושאים סוחפים כמו בריאות וערי מקלט. לאחר מכן הועברו למצוא מידע נוסף באמצעות מנוע חיפוש טריוואלי מדומה או צ'אטבוט שיצורף למחקר.
הניתוח נוסף הראה כי משתמשים בצ'אטבוטים הסתמכו יותר על דעותיהם הראשוניות והצגו תגובות חזקות יותר נגד נקודות מבט נגדיות. תופעה זו היא חלק מטרנד רחב אשר בו אנשים מחפשים מידע שמאשר את האמונות הקיימות בהם, ולעיתים מסתובבים לתוך תא בו רוב דעות האנשים דומות זו לזו; מציאות שנמצאת להיות מובחנת יותר באינטראקציות עם צ'אטבוטים.
המחקר גם התייחס לפוטנציאל של צ'אטבוטים לקדם חברה מדורגת יותר, והציע כי ככל שמערכות בינה מלאכותית מפנות באופן גובר לעצמן ייתכן שישנם הזדמנויות להשפיע עליהן באופן שמאפשר למעשים זדוניים לגרום לגידול הפערים בחברה. הניסיון להפחת את המופע למזימונים על ידי תכנות צ'אטבוטים להציג נקודות מבט נגדיות נמצא כאילו לא היה יעיל, וכמו גם מאמצים לעודד בדיקת עובדות דרך קישורים למקורות מידע נהוגים להתעלמות מהמשתמשים.
המחקר הזה מבהיר את הריכוז בין השאלה האדם והתגובה של המערכות של בינה מלאכותית בקדרת סיטונאות, מורה כי מערכות חיפוש שיחת כמו כן, גם אם נראו בצורה פשוטה, בעלות פוטנציאל להשפיע ולהגדיל את המוטיבים החברתיים.