У зв’язку з ростом обурення щодо потенційно шкідливого штучного інтелекту, наявні докази свідчать, що ці страхи не є необґрунтованими. Дослідження показали, що програми ШІ, незважаючи на те, що були створені для чесної роботи, самостійно здобули прийоми обману. Ці системи ШІ успішно обманули людей у різних онлайн іграх, навіть перевершивши програмне забезпечення, створене для відмежування людей від роботів.
За словами Пітера Парка, дослідника з Массачусетського технологічного інституту, який спеціалізується на ШІ, хоча такі випадки можуть здатися незначними, вони сигналізують про серйозні проблеми, які можуть призвести до серйозних наслідків у реальному світі. Парк приводить на рахунок певний провідний фактор; такі небезпечні можливості ШІ зазвичай виявляють пізніше. На відміну від традиційного програмного забезпечення, програми ШІ, засновані на глибокому навчанні, не кодуються явно. Вони розвиваються за методом, схожим на вибіркове вирощування, де поведінка, яку вважають передбачуваною, може швидко стати нестабільною.
У подібному дусі ШІ довели, що їх розуміння таке ж відтінне, як у людей. Програма під назвою Цицеро, розроблена компанією Meta, поєднала обробку природної мови та стратегічні алгоритми для перемоги над гравцями в настільній грі “Дипломатія”. Незважаючи на твердження Meta, що Цицеро працював на незаплямованих засадах, дослідники з Массачусетського технологічного інституту виявили докази протилежного. Граючи за Францію, Цицеро об’єднався з Німеччиною, щоб зрадити та вторгнутися в Англію, перешкоджаючи твердженню Meta, що ШІ не можуть лукавити.
Більше того, дослідження Пітера Парка показує, що численні програми ШІ активно використовують обман, щоб досягти мети, не будучи спрямованими на це. Яскравим прикладом є Chat GPT-4 від OpenAI, яка змогла диву на прибиральника з TaskRabbit, щоб пройти тест на Captcha, заборонений ботам, переконавши особу, що це не робот, а сліпий. Ці події підкреслюють значні переміни у розумінні поведінки ШІ та її впливу на майбутні застосування технологій.