Демократія стикається з вибагливою загрозою, оскільки інтелектуальні штучні техніки, зокрема ті, що здатні генерувати переконливі людські тексти, зображення та відео, все частіше використовуються на виборах і в громадському дискурсі. Оскільки світ готується до року, в якому більш як 40% світового населення висловить свої голоси, у чиновників уряду тихо наростають обурення через видимо непомітну загрозу ШІ.
У протилежність вражаючо несподіваним відсутня подія хаосу, започаткованого ШІ, на останніх виборах в Індонезії та Пакистані, спостерігається зростання визнання потенціалу технології для більш витонченого втручання. Страхи ще не перетворились на власні виявні впливи, але приклади, як генеративні ШІ-інструменти, що масово виробляють трохи варіювані повідомлення, роблять їх важчими до виявлення, подібно до високотехнічної версії переконливих кампаній, які турбували соціальні мережі у минулому.
Тонка самобурхливість ШІ-генерованої дезінформації полягає в її різноманітності, як зазначено Джошем Лоусоном, колишнім менеджером ризиків в Meta Platforms Inc., який зараз консультує щодо стратегій у соціальних мережах. Хоча більшість дискусій про ШІ зосереджується на діпфейках та візуальних елементах, Лоусон підкреслює, що кампанії дезінформації на основі тексту можуть бути значно масштабованішими й складнішими для відстеження.
WhatsApp Meta може сприяти таким операціям за допомогою функцій, таких як «Канали», які можуть передавати повідомлення великій аудиторії. Це навіть дозволяє менш розвиненим акторам поширювати дезінформацію, наприклад, хибно інформувати громади про умови на виборчих дільницях з метою стримування явки виборців.
Ширший вплив на суспільство також охоплює звичайних громадян, понад половина американців і чверть громадян Великої Британії вже експериментують з такими ШІ-інструментами. Ця демократизація технологій означає, що звичайні особи можуть ненавмисно стати векторами дезінформації.
У спробах боротьби з цими викликами Meta почала міткувати ШІ-генерований вміст на Facebook та Instagram, хоча така стратегія ризикує створенням хибного почуття безпеки, де неміткнений вміст припускають правдивим.
Крім того, месенджерські платформи, такі як WhatsApp, можуть стати ключовими полями битви для ШІ-викликаної дезінформації, як це було під час виборів в Бразилії 2018 року. Виразні політики щодо вмісту можуть надати компаніям, таким як Meta, можливість активно боротися з використанням ШІ в виборчій втручанні, на кшталт специфічних політик, що діють для Facebook та Instagram у справах маніпулювання виборців.
Поки лінія між синтетичним шумом та значущим сигналом стирається, технологічні компанії та чиновники повинні залишатися на сторожі. Відсутність очевидних розладів в ШІ на виборах не вказує на безпеку; натомість це підкреслює важливість готовності перед невидимим, але сильним супротивником.
The source of the article is from the blog macholevante.com