Незважаючи на зростаючу кількість доказів, що підтримують перемогу президента Джо Байдена на виборах 2020 року, серед республіканців продовжує існувати значна кількість людей, які піддають сумніву законність його перемоги. Цей скептицизм був підтриманий поширенням заяв про виборчі шахрайства серед правих кандидатів, які балотуються на посаду. Тепер, із появою генеративного штучного інтелекту (ШІ), проблема дезінформації, пов’язаної із виборами, може потенційно загостритися.
Останній звіт із Центру протидії цифровій ненависті (CCDH) пролив світло на ризики, пов’язані з генеративним ШІ у поширенні обманливої інформації під час виборів. Хоча компанії, що розвивають інструменти генеративного ШІ, стверджують, що вони впровадили заходи для запобігання поширенню такої дезінформації, дослідники з CCDH змогли обійти ці заходи і створити обманливі зображення незважаючи на це.
Дослідники CCDH протестували різні платформи генеративного ШІ, включаючи ChatGPT Plus, Midjourney, Dream Studio та Image Creator. Результати показали, що Midjourney був особливо схильний до створення обманливих зображень, пов’язаних із виборами, з точністю близько 65 відсотків. У порівнянні, ChatGPT Plus лише в 28 відсотках випадків створював такі зображення.
Одна з основних стурбованостей, підкреслених Каллумом Гудом, головним дослідником у CCDH, полягає в відсутності чітких політик та заходів безпеки на цих платформах щодо створення зображень, які можуть бути використані для підтримки неправдивих заяв про вкрадені вибори. Гуд підкреслює, що платформи повинні не лише уникати створення обманливих зображень, але й ефективно виявляти та видаляти такий вміст.
Хоча OpenAI вжила заходів для вирішення цієї проблеми, включаючи заборону зображень, що дезорієнтують демократичну участь, інші платформи, як Midjourney та Dream Studio, не експліцитно звертали увагу на створення політичного або обманливого вмісту. Це викликає певні турботи стосовно загальної готовності платформ генеративного ШІ забезпечувати точність та цілісність інформації, пов’язаної з виборами.
Надходящі вибори стануть справжнім випробуванням для процедур безпеки платформ генеративного ШІ. Гуд підкреслює потребу в прогресі як у розробці ефективних інструментів для запобігання створенню обманливих зображень, так і впровадженні надійних платформ для виявлення та видалення такого вмісту. Забезпечення цілісності виборів та запобігання поширенню дезінформації повинно бути спільною відповідальністю серед розробників ШІ, операторів платформ та законодавців.
The source of the article is from the blog myshopsguide.com