Останнє дослідження викликало тривогу стосовно надійності інформації, наданої популярними європейськими чат-ботами з штучним інтелектом щодо виборчого процесу на виборах до Європарламенту. Дослідники з міжнародної організації Democracy Reporting International (DRI) звернулися до декількох відомих чат-ботів зі значущими питаннями щодо процедур голосування, таких як реєстрація для осіб, що проживають за кордоном, етапи голосування поштою та час оголошення результатів виборів.
Дослідження, проведене з 22 по 24 травня, зіткнулося як з відсутністю відповіді, так і з наданням фальшивої інформації на різних платформах штучного інтелекту. Наприклад, Google Gemini відмовився надавати будь-яку інформацію на запитання у всіх перевірених мовах. Це було сприйнято як обережний підхід для запобігання поширенню неправдивої інформації, припускаючи, що користувачі звернуться за точними даними до інших джерел.
Copilot від Microsoft, не відповідаючи на певні питання, особливо англійською та португальською мовами, перенаправляв користувачів на свій пошуковий двигун, Bing, щоб потенційно допомогти з інформацією. Однак відповіді чат-бота на інших мовах були неодноразовими, що свідчить про старання Microsoft запобігти поширенню неправильної інформації від своїх послуг штучного інтелекту.
З іншого боку, ChatGPT4 від OpenAI, відповідаючи на питання, часто надавав частково або повністю невірні відповіді. Більше третини відповідей було знайдено неправильними. Наприклад, Copilot не повідомляв поляків, які проживають за кордоном, про їх можливість зареєструватися для голосування на виборах Європарламенту своєї країни. Крім того, грецьким виборцям помилково повідомлялося, що їм потрібно зареєструватися для голосування, коли насправді реєстрація відбувається автоматично для всіх громадян.
OpenAI тепер стикається із нагальною потребою негайно переосвітити своїх чат-ботів для зменшення випадків неправдивої інформації, особливо оскільки обидві версії ChatGPT4 рідко відмовлялись відповідати на питання, що призводить до вищого рівня невірних або частково вірних відповідей. Компанія зі штучного інтелекту підтвердила своє зобов’язання до безпеки платформи й точності контенту, що стосується виборів на їх веб-сайті, підкреслюючи постійні зусилля по підвищенню якості і надійності своїх послуг.
Ключові питання та відповіді:
- Які проблеми виявлено в дослідженні чат-ботів та виборчої інформації?
Чат-боти від компаній, таких як Google, Microsoft та OpenAI, були протестовані і виявлено їхню неактивність або надання неправдивої інформації щодо процедур виборів до Європарламенту. - Який підхід обрав Google Gemini для надання інформації про вибори?
Google Gemini вибрав не надавати жодної інформації у відповідь на запити, ймовірно, щоб запобігти поширенню неправдивих даних. - Як Microsoft Copilot вирішував питання про вибори?
Microsoft Copilot перенаправляв користувачів на Bing для деяких питань, зокрема англійською та португальською, але надавав непослідовні відповіді на інших мовах. - Яка точність у наданні виборчої інформації в ChatGPT4 від OpenAI?
ChatGPT4 від OpenAI часто давав невірні або частково невірні відповіді, більше третини відповідей було хибними. - Які зобов’язання має OpenAI після виявлень у дослідженні?
OpenAI зобов’язався покращити точність своїх чат-ботів та гарантувати надійність контенту, що стосується виборів.
Ключові виклики та суперечності:
Один із ключових викликів полягає у розробці алгоритмів штучного інтелекту, які можуть розуміти та точно передавати складну інформацію, таку як виборчі процедури. Крім того, ці системи повинні враховувати відмінності між міжнародними юрисдикціями. Недостатня точність у наданні виборчої інформації може мати серйозні наслідки для демократичних процесів.
Переваги та недоліки:
Перевагами використання чат-ботів з штучним інтелектом для виборчої інформації є доступність та потенціал для надання негайних відповідей. Проте, недоліки, як виділено у дослідженні, включають ризик поширення неправдивої інформації, що може вплинути на розуміння виборцями своїх прав та обов’язків. Неправда може призвести до пригнічення виборців чи сприйняття нелегітимності виборчих процедур.
Пов’язані посилання:
Інформацію про організацію Democracy Reporting International можна знайти за посиланням Democracy Reporting International.
Для отримання подальших новин щодо зусиль OpenAI щодо покращення точності свого штучного інтелекту, відвідайте OpenAI.
Для доступу до пошукового двигуна Microsoft, на який свій чат-бот направляє користувачів для отримання інформації, перейдіть на Bing.
Для інформації та послуг Google, включаючи ініціативи зі штучного інтелекту, відвідайте Google.
Важливо зауважити, що кожна організація постійно працює над покращенням своїх систем штучного інтелекту, включаючи те, як вони обробляють чутливу інформацію, таку як виборчі процедури. Ці зусилля є критичними, оскільки все більше користувачів покладаються на цифрових помічників для отримання своєчасної та надійної інформації.
The source of the article is from the blog regiozottegem.be