Стикаючись зростаючою загрозою дезiнформацiї, яку поширює штучний інтелект, Google терміново оновив свою платформу згенерованого штучним інтелектом контенту, AI Overviews, минулої п’ятниці. Користувачі повідомили про отримання дивних, а навіть потенційно небезпечних відповідей на свої запитання, що викликало швидкі дії від монстрів технологій. За заявою компанії, заходи були вжиті, як тільки виявилися проблеми, що порушували правила, які визначені політикою щодо контенту.
Помилкові Відповіді Штучного Інтелекту Змусили Google Діяти Швидко
Після того, як користувачі почали помічати дивні відповіді на свої запитання, штучний інтелект AI Overviews Google став об’єктом уваги. Наприклад, на запитання про кількість мусульманських президентів у Сполучених Штатах, AI Overviews неправильно запропонував, що Барак Обама може бути вважаний першим мусульманським президентом. Google швидко видалив цю хибну інформацію, підтвердивши, що вона порушила їх регламентацію контенту.
Ще один користувач поділився незвичайною рекомендацією від AI Overviews. Відповідаючи на запитання про те, як запобігти тому, аби сир не прилип до піци, AI запропонував використовувати “нетоксичний клей”, яка, схоже, виникла зі старого посту на Reddit. Також, AI Overviews помилилася, використовуючи жартівливу заяву The Onion, яка стверджувала, що ЦРУ призналося у використанні чорних маркерів для затемнення тексту в документах.
Google серйозно віднісся до цих випадків, використовуючи їх для поліпшення точності системи. Деякі покращення вже внесені. Запущений наприкінці травня, AI Overviews має на меті надавати письмові відповіді на пошуки, змінюючи традиційні результати на основі посилань. Наразі, хоча гіперпосилання ще доступні, вони розміщені під контентом, який був написаний AI і може повністю задовольнити запити користувачів.
Виклики та Контроверсії в Згенерованому Штучним Інтелектом Контенті
Один з важливих викликів з платформами такого контенту, як AI Overviews Google, полягає в управлінні та профілактиці дезінформації. Помилкові алгоритми машинного навчання навчаються на великих наборах даних з Інтернету, і вони можуть ненавмисно поширювати неточності або упередженості, знайдені у цих джерелах даних. Забезпечення надійності таких систем є основною проблемою для розробників, користувачів та зацікавлених сторін.
Існує також потенціал для використання шкідливими суб’єктами штучного інтелекту. Дезінформація та дезінформація є серйозними загрозами в цифровій епохі, особливо коли штучний інтелект може створювати переконливий, але хибний контент великими масштабами. Google, серед інших, повинен постійно оновлювати алгоритми та контрольні заходи для боротьби з цими загрозами.
Ключові Питання та Відповіді
П: Які кроки предприйняла Google у відповідь на дезінформацію з AI Overviews?
В: Google оновив свій алгоритм AI Overviews, щоб видаляти неточні відповіді та продовжує удосконалювати свою систему для підвищення точності і відповідності до правил контенту.
П: Як виникає дезінформація в згенерованому AI контенті?
В: Дезінформація може виникати через те, що системи AI навчаються на неточних або упереджених наборах даних, або через те, що AI неправильно тлумачить легітимні дані.
Переваги та Недоліки Згенерованих AI Оглядів
Переваги:
– AI Overviews може потенційно забезпечити швидші, більш точні узагальнення складної інформації.
– Система може покращити ефективність пошуку, давши користувачам інформацію, яку вони потребують, не змушуючи їх клікати кілька посилань.
– Використовуючи машинне навчання, Google може постійно розвивати платформу, щоб вона покращувалася з часом, адаптуючись до нових даних та зворотного зв’язку користувачів.
Недоліки:
– Система схильна до помилок і може уповільнювати дезінформацію, якщо її не вчасно відстежувати та виправляти.
– Це може зменшити трафік на зовнішні веб-сайти, що може пошкодити аудиторію і доходи від реклами видавців.
– Існує ризик надмірної покладання на AI, що може привести користувачів до прийняття інформації, яку вони створили AI, без критичного мислення чи перевірки.
Забезпечення валідності вмісту онлайн – постійне завдання для пошукових систем, таких як Google, які повинні забалансувати корисність AI-інструментів з ризиками поширення дезінформації. Для отримання додаткової інформації про ширші зусилля та можливості Google, ви можете відвідати головний домен Google за посиланням Google.
The source of the article is from the blog zaman.co.at