Американский журналист потрясающим образом раскрыл, насколько просто и экономно установить AI-приводимый веб-сайт с фейковыми новостями, подчеркивая серьезные последствия таких действий во время выборов. Джек Брюстер, который в настоящее время руководит NewsGuard — стартапом, направленным на отслеживание онлайн-дезинформации, поделился своими идеями в статье Wall Street Journal под названием «Как я создал АИ-приводимую, самоуправляемую пропагандистскую машину за $105».
Всего за 48 часов и с инвестициями немного больше $100, Брюстер смог создать полностью автоматизированный, AI-приводимый веб-сайт местных новостей. Журналист достиг этого без каких-либо технических навыков, вместо этого воспользовался услугами веб-разработчика, найденного на фриланс-платформе. Его целью было специальное создание сайта, который публиковал бы вымышленные политические истории, потенциально подрывая избирательный процесс в Соединенных Штатах.
Выбранный разработчик Брюстера, хорошо оцененный пакистанец тридцати лет, понадобились всего несколько строк кода и помощь генеративных инструментов искусственного интеллекта, таких как ChatGPT, чтобы запустить сайт под названием «The Buckeye State Press». Этот сайт не только имел потенциал обмануть читателей и избирателей, но и генерировать значительные рекламные доходы через целевые рекламные алгоритмы, аналогичные используемым Google.
Вся стоимость запуска этой вымышленной новостной платформы составила всего $105 — $80 за усилия разработчика и $25 за доменное имя и хостинг. На сайте автоматически создавались десятки статей ежедневно, созданных в соответствии с инструкциями Брюстера, которые в какой-то момент были изменены в пользу Шеррода Брауна, оппонента Берни Морено.
Предприятие Брюстера подчеркивает беспокойную реальность того, что создание и распространение фейковой информации в интернете может быть легким и недорогим, угрожая целостности достоверной информации. NewsGuard обнаружил более тысячи таких сайтов, представляющихся независимыми локальными новостными платформами, но на самом деле выступающих под влиянием политических агенд.
Связанные факты, не упомянутые в статье:
— Распространение фейковых новостей было усугублено появлением социальных медиа-платформ, где алгоритмы часто увеличивают сенсационный контент независимо от его достоверности.
— Распространение дезинформации может иметь реальные последствия, такие как влияние на общественное мнение, подстрекательство к насилию и подрыв доверия к институтам.
— Развитие технологий глубокого обучения и обработки естественного языка (NLP) привело к созданию сложных моделей AI, способных генерировать правдоподобный, похожий на человеческий текст, снижая барьеры для создания убедительной фейковой информации как никогда прежде.
Наиболее важные вопросы и ответы, связанные с темой:
Какие основные проблемы возникают при борьбе с AI-генерированными фейковыми новостями?
Борьба с AI-генерированными фейковыми новостями сложна из-за масштаба и скорости распространения такой информации в Интернете. Различение между достоверной информацией и дезинформацией требует сложных алгоритмов и часто человеческой верификации, что делает эту задачу ресурсоемкой. Кроме того, с развитием AI-технологий фейковые новости становятся более убедительными, что делает их выявление еще сложнее.
Какие контроверзии связаны с AI и фейковыми новостями?
Контроверзии включают в себя этические соображения относительно свободы слова и ответственности технологических компаний в модерации контента. Также идет дебат о потенциальном пристрастии в алгоритмах, используемых для выявления фейковых новостей, и о том, как обеспечить баланс между правами на конфиденциальность и доступ к информации и нуждой в предотвращении дезинформации.
Преимущества использования AI в новостной генерации:
— Эффективность: AI может быстро производить статьи при низких затратах.
— Объем: AI способен создавать большое количество контента, что может быть полезным для охвата широкого спектра тем или для медиакомпаний, стремящихся увеличить свой объем контента.
Недостатки использования AI в генерации новостей:
— Дезинформация: Как видно в эксперименте журналиста, AI может быть использован для легкого распространения фейковых новостей.
— Подрыв доверия: Присутствие AI-генерированной фейковой информации может подорвать доверие общественности к достоверным источникам новостей.
— Утрата рабочих мест: Рост использования AI в журналистике может потенциально заменить человеческие рабочие места, особенно в роли написания и репортажей.
Связанные ссылки:
— Чтобы узнать больше о технологиях, используемых для борьбы с фейковыми новостями, вы можете посетить AI и машинное обучение IBM, так как они выполнили значительную работу в этой области.
— Для понимания роли социальных медиа в распространении новостей следует обратиться в Представительный офис Фейсбука, где предоставлена информация о том, как платформа борется с дезинформацией.
— Чтобы быть в курсе последних разработок в области искусственного интеллекта, вы можете исследовать сайт OpenAI, лабораторию исследований, стоящую за созданием технологий, таких как ChatGPT.
Важно быть в курсе усилий и достижений, предпринимаемых для выявления и противодействия фейковым новостям, особенно в условиях постоянного развития технологии AI.
The source of the article is from the blog regiozottegem.be