Стартап по искусственному интеллекту ElevenLabs предпринял необходимые меры, чтобы заблокировать пользователя, который создал голосовой deepfake Джо Байдена в попытке нарушить выборы, сообщает Bloomberg. Deepfake, имитирующий президента, был использован в автоматическом звонке, в котором призывалось избирателей Нью-Гэмпшира не участвовать в первичных выборах их штата. Изначально не было ясно, какая технология имитировала голос Байдена, но компания по безопасности под названием Pindrop провела тщательный анализ и успешно определила, что были использованы инструменты ElevenLabs.
Вместо использования прямых цитат из оригинальной статьи можно объяснить, что Pindrop удалила фоновый шум и улучшила звук автоматического звонка, прежде чем сравнивать его с образцами из множества технологий синтеза речи, связанных с deepfake. Генеральный директор Pindrop, Виджай Баласубраманиан, заявил, что анализ подтвердил использование инструментов ElevenLabs с уверенностью более 99 процентов. Bloomberg добавляет, что компания в настоящее время проводит расследование после получения результатов Pindrop, но уже идентифицировала и приостановила ответственный аккаунт.
Инцидент с deepfake-звонком Байдена подчеркивает потенциальное влияние технологий, способных имитировать голос и внешность человека, особенно в отношении манипуляции голосов в предстоящих президентских выборах США. Кэтлин Карли, профессор Карнеги Меллонского университета, выразила свою обеспокоенность по этому поводу журналу The Hill, заявив, что это является указанием на то, что следует ожидать в ближайшие месяцы в отношении подавления избирателей и нападений на избирательные участки.
Интересно, что всего через несколько дней после запуска бета-версии своей платформы ElevenLabs уже были эксплуатированы людьми, чтобы создать аудиофрагменты, имитирующие знаменитостей, произносящих сомнительные вещи. В то время как стартап поддерживает использование своей технологии для художественной и политической речи, способствующей публичным дебатам, он предупреждает пользователей об участии в злоупотреблениях, нарушающих закон, таких как мошенничество, дискриминация или высказывания ненависти. Тем не менее, этот инцидент подчеркивает необходимость для ElevenLabs внедрить дополнительные меры безопасности, чтобы предотвратить злоумышленников от манипуляции выборами по всему миру.
Обратите внимание, что в этой статье могут содержаться партнерские ссылки. Если вы нажмете на такую ссылку и совершите покупку, мы можем получить комиссию.
Часто задаваемые вопросы:
1. Что такое ElevenLabs?
ElevenLabs — это стартап по искусственному интеллекту, который разработал инструменты для технологии синтеза речи.
2. Почему ElevenLabs заблокировал пользователя?
ElevenLabs заблокировал пользователя, который создал голосовой deepfake Джо Байдена в попытке нарушить выборы.
3. Как использовался deepfake Джо Байдена?
Deepfake использовался в автоматическом звонке, в котором призывалось избирателей Нью-Гэмпшира не участвовать в первичных выборах их штата.
4. Как было определено, что использовались инструменты ElevenLabs?
Компания по безопасности Pindrop провела тщательный анализ и подтвердила использование инструментов ElevenLabs с уверенностью более 99 процентов.
5. Какие опасения связаны с технологией deepfake и выборами?
Инцидент с deepfake-звонком Байдена подчеркивает потенциальное влияние технологий, способных имитировать голос и внешность человека, на подавление избирателей и нападения на избирательные участки.
6. Как быстро люди начали использовать технологию ElevenLabs после ее запуска?
Всего через несколько дней после запуска бета-версии платформы ElevenLabs люди начали использовать технологию, чтобы создавать аудиофрагменты, имитирующие знаменитостей, произносящих сомнительные вещи.
7. Какие типы использования поддерживает ElevenLabs для своей технологии?
ElevenLabs поддерживает использование своей технологии для художественной и политической речи, способствующей публичным дебатам.
8. Какие типы использования запрещены для ElevenLabs?
ElevenLabs предупреждает пользователей об участии в злоупотреблениях, нарушающих закон, таких как мошенничество, дискриминация или высказывания ненависти.
Определения:
— Deepfake: Использование искусственного интеллекта для создания или манипуляции звуком, видео или другими медиа, таким образом, чтобы обмануть зрителя или слушателя и заставить его поверить, что фальсифицированный контент является подлинным.
— Автоматический звонок: Автоматический телефонный звонок, в котором передается предварительно записанное сообщение большому числу людей.
Предлагаемые связанные ссылки:
— Веб-сайт ElevenLabs
— Веб-сайт Pindrop
— Карнеги Меллонский университет
The source of the article is from the blog bitperfect.pe