Google недавно объявил о введении новых ограничений для своего искусственного интеллекта Gemini, чтобы предотвратить предоставление определенных ответов на вопросы, связанные с выборами. Это решение технологического гиганта является частью его обязательства принимать ответственный подход к продуктам генеративного искусственного интеллекта.
В своем блоге Google заявил: «В силу избыточной осторожности по такой важной теме мы начали внедрять ограничения по типам запросов, связанных с выборами, для которых Gemini будет предоставлять ответы. Мы серьезно относимся к ответственности за предоставление качественной информации для этих типов запросов и продолжаем работать над улучшением наших механизмов защиты.»
Поскольку 2024 год ожидается значимым для выборов по всему миру, с участием более чем 4 миллиардов человек из 50 стран, доступность генеративного ИИ является беспрецедентной. Однако эксперты выразили опасения по поводу возможности генеративного ИИ вводить избирателей в заблуждение путем создания убедительной дезинформации, такой как поддельный текст, deepfake изображения и видеоролики.
Недавнее исследование, проведенное OnePoll, показало, что контент, созданный с использованием ИИ, оказался одним из главных беспокойств как для демократов, так и для республиканцев перед предстоящими выборами в США. Опрос, заказанный компанией по безопасности Yubico и некоммерческой организацией Defending Digital Campaigns, показал, что 42% демократов и 49% республиканцев считают, что использование ИИ негативно повлияет на исход выборов.
Дэвид Триз, вице-президент по архитектуре решений в Yubico, отметил: «Нас поразило, что более 78% опрошенных беспокоятся по поводу использования контента, созданного с помощью ИИ, для подражания политическому кандидату или создания фальшивого контента, при этом 79% демократов и 80% республиканцев разделяют эти опасения. Еще более важно то, что они считают, что ИИ окажет негативное влияние на исход выборов в этом году.»
Шаг Google по введению ограничений для своего ИИ-инструмента в отношении запросов, связанных с выборами, следует по стопам других компаний, таких как OpenAI, создатель ChatGPT. Еще в начале этого года OpenAI обозначил свой план предотвращения злоупотребления своей технологией. Компания сформировала команды из инженеров, юристов, политиков, специалистов по безопасности и интеллектуальным угрозам с целью исследования и решения потенциального злоупотребления своими инструментами ChatGPT и Dall-E.
«Подготавливаясь к выборам 2024 года в крупнейших демократиях мира, наш подход заключается в продолжении работы по обеспечению безопасности платформы путем повышения точности информации о голосовании, соблюдения корректных политик и увеличения прозрачности,» — гласил блог OpenAI в январе. «Как и любая новая технология, эти инструменты приносят пользу и вызовы. Они также уникальны, и мы будем продолжать совершенствовать наш подход по мере приобретения большего опыта в использовании наших инструментов.»
Наложение ограничений на продукты с ИИ компаниями, такими как Google и OpenAI, подчеркивает важность ответственной разработки и использования ИИ. Пока ИИ продолжает развиваться, важно находить правильный баланс между использованием его преимуществ и решением вызовов и потенциальных рисков, связанных с его применением.
Часто задаваемые вопросы
Q: Какие новые ограничения вводит Google для своего ИИ-инструмента Gemini?
A: Google вводит новые ограничения для своего ИИ-инструмента Gemini, чтобы предотвратить предоставление определенных ответов на вопросы, связанные с выборами.
Q: Почему Google вводит эти ограничения?
A: Это решение является частью обязательства Google принимать ответственный подход к продуктам генеративного искусственного интеллекта и предоставлять качественную информацию для запросов, связанных с выборами.
Q: Какие опасения высказали эксперты относительно генеративного ИИ и выборов?
A: Эксперты выразили опасения по поводу возможности генеративного ИИ вводить избирателей в заблуждение путем создания убедительной дезинформации, такой как поддельный текст, deepfake изображения и видеоролики.
Q: Какой процент демократов и республиканцев беспокоится о влиянии контента, созданного с использованием ИИ, на результаты выборов?
A: Согласно недавнему опросу, 42% демократов и 49% республиканцев считают, что использование ИИ негативно повлияет на исход выборов.
Q: Какие шаги предприняла OpenAI для предотвращения злоупотребления своей технологией?
A: OpenAI сформировала команды из инженеров, юристов, политиков, специалистов по безопасности и интеллектуальным угрозам для исследования и решения потенциального злоупотребления своими инструментами ChatGPT и Dall-E.
Ключевые термины
— Gemini: Искусственный интеллект (ИИ) от Google.
— Генеративный ИИ: Технология ИИ, способная генерировать контент, такой как текст, изображения или видеоролики.
— Дезинформация: Ложная или вводящая в заблуждение информация, предназначенная для обмана или манипуляций.
Ссылки по теме
— OpenAI: Официальный веб-сайт OpenAI.
— Google Blog: Официальный блог Google.
The source of the article is from the blog combopop.com.br