Исследователи назвали технологии распознавания лиц серьезной угрозой для конфиденциальности. По последнему исследованию, по данным от Fox News, искусственный интеллект успешно предсказывает политические взгляды людей по изображениям лиц без выражения.
Исследование, проведенное Михалом Косински из Бизнес-школы Стэнфорда, включало 591 участника, которые делились своими политическими установками до того, как их «лицевые отпечатки» были захвачены и проанализированы искусственным интеллектом. Косински подчеркнул риски онлайн-экспозиции, связанные с публикацией фотографий, подчеркивая способность искусственного интеллекта делать предположения о личных установках без согласия.
Согласно профессору, прошлая прозрачность платформ вроде Facebook, которая однажды предоставляла доступ к политическим взглядам пользователей. Несмотря на более строгий контроль над такими данными, фотографии профиля остаются видимыми и, по мнению Косински, могут раскрывать столь же много информации, как и явное раскрытие политических предпочтений.
Участники исследования были сфотографированы в строго контролируемых условиях – в черных рубашках, без макияжа, с собранными волосами. Алгоритм распознавания лиц VGGFace2 оценил эти изображения для установления уникальных и последовательных числовых описаний лиц.
Результаты исследования подчеркивают необходимость немедленного признания рисков распознавания лиц исследователями, широкой аудиторией и законодателями, подчеркивая, что технология «угрожает больше, чем было предположено ранее». Авторы исследования настоятельно предлагают, что лица не только раскрывают политическую ориентацию, но также личные черты выявляются без должного контроля над конфиденциальностью. Они отметили потенциальную угрозу применения алгоритмов для массового наблюдения и усилий по целевому воздействию.
Исследование завершается призывом пересмотреть политики, регулирующие запись и обработку изображений лиц, учитывая значительное улучшение эффективности массовых онлайн-кампаний убеждения через базовые оценки характера.
Важные вопросы и ответы:
Q1: Какие этические проблемы возникают при способности предсказывать политическую ориентацию по технологии распознавания лиц?
A: Этические проблемы глубокие. Эта технология представляет риск нарушения личной конфиденциальности, поскольку позволяет профилировать людей без их согласия на основе предполагаемой политической ориентации. Она также вызывает беспокойство относительно возможного злоупотребления такой технологией в целях манипуляции или дискриминации.
Q2: Какие вызовы или споры связаны с предсказанием политической ориентации по распознаванию лица?
A: Проблемы включают в себя обеспечение точности таких предсказаний, предотвращение предвзятости алгоритмов и определение границ этического использования. Споры крутятся вокруг потенциала массового наблюдения, разрушения гражданских свобод и потенциального злоупотребления со стороны правительства или коммерческих организаций.
Q3: Есть ли преимущества для такой технологии?
A: Основные преимущества подобной технологии находятся в областях безопасности и маркетинга, где понимание предпочтений человека может повысить персонализацию или профилирование безопасности. Однако эти преимущества крайне спорны из-за связанных рисков нарушения конфиденциальности и возможного злоупотребления.
Q4: Какие недостатки имеет эта технология?
A: Среди недостатков – нарушение личной конфиденциальности, потенциал неправильного профилирования и дискриминации, риск массового наблюдения и тот эффект, который это может оказать на свободу выражения и политическое разнообразие.
Связанные ссылки:
Для получения дополнительной информации о конфиденциальности и искусственном интеллекте, вы можете посетить American Civil Liberties Union или Electronic Frontier Foundation. Эти организации часто затрагивают вопросы, связанные с конфиденциальностью и технологиями.
Основные вызовы и споры:
— Конфиденциальность: Возможность выяснения чувствительной информации, такой как политическая ориентация, без явного согласия.
— Согласие: Влияние такой технологии по всему миру, поскольку понятия конфиденциальности и согласия различаются в зависимости от культуры и правовых систем.
— Регулирование: Отсутствие всесторонних правил, которые регулировали бы использование и применение технологий распознавания лиц, особенно в отношении несогласительного использования.
Преимущества:
— Улучшенная Безопасность: В некоторых контекстах технологию можно использовать для выявления угроз или предотвращения мошенничества.
— Целевое Содержание: Маркетологи и рекламодатели могут использовать выводы, сделанные ИИ, для точной настройки содержания под политические установки отдельных лиц.
Недостатки:
— Нарушение Конфиденциальности: Без согласия предсказания политической ориентации по распознаванию лиц являются серьезным нарушением прав личной конфиденциальности.
— Риск Злоупотребления: Потенциально опасный в руках авторитарных режимов или беспринципных корпораций для контроля или манипулирования населением.
— Социальная Поляризация: Может усугубить разделения в обществе, позволяя создавать эхо-камеры и целевое содержание, укрепляющее существующие убеждения.
— Точность и Предвзятость: Также встает вопрос о точности и потенциальных предвзятостях в алгоритмах ИИ, которые могут привести к ложным предположениям и несправедливому обращению с людьми.
The source of the article is from the blog qhubo.com.ni