Apple принимает меры против недопустимых приложений на основе искусственного интеллекта
Недавно стало известно, что некоторые приложения, раскручивавшиеся через рекламу в Instagram, использовали искусственный интеллект для создания откровенных фейковых изображений. Эти объявления заявляли о способности «раздеть любую девушку бесплатно», заманивая людей к загрузке этих приложений из официального магазина приложений iPhone. Расследовательские усилия Издательства 404 Media заставили Apple обратить внимание на эту проблему, они изначально не отвечали на запросы, однако позже проявили интерес к получению более подробной информации после публикации статьи.
404 Media предоставило корпорации-гиганту все соответствующие детали касательно каждого упомянутого приложения, включая ссылки на рекламу и их присутствие в магазине приложений Apple. В ответ Apple быстро удалил все сомнительные приложения с их платформы.
Изначальное намерение этих приложений оставалось скрытым в магазине приложений, где разработчики пытались продвигать их, представляя как «генераторы искусства», вероятно, предполагая, что таким образом избегут политики магазина Apple.
Удаление этих приложений подчеркивает сложности, с которыми компании сталкиваются при обнаружении и пресечении потенциально вредного программного обеспечения на своих платформах. Это особенно подчеркивается случаем с поддельным эксплицитным контентом, созданным при помощи искусственного интеллекта и посвященным звезде Тейлор Свифт. Это заставило компанию Microsoft принять корректирующие меры для предотвращения злоупотребления одним из их продуктов, известным как Designer, для создания подобного контента.
Эти последние события подчеркивают непрерывную борьбу против порочного использования технологии искусственного интеллекта и необходимость для технологических компаний тщательно контролировать и регулировать контент, доступный через их услуги.
Ключевые вопросы и ответы
Почему Apple удалила приложения из App Store?
Apple убрала несколько приложений из своего App Store из-за их функционала, позволяющего создавать фейковые эксплицитные изображения, специально ориентированных на женщин с предложением «раздеть любую девушку бесплатно» с использованием технологии искусственного интеллекта.
Какие вызовы эти случаи представляют для технологических компаний, таких как Apple?
Эти случаи представляют собой значительное вызов для технологических компаний в обнаружении и предотвращении распространения вредного или оскорбительного контента через их услуги. Также существует опасение о балансировке между конфиденциальностью и свободой пользователей с необходимостью соблюдения стандартов сообщества и этичного использования технологии.
Какие спорные моменты связаны с использованием искусственного интеллекта для создания эксплицитных изображений?
Использование искусственного интеллекта для создания фейкового эксплицитного контента вызывает этические и правовые споры, включая неконсенсуальную порнографию, нарушение конфиденциальности, клевету и потенциальный ущерб репутации и психическому здоровью людей.
Основные вызовы и спорные вопросы
— Соблюдение регуляторных норм: Обеспечение соблюдения законов и норм, касающихся цифрового контента и стандартов порядочности, не затрудняя инновации.
— Модерация контента: Разработка эффективных систем модерации контента, способных быстро идентифицировать и реагировать на неподходящий или незаконный контент.
— Технологическая борьба: Оставаться впереди лиц и организаций, злоупотребляющих искусственным интеллектом для создания и распространения вредного контента.
Преимущества и Недостатки
Преимущества:
— Защита личности: Удаление этих приложений помогает защитить людей от неконсенсуального и потенциально вредного контента.
— Соблюдение стандартов: Подобные действия укрепляют этические стандарты и политики, которые регулируют рынки приложений и цифровые платформы.
Недостатки:
— Ложные срабатывания: Бдительный мониторинг иногда может привести к случайному удалению законных приложений, за что страдают разработчики и пользователи.
— Повреждение инноваций: Строгие политики могут отпугнуть разработчиков от экспериментирования с мощными возможностями искусственного интеллекта из-за страха, что их приложения могут быть удалены.
Для получения дополнительной информации о правилах приложений и дискуссиях об искусственном интеллекте вы можете посетить:
— Apple
— Instagram
— Microsoft
Обратите внимание, что посещение этих ссылок предоставит общую информацию об этих компаниях и может не напрямую направить вас к контенту, специально связанному с обсуждаемым в статье проблемами с искусственным интеллектом и правилами контента.