Искусственный интеллект (ИИ) революционизировал сферу технологий в последние годы, и область корпоративной кибербезопасности не исключение. В то время как ИИ предлагает множество преимуществ, возникает растущая озабоченность из-за появления «Теневого ИИ» — несанкционированного использования ИИ в организациях без ведома или одобрения IT-отдела.
Так что же такое Тени ИИ? Это относится к сотрудникам, использующим ИИ для помощи в различных задачах без уведомления своей компании. Это тайное использование ИИ часто остается незамеченным, делая компании уязвимыми перед возможным эксплуатацией или проблемами безопасности. Использование ИИ в тени может ускорить задачи, но без должной видимости и правил, бизнесы не могут контролировать результаты, что может быть негативным для их успеха.
Не смотря на отсутствие документированных катастрофических сбоев в безопасности, вызванных Теневым ИИ, есть свидетельства, указывающие на то, что это представляет существенную проблему в различных отраслях. Удивительно, что только 4,39% компаний полностью интегрировали инструменты ИИ с полными рекомендациями, согласно отчету Tech.co о Влиянии Технологий на Рабочее Место в 2024 году. В противоположность этому, опрос, проведенный специально по французским компаниям, показал, что 44% респондентов использовали ИИ как на профессиональном, так и на личном уровне, приблизительно 28% сотрудников использовали ИИ без надзора компании. Это различие подчеркивает необходимость правил вокруг использования ИИ в деловом мире.
Опасности Теневого ИИ многообразны и трудны для выявления из-за неотслеживаемого характера его внедрения. Некоторые ключевые области опасности включают:
1. Внутреннюю или внешнюю дезинформацию: существует риск того, что большие языковые модели ИИ создадут ложную информацию, что представляет угрозу для высшего руководства и важных деловых коммуникационных каналов. Уже были зафиксированы ошибки в работе юридических платформ, работающих на ИИ, что указывает на потенциал компрометации внутренних деловых отчетов или клиентской переписки.
2. Кибербезопасность: ИИ может быть полезным для создания кодов, но при этом он также вносит возможность появления созданных ИИ ошибок или уязвимостей, которые хакеры могут использовать. Если команда поддержки ИТ ненамеренно развернет код, содержащий эти уязвимости, то это может обойти протоколы безопасности и подвергнуть опасности системы компании.
3. Раскрытые данные: Многие пользователи ИИ не осведомлены о том, что их взаимодействия с инструментами ИИ могут быть записаны компаниями, стоящими за этими инструментами. Если в этих взаимодействиях используется конфиденциальная информация компании, то она становится уязвимой для утечек. Поэтому важно никогда не делиться конфиденциальной информацией с ИИ-платформами.
4. Несоблюдение нормативов: Правительства по всему миру внедряют регулирования и рекомендации по использованию ИИ. Без должного отслеживания и представителя, ответственного за мониторинг этих нормативов внутри компании, компании могут ненамеренно нарушать стандарты соответствия. Это может привести к расследованиям или наложению штрафов со стороны регулирующих органов.
Для борьбы с рисками, связанными с Теневым ИИ, компании должны установить четкие правила для использования ИИ на рабочем месте. Эти рекомендации должны детально определять конкретные задачи и роли, для которых ИИ разрешен. Согласно последним опросам, около 50% американских компаний в процессе обновления своих внутренних политик для управления использованием инструментов ИИ, таких как ChatGPT, и смягчения Тени ИИ.
Хотя полный запрет на использование ИИ может показаться самым безопасным вариантом, это также означает отказ от преимуществ, которые может предложить технология ИИ. Некоторые компании, такие как Apple, Amazon, Samsung и Goldman Sachs, внедрили частичные запреты на использование ИИ в рабочее время. Тем не менее, бизнесы должны рассмотреть возможность разрешения использования ИИ в будущем с соответствующим одобрением, так как инструменты ИИ постоянно развиваются и могут оказаться ценными в будущем.
Кроме того, существуют bewтые практики, которым могут следовать компании для оптимизации использования ИИ:
1. Проходить обучающие курсы: Существует множество бесплатных учебных материалов по ИИ в Интернете, которые могут помочь сотрудникам ознакомиться с применением ИИ и лучшими практиками.
2. Избегать замены рабочих мест: ИИ еще не способен полностью заменять человека в различных задачах. Отчет показывает, что инструменты ИИ не повлияли на устранение рабочих мест на 63% руководящих должностей, чьи организации используют ИИ для написания задач.
3. Ограничивать использование ИИ: Ограничьте использование ИИ на конкретные задачи и назначенных ботов. Инструменты, такие как ChatGPT и Claude 3, подходят для различных целей, и необходимо тщательно подходить к созданию для оптимальных результатов.
4. Оставаться в курсе: Следите за последними новостями и развитием технологий ИИ, чтобы убедиться, что используются наиболее эффективные инструменты. Недавние тесты показали, что Claude 3 производит лучшие текстовые результаты по сравнению с ChatGPT.
Наконец, важно помнить, что генеративные текстовые или изображенческие боты на самом деле не «интеллектуальны». Человеческий надзор необходим для проверки и подтверждения результатов от инструментов ИИ для предотвращения неточностей или ложностей.
Поскольку распространенность ИИ продолжает расти, компании должны активно решать проблему Теневого ИИ для обеспечения защиты своей деятельности, защиты конфиденциальных данных и соблюдения нормативов. Обеспечивая комплексные рекомендации и следя за технологиями ИИ, бизнесы могут использовать преимущества ИИ, минимизируя риски несанкционированного использования ИИ.
Часто задаваемые вопросы
The source of the article is from the blog maltemoney.com.br