Генеративное ИИ охватывает бизнес-мир, однако меры безопасности испытывают затруднения в наведении порядка. Недавнее исследование, опубликованное совместно компаниями IBM и Amazon Web Services, выявило значительное внимание организаций к генеративному искусственному интеллекту (GenAI), с 82% руководителей выделяют важность безопасных и надежных систем ИИ для успешного развития своего бизнеса.
Тем не менее, эти же организации сталкиваются с сложным противоречием между инновациями и безопасностью. Данные из Института деловой ценности IBM показывают, что лишь 24% текущих проектов по генеративному ИИ имеют достоверную защиту. Это отражает тенденцию, выявленную PwC, которая отмечает, что 77% генеральных директоров обеспокоены киберугрозами, связанными с ИИ.
По мнению Дипл Ахлували из IBM Consulting, руководители бизнеса ощущают давление со всех сторон на инновации с применением генеративного ИИ, часто отодвигая безопасность на второй план.
Столкнувшись с дилеммой, большинство компаний задается вопросом, следует ли отдать приоритет инновациям, чтобы оставаться конкурентоспособными в гонке за господство в области ИИ, или сосредоточиться на безопасности. Поразительно, большинство склоняется к инновациям, возможно, жертвуя усилиями в области безопасности.
Тем не менее, отчет предлагает небольшую надежду, поскольку руководители бизнеса признают важность безопасности, и некоторые обращают внимание на это, стремясь безопасно интегрировать генеративный ИИ в свою деятельность.
В этой связи специалисты рекомендуют начать с управления для построения доверия к генеративному ИИ. Это включает создание политик, процессов и контроля, соответствующих бизнес-целям. 81% респондентов считают, что генеративный ИИ требует новых моделей управления безопасностью.
После установления управления внимание переходит на обеспечение защиты всех процессов ИИ с использованием доступных инструментов и контроля. Это требует совместной работы сотрудников службы безопасности, технологий и бизнеса, а также использования экспертизы технологических партнеров для стратегического планирования, обучения, обоснования затрат и соблюдения требований.
Наиболее важные вопросы и ответы:
В: Почему руководители бизнеса отдают приоритет инновациям перед безопасностью ИИ?
О: Руководители бизнеса часто ставят в приоритет инновации, чтобы оставаться конкурентоспособными и использовать преимущества, которые может принести ИИ их деятельности. Это стремление к конкурентному преимуществу иногда может затмевать внимание к безопасности из-за быстрого темпа технологического развития.
В: Каковы основные проблемы, связанные с балансировкой между инновациями в области ИИ и безопасностью?
О: Проблемы включают в себя обеспечение сохранения конкурентного преимущества, инвестирование в меры безопасности, преодоление недостатка экспертов в области безопасности ИИ, безопасную интеграцию ИИ в существующие системы и разработку моделей управления, которые могли бы соответствовать темпу развития ИИ.
В: Какие спорные вопросы связаны с приоритетным рассмотрением инноваций в области ИИ перед безопасностью?
О: Основной спор заключается в потенциальном риске компрометации конфиденциальности данных, их целостности и безопасности системы ради инноваций. Поскольку системы ИИ становятся все более внедренными в бизнес-процессы, последствия нарушения безопасности могут быть серьезными, затрагивая не только компанию, но и клиентов и заинтересованные стороны.
Ключевые проблемы:
— Найти равновесие между быстрыми инновациями и внедрением полноценных мер безопасности.
— Эволюционирующая природа угроз ИИ, которые требуют непрерывного обновления протоколов безопасности.
— Возможный дефицит квалифицированных специалистов, понимающих как технологии ИИ, так и кибербезопасность.
— Навигация в сложных регуляторных средах, которые пока еще могут быть недостаточно подготовлены к уникальным вызовам, предъявляемым ИИ.
Преимущества и недостатки:
Преимущества:
— Приоритет инноваций может привести к значительному конкурентному преимуществу и возможностям для роста.
— Прорывы в технологиях ИИ могут повысить эффективность, точность и производительность в организациях.
— Инновации в области ИИ могут способствовать созданию новых бизнес-моделей и источников доходов.
Недостатки:
— Пренебрежение безопасности ИИ может привести к уязвимостям, делая системы подверженными кибератакам и утечкам данных.
— Когда акцент смещается на инновации за счет безопасности, это может подорвать доверие пользователей и клиентов, если их данные становятся уязвимыми.
— Долгосрочная устойчивость инициатив в области ИИ может быть под угрозой без адекватных мер безопасности.
Доклад ясно подчеркивает настоятельность, с которой компании воспринимают развитие технологий ИИ и одновременную необходимость разработки надежных мер безопасности для защиты этих систем от потенциальных угроз.