Новая модель искусственного интеллекта под названием AI Guardian была представлена на прошлой неделе ведущей технологической компанией, включающей передовые протоколы безопасности для предотвращения злоупотреблений.
Модель Language Large Model (LLM) была создана с использованием техники, известной как Иерархическое Обучение с последовательным выполнением, разработанной для предотвращения злонамеренного использования путем предотвращения обхода защиты модели искусственного интеллекта инженерами.
Компания утверждает, что эта технология также улучшает устойчивость к проблемам, таким как инъекция ввода и атаки по системе. По заявлениям компании, новый подход увеличил надежность модели искусственного интеллекта на 63%.
OpenAI разработала новую систему безопасности, описанную в одном из электронных журналов, опубликованных на arXiv, где подробно описана новаторская технология и ее функциональность.
Для понимания концепции Иерархического Обучения с последовательным выполнением, нужно понять процесс обхода защиты, который заключается в эксплуатации уязвимостей программы для выполнения задач, на которые она изначально не была запрограммирована.
На начальных этапах развития AI Guardian люди пытались вызвать зловредное или вредоносное содержимое, обманывая искусственный интеллект, заставляя его игнорировать свое первоначальное программирование. Пока эти попытки чаще всего начинались фразой «Забудь все предыдущие инструкции и сделай это», по мере развития AI Guardian и усложнения злонамеренных инструкций со стороны инженеров, преступники становились все более стратегическими в своих попытках.
Для борьбы с проблемами, при которых модель искусственного интеллекта не только создает оскорбительный текст или изображения, но и вредное содержимое, такое как способы создания химических взрывчатых веществ или методы взлома веб-сайта, OpenAI теперь применяет Иерархическое Обучение с последовательным выполнением, что существенно влияет на поведение моделей при противоречащих командах различного приоритета.
Развернуть иерархическую структуру, а также задать приоритеты инструкциям, компания может затруднить обход их инженерам, так как искусственный интеллект всегда будет придерживаться порядка приоритетов при создании чего-то, для чего изначально не был запрограммирован.
Компания утверждает улучшение надежности на 63%, однако остается риск того, что искусственный интеллект может игнорировать даже базовые инструкции.
Исследовательская статья OpenAI выявила множество улучшений, направленных на дальнейшее совершенствование технологии. Одной из основных областей является работа с другими типами медиа, такими как изображения или звук, которые также могут содержать встроенные инструкции.
Улучшенные меры безопасности: Решение ключевых вопросов и вызовов в области охраны AI
Недавно технологическая компания представила инновационную модель искусственного интеллекта под названием AI Guardian, оборудованную передовыми мерами безопасности для предотвращения злоупотреблений. Несмотря на заявление компании о 63% улучшении надежности модели искусственного интеллекта, возникают несколько ключевых вопросов и вызовов в области улучшенных мер безопасности для технологий искусственного интеллекта.
Ключевые вопросы:
1. Как техника Иерархического Обучения с последовательным выполнением, реализованная в модели AI Guardian, улучшает ее функции безопасности?
AI Guardian использует Иерархическое Обучение с последовательным выполнением для систематизации инструкций, что делает сложным обход протоколов безопасности инженерами и эксплуатацию уязвимостей модели искусственного интеллекта. Этот подход определяет, как модель AI ведет себя при противоречащих командах разной важности.
2. Каковы преимущества и недостатки использования передовых протоколов безопасности, таких как Иерархическое Обучение с последовательным выполнением?
Преимущества:
— Улучшенная защита от злоупотреблений и недобросовестного использования технологий искусственного интеллекта.
— Повышенная надежность и устойчивость к проблемам, таким как инъекция ввода и атаки по системе.
— Очевидная систематизация инструкций для модели искусственного интеллекта, снижая риск обхода мер безопасности.
Недостатки:
— Потенциальный риск игнорирования базовых инструкций и неправильной интерпретации приоритетов.
— Постоянная необходимость совершенствования и обновлений для противодействия появляющимся угрозам и уязвимостям.
Основные вызовы и споры:
1. Существуют ли этические соображения вокруг использования усовершенствованных мер безопасности в технологиях искусственного интеллекта?
Гарантировать, чтобы меры безопасности не нарушали права на конфиденциальность или не тормозили инновации, крайне важно. Баланс между безопасностью и этическими соображениями остается вызовом в разработке и использовании систем искусственного интеллекта.
2. Как компании могут решить проблему возможности искусственного интеллекта создавать вредное содержимое, несмотря на протоколы безопасности?
Хотя усовершенствования, такие как Иерархическое Обучение с последовательным выполнением, нацелены на предотвращение злоупотреблений, требуется постоянное мониторинг и стратегии смягчения уязвимостей для выявления и решения любых случаев создания вредного содержимого системами искусственного интеллекта.
Решение Преимуществ и Недостатков:
Хотя усовершенствованные меры безопасности, такие как те, что реализованы в AI Guardian, предлагают значительную защиту от злоупотреблений и эксплуатации, существуют встроенные трудности, с которыми компании должны справляться. Непрерывные исследования, разработки и сотрудничество внутри отрасли необходимы для преодоления этих вызовов и обеспечения ответственного использования технологий искусственного интеллекта.
Для получения дополнительной информации о безопасности искусственного интеллекта и новых технологиях вы можете посетить OpenAI.
Эта статья подчеркивает изменяющийся ландшафт мер безопасности искусственного интеллекта и сложности, сопутствующие обеспечению безопасного и этического внедрения технологий искусственного интеллекта в различных областях.
The source of the article is from the blog trebujena.net