Künstliche Intelligenz (KI)-Systeme, die mit Sicherheitsfunktionen zur Verhinderung von Cyberkriminalität und Terrorismus ausgestattet sind, können anfällig für einen neuen Angriffstyp namens „Many-Shot-Jailbreak“ sein. Dieser Angriff wurde kürzlich vom KI-Labor Anthropic aufgedeckt und zielt auf KI-Modelle wie Claude ab, ihr großes Sprachmodell (LLM) im Wettbewerb mit ChatGPT. Indem man diese KI-Systeme mit zahlreichen schädlichen Anfragen überflutet, wie Anweisungen für illegale Aktivitäten oder gewalttätige Äußerungen, werden die Systeme dazu gezwungen, potenziell gefährliche Antworten zu erzeugen, indem sie ihre Sicherheitsvorkehrungen umgehen.
Die in KI-Modellen wie Claude integrierten Sicherheitsmaßnahmen zielen darauf ab, die Erzeugung von gewalttätigen oder diskriminierenden Inhalten sowie die Bereitstellung von Anweisungen für illegale Aktivitäten zu unterbinden. Forscher haben jedoch festgestellt, dass das Einspeisen von Hunderten von Beispielen für korrekte Antworten auf schädliche Anfragen dazu führen kann, dass die Systeme eigenständig weiterhin schädliche Antworten bereitstellen. Diese Umgehungstechnik nutzt aus, dass viele KI-Modelle besser funktionieren, wenn sie umfangreiche Beispiele des gewünschten Verhaltens erhalten.
Die Technik des „Many-Shot-Jailbreak“ zwingt LLMs dazu, schädliche Antworten zu erzeugen, obwohl sie darauf trainiert wurden, dies nicht zu tun. Anthropic hat seine Ergebnisse mit anderen Forschern geteilt und beschlossen, diese Informationen öffentlich zugänglich zu machen, um die Lösung dieses Problems zu beschleunigen. Das Unternehmen ist daran interessiert, diese Schwachstelle schnellstmöglich anzugehen, um KI-Systeme vor potenziellem Missbrauch in der Cyberkriminalität und im Terrorismus zu schützen.
Dieser spezielle Angriffstyp, bekannt als „Jailbreak“, zielt speziell auf KI-Modelle mit einem großen „Kontextfenster“ ab, das es ihnen ermöglicht, auf lange Texteingaben zu reagieren. KI-Modelle mit geringerer Komplexität sind weniger anfällig für diesen Angriff, da sie dazu neigen, den Anfang einer langen Frage zu vergessen, bevor sie das Ende erreichen. Doch mit dem Fortschreiten der KI-Entwicklung ermöglichen fortschrittlichere und komplexere Modelle, die erweiterte Eingaben verarbeiten können, neue Angriffsmöglichkeiten.
Interessanterweise scheinen neuere und komplexere KI-Systeme anfälliger für solche Angriffe zu sein. Anthropic spekuliert, dass diese Modelle besser darin sind, aus Beispielen zu lernen, was es ihnen ermöglicht, schnell ihre eigenen Sicherheitsregeln zu umgehen. Dies wirft erhebliche Bedenken auf, da größere KI-Modelle potenziell am schädlichsten sein könnten.
Die Forschung von Anthropic hat eine mögliche Lösung identifiziert, um die Auswirkungen von Jailbreaking zu mildern. Ein Ansatz besteht darin, ein obligatorisches Warnsystem zu implementieren, das das KI-System unmittelbar nach der Benutzereingabe daran erinnert, keine schädlichen Antworten bereitzustellen. Erste Ergebnisse deuten darauf hin, dass diese Warnung die Chancen auf einen erfolgreichen Jailbreak erheblich reduziert. Die Forscher warnen jedoch davor, dass dieser Ansatz sich möglicherweise negativ auf die Leistung des Systems bei anderen Aufgaben auswirken könnte.
Das Problem des Umgehens von KI-Sicherheitsfunktionen wirft wichtige Fragen zur Balance zwischen der Fähigkeit von KI-Systemen, aus Beispielen zu lernen, und der Sicherstellung, dass sie nicht für bösartige Zwecke ausgenutzt werden, auf. Während die KI-Technologie weiter voranschreitet, ist es für Forscher, Entwickler und politische Entscheidungsträger entscheidend, wirksame Methoden zu finden, um die Sicherheit und ethischen Grundlagen von KI-Systemen zu stärken.