In einer bahnbrechenden Maßnahme hat eine Forschungs- und Entwicklungseinheit im Vereinigten Königreich eine innovative Vision für „quantitative Sicherheitsgarantien“ im Bereich der künstlichen Intelligenz (KI) vorgestellt. Die Agentur für fortgeschrittene Forschung und Erfindungen (ARIA) ebnet den Weg für hohe Sicherheitsstandards in der KI, wobei Parallelen zu den strengen Sicherheitsmaßnahmen in der Atomkraft und der Passagierluftfahrt gezogen werden.
Im Zentrum von ARIA’s Plan steht die Implementierung eines „Torhüter“ KI-Systems. Dieser digitale Wächter wird als Schutzschild fungieren und sicherstellen, dass andere KI-Agenten innerhalb vordefinierter Grenzen für spezifische Anwendungen operieren. Durch die Entwicklung dieser Gatekeeper-KI strebt ARIA an, eine Wahrscheinlichkeitsgarantie zu geben, dass keine Schäden durch KI-Aktionen entstehen.
ARIA hat £59 Millionen für das Projekt bereitgestellt, mit dem Ziel, einen skalierbaren Proof-of-Concept in einem festgelegten Bereich zu demonstrieren. Potenzielle Anwendungen reichen von der Balancierung des Stromnetzes bis hin zum Management der Lieferkette, mit dem ultimativen Ziel, hochriskante KI-Implementierungen wie die Verbesserung kritischer Infrastruktur oder die Optimierung von klinischen Studien abzusichern.
Der Geist hinter dieser wegweisenden Initiative ist David ‚davidad‘ Dalrymple, Mitbegründer der beliebten Kryptowährung Filecoin. Dalrymples umfangreiche Forschung im Bereich der technischen KI-Sicherheit motivierte ihn, den Gatekeeper-Ansatz zu erkunden. Als Programmleiter von ARIA hat er nun die Möglichkeit, seine Theorien in greifbare Lösungen umzusetzen.
Die Gatekeeper-Garantie:
Die von ARIA entwickelten Gatekeeper werden auf wissenschaftlichen Weltmodellen und mathematischen Beweisen beruhen, um die Sicherheit zu gewährleisten. Dalrymple betont, dass dieser Ansatz kommerzielle und akademische Konzepte kombiniert. Im Gegensatz zu den bestehenden Methoden großer KI-Unternehmen, die sich auf endliche Stichproben verlassen, ohne Garantien zu bieten, vereint der Gatekeeper-Ansatz von ARIA modernste Fähigkeiten mit mathematischer Argumentation.
Um diese Fusion zu erreichen, ist eine tiefe interdisziplinäre Zusammenarbeit erforderlich, was die Rolle von ARIA entscheidend macht. Im letzten Jahr gegründet, finanziert ARIA Forschung mit „hohem Risiko und hoher Belohnung“ und wird mit DARPA, der renommierten Forschungseinheit des Pentagons, verglichen, die für ihre wegweisenden Projekte bekannt ist.
Dalrymple zieht Parallelen zwischen dem neuen Projekt von ARIA und dem HACMS-Programm von DARPA, das erfolgreich einen unhackbaren Quadrocopter durch formale Verifikation geschaffen hat. Mit ähnlichen Grundsätzen zielt Dalrymples Plan darauf ab, das Versprechen von „quantitativen Sicherheitsgarantien“ zu erfüllen. Der renommierte Informatiker Yoshua Bengio hat seine Enttäuschung über den Mangel an Fortschritten in diesem Bereich zum Ausdruck gebracht, was die Initiative von Dalrymple zu einem potenziellen Game-Changer macht.
Obwohl ARIAs Budget von Politikern kritisiert wurde, da einige Gesetzgeber dessen Größe im Vergleich zu anderen staatlichen Forschungseinrichtungen in Frage stellten, kann die Agentur potenzielle Kosteneinsparungen vorweisen. Eines ihrer kürzlich gestarteten Programme zielt beispielsweise darauf ab, KI-Systeme zu nur 0,1% der gegenwärtigen Kosten zu trainieren.
Auf der bevorstehenden TNW-Konferenz, die unter dem Motto „Ren-AI-ssance: Der durch KI angetriebene Wiedergeburt“ steht, wird dieser wegweisende Ansatz zur KI-Sicherheit zweifellos weitere Diskussionen anregen. Mit der Implementierung des Gatekeeper-Systems und dem Fokus auf quantitativen Sicherheitsgarantien haben ARIA und ihr visionäres führendes Mitglied David Dalrymple das Potenzial, neue Horizonte in der KI zu öffnen und die sichere und verantwortungsvolle Implementierung dieser transformierenden Technologie zu gewährleisten.
The source of the article is from the blog publicsectortravel.org.uk