In einer bahnbrechenden Entscheidung hat das EU-Parlament das Gesetz über Künstliche Intelligenz genehmigt, das darauf abzielt, Sicherheit und Einhaltung der Grundrechte zu gewährleisten und gleichzeitig Innovationen zu beschleunigen. Die Vereinbarung, die im Dezember 2023 in Verhandlungen mit den Mitgliedstaaten getroffen wurde, hat weitreichende Auswirkungen auf die Entwicklung von KI in Europa.
Das Hauptziel der Verordnung ist es, wesentliche Werte wie Demokratie, Rechtsstaatlichkeit und Umweltschutz vor den potenziellen Risiken durch „hochriskante KI“ zu schützen. Gleichzeitig soll Europa als führend in Sachen KI positioniert werden, um Innovationen zu fördern. Die Verordnung legt umfassende Verpflichtungen für KI-Systeme fest, basierend auf ihren potenziellen Risiken und Auswirkungsebenen.
Unter den neuen Regeln werden bestimmte KI-Anwendungen, die eine Bedrohung für die Rechte der Bürger darstellen, verboten sein. Dazu gehören biometrische Kategorisierungssysteme, die auf sensiblen Merkmalen beruhen, sowie das wahllose Abrufen von Gesichtsbildern aus dem Internet oder von CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken. Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertungssysteme, prädiktives Policing allein auf Grundlage von Profilen und KI-Systeme, die menschliches Verhalten manipulieren oder Schwachstellen ausnutzen, werden ebenfalls verboten sein.
Darüber hinaus führt das Gesetz spezifische Verpflichtungen für andere hochriskante KI-Systeme ein, die das Potenzial haben, die Gesundheit, Sicherheit, Grundrechte, die Umwelt, die Demokratie und die Rechtsstaatlichkeit erheblich zu beeinträchtigen. Dies umfasst KI, die in kritischer Infrastruktur, Bildung und beruflicher Ausbildung, Beschäftigung sowie in wesentlichen privaten und öffentlichen Dienstleistungen wie Gesundheitswesen und Bankwesen eingesetzt wird. Solche Systeme werden verpflichtet sein, Risiken zu bewerten und zu mindern, Nutzungsprotokolle aufrechtzuerhalten, Transparenz und Genauigkeit sicherzustellen und menschliche Überwachung einzubeziehen.
Eine wichtige Bestimmung der Verordnung ist das Recht der Bürger, Beschwerden über KI-Systeme einzureichen und Erklärungen für Entscheidungen von hochriskanten KI-Systemen zu erhalten, die ihre Rechte beeinträchtigen. Dies stärkt die individuellen Rechte und die Rechenschaftspflicht bei der Entwicklung und Nutzung von KI.
Das Gesetz befasst sich auch mit KI-Systemen für allgemeine Zwecke (GPAI) und den Modellen, auf denen sie basieren. Diese Systeme müssen Transparenzanforderungen erfüllen, einschließlich der Einhaltung des EU-Urheberrechts und der Veröffentlichung detaillierter Zusammenfassungen des für das Training verwendeten Inhalts. Darüber hinaus werden leistungsfähigere GPAI-Modelle, die systemische Risiken darstellen, zusätzliche Anforderungen wie Modellbewertungen, die Bewertung und Minderung systemischer Risiken und die Berichterstattung über Vorfälle haben.
Um Innovationen und kleinen und mittleren Unternehmen (KMU) Unterstützung zu bieten, plant die EU, regulatorische Sandboxes und Tests in der realen Welt auf nationaler Ebene einzurichten. Diese Plattformen ermöglichen es KMU und Start-ups, innovative KI-Lösungen zu entwickeln und zu trainieren, bevor sie auf den Markt kommen.
Das von Brando Benifei, Ko-Berichterstatter des Ausschusses für den Binnenmarkt, gelobte neue Gesetz markiert einen bedeutenden Meilenstein zum Schutz der Rechte von Arbeitnehmern und Bürgern und zum Verbot inakzeptabler KI-Praktiken in Europa. Die Einrichtung des AI Office wird Unternehmen weiterhin unterstützen, sich bereits vor Inkrafttreten der Vorschriften daran zu halten. Das Gesetz stellt den Menschen und europäische Werte in den Mittelpunkt der KI-Entwicklung.
Obwohl die Verordnung noch einer abschließenden rechtssprachlichen Überprüfung unterliegt und formell vom Rat gebilligt werden muss, wird ihre Annahme vor Ende der Legislaturperiode erwartet. Das Gesetz tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und wird vollständig anwendbar sein 24 Monate später. Einige Bestimmungen, wie Verbote von unzulässigen Praktiken und Verhaltenskodizes, werden jedoch früher umgesetzt. Die Regulierung von KI im Gesundheitswesen, einem Bereich von großem Interesse, bleibt weiterhin Thema in Diskussionen von Experten.
### FAQ:
**Frage:** Was ist der Zweck des KI-Gesetzes des EU-Parlaments?
**Antwort:** Das Gesetz zielt darauf ab, Sicherheit, Einhaltung der Grundrechte und Förderung von Innovation in der KI-Entwicklung sicherzustellen.
**Frage:** Welche Anwendungen von KI werden unter den neuen Regeln verboten?
**Antwort:** Das Gesetz verbietet biometrische Kategorisierungssysteme auf sensiblen Merkmalen basierend, ungerichtete Abgriffe von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertungssysteme, prädiktives Policing allein auf Profiling basierend und KI-Systeme, die menschliches Verhalten manipulieren oder Schwachstellen ausnutzen.
**Frage:** Wie werden hochriskante KI-Systeme reguliert?
**Antwort:** Hochriskante KI-Systeme, wie die in kritischer Infrastruktur, Bildung, Beschäftigung und in wesentlichen Diensten eingesetzt werden, müssen Risiken bewerten und reduzieren, Nutzungsprotokolle aufrechterhalten, Transparenz und Genauigkeit sicherstellen und menschliche Überwachung einbeziehen.
**Frage:** Haben Bürger das Recht, sich über KI-Systeme zu beschweren?
**Antwort:** Ja, Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen für Entscheidungen von hochriskanten KI-Systemen zu erhalten, die ihre Rechte beeinträchtigen.
**Frage:** Wie werden Innovationen und KMU gemäß den neuen Vorschriften unterstützt?
**Antwort:** Die EU plant, regulatorische Sandboxes und Testplattformen auf nationaler Ebene einzurichten, um KMU und Start-ups bei der Entwicklung und Schulung innovativer KI-Lösungen zu unterstützen.
**Frage:** Wann tritt das KI-Gesetz in Kraft?
**Antwort:** Das Gesetz tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und wird vollständig anwendbar sein 24 Monate später. Einige Bestimmungen werden jedoch früher umgesetzt.
The source of the article is from the blog kunsthuisoaleer.nl