Die Europäische Kommission hat eine öffentliche Konsultation zu neuen Vorschriften für Hochrisiko-Systeme der künstlichen Intelligenz (KI) eingeleitet.
Die Konsultation, die bis zum 18. Juli läuft, zielt darauf ab, Beiträge von verschiedenen Interessengruppen zu erhalten, darunter die Zivilgesellschaft, die Technologieindustrie, KI-Entwickler, Forscher und Behörden.
Der KI-Gesetz der EU, der darauf abzielt, KI-Risiken zu regulieren, wurde letztes Jahr fertiggestellt, wobei die meisten Bestimmungen im August in Kraft treten sollen. Hochrisiko-Systeme unterliegen strengen Anforderungen, wie z. B. qualitativ hochwertige Datensätze, Aktivitätsprotokollierung, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und robuste Cybersicherheit.
Beispiele für Hochrisiko-KI-Systeme sind solche, die in Einstellungsverfahren oder Kreditanträgen verwendet werden. Die Kommission muss bis zum 2. Februar 2026 Richtlinien vorlegen, die die praktische Anwendung der Verpflichtungen und Beispiele für Hochrisiko- und Nicht-Hochrisiko-KI-Systeme festlegen.
Die neue Gesetzgebung erlaubt oder verbietet die KI-Nutzung basierend auf dem Risiko, das sie birgt. Sie ist bereits in Kraft getreten, mit einer schrittweisen Einführung, die möglicherweise bis 2027 vollständig umgesetzt wird.
Seit Februar sind biometrische Identifikationssysteme und solche, die Einzelpersonen aufgrund ihres Verhaltens bewerten, verboten. Die Kommission bereitet auch die vierte Version der Richtlinien für generative KI-Modelle vor, mit dem Ziel einer zeitnahen Umsetzung.