Neue KI-Verordnung der EU – ein Überblick
Die neue KI-Verordnung der EU – auch „AI Act“ genannt – wurde am 13. Juni 2024 von den Präsidenten des EU-Parlaments und des EU-Rates unterzeichnet und daraufhin im Amtsblatt der EU am 12. Juli 2024 veröffentlicht. Sie ist am 1. August 2024 in Kraft getreten und zielt darauf ab, den Einsatz von Künstlicher Intelligenz (KI) in der EU zu regulieren, um sowohl Innovation zu fördern als auch Risiken zu minimieren. Vor dem Kontext von Risikomanagement und MaRisk-Compliance hat diese Verordnung auch besondere Bedeutung für Banken und Finanzinstitute.
Das wichtigste im Überblick
Die KI-Verordnung der EU klassifiziert KI-Systeme nach ihrem Risikopotential in drei Kategorien:
- Unannehmbares Risiko: KI-Systeme, die eine Bedrohung für die Sicherheit, Rechte oder Freiheiten von Menschen darstellen, sind verboten.
- Hohes Risiko: Diese Systeme unterliegen strengen Anforderungen an Transparenz, Rückverfolgbarkeit und Sicherheitsmaßnahmen.
- Geringes Risiko: Hier gibt es weniger Anforderungen, aber Transparenz und die Möglichkeit zur menschlichen Überprüfung sind notwendig.
Finanzinstitute müssen Risiken, die mit dem Einsatz von KI-Systemen verbunden sind, systematisch identifizieren und bewerten. Das schließt auch das Verständnis der Funktionsweise von KI-Algorithmen und deren mögliche Auswirkungen ein.
Zudem sollten Institute angemessene interne Kontrollhandlungen und Sicherheitsmaßnahmen implementieren, um die Risiken zu mindern. Dies kann die Entwicklung von Richtlinien zur Nutzung von Künstlicher Intelligenz sowie die Etablierung von Überwachungs- und Reporting-Mechanismen umfassen.
Institute müssen zusätzlich sicherstellen, dass die Entscheidungen, die durch KI-Systeme getroffen werden, nachvollziehbar und transparent sind. Dies erfordert umfassende Dokumentationen und Protokollierungen der KI-Aktivitäten.
Die neue KI-Verordnung der EU stellt damit eine bedeutende regulatorische Herausforderung für Unternehmen und Finanzinstitute dar, die KI-Systeme nutzen. Durch ein robustes Risikomanagement und die Einhaltung der MaRisk können Institute sicherstellen, dass sie sowohl den gesetzlichen Anforderungen gerecht werden als auch die mit KI verbundenen Risiken effektiven managen.
Sie möchten mehr erfahren?
Jede gute Zusammenarbeit beginnt mit einem guten Gespräch. Nehmen Sie einfach Kontakt zu uns auf – wir nehmen uns gerne Zeit für Ihr Anliegen.
Oder suchen Sie einen Austausch zu einem anderen Thema? Dann hinterlassen Sie uns doch direkt eine Nachricht.
Wir melden uns umgehend bei Ihnen.
Melanie Dümmel
Junior Consultant Compliance
+49 385 34332190
melanie.duemmel(at)awado-gruppe.de
Ich freue mich auf eine E-Mail oder einen Anruf von Ihnen!