September 2024 - Was Unternehmen über den EU AI Act wissen müssen
Künstliche Intelligenz
Die Europäische Union hat den EU AI Act eingeführt, um die Nutzung von Künstlicher Intelligenz (KI) innerhalb ihrer Mitgliedsstaaten zu regulieren. Aber was bedeutet das konkret für Unternehmen?
Was ist der EU AI Act?
Der EU AI Act ist ein umfassendes Gesetzespaket, das darauf abzielt, sichere und vertrauenswürdige KI-Systeme zu fördern. Es beinhaltet Regeln und Standards, die sicherstellen sollen, dass KI-Systeme transparent, fair und sicher sind.
Der AI Act verfolgt einen risikobasierten Ansatz. Das heißt, KI-Systeme werden nach Risikostufen klassifiziert:
- 1. unannehmbares Risiko .
Darunter versteht man AI-Systeme und -Modelle, die eine Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen sind, z.B. Social Scoring, kognitive Verhaltensmanipulation, biometrische Fernidentifikation (außer für Strafverfolgung, Terrorbekämpfung), biometrische Kategorisierungssysteme .
- 2. Hochrisiko-Systeme .
KI-Systeme in den Bereichen Luftfahrt, medizinische Geräte, kritische Infrastruktur, Rechtspflege und demokratische Prozesse, Strafverfolgung usw. Hochrisiko-Systeme unterliegen speziellen Anforderungen mit Blick auf Robustheit, Sicherheit, Risikomanagement, Transparenz, Risikominimierung, technische Dokumentation etc.
- 3. begrenztes Risiko .
Dies können AI-Systeme sein, die z.B. Inhalte erzeugen. Diese müssen spezielle Transparenzanforderungen erfüllen. So sollten die Nutzer etwa darauf aufmerksam gemacht werden, wenn sie mit KI-Systemen interagieren, z.B. durch entsprechende Hinweise am Output der KI.
- 4. Minimales bis kein Risiko.
Hierunter fallen unkritische AI-Systeme wie z.B. Spam-Filter.
Was bedeutet der AI Act der EU für Unternehmen?
Für Unternehmen bedeutet der AI Act, dass sie ihre KI-Entwicklungsprozesse und -anwendungen an strengere gesetzliche Rahmenbedingungen anpassen müssen. Dafür sind folgende Schritte nötig:
Risikobewertung:
Unternehmen müssen ihre KI-Systeme nach dem risikobasierten Ansatz bewerten. Je höher das Risiko, desto strenger die Anforderungen.
Tipp: Das TÜV AI.Lab hat ein kostenloses Online-Tool zur Risikoklassifizierung von KI-Systemen und -Modellen entwickelt.
Transparenz und Aufklärung:
KI-Anbieter müssen die Nutzer über den Einsatz von KI informieren und erklären, wie Entscheidungen getroffen werden.
Überwachung und Kontrolle:
Unternehmen müssen Mechanismen zur kontinuierlichen Überwachung und Kontrolle ihrer KI-Systeme einrichten, um sicherzustellen, dass sie den festgelegten Standards entsprechen.
Gibt es Umsetzungsfristen?
Ja, die gibt es. Je nach Risikoklasse sieht die Verordnung Übergangsfristen von 6 bis 36 Monaten vor, innerhalb derer Organisationen die Anforderungen umsetzen müssen. So gelten zum Beispiel
- ab dem 2. Februar 2025 die Verbote für KI-Praktiken mit unannehmbaren Risiken wie Social Scoring
- ab dem 1. August 2025 die Verhaltenskodizes für bestimmte Allzweck-KI-Modelle
Fazit
Der EU AI Act stellt Unternehmen vor neue Herausforderungen. Die Anforderungen sind je nach Risikostufe komplex, können aber mit einer frühen Ausrichtung und der richtigen Herangehensweise innovationsfreundlich umgesetzt werden. Wir begleiten euch gerne bei diesem Prozess. Hier geht’s zum Kontaktformular.