September 2024 - Was Unternehmen über den EU AI Act wissen müssen

Künstliche Intelligenz

Die Europäische Union hat den EU AI Act eingeführt, um die Nutzung von Künstlicher Intelligenz (KI) innerhalb ihrer Mitgliedsstaaten zu regulieren. Aber was bedeutet das konkret für Unternehmen?

Was ist der EU AI Act? 

Der EU AI Act ist ein umfassendes Gesetzespaket, das darauf abzielt, sichere und vertrauenswürdige KI-Systeme zu fördern. Es beinhaltet Regeln und Standards, die sicherstellen sollen, dass KI-Systeme transparent, fair und sicher sind. 

Der AI Act verfolgt einen risikobasierten Ansatz. Das heißt, KI-Systeme werden nach Risikostufen klassifiziert: 

  • 1. unannehmbares Risiko .

    Darunter versteht man AI-Systeme und -Modelle, die eine Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen sind, z.B. Social Scoring, kognitive Verhaltensmanipulation, biometrische Fernidentifikation (außer für Strafverfolgung, Terrorbekämpfung), biometrische Kategorisierungssysteme .

  • 2. Hochrisiko-Systeme .

    KI-Systeme in den Bereichen Luftfahrt, medizinische Geräte, kritische Infrastruktur, Rechtspflege und demokratische Prozesse, Strafverfolgung usw. Hochrisiko-Systeme unterliegen speziellen Anforderungen mit Blick auf Robustheit, Sicherheit, Risikomanagement, Transparenz, Risikominimierung, technische Dokumentation etc. 

  • 3. begrenztes Risiko .

    Dies können AI-Systeme sein, die z.B. Inhalte erzeugen. Diese müssen spezielle Transparenzanforderungen erfüllen. So sollten die Nutzer etwa darauf aufmerksam gemacht werden, wenn sie mit KI-Systemen interagieren, z.B. durch entsprechende Hinweise am Output der KI. 

  • 4. Minimales bis kein Risiko.

    Hierunter fallen unkritische AI-Systeme wie z.B. Spam-Filter.

Was bedeutet der AI Act der EU für Unternehmen? 

Für Unternehmen bedeutet der AI Act, dass sie ihre KI-Entwicklungsprozesse und -anwendungen an strengere gesetzliche Rahmenbedingungen anpassen müssen. Dafür sind folgende Schritte nötig: 

Risikobewertung:  

Unternehmen müssen ihre KI-Systeme nach dem risikobasierten Ansatz bewerten. Je höher das Risiko, desto strenger die Anforderungen. 

Tipp: Das TÜV AI.Lab hat ein kostenloses Online-Tool zur Risikoklassifizierung von KI-Systemen und -Modellen entwickelt.

Transparenz und Aufklärung:

KI-Anbieter müssen die Nutzer über den Einsatz von KI informieren und erklären, wie Entscheidungen getroffen werden.

Überwachung und Kontrolle:

Unternehmen müssen Mechanismen zur kontinuierlichen Überwachung und Kontrolle ihrer KI-Systeme einrichten, um sicherzustellen, dass sie den festgelegten Standards entsprechen.

Gibt es Umsetzungsfristen?

Ja, die gibt es. Je nach Risikoklasse sieht die Verordnung Übergangsfristen von 6 bis 36 Monaten vor, innerhalb derer Organisationen die Anforderungen umsetzen müssen. So gelten zum Beispiel

  • ab dem 2. Februar 2025 die Verbote für KI-Praktiken mit unannehmbaren Risiken wie Social Scoring
  • ab dem 1. August 2025 die Verhaltenskodizes für bestimmte Allzweck-KI-Modelle

Fazit

Der EU AI Act stellt Unternehmen vor neue Herausforderungen. Die Anforderungen sind je nach Risikostufe komplex, können aber mit einer frühen Ausrichtung und der richtigen Herangehensweise innovationsfreundlich umgesetzt werden. Wir begleiten euch gerne bei diesem Prozess. Hier geht’s zum Kontaktformular.

Weitere Artikel

Wie ihr Chatbots mit eurem Unternehmens-Wissen baut

Euer Wissen, euer Chatbot! Entdeckt, wie ihr mit Retrieval Augmented Generation (RAG) einen Unternehmens-Chatbot entwickelt, der firmenspezifische Antworten liefert – auf Basis eures internen Unternehmens-Wissen. Keine vagen Informationen mehr, sondern maßgeschneiderte Antworten, die wirklich weiterhelfen.

Mehr lesen

Spenderanalyse mit KI: Wie ihr Prognosen zu euren Spendern erstellt

In diesem zweiteiligen Blog-Beitrag begleiten wir die fiktive Non-Profit-Organisation Zero Hunger e. V. auf ihrer Reise hin zu einer datengetriebenen Organisation. Im ersten Teil haben wir aufgezeigt, wie der Verein eine hausweite Datenstrategie inklusive Tracking-Konzept und KPI-Framework einführt. Diese Datenstrategie ist der Startpunkt für den nächsten Schritt von Zero Hunger: Spenderprognosen mithilfe von Künstlicher Intelligenz ermitteln.

Mehr lesen