NORBERT BIEDRZYCKI

Der AI Act der EU: von ethischen Prinzipien zu durchsetzbarer Unternehmensverantwortung

Der AI Act der EU: von ethischen Prinzipien zu durchsetzbarer Unternehmensverantwortung

Am 1. August trat die KI-Verordnung der EU, der AI Act, in Kraft. Drei Jahre nach dem Vorschlag der Kommission, über den ich 2021 schrieb, hat Europa das erste umfassende horizontale KI-Gesetz der Welt.

Der endgültige Text ist breiter als der ursprüngliche Vorschlag. Das Aufkommen von ChatGPT während der Verhandlungen zwang die Gesetzgeber, ein eigenes Regime für KI-Modelle mit allgemeinem Verwendungszweck hinzuzufügen, mit zusätzlichen Pflichten für die leistungsfähigsten. Die Kernlogik bleibt jedoch der risikobasierte Ansatz.

Die Pflichten greifen schrittweise. Verbotene Praktiken gelten ab Februar 2025. Regeln für KI-Modelle mit allgemeinem Verwendungszweck ab August 2025. Die meisten Anforderungen an Hochrisikosysteme ab August 2026. Die schwersten Verstöße können zu Bußgeldern von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes führen.

Nicht nur für Technologieunternehmen

Das häufigste Missverständnis, das ich höre, ist, der AI Act sei ein Problem der KI-Entwickler. Er ist nicht nur das. Die Verordnung unterscheidet zwischen Anbietern, die KI-Systeme entwickeln oder in Verkehr bringen, und Betreibern, die sie in ihrem Geschäft einsetzen. Betreiber haben eigene Pflichten, besonders bei Hochrisikosystemen: sie gemäß Anleitung zu verwenden, menschliche Aufsicht durch kompetente Personen sicherzustellen, ihren Betrieb zu überwachen und in manchen Fällen die Auswirkungen auf Grundrechte zu bewerten.

Eine Bank, die ein gekauftes Kreditbewertungsmodell nutzt, ein Hersteller, der ein KI-Werkzeug zur Vorauswahl von Bewerbern einsetzt, ein Versicherer, der ein externes System zur Betrugserkennung verwendet: Sie alle fallen in den Anwendungsbereich.

Von der Erklärung zum Operating Model

Bisher war verantwortungsvolle KI in den meisten Organisationen eine Sammlung von Prinzipien und in besseren Fällen ein Prüfgremium. Der AI Act macht daraus etwas, das ein Operating Model braucht.

Bestandsaufnahme. Ein vollständiges Verzeichnis der genutzten KI-Systeme, einschließlich derer, die in von Anbietern gekaufter Software stecken.

Einstufung. Eine einheitliche Methode, um festzustellen, welche Systeme in welche Risikokategorie fallen.

Zuständigkeit. Namentlich benannte Verantwortliche im Geschäft für jedes wesentliche System, mit klarer Rechenschaft.

Kontrollen. Dokumentation, Daten-Governance, menschliche Aufsicht und Überwachung, eingebaut in den Lebenszyklus.

Lieferantenmanagement. Verträge und Due Diligence, die sicherstellen, dass Anbieter liefern, was Betreiber zur Erfüllung ihrer eigenen Pflichten brauchen.

Kompetenz. Die Verordnung verlangt ausdrücklich, dass Organisationen sicherstellen, dass Personal, das mit KI zu tun hat, über ausreichende KI-Kompetenz verfügt.

Compliance oder Fähigkeit

Es gibt zwei Arten zu reagieren. Die eine ist eine juristische Übung: die Mindestanforderungen auslegen, die Dokumentation erstellen, das Audit bestehen. Die andere ist, die Verordnung als Zwangsmechanismus zu nutzen, um aufzubauen, was die meisten Organisationen ohnehin brauchten: Überblick über ihre KI-Systeme, klare Zuständigkeiten und eine Möglichkeit zu erkennen, wenn etwas schiefläuft.

Der zweite Ansatz kostet anfangs mehr. Er bringt aber auch etwas Wertvolles hervor. Organisationen, die wissen, welche KI sie wo und mit welchen Ergebnissen nutzen, werden KI schneller skalieren als jene, die ihre Systeme erst während eines Audits entdecken.

Für Private Equity ist der AI Act nun ein Thema der Due Diligence. Ein Zielunternehmen, das in Hochrisikobereichen ohne Governance auf KI setzt, trägt eine regulatorische Verbindlichkeit, die sich auf Bewertung und Wertsteigerungsplan auswirken sollte.

Führungsfrage: Wird KI-Compliance zu einer juristischen Übung, oder sollte sie eine Chance sein, eine vertrauenswürdigere und wettbewerbsfähigere Organisation aufzubauen?

Weiterlesen

  1. KI-Governance als Aufgabe des Aufsichtsrats: Ist der Aufsichtsrat bereit?

    Reihe Ethical AI, geschrieben 2026

  2. KI-Transparenz: Können wir wissen, ob wir mit einem Menschen oder einer Maschine sprechen?

    Reihe Ethical AI, geschrieben 2026

  3. Sicherheit von Frontier-KI: Sollten die leistungsfähigsten Modelle anderen Regeln unterliegen?

    Reihe Ethical AI, geschrieben 2026