NORBERT BIEDRZYCKI

Wem gehört das KI-Risiko? Das fehlende Glied zwischen Technologie und Corporate Governance

Wem gehört das KI-Risiko? Das fehlende Glied zwischen Technologie und Corporate Governance

Vor einem Jahr schloss Zillow Zillow Offers, sein Geschäft, Häuser direkt auf Basis algorithmischer Preisschätzungen zu kaufen. Die Modelle hatten nicht vorhergesehen, wie schnell sich der Immobilienmarkt ändern würde, das Unternehmen saß auf Tausenden Häusern, die weniger wert waren, als es dafür bezahlt hatte, und kündigte an, rund ein Viertel seiner Belegschaft abzubauen. Eine algorithmische Fehleinschätzung wurde zu einem strategischen Fehlschlag, einer großen Abschreibung und einer Geschichte über Governance.

In diesem Jahr verhängten Aufsichtsbehörden in mehreren europäischen Ländern Bußgelder gegen Clearview AI, weil das Unternehmen ohne Einwilligung Milliarden Gesichtsbilder abgegriffen hatte. Im August veröffentlichte das US National Institute of Standards and Technology den zweiten Entwurf seines AI Risk Management Framework, die endgültige Fassung wird Anfang nächsten Jahres erwartet.

Verschiedene Ereignisse, eine gemeinsame Frage. Wenn KI schiefgeht, wem in der Organisation gehört das Risiko?

Die heutige Antwort: niemandem im Besonderen

In vielen Unternehmen liegt KI-Risiko standardmäßig bei der Technologiefunktion. Data Scientists bauen Modelle, die IT setzt sie ein, und Governance ist, wo es sie überhaupt gibt, eine technische Prüfung.

Doch schauen wir, woraus KI-Risiko tatsächlich besteht. Diskriminierung ist ein rechtliches und reputatives Risiko. Verletzungen der Privatsphäre sind ein regulatorisches Risiko. Modellfehler können finanzielle Risiken sein, wie Zillow zeigt. Sicherheitslücken sind operative Risiken. Der Verlust von Kundenvertrauen ist ein kommerzielles Risiko.

Keines davon ist in erster Linie technisch. Alle landen irgendwann auf der Agenda des Aufsichtsrats, meist im Nachhinein.

Was NIST richtig macht

Das NIST-Rahmenwerk ist freiwillig und bewusst allgemein gehalten. Sein Wert liegt in seiner Struktur. Es ordnet KI-Risikomanagement in vier Funktionen: steuern, erfassen, messen und managen. Und es stellt die Steuerung an den Anfang, als übergreifende Funktion, die Kultur, Verantwortlichkeit und Rollen in der ganzen Organisation festlegt.

Das ist die entscheidende Einsicht. KI-Risikomanagement ist kein Schritt der Modellvalidierung. Es ist ein organisatorisches System, das Verantwortliche in Recht, Compliance, Sicherheit, Daten, operativem Geschäft und Vorstand braucht.

Ein praktisches Modell

Nach meiner Erfahrung mit regulierten Organisationen hat eine funktionierende Struktur drei Linien, ähnlich wie beim Finanzrisiko.

Verantwortliche im Geschäft stehen für die KI-Systeme in ihren Prozessen ein, einschließlich der Ergebnisse, nicht nur der Leistung.

Eine zentrale Funktion, oft mit Kompetenzen aus Risiko, Recht und Daten, setzt Standards, führt ein Verzeichnis der KI-Systeme und prüft die mit hohem Risiko.

Interne Revision und Aufsichtsrat sorgen für unabhängige Aufsicht und fragen, ob das System funktioniert.

Die konkrete Ausgestaltung ist weniger wichtig als das Prinzip. Jedes wesentliche KI-System sollte einen namentlich benannten Verantwortlichen im Geschäft haben, und KI-Risiko sollte im Risikoregister des Unternehmens neben Kredit-, Markt-, operationellem und Cyberrisiko stehen.

Die Frage des Aufsichtsrats

Aufsichtsräte müssen keine neuronalen Netze verstehen. Sie müssen aber ein paar einfache Fragen stellen. Welche KI-Systeme treffen oder prägen in diesem Unternehmen wesentliche Entscheidungen? Wem gehört jedes davon? Woran würden wir erkennen, dass eines versagt? Die meisten Aufsichtsräte bekämen heute keine klare Antwort.

Führungsfrage: Sollte KI-Risiko vom CIO oder CTO gesteuert werden, oder sollte es zu einer dauerhaften Verantwortung von Aufsichtsrat und Vorstand werden?

Weiterlesen

  1. KI-Transparenz: Können wir wissen, ob wir mit einem Menschen oder einer Maschine sprechen?

    Reihe Ethical AI, geschrieben 2026

  2. Human in the Loop: Braucht KI menschliche Aufsicht, um verantwortungsvoll zu bleiben?

    Reihe Ethical AI, geschrieben 2026

  3. Ethics Washing bei KI: Reichen Unternehmensprinzipien aus?

    Reihe Ethical AI, geschrieben 2026