NORBERT BIEDRZYCKI

KI-Governance als Aufgabe des Aufsichtsrats: Ist der Aufsichtsrat bereit?

KI-Governance als Aufgabe des Aufsichtsrats: Ist der Aufsichtsrat bereit?

Die im März letzten Jahres veröffentlichte Umfrage State of AI von McKinsey ergab, dass in 28 Prozent der Organisationen, die KI nutzen, der CEO für die Aufsicht über KI-Governance zuständig ist, und nur 17 Prozent angaben, dass es ihr Aufsichtsgremium sei. Dieselbe Forschung fand, dass die Aufsicht des CEO über KI-Governance zu den Faktoren gehörte, die am engsten mit einem höheren berichteten Ergebnisbeitrag generativer KI zusammenhingen, besonders in größeren Unternehmen.

Diese beiden Zahlen beschreiben die Lage vieler Aufsichtsräte. KI prägt zunehmend Strategie, Betrieb, Risiko und Belegschaft. Ihre Steuerung liegt meist woanders.

Warum KI auf die Agenda des Aufsichtsrats gehört

Die Folgen von KI-Entscheidungen reichen heute in jeden Bereich, für den ein Aufsichtsrat verantwortlich ist.

Strategie. KI verändert Wettbewerbspositionen und Geschäftsmodelle, wie ich in meiner Reihe über Transformation argumentiert habe.

Kapitalallokation. KI-Investitionen gehören zu den größten frei verfügbaren Ausgabenentscheidungen vieler Unternehmen, und die Belege für Renditen sind uneinheitlich.

Risiko. Regulatorische Risiken aus dem AI Act und ähnlichen Gesetzen, Rechtsstreitigkeiten, Cyberrisiken, operative Ausfälle autonomer Systeme.

Belegschaft. Entscheidungen über Automatisierung, Umschulung und Organisationsgestaltung.

Reputation. Wie die Vorfälle der letzten zwei Jahre zeigen, kann ein einziges sichtbares KI-Versagen jahrelang aufgebautes Vertrauen beschädigen.

Im Gesellschaftsrecht haben Aufsichtsorgane die Pflicht, wesentliche Risiken zu überwachen. In den USA haben die Gerichte in Delaware in Fällen wie Marchand gegen Barnhill klargestellt, dass Boards haften können, wenn sie für ein geschäftskritisches Risiko kein Berichtssystem einrichten. Für eine wachsende Zahl von Unternehmen wird KI genau zu einem solchen Risiko.

Was Kompetenz tatsächlich bedeutet

Die übliche Antwort ist der Ruf nach KI-Experten im Aufsichtsrat. Das ist nützlich, aber nicht ausreichend. Ein einzelnes Expertenmitglied kann zu der Person werden, der alle anderen sich unterordnen, und das ist das Gegenteil von Aufsicht.

Was Aufsichtsräte brauchen, ist gemeinsame Kompetenz, die ausreicht, um das Management herauszufordern. In der Praxis bedeutet das, gute Fragen stellen zu können.

Wo trifft oder prägt KI in diesem Unternehmen wesentliche Entscheidungen, und wer ist jeweils dafür verantwortlich?

Welchen Wert hat KI tatsächlich geliefert, gemessen in GuV-Begriffen, und woher wissen wir das?

Was sind unsere drei bedeutendsten KI-Risiken, und wie würden wir ein Versagen erkennen?

Von welchen Anbietern und Modellen sind wir abhängig, und was passiert, wenn einer ausfällt oder seine Bedingungen ändert?

Wie bereiten wir unsere Menschen vor, und was automatisieren wir bewusst nicht?

Die Strukturfrage

Manche Aufsichtsräte weisen KI dem Prüfungs- oder Risikoausschuss zu. Andere Technologieausschüssen. Einige wenige gründen eigene Ausschüsse. Die Struktur ist weniger wichtig als zwei Dinge: dass KI regelmäßig besprochen wird, nicht einmal im Jahr in einer Strategiesitzung, und dass der Aufsichtsrat Informationen in einer Form erhält, die es ihm ermöglicht, Fragen zu stellen und Widerspruch zu leisten, nicht nur informiert zu werden.

Aus meiner eigenen Erfahrung in Aufsichtsratsrollen geht es in der wertvollsten Diskussion eines Aufsichtsrats über KI selten um die Technologie. Es geht um Entscheidungen: welche das Unternehmen an Maschinen delegiert, auf welcher Grundlage und mit welchen Schutzmaßnahmen.

Führungsfrage: Kann ein Aufsichtsrat ein Unternehmen angemessen beaufsichtigen, dessen folgenreichste Entscheidungen zunehmend von Technologien beeinflusst werden, die er nicht vollständig versteht?

Weiterlesen

  1. Verantwortungsvolle KI und Unternehmensreputation: Kann ein Algorithmus jahrelanges Vertrauen zerstören?

    Reihe Ethical AI, geschrieben 2026

  2. Verantwortungsvolle KI als Wettbewerbsvorteil: Kann Vertrauen zu einem wirtschaftlichen Wert werden?

    Reihe Ethical AI, geschrieben 2026

  3. Ethische KI 2020–2026: über diese Reihe