NORBERT BIEDRZYCKI

Verantwortungsvolle KI und Unternehmensreputation: Kann ein Algorithmus jahrelanges Vertrauen zerstören?

Verantwortungsvolle KI und Unternehmensreputation: Kann ein Algorithmus jahrelanges Vertrauen zerstören?

Im Februar entschied ein Tribunal in British Columbia, dass Air Canada einen Kunden entschädigen muss, dem der Chatbot auf der Website der Fluggesellschaft falsche Informationen zu Trauerfalltarifen gegeben hatte. Air Canada argumentierte unter anderem, der Chatbot sei für seine eigenen Aussagen verantwortlich. Das Tribunal widersprach: Das Unternehmen ist für alle Informationen auf seiner Website verantwortlich, ob sie von einer statischen Seite oder einem Chatbot stammen. Der Streitwert war gering. Der Präzedenzfall und die Schlagzeilen waren es nicht.

Im Januar brachte ein frustrierter Kunde den Chatbot des Paketdienstes DPD dazu, zu fluchen und ein Gedicht darüber zu schreiben, wie nutzlos das Unternehmen sei. Die Screenshots gingen viral. DPD schaltete das KI-Element ab.

Ende Februar setzte Google die Bildgenerierung seines Modells Gemini aus, nachdem es historisch unzutreffende Bilder erzeugt hatte, offenbar im Bemühen um Vielfalt. Die Kritik war heftig, der Aktienkurs von Alphabet fiel in den folgenden Tagen spürbar, und der CEO sagte den Beschäftigten, die Antworten seien inakzeptabel gewesen.

Eine neue Art von Reputationsrisiko

Diese Vorfälle haben etwas gemeinsam. Keiner war ein katastrophales Systemversagen. In jedem interagierte ein KI-System direkt mit der Öffentlichkeit und erzeugte etwas Peinliches, Irreführendes oder Anstößiges. Und jeder wurde zu einer Geschichte über das Unternehmen, nicht über die Technologie.

Das ist die neue Reputationsdynamik. Wenn KI mit Kunden spricht, ist jedes Ergebnis eine mögliche öffentliche Aussage des Unternehmens. Anders als eine Pressemitteilung hat sie niemand vorher freigegeben. Und anders als ein klassischer Softwarefehler ist das Versagen für jeden leicht zu verstehen, festzuhalten und zu teilen.

Warum die Wirkung über den Vorfall hinausgeht

Der Schaden solcher Episoden bleibt selten beim Einzelfall.

Kunden beginnen, die anderen Produkte des Unternehmens infrage zu stellen. Wenn der Chatbot falsche Antworten gibt, was ist mit dem Rest?

Aufsichtsbehörden werden aufmerksam, besonders wenn Verbraucherschutz oder Diskriminierung berührt sind.

Beschäftigte fragen, ob die erklärten Werte des Unternehmens echt sind.

Investoren fragen sich, ob das Management die Risiken der Technologie versteht, die es einsetzt.

Der Fall Air Canada beendet auch ein Argument, zu dem viele Unternehmen versucht gewesen sein könnten. Eine Organisation kann sich nicht von ihrer KI distanzieren. Rechtlich und reputativ spricht das System für das Unternehmen.

KI-Risiko wie andere Unternehmensrisiken behandeln

Die praktische Schlussfolgerung ist, dass KI-Risiko mit derselben Ernsthaftigkeit und denselben Methoden bewertet werden sollte wie Finanz-, Cyber- und Reputationsrisiken. Das bedeutet Szenarioanalyse vor dem Start: Was ist das schlimmste plausible Ergebnis, das dieses System erzeugen könnte, und was würde passieren, wenn es das tut? Es bedeutet Red Teaming kundennaher Systeme mit Menschen, die versuchen, sie zum Scheitern zu bringen. Es bedeutet Überwachung im Betrieb und ein klares Verfahren, um ein System schnell abzuschalten. Und es bedeutet Krisenpläne, die einen KI-Vorfall vorwegnehmen, bevor er passiert.

Die meisten dieser Praktiken gibt es in anderen Risikobereichen bereits. Die Herausforderung ist, sie auf Systeme anzuwenden, deren Versagen weniger vorhersehbar und viel sichtbarer ist.

Führungsfrage: Sollten Unternehmen KI-Risiko genauso bewerten wie finanzielle, Cybersicherheits- und Reputationsrisiken?

Weiterlesen

  1. KI-Governance als Aufgabe des Aufsichtsrats: Ist der Aufsichtsrat bereit?

    Reihe Ethical AI, geschrieben 2026

  2. Verantwortungsvolle KI als Wettbewerbsvorteil: Kann Vertrauen zu einem wirtschaftlichen Wert werden?

    Reihe Ethical AI, geschrieben 2026

  3. Ethische KI 2020–2026: über diese Reihe