# Ethics Washing bei KI: Reichen Unternehmensprinzipien aus?

Author: Norbert Biedrzycki
Published: 2020-12-15
Language: de
URL: https://norbertbiedrzycki.pl/de/ethics-washing-bei-ki-reichen-unternehmensprinzipien-aus/
Summary: Ein Prinzip, das nie eine Produkteinführung gestoppt, einen Vertrag verzögert oder Umsatz gekostet hat, ist eine Absichtserklärung, kein Governance-Mechanismus.

Anfang dieses Monats verließ Timnit Gebru, Co-Leiterin des Ethical-AI-Teams von Google und eine der angesehensten Forscherinnen auf dem Gebiet, das Unternehmen nach einem Streit über eine Forschungsarbeit zu den Risiken großer Sprachmodelle. Tausende Google-Beschäftigte und Wissenschaftler unterzeichneten Protestbriefe. Wie auch immer die ganze Geschichte aussieht, die Episode warf für die gesamte Branche eine unbequeme Frage auf: Was passiert, wenn ethische Prinzipien auf kommerzielle Prioritäten treffen?

## Eine Flut von Prinzipien

Die letzten Jahre haben eine außergewöhnliche Zahl von Dokumenten zur KI-Ethik hervorgebracht. Eine Studie von Anna Jobin und Kollegen aus dem Jahr 2019 in „Nature Machine Intelligence“ identifizierte 84 Sätze von KI-Ethikleitlinien, die von Unternehmen, Regierungen und Institutionen veröffentlicht wurden. Das globale Verzeichnis von AlgorithmWatch listet inzwischen weit über hundert.

Sie laufen auf ein vertrautes Vokabular hinaus: Fairness, Transparenz, Privatsphäre, menschliche Aufsicht, Rechenschaft, Gemeinwohl. Fast jedes große Technologieunternehmen hat seine eigene Version veröffentlicht.

Diese Annäherung sieht nach Fortschritt aus. Sie ist auch ein Warnsignal. Wenn sich alle über die Prinzipien einig sind, sind es nicht mehr die Prinzipien, die verantwortungsvolle von verantwortungslosen Organisationen unterscheiden.

## Die Umsetzungslücke

Der eigentliche Test ist nicht, was ein Unternehmen sagt. Er ist, worauf es zu verzichten bereit ist. Ein Prinzip, das nie eine Produkteinführung gestoppt, einen Vertrag verzögert oder Umsatz gekostet hat, ist eine Absichtserklärung, kein Governance-Mechanismus.

Es gibt Anzeichen echter Veränderung. Im Juni kündigte IBM an, keine allgemeine Gesichtserkennung mehr anzubieten, und Amazon und Microsoft setzten den Verkauf der Technologie an die US-Polizei aus. Das waren Entscheidungen mit kommerziellen Folgen.

In vielen Organisationen ist die Lücke zwischen Prinzipien und Praxis aber groß. Ethikgremien ohne Entscheidungsrechte. Prüfverfahren, die optional sind. Teams für verantwortungsvolle KI, die weit entfernt von den Produktteams sitzen und keinen Einfluss auf deren Roadmaps haben. Anreize, die Geschwindigkeit bis zur Markteinführung belohnen und sonst nichts.

So sieht Ethics Washing aus. Meist keine Heuchelei, sondern eine Struktur, in der gute Absichten keinen Mechanismus haben, einen Streit zu gewinnen.

## Von Werten zu Mechanismen

Aus Governance-Sicht werden ethische Prinzipien erst real, wenn sie in vier Dinge übersetzt werden.

**Entscheidungsrechte.** Jemand mit der Befugnis, ein System zu stoppen oder zu ändern, und ein klares Verfahren, um sie zu nutzen.

**Kontrollen.** Konkrete Prüfungen, die in den Entwicklungs- und Beschaffungszyklus eingebaut sind, statt am Ende angehängt zu werden.

**Messung.** Tests und Kennzahlen, die zeigen können, ob ein System dem Prinzip entspricht.

**Rechenschaft.** Ein Vorstandsmitglied, dessen Leistungsbeurteilung davon abhängt.

Das ist dieselbe Unterscheidung, die ich bei jeder anderen Unternehmensverpflichtung treffen würde. Ein Unternehmen hat keine Sicherheitskultur, weil es eine Sicherheitsrichtlinie hat. Es hat eine, wenn ein Linienvorgesetzter die Produktion anhalten kann, ohne Konsequenzen zu fürchten. Bei KI wird es irgendwann genauso sein.

> *Führungsfrage: Ist ethische KI eine echte Fähigkeit der Organisation oder nur eine neue Form des Reputationsmanagements?*
