NORBERT BIEDRZYCKI

Können wir den Algorithmen vertrauen? Die ethische Herausforderung der künstlichen Intelligenz

Können wir den Algorithmen vertrauen? Die ethische Herausforderung der künstlichen Intelligenz

Im August erhielten Hunderttausende britische Schülerinnen und Schüler ihre A-Level-Ergebnisse. Weil die Prüfungen wegen der Pandemie ausgefallen waren, wurden die Noten von einem Algorithmus berechnet, den die Prüfungsbehörde Ofqual entworfen hatte. Rund 40 Prozent der Ergebnisse fielen schlechter aus, als die Lehrkräfte vorhergesagt hatten, und Schülerinnen und Schüler von Schulen, die historisch schlechter abschnitten, traf es am härtesten. Innerhalb weniger Tage protestierten sie vor dem Bildungsministerium, die Regierung machte eine Kehrtwende, und der Algorithmus wurde aufgegeben.

Im Februar untersagte ein Gericht in Den Haag der niederländischen Regierung den Einsatz von SyRI, einem System, das Daten mehrerer Behörden kombinierte, um Bürger für Ermittlungen wegen Sozialbetrugs zu markieren. Das Gericht befand, dass es das Recht auf Privatsphäre nach der Europäischen Menschenrechtskonvention verletzte, unter anderem weil niemand der Betroffenen verstehen konnte, wie es zu seinen Schlüssen kam.

Im Juni wurde der Fall von Robert Williams öffentlich. Er wurde in Detroit vor den Augen seiner Familie festgenommen, nachdem ein Gesichtserkennungssystem sein Führerscheinfoto fälschlich mit Aufnahmen einer Überwachungskamera abgeglichen hatte.

Drei Länder, drei Systeme, dieselbe Lektion. Algorithmen treffen oder prägen heute Entscheidungen, die das Leben von Menschen verändern, und unsere Fähigkeit, sie zu verstehen und zu hinterfragen, hat nicht Schritt gehalten.

Die Vertrauenslücke

Joseph Weizenbaum, der in den 1960er-Jahren einen der ersten Chatbots baute, warnte in „Die Macht der Computer und die Ohnmacht der Vernunft“, dass es einen Unterschied zwischen Entscheiden und Wählen gibt. Ein Computer kann entscheiden, im Sinne von Berechnen. Wählen erfordert Urteilsvermögen, und Urteilsvermögen bringt Verantwortung mit sich. Fast ein halbes Jahrhundert später liest sich diese Unterscheidung wie eine Beschreibung unseres Problems.

Vertrauen in eine algorithmische Entscheidung hängt von drei Fragen ab, die die meisten eingesetzten Systeme noch nicht beantworten können.

Ist sie fair? Behandelt sie vergleichbare Menschen vergleichbar, und woher sollte das jemand wissen?

Lässt sie sich erklären? Kann die Organisation einem Menschen sagen, warum die Entscheidung so ausgefallen ist?

Wer ist verantwortlich? Wenn etwas schiefgeht, gibt es einen Menschen oder eine Institution, die dafür einsteht?

Im Fall der A-Levels lautete die Antwort auf alle drei Fragen nein. Deshalb brach ein statistisch vertretbares Modell innerhalb einer Woche politisch zusammen.

Warum das zu einer geschäftlichen Frage wird

Bis vor Kurzem wurde KI-Ethik an Universitäten, in Thinktanks und in Nachhaltigkeitsberichten von Unternehmen diskutiert. Das ändert sich. Personalauswahl, Kreditbewertung, Versicherungstarife, Betrugserkennung und Kundenservice bewegen sich alle in Richtung automatisierter Entscheidungen. An jeder dieser Stellen kann ein Unternehmen heute denselben Vertrauenszusammenbruch erleben wie Ofqual.

Die Folge ist, dass ethische KI von der gesellschaftlichen Verantwortung von Unternehmen in Strategie und Risikomanagement wandert. Ein Modell, das sich nicht erklären lässt, lässt sich nicht vor einer Aufsichtsbehörde, einem Gericht oder einer Journalistin verteidigen. Ein Modell, das sich nicht verteidigen lässt, wird am Ende abgeschaltet, oft erst, nachdem der Schaden entstanden ist.

Die Frage für Führungsteams ist nicht, ob ihre KI genau ist. Sie ist, ob sie vor die Betroffenen treten und sie erklären könnten.

Führungsfrage: Können Organisationen KI in großem Maßstab einsetzen, ohne die Entscheidungen, die sie trifft, erklären oder begründen zu können?

Weiterlesen

  1. Ethische KI 2020–2026: über diese Reihe

  2. Die Ethik der KI und die menschliche Autonomie: Geben wir zu viel Kontrolle ab?

    Reihe Ethical AI, geschrieben 2026

  3. Die Verantwortungslücke: Wer ist verantwortlich, wenn KI selbstständig entscheidet?

    Reihe Ethical AI, geschrieben 2026