NORBERT BIEDRZYCKI

Die AI Bill of Rights: Sollten Menschen das Recht haben, automatisierte Entscheidungen anzufechten?

Die AI Bill of Rights: Sollten Menschen das Recht haben, automatisierte Entscheidungen anzufechten?

Anfang dieses Monats veröffentlichte das Office of Science and Technology Policy des Weißen Hauses den Blueprint for an AI Bill of Rights. Er legt fünf Prinzipien für automatisierte Systeme fest, die das Leben von Menschen beeinflussen.

Sichere und wirksame Systeme. Menschen sollten vor Systemen geschützt werden, die unsicher sind oder nicht wie vorgesehen funktionieren.

Schutz vor algorithmischer Diskriminierung. Systeme sollten gerecht entworfen und eingesetzt werden.

Datenschutz. Menschen sollten Einfluss darauf haben, wie ihre Daten verwendet werden.

Hinweis und Erklärung. Menschen sollten wissen, wann ein automatisiertes System eingesetzt wird, und verstehen, wie es sie betrifft.

Menschliche Alternativen, Prüfung und Rückfalloption. Menschen sollten sich, wo angemessen, dagegen entscheiden und einen Menschen erreichen können, der Probleme prüft und behebt.

Das Dokument ist rechtlich nicht bindend. Kritiker auf der einen Seite nennen es zahnlos. Kritiker auf der anderen sehen darin einen ersten Schritt zu schwerer Regulierung. Beide übersehen, was ich daran am interessantesten finde.

Ein Perspektivwechsel

Die meiste KI-Governance wurde bisher aus der Perspektive der Organisation geschrieben, die das System einsetzt. Welche Risiken entstehen für das Unternehmen? Welche Kontrollen sollte das Unternehmen haben?

Der Blueprint ist aus der Perspektive der betroffenen Person geschrieben. Er fragt, welche Rechte ein Mensch haben sollte, wenn ein automatisiertes System über seinen Job, seinen Kredit, seine Leistungen oder seine medizinische Versorgung entscheidet.

Das ist ein bedeutender Wandel, und Europa ist auf demselben Weg bereits weiter. Artikel 22 der DSGVO gibt Menschen das Recht, keiner ausschließlich automatisierten Entscheidung mit erheblichen Auswirkungen unterworfen zu werden, sowie das Recht auf menschliches Eingreifen und auf Anfechtung der Entscheidung. Der vorgeschlagene AI Act der EU baut auf ähnlichen Ideen auf.

Warum das letzte Prinzip das schwierigste ist

Für Unternehmen ist das anspruchsvollste Prinzip das letzte: eine menschliche Alternative und eine Möglichkeit, Probleme zu beheben.

Das klingt einfach. In der Praxis verlangt es von einer Organisation, Menschen vorzuhalten, die den automatisierten Prozess gut genug verstehen, um ihn zu prüfen, die Befugnis haben, ihn zu übersteuern, und die Kapazität, Einsprüche in großem Maßstab zu bearbeiten. Viele Unternehmen haben genau deshalb automatisiert, um diese Kosten loszuwerden.

Hier besteht eine echte Spannung. Der wirtschaftliche Nutzen von Automatisierung hängt oft davon ab, menschliche Prüfung abzuschaffen. Der ethische und zunehmend auch rechtliche hängt davon ab, sie zu behalten, zumindest dort, wo Entscheidungen von Gewicht sind.

Genauigkeit ist nicht die ganze Antwort

Die Frage, die der Blueprint der Wirtschaft stellt, ist, ob ein technisch genauer Algorithmus ausreicht. Meine Antwort ist nein, aus einem praktischen, nicht philosophischen Grund. Selbst ein sehr genaues System wird für manche Menschen falsch liegen. Wenn diese Menschen keine Möglichkeit haben, die Entscheidung zu verstehen oder anzufechten, wird jeder Fehler zu einer möglichen Beschwerde, einem Verfahren der Aufsicht oder einer Zeitungsgeschichte.

Die Möglichkeit des Einspruchs ist nicht nur ein Recht des Einzelnen. Sie ist ein Mechanismus zur Fehlerkorrektur für die Organisation. Unternehmen, die ihn gut gestalten, lernen schneller, wo ihre Systeme versagen.

Führungsfrage: Sollten Menschen das Recht haben, Entscheidungen künstlicher Intelligenz zu verstehen, zu hinterfragen und anzufechten?

Weiterlesen

  1. Ethische KI 2020–2026: über diese Reihe

  2. Die Ethik der KI und die menschliche Autonomie: Geben wir zu viel Kontrolle ab?

    Reihe Ethical AI, geschrieben 2026

  3. Die Verantwortungslücke: Wer ist verantwortlich, wenn KI selbstständig entscheidet?

    Reihe Ethical AI, geschrieben 2026