# KI-Transparenz: Können wir wissen, ob wir mit einem Menschen oder einer Maschine sprechen?

Author: Norbert Biedrzycki
Published: 2025-11-15
Language: de
URL: https://norbertbiedrzycki.pl/de/ki-transparenz-mensch-oder-maschine/
Summary: Transparenz ist keine Etikettierübung. Ihr Zweck ist, Menschen informierte Entscheidungen zu ermöglichen. KI sollte offengelegt werden, wo es verändern würde, wie eine vernünftige Person ein Ergebnis versteht oder sich darauf verlässt.

Im Oktober erklärte sich Deloitte Australien bereit, der australischen Regierung einen Teil des Honorars für einen Bericht im Wert von 440.000 australischen Dollar zurückzuzahlen, der das IT-System hinter automatisierten Sanktionen im Sozialsystem untersuchte. Ein Wissenschaftler hatte festgestellt, dass der Bericht Verweise auf nicht existierende Forschungsarbeiten und ein erfundenes Zitat aus einem Urteil eines Bundesgerichts enthielt. Eine überarbeitete Fassung legte offen, dass bei der Erstellung ein Werkzeug generativer KI verwendet worden war. Deloitte hielt an den Befunden und Empfehlungen des Berichts fest.

Die Ironie ist schwer zu übersehen. Ein Bericht über die Risiken automatisierter Entscheidungen im Sozialsystem, einem Bereich, in dem Australien nach dem Robodebt-Skandal schmerzhafte Erfahrungen gemacht hat, wurde selbst durch nicht offengelegte Automatisierung untergraben.

## Zwei Transparenzprobleme

Der Fall illustriert zwei unterschiedliche Transparenzfragen, die oft vermischt werden.

**Offenlegung der Nutzung.** Wussten die Menschen, die sich auf eine Arbeit, eine Entscheidung oder eine Interaktion verließen, dass KI beteiligt war?

**Offenlegung der Natur.** Ist ein bestimmter Inhalt, ein Bild, eine Stimme oder eine Nachricht, echt oder synthetisch?

Beide werden dringlich. Kunden interagieren zunehmend mit KI-Systemen, ohne es zu wissen. Berufliche Arbeitsergebnisse werden zunehmend von Modellen mitgeschrieben. Synthetische Bilder und Stimmen sind für die meisten Menschen inzwischen nicht mehr von echten zu unterscheiden.

## Wohin die Regulierung geht

Der AI Act der EU adressiert beides. Ab August 2026 verlangen seine Transparenzpflichten, dass Menschen informiert werden, wenn sie mit einem KI-System interagieren, sofern es nicht offensichtlich ist, und dass synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar gekennzeichnet und als künstlich erzeugt erkennbar sind. Deepfakes müssen offengelegt werden. Die Kommission arbeitet an einem Verhaltenskodex für die Markierung und Kennzeichnung KI-generierter Inhalte.

Parallel entwickeln sich technische Standards. Der Standard C2PA für Content Credentials hängt einer Datei überprüfbare Informationen über ihre Herkunft und Bearbeitungsgeschichte an. SynthID von Google bettet Wasserzeichen in KI-generierte Inhalte ein. Keine dieser Lösungen ist vollständig, und Wasserzeichen lassen sich entfernen. Zusammen beginnen sie aber, eine Infrastruktur der Herkunftsnachweise zu schaffen.

## Mehr als Etiketten

Transparenz wird oft als Etikettierübung behandelt: einen Hinweis „mit KI erstellt“ hinzufügen, und die Pflicht ist erfüllt. Das verfehlt den Zweck.

Der Sinn von Transparenz ist, Menschen informierte Entscheidungen zu ermöglichen. Ein Kunde sollte wissen, ob der Rat, den er erhält, von einem System stammt, das auf bestimmte Weise falsch liegen kann. Ein Kunde, der für einen Fachbericht bezahlt, sollte wissen, wie er entstanden ist und was geprüft wurde. Eine Mitarbeiterin, die eine Nachricht der Führung erhält, sollte deren Quelle vertrauen können.

Für Beratungs- und Dienstleistungsunternehmen stellt der Fall Deloitte eine schärfere Frage. Wenn Kunden für Expertise bezahlen, bezahlen sie für Urteilsvermögen und Überprüfung, nicht nur für Text. KI zu nutzen, ist nicht das Problem. Sie ohne Offenlegung und ohne gründliche Prüfung zu nutzen, untergräbt genau das, was der Kunde kauft.

Für Organisationen ist eine praktikable Regel, KI dort offenzulegen, wo es verändern würde, wie eine vernünftige Person ein Ergebnis versteht oder sich darauf verlässt. Das umfasst Kundeninteraktionen, berufliche Arbeitsergebnisse und alles, was als Beleg präsentiert wird. Es muss nicht jede Rechtschreibprüfung umfassen.

> *Führungsfrage: Sollten Unternehmen verpflichtet sein, jede wesentliche Nutzung von KI offenzulegen, und welches Maß an Transparenz ist nötig, um öffentliches Vertrauen zu erhalten?*
