Die Verantwortungslücke: Wer ist verantwortlich, wenn KI selbstständig entscheidet?

Nehmen wir ein realistisches Szenario für dieses Jahr. Ein Unternehmen nutzt einen KI-Agenten zur Bearbeitung von Lieferantenrechnungen. Der Agent wurde von einem Softwareanbieter auf einem Foundation Model eines anderen Anbieters gebaut, von einem Beratungsunternehmen integriert und, im Prinzip, von einem Finanzteam beaufsichtigt. Eines Tages bezahlt er eine betrügerische Rechnung, nachdem er durch Anweisungen manipuliert wurde, die in einem E-Mail-Anhang versteckt waren.
Wer ist verantwortlich? Der Modellentwickler, dessen Modell den versteckten Anweisungen gefolgt ist? Der Softwareanbieter, der den Agenten entworfen hat? Der Integrator, der seine Berechtigungen konfiguriert hat? Das Finanzteam, das den Prozess genehmigt hat? Oder das Unternehmen, dessen Geld weg ist?
Jeder kann vernünftig argumentieren, dass das Versagen jemand anderem gehört. Das ist die Verantwortungslücke.
Wie die Lücke entsteht
In früheren KI-Generationen unterstützte die Technologie meist menschliche Entscheidungen. Ein Modell lieferte einen Score, ein Mensch traf die Entscheidung. Die Verantwortung folgte dem Menschen.
Agentische Systeme ändern das. Sie führen mehrstufige Arbeitsabläufe aus, interagieren mit externen Diensten und ergreifen Handlungen mit realen Folgen, oft schneller, als ein Mensch sie prüfen könnte. Die Entscheidung ist kein einzelner Moment mehr, der sich einer einzelnen Person zuordnen lässt. Sie verteilt sich auf eine Kette von Komponenten, die jeweils von einer anderen Partei gebaut wurden.
Gerichte beginnen, sich damit auseinanderzusetzen. Im Fall Mobley gegen Workday in den USA ließ ein Gericht Ansprüche zu, die darauf beruhen, dass ein KI-Anbieter, der für Arbeitgeber Bewerber vorsortiert, selbst als deren Beauftragter haften könnte, und ließ den Fall später als Sammelverfahren zu. Das Urteil zum Chatbot von Air Canada aus dem Jahr 2024 stellte, zumindest auf der Ebene geringfügiger Ansprüche, fest, dass ein Unternehmen die Verantwortung für das, was seine KI Kunden sagt, nicht abstreifen kann.
Auch die Regulierer bewegen sich, wenn auch nicht immer geradlinig. Der AI Act der EU definiert Pflichten für Anbieter und Betreiber. Im November schlug die Kommission im Rahmen eines breiteren Vereinfachungspakets vor, die Anwendung einiger Pflichten für Hochrisikosysteme zu verschieben. Wie auch immer der endgültige Zeitplan aussieht, die Richtung bleibt dieselbe: Verantwortung folgt den Rollen, und Betreiber können ihre nicht auslagern.
Verantwortung kann nicht verschwinden
Der Philosoph Hans Jonas argumentierte, dass technologische Macht eine neue Ethik der Verantwortung erfordert, weil unsere Handlungen heute Folgen haben, die weiter reichen als unsere Fähigkeit, sie vorherzusehen. Sein Argument galt der Zivilisation. Es passt ebenso gut auf eine Finanzabteilung, die einen KI-Agenten betreibt.
Komplexität ist keine Ausrede. Wenn überhaupt, erhöht sie den Bedarf an bewusst gestalteter Verantwortung.
Die Lücke in der Praxis schließen
Ein verantwortlicher Eigentümer pro Agent. Jedes autonome System braucht eine namentlich benannte verantwortliche Person im Geschäft, die für seine Ergebnisse einsteht, unabhängig davon, wer es gebaut hat.
Ausdrückliche Entscheidungsgrenzen. Ein schriftliches Mandat: was der Agent allein entscheiden darf, was eine Bestätigung erfordert, was er nie tun darf.
Prüfbarkeit von Anfang an. Protokolle, die es ermöglichen zu rekonstruieren, was passiert ist und warum.
Verträge, die die Realität abbilden. Lieferantenverträge, die Verantwortlichkeiten, Testpflichten, Meldung von Vorfällen und Haftung für KI-Komponenten festlegen.
Eskalation und Notabschaltung. Klare Verfahren, um einen Agenten zu stoppen und seine Handlungen rückgängig zu machen.
Nichts davon ist exotisch. Es ist dieselbe Disziplin, die Organisationen anwenden, wenn sie Befugnisse an Menschen delegieren. Der Unterschied ist, dass Menschen Urteilsvermögen, Kontext und persönliche Verantwortung mitbringen. Agenten nicht, also muss die Organisation alle drei liefern.
Führungsfrage: Können Organisationen Entscheidungen an KI delegieren, ohne die Verantwortung zu delegieren?


