ChatGPT und die neue KI-Ethik: Was passiert, wenn alle Zugang zu Intelligenz haben?

ChatGPT erreichte geschätzt 100 Millionen Nutzer in etwa zwei Monaten, schneller als jede Verbraucheranwendung zuvor. Ein halbes Jahr nach dem Start sehen die ethischen Fragen, die es aufwirft, ganz anders aus als die, über die wir noch vor einem Jahr sprachen.
Einige Episoden aus diesem Frühjahr verdeutlichen den Wandel.
Ende März sperrte die italienische Datenschutzbehörde ChatGPT vorübergehend und verwies auf Bedenken hinsichtlich der Rechtsgrundlage für die Verarbeitung personenbezogener Daten und auf eine fehlende Altersprüfung. Der Dienst wurde einen Monat später wieder freigegeben, nachdem OpenAI Änderungen vorgenommen hatte.
Im April fügten Ingenieure bei Samsung vertraulichen Quellcode und Notizen aus internen Besprechungen in ChatGPT ein, um sich die Arbeit zu erleichtern. Samsung reagierte, indem es die Nutzung generativer KI-Werkzeuge auf Firmengeräten einschränkte.
In diesem Monat bestrafte ein Bundesrichter in New York zwei Anwälte, die einen Schriftsatz eingereicht hatten, in dem sechs nicht existierende Fälle zitiert wurden. ChatGPT hatte sie erfunden, und die Anwälte hatten es nicht geprüft.
Von spezialisierten Systemen zum universellen Zugang
Bis zum vergangenen Jahr drehte sich die ethische Debatte über KI vor allem um Systeme, die von Organisationen gebaut und eingesetzt wurden: Kreditmodelle, Rekrutierungsalgorithmen, Gesichtserkennung. Die Frage war, wie sich diese Organisationen verhalten sollten.
Generative KI verändert die Analyseeinheit. Die Systeme sind jetzt in den Händen von Hunderten Millionen Menschen und werden für Zwecke genutzt, die niemand entworfen, getestet oder genehmigt hat. Die Risiken betreffen nicht mehr nur, wie KI gebaut wird. Sie betreffen, wie sie genutzt wird.
Das neue Risikoprofil
Selbstsicherer Irrtum. Sprachmodelle erzeugen flüssigen, plausiblen Text, ob er wahr ist oder nicht. Der Avianca-Fall ist lustig, bis so etwas in einem medizinischen, juristischen oder finanziellen Kontext mit echten Folgen passiert.
Datenabfluss. Beschäftigte nutzen öffentliche Werkzeuge mit vertraulichen Informationen, weil sie dadurch produktiver werden. Die meisten Organisationen hatten im Januar keine Richtlinie dafür.
Verzerrung im großen Maßstab. Modelle, die auf Internettexten trainiert wurden, erben deren Verzerrungen und reproduzieren sie in Millionen Interaktionen.
Missbrauch. Dieselbe Fähigkeit, die eine Marketing-E-Mail schreibt, schreibt eine überzeugende Phishing-Kampagne.
Wo die Verantwortung jetzt liegt
Die Verantwortung verteilt sich jetzt auf mindestens drei Parteien: den Modellentwickler, die Organisation, die das Werkzeug einsetzt oder erlaubt, und den einzelnen Nutzer. Jede hat eine Rolle. Der Entwickler kann Schutzmechanismen bauen, die Organisation kann Regeln setzen und Menschen schulen, der Einzelne kann prüfen, bevor er vertraut.
Für Unternehmen ist die praktische Schlussfolgerung dringend. Generative KI zu verbieten funktioniert nicht, weil Beschäftigte sie auf eigenen Geräten nutzen werden. Sie zu ignorieren funktioniert nicht, weil die Risiken real sind. Der einzig gangbare Weg ist, freigegebene Werkzeuge bereitzustellen, klare Regeln zu Daten und Überprüfung zu setzen und Schulungen anzubieten, die nicht nur erklären, wie man die Werkzeuge nutzt, sondern auch, wo sie versagen.
Der tiefere Wandel ist kulturell. Zum ersten Mal braucht jeder Beschäftigte ein grundlegendes Verständnis davon, wie sich ein leistungsfähiges KI-System verhält. KI-Kompetenz wird Teil der beruflichen Kompetenz, so wie das Bewusstsein für Datenschutz nach der DSGVO.
Führungsfrage: Wer ist dafür verantwortlich, dass leistungsfähige KI-Werkzeuge sicher genutzt werden, wenn der Zugang zu ihnen nahezu universell wird?


