Die Ethik der KI und die menschliche Autonomie: Geben wir zu viel Kontrolle ab?

Im vergangenen Jahr gaben zwei Studien einen frühen Einblick in eine Frage, die die nächste Phase der KI-Debatte prägen wird. Forscher von Microsoft und der Carnegie Mellon University befragten Wissensarbeiter und stellten fest, dass höheres Vertrauen in generative KI mit weniger kritischem Denken einherging, während höheres Vertrauen in die eigenen Fähigkeiten mit mehr kritischem Denken verbunden war. Eine Studie am MIT Media Lab, klein und bei ihrer Veröffentlichung noch nicht begutachtet, maß die Hirnaktivität von Menschen beim Schreiben von Aufsätzen und fand eine geringere Beteiligung bei denen, die sich auf ein Sprachmodell stützten.
Keine der beiden Studien ist abschließend. Beide weisen in dieselbe Richtung. Je mehr Denken wir delegieren, desto weniger üben wir es womöglich.
Die Frage hinter den Fragen
Sechs Jahre lang hat diese Reihe die ethische Debatte durch ihre Stadien verfolgt: Verzerrung, Erklärbarkeit, Regulierung, generative KI, Verantwortung. Alle diese Fragen setzen voraus, dass KI auf Menschen einwirkt, und fragen, wie man diese Einwirkung fair, transparent und verantwortbar macht.
Die letzte Frage ist anders. Es geht nicht darum, was KI mit uns macht. Es geht darum, was wir selbst nicht mehr tun.
Hannah Arendt argumentierte, dass Denken kein Luxus für Philosophen ist, sondern eine Bedingung verantwortlichen Handelns. Menschen, die aufhören, über ihr Tun nachzudenken, werden fähig, an Dingen mitzuwirken, die sie nie bewusst wählen würden. Martin Heidegger warnte, dass Technik dazu neigt, alles, einschließlich der Menschen, in zu optimierende Ressourcen zu verwandeln. Beide schrieben lange vor dem maschinellen Lernen. Beide beschreiben das Risiko mit unbequemer Genauigkeit.
Autonomie in der Praxis
Menschliche Autonomie klingt abstrakt. In Organisationen ist sie konkret.
Berufliches Urteilsvermögen. Wenn junge Analysten, Juristinnen und Ingenieure nie die Arbeit machen, die Urteilsvermögen aufbaut, woher soll die nächste Generation erfahrener Fachleute kommen?
Eigentum an Entscheidungen. Wenn eine Führungskraft einer KI-Empfehlung folgt, hat sie entschieden oder nur zugestimmt?
Informationsdiät. Wenn KI-Systeme auswählen und zusammenfassen, was wir lesen, prägen sie, was wir für wichtig halten.
Zugang zu Chancen. Wenn KI Einstellungen, Kredite und Gesundheitsversorgung beeinflusst, müssen Menschen eine echte Möglichkeit behalten, Entscheidungen über ihr Leben zu verstehen und anzufechten.
Die Frage ist nicht, ob KI bei einer bestimmten Aufgabe bessere Entscheidungen trifft als Menschen. Oft wird sie das. Die Frage ist, ob Menschen die Fähigkeit und das Recht behalten, Entscheidungen zu treffen, die ihnen wichtig sind, und die zu verstehen, die über sie getroffen werden.
Was Führungskräfte entscheiden können
Das ist kein Aufruf, KI zu bremsen. Es ist ein Aufruf zu bewussten Entscheidungen darüber, welche Fähigkeiten Organisationen menschlich halten wollen.
Einige Unternehmen beginnen, das ausdrücklich zu tun. Sie legen Entscheidungen fest, die immer bei Menschen bleiben werden. Sie gestalten Arbeit so, dass Beschäftigte weiterhin Urteilsvermögen ausüben und entwickeln, statt nur maschinelle Ergebnisse zu prüfen. Sie messen nicht nur Produktivität, sondern auch die Tiefe der Expertise in ihren Teams.
Blicke ich auf sieben Jahre zurück, ist die Schlussfolgerung dieser Reihe die These, mit der ich begonnen habe. Bei ethischer KI geht es nicht mehr darum, Technologie verantwortungsvoll zu machen. Es geht darum, Organisationen und die Menschen, die sie führen, für die Technologie zur Rechenschaft zu ziehen, die sie bauen, kaufen und einsetzen. Die letzte Grenze dieser Verantwortung ist der Schutz unserer eigenen Fähigkeit zu denken, zu entscheiden und zu handeln.
Führungsfrage: Wie profitieren wir von immer intelligenteren Maschinen, ohne nach und nach unsere Fähigkeit aufzugeben, selbstständig zu denken, zu entscheiden und zu handeln?


