Der AI Act der EU: Kann Regulierung künstliche Intelligenz vertrauenswürdig machen?

Am 21. April veröffentlichte die Europäische Kommission ihren Vorschlag für ein Gesetz über künstliche Intelligenz, den AI Act. Es ist der erste ernsthafte Versuch einer großen Volkswirtschaft, KI horizontal zu regulieren, über alle Sektoren hinweg, mit verbindlichem Recht statt freiwilligen Prinzipien.
Im Kern steht ein risikobasierter Ansatz. Statt KI als Technologie zu regulieren, reguliert der Vorschlag Anwendungen.
Unannehmbares Risiko. Eine kurze Liste von Praktiken, die verboten werden sollen, etwa Social Scoring durch Behörden und bestimmte Formen der Manipulation.
Hohes Risiko. Systeme in Bereichen wie Personalauswahl, Kredit, Bildung, kritischer Infrastruktur, Strafverfolgung und Zugang zu öffentlichen Leistungen, für die Anforderungen an Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und Konformitätsbewertung gelten würden.
Begrenztes Risiko. Systeme wie Chatbots, die Transparenzpflichten unterliegen, etwa Menschen mitzuteilen, dass sie mit einer Maschine interagieren.
Minimales Risiko. Alles andere, also der Großteil der KI.
Die vorgeschlagenen Bußgelder für die schwersten Verstöße reichen bis zu sechs Prozent des weltweiten Jahresumsatzes.
Warum das über Europa hinaus wichtig ist
Europa hat das schon einmal getan. Die DSGVO wurde zum faktischen globalen Standard, weil Unternehmen es einfacher fanden, überall einen hohen Standard anzuwenden, als je nach Markt unterschiedliche Datenpraktiken zu betreiben. Die Kommission hofft offensichtlich auf denselben Effekt bei KI. Viele Unternehmen außerhalb Europas werden ihre Systeme nach dem europäischen Standard gestalten, einfach weil sie Zugang zum europäischen Markt wollen.
Die Fragen für Unternehmen
Für europäische Unternehmen macht der Vorschlag aus KI-Ethik eine Compliance-Agenda mit sehr konkreten Fragen.
Bestandsaufnahme. Welche KI-Systeme nutzen wir eigentlich? Viele Organisationen wissen es nicht, weil KI eingebettet in gekaufte Software ankommt.
Einstufung. Welche davon würden in die Kategorie hohes Risiko fallen?
Rollen. Sind wir Anbieter des Systems oder Nutzer eines fremden? Die Pflichten sind unterschiedlich.
Fähigkeiten. Haben wir die Dokumentation, Daten-Governance und Überwachung, die die Anforderungen an Hochrisikosysteme voraussetzen?
Das Innovationsargument
Die Hauptkritik am Vorschlag ist vorhersehbar. Regulierung werde Innovation bremsen und die KI-Entwicklung in die USA und nach China drängen, wo die Regeln lockerer sind. Daran ist etwas. Compliance-Kosten treffen kleinere Unternehmen am härtesten, und Unsicherheit schreckt Investitionen ab.
Ich halte das Argument aber für unvollständig. Das größte Hindernis für die Einführung von KI in regulierten Branchen ist heute nicht Regulierung. Es ist das Fehlen klarer Regeln. Banken, Versicherer und Krankenhäuser zögern, KI bei sensiblen Entscheidungen einzusetzen, weil sie nicht vorhersagen können, wie Aufsichtsbehörden und Gerichte sie später beurteilen werden. Klare Regeln, selbst anspruchsvolle, können diese Unsicherheit verringern.
Das eigentliche Risiko ist nicht Regulierung an sich. Es ist Regulierung, die vage, langsam und uneinheitlich durchgesetzt wird. Darauf sollte man achten, während der Vorschlag in den nächsten zwei bis drei Jahren Parlament und Rat durchläuft.
Führungsfrage: Kann Regulierung Vertrauen in KI schaffen, ohne Innovation zu bremsen und europäische Unternehmen im Wettbewerb zu benachteiligen?


