Deepfakes, Desinformation und die Krise des digitalen Vertrauens

Am 22. Mai tauchte in sozialen Medien ein Bild auf, das eine Explosion in der Nähe des Pentagons zeigte. Es wurde von Konten geteilt, die offiziell aussahen, von einigen Medien aufgegriffen, und für einige Minuten gaben die US-Aktienindizes nach. Das Bild war gefälscht, fast sicher von KI erzeugt. Die Feuerwehr von Arlington bestätigte schnell, dass es keine Explosion gegeben hatte.
Im vergangenen Monat, wenige Tage vor der Parlamentswahl in der Slowakei, kursierte eine Tonaufnahme, in der ein Parteivorsitzender scheinbar über Wahlmanipulation sprach. Sie war synthetisch. Sie wurde während des Moratoriums vor der Wahl veröffentlicht, wenn Kandidaten und Medien in dem, was sie sagen dürfen, eingeschränkt sind.
Und 2019 überwies der Geschäftsführer eines britischen Energieunternehmens rund 220.000 Euro nach einem Telefonat mit jemandem, den er für den Chef der deutschen Muttergesellschaft hielt. Die Stimme, einschließlich ihres Akzents, war von Software erzeugt worden. Damals war das eine Kuriosität. Heute sind die Werkzeuge, die das möglich machten, weit verbreitet und billig.
Das Ende von „Sehen heißt glauben“
Über den größten Teil der Geschichte war es teuer, ein Foto, ein Video oder eine Stimme überzeugend zu fälschen. Diese Kosten schützten eine grundlegende gesellschaftliche Annahme: Wenn man es gesehen oder gehört hat, ist es wahrscheinlich passiert.
Generative KI hat diese Kosten fast auf null gesenkt. Die Folge ist nicht nur, dass sich gefälschte Inhalte verbreiten werden. Es ist, dass echte Inhalte angezweifelt werden. Forscher nennen das die Dividende des Lügners. Wenn sich alles fälschen lässt, kann jeder, der vor der Kamera ertappt wird, behaupten, es sei gefälscht.
Das Risiko für Unternehmen
Für Unternehmen sind Deepfakes nicht nur ein politisches Problem. Sie schaffen konkrete Risiken.
Betrug. Sich als Führungskraft ausgeben, um Zahlungen freizugeben, Bankverbindungen von Lieferanten zu ändern oder vertrauliche Informationen zu erschleichen.
Marktmanipulation. Gefälschte Aussagen, Bilder oder Mitteilungen, die einen Aktienkurs für Minuten bewegen, was lange genug ist, damit jemand davon profitiert.
Reputationsangriffe. Synthetische Aufnahmen von Führungskräften, die Dinge sagen, die sie nie gesagt haben.
Erosion des internen Vertrauens. Wenn Beschäftigte einer Sprachnachricht ihres CEO nicht trauen können, braucht jede Kommunikation eine Überprüfung.
Was Organisationen jetzt tun können
Technologie wird helfen. Initiativen wie die Coalition for Content Provenance and Authenticity entwickeln Standards, um digitalen Inhalten überprüfbare Informationen über ihre Herkunft beizufügen. Aufsichtsbehörden und Entwickler diskutieren Wasserzeichen für KI-generiertes Material. Doch diese Werkzeuge werden Jahre brauchen, um universell zu werden, und sie werden nie vollständig sein.
Bis dahin sind die wirksamsten Abwehrmaßnahmen prozedural. Zahlungsfreigaben, die nie auf einem einzigen Kanal beruhen. Verifizierungscodes oder Rückrufverfahren bei ungewöhnlichen Anfragen. Schulungen, die Beschäftigte ermutigen, auch eine Stimme von oben zu hinterfragen. Krisenpläne, die davon ausgehen, dass eines Tages eine überzeugende Fälschung des CEO auftauchen wird.
Mit anderen Worten: Organisationen müssen aufhören, Sinneseindrücke als Beweis zu behandeln, und anfangen, sie als ein Signal unter mehreren zu behandeln. Das ist ein erheblicher kultureller Wandel, und es ist besser, ihn bewusst zu vollziehen als nach einem Vorfall.
Führungsfrage: Wie können Organisationen Vertrauen bewahren, wenn Sehen und Hören nicht mehr als verlässlicher Beweis gelten können?


