NORBERT BIEDRZYCKI

Deepfake'i, dezinformacja i kryzys cyfrowego zaufania

Deepfake'i, dezinformacja i kryzys cyfrowego zaufania

22 maja w mediach społecznościowych pojawiło się zdjęcie wybuchu w pobliżu Pentagonu. Udostępniały je konta wyglądające na oficjalne, podchwyciły je niektóre media i przez kilka minut amerykańskie indeksy giełdowe spadły. Zdjęcie było fałszywe, niemal na pewno wygenerowane przez AI. Straż pożarna z Arlington szybko potwierdziła, że do żadnego wybuchu nie doszło.

W zeszłym miesiącu, na kilka dni przed wyborami parlamentarnymi na Słowacji, krążyło nagranie, na którym lider jednej z partii miał rozmawiać o fałszowaniu wyborów. Było syntetyczne. Opublikowano je w czasie ciszy przedwyborczej, kiedy kandydaci i media są ograniczeni w tym, co mogą mówić.

A w 2019 roku prezes brytyjskiej firmy energetycznej przelał około 220 tys. euro po rozmowie telefonicznej z kimś, kogo uważał za szefa niemieckiej spółki matki. Głos, łącznie z akcentem, wygenerowało oprogramowanie. Wtedy była to ciekawostka. Dziś narzędzia, które to umożliwiły, są szeroko dostępne i tanie.

Koniec zasady „zobaczę, to uwierzę”

Przez większość historii koszt przekonującego sfałszowania zdjęcia, nagrania wideo czy głosu był wysoki. Ten koszt chronił podstawowe założenie społeczne: jeśli coś widziałeś albo słyszałeś, to prawdopodobnie się wydarzyło.

Generatywna AI obniżyła ten koszt niemal do zera. Konsekwencją jest nie tylko to, że fałszywe treści będą się rozprzestrzeniać. Również prawdziwe treści będą podważane. Badacze nazywają to dywidendą kłamcy. Kiedy wszystko można sfabrykować, każdy przyłapany przed kamerą może twierdzić, że to fabrykacja.

Ekspozycja firm

Dla firm deepfake’i to nie tylko problem polityczny. Tworzą konkretne ryzyka.

Oszustwa. Podszywanie się pod członków zarządu, by autoryzować płatności, zmienić dane bankowe dostawcy albo wyłudzić informacje poufne.

Manipulacja rynkiem. Fałszywe oświadczenia, zdjęcia czy komunikaty, które przez kilka minut ruszają kursem akcji, a to wystarczająco długo, by ktoś na tym zarobił.

Ataki reputacyjne. Syntetyczne nagrania menedżerów mówiących rzeczy, których nigdy nie powiedzieli.

Erozja zaufania wewnętrznego. Jeśli pracownicy nie mogą ufać wiadomości głosowej od prezesa, każda komunikacja wymaga weryfikacji.

Co organizacje mogą zrobić już teraz

Technologia pomoże. Inicjatywy takie jak Coalition for Content Provenance and Authenticity rozwijają standardy dołączania weryfikowalnych informacji o pochodzeniu treści cyfrowych. Regulatorzy i twórcy dyskutują o znakowaniu materiałów generowanych przez AI. Ale te narzędzia potrzebują lat, by stać się powszechne, i nigdy nie będą kompletne.

Tymczasem najskuteczniejsze zabezpieczenia są proceduralne. Autoryzacje płatności, które nigdy nie opierają się na jednym kanale. Kody weryfikacyjne albo procedury oddzwaniania przy nietypowych prośbach. Szkolenia, dzięki którym pracownicy czują się swobodnie, kwestionując głos przełożonego. Plany kryzysowe zakładające, że pewnego dnia pojawi się przekonująca fałszywka z prezesem.

Innymi słowy, organizacje muszą przestać traktować dowody zmysłowe jako dowód, a zacząć traktować je jako jeden sygnał spośród kilku. To istotna zmiana kulturowa i lepiej przeprowadzić ją świadomie niż po incydencie.

Pytanie o przywództwo: Jak organizacje mogą zachować zaufanie, gdy tego, co widać i słychać, nie można już uznać za wiarygodny dowód?

Czytaj także

  1. Etyczna AI 2020–2026: o tej serii

  2. Etyka AI i autonomia człowieka: czy oddajemy za dużo kontroli?

    seria Ethical AI, napisana w 2026

  3. Luka odpowiedzialności: kto odpowiada, gdy AI podejmuje decyzje samodzielnie?

    seria Ethical AI, napisana w 2026