Przejrzystość AI: czy możemy wiedzieć, czy rozmawiamy z człowiekiem, czy z maszyną?

W październiku Deloitte Australia zgodził się częściowo zwrócić australijskiemu rządowi pieniądze za raport wart 440 tys. dolarów australijskich, oceniający system IT stojący za automatycznymi sankcjami w systemie świadczeń socjalnych. Naukowiec odkrył, że raport zawierał odwołania do nieistniejących prac badawczych i zmyślony cytat z wyroku sądu federalnego. Poprawiona wersja ujawniła, że przy jego przygotowaniu użyto narzędzia generatywnej AI. Deloitte podtrzymał wnioski i rekomendacje raportu.
Trudno nie zauważyć ironii. Raport o ryzykach zautomatyzowanego podejmowania decyzji w świadczeniach socjalnych, obszarze, w którym Australia ma bolesne doświadczenia po skandalu Robodebt, sam został podważony przez nieujawnioną automatyzację.
Dwa problemy przejrzystości
Ta sprawa ilustruje dwa różne pytania o przejrzystość, które często się miesza.
Ujawnienie użycia. Czy ludzie polegający na pracy, decyzji czy interakcji wiedzieli, że uczestniczyła w niej AI?
Ujawnienie natury. Czy konkretna treść, obraz, głos czy wiadomość, jest autentyczna czy syntetyczna?
Oba stają się pilne. Klienci coraz częściej wchodzą w interakcję z systemami AI, nie wiedząc o tym. Profesjonalne produkty pracy coraz częściej współtworzą modele. Syntetyczne obrazy i głosy są dziś dla większości ludzi nieodróżnialne od prawdziwych.
Dokąd zmierza regulacja
Unijny AI Act odpowiada na oba. Od sierpnia 2026 roku jego obowiązki przejrzystości będą wymagać informowania ludzi, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste, oraz oznaczania syntetycznych treści dźwiękowych, graficznych, wideo i tekstowych w sposób odczytywalny maszynowo i wykrywalny jako sztucznie wygenerowany. Deepfake’i muszą być ujawniane. Komisja pracuje nad kodeksem praktyk dotyczącym oznaczania i etykietowania treści generowanych przez AI.
Równolegle rozwijają się standardy techniczne. Standard C2PA dołącza do pliku weryfikowalne informacje o jego pochodzeniu i historii edycji. SynthID od Google osadza znaki wodne w treściach generowanych przez AI. Żadne z tych rozwiązań nie jest kompletne, a znaki wodne da się usunąć. Ale razem zaczynają tworzyć infrastrukturę potwierdzania pochodzenia.
Więcej niż etykiety
Przejrzystość często traktuje się jak ćwiczenie z etykietowania: dodać informację „wygenerowano z pomocą AI” i obowiązek jest spełniony. To mija się z celem.
Celem przejrzystości jest umożliwienie ludziom świadomych decyzji. Klient powinien wiedzieć, czy porada, którą dostaje, pochodzi z systemu, który może się mylić w określony sposób. Klient płacący za profesjonalny raport powinien wiedzieć, jak powstał i co zostało sprawdzone. Pracownik otrzymujący wiadomość od kierownictwa powinien móc ufać jej źródłu.
Dla firm usług profesjonalnych sprawa Deloitte stawia ostrzejsze pytanie. Kiedy klienci płacą za ekspertyzę, płacą za osąd i weryfikację, a nie tylko za tekst. Problemem nie jest używanie AI. Używanie jej bez ujawnienia i bez rygorystycznego sprawdzenia podważa dokładnie to, co klient kupuje.
Dla organizacji działającą regułą jest ujawnianie AI tam, gdzie zmieniałoby to sposób, w jaki rozsądna osoba interpretuje wynik albo na nim polega. To obejmuje interakcje z klientami, profesjonalne produkty pracy i wszystko, co przedstawia się jako dowód. Nie musi obejmować każdego sprawdzania pisowni.
Pytanie o przywództwo: Czy firmy powinny mieć obowiązek ujawniania każdego istotnego użycia AI i jaki poziom przejrzystości jest potrzebny, by utrzymać zaufanie społeczne?


