NORBERT BIEDRZYCKI

Człowiek w pętli: czy AI potrzebuje ludzkiego nadzoru, by pozostać odpowiedzialną?

Człowiek w pętli: czy AI potrzebuje ludzkiego nadzoru, by pozostać odpowiedzialną?

W styczniu serial telewizyjny o skandalu w brytyjskiej poczcie, Post Office, dotarł do milionów widzów i zamienił długotrwałą niesprawiedliwość w krajową kwestię polityczną. W latach 1999–2015 ponad 900 kierowników placówek pocztowych zostało oskarżonych na podstawie danych z systemu księgowego Horizon, który zawierał błędy. Sądy, śledczy i menedżerowie traktowali liczby z komputera jako bardziej wiarygodne niż ludzi, którzy przed nimi stali. Zniszczono ludzkie życia. Horizon nie był systemem AI. Ale ten skandal to najmocniejsze ostrzeżenie, jakie mamy, przed tym, co się dzieje, gdy ludzki nadzór istnieje na papierze, a zawodzi w praktyce.

Nadzór jako zasada projektowa

„Człowiek w pętli” stał się domyślną odpowiedzią na ryzyko AI. Unijny AI Act wymaga, by systemy wysokiego ryzyka były projektowane z myślą o skutecznym nadzorze człowieka. Firmowe polityki AI rutynowo wymagają, by człowiek przejrzał wyniki AI, zanim wpłyną na klientów czy pracowników.

Zasada jest słuszna. Problem polega na tym, że człowiek w pętli nie jest automatycznie zabezpieczeniem. Badania nad skłonnością do ufania automatyzacji, prowadzone od dekad w lotnictwie i medycynie, pokazują, że ludzie mają tendencję do nadmiernego zaufania zautomatyzowanym rekomendacjom, zwłaszcza gdy system zwykle ma rację, gdy są zajęci i gdy niezgoda wymaga wysiłku.

Kiedy nadzór staje się teatrem

Nadzór zawodzi w przewidywalny sposób.

Wolumen. Osoba, która ma zatwierdzać setki decyzji AI dziennie, nie jest w stanie ich sensownie ocenić. Akceptacja staje się kliknięciem.

Kompetencje. Osoba nadzorująca nie rozumie, jak działa system ani jakie są jego typowe błędy.

Władza. Osoba nadzorująca technicznie może uchylić decyzję systemu, ale presja, cele czy kultura ją do tego zniechęcają.

Informacja. Osoba nadzorująca widzi wniosek AI, ale nie dowody potrzebne, by go zakwestionować.

Asymetria odpowiedzialności. Za podążanie za systemem nikt nigdy nie jest karany. Za uchylenie go i pomyłkę można być.

W każdym z tych przypadków organizacja może powiedzieć, że był zaangażowany człowiek. W żadnym z nich człowiek nie zapewnił prawdziwego nadzoru. Poczta miała w pętli wielu ludzi.

Jak uczynić nadzór realnym

Skuteczny nadzór to problem projektowy, a nie deklaracja polityki.

Dopasuj nadzór do ryzyka. Nie każdy wynik AI wymaga przeglądu. Decyzje o wysokiej stawce wymagają poważnego przeglądu. Te o niskiej wymagają monitoringu.

Daj nadzorującym czas i kontekst. Jeśli ekonomika procesu zależy od tego, że nadzorujący poświęca dziesięć sekund na przypadek, nadzór nie jest prawdziwy.

Szkól z typowych błędów. Nadzorujący muszą wiedzieć, gdzie system zwykle się myli.

Mierz odsetek uchyleń. Odsetek uchyleń bliski zera nie dowodzi, że system jest doskonały. Może dowodzić, że nadzoru nie ma.

Chroń niezgodę. Ludzie, którzy w dobrej wierze kwestionują system, powinni dostawać wsparcie, nawet gdy okaże się, że się mylili.

W miarę jak generatywna AI wchodzi do analiz finansowych, komunikacji z klientami i procesów HR, to pytanie staje się operacyjne niemal w każdej firmie. Ryzyko nie polega na tym, że organizacje usuną ludzi z pętli. Polega na tym, że zostawią ich tam w formie, która daje komfort bez kontroli.

Pytanie o przywództwo: Jak zapewnić, by ludzki nadzór był prawdziwy i znaczący, a nie był tylko formalnym krokiem akceptacji?

Czytaj także

  1. Przejrzystość AI: czy możemy wiedzieć, czy rozmawiamy z człowiekiem, czy z maszyną?

    seria Ethical AI, napisana w 2026

  2. Kto jest właścicielem ryzyka AI? Brakujące ogniwo między technologią a nadzorem korporacyjnym

    seria Ethical AI, napisana w 2026

  3. Ethics washing w AI: czy korporacyjne zasady wystarczą?

    seria Ethical AI, napisana w 2026