NORBERT BIEDRZYCKI

Karta praw AI: czy ludzie powinni mieć prawo kwestionować zautomatyzowane decyzje?

Karta praw AI: czy ludzie powinni mieć prawo kwestionować zautomatyzowane decyzje?

Na początku tego miesiąca Biuro Polityki Naukowej i Technologicznej Białego Domu opublikowało Blueprint for an AI Bill of Rights, czyli zarys karty praw w dobie AI. Określa pięć zasad dla zautomatyzowanych systemów wpływających na ludzkie życie.

Bezpieczne i skuteczne systemy. Ludzie powinni być chronieni przed systemami, które są niebezpieczne albo nie działają zgodnie z przeznaczeniem.

Ochrona przed dyskryminacją algorytmiczną. Systemy powinny być projektowane i używane w sposób sprawiedliwy.

Prywatność danych. Ludzie powinni mieć wpływ na to, jak używane są ich dane.

Informacja i wyjaśnienie. Ludzie powinni wiedzieć, kiedy używany jest system zautomatyzowany, i rozumieć, jak na nich wpływa.

Ludzka alternatywa, rozpatrzenie i rozwiązanie awaryjne. Ludzie powinni móc tam, gdzie to stosowne, zrezygnować z systemu i dotrzeć do człowieka, który rozpatrzy i naprawi problem.

Dokument nie jest prawnie wiążący. Krytycy z jednej strony nazywają go bezzębnym. Krytycy z drugiej uważają go za pierwszy krok ku ciężkiej regulacji. Obie strony pomijają to, co uważam w nim za najciekawsze.

Zmiana perspektywy

Większość dotychczasowych zasad nadzoru nad AI pisano z perspektywy organizacji wdrażającej system. Jakie ryzyka tworzy dla firmy? Jakie mechanizmy kontrolne firma powinna mieć?

Ten dokument jest napisany z perspektywy osoby, której decyzja dotyczy. Pyta, jakie prawa powinien mieć człowiek, gdy zautomatyzowany system decyduje o jego pracy, kredycie, świadczeniach czy leczeniu.

To istotna zmiana, a Europa jest już dalej na tej samej drodze. Artykuł 22 RODO daje ludziom prawo, by nie podlegać decyzjom opartym wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują istotne skutki, oraz prawo do interwencji człowieka i zakwestionowania decyzji. Projekt unijnego AI Act opiera się na podobnych ideach.

Dlaczego ostatnia zasada jest najtrudniejsza

Dla firm najbardziej wymagająca jest ostatnia zasada: ludzka alternatywa i sposób naprawienia problemów.

Brzmi prosto. W praktyce wymaga od organizacji utrzymywania ludzi, którzy rozumieją zautomatyzowany proces na tyle dobrze, by go zweryfikować, mają władzę, by go uchylić, i przepustowość, by obsługiwać odwołania na dużą skalę. Wiele firm automatyzowało właśnie po to, by usunąć ten koszt.

Jest tu realne napięcie. Ekonomiczne uzasadnienie automatyzacji często zależy od usunięcia ludzkiej weryfikacji. Etyczne, a coraz częściej prawne uzasadnienie zależy od jej zachowania, przynajmniej tam, gdzie decyzje mają znaczenie.

Dokładność to nie cała odpowiedź

Pytanie, które dokument stawia biznesowi, brzmi, czy technicznie dokładny algorytm wystarczy. Moja odpowiedź brzmi: nie, z powodu praktycznego, a nie filozoficznego. Nawet bardzo dokładny system będzie się mylił wobec niektórych ludzi. Jeśli ci ludzie nie mają jak zrozumieć ani zakwestionować decyzji, każdy błąd staje się potencjalną skargą, sprawą regulacyjną albo artykułem w prasie.

Możliwość odwołania to nie tylko prawo jednostki. To mechanizm korygowania błędów dla organizacji. Firmy, które dobrze go zaprojektują, szybciej dowiadują się, gdzie ich systemy zawodzą.

Pytanie o przywództwo: Czy ludzie powinni mieć prawo rozumieć, kwestionować i odwoływać się od decyzji podejmowanych przez sztuczną inteligencję?

Czytaj także

  1. Etyczna AI 2020–2026: o tej serii

  2. Etyka AI i autonomia człowieka: czy oddajemy za dużo kontroli?

    seria Ethical AI, napisana w 2026

  3. Luka odpowiedzialności: kto odpowiada, gdy AI podejmuje decyzje samodzielnie?

    seria Ethical AI, napisana w 2026