# Czy możemy ufać algorytmom? Etyczne wyzwanie sztucznej inteligencji

Author: Norbert Biedrzycki
Published: 2020-09-15
Language: pl
URL: https://norbertbiedrzycki.pl/czy-mozemy-ufac-algorytmom-etyczne-wyzwanie-sztucznej-inteligencji/
Summary: Algorytmy podejmują lub kształtują decyzje, które zmieniają ludzkie życie, a nasza zdolność, by je rozumieć i kwestionować, nie nadąża. Pytanie nie brzmi, czy AI jest dokładna, tylko czy umiemy ją wyjaśnić.

W sierpniu setki tysięcy brytyjskich uczniów dostały wyniki egzaminów A-level. Ponieważ pandemia odwołała egzaminy, oceny wyliczył algorytm zaprojektowany przez regulatora egzaminów, Ofqual. Około 40 procent wyników wyszło niżej, niż przewidywali nauczyciele, a najmocniej ucierpieli uczniowie ze szkół, które historycznie wypadały gorzej. W ciągu kilku dni uczniowie protestowali przed Ministerstwem Edukacji, rząd zmienił decyzję, a z algorytmu zrezygnowano.

W lutym sąd w Hadze zakazał holenderskiemu rządowi używania SyRI, systemu łączącego dane z wielu instytucji, by wskazywać obywateli do kontroli pod kątem wyłudzeń świadczeń. Sąd uznał, że narusza on prawo do prywatności z Europejskiej Konwencji Praw Człowieka, między innymi dlatego, że nikt z osób, których dotyczył, nie mógł zrozumieć, jak dochodzi do swoich wniosków.

W czerwcu stała się publiczna sprawa Roberta Williamsa. Został aresztowany na oczach rodziny w Detroit po tym, jak system rozpoznawania twarzy błędnie dopasował jego zdjęcie z prawa jazdy do nagrania z monitoringu.

Trzy kraje, trzy systemy, ta sama lekcja. Algorytmy podejmują lub kształtują dziś decyzje, które zmieniają ludzkie życie, a nasza zdolność, by je rozumieć i kwestionować, nie nadąża.

## Luka zaufania

Joseph Weizenbaum, który w latach 60. zbudował jeden z pierwszych chatbotów, ostrzegał w książce „Computer Power and Human Reason”, że istnieje różnica między decydowaniem a wybieraniem. Komputer może decydować w sensie obliczania. Wybieranie wymaga osądu, a osąd niesie odpowiedzialność. Prawie pół wieku później to rozróżnienie brzmi jak opis naszego problemu.

Zaufanie do algorytmicznej decyzji zależy od trzech pytań, na które większość wdrożonych systemów nie potrafi jeszcze odpowiedzieć.

**Czy jest sprawiedliwa?** Czy traktuje porównywalnych ludzi porównywalnie i skąd ktokolwiek miałby to wiedzieć?

**Czy da się ją wyjaśnić?** Czy organizacja potrafi powiedzieć człowiekowi, dlaczego decyzja wypadła tak, a nie inaczej?

**Kto za nią odpowiada?** Kiedy coś pójdzie źle, czy jest człowiek albo instytucja, która za to odpowie?

W sprawie egzaminów A-level odpowiedź na wszystkie trzy pytania okazała się przecząca. Dlatego model statystycznie możliwy do obrony załamał się politycznie w ciągu tygodnia.

## Dlaczego to staje się kwestią biznesową

Do niedawna o etyce AI rozmawiano na uniwersytetach, w think tankach i w raportach społecznej odpowiedzialności firm. To się zmienia. Rekrutacja, ocena zdolności kredytowej, wycena ubezpieczeń, wykrywanie nadużyć i obsługa klienta zmierzają ku zautomatyzowanym decyzjom. W każdym z tych miejsc firma może dziś doświadczyć takiego samego załamania zaufania, jakiego doświadczył Ofqual.

W efekcie etyczna AI przechodzi ze społecznej odpowiedzialności biznesu do strategii i zarządzania ryzykiem. Modelu, którego nie da się wyjaśnić, nie da się obronić przed regulatorem, sądem ani dziennikarzem. Model, którego nie da się obronić, w końcu zostanie wyłączony, często już po wyrządzeniu szkody.

Pytanie dla zespołów zarządzających nie brzmi, czy ich AI jest dokładna. Brzmi, czy potrafiliby stanąć przed ludźmi, których decyzja dotyczy, i ją wyjaśnić.

> *Pytanie o przywództwo: Czy organizacje mogą wdrażać AI na dużą skalę, nie potrafiąc wyjaśnić ani uzasadnić decyzji, które podejmuje?*
