Ethics washing w AI: czy korporacyjne zasady wystarczą?

Na początku tego miesiąca Timnit Gebru, współkierująca zespołem Ethical AI w Google i jedna z najbardziej szanowanych badaczek w tej dziedzinie, odeszła z firmy po sporze o artykuł naukowy analizujący ryzyka dużych modeli językowych. Tysiące pracowników Google i naukowców podpisały listy protestacyjne. Niezależnie od pełnej historii, ten epizod postawił przed całą branżą niewygodne pytanie: co się dzieje, gdy zasady etyczne spotykają się z priorytetami komercyjnymi?
Zalew zasad
Ostatnie lata przyniosły niezwykłą liczbę dokumentów o etyce AI. Badanie Anny Jobin i współpracowników z 2019 roku w „Nature Machine Intelligence” zidentyfikowało 84 zestawy wytycznych etyki AI opublikowane przez firmy, rządy i instytucje. Globalny rejestr AlgorithmWatch wymienia ich dziś znacznie ponad sto.
Zbiegają się wokół znanego słownictwa: sprawiedliwość, przejrzystość, prywatność, ludzki nadzór, rozliczalność, czynienie dobra. Prawie każda duża firma technologiczna opublikowała własną wersję.
Ta zbieżność wygląda na postęp. Jest też sygnałem ostrzegawczym. Kiedy wszyscy zgadzają się co do zasad, zasady przestają odróżniać organizacje odpowiedzialne od nieodpowiedzialnych.
Luka we wdrożeniu
Prawdziwym testem nie jest to, co firma mówi. Jest nim to, z czego jest gotowa zrezygnować. Zasada, która nigdy nie zatrzymała premiery produktu, nie opóźniła kontraktu ani nie kosztowała przychodów, jest deklaracją intencji, a nie mechanizmem nadzoru.
Są oznaki prawdziwej zmiany. W czerwcu IBM ogłosił, że nie będzie już oferować rozpoznawania twarzy ogólnego przeznaczenia, a Amazon i Microsoft wstrzymały sprzedaż tej technologii amerykańskiej policji. To były decyzje z konsekwencjami handlowymi.
Ale w wielu organizacjach luka między zasadami a praktyką jest szeroka. Rady etyczne bez uprawnień decyzyjnych. Procesy przeglądu, które są opcjonalne. Zespoły odpowiedzialnej AI umieszczone daleko od zespołów produktowych i bez wpływu na ich plany. Zachęty, które nagradzają szybkość wejścia na rynek i nic więcej.
Tak wygląda ethics washing. Zwykle nie hipokryzja, tylko struktura, w której dobre intencje nie mają mechanizmu, by wygrać spór.
Od wartości do mechanizmów
Z perspektywy nadzoru korporacyjnego zasady etyczne stają się realne dopiero wtedy, gdy przełoży się je na cztery rzeczy.
Uprawnienia decyzyjne. Ktoś z władzą, by zatrzymać lub zmienić system, i jasny proces korzystania z niej.
Mechanizmy kontrolne. Konkretne sprawdzenia wbudowane w cykl rozwoju i zakupów, a nie doczepione na końcu.
Pomiar. Testy i wskaźniki, które pokazują, czy system spełnia zasadę.
Rozliczalność. Członek zarządu, którego ocena od tego zależy.
To samo rozróżnienie stosowałbym do każdego innego zobowiązania firmy. Firma nie ma kultury bezpieczeństwa dlatego, że ma politykę bezpieczeństwa. Ma ją wtedy, gdy kierownik linii może zatrzymać produkcję bez obawy o konsekwencje. W końcu tak samo będzie z AI.
Pytanie o przywództwo: Czy etyczna AI to prawdziwa kompetencja organizacji, czy po prostu nowa forma zarządzania reputacją firmy?


