NORBERT BIEDRZYCKI

Odpowiedzialna AI a reputacja firmy: czy jeden algorytm może zniszczyć lata zaufania?

Odpowiedzialna AI a reputacja firmy: czy jeden algorytm może zniszczyć lata zaufania?

W lutym trybunał w Kolumbii Brytyjskiej orzekł, że Air Canada musi wypłacić odszkodowanie klientowi, któremu chatbot na stronie linii lotniczej podał błędne informacje o taryfach dla osób w żałobie. Air Canada argumentowała między innymi, że chatbot odpowiada za własne wypowiedzi. Trybunał się nie zgodził: firma odpowiada za wszystkie informacje na swojej stronie, niezależnie od tego, czy pochodzą ze statycznej podstrony, czy z chatbota. Stawka była niewielka. Precedens i nagłówki już nie.

W styczniu klient sfrustrowany chatbotem firmy kurierskiej DPD namówił go do przeklinania i napisania wiersza o tym, jak bezużyteczna jest firma. Zrzuty ekranu stały się viralem. DPD wyłączyło element AI.

Pod koniec lutego Google wstrzymał funkcję generowania obrazów w modelu Gemini po tym, jak tworzyła historycznie nieprawdziwe obrazy, najwyraźniej w próbie zapewnienia różnorodności. Krytyka była intensywna, kurs akcji Alphabetu w kolejnych dniach wyraźnie spadł, a prezes firmy powiedział pracownikom, że te odpowiedzi były nie do przyjęcia.

Nowy rodzaj ekspozycji reputacyjnej

Te incydenty mają coś wspólnego. Żaden nie był katastrofalną awarią systemu. W każdym system AI wchodził w bezpośrednią interakcję z publicznością i tworzył coś kompromitującego, wprowadzającego w błąd albo obraźliwego. I każdy stał się historią o firmie, a nie o technologii.

To nowa dynamika reputacyjna. Kiedy AI rozmawia z klientami, każdy jej wynik jest potencjalnym publicznym oświadczeniem firmy. W przeciwieństwie do komunikatu prasowego nikt go wcześniej nie zatwierdził. A w przeciwieństwie do tradycyjnego błędu oprogramowania porażkę łatwo każdemu zrozumieć, zrobić zrzut ekranu i udostępnić.

Dlaczego skutki wykraczają poza incydent

Szkody z takich epizodów rzadko ograniczają się do jednego przypadku.

Klienci zaczynają kwestionować inne produkty firmy. Skoro chatbot podaje błędne odpowiedzi, co z resztą?

Regulatorzy się interesują, zwłaszcza tam, gdzie w grę wchodzi ochrona konsumentów albo dyskryminacja.

Pracownicy pytają, czy deklarowane wartości firmy są prawdziwe.

Inwestorzy zastanawiają się, czy zarząd rozumie ryzyka technologii, którą wdraża.

Sprawa Air Canady zamyka też argument, który wiele firm mogłoby mieć pokusę przedstawić. Organizacja nie może się zdystansować od swojej AI. Prawnie i reputacyjnie system mówi w imieniu firmy.

Traktować ryzyko AI jak inne ryzyka przedsiębiorstwa

Praktyczny wniosek jest taki, że ryzyko AI należy oceniać z tą samą powagą i tymi samymi metodami co ryzyko finansowe, cybernetyczne i reputacyjne. To oznacza analizę scenariuszy przed uruchomieniem: jaki jest najgorszy prawdopodobny wynik, który ten system może wytworzyć, i co by się stało, gdyby to zrobił? Oznacza testy typu red teaming systemów obsługujących klientów, prowadzone przez ludzi, którzy próbują doprowadzić je do porażki. Oznacza monitoring w produkcji i jasny proces szybkiego wyłączenia systemu. I oznacza plany kryzysowe, które przewidują incydent z AI, zanim się wydarzy.

Większość tych praktyk istnieje już w innych obszarach ryzyka. Wyzwanie polega na zastosowaniu ich do systemów, których porażki są mniej przewidywalne i dużo bardziej widoczne.

Pytanie o przywództwo: Czy firmy powinny oceniać ryzyko AI tak samo, jak oceniają ryzyko finansowe, cyberbezpieczeństwa i reputacyjne?

Czytaj także

  1. Nadzór nad AI jako odpowiedzialność rady nadzorczej: czy rada jest gotowa?

    seria Ethical AI, napisana w 2026

  2. Odpowiedzialna AI jako przewaga konkurencyjna: czy zaufanie może stać się aktywem ekonomicznym?

    seria Ethical AI, napisana w 2026

  3. Etyczna AI 2020–2026: o tej serii