Odpowiedzialna AI jako przewaga konkurencyjna: czy zaufanie może stać się aktywem ekonomicznym?

W styczniu holenderski rząd podał się do dymisji z powodu afery wokół zasiłków na opiekę nad dziećmi. Przez lata urząd skarbowy niesłusznie oskarżał tysiące rodzin o wyłudzenia i żądał zwrotów, które wiele z nich zrujnowały. Wśród czynników podnoszących ocenę ryzyka wniosku było podwójne obywatelstwo. Komisja parlamentarna nazwała to bezprecedensową niesprawiedliwością. Algorytm nie był jedyną przyczyną, ale był częścią tej maszynerii.
W kwietniu Apple wprowadził App Tracking Transparency, wymagając, by aplikacje pytały użytkowników o zgodę, zanim zaczną śledzić ich w aplikacjach i serwisach innych firm. Większość użytkowników odmówiła. Apple otwarcie mówi, że prywatność jest częścią jego marki i propozycji produktowej. Firmy, których modele biznesowe zależą od śledzenia, równie otwarcie mówią, że ta zmiana będzie je kosztować pieniądze.
A we wrześniu „Wall Street Journal” zaczął publikować Facebook Files, oparte na wewnętrznych dokumentach pokazujących, że własne badania firmy zidentyfikowały szkody wyrządzane przez jej algorytmy i że te wnioski nie zawsze zmieniały jej decyzje.
Trzy różne historie, jeden wyłaniający się motyw. Zaufanie do tego, jak organizacje używają danych i algorytmów, staje się zmienną ekonomiczną.
Od kosztu do aktywa
W większości firm odpowiedzialna AI wciąż jest przedstawiana jako koszt. Dodatkowe przeglądy, wolniejsze premiery, obciążenia związane ze zgodnością. To ujęcie jest zrozumiałe i coraz bardziej niepełne.
Zaufanie wpływa na wyniki ekonomiczne na co najmniej cztery sposoby.
Adopcja. Klienci i pracownicy korzystają z systemów AI, którym ufają, i omijają te, którym nie ufają. System, z którego nikt nie korzysta, nie przynosi zwrotu.
Dane. Ludzie dzielą się danymi z organizacjami, którym ufają. Dane są surowcem AI.
Regulacje. Regulatorzy dają więcej swobody firmom z historią odpowiedzialnego postępowania i prowadzą postępowania wobec tych, które jej nie mają.
Partnerstwa. Na rynkach B2B duzi klienci coraz częściej pytają dostawców, jak działa ich AI, jak traktowane są dane i kto odpowiada. Jasna odpowiedź skraca cykle sprzedaży.
Gdzie przewaga jest realna
Przewaga jest najsilniejsza w branżach, w których decyzje bezpośrednio dotyczą ludzi i w których regulacje się zaostrzają: w usługach finansowych, ubezpieczeniach, ochronie zdrowia, technologii HR i rozwiązaniach dla sektora publicznego. Na tych rynkach zdolność wykazania sprawiedliwości, przejrzystości i solidnego nadzoru staje się warunkiem prowadzenia biznesu.
Najsłabsza jest tam, gdzie klienci nie widzą i nie mogą ocenić, jak używana jest AI. To uczciwe ograniczenie tego argumentu. Zaufanie staje się przewagą konkurencyjną tylko wtedy, gdy jest widoczne, a klienci mają wybór.
Perspektywa inwestora
Dla inwestorów odpowiedzialna AI powinna być częścią due diligence, obok cyberbezpieczeństwa i ochrony danych. Firma, która nie potrafi wyjaśnić, jak jej modele podejmują decyzje, na jakich danych zostały wytrenowane i jak monitorowane są wyniki, niesie zobowiązanie, którego nie ma w bilansie. Holenderski przypadek pokazuje, jak duże może się ono stać.
Wyzwaniem jest pomiar. Zaufanie łatwo opisać, a trudno zmierzyć. Firmy, które nauczą się je mierzyć poprzez zachowania klientów, wyniki regulacyjne i wskaźniki adopcji, będą tymi, które udowodnią, że warto w nie inwestować.
Pytanie o przywództwo: Czy zaufanie do sztucznej inteligencji może stać się dla pozycji konkurencyjnej tak samo ważne jak jakość produktu, bezpieczeństwo czy reputacja marki?


