ChatGPT i nowa etyka AI: co się dzieje, gdy każdy ma dostęp do inteligencji?

ChatGPT osiągnął szacunkowo 100 mln użytkowników w około dwa miesiące, szybciej niż jakakolwiek wcześniejsza aplikacja konsumencka. Pół roku po premierze pytania etyczne, które wywołuje, wyglądają zupełnie inaczej niż te, o których rozmawialiśmy zaledwie rok temu.
Kilka epizodów z tej wiosny dobrze pokazuje tę zmianę.
Pod koniec marca włoski urząd ochrony danych tymczasowo zablokował ChatGPT, wskazując na wątpliwości co do podstawy prawnej przetwarzania danych osobowych i brak weryfikacji wieku. Usługę przywrócono miesiąc później, po zmianach wprowadzonych przez OpenAI.
W kwietniu inżynierowie Samsunga wkleili do ChatGPT poufny kod źródłowy i notatki z wewnętrznych spotkań, żeby pomóc sobie w pracy. Samsung odpowiedział ograniczeniem korzystania z narzędzi generatywnej AI na firmowych urządzeniach.
W tym miesiącu sędzia federalny w Nowym Jorku ukarał dwóch prawników, którzy złożyli pismo procesowe powołujące się na sześć nieistniejących spraw. Wymyślił je ChatGPT, a prawnicy tego nie sprawdzili.
Od wyspecjalizowanych systemów do powszechnego dostępu
Do zeszłego roku debata etyczna o AI dotyczyła głównie systemów budowanych i wdrażanych przez organizacje: modeli kredytowych, algorytmów rekrutacyjnych, rozpoznawania twarzy. Pytanie brzmiało, jak te organizacje powinny się zachowywać.
Generatywna AI zmienia jednostkę analizy. Systemy są teraz w rękach setek milionów osób, używane do celów, których nikt nie zaprojektował, nie przetestował ani nie zatwierdził. Ryzyka dotyczą już nie tylko tego, jak AI jest zbudowana. Dotyczą tego, jak jest używana.
Nowy profil ryzyka
Pewny siebie błąd. Modele językowe tworzą płynny, wiarygodnie brzmiący tekst niezależnie od tego, czy jest prawdziwy. Sprawa Avianki jest zabawna, dopóki coś takiego nie zdarzy się w kontekście medycznym, prawnym czy finansowym z realnymi konsekwencjami.
Wyciek danych. Pracownicy używają publicznych narzędzi z informacjami poufnymi, bo dzięki temu są bardziej produktywni. W styczniu większość organizacji nie miała na to żadnej polityki.
Stronniczość na dużą skalę. Modele trenowane na tekstach z internetu dziedziczą ich uprzedzenia i powielają je w milionach interakcji.
Nadużycia. Ta sama zdolność, która pisze maila marketingowego, pisze przekonującą kampanię phishingową.
Gdzie teraz leży odpowiedzialność
Odpowiedzialność jest teraz rozproszona między co najmniej trzy strony: twórcę modelu, organizację, która wdraża narzędzie lub na nie pozwala, i indywidualnego użytkownika. Każda ma swoją rolę. Twórca może budować zabezpieczenia, organizacja może ustalać zasady i szkolić ludzi, użytkownik może sprawdzić, zanim zaufa.
Dla firm praktyczny wniosek jest pilny. Zakaz generatywnej AI nie działa, bo pracownicy i tak będą jej używać na własnych urządzeniach. Ignorowanie jej nie działa, bo ryzyka są realne. Jedyna działająca droga to zapewnić zatwierdzone narzędzia, jasne zasady dotyczące danych i weryfikacji oraz szkolenia, które wyjaśniają nie tylko, jak korzystać z narzędzi, ale też gdzie zawodzą.
Głębsza zmiana jest kulturowa. Po raz pierwszy każdy pracownik potrzebuje podstawowego zrozumienia tego, jak zachowuje się potężny system AI. Kompetencje w zakresie AI stają się częścią kompetencji zawodowych, podobnie jak świadomość ochrony danych po RODO.
Pytanie o przywództwo: Kto odpowiada za to, by potężne narzędzia AI były używane bezpiecznie, gdy dostęp do nich staje się niemal powszechny?


