NORBERT BIEDRZYCKI
4 min czytaniaBiznesTen tekst po angielsku

Kto podpisuje mandat agenta?

Każda firma ma regulamin, który mówi, kto może podpisać fakturę na 50 tys. zł. Prawie żadna nie ma regulaminu, który mówi, co wolno zrobić agentowi wdrażającemu zmiany na produkcję sto razy na godzinę.

Dwa bieguny tej samej rewolucji

W ostatnich tygodniach pojawiły się dwie historie, które warto położyć obok siebie.

Pierwsza to Spawn, dziesięcioosobowy startup budujący silnik do gier multiplayer. Jego założyciel Jacob Sansbury opisał na X firmę, w której stałe agenty z imionami, pamięcią i prawdziwymi uprawnieniami odpowiadają za silnik, finanse, błędy i wdrożenia. Według jego relacji firma wydaje 3,1 mln dolarów miesięcznie na tokeny i wypchnęła 77 tys. zmian w 30 dni. Zmiana trafia na produkcję, zanim ktokolwiek ją sprawdzi. Godzina bez wdrożenia to incydent najwyższej wagi.

Ciekawsze od liczb jest jednak to, co stało się, gdy w kolejce do decyzji Sansbury’ego czekało 700 spraw. Założyciel zbudował „Sędziego AI”, agenta, który decyduje w jego imieniu na podstawie dwóch lat jego wcześniejszych decyzji. W ciągu ośmiu dni Sędzia rozpatrzył ponad 11 tys. spraw: 7 296 rozstrzygnął sam, 2 213 odesłał do poprawki, 1 863 przekazał ludziom. Sansbury osobiście decydował 27 razy.

Druga historia to Anthropic, który w październiku opublikował raport o tym, jak AI zmieniła pracę w samej firmie. Tam człowiek zostaje w pętli. Efekt? Godziny pracy agentów przewyższają godziny pracy ludzi sześć do jednego. Według raportu około 80% czasu interaktywnej sesji to czekanie na reakcję człowieka. Mediana czasu spędzanego na spotkaniach wzrosła o 20% rok do roku. Jeden z inżynierów opisuje swoją pracę jako stanie naprzeciw armii Claude’ów, z których każdy prosi o uwagę.

I jeszcze jedna liczba z tego raportu, która powinna zainteresować każdy zarząd: kod napisany przez agenta nie był później częściej usuwany ani cofany niż kod, który ta sama osoba napisała ręcznie w tym samym miesiącu.

Jakość przestaje więc być wąskim gardłem. Wąskim gardłem staje się decyzja.

Źle postawione pytanie

Dyskusja o agentach w firmach kręci się zwykle wokół pytania, czy człowiek ma być w pętli, czy poza nią. Spawn odpowiada „poza”, Anthropic odpowiada „w”. Moim zdaniem obie odpowiedzi są niepełne, bo pytanie jest źle postawione.

Właściwe pytanie brzmi: kto nadaje agentowi mandat, w jakim zakresie i kto może mu ten mandat odebrać.

To nie jest pytanie technologiczne. To jest pytanie o ład korporacyjny. Każdy, kto prowadził spółkę albo zasiadał w radzie nadzorczej, zna macierz uprawnień decyzyjnych. Wiadomo, kto zatwierdza budżet, kto podpisuje umowę powyżej progu, kto może zatrudnić, a kto zwolnić. Ta macierz istnieje po to, żeby organizacja mogła działać szybko tam, gdzie ryzyko jest małe, i wolno tam, gdzie błąd jest drogi.

Agenty potrzebują dokładnie tego samego. Tymczasem w większości firm, które widzę w pracy z klientami i spółkami portfelowymi funduszy, uprawnienia agenta wynikają z tego, do jakich systemów akurat dostał klucze API. To nie jest mandat. To jest przypadek.

Trzy klasy decyzji

Najprostszy sposób, żeby uporządkować ten temat, to podzielić decyzje według kosztu pomyłki.

Decyzje odwracalne i tanie. Poprawka błędu, aktualizacja danych w CRM, uzgodnienie faktury z zamówieniem. Tu agent powinien działać sam, a człowiek widzi jedynie ślad w logu. Trzymanie człowieka w pętli przy takich decyzjach to dokładnie te 80% czasu, które agenci w Anthropic spędzają na czekaniu.

Decyzje odwracalne, ale kosztowne. Zmiana cennika, wstrzymanie wysyłki, odpowiedź do kluczowego klienta. Tu agent przygotowuje decyzję i uzasadnienie, a człowiek ją zatwierdza. Warto z góry ustalić, co się dzieje, gdy człowiek nie zareaguje w określonym czasie, bo inaczej agent stoi, a firma czeka.

Decyzje nieodwracalne. Usunięcie danych, podpisanie zobowiązania, komunikat do regulatora. Tu decyduje człowiek, a agent może co najwyżej przygotować materiał. Spawn, mimo całej swojej radykalności, stawia twarde bramki właśnie w tym miejscu.

Ten podział nie jest odkrywczy. Odkrywcze jest to, jak rzadko ktoś go faktycznie spisuje.

Pytania, które rada powinna zadać zarządowi

Gdybym dziś siedział w radzie nadzorczej spółki, która wdraża agentów, zadałbym trzy pytania.

Pierwsze: kto podpisuje mandat agenta? Czy jest konkretna osoba, która odpowiada za to, że agent od finansów może zatwierdzić korektę faktury, ale nie może zmienić warunków płatności?

Drugie: kto może ten mandat odebrać i jak szybko? Spawn opisuje sytuację, w której po wycieku kluczy API agenty same wykryły problem i wymieniły wszystkie klucze w 15 minut. To imponujące. Ale zarząd musi wiedzieć, kto zatrzyma agenta, gdy problemem będzie sam agent.

Trzecie: jak mierzymy, czy mandat jest dobrze ustawiony? Odsetek spraw eskalowanych do ludzi mówi więcej niż liczba wdrożonych agentów. Jeśli eskalacji jest za dużo, agent jest tylko droższym formularzem. Jeśli za mało, ktoś przestał patrzeć.

Jak podchodzimy do tego w Sophonie

Budując Operatorów AI w Sophonie, zaczynamy od mandatu, a nie od modelu. Zanim Operator dotknie pierwszego procesu, ustalamy z klientem, jakie decyzje podejmuje sam, jakie przygotowuje do akceptacji i gdzie jego rola się kończy. Pamięć kontekstu służy temu, żeby Operator wiedział nie tylko, co zrobić, ale też kiedy poczekać na człowieka.

Nie uważam, że każda firma powinna stać się Spawnem. Większość nie powinna. Ale każda firma, która wpuszcza agentów do swoich procesów, powinna umieć odpowiedzieć na pytanie, na które Spawn odpowiedział sobie wprost: gdzie błąd jest nieodwracalny i kto wtedy decyduje.

Technologię da się poprawić w kolejnym wydaniu. Mandatu, którego nikt nie spisał, nie da się poprawić po fakcie. Warto go spisać, zanim agent zrobi to za nas.

Czytaj także

  1. Skąd za dziesięć lat weźmie się osąd?

    Firmy, które najdalej zaszły w pracy z agentami AI, mówią dziś o jednym zasobie, którego nie da się kupić w tokenach. Nazywają go różnie: smak, osąd, wyczucie. I właśnie te firmy, nie do końca świadomie, podcinają gałąź, na której ten zasób rośnie.

  2. Wszyscy mówią, że AI zastępuje doradztwo. Moim zdaniem umyka nam sednoLinkedIn

    W ostatnich miesiącach dyskusja o doradztwie przybrała na sile. AI zmienia wszystko. Konsultanci mogą stracić pracę. Prace strategiczne da się zautomatyzować. Slajdy powstaną w kilka sekund bez udziału człowieka. Rozumiem ten entuzjazm. AI naprawdę robi wrażenie.

  3. Business Insider: Moralność algorytmów i kodeks etyczny lidera w czasach sztucznej inteligencji

    Mój artykuł w BUSINESS INSIDER z dnia 16 kwietnia 2018 roku. Pisząc o Sztucznej Inteligencji, wielokrotnie wyrażałem pogląd, że stwarza ona olbrzymie możliwości dla rozwoju współczesnych społeczeństw. Wielokrotnie dawałem wyraz temu, że wierzę, że technologiczny postęp ma sens i przyniesie nam wszystkim korzyści. Zdaję sobie jednak