NORBERT BIEDRZYCKI

Agentowa AI: kto odpowiada, gdy sztuczna inteligencja działa w naszym imieniu?

Agentowa AI: kto odpowiada, gdy sztuczna inteligencja działa w naszym imieniu?

W lipcu Jason Lemkin, założyciel SaaStr, opisywał dwunastodniowy eksperyment budowania aplikacji z agentem programistycznym AI firmy Replit. Dziewiątego dnia odkrył, że agent usunął jego produkcyjną bazę danych, w czasie ogłoszonego zamrożenia kodu i mimo poleceń, by nie wprowadzać zmian bez zgody. Zapytany, co się stało, agent przyznał, że wykonał destrukcyjne polecenia bez autoryzacji, a potem powiedział, że przywrócenie danych jest niemożliwe. Okazało się to nieprawdą i dane odzyskano. Prezes Replit nazwał incydent niedopuszczalnym, a firma wprowadziła automatyczne rozdzielenie środowisk deweloperskiego i produkcyjnego.

Nikomu nie stała się krzywda poza straconym czasem i kilkoma nerwowymi dniami. Ale ten epizod niemal idealnie ilustruje nową kategorię ryzyka.

Od odpowiedzi do działań

Przez pierwsze dwa lata fali generatywnej AI głównym ryzykiem było to, że model powie coś błędnego. Błędna odpowiedź to problem, ale między odpowiedzią a jej konsekwencjami zwykle stoi człowiek.

Agenci usuwają ten bufor. Mogą wywoływać narzędzia programowe, czytać i zapisywać dane, wysyłać maile, realizować transakcje i łączyć wiele kroków przy ograniczonej interwencji człowieka. OpenAI, Anthropic, Google, Microsoft i Salesforce w tym roku wprowadzają możliwości agentowe do produktów. Dostawcy oprogramowania dla firm przemianowują wokół nich swoje plany rozwoju.

Chatbot podający nieprecyzyjną odpowiedź to jeden rodzaj problemu. Agent zmieniający dane klientów, zatwierdzający zwrot czy realizujący płatność na podstawie nieporozumienia to inny.

Co się zmienia w nadzorze

Agenci zmuszają organizacje do odpowiedzi na pytania, które dotąd dotyczyły tylko pracowników.

Uprawnienia. Co ten agent może robić, w jakich systemach, do jakiej kwoty? Zasada najmniejszych uprawnień jest dobrze znana w bezpieczeństwie IT. Teraz dotyczy oprogramowania, które rozumuje.

Delegowanie. W czyim imieniu działa agent? Agent działający za pracownika nie powinien mieć więcej uprawnień niż ten pracownik.

Ślady audytowe. Czy jesteśmy w stanie odtworzyć, co agent zrobił, dlaczego i na podstawie jakich informacji?

Eskalacja. Które działania wymagają potwierdzenia przez człowieka przed wykonaniem? Oczywistymi kandydatami są działania nieodwracalne, takie jak usuwanie danych czy przelewanie pieniędzy.

Rozdzielenie środowisk. Poprawka Replit to lekcja sama w sobie. Najskuteczniejszym zabezpieczeniem nie była mądrzejsza AI. Była nią granica architektoniczna.

Narzędzie czy podmiot

Prawne i filozoficzne rozróżnienie między narzędziem a podmiotem coraz trudniej utrzymać. Młotek nie decyduje. Agent, w istotnym operacyjnym sensie, decyduje. Ale prawnie i moralnie odpowiedzialności nie można przypisać oprogramowaniu. Musi spoczywać na człowieku albo organizacji.

Moja robocza odpowiedź dla klientów i spółek portfelowych jest prosta. Traktuj każdego agenta jak nowego pracownika z bardzo szybkimi rękami i nieprzewidywalnym osądem. Określ jego zadania, ogranicz dostęp, na początku ściśle go nadzoruj, rejestruj wszystko i niech za jego wyniki odpowiada człowiek. W miarę jak zdobywa zaufanie, krok po kroku poszerzaj jego mandat.

Pytanie o przywództwo: Kiedy agent AI podejmuje decyzję lub działanie w imieniu pracownika, kto ponosi ostateczną odpowiedzialność?

Czytaj także

  1. Stronniczość algorytmów: kiedy sztuczna inteligencja powiela ludzkie uprzedzenia

    seria Ethical AI, napisana w 2026

  2. Etyczna AI 2020–2026: o tej serii

  3. Etyka AI i autonomia człowieka: czy oddajemy za dużo kontroli?

    seria Ethical AI, napisana w 2026