NORBERT BIEDRZYCKI

AI nie wymyśliła nowego ataku. Zwiększyła produktywność atakujących

Wydaje mi się, że właśnie zobaczyliśmy zapowiedź przyszłości cyberbezpieczeństwa – i nie chodzi w niej o to, że AI „włamuje się do systemów”.

Haker włamał się niedawno do kilku meksykańskich instytucji rządowych i wykradł około 150 GB wrażliwych danych, w tym informacje o podatnikach i wyborcach. W trakcie operacji korzystał z modelu AI (Claude) jako wsparcia technicznego.

Ciekawe nie jest samo włamanie, bo rządy padają ofiarą hakerów co roku. Ciekawa jest ekonomia ataku.

Model na początku odmówił pomocy – zabezpieczenia zadziałały. Ale atakujący próbował kolejnych poleceń, przedstawił swoje działania jako „legalne testy bezpieczeństwa” i w końcu dostał odpowiedzi, które pomogły mu w analizie podatności i automatyzacji. Kampania trwała około miesiąca.

Czy mogło do tego dojść bez AI? Oczywiście. Czy z AI było szybciej i taniej? Z pewnością.

I to jest prawdziwa zmiana. AI nie tworzy zupełnie nowych metod ataku. Dramatycznie zwiększa produktywność atakujących. Niższy koszt → niższy próg wejścia → więcej chętnych → więcej ataków.

Tę krzywą produktywności widzieliśmy już w tworzeniu oprogramowania. Teraz dociera do cyberbezpieczeństwa – po obu stronach.

Jest też szersza warstwa geopolityczna. Rząd USA podobno naciska na firmy AI, żeby pozwoliły na szersze użycie najbardziej zaawansowanych modeli w projektach obronnych, a część firm obawia się zastosowań w broni autonomicznej czy masowej inwigilacji.

To rodzi niewygodne pytanie: jeśli zaawansowana AI staje się infrastrukturą krytyczną państwa, kto ostatecznie kontroluje jej możliwości?

Moja prognoza: takie incydenty przestaną trafiać na nagłówki. Staną się codziennością. Niestety.

Czytaj także

  1. Każdy duży model językowy da się namówić do naukowego oszustwa. Czy masz sposób, żeby to wyłapać?LinkedIn

    Okazuje się, że każdy duży model językowy da się zmanipulować tak, żeby pomógł w naukowym oszustwie. To nie są spekulacje. Niedawne badanie, opisane przez Nature i Scientific American, sprawdziło 13 modeli i potwierdziło to w każdym przypadku.

  2. Co 81 tysięcy ludzi powiedziało Anthropic o AILinkedIn

    Anthropic przez tydzień rozmawiał z 81 tysiącami ludzi o ich relacji z AI. Nie ankieta, tylko prawdziwe rozmowy – w 70 językach, w 159 krajach. Po lekturze kilka rzeczy nie daje mi spokoju. Ktoś korzysta z AI o trzeciej w nocy, bo ma ciężką noc, a jego terapeuta jest niedostępny.

  3. AI nie zabija dziennikarstwa. Zabija je utrata kontroli nad uwagąLinkedIn

    Generatywna AI stała się wygodnym kozłem ofiarnym. Łatwo twierdzić, że to ona odbiera redakcjom kliknięcia, przychody i sens istnienia. To jednak tylko część historii. AI nie wywołała kryzysu dziennikarstwa. Po prostu uwidoczniła problem, który narastał od lat.