AI nie wymyśliła nowego ataku. Zwiększyła produktywność atakujących
Wydaje mi się, że właśnie zobaczyliśmy zapowiedź przyszłości cyberbezpieczeństwa – i nie chodzi w niej o to, że AI „włamuje się do systemów”.
Haker włamał się niedawno do kilku meksykańskich instytucji rządowych i wykradł około 150 GB wrażliwych danych, w tym informacje o podatnikach i wyborcach. W trakcie operacji korzystał z modelu AI (Claude) jako wsparcia technicznego.
Ciekawe nie jest samo włamanie, bo rządy padają ofiarą hakerów co roku. Ciekawa jest ekonomia ataku.
Model na początku odmówił pomocy – zabezpieczenia zadziałały. Ale atakujący próbował kolejnych poleceń, przedstawił swoje działania jako „legalne testy bezpieczeństwa” i w końcu dostał odpowiedzi, które pomogły mu w analizie podatności i automatyzacji. Kampania trwała około miesiąca.
Czy mogło do tego dojść bez AI? Oczywiście. Czy z AI było szybciej i taniej? Z pewnością.
I to jest prawdziwa zmiana. AI nie tworzy zupełnie nowych metod ataku. Dramatycznie zwiększa produktywność atakujących. Niższy koszt → niższy próg wejścia → więcej chętnych → więcej ataków.
Tę krzywą produktywności widzieliśmy już w tworzeniu oprogramowania. Teraz dociera do cyberbezpieczeństwa – po obu stronach.
Jest też szersza warstwa geopolityczna. Rząd USA podobno naciska na firmy AI, żeby pozwoliły na szersze użycie najbardziej zaawansowanych modeli w projektach obronnych, a część firm obawia się zastosowań w broni autonomicznej czy masowej inwigilacji.
To rodzi niewygodne pytanie: jeśli zaawansowana AI staje się infrastrukturą krytyczną państwa, kto ostatecznie kontroluje jej możliwości?
Moja prognoza: takie incydenty przestaną trafiać na nagłówki. Staną się codziennością. Niestety.
