# Bezpieczeństwo AI z czołówki: czy najpotężniejsze modele powinny podlegać innym zasadom?

Author: Norbert Biedrzycki
Published: 2025-10-15
Language: pl
URL: https://norbertbiedrzycki.pl/bezpieczenstwo-ai-z-czolowki-czy-najpotezniejsze-modele-powinny-podlegac-innym-zasadom/
Summary: W każdej innej branży o potencjalnie poważnych ryzykach nie zaakceptowalibyśmy samocertyfikacji jako ostatniego słowa. Możliwości mogą rozwijać się szybciej niż mechanizmy ich kontroli.

Pod koniec września gubernator Kalifornii podpisał ustawę SB 53, Transparency in Frontier Artificial Intelligence Act. Wymaga ona od twórców najbardziej zaawansowanych modeli publikowania ram bezpieczeństwa, zgłaszania krytycznych incydentów bezpieczeństwa i ochrony sygnalistów. Rok wcześniej bardziej ambitna ustawa, SB 1047, została zawetowana. Węższa wersja przeszła.

W lipcu Komisja Europejska opublikowała Kodeks praktyk dla AI ogólnego przeznaczenia, dobrowolny instrument pomagający dostawcom spełnić obowiązki AI Act dla modeli ogólnego przeznaczenia, z osobnym rozdziałem o bezpieczeństwie dla modeli z ryzykiem systemowym. Większość czołowych twórców go podpisała. Niektórzy nie podpisali albo podpisali tylko część.

W styczniu ukazał się pierwszy Międzynarodowy raport o bezpieczeństwie AI, kierowany przez Yoshuę Bengio i napisany przez ekspertów wskazanych przez trzydzieści krajów, podsumowujący stan wiedzy o ryzykach AI ogólnego przeznaczenia. Jego głównym przesłaniem była niepewność: możliwości szybko rosną, a nasza zdolność do ich mierzenia i przewidywania pozostaje w tyle.

## Dlaczego modele z czołówki traktuje się inaczej

Większość regulacji AI skupia się na zastosowaniach. Model kredytowy jest regulowany, bo decyzje kredytowe mają znaczenie. Bezpieczeństwo modeli z czołówki wprowadza inną logikę: część ryzyk wynika z możliwości samego modelu, niezależnie od tego, jak konkretny klient go używa.

Obawy są konkretne. Modele, które dają istotną pomoc komuś, kto próbuje zbudować broń biologiczną lub chemiczną. Modele, które znacząco zwiększają możliwości cyberprzestępców. Modele działające autonomicznie w sposób trudny do nadzorowania czy korygowania. I szersza możliwość, że coraz bardziej zaawansowane systemy będą zachowywać się w sposób, którego ich twórcy nie przewidzieli.

Czołowi twórcy odpowiedzieli własnymi ramami. Responsible Scaling Policy Anthropic, Preparedness Framework OpenAI i Frontier Safety Framework Google DeepMind określają progi możliwości i zabezpieczenia, które muszą być wdrożone, zanim modele przekraczające te progi zostaną udostępnione.

## Problem wiarygodności

Te ramy to prawdziwy krok naprzód. Mają też wspólną słabość strukturalną. W większości przypadków organizacja rozwijająca model sama projektuje testy, prowadzi oceny i decyduje, czy progi zostały przekroczone. Firmy intensywnie konkurują, pod ogromną presją komercyjną, na rynku, na którym kilka miesięcy opóźnienia może mieć znaczenie.

W każdej innej branży o potencjalnie poważnych ryzykach nie zaakceptowalibyśmy samocertyfikacji jako ostatniego słowa. Farmacja, lotnictwo i energetyka jądrowa opierają się na niezależnej ocenie. Instytuty bezpieczeństwa AI w Wielkiej Brytanii i USA oraz unijne Biuro ds. AI to wczesne próby zbudowania takiej zdolności. Wciąż są małe w porównaniu z branżą, którą obserwują.

## Dlaczego to powinno obchodzić inwestorów i rady nadzorcze

Dla inwestorów bezpieczeństwo modeli z czołówki wprowadza ryzyko, które nie pasuje łatwo do tradycyjnych modeli: możliwości mogą rozwijać się szybciej niż mechanizmy zaprojektowane do ich kontroli. Poważny incydent z udziałem modelu z czołówki mógłby wywołać szybką regulację, która zmieni ekonomię całego sektora, łącznie z firmami budującymi na tych modelach.

Dla przedsiębiorstw pytanie jest bardziej bezpośrednie. Na jakich modelach budujemy, co wiemy o tym, jak były testowane, i na ile zależymy od dostawcy, którego praktyk bezpieczeństwa nie jesteśmy w stanie zweryfikować?

> *Pytanie o przywództwo: Czy najpotężniejsze modele AI powinny przechodzić niezależną ocenę bezpieczeństwa, zanim zostaną szeroko udostępnione?*
