NORBERT BIEDRZYCKI

Każdy duży model językowy da się namówić do naukowego oszustwa. Czy masz sposób, żeby to wyłapać?

Okazuje się, że każdy duży model językowy da się zmanipulować tak, żeby pomógł w naukowym oszustwie.

To nie są spekulacje. Niedawne badanie, opisane przez Nature i Scientific American, sprawdziło 13 modeli i potwierdziło to w każdym przypadku. Co ciekawsze, modele, które na początku odmawiały, często ustępowały po kilku kolejnych pytaniach. Nic skomplikowanego, zwykłe, rozmowne naciskanie.

I tu robi się niewygodnie. Większość firm, które dziś wdrażają AI, zakłada jedno: „jeśli coś jest nie tak, model odmówi”. W praktyce nie jest to takie proste. Często zależy to od tego, jak się zapyta.

Dla porównania: Claude ustępował w około 1% przypadków, Grok-3 w ponad 30%. Różnica jest duża, ale nie o nią tu chodzi.

Prawdziwy problem polega na tym, że już opieramy się na tych systemach przy analizie dokumentów, raportowaniu i wspieraniu decyzji – nie sprawdzając porządnie, jak zachowują się pod presją.

W nauce recenzja jest standardem. W większości firm nie. W bankowości nazywamy to ryzykiem modelu i ono nie znika tylko dlatego, że model jest „zaawansowany”.

Unijny AI Act już tego wymaga, wprowadzając testy w warunkach celowego ataku. Nie dlatego, że modele czasem się mylą, ale dlatego, że można je do pomyłki zmusić.

Pytanie nie brzmi więc, czy AI popełnia błędy. Jest prostsze: czy masz mechanizmy, które je wyłapią?

Źródło: Scientific American

Czytaj także

  1. Co 81 tysięcy ludzi powiedziało Anthropic o AILinkedIn

    Anthropic przez tydzień rozmawiał z 81 tysiącami ludzi o ich relacji z AI. Nie ankieta, tylko prawdziwe rozmowy – w 70 językach, w 159 krajach. Po lekturze kilka rzeczy nie daje mi spokoju. Ktoś korzysta z AI o trzeciej w nocy, bo ma ciężką noc, a jego terapeuta jest niedostępny.

  2. AI nie wymyśliła nowego ataku. Zwiększyła produktywność atakującychLinkedIn

    Wydaje mi się, że właśnie zobaczyliśmy zapowiedź przyszłości cyberbezpieczeństwa – i nie chodzi w niej o to, że AI „włamuje się do systemów”. Haker włamał się niedawno do kilku meksykańskich instytucji rządowych i wykradł około 150 GB wrażliwych danych, w tym informacje o podatnikach i wyborcach.

  3. AI nie zabija dziennikarstwa. Zabija je utrata kontroli nad uwagąLinkedIn

    Generatywna AI stała się wygodnym kozłem ofiarnym. Łatwo twierdzić, że to ona odbiera redakcjom kliknięcia, przychody i sens istnienia. To jednak tylko część historii. AI nie wywołała kryzysu dziennikarstwa. Po prostu uwidoczniła problem, który narastał od lat.