Rząd USA zablokował eksport modeli AI Fable i Mythos. Decyzja wywołała furię ekspertów, którzy twierdzą, że to prezent dla hakerów i osłabienie cyberobrony.
W skrócie:
- Rząd USA, powołując się na bezpieczeństwo narodowe, zablokował eksport modeli Fable i Mythos firmy Anthropic, które specjalizują się w wykrywaniu luk w zabezpieczeniach.
- Ponad 76 czołowych ekspertów ds. cyberbezpieczeństwa podpisało list otwarty, w którym protestują przeciwko decyzji, nazywając ją “niebezpieczną” i ułatwiającą pracę adwersarzom.
- Kontrowersje wzbudził niejawny raport Amazona, który rzekomo opisywał metodę obejścia zabezpieczeń modelu. Eksperci twierdzą, że to nie był “jailbreak”, a pożądana funkcja.
Decyzja administracji Stanów Zjednoczonych spadła jak grom z jasnego nieba. W ubiegły piątek rząd nakazał firmie Anthropic wstrzymanie eksportu dwóch przełomowych modeli AI – Fable i Mythos. Oficjalny powód? Bezpieczeństwo narodowe. Nieoficjalnie – nikt nie podał konkretów. W odpowiedzi Anthropic natychmiast zawiesił dostęp do narzędzi dla użytkowników na całym świecie, co wywołało bezprecedensową reakcję w branży.
Grupa ponad 76 weteranów cyberbezpieczeństwa, w tym takie tuzy jak były szef bezpieczeństwa Facebooka Alex Stamos, założyciel Bugcrowd Casey Ellis czy legendarny kryptograf Jon Callas, opublikowała list otwarty. Jego treść jest krótka i brutalnie szczera. “Ta akcja odebrała najlepsze modele obrońcom” – piszą eksperci. “Zabieranie najlepszych możliwości obrońcom bez dobrego powodu, gdy nasi przeciwnicy szybko się rozwijają, jest niebezpieczne”. Trudno o dosadniejszy komentarz.
Jak działa broń, którą właśnie odebrano obrońcom?
Żeby zrozumieć skalę problemu, trzeba wiedzieć, czym są Mythos i Fable. Mythos, udostępniony w kwietniu wąskiej grupie około 150 organizacji w 15 krajach, to prawdziwy game-changer. Anthropic od początku twierdził, że jest tak potężny w znajdowaniu luk w zabezpieczeniach, że musi być ściśle kontrolowany, aby nie wpadł w niepowołane ręce. To narzędzie miało być skalpelem chirurgicznym dla cyfrowych “dobrych gości”.
Z kolei Fable to jego publiczna, znacznie bardziej “grzeczna” wersja. Model wyposażono w tak rygorystyczne ograniczenia, że blokował niemal każde zapytanie związane z cyberbezpieczeństwem, chemią czy biologią. Paradoksalnie, wielu specjalistów uznało go za niemal bezużyteczny w ich pracy. Mimo to, to właśnie rzekoma luka w Fable stała się pretekstem do działania rządu.
O co chodzi w tajnym raporcie Amazona?
Wszystko wskazuje na to, że decyzja Białego Domu mogła być oparta na niepublicznym raporcie badaczy z Amazona. Dokument, do którego dotarła część sygnatariuszy listu, miał opisywać metodę obejścia zabezpieczeń Fable – tak zwany “jailbreak” – który uwalniał jego pełną, potężną moc na poziomie Mythosa. Brzmi groźnie? Tylko na papierze.
Katie Moussouris, założycielka Luta Security i jedna z sygnatariuszek, miażdży tę tezę w swoim wpisie na blogu. Twierdzi, że po zapoznaniu się z raportem nie znalazła tam żadnego “jailbreaka”. Badacze po prostu poprosili model o naprawienie kodu open-source, który zawierał publicznie znane luki oraz celowo dodane błędy. Zrobili to po tym, jak Fable początkowo odmówił “przeanalizowania kodu pod kątem problemów z bezpieczeństwem”.
Jak pisze Moussouris: “Zachowanie opisane w artykule nie może zostać sensownie naprawione, a każda próba osłabiłaby tylko model dla celów obronnych. Obrońcy muszą mieć możliwość poproszenia AI o naprawienie błędów w pliku, wyjaśnienie, dlaczego poprawka ma znaczenie, i napisanie testów potwierdzających, że łatka działa. To nie jest obejście zabezpieczeń. To najcenniejsza rzecz, jaką model AI może zrobić dla obronności: wykonanie pętli znajdź, napraw i przetestuj, którą obrońcy realizują każdego dnia”.
Co więcej, eksperci podkreślają, że rzekomą “technikę” Amazona można bez problemu odtworzyć w modelach konkurencji, takich jak GPT‑5.5 od OpenAI, a nawet w chińskich odpowiednikach pokroju Kimi 2.7. Tyle że tamte modele często nie mają tak restrykcyjnych barier, więc nawet nie trzeba ich “oszukiwać”. Po prostu wykonują polecenie.
Co dalej z regulacją AI? Strach przed nieznanym wygrywa
List otwarty to nie tylko protest. To również apel o rozsądek. Jego autorzy domagają się “przejrzystych i sprawiedliwie egzekwowanych przepisów”, które powstaną w “demokratycznym procesie” i będą oparte na badaniach naukowych, a nie na strachu czy niepełnym zrozumieniu technologii. To gorzka pigułka dla regulatorów, którzy – jak widać – potrafią jednym ruchem wylać dziecko z kąpielą.
Sytuacja jest patowa. Obrońcy stracili kluczowe narzędzie, a napastnicy zyskali czas. Incydent z Fable i Mythos pokazuje, jak krucha jest równowaga w cyfrowym świecie i jak jedna, potencjalnie błędna decyzja urzędnicza może ją zburzyć. Pytanie, czy to jednorazowy wypadek przy pracy, czy może początek ery, w której strach przed potęgą AI będzie prowadził do jej legislacyjnego paraliżu. To byłby najgorszy z możliwych scenariuszy.