Giganci AI, tacy jak OpenAI i Anthropic, wprowadzili zabezpieczenia, które miały chronić przed hakerami. Okazuje się, że utrudniają pracę… ekspertom od cyberbezpieczeństwa.
W skrócie:
- OpenAI i Anthropic tworzą specjalne programy dla badaczy cyberbezpieczeństwa, ale ich restrykcje, zwane guardrails, uniemożliwiają skuteczne testowanie luk w systemach.
- Eksperci tacy jak Mark Dowd i Paolo Stagno krytykują firmy za „traktowanie klientów jak dzieci” i arbitralne decydowanie o tym, co jest bezpieczne w sieci.
- W efekcie wielu zachodnich specjalistów rezygnuje z modeli amerykańskich i sięga po chińskie, otwarte oprogramowanie AI, które nie ma żadnych ograniczeń.
Przez ostatnie miesiące giganci technologiczni z Doliny Krzemowej prześcigali się w zapewnieniach o bezpieczeństwie. OpenAI i Anthropic, twórcy najpotężniejszych modeli językowych, wdrożyli skomplikowane systemy zabezpieczeń (guardrails), które mają uniemożliwić wykorzystanie ich narzędzi przez hakerów. Idea szlachetna, ale wykonanie – jak to często bywa – okazało się problematyczne. Okazuje się, że te same bariery, które mają zatrzymać cyberprzestępców, skutecznie blokują pracę legalnych badaczy bezpieczeństwa. Tych, którzy stoją po naszej stronie.
Sytuacja stała się tak napięta, że w czerwcu rząd USA nałożył nawet ograniczenia eksportowe na modele Mythos i Fable od Anthropic. Powodem był raport sugerujący, że zabezpieczenia da się obejść. Co prawda restrykcje szybko zniesiono, ale niesmak pozostał. Anthropic od dawna reklamował Mythos jako cybernetyczną maszynę zagłady, dostępną tylko dla wybranych i pod ścisłym nadzorem. Taka polityka zamkniętych drzwi nie jest wyjątkiem – OpenAI ma swój program Trusted Access for Cyber, a Anthropic – Cyber Verification Program. Oba wymagają od badaczy aplikowania, przechodzenia weryfikacji i udowadniania, że mają dobre intencje.
Jak młot, którym nie można budować domu?
Problem polega na tym, że w świecie cyberbezpieczeństwa granica między atakiem a obroną jest cienka jak włos. Chris Anley, główny naukowiec w firmie konsultingowej NCC Group, tłumaczy to wprost. Prośba o napisanie kodu, który wykorzystuje lukę w systemie, jest kluczowym krokiem, by tę lukę zrozumieć i naprawić. Jeśli model AI odmawia wykonania takiego polecenia, obrońcy tracą cenne narzędzie. “To jak z młotkiem” – mówi Anley. – “Nie zbudujesz bez niego domu. To narzędzie, ale jednocześnie broń. Tych dwóch funkcji nie da się rozdzielić”.
Kiedy on i jego koledzy trafiają na mur w postaci korporacyjnych zabezpieczeń, coraz częściej sięgają po modele open-source, które nie mają żadnych ograniczeń. To prosta kalkulacja – czas to pieniądz, a negocjowanie z chatbotem jest ostatnią rzeczą, na którą stać ekspertów w wyścigu z hakerami.
Dlaczego specjaliści czują się traktowani jak dzieci?
Frustrację w branży słychać coraz głośniej. Mark Dowd, znany badacz, który od dekad wynajduje i sprzedaje zachodnim rządom luki typu zero-day, nie owija w bawełnę. “Nie czuję się komfortowo z tym, że jakieś wielkie korporacje podejmują arbitralne decyzje o tym, co jest bezpieczne, a co nie” – powiedział w jednym z podcastów. Paolo Stagno, dyrektor technologiczny w firmie Crowdfense, która również handluje exploitami, idzie o krok dalej. Jego zdaniem firmy AI “zasadniczo traktują klientów jak dzieci, które trzeba niańczyć”.
Co ciekawe, jego zespół używa potężnych modeli chmurowych tylko do tzw. inżynierii wstecznej, czyli analizy istniejącego kodu. Gdy przychodzi do szukania luk lub tworzenia exploitów, przełączają się na modele open-source uruchamiane lokalnie. Powód? Ryzyko wycieku wrażliwych danych lub ich wchłonięcia przez model podczas przyszłych treningów. Logiczne.
Czy ta nadgorliwość prowadzi nas donikąd?
Konsekwencje są łatwe do przewidzenia i potencjalnie katastrofalne. Chris Thompson, założyciel konferencji Offensive AI Con, alarmuje, że restrykcje są niekonsekwentne i każdego dnia działają inaczej, nawet w ramach specjalnych programów weryfikacyjnych. “W praktyce spędzasz mnóstwo czasu na negocjacjach z modelem, zamiast pracować nad sednem problemu” – stwierdza.
Efekt jest taki, że odpowiedzialni badacze są wypychani z amerykańskich, kontrolowanych ekosystemów prosto w ramiona zagranicznych, otwartych systemów, takich jak chiński model GLM. Można go pobrać za darmo i uruchomić na własnym komputerze, bez żadnej weryfikacji i bez żadnych ograniczeń. “Moim zdaniem te zabezpieczenia przynoszą więcej szkody niż pożytku” – podsumowuje Thompson.
Zamiast zacieśniać kontrolę, jego zdaniem laboratoria AI powinny otworzyć swoje programy, zapewnić odpowiedzialny dostęp i rozliczać tych, którzy nadużywają ich narzędzi. Inaczej obrońcy przegrają wyścig AI. “Nadchodzi wielka burza. Fala ataków, która nadejdzie, będzie miała szybkość i skalę, jakiej nigdy wcześniej nie widzieliśmy” – ostrzega. – “A te same firmy i ci sami badacze, którzy próbują coś zmienić, są teraz dławieni”. Paradoks, który może nas wszystkich drogo kosztować.