Anthropic straciło kontrolę nad swoim najpotężniejszym AI. Model Claude Mythos, rzekomo tak groźny, że firma się go boi, wpadł w ręce hakerów. Mają go od tygodni.
W skrócie:
- Hakerzy z anonimowego forum uzyskali nieautoryzowany dostęp do modelu Claude Mythos firmy Anthropic, który miał być zarezerwowany dla wybranych korporacji.
- Dostęp zdobyli dzięki kluczom API znalezionym na GitHubie, które należały do startupu AI Mercor, współpracującego z Anthropic przy trenowaniu modeli.
- Grupa twierdzi, że nie ma złych zamiarów i od dwóch tygodni jedynie “bawi się” potężnym modelem, eksplorując jego nieudokumentowane możliwości.
Anthropic, firma założona przez byłych pracowników OpenAI i pozycjonująca się jako bastion bezpieczeństwa w świecie sztucznej inteligencji, właśnie otrzymała bolesną lekcję pokory. Ich najnowsze i rzekomo najpotężniejsze dzieło, model Claude Mythos, trafiło w niepowołane ręce. Co w tej historii najlepsze? Złodzieje, zamiast planować cyfrową apokalipsę, traktują swoje trofeum jak nową, ekscytującą zabawkę. To ironia, która każe zapytać, czy bardziej powinniśmy bać się potęgi AI, czy ludzkiej niefrasobliwości.
Jak powstała legenda Claude Mythos?
Zanim doszło do wycieku, wokół Claude Mythos zdążyła narosnąć aura tajemnicy. Anthropic, pod wodzą CEO Dario Amodei, od miesięcy sugerowało, że pracuje nad czymś przełomowym. Mythos miał być nie tylko kolejnym modelem językowym, ale narzędziem o niezwykłej zdolności do wykrywania słabości w systemach i generowania wysoce perswazyjnych treści. Firma przedstawiała go jako tak potężny, że jego publiczne udostępnienie byłoby nieodpowiedzialne. Dlatego dostęp do niego miał być ściśle limitowany – tylko dla wybranych, najbogatszych korporacji, które przeszłyby rygorystyczną weryfikację. Model miał pozostać zamknięty w cyfrowym sejfie, z dala od ciekawskich oczu i potencjalnych nadużyć. To budowało napięcie i, co tu kryć, pozycjonowało Anthropic jako rozważnego strażnika technologii, która mogłaby wymknąć się spod kontroli.
Dlaczego cyfrowy zamek okazał się dziurawy?
Rzeczywistość brutalnie zweryfikowała te plany. Jak donosi agencja Bloomberg, grupa cyberprzestępców (choć oni sami pewnie wolą myśleć o sobie jako o odkrywcach) uzyskała pełen dostęp do Mythosa. I to, o ironio, tego samego dnia, w którym Anthropic ogłosiło swoje restrykcyjne zasady dostępu. Jak do tego doszło? Nie przez złamanie supernowoczesnych zabezpieczeń Anthropic, ale przez najsłabsze ogniwo w każdym łańcuchu – człowieka i jego partnerów. Hakerzy przeczesywali publiczne repozytoria na GitHubie w poszukiwaniu kluczy API i znaleźli to, czego szukali, w kodzie udostępnionym przez startup AI Mercor. Firma ta zajmuje się trenowaniem modeli i, jak się okazało, była jednym ze zleceniobiorców Anthropic. Zostawione na widoku klucze stały się bramą do królestwa. To klasyczny przykład ataku na łańcuch dostaw, który pokazuje, że nawet najpilniej strzeżona twierdza jest bezużyteczna, jeśli ktoś zostawi otwartą furtkę w murze.
Kim są hakerzy, którzy bawią się mitycznym AI?
Najciekawszy w tej historii jest jednak profil sprawców. Nie jest to grupa powiązana z obcym wywiadem ani gang ransomware żądający okupu. To anonimowi członkowie specjalistycznego forum internetowego, którzy pasjonują się odkrywaniem nieopublikowanych rozwiązań AI. W rozmowie z Bloombergiem przyznali, że “bawią się” Mythosem od co najmniej dwóch tygodni. Nie interesuje ich destabilizacja rynków finansowych ani sianie dezinformacji. Chcą po prostu sprawdzić, co potrafi “zakazany owoc” od Anthropic. Ta nonszalancka postawa – “mamy wasze najgroźniejsze narzędzie i używamy go do zabawy” – jest policzkiem wymierzonym nie tylko firmie, ale całej branży, która buduje narrację o nadchodzącym zagrożeniu ze strony superinteligencji. Wygląda na to, że na razie największym zagrożeniem pozostaje programista, który zapomina usunąć klucze API przed wysłaniem kodu na GitHuba.
Czy to tylko zabawa, czy lekcja pokory dla gigantów?
Incydent z Claude Mythos to coś więcej niż anegdota o nieostrożnych programistach. To fundamentalne pytanie o realność zagrożeń, o których mówią nam twórcy AI. Jeśli model tak potężny, że “boją się go sami twórcy”, może zostać przejęty przez grupę hobbystów, to co mówi to o faktycznym poziomie bezpieczeństwa w całej branży? Być może prawdziwe ryzyko nie leży w hipotetycznej wrogiej superinteligencji, ale w bardzo ludzkiej tendencji do popełniania błędów, niedopatrzeń i przeceniania własnych zdolności do kontroli. Anthropic chciało być postrzegane jako odpowiedzialny gracz. Pomimo tego, ich najcenniejszy zasób wyciekł w sposób niemal amatorski. Sprawa Mythosa to gorzka, ale potrzebna lekcja pokory. Pokazuje, że w wyścigu o stworzenie najpotężniejszej AI, ktoś powinien zadbać również o solidne, a czasem po prostu banalne, podstawy cyberbezpieczeństwa.