Anthropic, twórca modeli AI, szuka eksperta od broni chemicznej. Ma on uniemożliwić chatbotom generowanie instrukcji tworzenia bomb i zagrożeń dla ludzkości.
W skrócie:
- Firma Anthropic oferuje do 285 tys. dolarów rocznie za stanowisko eksperta ds. polityki w zakresie broni chemicznej i materiałów wybuchowych.
- Zadaniem nowego pracownika będzie opracowanie zabezpieczeń, które uniemożliwią modelom AI tworzenie instrukcji budowy niebezpiecznych substancji i ładunków.
- Podobne stanowisko zaoferowało niedawno OpenAI, co pokazuje rosnącą w branży świadomość zagrożeń związanych z nadużyciem generatywnej sztucznej inteligencji.
Kiedy myślimy o zagrożeniach płynących ze strony sztucznej inteligencji, zwykle przychodzą nam na myśl scenariusze rodem z “Terminatora”. Rzeczywistość okazuje się jednak znacznie bardziej prozaiczna, a zarazem bliższa. Jednym z największych, realnych niebezpieczeństw jest potencjał generatywnej AI do demokratyzacji wiedzy, która nigdy nie powinna trafić w niepowołane ręce. Wystarczy kilka dobrze sformułowanych zapytań, by chatbot stał się osobistym instruktorem konstruowania śmiercionośnych narzędzi. Amerykańska firma Anthropic postanowiła stawić czoła temu problemowi. W dość nietypowy sposób.
Jaką wiedzę trzeba mieć, by zarabiać 285 tysięcy dolarów?
Firma opublikowała ofertę pracy, która nie pojawia się codziennie na portalach rekrutacyjnych: “Kierownik ds. polityki w zakresie broni chemicznej i materiałów wybuchowych o dużej mocy”. To nie żart. To realna próba założenia AI kagańca, zanim będzie za późno. Nowy pracownik otrzyma zadanie opracowania zasad i mechanizmów bezpieczeństwa, które skutecznie zablokują systemom AI możliwość generowania treści o produkcji broni chemicznej czy konstruowaniu ładunków wybuchowych. W praktyce oznacza to nieustanną walkę z możliwościami własnego produktu.
Czego oczekuje Anthropic? Przede wszystkim co najmniej kilkuletniego doświadczenia w obszarze obrony przed bronią chemiczną lub materiałami wybuchowymi. Kandydat musi posiadać dyplom z chemii, inżynierii chemicznej lub pokrewnej dziedziny oraz praktyczne doświadczenie w pracy z materiałami energetycznymi. W ogłoszeniu pojawia się nawet wzmianka o znajomości tak zwanych “brudnych bomb”, czyli radiologicznych urządzeń rozpraszających. Taka osoba będzie analizować zdolności modeli AI, projektować metody wykrywania niebezpiecznych zapytań i tworzyć modele potencjalnych zagrożeń. Brzmi jak praca dla kogoś, kto zawodowo zajmuje się myśleniem o najgorszych możliwych scenariuszach.
Dlaczego giganci AI boją się własnych tworów?
Oferta Anthropic nie jest odosobnionym przypadkiem. Wszystko wskazuje na to, że w Dolinie Krzemowej narasta świadomość, że niekontrolowany rozwój AI może mieć katastrofalne skutki. Firma wprost komunikuje, że celem nowego stanowiska jest “zapobieganie katastrofalnemu nadużyciu” jej modeli. To rzadko spotykana doza samokrytycyzmu w branży, która zwykle skupia się na pozytywnych aspektach swoich innowacji. Nowy ekspert będzie współpracował bezpośrednio z zespołami badawczymi i inżynierskimi, testując granice wiedzy modeli w obszarach o podwójnym zastosowaniu.
Co więcej, podobny ruch wykonało niedawno OpenAI. Twórcy ChataGPT również poszukują badacza specjalizującego się w zagrożeniach biologicznych i chemicznych. Stawka jest jeszcze wyższa – maksymalne wynagrodzenie na tym stanowisku może sięgnąć nawet 455 tysięcy dolarów rocznie. To pokazuje, jak poważnie liderzy branży traktują ryzyko, że ich narzędzia ułatwią dostęp do wiedzy, która do tej pory była pilnie strzeżona w środowiskach naukowych, wojskowych i przemysłowych.
Czy to na pewno bezpieczne podejście?
Zatrudnianie ekspertów od broni masowego rażenia to jedno. Ale pojawiają się głosy, że samo “uczenie” AI na temat tych zagrożeń – nawet w celu ich blokowania – może być mieczem obosiecznym. Niezależna badaczka Stephanie Hare w rozmowie z BBC zwróciła uwagę na fundamentalny problem. Obecnie nie istnieją żadne międzynarodowe regulacje dotyczące wykorzystania sztucznej inteligencji do przetwarzania informacji o tego typu broni. Jej zdaniem rozwój tych systemów odbywa się w dużej mierze poza jakimkolwiek formalnym nadzorem.
Wprowadzanie do modeli AI szczegółowej wiedzy o materiałach wybuchowych czy broni chemicznej, nawet z najlepszymi intencjami, samo w sobie tworzy nowe, nieprzewidywalne ryzyka. Co jeśli ktoś znajdzie sposób, by obejść zabezpieczenia i wydobyć tę wiedzę z systemu? Giganci technologiczni, próbując ugasić jeden pożar, mogą niechcący podłożyć ogień gdzie indziej. Jedno jest pewne: granica między narzędziem informacyjnym a potencjalnym źródłem niebezpiecznych instrukcji staje się coraz cieńsza i trudniejsza do utrzymania. A firmy, które stworzyły ten problem, teraz za ogromne pieniądze szukają ludzi, którzy pomogą im go kontrolować.