Świat wstrzymuje oddech. Rosyjski podwodny dron Posejdon, uzbrojony w głowicę nuklearną, może podejmować decyzje autonomicznie. To scenariusz z koszmarów.
W skrócie:
- Rosja rozwija Posejdona – autonomiczną, nuklearną torpedę, w której ostateczną decyzję o ataku może podejmować algorytm, a nie człowiek.
- Izraelskie siły zbrojne w Gazie używają systemów AI, takich jak Lavender, do identyfikacji celów, co przekłada odpowiedzialność za życie i śmierć na maszyny.
- Szefowa australijskiej dyplomacji Penny Wong na forum ONZ wezwała do pilnej regulacji AI w wojsku, ostrzegając, że jej użycie w systemach jądrowych zagraża ludzkości.
Każdego dnia karmimy się nowymi lękami związanymi z AI. Sztuczne dziewczyny, terapeuci z chmury, masowe zwolnienia. Ale co, jeśli powiem wam, że na szczycie tej piramidy strachu czai się coś znacznie gorszego? Wojna nuklearna wywołana przez algorytm. To nie jest fabuła taniego filmu science fiction. To realne zagrożenie, o którym na forum Rady Bezpieczeństwa ONZ mówiła niedawno australijska minister spraw zagranicznych Penny Wong, ostrzegając, że “potencjalne użycie AI w broni jądrowej i systemach bezzałogowych stanowi wyzwanie dla przyszłości ludzkości”.
Można by pomyśleć – w przypływie optymizmu – że żadne państwo nie jest na tyle szalone, by przekazać przycisk atomowy w ręce maszyny. Błąd. I to fundamentalny. Stany Zjednoczone co prawda prawnie zakazały użycia AI do wystrzeliwania broni jądrowej, a Wielka Brytania trzyma się podobnej, choć nieformalnej zasady. Ale reszta świata nie zamierza czekać.
Jak Rosja i Chiny grają w atomową ruletkę z AI?
Spójrzmy na Rosję. Jej okręt podwodny Posejdon to cud techniki i jednocześnie koszmar strategów. Jest autonomiczny, ma napęd jądrowy i przenosi głowicę nuklearną. Dzięki temu może pokonywać praktycznie nieograniczone dystanse, skradając się tuż pod powierzchnią wody. Wyobraźmy sobie, że taka maszyna wpływa niezauważona do Zatoki Gdańskiej i detonuje ładunek. Skutki byłyby niewyobrażalne.
Najbardziej przerażający jest jednak mechanizm decyzyjny. Posejdon jest bezzałogowy, a komunikacja pod wodą bywa zawodna. Oznacza to, że ostateczną decyzję o rozpoczęciu wojny nuklearnej – o unicestwieniu milionów ludzi – może podjąć algorytm. Bez wahania, bez empatii, bez drugiego namysłu. W odpowiedzi na to, 3 września Chiny zaprezentowały podczas parady wojskowej bardzo podobny pojazd podwodny. Wyścig zbrojeń wszedł w fazę, w której człowiek staje się najsłabszym – i być może zbędnym – ogniwem.
Dlaczego algorytmy na polu bitwy to moralna katastrofa?
Przekazywanie maszynom decyzji o życiu i śmierci dzieje się już teraz, także w kontekście broni konwencjonalnej. W Ukrainie autonomiczne drony fundamentalnie zmieniają obraz wojny. Z kolei w Gazie Siły Obronne Izraela korzystają z systemów opartych na AI, takich jak Where’s Daddy? czy Lavender, które same identyfikują i proponują cele do zniszczenia. Ryzyko błyskawicznych konfliktów, eskalacji poza ludzką kontrolą i łamania międzynarodowego prawa humanitarnego staje się faktem.
Maszyny nie mają naszego zdrowego rozsądku ani empatii. Przekroczenie moralnej i prawnej czerwonej linii – czyli scedowanie na nie odpowiedzialności za odbieranie ludzkiego życia – to prosta droga do katastrofy. Jak słusznie zauważa Toby Walsh, profesor i ekspert ds. AI: “To skończy się jak w złym hollywoodzkim filmie. Tylko ludzki nadzór może uchronić świat przed upadkiem”.
Wystarczy przypomnieć historię Stanisława Pietrowa. 26 września 1983 roku radziecki oficer dyżurny otrzymał sygnał z satelity o pięciu nadlatujących amerykańskich pociskach. Zignorował protokół i nie uruchomił kontrataku. Uznał, że alarm jest fałszywy, bo Amerykanie nie zaatakowaliby tak małą liczbą rakiet. Miał rację – system pomylił wschodzące słońce z pociskami. Czy zautomatyzowany system wykazałby się podobnym “zdrowym rozsądkiem”? Wątpliwe.
Czy świat zdąży z regulacjami, zanim będzie za późno?
Globalna debata na ten temat nareszcie nabiera tempa. Powołana przez Holandię Globalna Komisja ds. Odpowiedzialnego Wykorzystania AI w Wojsku, w której zasiada 18 ekspertów (w tym wspomniany Toby Walsh), przedstawiła Radzie Bezpieczeństwa ONZ raport z konkretnymi rekomendacjami. Ich sedno jest proste: musimy utrzymać ludzką ocenę i odpowiedzialność na każdym etapie cyklu życia AI w broni konwencjonalnej. A w przypadku broni jądrowej – całkowicie wykluczyć AI z łańcucha dowodzenia.
Co prawda sztuczna inteligencja ma też zalety – na przykład roboty mogą rozminowywać pola, ratując ludzkie życie. Jednak nikt nie twierdzi, że mamy jej używać bez żadnych ograniczeń. Wystąpienie Penny Wong to zmiana kursu dla Australii, która przez dekadę twierdziła, że na regulacje jest za wcześnie. Jej odważny apel może zirytować sojuszników – zwłaszcza, że jednym z pierwszych ruchów Donalda Trumpa po powrocie do władzy było cofnięcie wszystkich regulacji AI wprowadzonych przez Joe Bidena. Niezależnie od motywacji politycznych, jedno jest pewne – musimy uregulować użycie AI w wojsku. I musimy to zrobić teraz.