Czy dron może samodzielnie wybrać i zniszczyć cel bez zgody człowieka? Autonomiczne systemy uzbrojenia już działają, a granica między wsparciem a delegacją decyzji…
W skrócie:
- Autonomiczne systemy uzbrojenia, według Czerwonego Krzyża, potrafią wybrać i zaatakować cel bez interwencji człowieka po ich aktywacji.
- Najbardziej zaawansowana automatyzacja działa w obronie powietrznej, gdzie systemy jak Iron Dome muszą reagować w kilka sekund na setki zagrożeń.
- Główny spór dotyczy zachowania “znaczącej kontroli człowieka” w sytuacji, gdy technologia pozwala na coraz większą samodzielność maszyn na polu walki.
Kiedy słyszymy o algorytmach na wojnie, wyobraźnia zwykle podsuwa nam obraz bezzałogowej maszyny, która sama znajduje człowieka, ocenia sytuację i naciska metaforyczny spust. To wizja niezwykle nośna, ale jednocześnie myląca. Współczesna autonomia wojskowa dużo rzadziej wygląda jak hollywoodzki robot-zabójca, a dużo częściej jak system obrony powietrznej, który ma kilka sekund na reakcję, lub oprogramowanie analizujące dane z tysięcy sensorów naraz.
Autonomiczny, czyli właściwie jaki? Zabójczy robot to nie wszystko
Używamy słowa “autonomiczny” zbyt swobodnie. Nie każdy dron jest autonomiczny. Nie każdy system automatyczny korzysta z AI. Maszyna, która sama utrzymuje kurs albo wraca do bazy po utracie łączności, nie jest od razu systemem samodzielnie wybierającym cele. A jednak granica naprawdę zaczyna się przesuwać. Międzynarodowy Komitet Czerwonego Krzyża (ICRC) definiuje autonomiczne systemy uzbrojenia jako takie, które po aktywacji wybierają i stosują siłę wobec celów bez dalszej interwencji człowieka. Kropka. To kluczowa różnica.
W praktyce wojskowej często mówi się o człowieku “w pętli”, “na pętli” albo “poza pętlą”. W pierwszym wariancie człowiek zatwierdza każdy strzał. W drugim – nadzoruje działanie systemu i może je w każdej chwili przerwać. W trzecim – system po aktywacji działa sam. Pentagon w swojej dyrektywie DoD Directive 3000.09 z 2023 roku reguluje rozwój takich systemów i podkreśla, że konieczne jest “zachowanie odpowiedniego poziomu ludzkiego osądu nad użyciem siły”. Problem w tym, że “odpowiedni poziom” to pojęcie niepokojąco elastyczne.
Gdzie automatyzacja już wygrała? Spójrz w niebo, nie na drony
Najciekawsze jest to, że najbardziej zaawansowane formy wojskowej automatyzacji wcale nie narodziły się na pokładzie dronów polujących na ludzi, lecz w obronie powietrznej. Tam czas liczy się inaczej. Nadlatujący pocisk lub rakieta nie pozostawia czasu na analizę, a często jedynie na sekundy. W takim środowisku maszyna jest po prostu koniecznością.
System Iron Dome, jak podaje jego producent, firma Rafael, ma na koncie ponad 5000 przechwyceń i skuteczność przekraczającą 90%. To dojrzała warstwa obrony, w której automatyczne wykrywanie, śledzenie i priorytetyzacja celów stanowią fundament. Człowiek nie jest w stanie ręcznie obliczać trajektorii wielu nadlatujących obiektów jednocześnie. Im więcej zagrożeń, tym bardziej obrona bez automatyzacji zaczyna się dusić pod własną złożonością. Systemy przeciwlotnicze i przeciwrakietowe stały się poligonem wojskowej automatyzacji na długo, zanim stało się to modne.
Dobrze widać to również na morzu. System Phalanx firmy Raytheon to sterowane komputerowo działko, które stanowi ostatnią linię obrony przed rakietami. Sam producent podkreśla, że system realizuje sekwencję: wykryj, oceń, śledź, zareaguj. Jeszcze szerzej działa Aegis firmy Lockheed Martin – to cały zautomatyzowany system dowodzenia, który scala obraz sytuacji z radarów i koordynuje odpowiedź szybciej, niż zrobiłby to jakikolwiek człowiek.
Czy dron może samodzielnie pociągnąć za spust?
Technicznie? Tak, w pewnych warunkach jest to już możliwe. Politycznie, prawnie i etycznie odpowiedź jest znacznie trudniejsza. Istota autonomicznego systemu polega na tym, że po aktywacji użytkownik nie wybiera już konkretnego celu. System działa na podstawie uogólnionego profilu – na przykład “każdy pojazd o tej sygnaturze radarowej”. Maszyna nie musi rozumieć świata. Wystarczy, że umie dopasować dane wejściowe do wzorca.
I tu zaczyna się największy spór. Rozpoznanie sylwetki czołgu to jedno. Odpowiedź na pytanie, czy ten konkretny czołg jest w danym momencie legalnym celem wojskowym, to coś znacznie trudniejszego. Prawo konfliktów zbrojnych opiera się na zasadach rozróżniania, proporcjonalności i ostrożności – a te wymagają ludzkiej oceny kontekstu. Algorytm tego nie potrafi. Na dodatek dane z sensorów mogą być niepełne, zakłócone albo celowo sfałszowane przez przeciwnika. Błąd w oprogramowaniu może tu oznaczać śmierć niewinnych ludzi.
Między skutecznością a kontrolą, czyli dlaczego armie tak tego chcą
Z perspektywy wojskowej odpowiedź jest brutalnie logiczna. Autonomia daje szybkość, pozwala obsłużyć więcej danych i ogranicza zmęczenie operatorów. NATO otwarcie traktuje autonomię jako jeden z kluczowych obszarów przewagi technologicznej. Na współczesnym polu walki, nasyconym sensorami i zakłóceniami, człowiek coraz częściej nie nadąża z ręcznym przetwarzaniem informacji.
Wojna przyszłości nie będzie prawdopodobnie wojną bez ludzi. Będzie wojną, w której człowiek coraz częściej nadzoruje systemy, które widzą, liczą i reagują szybciej. Problem w tym, że nadzór łatwo może stać się rytuałem, jeśli człowiek nie ma czasu, wiedzy albo realnej możliwości, by maszynie się sprzeciwić. A wtedy granica między wsparciem a delegowaniem decyzji o życiu i śmierci zaczyna się niebezpiecznie zacierać.