AI w wojsku: kto naprawdę podejmuje decyzję o ataku?

Sztuczna inteligencja zmienia fundamentalnie tempo decyzji militarnych, zmuszając dowódców do zaufania rekomendacjom systemów w ciągu kilku sekund, choć nie rozumieją drogi ich powstania. Najważniejsza zmiana nie polega na zastąpieniu żołnierza maszyną, lecz na dostrojeniu rytmu pola walki do szybkości algorytmów, co zostawia człowiekowi coraz mniej miejsca na samodzielny osąd.

Przewaga szybkości ma cenę

Wojskowa dominacja zawsze opierała się na szybkości: kto wcześniej rozpoznał sytuację, przekazał informację i podjął decyzję, ten dyktował warunki. Sztuczna inteligencja radykalnie skraca odstęp między wykryciem zagrożenia a reakcją. Dowódca, który tradycyjnie miał czas na analizę, teraz dostaje kilka sekund na ocenę wyniku algorytmu.

Problem polega na tym, że im krótszy czas na decyzję, tym silniejsza presja, by zaufać rekomendacji systemu. Formalnie dowódca zachowuje prawo do jej zatwierdzenia, ale w praktyce ma zbyt mało czasu, by zrozumieć, skąd się wziął wynik. To fundamentalna zmiana w charakterze odpowiedzialności za decyzje militarne.

Gdzie AI sprawdza się najlepiej: rozpoznanie i obserwacja

Rozpoznanie, obserwacja i wywiad to dziś najlepiej rozwinięte obszary wojskowego zastosowania sztucznej inteligencji. Modele komputerowego widzenia przeszukują zdjęcia satelitarne, identyfikują pojazdy, porównują zmiany w terenie i wychwytują ruch obiektów. Inne systemy analizują sygnały elektromagnetyczne, dane logistyczne i zachowania jednostek.

Wartość takich narzędzi jest oczywista: analityk nie musi oglądać każdej klatki nagrania, bo algorytm wskaże fragmenty, na których pojawił się nowy obiekt lub zaobserwowano ruch. Uwaga człowieka trafia tam, gdzie zagrożenie jest najbardziej prawdopodobne.

Amerykański Project Maven, uruchomiony w 2017 roku, wykorzystuje komputerowe widzenie do analizy obrazu z dronów i był stosowany na Bliskim Wschodzie oraz w Ukrainie. Izraelski system Gospel (Habsora) generuje cele dla lotnictwa: według wojska na początku wojny w Gazie wskazał ponad 12 tysięcy obiektów, a tempo uderzeń sięgało nawet 250 celów dziennie.

Problem: co algorytm naprawdę widzi?

Model nie widzi jednak czołgu, magazynu amunicji ani cywilnego autobusu w ludzkim sensie tych słów. Rozpoznaje konfigurację cech, która na podstawie danych przypomina określoną kategorię. Pomyli więc makietę ze sprzętem bojowym, pojazd cywilny z wojskowym, akcję ratunkową z przygotowaniem operacji.

Przeciwnik będzie do tego dążył celowo. Kamuflaż, pozorowane pozycje, zakłócenia, fałszywe sygnały i spreparowane dane staną się orężem przeciw wojskowej AI. Algorytm przetwarza więcej informacji niż człowiek, lecz każda dodatkowa porcja danych otwiera nową drogę, którą można go wprowadzić w błąd.

Wykrycie celu ≠ prawo do ataku

Najgroźniejsze uproszczenie utożsamia wykrycie celu z prawem do jego zaatakowania. System z wysokim prawdopodobieństwem rozpozna typ pojazdu, budynku czy urządzenia. To jednak nie znaczy, że obiekt jest w danej chwili legalnym celem wojskowym.

Decyzja o użyciu siły wymaga oceny szerszego kontekstu. Trzeba ustalić, czy cel rzeczywiście służy działaniom zbrojnym, czy atak przyniesie konkretną korzyść militarną, jakie stworzy zagrożenie dla ludności cywilnej i czy istnieje mniej niebezpieczna droga do tego samego efektu. Wynik “obiekt wojski: 91 procent” nie jest rozkazem, podobnie jak niski poziom przewidywanych strat cywilnych nie zwalnia dowódcy z analizy sytuacji.

Przypadek systemu Lavender: człowiek jako wzorzec statystyczny

Problem robi się szczególnie poważny, gdy system splata dane techniczne z profilami zachowań ludzi. Częstotliwość przemieszczania się, kontakty, obecność w danym miejscu czy sposób korzystania z telefonu bywają traktowane jako przesłanki przynależności do wrogiej struktury. Człowiek zostaje wtedy sprowadzony do wzorca statystycznego.

Najgłośniejszym przykładem jest izraelski system Lavender, opisany w śledztwie magazynu +972 i Local Call, potwierdzonym następnie przez “Guardiana” i “New York Timesa”. Według relacji sześciu oficerów wywiadu system oznaczył w Gazie około 37 tysięcy osób jako podejrzanych bojowników, przypisując każdej ocenę prawdopodobieństwa. Choć znano jego błędność rzędu 10 procent, wojsko zaakceptowało masowe użycie systemu po tym, jak próbka trafień wykazała około 90 procent zgodności.

Izraelska armia zaprzeczyła, by używała AI identyfikującej bojowników, określając Lavender jako bazę danych do kojarzenia źródeł wywiadowczych. Niezależnie od oficjalnego stanowiska, prawo konfliktów zbrojnych nie zna kategorii “człowieka podobnego do celu”. Wymaga rozróżniania uczestników walki i ludności cywilnej oraz środków ostrożności przed atakiem.

Drony, autonomia i kontrola: trzy różne rzeczy

Debata o AI w wojsku nagminnie miesza kilka pojęć. Bezzałogowy statek powietrzny bywa zdalnie sterowany przez operatora, działa automatycznie według ustalonej trasy albo dysponuje funkcjami autonomicznymi pozwalającymi reagować na zmienne otoczenie. To trzy różne rzeczy.

Samo użycie drona nie oznacza więc oddania maszynie decyzji o ataku. Operator prowadzi lot, obserwuje obraz i osobno zatwierdza użycie uzbrojenia. Autonomia bywa ograniczona do nawigacji, omijania przeszkód, powrotu do bazy albo utrzymywania pozycji.

Zasadnicza zmiana następuje wtedy, gdy system po aktywacji sam wybiera konkretny cel i stosuje wobec niego siłę na podstawie danych z czujników oraz ogólnego profilu zadanego przez człowieka. Operator wyznacza obszar, czas działania i kategorię obiektów, lecz nie zna już dokładnego miejsca ani chwili ataku.

Najczęściej przywoływanym przykładem jest turecki dron Kargu-2: raport Panelu Ekspertów ONZ ds. Libii z marca 2021 roku opisał, jak amunicja krążąca tego typu ścigała wycofujące się oddziały, zaprogramowana do ataku “bez wymogu łączności między operatorem a pociskiem”, w trybie “wystrzel, zapomnij i znajdź”. Zdarzenie bywa nazywane pierwszym możliwym autonomicznym atakiem w historii, choć raport nie przesądza ani że dron działał wówczas samodzielnie, ani że ktokolwiek zginął, a producent zaprzecza, by maszyna mogła zaatakować bez decyzji operatora. Ten spór sam w sobie pokazuje, jak płynna jest granica definicji.

Takie militarne zastosowanie sztucznej inteligencji zmienia charakter odpowiedzialności. Operator nie naciska przycisku w chwili, gdy widzi cel. Uruchamia system, który dopiero później sam reaguje na otoczenie. A im mniej przewidywalne jest to otoczenie, tym większe ryzyko, że maszyna napotka sytuację, której nie wziął pod uwagę żaden z projektantów, dowódców ani operatorów.

”Człowiek w pętli” – pojęcie wieloznaczne

W sporze o autonomiczną broń wraca postulat pozostawienia “człowieka w pętli”. Sformułowanie brzmi uspokajająco, lecz mieści w sobie skrajnie różne poziomy kontroli:

Model kontroli	Opis	Rzeczywista kontrola
Model 1	Człowiek zatwierdza każdy atak po zapoznaniu się z danymi	Pełna
Model 2	System sam wybiera i razi cele, operator obserwuje i próbuje przerwać	Ograniczona
Model 3	Człowiek ustala misję przed startem, później brak możliwości interwencji	Minimalna

Co to oznacza: Sama obecność operatora przed ekranem niczego nie gwarantuje. Znacząca kontrola wymaga, by człowiek rozumiał możliwości i ograniczenia systemu, dysponował dostateczną informacją i czasem na ocenę rekomendacji oraz miał realną możliwość interwencji. W praktyce wojskowej często brakuje wszystkich trzech elementów jednocześnie.

Problema robi się jeszcze bardziej złożony, gdy uwzględnimy presję czasową i ilość informacji, którą musi przetworzyć człowiek. Dowódca mający sekundy na decyzję nie może gruntownie przeanalizować rekomendacji systemu, którego wewnętrzne działanie pozostaje dla niego czarną skrzynką. Tempo pola walki dostrojone do szybkości maszyn zmienia fundamentalnie naturę ludzkiego nadzoru nad decyzjami o użyciu siły.