ONZ osłabiona: USA i Rosja blokują regulacje AI w wojskowości

Negocjacje Organizacji Narodów Zjednoczonych dotyczące regulacji autonomicznej broni zaowocowały dokumentem, z którego usunięto większość istotnych zabezpieczeń. Stanowisko USA i Rosji doprowadziło do wyeliminowania zapisów wymagających ludzkiej kontroli nad celami wskazywanymi przez systemy sztucznej inteligencji, przewidywalności działania algorytmów oraz uwzględniania kwestii etycznych w procesie decyzyjnym.

Dlaczego te zapisy były ważne?

Wymóg ludzkiej kontroli nad wyborem celów stanowił fundament bezpieczeństwa w militarnym zastosowaniu AI. Bez niego systemy mogą samodzielnie identyfikować i atakować obiekty na podstawie wyłącznie danych algorytmicznych. Przewidywalność miała zapewnić, że wojskowe systemy AI działają w znany i powtarzalny sposób — warunek kluczowy w sytuacjach, gdy błąd może kosztować życie.

Aspekty etyczne zaś miały zagwarantować, że decyzje o użyciu siły podejmowane są z uwzględnieniem zasad międzynarodowego prawa humanitarnego i praw człowieka. Ich usunięcie oznacza, że przyszłe systemy mogą być projektowane wyłącznie pod kątem efektywności militarnej, bez względu na konsekwencje dla ludności cywilnej.

Jaki jest obecny stan technologii wojskowej AI?

Zarówno Stany Zjednoczone jak i Rosja należą do światowych liderów w inwestycjach w militarne zastosowania sztucznej inteligencji. Oba kraje aktywnie rozwijają autonomiczne systemy bojowe, które mogą funkcjonować z minimalnym udziałem człowieka.

Izrael od lat wdraża zaawansowane rozwiązania AI do analizy danych wywiadowczych i planowania operacji wojskowych. Konflikt w Ukrainie dostarczył empirycznych dowodów na transformacyjną rolę technologii — drony, systemy rozpoznawcze i algorytmy analizujące obraz stały się kluczowymi elementami współczesnego pola walki.

Prędkość działania algorytmów jest zdumiewająca: współczesne systemy mogą wygenerować listę setek potencjalnych celów w zaledwie kilka sekund. Jednocześnie koszty wdrożenia takich rozwiązań systematycznie spadają, co oznacza, że dostęp do tej technologii będzie coraz łatwiejszy dla większej liczby aktorów militarnych.

Jakie są ograniczenia obecnych modeli AI?

Mimo zaawansowania technologicznego, systemy sztucznej inteligencji pozostają zawodne. Modele popełniają błędy na kilku poziomach: halucynują (generują fałszywe dane), błędnie interpretują rzeczywiste informacje wejściowe oraz wskazują cele bez pełnego kontekstu sytuacyjnego.

Przykład z praktyki: Armia USA rozważała wykorzystanie chatbota Anthropic do identyfikacji potencjalnych celów w scenariuszu konfliktu z Iranem. Decyzja ta ilustruje, jak łatwo można przesunąć granicę między wsparciem analitycznym a autonomicznym podejmowaniem decyzji o użyciu siły.

Co to oznacza dla przyszłości konfliktów zbrojnych?

Osłabienie międzynarodowych standardów regulujących AI w wojskowości tworzy przestrzeń dla eskalacji technologicznej bez wyraźnych granic etycznych czy bezpieczeństwa. Kraje dysponujące zaawansowanymi systemami AI uzyskają znaczną przewagę militarną, co może zachęcić inne państwa do przyspieszenia własnych programów.

Rzeczywisty problem polega na tym, że systemy te będą podejmować decyzje w ciągu milisekund — szybciej niż człowiek jest w stanie zareagować. Błędy algorytmów w takim kontekście mogą mieć katastrofalne skutki. Usunięcie wymogów dotyczących ludzkiej kontroli oznacza, że nikt nie będzie w stanie zatrzymać systemu, jeśli zadziała nieprawidłowo.

Negocjacje ONZ pokazały, że główne mocarstwa wojskowe nie są zainteresowane ograniczeniami w dostępie do tej technologii. Zamiast tego wybrały ścieżkę minimalnych zobowiązań, pozostawiając sobie swobodę w rozwoju systemów bez nadzoru międzynarodowego.