Międzynarodowy Komitet Czerwonego Krzyża (MKCK) i organizacje praw człowieka ostrzegają, że wkrótce może być za późno na uregulowanie broni autonomicznej. Zakończona w Genewie konferencja ponad 120 państw przyniosła tylko zgodę na dwuletnie rozmowy o przyszłym instrumencie, co zdaniem aktywistów nie wystarcza wobec tempa rozwoju technologii.

Genewa: rozmowy zamiast szybkich decyzji

Tygodniowe spotkanie państw-stron Konwencji ONZ o pewnych rodzajach broni konwencjonalnej zakończyło się ustaleniem, że w ciągu dwóch lat będą trwały dyskusje o instrumencie regulującym broń autonomiczną. Organizacje pozarządowe liczyły na bardziej zdecydowane kroki. Jeden z dyplomatów znających kulisy rozmów ocenił, że ważniejsza od treści przepisów jest co innego: po 13 latach pojawiła się wreszcie wola polityczna, by poważnie zająć się tym tematem.

Broń autonomiczna to systemy wojskowe, które działają bez nadzoru człowieka, najczęściej dzięki sztucznej inteligencji lub robotyce. Dr Cordula Droege z MKCK przestrzega, że algorytmy trafiają już na pola bitew, a być może także do samych systemów uzbrojenia. Jej zdaniem im dłużej nie będzie reguł, tym trudniej będzie cokolwiek odkręcić. Inne organizacje dodają, że zwłoka pozwoli przemysłowi i armiom samodzielnie ustalać normy użycia takiej broni.

Sztuczna inteligencja już działa na wojnie

Organizacje wskazują kilka przykładów, które pokazują, że to nie jest odległa wizja:

  • Gaza: izraelska armia używała AI do tworzenia list celów znacznie szybciej, niż byłoby to możliwe dla ludzi. Organizacje praw człowieka twierdzą, że przez to błędnie zabijano cywilów i osoby z luźnymi powiązaniami z ugrupowaniami zbrojnymi.
  • Ukraina: w wojnie z Rosją używa się półautonomicznych dronów z funkcją „last-mile”, czyli przejmowania kontroli przez AI na ostatnim odcinku lotu do celu. W lipcu rosyjski dron sterowany przez AI zabił w Zaporożu trzy osoby. Prawdopodobnie miał trafić w stację benzynową, ale uderzył w mur.
  • Iran: według doniesień amerykański atak na szkołę podstawową, w którym zginęło 156 cywilów, w tym 120 uczniów, był skutkiem błędnych danych wywiadowczych zebranych przez systemy AI.

Anna Hehir z Future of Life Institute obawia się, że dalsze opóźnienia mogą oznaczać kolejne masowe straty wśród cywilów, a niektóre z nich mogłyby przewyższyć dotychczasowe. Wskazuje na prace nad „rojami”, czyli setkami lub tysiącami dronów działających jednocześnie. Wystarczyłby błąd algorytmu, by cały rój został skierowany w złą stronę, zwłaszcza gdyby miał atakować ludzi.

Do tego dochodzi ryzyko rozprzestrzeniania się technologii. Według doniesień jemeńscy Huti użyli modelu Claude do „vibe codingu” pocisków balistycznych, a islamistyczne grupy w afrykańskim Sahelu miały wykorzystywać narzędzia AI do poprawy balistyki dronów i planowania operacji.

Czego domaga się MKCK

Prezeska lub prezes MKCK Mirjana Spoljaric Egger oraz sekretarz generalny ONZ António Guterres wzywają do przyjęcia prawnie wiążącego instrumentu z jasnymi zakazami i ograniczeniami. MKCK chce przede wszystkim zakazu stosowania broni autonomicznej przeciwko ludziom. Postuluje też, by systemy zachowywały się przewidywalnie, a ich użycie ograniczono do celów wojskowych.

Nie chodzi o zakaz wszystkich takich systemów. Droege mówi o wyznaczeniu w traktacie czerwonych linii: „Jesteśmy bardzo blisko przekroczenia tych czerwonych linii”, a celowanie w ludzi przez maszyny powinno być granicą moralną.

Co to oznacza dla Polski

Dla Polski to nie jest temat czysto teoretyczny, bo graniczymy z Ukrainą, gdzie drony z elementami autonomii są codziennością wojny. Ewentualny traktat wpłynąłby na to, jakiego uzbrojenia i w jaki sposób mogą używać armie państw, które do niego przystąpią. Z omawianych informacji nie wynika jednak, jakie stanowisko w Genewie zajęły Polska czy inne kraje UE.

Zwykłego czytelnika dotyczy to pośrednio. Technologie AI rozwijane do celów wojskowych często mają też zastosowania cywilne, a pytanie o odpowiedzialność za błąd algorytmu będzie wracać także poza wojskiem. Kolejne dwa lata rozmów pokażą, czy państwa zdążą ustalić zasady, zanim praktyka na polach bitew ustali je za nie.

Źródło: The Guardian – „It will soon be too late to regulate use of autonomous weapons, warns Red Cross”

Author

antonraby.com allianz-ubezpieczenia.pl bayareapowerclub.com