Era autonomnog ratovanja: Kada mašine donose odluke o životu i smrti

Poslednjih godina svedoci smo vrtoglavog napretka u oblasti veštačke inteligencije (AI) i robotike. Vojni sektor, uvek u potrazi za taktičkom prednošću, integrisao je ove tehnologije u sisteme naoružanja, stvarajući ono što danas nazivamo autonomnim sistemima naoružanja (Lethal Autonomous Weapons Systems – LAWS).

Šta su zapravo autonomni sistemi naoružanja?

Za razliku od dronova kojima upravlja operater preko daljinskog upravljača (tzv. “human-in-the-loop” sistemi), autonomni sistemi poseduju sposobnost da samostalno pretražuju, identifikuju i angažuju mete bez direktne intervencije čoveka. Ovakvi sistemi koriste senzore i algoritme za obradu slike kako bi razlikovali vojne ciljeve od civila ili objekata, na osnovu unapred programiranih parametara.

Slučaj Libija (2020): Prvi zabeleženi incident?

Često se u medijskim naslovima poziva na izveštaj Panela eksperata Ujedinjenih nacija za Libiju iz 2021. godine. U tom izveštaju se navodi da su tokom sukoba u Libiji 2020. godine korišćeni turski dronovi tipa STM Kargu-2.

Šta izveštaj kaže: Dronovi su korišćeni u autonomnom režimu, dizajnirani da „love“ mete bez potrebe za vezom između operatera i municije – princip „ispali, zaboravi i pronađi“.

Šta ostaje nejasno: Iako izveštaj potvrđuje da su sistemi korišćeni autonomno protiv snaga lojalnih generalu Kalifi Haftaru, UN nikada nije zvanično potvrdio da su ovi specifični napadi rezultirali smrtnim ishodom za ljude, niti je precizirano da li je mašina samostalno donela odluku o ubistvu ili je samo pratila mete.

Dakle, iako se ovaj incident često citira kao prvi slučaj „robota ubice“, stručnjaci ukazuju da su dokazi o direktnom ubistvu ljudi od strane autonomnog algoritma u tom konkretnom slučaju i dalje predmet pravne i tehničke interpretacije.

Etika i međunarodno pravo

Upotreba ovakvih sistema otvara ključna pitanja koja prevazilaze tehnološku sferu:

Odgovornost: Ako sistem počini ratni zločin ili greškom ubije civile, ko snosi odgovornost? Programer? Vojni komandant koji je aktivirao sistem? Proizvođač? Tradicionalno pravo oružanih sukoba (Međunarodno humanitarno pravo) počiva na ljudskoj savesti i sposobnosti rasuđivanja koju mašine trenutno nemaju.

Princip razlikovanja: Mašine se teško snalaze u kompleksnim situacijama gde je potrebno razlikovati aktivnog borca od ranjenog vojnika koji više ne predstavlja pretnju (hors de combat) ili civila koji nosi alat koji liči na oružje.

Dehumanizacija rata: Delegiranje odluke o oduzimanju života na algoritam smanjuje moralnu težinu ratovanja, što bi, prema upozorenjima mnogih organizacija, moglo sniziti prag za ulazak u sukobe.

Trenutno stanje i pravni vakuum

Trenutno ne postoji jedinstven međunarodni sporazum koji bi eksplicitno zabranio razvoj ili upotrebu potpuno autonomnih sistema naoružanja. Iako organizacije poput International Committee of the Red Cross (ICRC) i kampanje kao što je Stop Killer Robots snažno zagovaraju uvođenje pravno obavezujućih normi koje bi zahtevale zadržavanje „smislene ljudske kontrole“ nad upotrebom sile, napredak na diplomatskom nivou je spor.

Zaključak

Tehnologija se razvija brže od međunarodnog prava. Dok naslovi o “robotima ubicama” privlače pažnju, realnost na terenu je složenija: reč je o tranziciji ka automatizaciji gde granica između sistema kojim upravlja čovek i sistema koji upravlja samim sobom postaje sve tanja.

Ono što je sigurno jeste da će 21. vek biti obeležen debatom o tome koliko slobode želimo da damo veštačkoj inteligenciji u donošenju odluka koje su do sada bile isključiva odgovornost ljudi. Očuvanje ljudskog dostojanstva i poštovanje ratnog prava u eri AI zahtevaće hitnu globalnu akciju i jasne etičke okvire koji neće dozvoliti da mašine, bez ljudskog uvida, postanu arbitri života i smrti.

Izvori korišćeni za analizu:

Izveštaj Panela eksperata UN za Libiju (2021).

Analize Međunarodnog komiteta Crvenog krsta (ICRC) o pravnim aspektima autonomnog naoružanja.

Izveštaji i arhive o bezbednosti i AI tehnologiji (New Scientist, Wikipedia, Lieber Institute).