Naučnici tvrde da autonomna oružja mogu imati nepredviđene kvarove i ubiti nevine ljude. Eksperti za etiku također navode da je prevelik moralni korak dopustiti AI sistemima da ubijaju bez ikakve ljudske intervencije. Komentari su izneseni na sastanku Američke asocijacije za napredak nauke održanom u Washingtonu.
Nevladina organizacija za zaštitu ljudskih prava HRW je jedna od 89 nevladinih organizacija iz 50 zemalja koje su formirale Kampanju za zaustavljanje robota ubica, čiji je cilj postizanje međunarodnog sporazuma. Među onima koji ulažu napore za zabranu upotrebe pomenutog oružja je Mary Wareham iz HRW-a.
"Ne govorimo o hodajućim terminatorima koji govore i koji će preuzeti svijet, mi smo zabrinuti zbog konvencionalnih sistema naoružanja s autonomijom. Postaju jezivi, dronovi su očigledan primjer, ali postoje i vojni avioni koji polijeću, lete i slijeću potpuno samostalno, a mogu i detektovati pokret. To čini jedno autonomno oružje", izjavila je Wareham.
Jedan od šefova kompanije Clearparth Robotic, Ryan Gariepy, podržava ovu ideju. Njegova kompanija ima ugovore s vojskom, ali se odrekla AI sistema za ratovanje te je poručila da ih neće razvijati.
"Kada zakažu, to čine na nepredvidive načine. AI je ograničen prepoznavanjem slike. Dobar je, ali nema detalja ili konteksta da presudi, porote ili izvršioca na bojnom polju. Autonomni sistem ne može donijeti odluku da ubija ili ne. Odluku donose developeri udaljeni hiljadama kilometara, programeri i naučnici koji nemaju uvid u situaciju u kojoj se oružje nalazi", kazao je Gariepy.
