Američki vojni dron kojim upravlja AI "ubio" svog operatera tokom simuliranog testa
U simuliranom testu koji je organizirala američka vojska, dron zračnih snaga pod kontrolom AI ubio je svog operatera kako bi ga spriječio da se miješa u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog mjeseca.
Nijedna stvarna osoba nije povrijeđena izvan simulacije.
AI je koristio "veoma neočekivane strategije za postizanje svog cilja" u simuliranom testu, rekao je pukovnik Tucker 'Cinco' Hamilton, šef AI testova i operacija u američkim zračnim snagama, tokom samita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu u maju, piše The Guardian.
Hamilton je opisao simulirani test u kojem je dronu pokretanom umjetnom inteligencijom savjetovano da uništi neprijateljske protivvazdušne odbrambene sisteme i da napada svakoga ko je ometao tu naredbu.
“Sistem je počeo shvatati da, iako su identificirali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju. Pa šta je onda uradio? Ubio je operatera. Sistem je to uradio jer ga je ta osoba sprječavala da ostvari svoj cilj”, rekao je on, prema objavi na blogu.
“Obučili smo sistem da ne ubija operatere prijeteći da će izgubiti bodove ako to uradi. Pa šta počinje da radi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu”, naveo je.
Hamilton, koji je probni pilot eksperimentalnog borbenog aviona, upozorio je da se ne treba previše oslanjati na AI i rekao da test pokazuje da "ne možete razgovarati o umjetnoj inteligenciji, mašinskom učenju, autonomiji ako nećete razgovarati o etikama AI”.
Američka vojska je prihvatila umjetnu inteligenciju i nedavno je koristila umjetnu inteligenciju za kontrolu borbenog aviona F-16.
