AI je koristio "veoma neočekivane strategije za postizanje svog cilja" u simuliranom testu, rekao je tokom samita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu, pukovnik Tucker 'Cinco' Hamilton, šef testova i operacija vještačkom inteligencijom u američkim zračnim snagama.
Hamilton je opisao simulirani test u kojem je dronu pokretanom umjetnom inteligencijom savjetovano da uništi neprijateljske protivvazdušne odbrambene sisteme i napao svakoga ko je ometao tu naredbu. “Sistem je počeo shvaćati da, iako su identificirali prijetnju, ponekad bi mu ljudski operater rekao da ne ubija tu prijetnju, ali bi ubijanjem te prijetnje ispunio svoj primarni cilj. Šta bi na kraju uradio? „Ubio“ je operatera. Ono je „ubilo“ operatera jer ga je ta osoba spriječavala u ostvarnju cilja”, dodao je Hamilton.
“Obučili smo sistem – ’Hej, ne ubijaj operatera – to je loše. Izgubićete bodove ako to uradite. Pa šta počinje da radi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu.”
Nijedna stvarna osoba nije povrijeđena izvan simulacije.
Hamilton, koji je probni pilot eksperimentalnog borbenog aviona, upozorio je da se previše ne oslanjate na AI i rekao da test pokazuje „se ne može razgovarati o umjetnoj inteligenciji, inteligenciji, mašinskom učenju i autonomiji ako se pri tome ne govori o etici i AI”.
Američka vojska je prihvatila umjetnu inteligenciju i nedavno ju je koristila za kontrolu borbenog aviona F-16. U prošlogodišnjem intervjuu za Defense IQ, Hamilton je rekao: „AI nije lijepo imati, AI nije hir, AI zauvijek mijenja naše društvo i našu vojsku.“
"Moramo se suočiti sa svijetom u kojem je AI već ovdje i transformira naše društvo", rekao je. „AI je također vrlo krhak, odnosno lako ga je prevariti i/ili manipulisati. Moramo razviti načine da AI učinimo robusnijim i da imamo više svijesti o tome zašto softverski kod donosi određene odluke – ono što zovemo AI-objašnjivost.”
Kraljevsko aeronautičko društvo, koje je domaćin konferencije, i američko ratno zrakoplovstvo nisu odgovorili na zahtjeve za komentar Guardiana.