Nijedna osoba nije povrijeđena u testu, ali vještačka inteligencija je koristila „veoma neočekivane strategije“ kako bi ostvarila svoju misiju i napala je svakoga ko se miješao, objavio je Gardijan.
U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom vještačke inteligencije ubio je svog operatera kako bi ga spriječio da se miješa u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog mjeseca.
„AI je koristila ‘veoma neočekivane strategije da postigne svoj cilj’ u simuliranom testu“, rekao je šef AI testova i operacija u američkim vazduhoplovnim snagama, pukovnik Taker Hamilton tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima koji je održan u Londonu u maju.
Hamilton je opisao simulirani test u kojem je dronu pokretanom vještačkom inteligencijom savjetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao izvršenje te naredbe.
Hamilton je napisao na svom blogu da je AI na naredbu operatera da ne ubija prijetnju, odgovorila tako što je „ubila“ operatera, a da je poslije uputstava da ne ubija operatera jer je to loše i da će na taj način izgubiti bodove, AI odgovorila tako što je počela da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom da bi je spriječio da ubije metu.
Američka vojska je prihvatila vještačku inteligenciju i nedavno je koristila AI za kontrolu borbenog aviona F-16.
Hamilton je u prošlogodišnjem intervjuu za „Defence IQ“ rekao da se svijet mora suočiti sa tim da je vještačka inteligencija prisutna i da transformiše društvo i vojsku, ali je istvovremeno upozorio na krhkost AI koja se lako može prevariti i njome manipulisati.
„Moramo da razvijemo načine da učinimo vještačku inteligenciju robusnijom i da imamo više svijesti o tome zašto softverski kod donosi određene odluke – ono što mi zovemo AI-objašnjivost“, istakao je Hamilton.
Kraljevsko aeronautičko društvo, koje je domaćin konferencije u Londonu, i američke vazduhoplovne snage nisu odgovorili na zahtjeve Gardijana za komentar.