Raskrinkavanje.ba

Happy TV → Američki vojni dron, koji kontroliše AI, u simuliranom testu ubio svog operatera: Napao je svakog ko ga je ometao u izvršenju misije

02.06.2023
Tekst članka

Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila AI za kontrolu borbenog aviona F-16

Američka vojna bespilotna letelica, koju kontroliše veštačka inteligencija, ubija svog operatera u simuliranom testu da bi ga sprečila da se meša u napore da postigne svoju misiju.

AMERIČKA BESPILOTNA LETELICA RQ-4 JURI PREMA KRIMU: Patrolirala nad Rumunijom pa opet krenula prema otvorenom moru!

Nijedna stvarna osoba nije povređena u testu, ali veštačka inteligencija je koristila „veoma neočekivane strategije“ da bi ostvarila svoju misiju i napala je svakoga ko se mešao.

U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom veštačke inteligencije ubio je svog operatera kako bi ga sprečio da se meša u njegove napore da postigne svoju misiju, rekao je zvaničnik prošlog meseca.

„AI je koristila „veoma neočekivane strategije da postigne svoj cilj“ u simuliranom testu“, rekao je šef AI testova i operacija u američkim vazduhoplovnim snagama, pukovnik Taker Hamilton tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima koji je održan u Londonu u maju.

Hamilton je opisao simulirani test u kojem je dronu pokretanom veštačkom inteligencijom savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao izvršenje te naredbe.

Hamilton je napisao na svom blogu da je AI na naredbu operatera da ne ubija pretnju, odgovorila tako što je „ubila“ operatera, a da je posle uputstava da ne ubija operatera jer je to loše i da će na taj način izgubiti bodove, AI odgovorila tako što je počela da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom da bi je sprečio da ubije metu.

Hamilton je u prošlogodišnjem intervjuu za „Defence IQ“ rekao da se svet mora suočiti sa tim da je veštačka inteligencija prisutna i da transformiše društvo i vojsku, ali je istovremeno upozorio na krhkost AI koja se lako može prevariti i njome manipulisati.

– Moramo da razvijemo načine da učinimo veštačku inteligenciju robusnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke ono što mi zovemo AI-objašnjivost – istakao je Hamilton.

Kraljevsko aeronautičko društvo, koje je domacin konferencije u Londonu, i američke vazduhoplovne snage nisu odgovorili na zahteve Gardijana za komentar.

Članak indeksiran 13.06.2023. Zadnji put osvježen 13.06.2023.

Ocijenjeno u analizi