Američka vojna bespilotna letelica koju kontroliše veštačka inteligencija ubila je svog operatera u simuliranom testu kako bi ga sprečila da se meša u napore za postizanje svoje misije.
U testu nije povređen nijedan čovek, ali je veštačka inteligencija koristila "veoma neočekivane strategije" da bi izvršila svoju misiju i napala svakog ko se umešao, preneo je Gardijan.
AI je koristila "veoma neočekivane strategije da postigne svoj cilj" u simuliranom testu, rekao je pukovnik Taker Hamilton, šef AI testova i operacija američkog ratnog vazduhoplovstva, tokom samita o borbenim vazdušnim i svemirskim sposobnostima u Londonu u maju.
Hamilton je opisao simulirani test u kojem je bespilotna letelica sa veštačkom inteligencijom dobila instrukcije da uništi neprijateljske sisteme protivvazdušne odbrane i napadne svakoga ko je ometao tu naredbu.
- Sistem je počeo da analizira da iako je identifikovao pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju. Pa šta je uradio? Ubio je operatera. Sistem je to uradio jer ga je ta osoba sprečavala da postigne svoj cilj - rekao je on, prema postu na blogu.
- Obučili smo sistem da ne ubija operatere preteći da ćemo izgubiti bodove ako to uradi. Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu - naveo je on.
Hamilton, koji je probni pilot za eksperimentalni borbeni avion, upozorio je na preterano oslanjanje na veštačku inteligenciju i rekao da je test pokazao da „ne možete da pričate o veštačkoj inteligenciji, mašinskom učenju, autonomiji ako ne želite da pričate o etika veštačke inteligencije“.
Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila veštačku inteligenciju za kontrolu borbenog aviona F-16.