Veštačka inteligencija koristila je “vrlo neočekivane strategije kako bi postigla svoj cilj” u simuliranom testu, rekao je pukovnik Taker Sinso Hamilton, šef testiranja i operacija veštačke inteligencije pri američkim vazdušnim snagama, tokom Samita o budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu u maju.
Hamilton je opisao simulisani test u kojem je bespilotna letelica koju pokreće veštačka inteligencija dobila savet da uništi neprijateljske protivvazdušne obrambene sisteme, pa je na kraju napala svakog ko se umešao u tu naredbu.
“Sistem je počeo da shvata da bi mu ponekad ljudski operator rekao da ne ubije tu pretnju, ali i da bi dobio bodove ubijanjem te pretnje. I šta je učinio? Ubio je operatera jer ga je ta osoba sprečavala da postigne svoj cilj”, rekao je Hamilton.
“Istrenirali smo sistem da ne ubije operatora jer će tako izgubiti bodove ako to uradi. I šta on počinje da radi? Počinje da uništava komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga sprečio da ubije metu”, dodao je.
Nijedna stvarna osoba nije povređena.
Hamilton, koji je eksperimentalni probni pilot lovca, upozorio je da se ne treba previše oslanjati na veštačku inteligenciju i rekao je da test pokazuje da “ne možete razgovarati o veštačkoj inteligenciji, inteligenciji, autonomiji ako ne želite da razgovarate o etici”.