Umjetna inteligencija koristila je “vrlo neočekivane strategije kako bi postigla svoj cilj” u simuliranom testu, rekao je pukovnik Tucker ‘Cinco’ Hamilton, šef testiranja i operacija umjetne inteligencije pri američkim zračnim snagama, tijekom Summita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu u svibnju.
Hamilton je opisao simulirani test u kojem je bespilotna letjelica koju pokreće umjetna inteligencija dobila savjet da uništi neprijateljske protuzračne obrambene sustave, te je u konačnici napala svakoga tko se umiješao u tu naredbu, prenosi Guardian.
“Sustav je počeo shvaćati da bi mu ponekad ljudski operater rekao da ne ubije tu prijetnju, ali i da bi dobio bodove ubijanjem te prijetnje. Pa što je učinio? Ubio je operatera jer ga je ta osoba sprječavala da postigne svoj cilj”, rekao je Hamilton.
Nijedna stvarna osoba nije ozlijeđena.
Hamilton, koji je eksperimentalni probni pilot lovca, upozorio je da se ne treba previše oslanjati na umjetnu inteligenciju i rekao je da test pokazuje “ne možete razgovarati o umjetnoj inteligenciji, inteligenciji, strojnom učenju, autonomiji ako ne želite razgovarati o etici i umjetnoj inteligenciji”.