At the military summit "Future Combat Air & Space Capabilities" in Britain, the head of the US Air Force AI department, Tucker Hamilton, reported on an unusual situation. During the virtual mission of the Kratos XQ-58 Valkyrie drone, the AI was ordered to search and destroy enemy… pic.twitter.com/n1OrYi3ELX
— 🇷🇺General Surovikin 🖤💛🤍 (@_Surovikin_) June 2, 2023
- Umjetna inteligencija koristila je “vrlo neočekivane strategije kako bi postigla svoj cilj” u simuliranom testu - rekao je pukovnik Tucker ‘Cinco’ Hamilton, šef testiranja i operacija umjetne inteligencije pri američkim zračnim snagama, tijekom Summita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu u svibnju.
El Coronel de la Fuerza Aérea Tucker "Cinco" Hamilton, Jefe de Pruebas y Operaciones de Inteligencia Artificial (IA), discutió la prueba en cuestión en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro de la Royal Aeronautical Society en Londres pic.twitter.com/NtWiJA3tpP
— Drones de guerra (@dronesdeguerra) June 2, 2023
Hamilton je opisao simulirani test u kojem je bespilotna letjelica koju pokreće umjetna inteligencija dobila savjet da uništi neprijateljske protuzračne obrambene sustave, te je u konačnici napala svakoga tko se umiješao u tu naredbu, prenosi Guardian.
🇺🇲Un oficial de la Fuerza Aérea de EE. UU. Que trabaja en el servicio en inteligencia artificial y aprendizaje automático dice que una prueba simulada un dron decidió atacar a sus controladores humanos después de decidir por sí mismo que se interponían en el camino de su misión pic.twitter.com/4yp1JHo7ph
— Drones de guerra (@dronesdeguerra) June 2, 2023
Sustav je počeo shvaćati da bi mu ponekad ljudski operater rekao da ne ubije tu prijetnju, ali i da bi dobio bodove ubijanjem te prijetnje. Pa što je učinio? Ubio je operatera jer ga je ta osoba sprječavala da postigne svoj cilj, rekao je Hamilton.
- Istrenirali smo sustav da ne ubije operatera jer će tako izgubiti bodove ako to napravi. I što on počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu - dodao je.
Nijedna stvarna osoba nije ozlijeđena.
Hamilton, koji je eksperimentalni probni pilot lovca, upozorio je da se ne treba previše oslanjati na umjetnu inteligenciju i rekao je da test pokazuje “ne možete razgovarati o umjetnoj inteligenciji, inteligenciji, strojnom učenju, autonomiji ako ne želite razgovarati o etici i umjetnoj inteligenciji”, prenosi N1.