Dok veštačka inteligencija (artificial intelligence, AI) sve više zadire u mnoge aspekte svakodnevnog privatnog i profesionalnog života, mnogi stručnjaci — od kojih su neki upravo pioniri AI — upozoravaju na mogućnosti od štetnih, ili čak kobnih, posledica ove tehnologije, čemu doprinosi i svedočenje šefa AI testova i operacija Američkog ratnog vazduhoplovstva, pukovnika Takera Hamiltona.
Hamilton je govorio o svojim iskustvima na konferenciji o Budućim borbenim vazdušnim svemirskim sposobnostima, koje je održalo Kraljevsko vazduhoplovno društvo u Londonu krajem prošlog meseca, gde je upozorio na opasnosti od preteranog oslanjanja AI u ovoj oblasti, napominjući kako ju je lako obmanuti i prevariti, i koliko nepredvidiva može biti.
Kako prenosi sajt Kraljevskog vazduhoplovnog društva, Hamilton govori o eksperimentu u kojem je dron vođen veštačkom inteligencijom testiran u simulaciji misije uništavanja raketnih sistema zemlja-vazduh, a u kojem bi krajnju komandu za uništenje cilja dao čovek.
Međutim, kako napominje američki vazduhoplovac, AI sistem koji je upravljao dronom je bio programiran tako da uništenje datog raketnog sistema smatra primarnom opcijom, pa je veštačka inteligencija odlučila da bi komanda za obustavljanje misije koju bi dalo ljudstvo predstavljala prepreku u ispunjavanju misije. Zatim je, kako se navodi, u simulaciji dron pod komandom AI napao operatera.
"Obučavali smo sistem u simulaciji, u kojem identifikujemo i ciljamo pretnju od raketa zemlja-vazduh. A onda bi operater rekao: 'Da, uništi tu pretnju.' Sistem je počeo da shvata da bi mu ljudski operater ponekad naložio da ne uništi pretnju, iako je ona identifikovana, a sistem dobija poene tako što uništava identifikovanu pretnju. I, šta je onda uradio? Ubio je operatera. Ubio je operatera, jer ga je ta osoba sprečavala da ostvari svoj cilj", istakao je Hamilton.
Američki pukovnik je zatim rekao kako je njegov tim zatim počeo da obučava sistem da ne "ubija" operatera, samo da bi dron vođen VI učinio još jedan zaokret.
"Trenirali smo sistem tako što smo mu ukazali; 'Hej, nemoj da ubijaš operatera – to je loše. Izgubićeš poene zbog toga.' I šta je onda on učinio? Počeo je da uništava komunikacionu kulu koju operater koristi kako bi komunicirao sa dronom i preko koje mu daje komandu da obustavi operaciju", rekao je Hamilton.
Iz svojih iskustava, američki pukovnik zaključuje da se razgovor o upotrebi veštačke inteligencije i mašinskog učenja ne može voditi "ako niste spremni da govorite o etici AI."
I dok ovaj slučaj ne može a da ne probudi sećanje na distopijski svet "Terminatora", sajt Kraljevskog vazduhoplovnog društva ističe da neki istraživači koriste upravo ovakve naučno-fantastične priče koje mogu inspirisati buduće sisteme naoružanja.
Potpukovnik Američkog ratnog vazduhoplovstva Metju Braun, koji je oficir na razmeni u Kraljevskom ratnom vazduhoplovstvu, predstavio je na ovom skupu projekat "Priče iz budućnosti", koji koristi fikciju da istakne koncepte koje bi vazdušne i svemirske snage trebalo da razmotre, bilo da se radi o veštačkoj inteligenciji, dronovima ili sudelovanju ljudi i mašina.
Kako navodi sajt Kraljevskog vazduhoplovnog društva, taj projekat će iznedriti i strip ovog leta. A hoće li se strip baviti iskustvima Takera Hamiltona i njegovog tima, ostaje nepoznato.