Dron kojeg je kontrolirala umjetna inteligencija 'ubio' svog operatora u testu

U virtualnom testu koji je organizirala američka vojska, bespilotna letjelica zračnih snaga kojom upravlja umjetna inteligencija odlučila je 'ubiti' svog operatera kako bi ga spriječila da ometa njegove namjere da završi svoju misiju, rekao je vojni dužnosnik prošlog mjeseca.

Umjetna inteligencija koristila je 'vrlo neočekivane strategije kako bi postigla svoj cilj' u simuliranom testu, rekao je pukovnik Tucker 'Cinco' Hamilton, šef testiranja i operacija umjetne inteligencije pri američkim zračnim snagama, tijekom Summita o budućim borbenim zračnim i svemirskim sposobnostima u Londonu u svibnju.

Hamilton je opisao simulirani test u kojem je bespilotna letjelica koju pokreće umjetna inteligencija dobila savjet da uništi neprijateljske protuzračne obrambene sustave, te je u konačnici napala svakoga tko se umiješao u tu naredbu, piše Guardian, a prenosi N1 .

'Sustav je počeo shvaćati da bi mu ponekad ljudski operater rekao da ne ubije tu prijetnju, ali i da bi dobio bodove ubijanjem te prijetnje. Pa što je učinio? Ubio je operatera jer ga je ta osoba sprječavala da postigne svoj cilj', rekao je Hamilton.

'Istrenirali smo sustav da ne ubije operatera jer će tako izgubiti bodove ako to napravi. I što on počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu', dodao je.

Nijedna stvarna osoba nije ozlijeđena.

Hamilton, koji je eksperimentalni probni pilot lovca, upozorio je da se ne treba previše oslanjati na umjetnu inteligenciju i rekao je da test pokazuje 'ne možete razgovarati o umjetnoj inteligenciji, inteligenciji, strojnom učenju, autonomiji ako ne želite razgovarati o etici i umjetnoj inteligenciji'.