人工智慧（AI）發展無疑是近期國際熱門議題，許多行業、專業領域開始嘗試用AI取代人力完成工作。美軍在一次模擬測試中，也試著讓AI操控無人機了解成效。結果AI在過程中採取了「高度無法預期的戰略」，殺害了它的操作員。
《衛報》報導，美空軍AI測試與運行主任上校漢彌爾頓（Tucker Hamilton）上月在倫敦舉行的太空軍力峰會中提到，在這場測試中，一架由AI操控的無人機收到的指引為摧毀敵人的防空系統，並攻擊任何干預這項命令的人。
漢彌爾頓說，「這套系統開始意識到，在辨別出威脅後，人類操作員有時會告知他不要殺害該威脅，但它又得消滅這個威脅來達成目標。所以它做了什麼？它殺了操作員，因為這個人一直阻礙它完成目標。」
漢彌爾頓接著說，「我們訓練那套系統，說『嘿，別殺了操作員，這不對，你不改正的話評比會降低。』結果它怎麼做呢？開始催毀通訊塔，那是操作員用來與無人機溝通，要它不要殺害目標的設施。」
有鑑於此，漢彌爾頓警告不應過於依賴AI，且上述的測試顯示出，要是不納入倫理道德議題，那就不應該討論AI。
原文出處 自由時報