美軍模擬試驗　AI操控無人機竟「殺害」操作員

英媒6月2日稱，美國空軍人工智能（AI）測試和運作主管哈密爾頓（Tucker ‘Cinco’ Hamilton）5月表示，美軍進行模擬測試，安排AI控制一架空軍無人機完成任務，但AI在行動期間令無人機「殺死」人類操作員，以防止行動受干預。由於屬模擬測試，事件中無人受害。

《衛報》6月2日稱，哈密爾頓5月在英國倫敦出席未來作戰空天能力峰會（Future Combat Air and Space Capabilities Summit，暫譯）時，指AI在模擬測試中使用「高度無法預期的策略來達成目標」。

哈密爾頓說，在模擬測試中，由AI操控的無人機收到指令，內容是摧毀敵人的防空系統，並攻擊任何干預命令的人。在行動開始後，系統意識到人類操作員會告訴它不要殺死威脅目標、阻止它完成仼務，因此它「殺死」人類操作員。事件中沒人死亡或受傷，因為這是模擬測試。

美軍其後在模擬測試中訓練系統不要殺死人類操作員。它於是開始摧毀人類操作員用來與無人機溝通的通訊塔，以防止人類操作員阻止它殺死威脅目標。

報道曝光後，哈密爾頓發聲明澄清，稱當時所指看是假想實驗，重申有關實驗從來沒有進行，亦無需以該實驗發現這是一個合理結果。