人工智能蘊含潛在風險挑戰　國家安全部提四點化解

周四（16日），「國家安全部」微信公號發布「如何化解人工智能帶來的國家安全挑戰」一文，提到當前人工智能技術正廣泛應用於金融、醫療、交通、制造業等領域，對經濟社會發展和人類文明進步產生深遠影響，給世界帶來巨大機遇，但同時也不能忽視其蘊含的潛在風險挑戰，很可能在不久的將來深刻改變現有國家安全格局。

文章提到，人工智能可能帶來五大風險，它們包括數據竊取風險，人工智能需要海量的數據來進行學習和訓練，這些數據中可能包含用戶大量敏感信息，如果被濫用或泄露，可能會對個人私隱、國家安全造成嚴重危害；網絡攻擊風險，人工智能可以成為破壞網絡安全和管理的「幫兇」，網絡攻擊者在其協助下可以隨時隨地對特定目標輕易發起針對性和隱蔽性很強的進攻，將互聯網空間變成人人自危的「黑暗森林」；經濟安全風險，人工智能技術在一定程度上會成為人力工作的「高效替代品」，進而對國家經濟安全、社會安全甚至政治安全造成沖擊，同時其也可以被用來實施經濟破壞活動，例如通過操縱宣傳導致金融市場恐慌。

還有「數據投毒」風險，即在人工智能訓練數據中投放惡意數據，干擾數據分析模型正常運行的行為，如在智能汽車系統中「投毒」可能導致交通事故，在輿論宣傳中「投毒」可以更加隱蔽地滲透一些負面思想到群眾思想觀念中；軍事安全風險，人工智能一方面可被用在致命性自主武器(LAW)上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優勢，另一方面可以將網絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊範圍更廣。

文章稱，中國要保持戰略定力，增強戰略信心，統籌人工智能發展與安全，穩妥應對各種風險挑戰，為人工智能注入更多「安全基因」。其提到四點，包括完善法律法規，聚焦人工智能重點領域安全應用、倫理道德約束等方面，制定更多更明確的法規政策、行業規範，保障人工智能研發和應用中的個人隱私與數據安全，確保人工智能安全、可靠、可控；加強前瞻布局，支持以人工智能技術防範人工智能風險，積極發展用於人工智能治理的相關技術開發與應用，貫徹敏捷治理和多維治理原則，積極構建多方參與的人工智能治理體系。

還有堅決打擊犯罪，依法打擊利用人工智能進行危害國家安全的犯罪行為，並督促人工智能行業和用戶個人自覺提升防範意識、遵守法律法規，履行維護國家安全主體責任；推動全球治理，積極發揮多邊機制作用，拓展「以人為本」、「智能向善」共識，形成具有廣泛共識的治理框架和標準規範，推動各國在人工智能治理中加強信息交流和技術合作，共同做好風險防範。最後，國家安全機關將強化科技賦能、數字賦能，不斷推進國家安全體系和能力現代化，為應對人工智能的風險挑戰築牢國家安全屏障。