美權威智庫發布《人工智慧與國家安全》報告

2017年7月12日，新美國安全中心發布《人工智慧與國家安全》報告，分析了人工智慧技術對國家安全的潛在影響，並提出了3點目標和11個發展建議，主要內容編譯如下：

過去5年，人工智慧（AI）領域研究取得了重大技術進展，遠超出此前的預期，這主要得益於機器學習子領域的快速發展。大多數業內專家相信AI將持續甚至加速進步。當前，AI技術進展主要發生在民用企業或學術界，美國政府機構處於落後狀態。然而，AI對國家安全起到至關重要的影響。如機器學習技術可使一些勞動密集型工作的自動化程度大幅提升，如衛星獲取的圖像分析和網電攻防領域等。報告認為，未來隨著技術的持續進步，AI將像核武器、飛機、計算機和生物技術一樣，日益成為可影響國家安全的變革性技術。主要結論如下：

1AI的發展將通過變革軍事優勢、信息優勢和經濟優勢等三方面影響國家安全。

（1）在軍事優勢方面，AI的進步將催生新的軍事能力，同時使更多的軍事行動參與者可應對當前的軍事挑戰。

（2）在信息優勢方面，AI將極大提升數據收集與分析能力，並提升產生數據的能力。

（3）在經濟優勢方面，AI的進步將引發新的市場變革。

2報告通過分析核武器、飛機、網電攻防和生物技術四個變革性軍事技術案例，提出AI發展應注意的5個經驗教訓。

（1）突破性技術變革將引發激進的政府政策；

（2）軍備競賽有時不可避免，但可以設法控制；

（3）政府必須對相關的商業活動採取即促進又限制的措施；

（4）政府必須針對技術安全形成規範化的目標並提供適當的資源；

（5）在技術發生變化時，美國的國家也在發生變化。

報告以「整個政府」為框架，提出了關於AI技術的國家安全政策3個目標，包含11點建議。

（1）目標1：保持美國的技術領先地位

建議1：美國防部（DoD）應開展聚焦於AI的軍事演習，以確定潛在的顛覆性軍事創新。

建議2：DoD應資助多種形式的、長期的關於AI技術及其應用的戰略分析。

建議3：DoD應有限考慮支持能帶來持續利益和降低關鍵風險的AI研究與開發工作。

建議4：美國國防和情報機構應該重點投資在攻防兩端「反AI」的能力。

（2）目標2：支持和平利用AI技術

建議5：DARPA，IARPA，海軍研究署和國家科學基金會應增加與AI相關的基礎研究的經費支持。

建議6：DoD應提出關於軍民兩用AI能力的信息需求（RFI）。

建議7：In-Q-Tel公司（負責為美國中央情報局做風投的公司）應提供額外的資源用於提升國家安全部門與商用AI公司間的合作。

（3）目標3：災難性風險管理

建議8：國家安全委員會、DoD與國務院應清楚AI應用對美國的潛在影響，並制定限制條款。

建議9：DoD和情報部門應當建立專門的AI安全組織。

建議10：DARPA應針對AI系統的失效保護及安全使用技術提供研究經費支持。

建議11：美國國家標準技術研究所（NIST）和美國國家安全局（NSA）應探索應對基於AI的偽造技術的方法。