AI型網路攻擊即將到來，對未來網路安全意味著什麼？

下一波重大網路攻擊很可能涉及人工智慧系統，而且攻擊活動可能將很快發生：在最近召開的一次網路安全會議上，100位受訪行業專家中的62位認為，首輪AI強化型網路攻擊很可能在接下來12個月內出現。

這並不是說機器人將很快成為網路攻擊活動中的主體。相反，人工智慧將繼續遵循現有網路攻擊的套路(例如身份竊取、拒絕服務攻擊以及密碼破解)，只是具備更為強大的能力與執行效率。但憑這一點，足以造成經濟損失、情感傷害甚至人身威脅等危險後果。規模更大的攻擊活動甚至有可能導致數十萬人陷入無電可用的境地，關閉醫院甚至影響到國家安全。

AI決策制定的研究者警告稱，AI仍然很難解釋人類行為，而人類也並不真正相信AI系統作出的重大決策。因此與電影橋段有所不同，AI能夠為網路攻擊以及網路防禦帶來的並非由計算機選定目標並自動施以攻擊。人們仍然需要自行創建AI攻擊系統，並設定特定目標再將其啟動。但儘管如此，AI的介入仍然會進一步升級目前的網路犯罪與網路安全體系，進而成為攻擊者與防禦者之間軍備競賽的核心支柱之一。

AI的優勢

除了不需要進食與休息之外，計算機相較於人類黑客團隊還擁有另一大根本性優勢，以自動化方式提升複雜攻擊的速度與執行效率。

截至目前，自動化的實際效果仍然存在局限。幾十年以來，病毒程序自動複製等能力已經屬於非常基本的AI型功能，其能夠在無需人類指令操縱的前提下完成在計算機之間的傳播。

另外，程序員還會利用自有技能對不同黑客元素進行自動化升級。舉例來說，分散式攻擊利用多台計算機或設備上的遠程程序將伺服器吞沒。

2016年10月導致部分互聯網體系癱瘓的攻擊活動就採用了這種實現方式。在某些情況下，普通攻擊亦可通過腳本形式起效，從而允許技術水平較低的用戶選定目標並發動攻擊。

不過AI能夠幫助人類網路犯罪分子定製攻擊手段。舉例來說，魚叉式釣魚攻擊要求攻擊者獲取潛在目標的個人信息以及其它詳細資料，具體包括銀行帳戶或者其選擇的醫療保險公司。AI系統能夠幫助攻擊者快速收集、組織並處理大型資料庫，從而對信息進行關聯與識別，最終簡化攻擊實施門檻並加快攻擊執行速度。另外，工作量的降低將使得網路犯罪分子能夠發動大量小規模攻擊。由於單次攻擊的影響較為有限，因此這類活動即使被檢測到也往往會受到忽視。

AI系統甚至可被用於從多個來源處同時提取信息，從而發現那些易受攻擊活動影響的目標。舉例來說，住院的病患或者身處療養院的老人可能不會注意到自己的帳戶餘額已經被惡意人士所竊取。

提升適應能力

AI支持型攻擊者在遇到阻力，或者網路安全專家修復了原有漏洞時將能夠快速作出反應。在這種情況下，AI可能會在無需人為指示的前提下轉而利用另一項漏洞，或者對系統進行掃描以找到新的可行入侵方式。

這可能意味著人類應急工作者及防禦者將無法跟上AI方案的進攻速度。這極有可能引發新一輪編程與技術性軍備競賽，其中防禦者開發出AI助手以發現並抵禦攻擊活動，甚至打造出擁有報復性攻擊能力的AI方案。

AI同樣可能帶來的危險

自主操作可能導致AI系統攻擊其本不應攻擊，甚至可能造成意外損失的系統。

舉例來說，原本只打算竊取資金的攻擊者在運行AI軟體后，其也許會決定將目標指向醫院計算機，這極易導致人身傷害甚至是死亡等嚴重後果。無人機的自主運行能力也存在類似的問題：人類仍需要負責做出關於目標選取的決定。

儘管後果與影響如此重要，但大多數在遭遇第一次AI攻擊時並不會注意到此類重大變化。對於大多數受影響群體，其面臨的結果與人為觸發的攻擊將基本相同。但隨著我們不斷利用互聯網機器人系統改進自身家庭環境、工廠、辦公室乃至交通運輸系統，人工智慧引發的潛在威脅必將不斷提升。