人工智慧來到你身邊！安全和隱私如何保護？

【編者按】在國外，當Facebook開始將手伸向旗下WhatsApp的用戶數據時，當Google推出了智能聊天應用Allo時，都受到了侵犯用戶隱私的譴責。相反，當人工智慧在國內被捧上風口時，卻沒多少人預先關心類似技術和產品對個人隱私的侵害。

世界上一些最知名的企業已經在信息安全方面投入了數百萬美元。當然，他們的對手也是如此。但一些有惡意的人卻希望你的防禦系統主要是由人類操控的，而且所有的防禦系統的操控方式都是一樣的。

當你搬家時，你會換鎖還是和你所有的鄰居使用共享鎖?試想一下，如果小偷僅僅知道了一個共享鎖的密碼，將會發生什麼呢?出於某種原因，信息安全的世界有一種相同的鎖定心態。一些「顧客」是有惡意的人，他們費儘力氣想去侵犯他人的財產安全。考慮到這種情況，即便各個企業投入了大量資金，安全防護仍會失敗，對於這樣的結果我們也就不應感到驚訝。

要想網路防禦者有機會贏得勝利，我們就必須開始公平競爭。供應商將他們的安全產品的相關副本分發給客戶，只是因為這個方式對他們來說很容易，而不是因為這個行為對他們的客戶更好。

一個反病毒公司應該為每個惡意軟體樣本生成多少個變種?所有基於主機的人工智慧(AI)防禦都能在病毒環境中學習嗎?在過去，為每個企業定製這些方案是不可行的。幸運的是，網路安全研究逐漸出現了一些新的技術，它們可以為每一個客戶提供獨特的病毒檢測軟體，這些技術可以幫助維護公平競爭環境，甚至有助於企業在商業競爭中取勝。

這些新興技術廣泛地出現在人工智慧和機器學習領域。任何人工智慧系統的核心都是學習能力。一些人工智慧解決方案從本地環境中學習，而另一些則從全局環境中學習。那些能夠勝出的是那些利用只存在於客戶的網路環境中的數據，併產生一種針對該環境的移動防禦類型的數據，根據這些數據建立起某種或全部的威脅探測能力的企業。其中包括：

一種是實質上不同於當前企業之間的防禦方式;

一種是隨著時間的推移，它會隨著環境的變化而不斷演變的防禦方式;

最重要的一種是，防禦系統不會讓攻擊者事先知道，並且他們斷定攻擊者一定會失敗。

類似於在密碼中再次套入密碼有助於保護信息不受損害，部署網路安全解決方案，利用網路環境將其與其他所有副本區別開來，有助於保護企業。

使用人工智慧系統建立一個移動防禦系統

人工智慧可以使用數千個特徵來判斷網路中的內容是否有惡意，或者用戶或系統行為是否異常。每一個特徵都只提供了一個小的證據來判斷是否有病毒。

但是這隻有在複雜的組合中才有用。機器學習演算法通過專門一段時間的訓練，試圖找出如何結合特徵來產生準確的洞察和預測。

根據每個人工智慧系統的方法，培訓數據可以來自當地環境、全球環境或兩者的混合。然而，與傳統方法不同的是，所得到的模型從來都不是基於簡單的規則或易於理解的模式。這些模型的自然不透明以及它們的動態構造為有效的移動防禦提供了基礎。

你可以通過調整訓練集或時間來改變人工智慧模型。額外的培訓數據是否只是簡單地添加或用來替換老的培訓數據並不重要，因為結果是一樣的。

新的模型使用現有的功能或使用全新的功能被創造出來。在人工智慧和機器學習方面，量身定製的檢測解決方案的成本是可以忽略不計的。然而，必須有一個解決方案提供者來啟用這種方法。一些使用機器學習和人工智慧的網路安全供應商仍然在以傳統方式部署他們的模型，而不會利用本地數據來調整他們的解決方案。當然，移動防禦也面臨挑戰，不僅僅是那些會繼續試圖打敗它們的惡意行為者所帶來的挑戰。最重大的挑戰是如何確保定製解決方案的平價問題。沒有人想要「第二好的」檢測模型。必須注意的是，任何技術在實際應用過程中都會產生一種具有統計意義的模型，在所有定製的變數中，檢測精度和誤差幾乎是一致的。

很難找到比移動防禦更好的安全概念。「改變你的鎖」是最完美的安全建議之一。然而，在網路安全領域，有些鎖比其他鎖更容易改變。【責任編輯/劉凱】

註：本文轉載自AI研究院，如有侵權，請聯繫我們

IT時代網(關注微信公眾號ITtime2000，定時推送，互動有福利驚喜)所有原創文章版權所有，未經授權，轉載必究。
創客100創投基金成立於2015年，直通矽谷，專註於TMT領域早期項目投資。LP均來自政府、互聯網IT、傳媒知名企業和個人。創客100創投基金對IT、通信、互聯網、IP等有著自己獨特眼光和豐富的資源。決策快、投資快是創客100基金最顯著的特點。