Zi 字媒體

我們都很清楚，人工智慧時代，很多人力都會逐漸被機器所代替。霍金也曾對人工智慧造成的末日表示擔憂，但是最近華盛頓大學網路安全實驗室的專家就發現，人工智慧對於圖片的識別存在一些漏洞。簡而言之：在用戶上傳圖片到網站上時，一些網站會利用人工智慧對圖片進行初次篩選，如果有暴力等不合規的圖片，就會被屏蔽。但現在研究人員發現，只要在圖片上加上一些人眼幾乎不可見的噪點，就可以完完全全地欺騙AI，讓它認為是另一張圖片，即使人類眼中看上去並無不同。不過如果網站有人工檢測的話，就不會存在這些問題。比如下面這張圖，左邊AI認為是一個茶杯，但是右邊的圖片，加上了很多噪點，人眼看上去也就是模糊一點兒，但是AI就完完全全認為不是一個茶杯，而是一個生物！接下來這張圖片也一樣，左邊沒加噪點，AI認為是飛機，右邊加了噪點，AI認為是一隻鳥。如此一來，如果這種AI識別的演算法大規模地應用於各大網站甚至是今後的人臉檢測上，將會留下巨大的漏洞。用戶上傳圖片僅僅需要簡單地加上噪點，甚至是加上人類看上去比較美觀，而實質上是噪點的濾鏡，就可以輕鬆躲過AI的檢測，把違規的圖片發到網上。在一些人臉識別的區域，人們可以嘗試帶上一些特殊的「噪點面具」，讓AI把自己識別成另一個人！想想都覺得非常可怕。這一方面說明了，AI並不是萬能的，如果大範圍普及AI，需要非常小心AI技術漏洞被不法分子利用；另一方面，人類靠著超高的智商，也能研究出對付AI的絕妙方法，即使AI造成的世界末日也有辦法解決。但是為什麼強大的AI會出這樣的錯誤呢？歸根結底，就是AI演算法的問題， 人工智慧圖像識別的演算法，如果能夠加上去噪功能，也許可以克服上面說的漏洞，不過，人工智慧畢竟是人工智慧，不管加上再多的策略，人類都還是會想辦法壓制。假如某一天，人工智慧程序突然失控了，對人類進行了無差別的攻擊，相信上面所說的方法也是很有用的：把自己加上噪點，讓人工智慧認為自己不是一個人類就行了。