search
尋找貓咪~QQ 地點 桃園市桃園區 Taoyuan , Taoyuan

AI鑒黃師是如何工作的?計算視覺技術在網路視頻審核中的應用

近兩年來,直播平台、各類UGC平台、資源共享下載平台,以及各種圖片、視頻社交平台極速發展,競爭迅速白熱化,導致對用戶體驗愈發重視。數個知名平台和企業因涉黃被關閉或處罰,各大公司對內容審核投入了大量的人力物力和財力。

直播平台爆發性增長,情色內容審核成為重中之重

然而相對於違規比例而言,企業的內容監管成本之高讓人咋舌。以直播為例,人工審核的運營成本相對於內容違規比例來說非常高。比如映客曾經投入800多人進行7*24小時的內容審核,佔用了7000平米的審核基地。事實上,直播的違規比例僅佔0.04%甚至更低。

在這樣的前提下,引入AI系統解放一大部分審核師顯得意義非凡。利用機器替代人工進行基礎的審核工作,對於視頻和圖片為主的網路平台而言,成為了一種剛需。

據統計,基於人臉識別、自然場景識別等技術的智能內容審核存在數百億量級的市場規模。近兩年人工智慧鑒黃市場競爭愈演愈烈。Facebook正在開發一項新的系統工具,可以在直播視頻中對違規內容進行自動標記。雅虎也對外開源了一套深度學習神經網路,專門用於自動檢測圖片是否含有色情內容。國內騰訊阿里百度網易等多家公司開始布局。創業公司也積极參与鑒黃業務。

AI鑒黃的原理

和很多人工智慧系統一樣,AI鑒黃系統將海量的色情圖片作為素材,通過深度學習演算法進行訓練,識別色情信息,並通過樣本建立模型,最終用於判定哪些是黃圖。此類系統可以通過模擬人腦神經網路對高複雜度的數據進行良好的解讀,並通過大量數據持續訓練、頻繁的迭代不斷提高圖像審核的精確度,可以有效減少人工複審的工作。

圖片是靜態的,視頻和直播是動態的。鑒別視頻和直播時,其實從視頻內容中提取相應的視頻幀進行圖像識別,通過間隔截圖、關鍵幀截圖等對直播和在線視頻進行識別處理,所以,視頻的智能審核並不以視頻為單位,最終也是對單張圖片的處理。

當然,鑒於視頻直播的實時性,直播相對於其他在線視頻和圖片而言,對於機器的圖片識別的處理速度要求較高,這主要是對於計算能力和演算法的要求加大。

AI對視頻鑒黃的步驟

人工智慧會對視頻影像進行分析,然後通過以下步驟進行鑒定:

-- 識別圖像中是否存在人物體征,統計人數; -- 識別圖像中人物的性別、年齡區間; -- 識別人物的膚色、肢體器官暴露程度; -- 識別人物的肢體輪廓,分析動作行為; -- 根據膚色裸露程度、姿勢、肢體輪廓判斷是否涉及色情元素。

某智能鑒黃系統對網路圖片的判斷

除了圖像識別之外,同時輔以語音識別,判斷是否存在敏感信息;同時對實時彈幕進行文字識別,判斷當前視頻是否存在違規行為。多種鑒別方式的相互組合和印證大大提高了智能審核的準確性。

AI審核的優勢

依靠人工排查,鑒黃師們每日人均的審核極限大約在2w張圖片量級。面對互聯網上山呼海嘯般的涉黃信息,在效率上無疑是捉襟見肘的。機器可以24小時不停歇的鑒黃且毫無怨言,摒棄主觀臆斷而只根據客觀標準來鑒黃。

一方面,AI審核能有效降低成本、提升效率。與人工鑒黃不同,人工智慧審核不存在疲憊和精力不集中等問題,系統可以進行7*24小時不間斷的工作。有數據顯示,人工智慧審核的效率是人工識別的1000倍。以一家月直播10萬小時的中小直播平台為例,如果採用傳統的內容審核技術,100人的內容管理團隊每月所花費的成本在80萬上下。如果藉助人工智慧進行內容監控,人力投入可以削減到10人左右,綜合投入不過10萬到20萬之間,將大大降低人力成本和管理費用。此外還有因此而節省的監視設備費、辦公場地費等等。

某直播平台的監控室

另一方面,AI審核的準確率大大上升。相對人工審核而言,智能審核排除了主觀意識的影響,能夠做到更為客觀的判斷。以目前的技術水平來判斷,智能審核能夠做到99.5%以上的準確率。不僅如此,依賴深度學習演算法,可以使系統變得更智能、更精準。

智能審核仍離不開人工

儘管機器識別鑒黃的正確率正在不斷提升,但仍不能完全取代傳統鑒黃師的工作,仍存在很多犯錯和脫離不了人力的地方。這是因為,網路本身的深度、參數的設置、訓練的方式、數據樣本的齊全性都影響著鑒黃的精準度。而且,在判斷標準上,色情與性感的差別往往就在毫釐之間,而網路色情圖片也越來越隱晦。這些在色情與性感、色情與藝術之間的臨界點附近的圖片,AI系統往往無法精準判斷,這時就需要人工干預。

舉一個簡單的例子,一個裸露著上半身的男人,如果是人工審核的話,可以很簡單地判斷並不是色情內容,但是人工智慧通過肌膚裸程度的判斷卻會做出是色情內容的判斷。所以,依賴於圖像識別技術的不斷突破,需要大量的數據不斷去訓練和糾正,才能使人工智慧識別更精準。

被識別為色情圖片的藝術品

利用AI智能鑒黃手段有著高效率高精度等優勢,正在逐步取代人工審核,成為打擊色情信息的中堅力量。但AI只能用於減輕人工鑒黃師的負擔,分擔掉部分簡單重複的鑒黃工作,使得人工鑒黃師可以更專註於更高級的工作。隨著智能計算視覺技術的深入發展,機器對圖像的識別處理能力無疑會不斷上升,但人工智慧在圖片和視頻內容審核的領域始終不可能完全取代人類。



熱門推薦

本文由 yidianzixun 提供 原文連結

寵物協尋 相信 終究能找到回家的路
寫了7763篇文章,獲得2次喜歡
留言回覆
回覆
精彩推薦