聯合谷歌開發AI演算法 專治網站評論區「撒野」者

網路媒體的的一大特色就是有評論區，供讀者直接對文章、視頻發表自己的看法，但灌水、罵戰、惡毒言論也讓媒體頭疼不已，於是有些媒體選擇將評論區關閉。例如紐約時報的網站就只有 10% 的文章開放評論，但這種做法也讓很多理性的讀者失去了發表看法的平台，於是《時報》和谷歌合作，利用後者的演算法開發了評論區惡毒言論過濾器，藉此希望未來能夠將 80% 的文章開放給讀者評論。

Bassey Etim 是《紐約時報》網站的社區編輯。在他看來，新聞通訊社與讀者間的關係相當簡單，讀者付款訂閱或者看廣告免費讀新聞，而通訊社們將掙來的錢投入後續的新聞報道中去。

不過，網站社區的出現卻讓事情變得越來越複雜。通訊社們想與讀者進行深入交流，而讀者也想找個渠道來發表自己的看法，於是讀者們開始在評論區交流起來。當然，如果大家都本著友好交流的心態，評論區可能會出現許多金句，但事實上評論區卻總是會出現各種不相干的內容，同時這裡也成了網路暴力和謠言的溫床。

為了凈化評論區風氣，《紐約時報》會人工對評論區的讀者評論進行審核。不過，每天平均 1.2 萬條以上的評論卻讓審核人員怨聲載道。有時由於缺乏人手，他們還會直接關閉某些新聞的評論區。雷鋒網發現，《紐約時報》許多爭議性較強的頭條新聞在發布時就直接禁止評論。

不過，這樣的情況馬上就要發生改變了。

今天，《紐約時報》上線了名為 Moderator（意為版主）的新系統，未來頭條新聞的評論區在工作日每天都會開放 8 小時。此外，新聞和觀點板塊的評論區則會 24 小時開放。

Moderator 的誕生還要感謝 Jigsaw，它是谷歌旗下的技術孵化器，該公司利用機器學習技術優先審核「言論不太出格」的溫和評論，有時還會自動給它們放行。Moderator 有這樣的能耐是因為它遍閱了 2007 年以來評論區里超過 1600 萬條溫和評論。

在《紐約時報》看來，讀者的評論也是內容，但它們更重視質量而非數量。調查結果也顯示，《紐約時報》的讀者們非常喜歡評論區不時出現的神評論。

去年夏天，Jigsaw 也發覺自己需要處理類似的問題：到底怎樣提升網路會話的質量呢？

於是，兩家公司一拍即合，拿到《紐約時報》的匿名評論數據后，Jigsaw 打造了一款機器學習演算法，它能掌握社區編輯對待評論的尺度。除此之外，這兩家公司還拉上了名為 Instrument 的數字產品合作夥伴一起打造 Moderator。如今，這款演算法還成了 Perspective 計劃的一部分，該項目的目標是揪出網上的騷擾和各種語言暴力。

「出版商靠廣告生存，而廣告商投放廣告時看的是讀者的參與度。」Jigsaw 董事長 Jared Cohen 寫道。Jigsaw 將「幫助各大新聞平台開闢供讀者進行兩性討論的空間。」

《紐約時報》將如何利用 Moderator

Moderator 的加入讓社區管理用戶貢獻內容的方式發生了改變，傳統上優先考慮每一條評論的方法被摒棄了。在 Moderator 的管理下，每條評論都會被打分，如果不符合要求就不會出現在評論區。

對《紐約時報》的社區編輯來說，每條評論都像是直方圖上的一個小點（如下圖）。

在直方圖上的位置可能就會決定一條評論是否會被刪掉。除此之外，Moderator 還會試著預測為何一些評論會被刪掉。

有了新工具，《紐約時報》的社區編輯們輕鬆多了，它們能直接參考機器學習模型，閱讀那些有 15%-20% 被刪除可能性的評論，如果這些評論足夠溫和，他們可能就會對 0%-20% 區間的所有評論放行。回想從前，社區編輯們需要對每條評論進行逐個閱讀。

被優先推薦的評論總是「綜合評分」較高，新系統加入后，能否得高分則主要看三個方面：評論是否包含淫穢色情內容、毒害性言論和被刪除的概率。

隨著綜合評分系統的逐漸成熟，《紐約時報》決定進一步降低社區編輯們的工作強度，那些絕對人畜無害的評論會被自動放行。

Cohen 先生表示：「機器學習的優勢就在於它會隨著學習的深入變得越來越聰明。」

未來，網路評論的好日子可能會重新到來。《紐約時報》就正在搭建一個能讓讀者隨心討論的安全環境，這裡沒有髒話、騷擾和網路暴力，每個人都能平心靜氣的抒發自己的觀點。