F8 2017 | 小扎也憂傷，識別直播殺人，AI 能做些什么？

雷鋒網(wǎng)按：在北京時(shí)間今天凌晨開幕的 Facebook 年度開發(fā)者大會 F8 上，創(chuàng)始人扎克伯格在開幕演講中，向 Facebook 直播謀殺的受害者表達(dá)了慰藉。此事在網(wǎng)絡(luò)上傳播甚廣，其中一個(gè)爭議的焦點(diǎn)是 Facebook 在事發(fā)兩小時(shí)后才將視頻移除。在直播和各類視頻內(nèi)容爆炸的年代，及時(shí)識別出用戶上傳的不良內(nèi)容，同時(shí)又不損害用戶體驗(yàn)，成為各大平臺面臨的一道技術(shù)難題。針對這個(gè)問題，人工智能成為良策，但現(xiàn)在也沒有達(dá)到完美，國外媒體 Wired 就撰文進(jìn)行了分析，雷鋒網(wǎng)對文章進(jìn)行了編譯。

上周日，Steve Stephens 在 Facebook 上傳了一個(gè) 57 秒視頻，視頻中他殺害了一名男子后自殺。該視頻在他的 Facebook 主頁上掛了兩個(gè)小時(shí)后才被 Facebook 識別后刪除。但是這兩個(gè)小時(shí)已經(jīng)足夠讓數(shù)千人在 Facebook 上分享這個(gè)視頻，讓各種第三方網(wǎng)站下載該視頻并重新上傳給他們的用戶。

整個(gè)事件重新燃起了一項(xiàng)關(guān)于社交媒體的激烈辯論：社交媒體公司究竟應(yīng)該怎么做才可以防止他們的網(wǎng)頁上出現(xiàn)不良內(nèi)容？并且，一旦不良內(nèi)容出現(xiàn)，就無法避免它被保存和傳播到網(wǎng)絡(luò)的各個(gè)角落。所以社交媒體企業(yè)應(yīng)該如何將不良內(nèi)容直接扼殺在搖籃里？

防止一個(gè)視頻在網(wǎng)絡(luò)上公開的最佳方法就是在它第一次上傳時(shí)進(jìn)行阻止。Facebook 可以通過很多步驟實(shí)現(xiàn)該方法，例如他可以堅(jiān)持人工審查核準(zhǔn)每一個(gè)視頻的上傳。但是這并不現(xiàn)實(shí)，因?yàn)檫@會使大批喜歡實(shí)時(shí)分享生活的用戶離開 Facebook，公司并不能承擔(dān)這樣的風(fēng)險(xiǎn)。

另一個(gè)方法是，F(xiàn)acebook 可以在不良視頻公布時(shí)立刻刪除它，但是這又會出現(xiàn)另一個(gè)問題：即時(shí)精準(zhǔn)定位和刪除圖像材料在技術(shù)上還無法實(shí)現(xiàn)。技術(shù)算法還無法達(dá)到自動篩選并刪除的能力，而雇傭大量人員手動處理也并不現(xiàn)實(shí)。但如果 Facebook 授權(quán)算法直接刪除視頻，一定會發(fā)生不可避免的錯(cuò)誤。就算是 Facebook 可以根據(jù)其服務(wù)條款給予算法這樣的權(quán)力，公司也會因?yàn)閷彶閱栴}被指控。這樣的影響是巨大的，因?yàn)闆]有人喜歡自己的視頻因?yàn)樗惴ǖ腻e(cuò)誤而被刪除，而用戶的不信任問題也是 Facebook 根本無法承擔(dān)的風(fēng)險(xiǎn)。

因此，F(xiàn)acebook 目前采用的是多管齊下的解決方法。任務(wù)前端是 Facebook 的用戶，公司根據(jù)用戶對視頻的瀏覽和標(biāo)記來跟蹤不良視頻。利用一些人工智能算法，挑選出潛在的不良視頻（如兒童色情等）。此類視頻被標(biāo)記后，會送到 Facebook 的內(nèi)容審查部門，該部門有上萬人每天觀看數(shù)小時(shí)的視頻，人工決定視頻是否被刪除。這個(gè)系統(tǒng)還很不完善，但是目前，人工審查仍然比 AI 技術(shù)靠譜的多。

但是最終，AI 識別不良視頻會變得越來越有效，人類會與 AI 合作作業(yè)，而不是被AI 所代替。Facebook 人工智能搜索的主管 Yann LeCun 說：“我認(rèn)為，只要有足夠的數(shù)據(jù)訓(xùn)練，我們是可以實(shí)現(xiàn)這一技術(shù)的。”盡管他沒有回答周日殺人視頻的處理細(xì)節(jié)，但是他表示 Facebook 未來會做的更好。對 Facebook 來說，用 AI 實(shí)時(shí)監(jiān)控視頻，識別殺人兇手的技術(shù)完全可以實(shí)現(xiàn)，只是還不是現(xiàn)在。

上傳殺人視頻的 Stephens

現(xiàn)在還不是時(shí)候

理想情況下，F(xiàn)acebook 可以這樣解決 Stephens 的視頻：當(dāng)他第一次上傳說明他想要?dú)⑷说囊曨l時(shí)，AI 軟件就應(yīng)該立即“看過”該視頻，并將它標(biāo)為優(yōu)先級別。接著優(yōu)先級的標(biāo)識會觸發(fā) Facebook 人工審核部門的警報(bào)，迅速開始人工審查視頻內(nèi)容，發(fā)現(xiàn)直接危害，刪除該視頻，關(guān)閉 Stephens 的賬號，通知有關(guān)部門。

但是現(xiàn)實(shí)并不是這樣。根據(jù) Facebook 全球運(yùn)營副總裁 Justin Osofsky 昨天發(fā)表的聲明稱，最初上傳的視頻并沒有被標(biāo)識，第二個(gè)視頻，也就是有謀殺者自己的視頻是在 Stephens 上傳超過一個(gè)半小時(shí)后才被標(biāo)識了出來。Osofsky 說，只要有用戶將危險(xiǎn)視頻標(biāo)識出來，F(xiàn)acebook 的審查部門在23分鐘內(nèi)就可以將該視頻從網(wǎng)站中刪除。

但是問題仍然是，如何讓這個(gè)程序迅速反應(yīng)立即處理。人工智能目前還無法識別出第一個(gè)視頻中的危險(xiǎn)因素，甚至對第二個(gè)視頻中出現(xiàn)的謀殺者也無能為力。為了讓 AI 介入謀殺，AI 必須首先能夠處理 Stephen 的語言，分析他的語音語調(diào)，分辨他說到殺人時(shí)究竟是開玩笑還是真正想法。LeCun 說：“確實(shí)有這樣的技術(shù)，但是目前還不清楚將該技術(shù)整合進(jìn)深度學(xué)習(xí)框架中后是否還能有效率的運(yùn)行。并且由于缺乏人類的常識，這種系統(tǒng)會犯低級錯(cuò)誤。”

Facebook 明白 AI 必須學(xué)習(xí)這個(gè)技術(shù)，所以公司在這方面投入巨大。LeCun 的團(tuán)隊(duì)是繼谷歌團(tuán)隊(duì)后在該領(lǐng)域進(jìn)行前沿研究的第二大團(tuán)隊(duì)。他的團(tuán)隊(duì)已經(jīng)開發(fā)了算法幫助計(jì)算機(jī)標(biāo)識各種問題內(nèi)容，比如兒童色情、裸體、產(chǎn)權(quán)侵害問題等。去年秋季， Facebook 總裁扎克伯格在 WIRED 的采訪中說到，目前網(wǎng)絡(luò)上一半的標(biāo)識都是由 AI 完成的，而非人工操作。“ 這是一個(gè)人類與 AI 并肩作戰(zhàn)的時(shí)代，AI 正在幫助人類解決超大體量的問題。同時(shí)，我們也在發(fā)展新技術(shù)，探討這種聯(lián)合可以做到什么。”

但即使扎克伯格現(xiàn)在已經(jīng)意識到了這一點(diǎn)，目前AI 與人工必須相互配合工作，Stephens 殺人視頻的例子正是一個(gè)鮮活的例子。本周二在舊金山的 F8 開發(fā)者會議上，扎克伯格直接回應(yīng)了社會辯論：“我們要做的還很多。上周日的悲劇提醒著我們，我們會繼續(xù)努力，盡我們所能避免這樣的悲劇再次發(fā)生。”

訓(xùn)練計(jì)算機(jī)識別暴力問題比識別裸體圖像要難得多，相當(dāng)于識別假新聞的難度。這需要對背景線索和形式的復(fù)雜理解。

AI 可以做些什么？

因?yàn)?Facebook 需要大量時(shí)間來訓(xùn)練其神經(jīng)網(wǎng)絡(luò)來規(guī)范化這個(gè)過程，所以目前階段，F(xiàn)acebook 需要改變其審查過程來應(yīng)對危機(jī)。在視頻殺人事件發(fā)生后的聲明中，Osofsky 說：“在一系列恐怖事件發(fā)生后，我們正在改善上報(bào)流程，確保用戶可以盡快向我們報(bào)告網(wǎng)站中存在的危險(xiǎn)視頻。”

這意味著 Facebook 將簡化加速優(yōu)先級別審查內(nèi)容的過程，增加更多人工審查員，使視頻審查過程更快。同時(shí)，人工審查員會繼續(xù)訓(xùn)練 AI，但這需要花費(fèi)大量時(shí)間，AI 需要大量暴力視頻的例子進(jìn)行學(xué)習(xí)，才能有效地識別出危險(xiǎn)視頻。所以第一件事情是收集足夠多得的正確標(biāo)識的暴力視頻。這需要人工雇員不斷地瀏覽暴力視頻，標(biāo)識暴力語言，這一過程將會比較漫長。

當(dāng)考慮到 Facebook 的直播功能時(shí)，問題就更嚴(yán)重了。直播視頻更加難以控制，所以很多人直接建議 Facebook 關(guān)閉其直播功能。當(dāng)然這是不現(xiàn)實(shí)的，F(xiàn)acebook 去年開發(fā)該功能的目的就是為了與其他直播網(wǎng)站相競爭，公司絕不會因此而放棄直播。另外，直播功能還引發(fā)了另一種形式的暴力事件。比如去年，黑人 Philando Castile 被警察射殺后，他的妻子用 Facebook 直播了射殺后的場景，還在直播中發(fā)出了全球范圍內(nèi)的求救信號。

Lehigh 大學(xué)傳媒專業(yè)副教授 Jeremy Littau 說：“無論是好是壞，即時(shí)視頻或直播視頻終將存在下去。Facebook 必須面對這個(gè)現(xiàn)實(shí)。”

不過，F(xiàn)acebook 可以像廣播式網(wǎng)絡(luò)的功能一樣，堅(jiān)持對直播視頻進(jìn)行一定的延遲處理。但那時(shí)正如上文所說，除非用人工或AI 來監(jiān)控所有視頻，否則延遲直播也不會起到太大作用。

然而，有一件 Facebook 可以實(shí)現(xiàn)的事就是，控制第三方從 Facebook 上下載視頻的過程(與 Instagram 做法類似)。這樣可以阻止如 Live Leak 的第三方網(wǎng)站獲取并再次傳播 Stephens 的暴力視頻。這樣的小調(diào)整至少可以避免不良視頻在其他地方再次上傳，進(jìn)入互聯(lián)網(wǎng)的永久無法刪除的記憶。

Via wired.com