2017年是內容大爆發(fā)年，以直播、短視頻為代表的娛樂視聽產品大量涌現，泛文娛產品交互形式更加豐富、UGC信息海量增長，但隨之而來的是有害信息隱患對用戶體驗和企業(yè)利益帶來的巨大挑戰(zhàn)。
另一方面，2017年多項互聯網內容治理政策相繼出臺，《網絡安全法》正式實施，互聯網內容安全在政策和法律監(jiān)管上表現進一步收緊，對內容平臺不良治理能力的要求更加嚴格。值此年末，網易云安全(易盾)盤點回顧了2017年內容安全領域發(fā)生的重大事件。
一、2017年2月：上海市網信辦會同市文廣局、市網安總隊、市文化執(zhí)法總隊聯合約談熊貓直播和全民直播，就兩家直播中存在的低俗色情問題，依法責令其進行全面整改。
二、2017年4月：北京網信辦等監(jiān)管部門聯合約談今日頭條、火山直播、花椒直播，查處上述網站涉嫌違規(guī)提供涉黃內容。個別發(fā)布者涉及違規(guī)違禁直播內容，責令限期整改。
三、2017年4月：國家網信辦接到網民舉報，“紅杏直播”、“蜜桃秀”等18款直播類應用存在違法違規(guī)行為。經核查取證后，國家網信辦會同有關部門依法依規(guī)在應用商店下架并關停服務。
四、2017年6月： 《中華人民共和國網絡安全法》、《互聯網新聞信息服務管理規(guī)定》、 《網絡產品和服務安全審查辦法(試行)》等一批互聯網領域的法律法規(guī)正式施行。作為我國第一部全面規(guī)范網絡空間安全管理方向問題的基礎性法律，明確規(guī)定不得傳播有害國家社會穩(wěn)定、青少年身心健康的信息。
五、2017年8月：新浪微博用戶發(fā)布稱在線教育APP“小猿搜題”社區(qū)內容涉黃，隨后“小猿搜題”發(fā)布聲明是另一個APP“作業(yè)幫”構陷蓄意抹黑，雙方由此互撕并對簿公堂。
六、2017年8月：國家互聯網信息辦公室公布《互聯網跟帖評論服務管理規(guī)定》，規(guī)定明確指出，不得向未認證真實身份信息的用戶提供跟帖評論服務，并加強“彈幕”管理，《規(guī)定》還要求平臺實行先審后發(fā)制度。
七、2017年8月：全國“掃黃打非”互聯網低俗色情信息專項整治行動，查處*色情直播平臺制作、傳播淫穢表演視頻文件信息超過20萬個，實時現場直播淫穢*，吸引大量用戶付費觀看和打賞，涉黃女主播千余名。
八、2017年12月：有網民發(fā)文質疑360 旗下的直播平臺水滴直播將商家的公共空間視頻公開播放，涉嫌侵犯公眾隱私。周鴻祎對此回應則表示，水滴直播遭遇“黑公關”，背后有人出錢指使。
九、 2017年12月：今日頭條、鳳凰新聞手機客戶端因涉及傳播色情低俗信息，被北京網信辦約談責令整改，部分欄目暫時停更。隨后，通報集中清理其涉嫌違規(guī)的含低質內容的自媒體賬號，共封禁、禁言賬號上千個。今日頭條啟動大規(guī)模招聘，招聘內容審核編輯2000人。
十、2017年12月：網民舉報QQ日跡圈子里存在大量少兒不宜的黃*，核實發(fā)現在某些圈子里的確存在大量*視頻，被責令關停。
2017年，作為領先的內容安全平臺，網易云安全(易盾)基于20年經驗和智能技術，成功服務了數百家內容平臺，幫助他們降低內容安全風險和監(jiān)管壓力，知名產品包括秒拍、小咖秀、觸電新聞等。網易易盾每天攔截有害信息上億條，其中比例最大的是廣告，其次是謾罵、色情、違禁、謠言暴恐。這兩年隨著媒介形式的升級，直播短視頻成為很多媒體平臺的標配，成為新的流量蜜罐，有害信息中音頻、圖片、視頻的比例也在迅速增加。
2018年，內容風險將成為視聽平臺最主要的安全風險之一，需要公司高層從戰(zhàn)略角度進行關注和把控。如何快速構建符合業(yè)務需求的內容安全體系?網易云安全(易盾)內容安全專家提出5條建議：
一、重視歷史數據清理：結合業(yè)務特性，應定期對歷史數據進行排查。通過離線分析，及時發(fā)現并清理新型變種垃圾，不斷完善全鏈路的布控方案;
二、做好事前防御： 聯動用戶賬戶注冊保護和登錄保護的反作弊手段，從源頭發(fā)現并攔截有害信息發(fā)布者;
三、加強實人認證：針對用戶分級管理，加強實人認證，提高有害信息發(fā)布者的門檻，內容發(fā)布全流程可管理、可追溯;
四、應用智能手段：及時更新或引進第三方的文本、圖片、音視頻等內容智能檢測技術，欲善內容安全其事，先利智能技術之器;
五、建立規(guī)范體系：產品內容安全涉及技術、政策、運營、審核等多團隊，產品長期發(fā)展需及時建立相應的內容安全管理機制、應急處理機制。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
