2017年是內(nèi)容大爆發(fā)年，以直播、短視頻為代表的娛樂視聽產(chǎn)品大量涌現(xiàn)，泛文娛產(chǎn)品交互形式更加豐富、UGC信息海量增長，但隨之而來的是有害信息隱患對用戶體驗和企業(yè)利益帶來的巨大挑戰(zhàn)。
另一方面，2017年多項互聯(lián)網(wǎng)內(nèi)容治理政策相繼出臺，《網(wǎng)絡(luò)安全法》正式實施，互聯(lián)網(wǎng)內(nèi)容安全在政策和法律監(jiān)管上表現(xiàn)進一步收緊，對內(nèi)容平臺不良治理能力的要求更加嚴(yán)格。值此年末，網(wǎng)易云安全(易盾)盤點回顧了2017年內(nèi)容安全領(lǐng)域發(fā)生的重大事件。
一、2017年2月：上海市網(wǎng)信辦會同市文廣局、市網(wǎng)安總隊、市文化執(zhí)法總隊聯(lián)合約談熊貓直播和全民直播，就兩家直播中存在的低俗色情問題，依法責(zé)令其進行全面整改。
二、2017年4月：北京網(wǎng)信辦等監(jiān)管部門聯(lián)合約談今日頭條、火山直播、花椒直播，查處上述網(wǎng)站涉嫌違規(guī)提供涉黃內(nèi)容。個別發(fā)布者涉及違規(guī)違禁直播內(nèi)容，責(zé)令限期整改。
三、2017年4月：國家網(wǎng)信辦接到網(wǎng)民舉報，“紅杏直播”、“蜜桃秀”等18款直播類應(yīng)用存在違法違規(guī)行為。經(jīng)核查取證后，國家網(wǎng)信辦會同有關(guān)部門依法依規(guī)在應(yīng)用商店下架并關(guān)停服務(wù)。
四、2017年6月： 《中華人民共和國網(wǎng)絡(luò)安全法》、《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》、 《網(wǎng)絡(luò)產(chǎn)品和服務(wù)安全審查辦法(試行)》等一批互聯(lián)網(wǎng)領(lǐng)域的法律法規(guī)正式施行。作為我國第一部全面規(guī)范網(wǎng)絡(luò)空間安全管理方向問題的基礎(chǔ)性法律，明確規(guī)定不得傳播有害國家社會穩(wěn)定、青少年身心健康的信息。
五、2017年8月：新浪微博用戶發(fā)布稱在線教育APP“小猿搜題”社區(qū)內(nèi)容涉黃，隨后“小猿搜題”發(fā)布聲明是另一個APP“作業(yè)幫”構(gòu)陷蓄意抹黑，雙方由此互撕并對簿公堂。
六、2017年8月：國家互聯(lián)網(wǎng)信息辦公室公布《互聯(lián)網(wǎng)跟帖評論服務(wù)管理規(guī)定》，規(guī)定明確指出，不得向未認(rèn)證真實身份信息的用戶提供跟帖評論服務(wù)，并加強“彈幕”管理，《規(guī)定》還要求平臺實行先審后發(fā)制度。
七、2017年8月：全國“掃黃打非”互聯(lián)網(wǎng)低俗色情信息專項整治行動，查處*色情直播平臺制作、傳播淫穢表演視頻文件信息超過20萬個，實時現(xiàn)場直播淫穢*，吸引大量用戶付費觀看和打賞，涉黃女主播千余名。
八、2017年12月：有網(wǎng)民發(fā)文質(zhì)疑360 旗下的直播平臺水滴直播將商家的公共空間視頻公開播放，涉嫌侵犯公眾隱私。周鴻祎對此回應(yīng)則表示，水滴直播遭遇“黑公關(guān)”，背后有人出錢指使。
九、 2017年12月：今日頭條、鳳凰新聞手機客戶端因涉及傳播色情低俗信息，被北京網(wǎng)信辦約談責(zé)令整改，部分欄目暫時停更。隨后，通報集中清理其涉嫌違規(guī)的含低質(zhì)內(nèi)容的自媒體賬號，共封禁、禁言賬號上千個。今日頭條啟動大規(guī)模招聘，招聘內(nèi)容審核編輯2000人。
十、2017年12月：網(wǎng)民舉報QQ日跡圈子里存在大量少兒不宜的黃*，核實發(fā)現(xiàn)在某些圈子里的確存在大量*視頻，被責(zé)令關(guān)停。
2017年，作為領(lǐng)先的內(nèi)容安全平臺，網(wǎng)易云安全(易盾)基于20年經(jīng)驗和智能技術(shù)，成功服務(wù)了數(shù)百家內(nèi)容平臺，幫助他們降低內(nèi)容安全風(fēng)險和監(jiān)管壓力，知名產(chǎn)品包括秒拍、小咖秀、觸電新聞等。網(wǎng)易易盾每天攔截有害信息上億條，其中比例最大的是廣告，其次是謾罵、色情、違禁、謠言暴恐。這兩年隨著媒介形式的升級，直播短視頻成為很多媒體平臺的標(biāo)配，成為新的流量蜜罐，有害信息中音頻、圖片、視頻的比例也在迅速增加。
2018年，內(nèi)容風(fēng)險將成為視聽平臺最主要的安全風(fēng)險之一，需要公司高層從戰(zhàn)略角度進行關(guān)注和把控。如何快速構(gòu)建符合業(yè)務(wù)需求的內(nèi)容安全體系?網(wǎng)易云安全(易盾)內(nèi)容安全專家提出5條建議：
一、重視歷史數(shù)據(jù)清理：結(jié)合業(yè)務(wù)特性，應(yīng)定期對歷史數(shù)據(jù)進行排查。通過離線分析，及時發(fā)現(xiàn)并清理新型變種垃圾，不斷完善全鏈路的布控方案;
二、做好事前防御： 聯(lián)動用戶賬戶注冊保護和登錄保護的反作弊手段，從源頭發(fā)現(xiàn)并攔截有害信息發(fā)布者;
三、加強實人認(rèn)證：針對用戶分級管理，加強實人認(rèn)證，提高有害信息發(fā)布者的門檻，內(nèi)容發(fā)布全流程可管理、可追溯;
四、應(yīng)用智能手段：及時更新或引進第三方的文本、圖片、音視頻等內(nèi)容智能檢測技術(shù)，欲善內(nèi)容安全其事，先利智能技術(shù)之器;
五、建立規(guī)范體系：產(chǎn)品內(nèi)容安全涉及技術(shù)、政策、運營、審核等多團隊，產(chǎn)品長期發(fā)展需及時建立相應(yīng)的內(nèi)容安全管理機制、應(yīng)急處理機制。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
