虎牙與騰訊共建AI智能審核平臺及安全攻防機制

10月10日，虎牙公司與騰訊云、騰訊安全共同宣布成立安全聯合實驗室，雙方將融合騰訊在云服務器底層算力、內容風險識別、反欺詐和威脅情報等方面的技術能力優(yōu)勢與虎牙公司在內容風控、安全攻防和直播業(yè)務場景的實戰(zhàn)積累，圍繞AI安全應用、黑產打擊、安全攻防、數據標注、人工審核等多個領域展開技術交流與業(yè)務合作，共同建設AI智能審核平臺及安全攻防機制，并以AI安全能力的應用擴容，在虎牙直播平臺打造全方位安全攻防和更精準的內容審核體系，為健康的網絡直播內容生態(tài)建設提供參考樣本和前沿解決方案?；⒀拦靖呒壐笨偛美蠲取⒒⒀拦緝热蒿L控副總裁張二虎、騰訊云副總裁魏偉、騰訊安全副總裁黎巍等領導嘉賓出席實驗室掛牌儀式。

“強大算力+AI審核+安全攻防”助力直播內容生態(tài)優(yōu)化

疫情催化之下，在線業(yè)務按下發(fā)展“快進鍵”，直播平臺流量價值的日趨攀升，在一定程度上也讓黑灰產看到了更大的“商機”。而伴隨著直播業(yè)務內容生態(tài)圈的縱深發(fā)展，如何有效預防黑灰產帶來內容風險與威脅，成為直播行業(yè)健康持續(xù)發(fā)展的重要基石。如騰訊安全副總裁黎巍所言：“隨著包括生活服務、游戲、視頻、直播等在內的泛互聯網行業(yè)利益點的不斷延伸，內容安全能力已成為高度重視用戶體驗的泛互領域企業(yè)獲取用戶黏性的關鍵所在?！?/p>

結合多年來直播行業(yè)內容生態(tài)建設經驗，虎牙公司高級副總裁李萌認為，平臺在不斷突破自身的安全技術能力，持續(xù)優(yōu)化審核規(guī)范與制度基礎上，與擁有強大底層算力和成熟安全技術的廠商合作，會成為直播行業(yè)治理優(yōu)化內容生態(tài)的有效途徑?；诖怂悸?，騰訊云、騰訊安全與虎牙公司融合虎牙全面上云及多元破圈發(fā)展的短、中、長期安全需求，開放各自優(yōu)勢、能力與資源，在AI安全應用、黑產打擊、安全攻防、數據標注、人工審核等多個領域展開創(chuàng)新研究。

一方面，作為國內頭部直播平臺之一的虎牙公司將秉承對違規(guī)內容和欺詐事件“0容忍”的態(tài)度，基于其團隊堅守內容審核及內控合規(guī)一線的多維度內容管理體系，結合自研的“AI智能識別、人工審核和網絡志愿者”三位一體模式，主動協助公安機關偵破涉疫情欺詐、刷單欺詐、冒充客服欺詐、游戲裝備交易欺詐等多類黑灰產案件。為平臺安全及內容風控體系的升級打造提供實戰(zhàn)佐證與場景示范。

另一方面，騰訊則將依托20余年來積累的業(yè)務安全運營能力及黑灰產對抗經驗，全面開放基于騰訊云星星海SA2云服務器底層算力和騰訊安全“AI+大數據”的內容風控安全技術，針對合作場景持續(xù)優(yōu)化內容識別能力，從而為虎牙公司營造更為安全的內容生產環(huán)境。并共同以合作成果反哺行業(yè)發(fā)展，促進直播行業(yè)平臺安全與內容風控的創(chuàng)新實現。

覆蓋內容風險識別全場景，為直播行業(yè)提供前沿解決方案

在文本、圖片、音頻、視頻等內容井噴式涌現的富媒體時代，內容風控能力已成為內容平臺的一項核心競爭力。在《網絡信息內容生態(tài)治理規(guī)定》實施以來，虎牙公司已著力完善內容風控技術、加強主播規(guī)范教育、提高平臺自審與處罰力度，為網絡直播環(huán)境凈化與良性內容生態(tài)建設貢獻力量。在風控技術層面，虎牙公司自主研發(fā)業(yè)務風險識別系統(tǒng)，于聲音、畫面、文本維度，發(fā)現、預警和處置違規(guī)信息，能夠對“方言性”普通話實現精準轉譯、畫面內容實現全面識別、惡意文本內容進行“毫秒級”反應攔截。在人工內容審核層面，虎牙公司的內容審核團隊始終保持7*24小時在線，通過審核+復查+質檢三道審查規(guī)范，與機器審核結合，實現最優(yōu)運轉。同時，虎牙公司從17年開始組織平臺用戶成立了一支 “虎牙志愿者”團隊，共同推動平臺生態(tài)健康發(fā)展，目前團隊規(guī)模已逾十萬人，共反饋百萬條線索且有效率超50%，進一步提升了平臺的審核效率。該項創(chuàng)新項目也獲得由中國演出行業(yè)協會頒發(fā)的“中國網絡直播行業(yè)2018年度創(chuàng)新大獎”。

而騰訊云首款自研的星星海服務器結合虎牙公司在云上業(yè)務的具體場景，在性能、能效、安全特性、可靠性等層面持續(xù)優(yōu)化，同時與騰訊云虛擬化等優(yōu)勢軟件技術充分協同，為直播業(yè)務的內容審核提供了強大的算力支撐。據了解，星星海服務器采用騰訊云與AMD在其最新ROME平臺下深度定制的CPU，實現行業(yè)最優(yōu)單核性能和最優(yōu)單核TCO。根據測試，基于星星海的云服務實例綜合性能提升35%以上，其中視頻處理速度提升40%，圖形轉碼得分提升35%，Web服務頁面QPS提升高達152%。

針對各大內容社區(qū)的合規(guī)及風險識別需求，騰訊安全以AI算法為核心，以海量互聯網數據為基礎，打造出的騰訊安全天御內容風控系統(tǒng)不僅能通過庫、模型、賬號等對內容風險進行多維度識別，還能通過在線訓練平臺主動挖掘業(yè)務數據，經由攻防演練極大地提升模型的優(yōu)化效率。其中針對違規(guī)視覺內容的識別能力是騰訊優(yōu)圖實驗室通過海量數據訓練得到的AI識別能力，能夠通過特征提娶標簽預測、細粒度識別，精準識別色情、暴力等內容。目前，騰訊安全天御已打通了音視頻、文本及圖片等內容風控的全鏈路。

搭載騰訊云和微信小程序，騰訊安全天御內容風控系統(tǒng)已服務了超過5萬家開發(fā)者，行業(yè)滲透率達90%，審核效率提升20倍以上，為不同規(guī)模的企業(yè)降低了20%-80%的成本，業(yè)務健康程度達到99.89%，守護了數萬家客戶的內容安全。

未來，隨著VR、AR、5G等新技術的落地，內容生態(tài)建設將面臨著更為多元的復雜場景。騰訊云、騰訊安全和虎牙公司將持續(xù)深化合作，向直播行業(yè)合作伙伴輸出內容生態(tài)建設的攻防經驗和AI算法模型能力，致力為直播行業(yè)和內容社區(qū)打造內容新生態(tài)提供更多實戰(zhàn)成果與參考。
責任編輯：YYX