微博Push系統(tǒng)的發(fā)展歷程，如何利用機(jī)器學(xué)習(xí)進(jìn)行熱點(diǎn)挖掘以及個性化推薦系統(tǒng)的模型升級之路

想必國內(nèi)絕大多數(shù)網(wǎng)民都有新浪微博的用戶賬號。據(jù)最新數(shù)據(jù)顯示，2018 年第四季度財報，微博月活躍用戶突破 4.62 億，連續(xù)三年增長 7000 萬 +；微博垂直領(lǐng)域數(shù)量擴(kuò)大至 60 個，月閱讀量過百億領(lǐng)域達(dá) 32 個。毫無疑問，從 2009 年 8 月上線至今，微博已是當(dāng)前業(yè)界領(lǐng)先的中文社交媒體，成績斐然。

當(dāng)年有一句話叫做 “圍觀就是力量，輿論改變中國”，明星緋聞、爆炸性新聞等眾多熱門事件從微博發(fā)出傳遍全網(wǎng)。直到如今，微博也上線了不少新功能如 “熱搜” 、“新鮮事”、“故事” 等，更加強(qiáng)調(diào) “社交”、“全媒體”、“垂直領(lǐng)域” 發(fā)展，進(jìn)一步滿足社交屬性下人們對獲取實時、一手新聞資源的需求。

Push（消息推送）的作用則在于提高用戶活躍度和粘性，提高用戶留存率，進(jìn)而進(jìn)一步提高產(chǎn)品功能和用戶參與度。如國內(nèi)外重大事件的提醒、領(lǐng)域內(nèi)大事件的提醒、關(guān)注人或好友的重要消息推送、感興趣內(nèi)容的消息提醒等方式，可引導(dǎo)用戶感興趣的內(nèi)容打開應(yīng)用。

然而，另一個事實是，此前頻頻 “吐槽” 的應(yīng)對熱門事件的流量暴增導(dǎo)致的微博服務(wù)器崩潰問題，無論是熱搜消息，還是信息流方面，均受到了極大的挑戰(zhàn)。隨著用戶數(shù)量和消息并發(fā)量的不斷上漲，基于移動端的消息推送服務(wù)器性能和穩(wěn)定性也需要經(jīng)受非常大的考驗。例如，在排序方面，微博平臺每天的推送量可達(dá)到幾個億的規(guī)模，如果全部采用全量計算，對服務(wù)器的資源消耗會過大，微博團(tuán)隊采用了分片批量計算的方式。

近期，微博研發(fā)中心技術(shù)專家齊彥杰在接受 AI 科技大本營采訪時表示，“微博一直致力于打造基于用戶關(guān)系的社交媒體平臺，讓用戶及時獲取好友動態(tài)，隨時隨地發(fā)現(xiàn)新鮮事。如何不錯過重要的信息？讓用戶每 5 分鐘去刷新自己的關(guān)注列表顯然并不現(xiàn)實，更高效的方式是通過系統(tǒng)推送進(jìn)行消息提醒，但推送是一個強(qiáng)打擾的行為，如何做一個既不過分打擾用戶，又能讓用戶開心吃瓜的 Push 推薦系統(tǒng)，就是一件很有意思的事情了?！?/p>

齊彥杰，微博研發(fā)中心技術(shù)專家

在 5 月 25 日 - 5 月 27 日杭州舉辦的 CTA 大會（官網(wǎng)：https://dwz.cn/iSZ7BQUR）上，齊彥杰將作為機(jī)器學(xué)習(xí)論壇的演講嘉賓，向大家介紹微博 Push 系統(tǒng)的發(fā)展歷程，如何利用機(jī)器學(xué)習(xí)進(jìn)行熱點(diǎn)挖掘、博文標(biāo)注，以及個性化推薦系統(tǒng)的模型升級之路。

機(jī)器學(xué)習(xí)在微博的落地

實際上，微博一步步進(jìn)化的背后離不開平臺技術(shù)研發(fā)團(tuán)隊在新技術(shù)能力上的持續(xù)提升。在齊彥杰看來，“微博非常重視新技術(shù)的跟進(jìn)與落地，內(nèi)部團(tuán)隊做了大量工作?，F(xiàn)在也非常注重對外的交流，每年會參與一些比較重要的會議?！?/p>

AI 科技大本營：在過去幾年，內(nèi)容推薦和用戶增長領(lǐng)域呈現(xiàn)出了哪些比較突出的技術(shù)或應(yīng)用？與過去傳統(tǒng)手段有哪些區(qū)別和聯(lián)系？

齊彥杰：過去幾年，技術(shù)的發(fā)展可以說是一日千里，快得令人震驚。如果大家平常關(guān)注會議或比賽，會發(fā)現(xiàn)每年好的論文或解決方案，進(jìn)步非常大。而工業(yè)界也非常努力，不斷提升產(chǎn)品效果，讓用戶體驗越來越好。

列舉這些就是想說明，如果論年計，突出的技術(shù)也會變得不突出，因為發(fā)展太快了。僅僅在模型排序方面，比如幾年前 LR + 超大規(guī)模特征還是排序標(biāo)配，后來演變?yōu)榱?FM+，直到現(xiàn)在則是 Deep+，不得不說技術(shù)一直在前進(jìn)。但不變的是，更加有效地利用數(shù)據(jù)，通過計算量的提升，提高模型的準(zhǔn)確率，服務(wù)好用戶的個性化需求。

AI 科技大本營：您認(rèn)為基于微博當(dāng)前的技術(shù)能力，在完成精準(zhǔn)、快速個性化推送的過程中，面臨著哪些挑戰(zhàn)？為什么機(jī)器學(xué)習(xí)方法能夠適用于當(dāng)前的問題解決？

齊彥杰：微博的數(shù)據(jù)是巨量的，用戶行為也是極為豐富的，更別說博文中蘊(yùn)含的形式、內(nèi)容、情緒等復(fù)雜的信息，這是微博的優(yōu)勢，也是微博機(jī)器學(xué)習(xí)的挑戰(zhàn)。如何去理解用戶、理解內(nèi)容，連接用戶與用戶、用戶與內(nèi)容？這些問題都需要 NLP、計算機(jī)視覺、圖計算、排序模型等技術(shù)解決。也只有基于機(jī)器學(xué)習(xí)，通過超大規(guī)模數(shù)據(jù)的學(xué)習(xí)與抽象，才可以做到精準(zhǔn)的個性化內(nèi)容分發(fā)。

AI 科技大本營：您在之前的分享中，也提到 “博文質(zhì)量、算法模型與分發(fā)效率共同決定了 Push 效果”，那么在您看來，微博用戶類型繁多，關(guān)注的興趣點(diǎn)更為廣泛，在實踐過程中，是如何根據(jù)用戶畫像進(jìn)行更加精準(zhǔn)的內(nèi)容推薦？

齊彥杰：首先，博文的內(nèi)容要豐富，滿足個性化的需求一定要保障候選博文的范圍足夠廣泛；然后，按需儲備，根據(jù)用戶畫像能夠知道用戶對哪些內(nèi)容有更大的需求，根據(jù)需求挖掘內(nèi)容更能保障易消費(fèi)物料的準(zhǔn)確性與充足性；再通過豐富的召回方法和高效的排序模型進(jìn)行推薦分發(fā)。

常用的推薦算法包括協(xié)同、向量、模型等。

AI 科技大本營：實際上微博文本短小、信息量少（有時還會涉黃、不健康、不適宜內(nèi)容等信息），很難做到對文本內(nèi)容進(jìn)行細(xì)粒度表征。對此，在本文理解方面，團(tuán)隊有沒有比較好的解決辦法？

齊彥杰：這確實是一個很好的問題。前面我提到，用戶理解和內(nèi)容理解是痛點(diǎn)和難點(diǎn)，但也是機(jī)器學(xué)習(xí)在高速進(jìn)步的領(lǐng)域，當(dāng)前 NLP、計算機(jī)視覺方面的進(jìn)步給了我們很好的支持，包括去年 BERT 模型的出現(xiàn)，Embedding 的實踐，以及人臉識別、物體識別等，對于內(nèi)容的表征都有很好的表現(xiàn)。

AI 科技大本營：不少人曾提到多模態(tài)融合的概念，對此您是如何看待的？在微博的相關(guān)業(yè)務(wù)中已經(jīng)有實際的應(yīng)用及成效了嗎？

齊彥杰：這個問題和上一個問題可以聯(lián)系起來看。因為現(xiàn)在隨著個人硬件的提升，內(nèi)容創(chuàng)作的形式也是在不斷豐富，從最初的文本，到后來圖片的增多，再到視頻內(nèi)容的涌現(xiàn)，甚至直播的加入，用戶有太多的形式去表現(xiàn)自己的思想或情緒。單純的文本維度已經(jīng)不能完整的表征內(nèi)容，所以多模態(tài)融合對于推薦系統(tǒng)的提高有很大的幫助。據(jù)我所知，有很多同事在做相關(guān)的內(nèi)容，也有比較好的效果。

關(guān)于齊彥杰本人

據(jù)了解，齊彥杰最早服務(wù)于行業(yè)軟件，2010 年進(jìn)入互聯(lián)網(wǎng)行業(yè)，一直從事爬蟲、索引、檢索、數(shù)據(jù)分析等方向的研發(fā)工作。后來用戶獲取信息的習(xí)慣逐漸從主動搜索轉(zhuǎn)向被動接受，推薦系統(tǒng)進(jìn)入高速發(fā)展時期，機(jī)器學(xué)習(xí)也開始了對整個社會進(jìn)行改造?！皺C(jī)器學(xué)習(xí)最需要就是數(shù)據(jù)，不管是在數(shù)量上，還是在維度上，微博均擁有著巨量的公開語料及行為數(shù)據(jù)。我認(rèn)為這是機(jī)器學(xué)習(xí)應(yīng)用最好的土壤?！?后來，也就是 2016 年，齊彥杰加入新浪微博團(tuán)隊，目前在微博 UG 算法組主要負(fù)責(zé) Push 相關(guān)方向的業(yè)務(wù)。

據(jù)他的觀察，最近幾年微博 Push 得到比較大的改造，完成了從編輯推薦向算法推薦、各業(yè)務(wù)獨(dú)立到統(tǒng)一 Push 平臺的升級，使用戶在體驗上有了很好的提升。

作為本次杭州 CTA 大會機(jī)器學(xué)習(xí)論壇的演講嘉賓，齊彥杰表示：“技術(shù)的前進(jìn)離不開先行者的經(jīng)驗，更離不開思想的撞擊，期待 CTA2019 的技術(shù)盛宴?！?/p>