Markov的各種預(yù)測模型的原理與優(yōu)缺點介紹

建立有效的用戶瀏覽預(yù)測模型，對用戶的瀏覽做出準(zhǔn)確的預(yù)測，是導(dǎo)航工具實現(xiàn)對用戶瀏覽提供有效幫助的關(guān)鍵。

在瀏覽預(yù)測模型方面，很多學(xué)者都進行了卓有成效的研究。AZER提出了基于概率模型的預(yù)取方法，根據(jù)網(wǎng)頁被連續(xù)訪問的概率來預(yù)測用戶的訪問請求。SARUKKAI運用馬爾可夫鏈進行訪問路徑分析和鏈接預(yù)測，在此模型中，將用戶訪問的網(wǎng)頁集作為狀態(tài)集，根據(jù)用戶訪問記錄，計算出網(wǎng)頁間的轉(zhuǎn)移概率，作為預(yù)測依據(jù)。SCHECHTER構(gòu)造用戶訪問路徑樹，采用最長匹配方法，尋找與當(dāng)前用戶訪問路徑匹配的歷史路徑，預(yù)測用戶的訪問請求。XU Cheng Zhong等引入神經(jīng)網(wǎng)絡(luò)實現(xiàn)基于語義的網(wǎng)頁預(yù)取。徐寶文等利用客戶端瀏覽器緩沖區(qū)數(shù)據(jù)，挖掘其中蘊含的興趣關(guān)聯(lián)規(guī)則，預(yù)測用戶可能選擇的鏈接。朱培棟等人按語義對用戶會話進行分類，根據(jù)會話所屬類別的共同特征，預(yù)測用戶可能訪問的文檔。

在眾多的瀏覽模型中，Markov模型是一種簡單而有效的模型。Markov模型最早是ZUKERMAN等人于1999年提出的一種用途十分廣泛的統(tǒng)計模型，它將用戶的瀏覽過程抽象為一個特殊的隨機過程——齊次離散Markov模型，用轉(zhuǎn)移概率矩陣描述用戶的瀏覽特征，并基于此對用戶的瀏覽進行預(yù)測。之后，BOERGES等采用了多階轉(zhuǎn)移矩陣，進一步提高了模型的預(yù)測準(zhǔn)確率。在此基礎(chǔ)上，SARUKKAI建立了一個實驗系統(tǒng)[9],實驗表明，Markov預(yù)測模型很適合作為一個預(yù)測模型來預(yù)測用戶在Web站點上的訪問模式。

1 Markov模型

1.1 Markov模型

Markov預(yù)測模型對用戶在Web上的瀏覽過程作了如下的假設(shè)。

假設(shè)1（用戶瀏覽過程假設(shè)）：假設(shè)所有用戶在Web上的瀏覽過程是一個特殊的隨機過程——齊次的離散Markov模型。即設(shè)離散隨機變量的值域為Web空間中的所有網(wǎng)頁構(gòu)成的集合，則一個用戶在Web中的瀏覽過程就構(gòu)成一個隨機變量的取值序列，并且該序列滿足Markov性。

一個離散的Markov預(yù)測模型可以被描述成三元組，S代表狀態(tài)空間；A是轉(zhuǎn)換矩陣，表示從一個狀態(tài)轉(zhuǎn)換到另一個狀態(tài)的概率；B是S中狀態(tài)的初始概率分布。其中S是一個離散隨機變量，值域為{x1，x2,…xn}，其中每個xi對應(yīng)一個網(wǎng)頁，稱為模型的一個狀態(tài)。

Markov預(yù)測模型是一個典型的無后效性隨機過程，也就是說模型在時刻t的狀態(tài)只與它的前一個時刻t-1的狀態(tài)條件相關(guān)，與以前的狀態(tài)獨立。即：

王實等提出一種新的基于隱馬爾可夫模型的興趣遷移模式發(fā)現(xiàn)方法，并利用用戶遷移模式間的關(guān)聯(lián)規(guī)則來發(fā)現(xiàn)興趣遷移模式。而借助隱馬爾可夫模型， 挖掘蘊涵在用戶訪問路徑中的信息需求概念， 以此進行預(yù)取頁面的評價， 也可以實現(xiàn)基于語義的網(wǎng)頁預(yù)取。

隱Markov模型盡管考慮了用戶興趣，但和簡單的Markov模型一樣，存在一定的不足：用戶訪問序列串長是動態(tài)時變的，采用固定階數(shù)的傳統(tǒng)Markov鏈模型并不能準(zhǔn)確地對用戶的訪問行為建模。

2.2 多Markov模型

雖然用戶在Web空間的瀏覽過程是一個受瀏覽目的、文化背景、興趣愛好等多種因素影響的復(fù)雜過程，有很多差異，然而觀察大量用戶的瀏覽過程可以發(fā)現(xiàn)，某些用戶的瀏覽過程表現(xiàn)出相同或相近的特點，如他們?yōu)g覽的網(wǎng)頁基本相同，瀏覽各個網(wǎng)頁的順序相似等，這一現(xiàn)象引發(fā)了對Web用戶分類的研究。通過對用戶分類，同一類別的用戶用同一個模型來描述它，而不同類別的用戶其瀏覽過程差別較大，用不同的模型來描述他們的特征則更為合理。

假設(shè)2（用戶分類假設(shè)）：假設(shè)根據(jù)用戶在Web空間的瀏覽特點，可以將所有用戶分為K類。如果用C={c1, c2,…，ck}表示用戶的類別，則任意一個用戶屬于類別ck的概率為P（C=ck），而且有：

上述模型稱為二步Markov模型，它的核心任務(wù)是建立一個與一階Markov模型的轉(zhuǎn)移概率矩陣同規(guī)模的轉(zhuǎn)移概率矩陣。矩陣的行元素代表用戶瀏覽的上一個網(wǎng)頁，列元素代表用戶下一步可能瀏覽的網(wǎng)頁。通過該矩陣可以根據(jù)用戶上一步瀏覽的網(wǎng)頁來預(yù)測下一步要瀏覽的網(wǎng)頁。

在多Markov模型方面，劉業(yè)政等提出可變多階Markov鏈模型VMOMC。VMOMC將用推薦目標(biāo)網(wǎng)頁概率值度量的可變多階Markov鏈并行組合，組合模型中采用遺傳算法確定各單階Markov鏈模型的最優(yōu)權(quán)重。陳佳提出了基于混合模型的一種挖掘用戶群在頁面上興趣分布程度的模式發(fā)現(xiàn)，計算用戶群從一個頁面到另外一個頁面的導(dǎo)航路徑模式的概率大小，可得到大量的用戶對所訪問Web的興趣及導(dǎo)航模式，從而預(yù)測用戶的瀏覽路徑。

2.4 結(jié)構(gòu)相關(guān)性模型

有研究表明，用戶在進行Web瀏覽的絕大部分時間里都是從當(dāng)前頁面中挑選一個鏈接繼續(xù)瀏覽；在用戶將來訪問的網(wǎng)頁中，46％能在最近3個網(wǎng)頁的鏈接中找到，75％能在所有歷史網(wǎng)頁的鏈接中找到 。因此，可以認(rèn)為用戶將來的可能請求大部分存在于由當(dāng)前頁面上所有鏈接組成的集合中?；诮Y(jié)構(gòu)相關(guān)性的一階Markov模型包括以下三部分：

通過遍歷用戶訪問序列的節(jié)點，可以得到用戶的狀態(tài)空間和轉(zhuǎn)移情況，并最終建立上述模型。

結(jié)合頁面內(nèi)容及站點結(jié)構(gòu)來調(diào)整狀態(tài)轉(zhuǎn)移矩陣，以獲得更精確的預(yù)取結(jié)果，提高Web 服務(wù)的質(zhì)量。而利用頻繁訪問模式樹存儲Markov鏈，能夠大幅減小存儲空間。

3 進一步研究的問題

盡管現(xiàn)有的Markov 瀏覽預(yù)測模型在預(yù)測準(zhǔn)確率、覆蓋率方面已取得較滿意的成果，但瀏覽預(yù)測問題的實際應(yīng)用背景中的一些特殊要求使得這一領(lǐng)域仍存在一些需要進一步研究的問題。這些問題包括：

（1）Markov轉(zhuǎn)移概率矩陣的處理。該模型的存儲空間主要用于保存狀態(tài)轉(zhuǎn)移概率矩陣，所以其存儲空間的復(fù)雜度是網(wǎng)頁數(shù)目n的平方，即為0（n）。由于n的值一般都比較大，存儲復(fù)雜率較高。同時為了提高Web預(yù)取的命中率，常常聯(lián)合多個Markov鏈模型，即用到了多階狀態(tài)轉(zhuǎn)移矩陣，使得存儲復(fù)雜率成倍提高。因此如何存儲及處理Markov模型的概率矩陣、降低復(fù)雜度是急需解決的問題。此外，在很多情況下狀態(tài)轉(zhuǎn)移矩陣是稀疏矩陣，采用什么樣的數(shù)據(jù)結(jié)構(gòu)來存儲這樣的矩陣也是需要研究的課題。

（2）混合Markov模型的求解問題。混合Markov模型在預(yù)測用戶的瀏覽行為方面越來越受到學(xué)者的重視。有效的模型求解方法，能大大提高模型的效率。雖有學(xué)者進行了有益的探索，但這方面的工作仍需要更多學(xué)者的參與。

（3）在實際瀏覽預(yù)測問題中，Markov的隨機統(tǒng)計方法與其他方法，如神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)、聚類、關(guān)聯(lián)規(guī)則、遺傳算法等相結(jié)合能獲得較高的預(yù)測準(zhǔn)確率。

（4）用戶在Web空間的瀏覽過程是一個受瀏覽目的、

文化背景、興趣愛好等多種因素影響的復(fù)雜動態(tài)過程，如能有效地度量用戶的瀏覽興趣，并及時發(fā)現(xiàn)用戶的興趣遷移，對于提高預(yù)測準(zhǔn)確率非常重要。此外，隨著無線網(wǎng)絡(luò)的普及，怎樣預(yù)測無線網(wǎng)絡(luò)環(huán)境下用戶的瀏覽行為，是研究人員面臨的又一個課題。

全文概述了基于Markov的各種預(yù)測模型，分析了各個模型的原理及優(yōu)缺點，指出了今后的研究方向。