通過使用PL/SQL編程改進Web日志挖掘中的會話識別方法

Web挖掘是針對包括Web頁面內(nèi)容，頁面之間的結(jié)構(gòu)，用戶訪問信息等在內(nèi)的各種Web數(shù)據(jù)源。在一定基礎(chǔ)上應(yīng)用數(shù)據(jù)挖掘的方法以發(fā)現(xiàn)有用的隱含的知識的過程。Web挖掘與傳統(tǒng)的數(shù)據(jù)挖掘相比有其自身的特點。Web本身是半結(jié)構(gòu)化或無結(jié)構(gòu)的數(shù)據(jù)，缺乏機器可理解的語義，Web挖掘的對象是大量，異質(zhì)，分布的Web文檔，對Web服務(wù)器上的日志、用戶信息等數(shù)據(jù)所開展的挖掘工作也屬于Web數(shù)據(jù)挖掘的范疇。Web信息的多樣性決定了挖掘任務(wù)的多樣性。按照Web處理對象的不同，一般將Web挖掘分為3類： Web內(nèi)容挖掘，Web結(jié)構(gòu)挖掘和Web使用記錄挖掘（如圖1所示），針對這3種不同的處理對象，能夠挖掘出許多有用的信息。

Web日志挖掘現(xiàn)已成為Web挖掘研究的重點。其主要分為數(shù)據(jù)預(yù)處理、模式發(fā)現(xiàn)、模式分析3個階段[。數(shù)據(jù)預(yù)處理階段是要把從各種數(shù)據(jù)源得到的使用信息、內(nèi)容信息和結(jié)構(gòu)信息轉(zhuǎn)換成模式發(fā)現(xiàn)階段需要的數(shù)據(jù)抽象；模式發(fā)現(xiàn)階段旨在使用各種數(shù)據(jù)挖掘技術(shù)發(fā)掘隱藏在數(shù)據(jù)背后的規(guī)律和模式；模式分析階段旨在根據(jù)具體的實際應(yīng)用，過濾掉在模式發(fā)現(xiàn)階段沒有用的規(guī)則或模式，并把有用的規(guī)則和模式轉(zhuǎn)換為知識。

本文主要研究數(shù)據(jù)預(yù)處理階段的會話識別。在分析現(xiàn)有的會話識別方法基礎(chǔ)上，提出一種基于訪問站點首頁和導(dǎo)航頁的改進會話識別方法，最后通過實驗驗證了改進的會話識別方法比現(xiàn)有方法更有效。

1 數(shù)據(jù)預(yù)處理

數(shù)據(jù)預(yù)處理是Web日志中最基礎(chǔ)、最頻繁的工作，是整個數(shù)據(jù)準(zhǔn)備的核心工作。數(shù)據(jù)預(yù)處理的結(jié)果將直接影響到挖掘算法產(chǎn)生的規(guī)則和模式，因此預(yù)處理過程在整個Web日志挖掘過程中占據(jù)著非常重要的地位，是挖掘質(zhì)量的保證。

數(shù)據(jù)預(yù)處理包括數(shù)據(jù)清理、用戶識別、會話識別、路徑補充和事務(wù)識別5個階段。（1）數(shù)據(jù)清理是指刪除Web日志中與挖掘算法無關(guān)的數(shù)據(jù)；（2）用戶識別是識別出訪問網(wǎng)站的每個用戶；（3）會話識別是在用戶識別之后，把每個用戶在一段時間內(nèi)的訪問序列進行分解，從而得到相應(yīng)的會話。會話是指同一用戶在一次瀏覽過程中連續(xù)請求的頁面序列，它代表了用戶對服務(wù)器的一次有效訪問；（4）路徑補充是對識別出的用戶會話進行優(yōu)化的步驟，以使得其更加準(zhǔn)確地描述用戶的瀏覽請求；（5）事務(wù)識別是將用戶會話進行語義分組，形成適合挖掘需要的事務(wù)。

2 會話識別分析

用戶會話[3]是指用戶從進入站點到離開站點期間所訪問的一系列頁面序列集合?？杀硎緸椋?/p>

其中SessionID是會話標(biāo)識，{（Pid1，t1）…（Pidk，tk）…（Pidn，tn）}是此次用戶會話的頁面訪問序列，Pid是訪問頁面的標(biāo)識，t是訪問該頁面的時間。（Pid1，t1）表示用戶此次會話訪問的第一個頁面和時間，（Pidn，tn）表示用戶此次會話訪問的最后一個頁面和時間。

2.1 常用會話識別方法

目前常用會話識別方法主要有兩大類：一類是基于時間閾值，另一類是基于用戶訪問頁面時的參引頁面。基于時間閾值的會話識別方法又可細分為以下3類：

（1）設(shè)定會話的持續(xù)時間閾值θ。即一個會話總的持續(xù)時間不超過θ。國外學(xué)者Catledge和Pitkow由實驗得出θ設(shè)為25.5 min較好[4]，許多商業(yè)產(chǎn)品都采用30 min作為缺省值。

（2）設(shè)定頁面的訪問時間閾值η[5]。假設(shè)（Pidi，ti）、（Pidi+1，ti+1）為一個用戶訪問序列中的兩條相鄰訪問記錄。只有當(dāng)ti+1-ti≤η時，才認為這兩條記錄屬于同一個會話。當(dāng)ti+1-ti>η時，（Pidi，ti）是上一次會話的最后一條訪問記錄，而（Pidi+1，ti+1）是新會話的第一條訪問記錄。一般η取10 min。

（3）上述方法（2）是對所有頁面設(shè)定同一個頁面訪問時間閾值，并沒有因頁面的不同而不同。參考文獻[6]中，根據(jù)統(tǒng)計的頁面的訪問時間，在正態(tài)分布的假設(shè)下為每個頁面設(shè)定一個訪問時間作為切分會話閾值，并結(jié)合頁面內(nèi)容及站點結(jié)構(gòu)來確定頁面重要程度，對該閾值進行調(diào)整。這是一種個性化的時間閾值設(shè)置方法。

2.2 常用會話識別方法評估

第（1）、（2）兩種方法使用單一時間閾值來識別用戶會話顯然是不合理的。方法（1）不能識別出訪問時間大于30 min的會話，且識別不出兩個連續(xù)較短的會話；方法（2）的不足在于，若一個用戶在訪問站點期間暫時離開電腦，但并沒有退出站點，過10 min后回來繼續(xù)瀏覽該站點，這實際上屬于同一個會話，而方法（2）則會錯誤地認為用戶開始了一個新的會話；方法（3）使用的統(tǒng)計學(xué)方法雖然大大減小了上限閾值，但仍然無法準(zhǔn)確描述對頁面感興趣的用戶閱讀網(wǎng)頁的平均時間，無法區(qū)分超短時間用戶訪問記錄。

基于參引頁面的會話識別方法引入了時間限制？駐，主要是考慮到下面這種情況：訪問頁面的引用頁面為空，用戶可能是通過點擊瀏覽器上的”BACK”按鈕，回溯到之前某個曾經(jīng)瀏覽過的頁面，進而訪問到該頁。這顯然也是不合理的，用戶從p頁面回退到上級頁面后，用戶要在此頁面搜尋到感興趣的p頁面，并點擊鏈接進入該頁面，所需時間一般不止10 s，且用戶可能是回退多次后再點擊鏈接進入p頁面。因此，此處設(shè)置這個時間閾值并不合理。

3 改進的會話識別方法

3.1 會話劃分思考

要準(zhǔn)確地識別出用戶會話，關(guān)鍵在于識別出兩次相鄰會話的分割點。即上一次會話結(jié)束時訪問的頁面及下一次會話開始時訪問的頁面。而找出新會話開始時訪問的頁面，也就意味著上一會話的結(jié)束。因此，研究重點放在尋找標(biāo)記新會話開始的訪問頁面。

用戶開始訪問某一站點，一般是通過在瀏覽器的地址欄中輸入站點的URL或是通過點擊收藏欄中的收藏，通過站點的首頁進入此站點的，此時用戶也就開始了自己的一次會話。在Web服務(wù)器日志中，可以查看用戶訪問的URL是否是首頁來判斷用戶的這種行為。當(dāng)用戶瀏覽完畢退出該站點，此時會話結(jié)束，而在Web服務(wù)器端日志中，無法判斷這種用戶行為。但當(dāng)該用戶下一次通過首頁來訪問站點時，在Web日志中發(fā)現(xiàn)用戶又鍵入了首頁URL，則很顯然上一次會話在本條記錄之前結(jié)束，本條記錄標(biāo)志用戶開始了一個新的會話。

3.2 改進的會話識別方法

上述思想以訪問站點的首頁作為新會話開始的標(biāo)記，基于這一前提用戶開始訪問站點時總是由站點首頁進入站點。但真實的訪問情況并不是所有的用戶每次開始訪問站點時都由首頁進入。一般的站點分若干版塊，而每一版塊都有自己的導(dǎo)航頁。如一門戶網(wǎng)站有新聞、體育、娛樂各版塊，有的用戶只對體育感興趣，那么他可能就會將體育版塊的導(dǎo)航頁做為收藏，每次訪問站點時，點擊收藏，直接進入體育導(dǎo)航頁開始訪問，而非先通過站點首頁，再進入體育版塊導(dǎo)航頁。因此，識別用戶會話，不能只以站點首頁作為開始標(biāo)記，還應(yīng)考慮各導(dǎo)航頁，因為很多用戶是直接通過導(dǎo)航頁訪問自己感興趣的頁面而非站點首頁。

改進的會話識別方法如圖1所示，以站點首頁或?qū)Ш巾撟鳛樾聲掗_始的標(biāo)識。

改進的會話識別方法具體描述如下：

（1）首先用戶訪問序列中的第一條訪問記錄是第一個會話的開始序列，置入第一個會話中；

（2）讀取用戶訪問序列中的下一條訪問記錄，直至序列中所有記錄都處理完畢；

（3）判斷本次訪問的頁面是否是站點的首頁，若是首頁，則當(dāng)前會話結(jié)束，新會話開始，將該次訪問置入新會話的訪問序列中，然后轉(zhuǎn)步驟（2）處理下一條訪問記錄。否則，轉(zhuǎn)步驟（4）；

（4）判斷本次訪問的頁面是否是站點的導(dǎo)航頁之一，若不是（即該頁面為內(nèi)容頁），則將本次訪問置入當(dāng)前會話的訪問序列中，然后轉(zhuǎn)步驟（2）繼續(xù)處理下一條訪問記錄。否則（即該頁面是導(dǎo)航頁之一），轉(zhuǎn)步驟（5）判斷它的上一條訪問記錄；

（5）判斷上一條訪問記錄，若上一條訪問記錄訪問的頁面是首頁，則本次訪問記錄和上次訪問記錄同屬一個會話；若上一條訪問記錄訪問的頁面不是首頁，則本次訪問就標(biāo)識了新會話的開始，將其置入新會話的訪問序列中。轉(zhuǎn)步驟（2），處理下一條訪問記錄。

4 實驗與結(jié)果分析

4.1 實驗過程

4.1.1 數(shù)據(jù)準(zhǔn)備

選用了安研星空站點http://www.ahusky.cn/從2009年2月17日至2009年3月5日的Web服務(wù)器日志，共計1 251 331條記錄，作為實驗數(shù)據(jù)，如圖2所示。

4.1.2 會話識別

將這些Web訪問日志通過SQL Loader載入Oracle數(shù)據(jù)庫中，經(jīng)過數(shù)據(jù)清理，共有有效訪問記錄35 273條，存放在表log中，如圖3所示。

此處，以Web訪問日志中的IP地址作為用戶標(biāo)識，利用Oracle PL/SQL編程實現(xiàn)上述改進的會話識別算法。為了與其他的會話識別方法進行比較，分別用2.1節(jié)中的方法（1）和方法（2）對同樣的Web日志進行會話識別，其中方法（1）取時間閾值30 min，方法（2）取時間閾值10 min。實驗結(jié)果如表1所示。

4.2 實驗分析

通過實驗發(fā)現(xiàn)，改進的會話識別方法識別出的會話數(shù)（11 325條）要遠多于方法（1）（5 073條）和方法（2）（5 226條）。另外，為了比較這三種會話識別方法識別會話的準(zhǔn)確率，將三種方法中識別出的關(guān)于用戶220.178.4.195的會話分別與原始的Web日志記錄比較，發(fā)現(xiàn)改進的會話識別方法識別會話的準(zhǔn)確率（82.19%）也要高于方法（1）（62.47%）和方法（2）（64.85%）。由此可見，改進的會話識別方法能夠識別出更多的會話，且識別會話的準(zhǔn)確率也更高。

數(shù)據(jù)預(yù)處理階段的會話識別為模式分析階段提供了挖掘數(shù)據(jù)，即每一個有效的用戶會話，因此它直接影響到模式分析階段能否發(fā)現(xiàn)有效的模式。本文提出的基于站點首頁和導(dǎo)航頁的改進會話識別方法能識別出更多的會話，識別會話的準(zhǔn)確率更高。

5 結(jié)束語

進一步的工作我們可以將Web訪問日志的挖掘和其他的Web內(nèi)容和Web鏈接結(jié)構(gòu)挖掘結(jié)合起來用于Web頁面的等級劃分、Web文檔的分類和多層次Web信息庫的構(gòu)造等方面，總之對Web數(shù)據(jù)進行進一步的數(shù)據(jù)挖掘是非常有意義的。當(dāng)然，數(shù)據(jù)挖掘所帶來的好處，是與用戶的需求及數(shù)據(jù)挖掘技術(shù)本身的發(fā)展相關(guān)的。從而提供更好的服務(wù)。