最大似然檢測算法認識與理解 - 全文

　　最大似然檢測

　　最大似然檢測（Maximum Likelihood，ML）檢測，也被稱作最大似然序列估計（MLSE），從嚴格意義上講它不是均衡方案而是接收機方式，其中接收端的檢測處理顯式地考慮了無線信道時間彌散的影響。從根本上講，ML檢測器考慮了時間彌散對接收信號的影響，用整個接收信號來確定最有可能被發(fā)送的序列。為了實現(xiàn)最大似然檢測，通常使用Viterbi算法。然而，盡管基于Viterbi算法的最大似然檢測被廣泛應用于諸如GSM的2G通信，該算法還是因為太過復雜而無法應用在LTE上，這是因為更寬的傳輸帶寬將導致更廣泛的信道頻率選擇性和更高的采樣速率。

　　總的來說，信號信息經過信道估計和均衡后，通過資源逆映射映射到不同的物理信道上進行處理

　　一、最大似然

　　假設我們需要調查我們學校的男生和女生的身高分布。你怎么做??？你說那么多人不可能一個一個去問吧，肯定是抽樣了。假設你在校園里隨便地活捉了100個男生和100個女生。他們共200個人（也就是200個身高的樣本數(shù)據(jù)，為了方便表示，下面，我說“人”的意思就是對應的身高）都在教室里面了。那下一步怎么辦??？你開始喊：“男的左邊，女的右邊，其他的站中間！”。然后你就先統(tǒng)計抽樣得到的100個男生的身高。假設他們的身高是服從高斯分布的。但是這個分布的均值u和方差?2我們不知道，這兩個參數(shù)就是我們要估計的。記作θ=［u， ?］T。

　　用數(shù)學的語言來說就是：在學校那么多男生（身高）中，我們獨立地按照概率密度p（x|θ）抽取100了個（身高），組成樣本集X，我們想通過樣本集X來估計出未知參數(shù)θ。這里概率密度p（x|θ）我們知道了是高斯分布N（u，?）的形式，其中的未知參數(shù)是θ=［u， ?］T。抽到的樣本集是X={x1，x2，…，xN}，其中xi表示抽到的第i個人的身高，這里N就是100，表示抽到的樣本個數(shù)。

　　由于每個樣本都是獨立地從p（x|θ）中抽取的，換句話說這100個男生中的任何一個，都是我隨便捉的，從我的角度來看這些男生之間是沒有關系的。那么，我從學校那么多男生中為什么就恰好抽到了這100個人呢？抽到這100個人的概率是多少呢？因為這些男生（的身高）是服從同一個高斯分布p（x|θ）的。那么我抽到男生A（的身高）的概率是p（xA|θ），抽到男生B的概率是p（xB|θ），那因為他們是獨立的，所以很明顯，我同時抽到男生A和男生B的概率是p（xA|θ）* p（xB|θ），同理，我同時抽到這100個男生的概率就是他們各自概率的乘積了。用數(shù)學家的口吻說就是從分布是p（x|θ）的總體樣本中抽取到這100個樣本的概率，也就是樣本集X中各個樣本的聯(lián)合概率，用下式表示：

　　這個概率反映了，在概率密度函數(shù)的參數(shù)是θ時，得到X這組樣本的概率。因為這里X是已知的，也就是說我抽取到的這100個人的身高可以測出來，也就是已知的了。而θ是未知了，則上面這個公式只有θ是未知數(shù)，所以它是θ的函數(shù)。這個函數(shù)放映的是在不同的參數(shù)θ取值下，取得當前這個樣本集的可能性，因此稱為參數(shù)θ相對于樣本集X的似然函數(shù)（likehood function）。記為L（θ）。

　　這里出現(xiàn)了一個概念，似然函數(shù)。還記得我們的目標嗎？我們需要在已經抽到這一組樣本X的條件下，估計參數(shù)θ的值。怎么估計呢？似然函數(shù)有啥用呢？那咱們先來了解下似然的概念。

　　直接舉個例子：

　　某位同學與一位獵人一起外出打獵，一只野兔從前方竄過。只聽一聲槍響，野兔應聲到下，如果要你推測，這一發(fā)命中的子彈是誰打的？你就會想，只發(fā)一槍便打中，由于獵人命中的概率一般大于這位同學命中的概率，看來這一槍是獵人射中的。

　　這個例子所作的推斷就體現(xiàn)了極大似然法的基本思想。

　　再例如：下課了，一群男女同學分別去廁所了。然后，你閑著無聊，想知道課間是男生上廁所的人多還是女生上廁所的人比較多，然后你就跑去蹲在男廁和女廁的門口。蹲了五分鐘，突然一個美女走出來，你狂喜，跑過來告訴我，課間女生上廁所的人比較多，你要不相信你可以進去數(shù)數(shù)。呵呵，我才沒那么蠢跑進去數(shù)呢，到時還不得上頭條。我問你是怎么知道的。你說：“5分鐘了，出來的是女生，女生啊，那么女生出來的概率肯定是最大的了，或者說比男生要大，那么女廁所的人肯定比男廁所的人多”?？吹搅藳]，你已經運用最大似然估計了。你通過觀察到女生先出來，那么什么情況下，女生會先出來呢？肯定是女生出來的概率最大的時候了，那什么時候女生出來的概率最大啊，那肯定是女廁所比男廁所多人的時候了，這個就是你估計到的參數(shù)了。

　　從上面這兩個例子，你得到了什么結論？

　　回到男生身高那個例子。在學校那么男生中，我一抽就抽到這100個男生（表示身高），而不是其他人，那是不是表示在整個學校中，這100個人（的身高）出現(xiàn)的概率最大啊。那么這個概率怎么表示？哦，就是上面那個似然函數(shù)L（θ）。所以，我們就只需要找到一個參數(shù)θ，其對應的似然函數(shù)L（θ）最大，也就是說抽到這100個男生（的身高）概率最大。這個叫做θ的最大似然估計量，記為：

　　有時，可以看到L（θ）是連乘的，所以為了便于分析，還可以定義對數(shù)似然函數(shù)，將其變成連加的：

　　好了，現(xiàn)在我們知道了，要求θ，只需要使θ的似然函數(shù)L（θ）極大化，然后極大值對應的θ就是我們的估計。這里就回到了求最值的問題了。怎么求一個函數(shù)的最值？當然是求導，然后讓導數(shù)為0，那么解這個方程得到的θ就是了（當然，前提是函數(shù)L（θ）連續(xù)可微）。那如果θ是包含多個參數(shù)的向量那怎么處理啊？當然是求L（θ）對所有參數(shù)的偏導數(shù)，也就是梯度了，那么n個未知的參數(shù)，就有n個方程，方程組的解就是似然函數(shù)的極值點了，當然就得到這n個參數(shù)了。

　　最大似然估計你可以把它看作是一個反推。多數(shù)情況下我們是根據(jù)已知條件來推算結果，而最大似然估計是已經知道了結果，然后尋求使該結果出現(xiàn)的可能性最大的條件，以此作為估計值。比如，如果其他條件一定的話，抽煙者發(fā)生肺癌的危險時不抽煙者的5倍，那么如果現(xiàn)在我已經知道有個人是肺癌，我想問你這個人抽煙還是不抽煙。你怎么判斷？你可能對這個人一無所知，你所知道的只有一件事，那就是抽煙更容易發(fā)生肺癌，那么你會猜測這個人不抽煙嗎？我相信你更有可能會說，這個人抽煙。為什么？這就是“最大可能”，我只能說他“最有可能”是抽煙的，“他是抽煙的”這一估計值才是“最有可能”得到“肺癌”這樣的結果。這就是最大似然估計。

　　好了，極大似然估計就講到這，總結一下：

　　極大似然估計，只是一種概率論在統(tǒng)計學的應用，它是參數(shù)估計的方法之一。說的是已知某個隨機樣本滿足某種概率分布，但是其中具體的參數(shù)不清楚，參數(shù)估計就是通過若干次試驗，觀察其結果，利用結果推出參數(shù)的大概值。最大似然估計是建立在這樣的思想上：已知某個參數(shù)能使這個樣本出現(xiàn)的概率最大，我們當然不會再去選擇其他小概率的樣本，所以干脆就把這個參數(shù)作為估計的真實值。

　　求最大似然函數(shù)估計值的一般步驟：

　?。?）寫出似然函數(shù)；

　　（2）對似然函數(shù)取對數(shù)，并整理；

　?。?）求導數(shù)，令導數(shù)為0，得到似然方程；

　　（4）解似然方程，得到的參數(shù)即為所求；
?

　　最大似然譯碼算法在LTE上的應用

　　假定調制星座圖中的所有信號都是等概的，最大似然譯碼器對所有可能的見，和妥2值，從信號調制星座圖中選擇一對信號（二。，見2）使下面的距離量度最小

　　d2 r1，h1x 1+h2x 2 +d2 r2，?h1x 2?+h2x 1? =|h1?h1x 1?h2x 2|2+|r2，+h1x 2??h2x 1?|2

　　（1）

　　化簡得最大似然譯碼判決準則為：

　　x 1，x 2 =argmin（x 1，x 2）?C（|h1|2+|h2|2?1）（|x1|2+|x 2|2）+d2 x1，x 1 +d2 x2，x 2

　?。?）

　　上式中：C為調制符號對（x 1，x 2）所有可能的集合; x 1和x 2是通過合并接收信號和信道狀態(tài)信息構造產生的兩個判決統(tǒng)計。統(tǒng)計結果可以表示為

　　x1=h1?r1+h1r2?（3）

　　x2=h2?r1?h1r2? （4）

　　將式（3）和式（4）中的r1和r2分別代人式（5）中，統(tǒng)計結果可以表示為

　　x1=（|h1|2+ h2|2 x1+h1?n1+h2n2? （5）

　　x2=（|h1|2+ h2|2 x2?h1n2?+h2?n1 （6）

　　對于給定信道實現(xiàn)h1和h2而言，統(tǒng)計結果見xi（i=1，2）僅僅是xi（i=1，2）的函數(shù)，因此，可以將最大似然譯碼準則式（4）分為對于x1和x2的2個獨立譯碼算法，即

　　x 1=argminx2∈S（|h1|2+|h2|2?1）×|x 1|2+d2 x1，x 1 （7）

　　和

　　x 2=argminx2∈S（|h1|2+|h2|2?1）×|x 2|2+d2 x2，x 2 （8）

　　對于M-PSK信號星座圖而言，在給定信號衰落系數(shù)的前提下，（|h1|2+|h2|2?1）×|x i|2（i=1，2）對于所有信號都是恒定的，因此可以將式（7）和式 （8）的判決準則進一步簡化為

　　x 1=argminx2∈S（x1，x 1）=argminx2∈S|h1?r1+h2r1??x 1|2

　　x 2=argminx2∈S（x2，x 2）=argminx2∈S|h2?r1?h1r2??x2|2

　　上述最大似然檢測算法可以推廣到多個接收天線的情況。

　　最大似然估計學習總結------MadTurtle

　　1. 作用

　　在已知試驗結果（即是樣本）的情況下，用來估計滿足這些樣本分布的參數(shù)，把可能性最大的那個參數(shù)作為真實的參數(shù)估計。

　　2. 離散型

　　設為離散型隨機變量，為多維參數(shù)向量，如果隨機變量相互獨立且概率計算式為P{，則可得概率函數(shù)為P{}=，在固定時，上式表示的概率；當已知的時候，它又變成的函數(shù)，可以把它記為，稱此函數(shù)為似然函數(shù)。似然函數(shù)值的大小意味著該樣本值出現(xiàn)的可能性的大小，既然已經得到了樣本值，那么它出現(xiàn)的可能性應該是較大的，即似然函數(shù)的值也應該是比較大的，因而最大似然估計就是選擇使達到最大值的那個作為真實的估計。

　　3. 連續(xù)型

　　設為連續(xù)型隨機變量，其概率密度函數(shù)為，為從該總體中抽出的樣本，同樣的如果相互獨立且同分布，于是樣本的聯(lián)合概率密度為。大致過程同離散型一樣。

　　4. 關于概率密度（PDF）

　　我們來考慮個簡單的情況（m=k=1），即是參數(shù)和樣本都為1的情況。假設進行一個實驗，實驗次數(shù)定為10次，每次實驗成功率為0.2，那么不成功的概率為0.8，用y來表示成功的次數(shù)。由于前后的實驗是相互獨立的，所以可以計算得到成功的次數(shù)的概率密度為：

　　= 其中y

　　由于y的取值范圍已定，而且也為已知，所以圖1顯示了y取不同值時的概率分布情況，而圖2顯示了當時的y值概率情況。

　　那么在［0，1］之間變化而形成的概率密度函數(shù)的集合就形成了一個模型。

　　5. 最大似然估計的求法

　　由上面的介紹可以知道，對于圖1這種情況y=2是最有可能發(fā)生的事件。但是在現(xiàn)實中我們還會面臨另外一種情況：我們已經知道了一系列的觀察值和一個感興趣的模型，現(xiàn)在需要找出是哪個PDF（具體來說參數(shù)為多少時）產生出來的這些觀察值。要解決這個問題，就需要用到參數(shù)估計的方法，在最大似然估計法中，我們對調PDF中數(shù)據(jù)向量和參數(shù)向量的角色，于是可以得到似然函數(shù)的定義為：

　　該函數(shù)可以理解為，在給定了樣本值的情況下，關于參數(shù)向量取值情況的函數(shù)。還是以上面的簡單實驗情況為例，若此時給定y為7，那么可以得到關于的似然函數(shù)為：

　　繼續(xù)回顧前面所講，圖1，2是在給定的情況下，樣本向量y取值概率的分布情況；而圖3是圖1，2橫縱坐標軸相交換而成，它所描述的似然函數(shù)圖則指出在給定樣本向量y的情況下，符合該取值樣本分布的各種參數(shù)向量的可能性。若相比于，使得y=7出現(xiàn)的可能性要高，那么理所當然的要比更加接近于真正的估計參數(shù)。所以求的極大似然估計就歸結為求似然函數(shù)的最大值點。那么取何值時似然函數(shù)最大，這就需要用到高等數(shù)學中求導的概念，如果是多維參數(shù)向量那么就是求偏導。

　　主要注意的是多數(shù)情況下，直接對變量進行求導反而會使得計算式子更加的復雜，此時可以借用對數(shù)函數(shù)。由于對數(shù)函數(shù)是單調增函數(shù)，所以與具有相同的最大值點，而在許多情況下，求的最大值點比較簡單。于是，我們將求的最大值點改為求的最大值點。

　　若該似然函數(shù)的導數(shù)存在，那么對關于參數(shù)向量的各個參數(shù)求導數(shù)（當前情況向量維數(shù)為1），并命其等于零，得到方程組：

　　可以求得時似然函數(shù)有極值，為了進一步判斷該點位最大值而不是最小值，可以繼續(xù)求二階導來判斷函數(shù)的凹凸性，如果的二階導為負數(shù)那么即是最大值，這里再不細說。

　　還要指出，若函數(shù)關于的導數(shù)不存在，我們就無法得到似然方程組，這時就必須用其它的方法來求最大似然估計值，例如用有界函數(shù)的增減性去求的最大值點