信息論與編碼技術(shù)

信息是信息論中最基本、最重要的概念，既抽象又復(fù)雜
信息在日常生活中被認(rèn)為是“消息”、“知識(shí)”、“情報(bào)”等
“信息”不同于消息（在現(xiàn)代信息論形成之前，信息一直被看作是通信中消息的同義詞，沒有嚴(yán)格的數(shù)學(xué)含義），消息是表現(xiàn)形式，信息是實(shí)質(zhì)；
“信息”不同于情報(bào)，情報(bào)的含義比“信息”窄的多，一般只限于特殊的領(lǐng)域，是一類特殊的信息；
信息不同于信號(hào)，信號(hào)是承載消息的物理量；
信息不同于知識(shí)，知識(shí)是人們根據(jù)某種目的,從自然界收集得來的數(shù)據(jù)中整理、概括、提取得到的有價(jià)值的信息，是一種高層次的信息。
消息：用文字等能夠被人們感覺器官所感知的形式，把客觀物質(zhì)運(yùn)動(dòng)和主觀思維活動(dòng)的狀態(tài)表達(dá)出來。
知識(shí)：一種具有普遍和概括性質(zhì)的高層次的信息 ，以實(shí)踐為基礎(chǔ)，通過抽象思維，對客觀事物規(guī)律性的概括。
情報(bào)：是人們對于某個(gè)特定對象所見、所聞、所理解而產(chǎn)生的知識(shí) 。
它們之間有著密切聯(lián)系但不等同 ，信息的含義更深刻、廣泛就狹義而言，在通信中對信息的表達(dá)分為三個(gè)層次：信號(hào)、消息、信息。
信號(hào)：是信息的物理表達(dá)層，是三個(gè)層次中最具體的層次。它是一個(gè)物理量，是一個(gè)載荷信息的實(shí)體，可測量、可描述、可顯示。
?消息：(或稱為符號(hào))是信息的數(shù)學(xué)表達(dá)層，它雖不是一個(gè)物理量，但是可以定量地加以描述，它是具體物理信號(hào)的進(jìn)一步數(shù)學(xué)抽象，可將具體物理信號(hào)抽象為兩大類型：
離散(數(shù)字)消息，一組未知量，可用隨機(jī)序列來描述：??????????? X=(X1…Xi…Xn)
連續(xù)(模擬)消息，未知量，它可用隨機(jī)過程來描述：??????????? X( t, ω)
信息：它是更高層次哲學(xué)上的抽象，是信號(hào)與消息的更高表達(dá)層次。
信息、消息和信號(hào)是既有區(qū)別又有聯(lián)系的三個(gè)不同的概念。
消息中包含信息，是信息的載體。
信號(hào)攜帶著消息，它是消息的運(yùn)載工具。
信息可認(rèn)為是由具體的物理信號(hào)、數(shù)學(xué)描述的消息的內(nèi)涵，即信號(hào)具體載荷的內(nèi)容、消息描述的含義。
而信號(hào)則是抽象信息在物理層表達(dá)的外延；????????????????????? 消息則是抽象信息在數(shù)學(xué)層表達(dá)的外延。
同一信息，可以采用不同的信號(hào)形式(比如文字、語言、圖象等)來載荷；同一信息，也可以采用不同的數(shù)學(xué)表達(dá)形式(比如離散或連續(xù))來定量描述。
同一信號(hào)形式，比如“0”與“1”可以表達(dá)不同形式的信息，比如無與有、斷與通、低與高(電平)等等。