專家系統(tǒng)研究現(xiàn)狀與展望
摘要:回顧了專家系統(tǒng)發(fā)展的歷史和現(xiàn)狀,對(duì)目前比較成熟的專家系統(tǒng)模型進(jìn)行分析,指出各自的特點(diǎn)和局限性。最后對(duì)專家系統(tǒng)的熱點(diǎn)進(jìn)行展望和對(duì)新型專家系統(tǒng)的介紹。
關(guān)鍵詞:專家系統(tǒng);知識(shí)獲?。粩?shù)據(jù)挖掘;多Agent系統(tǒng);人工神經(jīng)網(wǎng)絡(luò)
0? 引言
近三十年來(lái)人工智能(Artificial Intelligence,AI)獲得了迅速的發(fā)展,在很多學(xué)科領(lǐng)域都獲得了廣泛應(yīng)用,并取得了豐碩的成果。作為人工智能一個(gè)重要分支的專家系統(tǒng)(Expert System,ES)[1]是在20世紀(jì)60年代初期產(chǎn)生和發(fā)展起來(lái)的一門(mén)新興的應(yīng)用科學(xué),而且正隨著計(jì)算機(jī)技術(shù)的不斷發(fā)展而日臻完善和成熟。1982年美國(guó)斯坦福大學(xué)教授費(fèi)根鮑姆給出了專家系統(tǒng)的定義:“專家系統(tǒng)是一種智能的計(jì)算機(jī)程序,這種程序使用知識(shí)與推理過(guò)程,求解那些需要杰出人物的專門(mén)知識(shí)才能求解的復(fù)雜問(wèn)題。”
一般認(rèn)為,專家系統(tǒng)就是應(yīng)用于某一專門(mén)領(lǐng)域,由知識(shí)工程師通過(guò)知識(shí)獲取手段,將領(lǐng)域?qū)<医鉀Q特定領(lǐng)域的知識(shí),采用某種知識(shí)表示方法編輯或自動(dòng)生成某種特定表示形式,存放在知識(shí)庫(kù)中,然后用戶通過(guò)人機(jī)接口輸入信息、數(shù)據(jù)或命令,運(yùn)用推理機(jī)構(gòu)控制知識(shí)庫(kù)及整個(gè)系統(tǒng),能像專家一樣解決困難的和復(fù)雜的實(shí)際問(wèn)題的計(jì)算機(jī)(軟件)系統(tǒng)。
專家系統(tǒng)有三個(gè)特點(diǎn),即:?jiǎn)l(fā)性,能運(yùn)用專家的知識(shí)和經(jīng)驗(yàn)進(jìn)行推理和判斷;透明性,能解決本身的推理過(guò)程,能回答用戶提出的問(wèn)題;靈活性,能不斷地增長(zhǎng)知識(shí),修改原有的知識(shí)。
1 專家系統(tǒng)的產(chǎn)生與發(fā)展
專家系統(tǒng)按其發(fā)展過(guò)程大致可分為三個(gè)階段[2~4]:初創(chuàng)期(1971年前),成熟期(1972—1977年),發(fā)展期(1978年至今)。
1.1 初創(chuàng)期
人工智能早期工作都是學(xué)術(shù)性的,其程序都是用來(lái)開(kāi)發(fā)游戲的。盡管這些努力產(chǎn)生了如國(guó)際象棋、跳棋等有趣的游戲[5],但其真實(shí)目的在于計(jì)算機(jī)編碼加入人的推理能力,以達(dá)到更好的理解。在這階段的另一個(gè)重要領(lǐng)域是計(jì)算邏輯。1957年誕生了第一個(gè)自動(dòng)定理證明程序,稱為邏輯理論家。20世紀(jì)60年代初,人工智能研究者便集中精力開(kāi)發(fā)通用的方法和技術(shù),通過(guò)研究一般的方法來(lái)改變知識(shí)的表示和搜索,并且使用它們來(lái)建立專用程序。到了60年代中期,知識(shí)在智能行為中的地位受到了研究者的重視,這就為以專門(mén)知識(shí)為核心求解具體問(wèn)題的基于知識(shí)的專家系統(tǒng)的產(chǎn)生奠定了思想基礎(chǔ)。
?1965年在美國(guó)國(guó)家航空航天局要求下,斯坦福大學(xué)研制成功了DENRAL系統(tǒng)[6],DENRAL的初創(chuàng)工作引導(dǎo)人工智能研究者意識(shí)到智能行為不僅依賴于推理方法,更依賴于其推理所用的知識(shí)。該系統(tǒng)具有非常豐富的化學(xué)知識(shí),是根據(jù)質(zhì)譜數(shù)據(jù)幫助化學(xué)家推斷分子結(jié)構(gòu),被廣泛地應(yīng)用于世界各地的大學(xué)及工業(yè)界的化學(xué)實(shí)驗(yàn)室。這個(gè)系統(tǒng)的完成標(biāo)志著專家系統(tǒng)的誕生。在此之后,麻省理工學(xué)院開(kāi)始研制MACSYMA系統(tǒng)[2],它作為數(shù)學(xué)家的助手使用啟發(fā)式方法變換代數(shù)表達(dá)式,現(xiàn)經(jīng)過(guò)不斷擴(kuò)充,能求解600多種數(shù)學(xué)問(wèn)題,其中包括微積分、矩陣運(yùn)算、解方程和解方程組等。同期,還有美國(guó)卡內(nèi)基-梅隆大學(xué)開(kāi)發(fā)的用于語(yǔ)音識(shí)別的專家系統(tǒng)HEARSAY[7],該系統(tǒng)表明計(jì)算機(jī)在理論上可按編制的程序同用戶進(jìn)行交談。20世紀(jì)70年代初,匹茲堡大學(xué)的鮑波爾和內(nèi)科醫(yī)生合作研制了第一個(gè)用于醫(yī)療的內(nèi)科病診斷咨詢系統(tǒng)INTERNIST[8]。這些系統(tǒng)的研制成功使得專家系統(tǒng)受到學(xué)術(shù)界及工程領(lǐng)域的廣泛關(guān)注。
1.2 成熟期
到20世紀(jì)70年代中期,專家系統(tǒng)已逐步成熟起來(lái),其觀點(diǎn)逐漸被人們接受,并先后出現(xiàn)了一批卓有成效的專家系統(tǒng)。其中,最為代表的是肖特立夫等人的MYCIN系統(tǒng)[9],該系統(tǒng)用于診斷和治療血液感染和腦炎感染,可給出處方建議(提供抗菌劑治療建議),不但具有很高的性能,而且具有解釋功能和知識(shí)獲取功能。MYCIN系統(tǒng)是專家系統(tǒng)的經(jīng)典之作,它的知識(shí)表示系統(tǒng)用帶有置信度的“IF—THEN”規(guī)則來(lái)表示,并使用不確定性推理方法進(jìn)行推理。MYCIN由LISP語(yǔ)言寫(xiě)成,所有的規(guī)則都表達(dá)成LISP表達(dá)式。它是一個(gè)面向目標(biāo)求解的系統(tǒng),使用反向推理方法,并利用了很多的啟發(fā)式信息。
另一個(gè)非常成功的專家系統(tǒng)是PROSPCTOR系統(tǒng)[10],它用于輔助地質(zhì)學(xué)家探測(cè)礦藏,是第一個(gè)取得明顯經(jīng)濟(jì)效益的專家系統(tǒng)。PROSPCTOR的性能據(jù)稱完全可以同地質(zhì)學(xué)家相比擬。它在知識(shí)的組織上,運(yùn)用了規(guī)則與語(yǔ)義網(wǎng)相結(jié)合的混合表示方式,在數(shù)據(jù)不確定和不完全的情況下,推理過(guò)程運(yùn)用了一種似然推理技術(shù)。除這些成功實(shí)例以外,在這一時(shí)期另外兩個(gè)影響較大的專家系統(tǒng)是斯坦福大學(xué)研制的AM系統(tǒng)及PUFF系統(tǒng)[8]。AM是一個(gè)用機(jī)器模擬人類歸納推理、抽象概念的專家系統(tǒng),而PUFF是一個(gè)肺功能測(cè)試專家系統(tǒng),經(jīng)對(duì)多個(gè)實(shí)例進(jìn)行驗(yàn)證,成功率達(dá)93%。諸多專家系統(tǒng)地成功開(kāi)發(fā),標(biāo)志著專家系統(tǒng)逐漸走向成熟。
1.3? 發(fā)展期
從20世紀(jì)80年代初,醫(yī)療專家系統(tǒng)占了主流,主要原因是它屬于診斷類型系統(tǒng)且開(kāi)發(fā)比較容易。但是到了80年代中期,專家系統(tǒng)發(fā)展在應(yīng)用上最明顯的特點(diǎn)是出現(xiàn)了大量的投入商業(yè)化運(yùn)行的系統(tǒng),并為各行業(yè)產(chǎn)生了顯著的經(jīng)濟(jì)效益。其中一個(gè)著名的例子是DEC公司與卡內(nèi)基-梅隆大學(xué)合作開(kāi)發(fā)的XCON-R1專家系統(tǒng)[2],它用于輔助數(shù)據(jù)設(shè)備公司(DEC)的計(jì)算機(jī)系統(tǒng)的配置設(shè)計(jì),每年為DEC公司節(jié)省數(shù)百萬(wàn)美元。專家系統(tǒng)的應(yīng)用日益廣泛,處理問(wèn)題的難度和復(fù)雜度不斷增大,導(dǎo)致了傳統(tǒng)的專家系統(tǒng)無(wú)法滿足較為復(fù)雜的情況,迫切需要新的方法和技術(shù)去支持。
從80年代后期開(kāi)始,一方面隨著面向?qū)ο?、神?jīng)網(wǎng)絡(luò)和模糊技術(shù)等新技術(shù)迅速崛起,為專家系統(tǒng)注入了新的活力;另一方面計(jì)算機(jī)的運(yùn)用也越來(lái)越普及,而且對(duì)智能化的要求也越來(lái)越高。由于這些技術(shù)發(fā)展的成熟,并成功運(yùn)用到專家系統(tǒng)之中,使得專家系統(tǒng)得到更廣泛的運(yùn)用。在這期間開(kāi)發(fā)的專家系統(tǒng)按其處理問(wèn)題的類型可以分為:解釋型、預(yù)測(cè)型、診斷型、設(shè)計(jì)型、規(guī)劃型、監(jiān)視型、調(diào)試型、修正型、教學(xué)型和控制型[11]。其應(yīng)用領(lǐng)域也涉及到農(nóng)業(yè)、商業(yè)、化學(xué)、通信、計(jì)算機(jī)系統(tǒng)、醫(yī)學(xué)等多個(gè)方面,并已成為人們常用的解決問(wèn)題的手段之一。
2 專家系統(tǒng)的研究現(xiàn)狀
目前已研究的專家系統(tǒng)模型有很多種,其中較為流行的有:基于規(guī)則的專家系統(tǒng)、基于案例的專家系統(tǒng)、基于框架的專家系統(tǒng)、基于模糊邏輯的專家系統(tǒng)、基于D-S證據(jù)理論的專家系統(tǒng)、基于人工神經(jīng)網(wǎng)絡(luò)的專家系統(tǒng)和基于遺傳算法的專家系統(tǒng)等。這些專家系統(tǒng)的優(yōu)缺點(diǎn)及技術(shù)要點(diǎn)如下。
2.1 基于規(guī)則的專家系統(tǒng)
基于規(guī)則推理(Rule Base Reasoning,RBR)的方法是根據(jù)以往專家診斷的經(jīng)驗(yàn), 將其歸納成規(guī)則,通過(guò)啟發(fā)式經(jīng)驗(yàn)知識(shí)進(jìn)行推理。它具有明確的前提,得到確定的結(jié)果。它是構(gòu)建專家系統(tǒng)最常用的方法,這主要?dú)w功于大量的成功實(shí)例和工具的出現(xiàn)。早期的專家系統(tǒng)大多數(shù)是用規(guī)則推理的方法,如DENDRAL專家系統(tǒng)、MYCIN專家系統(tǒng)、PROSPECTOR專家系統(tǒng)等。在轉(zhuǎn)化為機(jī)器語(yǔ)言時(shí),用產(chǎn)生式的“IF…AND(OR)…THEN…”表示。因此這種系統(tǒng)又稱為產(chǎn)生式專家系統(tǒng)。
基于規(guī)則的方法容易使知識(shí)工程師與人類專家合作,易于被人類專家理解。規(guī)則庫(kù)中的規(guī)則具有相同的結(jié)構(gòu),即“IF…THEN…”結(jié)構(gòu),這種統(tǒng)一的格式便于管理,同時(shí)便于推理機(jī)的設(shè)計(jì)。但它也有諸多缺點(diǎn),如規(guī)則間的互相關(guān)系不明顯,知識(shí)的整體形象難以把握、處理效率低、推理缺乏靈活性[12,13]。它對(duì)于復(fù)雜系統(tǒng)難以用結(jié)構(gòu)化數(shù)據(jù)來(lái)表達(dá),如果全部用規(guī)則的形式來(lái)表達(dá),不僅提煉規(guī)則相當(dāng)困難,而且規(guī)則庫(kù)將十分龐大和復(fù)雜,容易產(chǎn)生“組合爆炸”。它在實(shí)時(shí)處理方面的應(yīng)用也己被證明比較困難,速度是實(shí)時(shí)性能最根本的要求,而產(chǎn)生式系統(tǒng)在處理實(shí)時(shí)任務(wù)時(shí),其搜索、匹配時(shí)間要占全部計(jì)算時(shí)間的90%。
基于規(guī)則的專家系統(tǒng)的特點(diǎn)決定適合的領(lǐng)域?yàn)椋孩傧到y(tǒng)結(jié)構(gòu)簡(jiǎn)單,有明確的前提和結(jié)論,問(wèn)題僅僅用有限地規(guī)則即可全部包含;②問(wèn)題領(lǐng)域不存在簡(jiǎn)潔統(tǒng)一的理論,知識(shí)是經(jīng)驗(yàn)的;③問(wèn)題的求解可被一系列的相對(duì)獨(dú)立的操作,或者問(wèn)題的求解可視為從一個(gè)狀態(tài)向另一個(gè)狀態(tài)的轉(zhuǎn)換,一個(gè)操作或轉(zhuǎn)換可以被有效地表示為一條或多條產(chǎn)生式語(yǔ)句。
2.2 基于案例的專家系統(tǒng)
基于案例推理(Case Based Reasoning,CBR)的方法就是通過(guò)搜索曾經(jīng)成功解決過(guò)的類似問(wèn)題,比較新、舊問(wèn)題之間的特征、發(fā)生背景等差異,重新使用或參考以前的知識(shí)和信息,達(dá)到最終解決新問(wèn)題的方法。它起源于1982年美國(guó)學(xué)者Roger Schank(關(guān)于人類學(xué)習(xí)和回憶的動(dòng)態(tài)存儲(chǔ)模型的研究工作)。第一個(gè)真正意義上的基于案例的專家系統(tǒng)是1983年由耶魯大學(xué)Janet Kolodner教授領(lǐng)導(dǎo)開(kāi)發(fā)的CYRUS系統(tǒng)。它以Schank的動(dòng)態(tài)存儲(chǔ)模型和問(wèn)題求解的MOP(Memory Organized Packet)理論為基礎(chǔ),做與旅行相關(guān)的咨詢工作。這種類比推理比較符合人類的認(rèn)知心理。
基于案例的專家系統(tǒng)具有諸多優(yōu)點(diǎn): 無(wú)須顯示領(lǐng)域知識(shí);無(wú)須規(guī)則提取,降低知識(shí)獲取難度;開(kāi)放體系,增量式學(xué)習(xí),案例庫(kù)的覆蓋度隨系統(tǒng)的不斷使用而組建增加[14]?;诎咐耐评矸椒ㄟm用于領(lǐng)域定理難以表示成規(guī)則形式, 而是容易表示成案例形式并且已積累豐富案例的領(lǐng)域(如醫(yī)學(xué)診斷系統(tǒng))[15]。它的難點(diǎn)還在于案例特征的選擇、權(quán)重分配以及處理實(shí)例修訂時(shí)的一致性檢驗(yàn)(特征變量間的約束關(guān)系) 等問(wèn)題。傳統(tǒng)的基于案例的方法難以表示案例間的聯(lián)系,對(duì)于大型案例庫(kù)案例檢索十分費(fèi)時(shí), 并且難以決定應(yīng)選擇哪些特征數(shù)據(jù)及它們的權(quán)重[16]。
2.3 基于框架的專家系統(tǒng)
框架(Frame) 是將某類對(duì)象的所有知識(shí)組織在一起的一種通用數(shù)據(jù)結(jié)構(gòu),而相互關(guān)聯(lián)的框架連接組成框架系統(tǒng)。1975年美國(guó)麻省理工學(xué)院的著名的人工智能學(xué)者明斯基在其論文中提出了框架理論,并把它作為理解視覺(jué)、自然語(yǔ)言對(duì)話及其它復(fù)雜行為的基礎(chǔ)。在框架理論中, 框架被視作表示知識(shí)的一個(gè)基本單位。它把要描述的事務(wù)各方面的知識(shí)放在一起, 通過(guò)槽值關(guān)聯(lián)起來(lái)??蚣艿捻攲邮谴砟硞€(gè)對(duì)象的框架名,其下為代表該框架某一方面屬性的若干個(gè)槽, 槽由槽名和槽值組成。槽下還可分為若干個(gè)側(cè)面(由側(cè)面名和側(cè)面值組成)。
一個(gè)框架系統(tǒng)常被表示成一種樹(shù)形結(jié)構(gòu),樹(shù)的每一個(gè)節(jié)點(diǎn)是一個(gè)框架結(jié)構(gòu),子節(jié)點(diǎn)與父節(jié)點(diǎn)之間用槽連接。當(dāng)子節(jié)點(diǎn)的某些槽值或側(cè)面值沒(méi)有被直接記錄時(shí),可以從其父節(jié)點(diǎn)繼承這些值??蚣芟到y(tǒng)中可以推理出未被觀察到的事實(shí),它將通過(guò)以下三種途徑實(shí)現(xiàn)[16,17]:①框架包含它所描述的情況或物體的多方面的信息。這些信息可以被引用,就像已經(jīng)直接觀察到這些信息一樣。②框架包含物體必須具有的屬性。在填充框架的各個(gè)槽時(shí),要用到這些屬性。建立對(duì)某一情況的描述要求先建立對(duì)此情況的各個(gè)方面的描述。與描述這個(gè)情況的框架中的各個(gè)槽有關(guān)的信息可用來(lái)指導(dǎo)如何建立這些方面的描述。③框架描述它們所代表的概念的典型事例。如果某一情況在很多方面和一個(gè)框架相匹配,只有少部分相互之間存在不同之處,這些不同之處很可能對(duì)應(yīng)于當(dāng)前情況的重要方面,也許應(yīng)該對(duì)這些不同之處做出解答。
框架表示法最突出的特點(diǎn)是善于表達(dá)結(jié)構(gòu)性的知識(shí),且具有良好的繼承性和自然性。因此,基于框架的專家系統(tǒng)適合于具有固定格式的事物、動(dòng)作或事件。
2.4? 基于模糊邏輯的專家系統(tǒng)
模糊理論的概念由美國(guó)加利福尼亞大學(xué)著名教授扎德在他的《Fuzzy Sets》和《Fuzzy Algorithm》等著名論著中首先提出。模糊性是指客觀事物在狀態(tài)及其屬性方面的不分明性,其根源是在類似事物間存在一系列過(guò)渡狀態(tài),它們互相滲透、互相貫通,使得彼此之間沒(méi)有明顯的分界線。模糊性是客觀世界中某些事物本身所具有的一種不確定性,它與隨機(jī)性有著本質(zhì)的區(qū)別。有明確定義但不一定出現(xiàn)的事件中包含的不確定性稱為隨機(jī)性,它不因人的主觀意識(shí)變化,由事物本身的因果規(guī)律決定。而已經(jīng)出現(xiàn)但難以給出精確定義的事件中包含的不確定性稱為模糊性,是由事物的概念界限模糊和人的主觀推理與判斷產(chǎn)生的。模糊邏輯理論則是對(duì)模糊事物相互關(guān)系的研究。
基于模糊邏輯的專家系統(tǒng)的優(yōu)點(diǎn)在于[18]:①具有專家水平的專門(mén)知識(shí),能表現(xiàn)專家的技能和高度的技巧以及有足夠的魯棒性;②能進(jìn)行有效的推理,具有啟發(fā)性,能夠運(yùn)用人類專家的經(jīng)驗(yàn)和知識(shí)進(jìn)行啟發(fā)性的搜索、試探性的推理;③具有靈活性和透明性。但是,模糊推理知識(shí)獲取困難,尤其是征兆的模糊關(guān)系較難確定,且系統(tǒng)的推理能力依賴模糊知識(shí)庫(kù),學(xué)習(xí)能力差,容易發(fā)生錯(cuò)誤。由于模糊語(yǔ)言變量是用隸屬函數(shù)表示的,實(shí)現(xiàn)語(yǔ)言變量與隸屬函數(shù)之間的轉(zhuǎn)換是一個(gè)難點(diǎn)。
2.5? 基于D-S證據(jù)理論的專家系統(tǒng)
D-S證據(jù)理論是由Dempster于1967年提出的,他首先提出了上、下界概率的定義,后由Shafer于1976年加以推廣和發(fā)展,故人們也把證據(jù)理論稱為D- S理論。證據(jù)理論可處理由不知道因素所引起的不確定性,它采用信任函數(shù)而不是概率作為度量,通過(guò)對(duì)一些事件的概率加以約束以建立信任函數(shù)而不必說(shuō)明精確的難以獲得的概率,當(dāng)約束限制為嚴(yán)格的概率時(shí),它就成為概率論[19]。
基于D-S證據(jù)理論的專家系統(tǒng)的優(yōu)點(diǎn)在于[20]:①既能處理隨機(jī)性所導(dǎo)致的不確定性,又能處理由于模糊性所導(dǎo)致的不確定性;②系統(tǒng)可以依靠證據(jù)的積累,不斷縮小假設(shè)集;③能在不同層次上組合證據(jù)。D-S理論具有比較強(qiáng)的理論基礎(chǔ),它能將“不知道”和“不確定”區(qū)分開(kāi)來(lái),但它也存在明顯的不足。當(dāng)證據(jù)沖突度較高時(shí),經(jīng)過(guò)其組合規(guī)則得到的結(jié)論常常有悖常理。另外,基于D-S理論的專家系統(tǒng)在數(shù)據(jù)較多時(shí),具有潛在的指數(shù)復(fù)雜度和推理鏈較長(zhǎng)的缺點(diǎn)。
2.6? 基于人工神經(jīng)網(wǎng)絡(luò)的專家系統(tǒng)
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network ,ANN)是仿效生物體信息處理系統(tǒng)獲得柔性信息處理能力。它是從20世紀(jì)80年代后期開(kāi)始興起(有理論研究階段發(fā)展到應(yīng)用階段)。它是從微觀上模擬人腦功能,是一種分布式的微觀數(shù)值模型,神經(jīng)元網(wǎng)絡(luò)通過(guò)大量經(jīng)驗(yàn)樣本學(xué)習(xí)知識(shí)。更重要的是,神經(jīng)網(wǎng)絡(luò)有極強(qiáng)的自學(xué)習(xí)能力,對(duì)于新的模式和樣本可以通過(guò)權(quán)值的改變進(jìn)行學(xué)習(xí)﹑記憶和存儲(chǔ),進(jìn)而在以后的運(yùn)行中能夠判斷這些新的模式。
神經(jīng)網(wǎng)絡(luò)模型從知識(shí)表示、推理機(jī)制到控制方式,都與目前專家系統(tǒng)中的基于邏輯的心理模型有本質(zhì)的區(qū)別。知識(shí)從顯示變?yōu)殡[式表示,這種知識(shí)不是通過(guò)人的加工轉(zhuǎn)換成規(guī)則,而是通過(guò)學(xué)習(xí)算法自動(dòng)獲取的。推理機(jī)制從檢索和驗(yàn)證過(guò)程變?yōu)榫W(wǎng)絡(luò)上隱含模式對(duì)輸入的競(jìng)爭(zhēng),這種競(jìng)爭(zhēng)是并行的針對(duì)特定特征的,并把特定論域輸入模式中各個(gè)抽象概念轉(zhuǎn)化為神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)。神經(jīng)網(wǎng)絡(luò)很好解決了專家系統(tǒng)中知識(shí)獲取的“瓶頸”問(wèn)題,能使專家系統(tǒng)具有自學(xué)習(xí)能力。神經(jīng)網(wǎng)絡(luò)技術(shù)的出現(xiàn)為專家系統(tǒng)提供了一種新的解決途徑。特別是對(duì)于實(shí)際中難以建立數(shù)學(xué)模型的復(fù)雜系統(tǒng),神經(jīng)網(wǎng)絡(luò)更顯示出其獨(dú)特的功效。
然而, 神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)也存在固有的弱點(diǎn):①系統(tǒng)性能受到所選擇的訓(xùn)練樣本集的限制, 訓(xùn)練樣本集選擇不當(dāng),特別是在訓(xùn)練樣本集很少的情形下,很難指望它具有較好的歸納推理能力;②神經(jīng)網(wǎng)絡(luò)沒(méi)有能力解釋自己的推理過(guò)程和推理依據(jù)及其存儲(chǔ)知識(shí)的意義;③神經(jīng)網(wǎng)絡(luò)利用知識(shí)和表達(dá)知識(shí)的方式單一,通常的神經(jīng)網(wǎng)絡(luò)只能采用數(shù)值化的知識(shí);④神經(jīng)網(wǎng)絡(luò)只能模擬人類感覺(jué)層次上的智能活動(dòng),在模擬人類復(fù)雜層次的思維方面還有不足之處。
目前較為常用的神經(jīng)網(wǎng)絡(luò)有:誤差反傳網(wǎng)絡(luò)(BP)、小腦網(wǎng)絡(luò)(CMAC)、自組織特征映射網(wǎng)絡(luò)(SOM)、自適應(yīng)共振理論(ART)、徑向基網(wǎng)絡(luò)(REF)等等。基于神經(jīng)網(wǎng)絡(luò)的專家系統(tǒng)的具體應(yīng)用形式可以根據(jù)實(shí)際情況選擇不同的神經(jīng)網(wǎng)絡(luò)模型,能夠?qū)崿F(xiàn)不同的用途。因此,基于神經(jīng)網(wǎng)絡(luò)的專家系統(tǒng)是目前最流行的專家系統(tǒng)。
2.7 基于遺傳算法的專家系統(tǒng)
遺傳算法(Genetic Algorithms,GA)是一種基于自然選擇和基因遺傳學(xué)原理的優(yōu)化搜索方法。由美國(guó)John H.Holland教授在1975年提出的。遺傳算法將問(wèn)題的求解表示成“染色體”,從而構(gòu)成一群“染色體”。將它們置于問(wèn)題的“環(huán)境”中,根據(jù)適者生存的原則,從中選擇出適應(yīng)環(huán)境的“染色體”進(jìn)行復(fù)制,通過(guò)交換、變異兩種基因操作產(chǎn)生出新的一代更適應(yīng)環(huán)境的“染色體”群,這樣一代一代地不斷進(jìn)化,最后收斂到一個(gè)最適合環(huán)境的個(gè)體上,求得問(wèn)題的最優(yōu)解[21]。
遺傳算法是模擬自然選擇和遺傳機(jī)制的一種搜索和優(yōu)化算法,與一般的尋優(yōu)方法相比,遺傳算法具有很多優(yōu)點(diǎn):①?gòu)脑S多初始點(diǎn)開(kāi)始進(jìn)行并行操作,克服了傳統(tǒng)優(yōu)化方法容易陷入局部極點(diǎn)的缺點(diǎn),是一種全局優(yōu)化算法;②對(duì)變量的編碼進(jìn)行操作,可以替代梯度算法,在模糊推理隸屬度函數(shù)形狀的選取上具有更大的靈活性;③由于具有隱含并行性,所以可通過(guò)大規(guī)模并行計(jì)算來(lái)提高計(jì)算速度;④可在沒(méi)有任何先驗(yàn)知識(shí)和專家知識(shí)的情況下取得次優(yōu)或最優(yōu)解。
遺傳算法作為優(yōu)化搜索算法,一方面希望在寬廣的空間內(nèi)進(jìn)行搜索,從而提高求得最優(yōu)解的概率;另一方面又希望向著解的方向盡快縮小搜索范圍,從而提高搜索效率。如何同時(shí)提高搜索最優(yōu)解的概率和效率,是遺傳算法的一個(gè)需要進(jìn)一步探索的問(wèn)題。
3? 專家系統(tǒng)的研究熱點(diǎn)
?目前,專家系統(tǒng)的研究不再滿足現(xiàn)有的各種模型與專家系統(tǒng)簡(jiǎn)單的相結(jié)合,形成基于某種模型的專家系統(tǒng)了,而是在不斷向深層次方向發(fā)展。針對(duì)專家系統(tǒng)的核心的知識(shí)表示和知識(shí)獲取,探索更方便的、更有效的方法,解決困擾專家系統(tǒng)的知識(shí)獲取 “瓶頸”、“匹配沖突”、“組合爆炸”等問(wèn)題。針對(duì)現(xiàn)在數(shù)據(jù)多,而知識(shí)少的特點(diǎn),將數(shù)據(jù)挖掘引入專家系統(tǒng)之中。以及多Agent技術(shù)用于專家系統(tǒng),來(lái)提高專家系統(tǒng)的性能。
3.1 知識(shí)的表示和獲取
知識(shí)就是人類通過(guò)實(shí)踐(包括學(xué)習(xí)、模仿、試驗(yàn)、生理等實(shí)踐活動(dòng))認(rèn)識(shí)到的客觀世界的規(guī)律性的東西,是信息經(jīng)過(guò)加工、整理、解釋、挑選和改造而形成的。知識(shí)表示就是為描述世界所做的一組約定,是知識(shí)符號(hào)化的過(guò)程。這種描述或約定表達(dá)了計(jì)算機(jī)可以接受的人類的智能行為。知識(shí)表示是專家系統(tǒng)的關(guān)鍵點(diǎn)之一,一個(gè)專家系統(tǒng)的建造成功與否和采用的知識(shí)表示方法能否充分反映該領(lǐng)域知識(shí)有直接關(guān)系。知識(shí)獲取又稱機(jī)器學(xué)習(xí),是將客觀世界中知識(shí)轉(zhuǎn)化為專家系統(tǒng)中知識(shí)的過(guò)程。它是專家系統(tǒng)不可缺少的一個(gè)組成部分。如何獲取足夠的、完整的和明確的知識(shí)是專家系統(tǒng)的另一個(gè)關(guān)鍵點(diǎn)。
知識(shí)的表示可以分為表層表示、深層表示和混合表示三種。而混合知識(shí)的表示是目前研究的一個(gè)熱點(diǎn)方向。在專家系統(tǒng)的實(shí)際開(kāi)發(fā)中,所采用的方法和知識(shí)的表示都不會(huì)是單一的,往往需要將多種知識(shí)表示方法有機(jī)的結(jié)合起來(lái),去解決單一的知識(shí)表示無(wú)法解決的問(wèn)題。
知識(shí)的自動(dòng)獲取一直是專家們感興趣的研究方向,也是一項(xiàng)十分困難的研究任務(wù)。由于現(xiàn)在開(kāi)發(fā)的專家系統(tǒng)向大規(guī)模系統(tǒng)和通用型系統(tǒng)發(fā)展,越來(lái)越希望能夠機(jī)器自動(dòng)獲取知識(shí),減少開(kāi)發(fā)人員的手動(dòng)或半自動(dòng)開(kāi)發(fā)的工作量。隨著神經(jīng)網(wǎng)絡(luò)的蓬勃發(fā)展,傳統(tǒng)的符號(hào)學(xué)習(xí)與連接機(jī)制已經(jīng)逐步被取代?;谶M(jìn)化學(xué)習(xí)系統(tǒng)和遺傳算法,因吸取了歸納學(xué)習(xí)與連接機(jī)制的長(zhǎng)處而受到重視。數(shù)據(jù)挖掘、計(jì)算機(jī)數(shù)據(jù)庫(kù)和計(jì)算機(jī)網(wǎng)絡(luò)的發(fā)展都為提取有用知識(shí)提供了新的方法。
3.2 數(shù)據(jù)挖掘技術(shù)的應(yīng)用
?數(shù)據(jù)挖掘(Data Mining)就是從大量的、不完全的、有噪聲的、模糊的、隨機(jī)的數(shù)據(jù)中,提取隱含在其中的、人們事先不知道的,但又是潛在有用的信息和知識(shí)的過(guò)程。它是近幾年興起的一個(gè)極有發(fā)展前途又有廣泛應(yīng)用前景的新領(lǐng)域。
數(shù)據(jù)挖掘作為一個(gè)交叉學(xué)科領(lǐng)域, 受多個(gè)學(xué)科的影響,包括數(shù)據(jù)庫(kù)系統(tǒng)、統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、可視化和信息科學(xué)等。依賴于所挖掘的數(shù)據(jù)類型或應(yīng)用領(lǐng)域,數(shù)據(jù)挖掘可能集成空間數(shù)據(jù)分析、圖像分析、模式識(shí)別、Web技術(shù)、信息檢索、心理學(xué)等領(lǐng)域的技術(shù)。主要的數(shù)據(jù)挖掘技術(shù)與方法有: 聚類、分類、決策樹(shù)、粗糙集、神經(jīng)網(wǎng)絡(luò)、回歸分析、遺傳算法、偏差檢測(cè)等。從數(shù)據(jù)庫(kù)中挖掘的規(guī)則可以有以下多種表達(dá)形式: 關(guān)聯(lián)規(guī)則,特征規(guī)則,異常規(guī)則,轉(zhuǎn)移規(guī)則,序列規(guī)則,分類,聚類等。數(shù)據(jù)挖掘的應(yīng)用對(duì)象是大規(guī)模數(shù)據(jù)庫(kù),目標(biāo)是發(fā)現(xiàn)數(shù)據(jù)庫(kù)中規(guī)律性的知識(shí)。數(shù)據(jù)挖掘提取的知識(shí)可以表示為概念、規(guī)律、模式、約束、可視化[22]。
在知識(shí)獲取技術(shù)方面,基于數(shù)據(jù)挖掘的專家系統(tǒng)可以極大緩解了專家系統(tǒng)的“知識(shí)瓶頸”問(wèn)題。它不再是知識(shí)工程師從領(lǐng)域?qū)<抑刑崛∫?guī)則,將其轉(zhuǎn)化為知識(shí);而是從領(lǐng)域?qū)<姨峁┑拇罅繑?shù)據(jù)中自動(dòng)獲取知識(shí)。數(shù)據(jù)挖掘中的數(shù)據(jù)預(yù)處理模塊可以在知識(shí)的獲取中減小噪聲數(shù)據(jù)的影響,提高知識(shí)獲取的正確性。知識(shí)會(huì)隨著挖掘的過(guò)程不斷被學(xué)習(xí)到系統(tǒng)當(dāng)中,這樣既大大加深和拓寬了知識(shí)獲取的深度與廣度,又會(huì)使獲取的知識(shí)越來(lái)越完善、越來(lái)越精確。
在推理技術(shù)方面, 數(shù)據(jù)挖掘技術(shù)是以數(shù)據(jù)庫(kù)系統(tǒng)、數(shù)據(jù)倉(cāng)庫(kù)統(tǒng)計(jì)學(xué)等為基礎(chǔ)的。而數(shù)據(jù)倉(cāng)庫(kù)主要特點(diǎn)就是: 它是面向主題的,庫(kù)中的數(shù)據(jù)是多維的。也就是說(shuō),庫(kù)中的每一維度可以對(duì)應(yīng)設(shè)備運(yùn)行時(shí)的一個(gè)狀態(tài)參數(shù),不同的運(yùn)行狀態(tài)參數(shù)就存放在不同的維度空間里。數(shù)據(jù)挖掘器在推理時(shí)可以根據(jù)不同需要而將不同維度內(nèi)的運(yùn)行狀態(tài)參數(shù)綜合起來(lái)一起分析計(jì)算,即:運(yùn)用數(shù)據(jù)挖掘算法來(lái)進(jìn)行全方位推理。這可以克服傳統(tǒng)推理機(jī)制具有單一方面的精確度高而忽視了其它方面影響的缺點(diǎn),可以增強(qiáng)其推理的合理性、提高其推斷結(jié)果的可靠性[6]。
在數(shù)據(jù)挖掘中盡可能地引入人對(duì)該應(yīng)用領(lǐng)域的先驗(yàn)知識(shí)是非常必要的。數(shù)據(jù)挖掘是一個(gè)人機(jī)交互、不斷重復(fù)的過(guò)程。專家的領(lǐng)域知識(shí)或背景知識(shí)的應(yīng)用對(duì)挖掘過(guò)程具有補(bǔ)充和促進(jìn)作用,經(jīng)常用來(lái)引導(dǎo)發(fā)現(xiàn)過(guò)程以避免無(wú)意義的結(jié)果[23]。另外,一般數(shù)據(jù)挖掘方法僅僅在數(shù)據(jù)庫(kù)內(nèi)容上產(chǎn)生規(guī)則,規(guī)則難以理解,領(lǐng)域知識(shí)或背景知識(shí)的應(yīng)用可以產(chǎn)生易理解的規(guī)則。利用專家的領(lǐng)域知識(shí)的意義,不僅在于約簡(jiǎn)、表達(dá)和評(píng)估規(guī)則,更重要的是通過(guò)評(píng)估獲得處理結(jié)果和應(yīng)用需求之間的偏差,并以此作為反饋,去修正以前的各個(gè)步驟[24]。
3.3 多Agent技術(shù)的運(yùn)用
Agent是一個(gè)具有自主性﹑反應(yīng)性﹑主動(dòng)性和社會(huì)性特性的基于硬件或軟件的計(jì)算機(jī)系統(tǒng),通常還具有人類的智能特性,如知識(shí)、信念、意圖和愿望等。Agent理論與技術(shù)研究源于80年代中期的分布式問(wèn)題求解,由于分布式并行處理技術(shù)、面向?qū)ο蠹夹g(shù)、多媒體技術(shù)、計(jì)算機(jī)網(wǎng)絡(luò)技術(shù),特別是Internet和Web技術(shù)的發(fā)展,使Agent成為當(dāng)今人工智能與軟件工程中的研究熱點(diǎn),引起了科學(xué)界、教育界及工業(yè)界的廣泛關(guān)注[25,26]。多Agent系統(tǒng)(Multi-Agent System,MAS)是指由多個(gè)自主構(gòu)件組成的所有類型的系統(tǒng),它是一個(gè)松散耦合的問(wèn)題求解器網(wǎng)絡(luò),其目標(biāo)是為了解決那些超出每個(gè)問(wèn)題求解器的單獨(dú)能力或知識(shí)的問(wèn)題。這些問(wèn)題的求解器就是Agent,它們是自主的,并可能是異構(gòu)的。
多Agent系統(tǒng)的表現(xiàn)通過(guò)Agent的交互來(lái)實(shí)現(xiàn),主要研究多個(gè)Agent為了聯(lián)合采取行動(dòng)或求解問(wèn)題,如何協(xié)調(diào)各自的知識(shí)、目標(biāo)、策略和規(guī)劃。在表達(dá)實(shí)際系統(tǒng)時(shí),多Agent系統(tǒng)通過(guò)各Agent間的通訊、合作、協(xié)調(diào)、調(diào)度、管理及控制來(lái)表達(dá)系統(tǒng)的結(jié)構(gòu)、功能及行為特性。由于在同一個(gè)多Agent系統(tǒng)中各Agent可以異構(gòu),因此多Agent技術(shù)對(duì)于復(fù)雜系統(tǒng)具有無(wú)可比擬的表達(dá)力,它為各種實(shí)際系統(tǒng)提供了一種統(tǒng)一的模型,從而為各種實(shí)際系統(tǒng)的研究提供了一種統(tǒng)一的框架,其應(yīng)用領(lǐng)域十分廣闊[27]。
將多Agent的方法引入到專家系統(tǒng)中,將有利于解決傳統(tǒng)的單個(gè)專家系統(tǒng)與應(yīng)用場(chǎng)所、應(yīng)用環(huán)境難于溝通的難題,也能夠比較容易地適應(yīng)用戶的知識(shí)結(jié)構(gòu)、思維習(xí)慣,它能夠比較方便地與系統(tǒng)中的其它Agent進(jìn)行協(xié)調(diào)、交流以達(dá)到系統(tǒng)的整體目標(biāo)[28]。
對(duì)于復(fù)雜問(wèn)題的求解,通常可以將專家系統(tǒng)看作一個(gè)Agent。但是實(shí)際上兩者有較大的區(qū)別,在一個(gè)大型的復(fù)雜系統(tǒng)中,從系統(tǒng)功能分解理論出發(fā),可以把整個(gè)系統(tǒng)分解成幾個(gè)子系統(tǒng),如果只用單純的專家系統(tǒng)或者Agent模塊都有很大的局限性。要實(shí)現(xiàn)各個(gè)模塊的協(xié)商和協(xié)作,在專家系統(tǒng)之間很難實(shí)現(xiàn),而由多個(gè)Agent就可以傳遞各個(gè)模塊的協(xié)作,但只采用Agent技術(shù),又難以保證任務(wù)執(zhí)行的速度。因此,采用集成專家系統(tǒng)和多Agent技術(shù)是一種比較不錯(cuò)的方法[29]。集成專家系統(tǒng)和多個(gè)Agent的系統(tǒng)主要由完成特定功能的專家系統(tǒng)和Agent模塊組成,專家系統(tǒng)模塊利用經(jīng)驗(yàn)歷史知識(shí)和對(duì)象當(dāng)前運(yùn)行狀態(tài)信息以嚴(yán)格高效的邏輯推理。Agent模塊則主要利用Agent間的合作來(lái)實(shí)現(xiàn)動(dòng)態(tài)不完全信息,從而提高系統(tǒng)對(duì)環(huán)境的適應(yīng)能力。這樣能夠充分彌補(bǔ)兩者各自的不足,增強(qiáng)系統(tǒng)的能力,整體上提高系統(tǒng)的實(shí)時(shí)和準(zhǔn)確性。
4? 專家系統(tǒng)的發(fā)展趨勢(shì)
近年來(lái),發(fā)展專家系統(tǒng)不僅要采用各種定性的模型,而且要將各種模型綜合運(yùn)用。以及運(yùn)用人工智能和計(jì)算機(jī)技術(shù)的一些新思想和新技術(shù),如分布式和協(xié)同式。這些都是專家系統(tǒng)的發(fā)展趨勢(shì)。
4.1? 通用性專家系統(tǒng)
?專家系統(tǒng)的開(kāi)發(fā)是需要領(lǐng)域?qū)<液椭R(shí)工程師共同努力的,而領(lǐng)域?qū)<医^大多數(shù)只對(duì)自己領(lǐng)域范圍的知識(shí)了解,這就導(dǎo)致現(xiàn)階段開(kāi)發(fā)的專家系統(tǒng)只適用于某一特定問(wèn)題領(lǐng)域。用戶越來(lái)越希望有一種以用戶為中心的通用性專家系統(tǒng)[30]。這就需要通用性專家系統(tǒng)具有各種不同的并行算法和知識(shí)獲取模塊,能夠采用多種推理策略。
?通用性專家系統(tǒng)作為一種新型專家系統(tǒng),其特點(diǎn)如下:
?①集成多種模型的專家系統(tǒng),根據(jù)用戶的需要,可以選擇其中的任何一種或多種,形成某一類型的專家系統(tǒng);
?②通過(guò)多種模型的綜合運(yùn)用,提高了專家系統(tǒng)的準(zhǔn)確率和效率;
?③經(jīng)過(guò)長(zhǎng)期的使用,可以探索出針對(duì)某一問(wèn)題的最佳模式(多種模型的綜合運(yùn)用),獲得最優(yōu)的專用專家系統(tǒng)。
4.2? 分布式專家系統(tǒng)
分布式專家系統(tǒng)具有分布處理的特征,其主要目的在于把一個(gè)專家系統(tǒng)的功能經(jīng)分解后分布到多個(gè)處理器上去并行的工作,從而在整體上提高系統(tǒng)的處理效率[2]。這種專家系統(tǒng)比常規(guī)的專家系統(tǒng)具有較強(qiáng)的可擴(kuò)張性和靈活性,將各個(gè)子系統(tǒng)聯(lián)系起來(lái),即使不同的開(kāi)發(fā)者針對(duì)同一研究對(duì)象也可以有效地進(jìn)行交流和共享。隨著Internet的發(fā)展與普及,建立遠(yuǎn)程分布式專家系統(tǒng)可以實(shí)現(xiàn)異地多專家對(duì)同一對(duì)象進(jìn)行控制或診斷,極大提高了準(zhǔn)確率和效率[14]。
分布式專家系統(tǒng)作為一種新型專家系統(tǒng),其特點(diǎn)如下[31]:
①系統(tǒng)數(shù)據(jù)的所有來(lái)源,分門(mén)別類地對(duì)不同數(shù)據(jù)來(lái)源的數(shù)據(jù)進(jìn)行管理,同時(shí)系統(tǒng)的數(shù)據(jù)完整、準(zhǔn)確、實(shí)用性強(qiáng);
②系統(tǒng)開(kāi)發(fā)工具多樣,開(kāi)發(fā)環(huán)境與應(yīng)用環(huán)境分離,使開(kāi)發(fā)完善過(guò)程與應(yīng)用過(guò)程可以獨(dú)立的異步進(jìn)行;
③可以同時(shí)完成多用戶,多個(gè)并發(fā)請(qǐng)求的推理;
④借助輔助數(shù)據(jù)庫(kù),對(duì)推理過(guò)程可以進(jìn)行有效的控制與監(jiān)測(cè),并能整合推理結(jié)果,以多種形式反饋給用戶。
4.3 協(xié)同式專家系統(tǒng)
協(xié)同式專家系統(tǒng)的概念目前尚無(wú)一個(gè)明確的定義。一般認(rèn)為,協(xié)同式專家系統(tǒng)是能綜合若干相關(guān)領(lǐng)域(或一個(gè)領(lǐng)域)多個(gè)方面的單一專家系統(tǒng)互相協(xié)作共同解決一個(gè)更廣領(lǐng)域問(wèn)題的專家系統(tǒng),這樣的系統(tǒng)亦可稱之為“群專家系統(tǒng)”[2]。在系統(tǒng)中,多個(gè)專家系統(tǒng)協(xié)同合作,各專家系統(tǒng)間可以互相通信,一個(gè)或多個(gè)專家系統(tǒng)的輸出可能成為另一個(gè)專家系統(tǒng)的輸入,有些專家系統(tǒng)的輸出還可以作為反饋信息輸入到自身或其先輩系統(tǒng)中去,經(jīng)過(guò)迭代求得某種“穩(wěn)定”狀態(tài)。
協(xié)同式專家系統(tǒng)作為一種新型專家系統(tǒng),其特點(diǎn)如下:
①將總?cè)蝿?wù)合理的分解為幾個(gè)分任務(wù),分別由幾個(gè)分專家系統(tǒng)來(lái)完成;
②把解決各個(gè)分任務(wù)所需要知識(shí)的公共部分提煉出來(lái)形成一個(gè)公共知識(shí)庫(kù),供各子專家系統(tǒng)共享。而分專家系統(tǒng)中專用的知識(shí),則存放在各自的專用知識(shí)庫(kù)中;
③為了統(tǒng)一協(xié)調(diào)解決問(wèn)題,有一個(gè)供各個(gè)分專家系統(tǒng)討論交流的平臺(tái)。
目前將分布式專家系統(tǒng)與協(xié)同式專家系統(tǒng)相結(jié)合,提出了一種分布協(xié)同式專家系統(tǒng)。分布協(xié)同式專家系統(tǒng)是指邏輯上或物理上分布在不同處理節(jié)點(diǎn)上的若干專家系統(tǒng)協(xié)同求解問(wèn)題的系統(tǒng)?,F(xiàn)實(shí)中,有很多復(fù)雜的任務(wù)需要一個(gè)群體(一些專家) 來(lái)協(xié)同解決問(wèn)題,當(dāng)單個(gè)專家系統(tǒng)難于有效地求解問(wèn)題時(shí),使用分布協(xié)同式專家系統(tǒng)求解是一個(gè)有效的途徑[32]。
5? 結(jié)束語(yǔ)
專家系統(tǒng)是從20世紀(jì)末開(kāi)始的重大技術(shù)之一,是高技術(shù)的標(biāo)志。專家系統(tǒng)的近期研究目標(biāo)是建造用于代替人類進(jìn)行智能管理與決策的系統(tǒng),而遠(yuǎn)期目標(biāo)是實(shí)現(xiàn)具有更新概念、更佳技術(shù)性能和更高智力水平的決策與咨詢系統(tǒng)。
本文總結(jié)了專家系統(tǒng)發(fā)展的歷史和現(xiàn)狀,對(duì)目前比較成熟的專家系統(tǒng)模型進(jìn)行分析,指出各自的特點(diǎn)和局限性。隨著專家系統(tǒng)研究的不斷深入與發(fā)展,必將進(jìn)一步推動(dòng)科技發(fā)展和社會(huì)進(jìn)步。
評(píng)論
查看更多