認(rèn)知域作戰(zhàn)新利器—ChatGPT認(rèn)知剖析及對(duì)策

2022年11月30日，美國(guó)人工智能公司OpenAI正式發(fā)布大型自然語(yǔ)言交互程序聊天機(jī)器人ChatGPT（ChatbotGenerative Pre-training Transformer）。隨后，又推出GPT-3.5并很快迭代到GPT-4。這對(duì)于信息生產(chǎn)、流通全過程的改變，不僅掀開了人工智能被用于現(xiàn)實(shí)傳播問題的序幕，也將助長(zhǎng)國(guó)際體系與社會(huì)生活中根深蒂固的系統(tǒng)性偏見、有意欺詐、政治造謠、偽造身份等問題。

這種強(qiáng)有力的變革對(duì)認(rèn)知域作戰(zhàn)同樣會(huì)產(chǎn)生巨大影響，將會(huì)使得認(rèn)知域作戰(zhàn)的形式更加豐富、手段更加隱蔽、防范更加困難，其對(duì)于社會(huì)生活、政治生態(tài)和社會(huì)總體意識(shí)形態(tài)的影響也將會(huì)更加深入。需要深入分析其在認(rèn)知域作戰(zhàn)中的運(yùn)用場(chǎng)景，把握認(rèn)知規(guī)律、重塑認(rèn)知內(nèi)容、優(yōu)化認(rèn)知過程。

認(rèn)知域作戰(zhàn)視角下的ChatGPT主要特性

ChatGPT是在GPT（Generative Pre-trained Transformer）模型的基礎(chǔ)上通過改進(jìn)優(yōu)化得到的，針對(duì)對(duì)話場(chǎng)景利用“人在回路”進(jìn)行了優(yōu)化。GPT是一種大型語(yǔ)言模型，是現(xiàn)階段對(duì)于自然語(yǔ)言進(jìn)行機(jī)器學(xué)習(xí)的主流思路，能夠生成各種不同的文本類型。它可以根據(jù)上下文自動(dòng)生成與人類語(yǔ)言類似的文本對(duì)話。

GPT模型主要思路是讓AI在通用的、海量的數(shù)據(jù)上學(xué)習(xí)文字接龍，即掌握基于前文內(nèi)容生成后續(xù)文本的能力。目前GPT模型已經(jīng)發(fā)展到了第四代，是針對(duì)對(duì)話場(chǎng)景進(jìn)行針對(duì)性優(yōu)化的結(jié)果。相比于以往的固定對(duì)話式人工智能，ChatGPT擁有自己的思考邏輯，因此在不處于“人在回路”的監(jiān)管時(shí)，系統(tǒng)可以對(duì)同一問題給出多種回答，只不過這些回答在系統(tǒng)偏好的作用下以概率分布的形式存在。

GPT用海量數(shù)據(jù)學(xué)習(xí)“文字接龍”

ChatGPT作為新一代人工智能，在引入大數(shù)據(jù)進(jìn)行自主學(xué)習(xí)時(shí)使用人工對(duì)系統(tǒng)學(xué)習(xí)結(jié)果進(jìn)行評(píng)價(jià)，從某種意義上說，該過程正是賦予系統(tǒng)“靈魂”、完成畫龍點(diǎn)睛的過程。但是由于人類本身固有的政治立場(chǎng)或傾向，使得在對(duì)學(xué)習(xí)結(jié)果進(jìn)行篩選時(shí)，篩選結(jié)果不可避免地被打上了監(jiān)督者的個(gè)人標(biāo)簽，從而在這一過程中給系統(tǒng)帶入了一種“預(yù)設(shè)的價(jià)值觀”，使其成為認(rèn)知域作戰(zhàn)的“新利器”。

一是難以抹去的價(jià)值底色。ChatGPT的價(jià)值觀底色根植于參與該系統(tǒng)設(shè)計(jì)研發(fā)人員的價(jià)值觀取向，即“硅谷價(jià)值觀”，屬于美國(guó)左派的溫和派。這種底層邏輯的審視使得ChatGPT常常表現(xiàn)為美國(guó)精神的“衛(wèi)道者”，在測(cè)試者的政治性話題中，ChatGPT對(duì)于涉美議題或涉及外國(guó)政治人物的話題上往往采取中立或避而不談的態(tài)度，但是在關(guān)于美國(guó)正面話題的談?wù)撋蠀s表現(xiàn)得相對(duì)積極。除此之外，對(duì)于諸如少數(shù)族裔問題、槍支問題、墮胎問題、環(huán)保問題等爭(zhēng)議性話題，ChatGPT也表現(xiàn)出相對(duì)保守的態(tài)度，并且在整體取向上更加偏向于溫和左派。

在ChatGPT上線互聯(lián)網(wǎng)后，世界各國(guó)的網(wǎng)民也都參與到了與ChatGPT的互動(dòng)中來，并在大量的交流中逐漸發(fā)現(xiàn)ChatGPT在面對(duì)不同語(yǔ)言的提問時(shí)，同一問題往往會(huì)得到不同答案，并且這種改變是隨著社會(huì)動(dòng)態(tài)的變化而隨時(shí)改變的。這種“見人下菜碟”的行為說明該智能系統(tǒng)仍處于成長(zhǎng)學(xué)習(xí)階段，且在該過程中系統(tǒng)所受到的人為干預(yù)遠(yuǎn)不止訓(xùn)練模型中標(biāo)注出來的那么簡(jiǎn)單，這種實(shí)時(shí)且強(qiáng)有力的人為干預(yù)將ChatGPT的預(yù)設(shè)價(jià)值觀推向了更加隱蔽、更加晦澀的深層次。

GPT與T5、BERT的演化

二是開放可塑的數(shù)據(jù)訓(xùn)練。ChatGPT本質(zhì)上是基于GPT模型，針對(duì)聊天環(huán)境進(jìn)行指向性優(yōu)化的結(jié)果。GPT模型在面對(duì)不同來源的數(shù)據(jù)進(jìn)行學(xué)習(xí)時(shí)，會(huì)根據(jù)數(shù)據(jù)本身“意義分布”的不同而學(xué)習(xí)得到不同的結(jié)果。這意味著，已經(jīng)被ChatGPT證明相對(duì)成熟的GPT模型將可以在差異性數(shù)據(jù)來源的情況下，被培養(yǎng)成為適用于不同領(lǐng)域的特定人工智能。這種可塑性使得GPT系統(tǒng)的發(fā)展前景大大超過以往的自然語(yǔ)言學(xué)習(xí)系統(tǒng)，并且為GPT家族的發(fā)展壯大提供了可能性，也極大地拓寬了其市場(chǎng)前景與應(yīng)用場(chǎng)景。

隨著特定傾向性的數(shù)據(jù)訓(xùn)練，給定的價(jià)值觀會(huì)演變成為工具本身的價(jià)值觀，將會(huì)使ChatGPT以網(wǎng)絡(luò)空間“虛擬人”的身份進(jìn)行輸出，而它所擅長(zhǎng)的自然語(yǔ)言學(xué)習(xí)將會(huì)成為這種輸出的主要路徑與助力。以ChatGPT為代表的智能系統(tǒng)將會(huì)拓展現(xiàn)有網(wǎng)絡(luò)空間，成為元宇宙的重要組成。在元宇宙中，ChatGPT可以催生出一種不具有現(xiàn)實(shí)映射的“虛擬人”，不僅僅以“系統(tǒng)的一部分”的形式存在，而是會(huì)基于其預(yù)設(shè)價(jià)值觀，成為某種價(jià)值觀的代言人，通過網(wǎng)絡(luò)虛擬空間對(duì)現(xiàn)實(shí)世界產(chǎn)生巨大的影響。

三是高度逼真的自主輸出。隨著ChatGPT上線互聯(lián)網(wǎng)，人們發(fā)現(xiàn)ChatGPT已經(jīng)跨越了以往工具在面臨“領(lǐng)會(huì)意圖”這一問題上難以跨越的人機(jī)鴻溝，自然語(yǔ)言學(xué)習(xí)的過程賦予其超越指令的能力。若將其運(yùn)用到認(rèn)知域作戰(zhàn)當(dāng)中，將可替代目前進(jìn)行流量攻擊的“網(wǎng)絡(luò)水軍”。ChatGPT強(qiáng)大的數(shù)據(jù)產(chǎn)生能力與強(qiáng)自主性的概略意識(shí)，將使認(rèn)知攻擊的響應(yīng)時(shí)間更短、行動(dòng)更靈活、反饋更迅速，同時(shí)作戰(zhàn)成本將會(huì)進(jìn)一步降低，作戰(zhàn)向無(wú)人化、智能化邁出了實(shí)質(zhì)一步。

同時(shí)，ChatGPT所帶來的深度造假技術(shù)的提升，使得認(rèn)知域作戰(zhàn)的進(jìn)攻行動(dòng)更加隱蔽。在現(xiàn)有的進(jìn)攻行動(dòng)中，敵方往往需要依托于熱點(diǎn)事件，通過網(wǎng)絡(luò)水軍的集結(jié)來造成輿論攻勢(shì)，進(jìn)而造成部分民眾的認(rèn)知混亂。但是ChatGPT卻能夠脫離熱點(diǎn)事件，取代網(wǎng)絡(luò)水軍的集結(jié)行動(dòng)，將認(rèn)知域作戰(zhàn)的進(jìn)攻行動(dòng)以一種更加平滑的方式融入到日常生活中去。未來的認(rèn)知域作戰(zhàn)所依托的社會(huì)事件熱度將會(huì)進(jìn)一步降低，呈現(xiàn)出多點(diǎn)開花、多線出擊的態(tài)勢(shì)。

ChatGPT在認(rèn)知域作戰(zhàn)中的運(yùn)用場(chǎng)景構(gòu)設(shè)

在人類歷史絕大部分時(shí)間內(nèi)，科學(xué)技術(shù)發(fā)展的最新成果往往被最先應(yīng)用于軍事領(lǐng)域，ChatGPT的武器化勢(shì)在必行，其在認(rèn)知域作戰(zhàn)中有著廣泛的潛在應(yīng)用場(chǎng)景。

利用沉錨效應(yīng)，實(shí)現(xiàn)認(rèn)知預(yù)設(shè)。沉錨效應(yīng)是指：人們做決策前，思維往往會(huì)被所得到的第一信息所左右，第一信息就會(huì)像沉入海底的錨一樣，把你的思維固定在某處，從而產(chǎn)生先入為主的歪曲認(rèn)識(shí)。ChatGPT將會(huì)首先取代網(wǎng)絡(luò)水軍在認(rèn)知域作戰(zhàn)中的生態(tài)位置。強(qiáng)勁的系統(tǒng)架構(gòu)、強(qiáng)大的數(shù)據(jù)處理能力，為ChatGPT帶來的數(shù)據(jù)生產(chǎn)能力以及直接對(duì)接網(wǎng)絡(luò)的機(jī)機(jī)交互模式，將會(huì)使得認(rèn)知域進(jìn)攻作戰(zhàn)在時(shí)空上都更加平均，同時(shí)這種時(shí)空分布狀態(tài)對(duì)進(jìn)攻烈度進(jìn)行積分所得到的總進(jìn)攻強(qiáng)度又會(huì)遠(yuǎn)遠(yuǎn)高于以往。

這種變化所帶來的直接影響就是日常生活中任何一起稍具影響力的社會(huì)事件都有可能成為認(rèn)知域作戰(zhàn)的戰(zhàn)場(chǎng)。ChatGPT的預(yù)設(shè)價(jià)值觀不再需要特定的社會(huì)事件才能進(jìn)行表達(dá)，而是會(huì)廣泛地滲透在社會(huì)的各個(gè)角落，通過扭曲、造謠、帶節(jié)奏的方式從生活中的點(diǎn)滴小事上持續(xù)輸出負(fù)面信息。

ChatGPT強(qiáng)大的信息生產(chǎn)能力，將進(jìn)一步突破信息生產(chǎn)力的上限，加劇個(gè)體“信息過載”狀態(tài)，并對(duì)社會(huì)信息構(gòu)成產(chǎn)生影響。從個(gè)體微觀視角來看，直觀地感受就是負(fù)能量的戾氣充斥在社會(huì)的方方面面，同時(shí)大量具有相同預(yù)設(shè)價(jià)值觀的信息會(huì)在任何社會(huì)實(shí)踐發(fā)生的時(shí)候撲面而來。而且ChatGPT的“不厭其煩”“潛移默化”將會(huì)使得這一過程更加平滑順暢，負(fù)能量信息被包含在一次次看似正常的抱怨、內(nèi)涵與“合理的利益訴求”中，悄悄烙入人們的潛意識(shí)，形成思維底色。這種潛在印象將會(huì)在長(zhǎng)期的加強(qiáng)下慢慢毒化社會(huì)風(fēng)氣、影響對(duì)于特定事件的社會(huì)風(fēng)評(píng)、建立“事件—情緒”的對(duì)應(yīng)關(guān)系，在不知不覺中改變一個(gè)人的認(rèn)知邏輯與行為方式。

打造信息繭房，形成認(rèn)知依賴。信息繭房是信息時(shí)代不可避免的社會(huì)問題，是個(gè)體或群體在信息消費(fèi)過程中因自身或外界的因素而形成的信息來源窄化和觀念極化現(xiàn)象。認(rèn)知域作戰(zhàn)過程中，通過大數(shù)據(jù)對(duì)個(gè)體展開偏好分析，形成個(gè)性化的用戶畫像，為精準(zhǔn)認(rèn)知攻擊提供可能。ChatGPT的強(qiáng)大數(shù)據(jù)處理能力以及較高的自主性使得其可以獲得進(jìn)行偏好分析以及后續(xù)包括相關(guān)信息生產(chǎn)、信息投送的能力。

ChatGPT的智能系統(tǒng)可以實(shí)現(xiàn)偏好抓取到信息投送一體化，具備自主、持續(xù)、自適應(yīng)的認(rèn)知作戰(zhàn)能力。這將會(huì)大大提高現(xiàn)有的信息繭房制設(shè)效率。傳統(tǒng)認(rèn)知域作戰(zhàn)中，對(duì)于個(gè)體或群體信息繭房的制設(shè)，一方面需要長(zhǎng)期的用戶跟蹤、偏好分析和信息投送；另一方面需要借助熱點(diǎn)事件或制造熱點(diǎn)事件才能達(dá)到理想效果，這都要花費(fèi)較大資源，且攻擊過程易被識(shí)別、干擾和破壞。但ChatGPT以平滑的姿態(tài)進(jìn)行進(jìn)程設(shè)計(jì)，并將預(yù)設(shè)的價(jià)值觀安插到任何一起稍具影響的社會(huì)事件中去，不需要借助或制造熱點(diǎn)，使得信息繭房制設(shè)常態(tài)化；ChatGPT高度自主性、智能化，可針對(duì)受到影響的個(gè)體進(jìn)行精準(zhǔn)分類，加大信息投送，促使?jié)撘庾R(shí)中被植入的印象逐漸成長(zhǎng)并在個(gè)人的思想中占據(jù)主導(dǎo)地位，極大提高了信息繭房制設(shè)效率。同時(shí)基于分散社會(huì)事件的信息投送模式也更難被發(fā)現(xiàn)和監(jiān)管，使得認(rèn)知域作戰(zhàn)的進(jìn)攻成本與響應(yīng)速度進(jìn)一步縮減。

強(qiáng)化社群效應(yīng)，塑造群體極化。社群效應(yīng)是指：當(dāng)一部分人群擁有相近的價(jià)值觀時(shí)，就會(huì)在無(wú)形中產(chǎn)生相較于日常人際關(guān)系更為緊密的聯(lián)系。在人口總基數(shù)相對(duì)不變的前提下，當(dāng)越來越多的人群被剝離出主流價(jià)值觀時(shí)，主流價(jià)值觀的影響力就會(huì)受到削弱，一旦信仰主流價(jià)值觀的人口基數(shù)在社會(huì)中不足以達(dá)到大多數(shù)時(shí)，主流價(jià)值觀也會(huì)喪失其主流地位。在這一過程中如果不能確立出新的主流價(jià)值觀或新的主流價(jià)值觀與國(guó)家利益不匹配，那么就會(huì)在事實(shí)上造成社會(huì)凝聚力、向心力的喪失，也就是說在社群效應(yīng)影響下的小團(tuán)體分裂行為最終必然導(dǎo)向社會(huì)原子化，進(jìn)而產(chǎn)生社會(huì)群體的極化。

在認(rèn)知域作戰(zhàn)過程中，認(rèn)知預(yù)設(shè)旨在源源不斷地制造特定人群，擁有“入群”潛力的個(gè)體會(huì)在相關(guān)信息所織造的信息繭房的不斷提純與篩選下，逐步形成對(duì)于這種特定價(jià)值觀信息的認(rèn)知依賴。最后這類經(jīng)過特殊培養(yǎng)、培育的人就會(huì)在自覺或外力的助推下形成抱團(tuán)取暖的小圈子，在被不斷飼養(yǎng)下逐漸成長(zhǎng)，并最終對(duì)主流價(jià)值觀形成挑戰(zhàn)或者與其他意見相悖的小圈子相互攻訐，用混亂的小團(tuán)體亂斗攪亂社會(huì)思想的統(tǒng)一。ChatGPT所擁有的精準(zhǔn)信息投送能力與人群分類能力在這一過程中將會(huì)切實(shí)高效地助長(zhǎng)各類小團(tuán)體的形成。同時(shí)通過向處于信息繭房中的特定人員不斷投放對(duì)應(yīng)信息來制造出一批擁有極化思想的個(gè)人。當(dāng)該類人群人口基數(shù)達(dá)到臨界值后，就通過網(wǎng)絡(luò)將這一類人員組織成為小團(tuán)體并持續(xù)投放相關(guān)信息，使得該團(tuán)體不斷地純化、成長(zhǎng)。這些受到ChatGPT培養(yǎng)的眾多小團(tuán)體都會(huì)在客觀上削弱主流價(jià)值觀的影響力，而這種隱晦繁雜的認(rèn)知進(jìn)攻方式的出現(xiàn)正是基于算力的進(jìn)一步提升以及ChatGPT智能高效的算法架構(gòu)。

應(yīng)對(duì)ChatGPT的策略思考

健全網(wǎng)絡(luò)監(jiān)控體系，實(shí)時(shí)感知輿論態(tài)勢(shì)。網(wǎng)絡(luò)輿情態(tài)勢(shì)感知和監(jiān)測(cè)能力是奪取認(rèn)知域作戰(zhàn)主動(dòng)權(quán)的前提條件，而高效輿論感知網(wǎng)絡(luò)又是基于先進(jìn)算法、具有一定自主分析能力的多維感知系統(tǒng)。需要進(jìn)一步健全網(wǎng)絡(luò)監(jiān)控體系，使之具有網(wǎng)絡(luò)輿論態(tài)勢(shì)感知及溯源能力，并擁有從內(nèi)容重復(fù)性、邏輯性、語(yǔ)法語(yǔ)義等方面開發(fā)的人工智能內(nèi)容鑒別能力。實(shí)現(xiàn)準(zhǔn)確識(shí)別由人工智能控制賬號(hào)發(fā)布的虛假信息以及誘導(dǎo)性言論，對(duì)虛假消息源頭進(jìn)行“發(fā)送、甄別、封禁、溯源、抓捕”的快速反應(yīng)，堵截ChatGPT發(fā)布虛假信息的渠道，削減其參與認(rèn)知域作戰(zhàn)的能力。加強(qiáng)專業(yè)人才隊(duì)伍建設(shè)，形成一支快速反映、靈敏有效、忠誠(chéng)可靠、技術(shù)過硬的認(rèn)知域作戰(zhàn)人才隊(duì)伍，在網(wǎng)絡(luò)環(huán)境下認(rèn)知對(duì)抗的常規(guī)力量對(duì)比中占據(jù)優(yōu)勢(shì)。

堅(jiān)決守住輿論陣地，深化教育宣傳效果。深刻意識(shí)到網(wǎng)絡(luò)空間所具備的主權(quán)特征，全社會(huì)多部門共同參與，將網(wǎng)絡(luò)空間當(dāng)作“數(shù)字領(lǐng)土”一樣進(jìn)行主權(quán)建設(shè)。維護(hù)以社會(huì)主義核心價(jià)值觀為代表的主流價(jià)值觀的主流地位，深化主流價(jià)值觀的宣傳教育，把宣傳陣地牢牢掌握在自己手里。豐富拓展宣傳部門的工作形式與宣傳手段，發(fā)掘符合主流價(jià)值觀的好人好事，樹立典型、弘揚(yáng)正氣，主動(dòng)掌握社會(huì)輿論的定義權(quán)與主導(dǎo)權(quán)。采取人民群眾更加喜聞樂見的方式，深化宣傳教育效果，實(shí)現(xiàn)中華民族傳統(tǒng)文化、中國(guó)特色社會(huì)主義理論體系和國(guó)家建設(shè)社會(huì)實(shí)踐三者有機(jī)結(jié)合，加快實(shí)現(xiàn)四個(gè)自信，正本清源，從根源上杜絕ChatGPT顛倒黑白的一切可能。

堅(jiān)持開展技術(shù)研發(fā)，豐富拓展應(yīng)用手段。實(shí)現(xiàn)以政府為主導(dǎo)、以企業(yè)為主體，構(gòu)建“政產(chǎn)學(xué)軍研用”六位一體的協(xié)同創(chuàng)新機(jī)制，推進(jìn)高精尖技術(shù)的不斷前進(jìn)與應(yīng)用技術(shù)的大規(guī)模應(yīng)用，將平臺(tái)建設(shè)、基礎(chǔ)設(shè)施投資與科技進(jìn)步有效轉(zhuǎn)化成為政府面對(duì)網(wǎng)絡(luò)新興挑戰(zhàn)的反擊力量。在平臺(tái)建設(shè)中借鑒民用互聯(lián)網(wǎng)的先進(jìn)經(jīng)驗(yàn)，實(shí)現(xiàn)網(wǎng)絡(luò)認(rèn)知對(duì)抗諸多力量的扁平化管理；在基礎(chǔ)設(shè)施投資上由政府牽頭、多方參與，在硬件上確保監(jiān)管系統(tǒng)的正常運(yùn)轉(zhuǎn)；在科技進(jìn)步上以監(jiān)管與軍事需求為主導(dǎo)，院校與科研院所充分參與，盡快突破認(rèn)知域作戰(zhàn)態(tài)勢(shì)感知、戰(zhàn)場(chǎng)孿生、用戶畫像等技術(shù)瓶頸，下好應(yīng)對(duì)ChatGPT用于網(wǎng)絡(luò)認(rèn)知對(duì)抗的先手棋。