ChatGPT等大型語言模型的出現(xiàn)會帶來哪些風(fēng)險

近日，美智庫蘭德公司高級工程師克里斯托弗·莫頓(Christopher Mouton)在C4ISRNET網(wǎng)站撰文，分析ChatGPT等大型語言模型的出現(xiàn)給國家安全帶來的新風(fēng)險。主要觀點如下：

文章指出，像ChatGPT和Claude這樣的大型語言模型可提供廣泛的有益應(yīng)用。然而，這些語言模型的使用也存在重大風(fēng)險，需要伙伴國之間溝通協(xié)調(diào)，以建立一個堅實的一體化防御機(jī)制，抵御惡意信息行動的威脅。

大型語言模型可以幫助生成創(chuàng)造性的故事情節(jié)，精心策劃營銷活動，甚至創(chuàng)建個性化的餐廳推薦。然而，他們經(jīng)常生成一些明顯錯誤的文本。這種設(shè)計不僅給人工智能的日常應(yīng)用，而且對美國國家安全都將產(chǎn)生深遠(yuǎn)的影響。

人工智能生成的內(nèi)容可以展現(xiàn)出一種被稱為“真實性”的現(xiàn)象?！罢鎸嵭浴币辉~是由電視臺主持人斯蒂芬·科爾伯特在21世紀(jì)初創(chuàng)造出來的，用來描述信息是如何感覺正確的。這一概念強(qiáng)調(diào)，盡管缺乏事實的準(zhǔn)確性，但具有高度連貫邏輯結(jié)構(gòu)的內(nèi)容可以影響聰明、老練的人決定事情的真?zhèn)巍?/p>

我們的認(rèn)知偏見意味著寫得好的內(nèi)容或引人注目的視覺效果會讓敘事看起來比實際更加真實。正如一位研究“真實性”的學(xué)者所描述的那樣：“當(dāng)感覺事情容易處理時，它們就會被認(rèn)為值得信賴。”

美國的敵手可以操縱人工智能模型聽起來“真實”的潛力，模仿人類的寫作，創(chuàng)作連貫的、結(jié)構(gòu)良好且有說服力的句子，以獲得優(yōu)勢?；ヂ?lián)網(wǎng)具有全球影響力，通過顛覆性的“真實性”入侵，為他國介入創(chuàng)造了一個強(qiáng)有力的媒介。

國家行為體正在利用數(shù)字技術(shù)開展敵對信息活動，利用在線工具和信息作戰(zhàn)來達(dá)成他們的利益。國家行為體可以操縱認(rèn)知流利性偏見和真實性來塑造社會政治舞臺，擴(kuò)大人工智能驅(qū)動的語言模型在惡意信息作戰(zhàn)、大規(guī)模魚叉式網(wǎng)絡(luò)釣魚活動以及日益可信的深度偽造媒體中的潛在濫用。

在信息作戰(zhàn)中利用認(rèn)知流利性偏見會給虛假信息披上可信的欺騙性外衣，導(dǎo)致政治制度動搖、社會不穩(wěn)定。

微軟總裁布拉德·史密斯在5月25日的一次演講中表示，美國將“必須特別解決我們最擔(dān)心的外國網(wǎng)絡(luò)影響力作戰(zhàn)，俄羅斯、伊朗等國政府已經(jīng)在開展此類活動?！?/p>

俄羅斯黑客試圖編造烏克蘭總統(tǒng)澤連斯基呼吁烏克蘭人民放下武器的視頻，但這種粗糙的深度偽造行為很容易被識別。但現(xiàn)在很明顯，深度偽造問題已不再是學(xué)術(shù)性問題。現(xiàn)實已經(jīng)表明，惡意視頻、偽造文件和偽造的社交媒體賬戶可能會從最初的被視為粗糙變?yōu)檎鎸崅鬟f欺騙信息。

依賴虛假信息開展的顛覆活動與日俱增，加之惡意行為體加大行動力度，突顯出美國及其盟國做出戰(zhàn)略性回應(yīng)的必要性。為了應(yīng)對這些發(fā)展趨勢，美國決策者們需要制定一項全面的戰(zhàn)略，該戰(zhàn)略應(yīng)建立在警覺的監(jiān)測、積極的預(yù)警及國際合作的基礎(chǔ)上。

該戰(zhàn)略的基石應(yīng)該是對信息環(huán)境進(jìn)行警覺地監(jiān)測。由于人工智能和機(jī)器學(xué)習(xí)的進(jìn)步，持續(xù)監(jiān)測對于早期探測和消除虛假信息活動至關(guān)重要。

這一觀點與美國防部提出的提升“監(jiān)測、分析、表征、評估、預(yù)測和可視化”信息環(huán)境的能力的想法相呼應(yīng)。在2016年版《信息環(huán)境下作戰(zhàn)戰(zhàn)略》中，國防部對此進(jìn)行了詳細(xì)闡述。為落實該戰(zhàn)略，軍隊和情報部門需要專門從事信息作戰(zhàn)的專業(yè)化部隊，他們可以提供對所收集的數(shù)據(jù)進(jìn)行解讀以及基于這些數(shù)據(jù)采取行動所需要的關(guān)鍵專業(yè)知識。

美國政府還需要一套強(qiáng)大的預(yù)警系統(tǒng)，可同時宣傳真相并揭露虛假信息。及時有效的預(yù)警有助于保護(hù)公眾免受虛假敘事的影響，大大降低虛假信息作戰(zhàn)的影響。在這種情況下，真理的力量是一種強(qiáng)大的工具，它是應(yīng)對虛假信息腐蝕作用的有效反制措施。

最后，美國需要強(qiáng)化與國際盟友的戰(zhàn)略伙伴關(guān)系。惡意虛假信息運動的全球性要求反制措施同樣具有全球的廣度。這些伙伴關(guān)系提供了寶貴的當(dāng)?shù)刂R并增進(jìn)了彼此之間信任，二者都可以大幅提高預(yù)警的可信度，增強(qiáng)社會抵御虛假信息的能力。

審核編輯：湯梓紅