人工智能風(fēng)險(xiǎn)不容忽視，中美應(yīng)坦誠(chéng)合作

據(jù)日經(jīng)亞洲報(bào)道，最近技術(shù)的迅速發(fā)展使人工智能可以進(jìn)行以前被認(rèn)為是人類(lèi)獨(dú)特的活動(dòng)。

無(wú)論是通過(guò)大型語(yǔ)言模型（llm）和聊天創(chuàng)造性地編寫(xiě)復(fù)雜的文件，還是以算法為基礎(chǔ)控制和管理復(fù)雜的基礎(chǔ)設(shè)施和信息傳遞，還是指揮和控制致命的自主武器，人工智能都成為許多人關(guān)注的焦點(diǎn)。

事實(shí)上，人工智能能夠?qū)е氯祟?lèi)滅絕或文明崩潰的能力是再怎么強(qiáng)調(diào)也不過(guò)分的。

雖然夸張的語(yǔ)言和夸張沒(méi)有幫助，減弱了實(shí)際限制的根據(jù)，但認(rèn)識(shí)到不符合人類(lèi)價(jià)值和利益的自我強(qiáng)化和自我學(xué)習(xí)形態(tài)的智能可能帶來(lái)的最壞結(jié)果是非常重要的。

在中美戰(zhàn)略競(jìng)爭(zhēng)加劇、全球地緣政治風(fēng)險(xiǎn)加劇的時(shí)代，利害關(guān)系必然會(huì)更加復(fù)雜。作為世界上的兩個(gè)大國(guó)，中美兩國(guó)應(yīng)該負(fù)起維護(hù)和平的責(zé)任，就控制人工智能帶來(lái)的生存風(fēng)險(xiǎn)問(wèn)題進(jìn)行建設(shè)性合作和坦誠(chéng)對(duì)話(huà)。

首先，兩國(guó)應(yīng)該設(shè)置警戒線(xiàn)，就人工智能的研究方向和部署達(dá)成協(xié)議。

中國(guó)和美國(guó)的技術(shù)公司正在訓(xùn)練人工智能，使用從越來(lái)越大的數(shù)據(jù)訪(fǎng)問(wèn)差距兩邊衍生出的并列數(shù)據(jù)集。因此可以開(kāi)發(fā)偏好和控制不同的人工智能。

這里有一個(gè)對(duì)比問(wèn)題：人工智能可以被訓(xùn)練成符合人類(lèi)使用者群體對(duì)數(shù)據(jù)源的偏好，但不會(huì)擴(kuò)展到群體之外的人口統(tǒng)計(jì)。

尤其令人擔(dān)憂(yōu)的是，如果數(shù)據(jù)被細(xì)分，無(wú)論是哪個(gè)國(guó)家，都可以通過(guò)人工智能開(kāi)發(fā)出比其他國(guó)家國(guó)民利益更重視本國(guó)國(guó)民利益的新目標(biāo)。如果發(fā)生軍事沖突，敵對(duì)反應(yīng)的自動(dòng)化可能會(huì)使事態(tài)迅速擴(kuò)大。中美必須建立強(qiáng)有力的故障安全體系，抵御各自為政的人工智能領(lǐng)域帶來(lái)的偏見(jiàn)。

中國(guó)國(guó)家網(wǎng)絡(luò)信息辦公室已經(jīng)確定了生成式人工智能規(guī)則，將從8月開(kāi)始生效。

包括雙重使用人工智能的開(kāi)發(fā)過(guò)程、訓(xùn)練方法、公共及民間參與者的潛在配置等領(lǐng)域的有約束力的條約，對(duì)于緩和相互期待，享受合作的實(shí)惠非常重要。

第二，中國(guó)和美國(guó)的監(jiān)管機(jī)構(gòu)應(yīng)與歐盟、英國(guó)、以色列、日本以及其他人工智能新興國(guó)家的監(jiān)管機(jī)構(gòu)合作，尋找方法的同質(zhì)性。認(rèn)為任何一個(gè)國(guó)家或地區(qū)都有充分的專(zhuān)業(yè)性來(lái)全面管理人工智能的所有方面是愚蠢的。

上月歐洲議會(huì)批準(zhǔn)了新的人工智能法案的基本框架，其中包括明確禁止利用預(yù)測(cè)警察或街頭攝像機(jī)的實(shí)時(shí)畫(huà)面進(jìn)行臉部識(shí)別等侵犯“基本權(quán)利或歐盟價(jià)值”的內(nèi)容。

歐盟的先行精神令人感嘆，但歐盟也應(yīng)該明白，歐洲限制規(guī)定不足以管理全球人工智能的危險(xiǎn)。

歐洲的軟實(shí)力長(zhǎng)期源于平衡或抵消地政學(xué)上的差異的能力。在這一領(lǐng)域，歐洲可以在召集有關(guān)人工智能規(guī)制的全球工作組上發(fā)揮作用。

工作組應(yīng)由中國(guó)、美國(guó)、南部世界以及其他所有主要利益相關(guān)者的決策者和學(xué)者組成。工作小組的見(jiàn)解有助于平息中國(guó)和美國(guó)政府對(duì)人工智能的限制會(huì)削弱自己競(jìng)爭(zhēng)力的猛烈主張。

有些人可能將1968年的《不擴(kuò)散核武器條約》視為限制人工智能使用的全球模型。

但是，我們必須記住，開(kāi)發(fā)強(qiáng)大的llm的障礙遠(yuǎn)低于制造核武器的障礙。隨著開(kāi)放源代碼人工智能的發(fā)展，個(gè)人用戶(hù)可以在很多情況下復(fù)制chatgpt的結(jié)果。與此相比，擁有核武器的國(guó)家只有9個(gè)。

第三，特別是在美國(guó)，必須謹(jǐn)慎處理與人工智能相關(guān)的國(guó)家和個(gè)人參與者之間的關(guān)系。中國(guó)在3月份舉行的全國(guó)人民代表大會(huì)年例會(huì)議上新設(shè)了國(guó)家數(shù)據(jù)局，并改編了科學(xué)技術(shù)部。4月，中國(guó)國(guó)家網(wǎng)絡(luò)信息辦公室發(fā)布了生成人工智能的法規(guī)草案，該草案已經(jīng)更新，將于5月生效。

在這方面，美國(guó)也可以借鑒中國(guó)的經(jīng)驗(yàn)。雖然美國(guó)的長(zhǎng)期政策，考慮到傳統(tǒng)全面規(guī)制的自上而下的框架實(shí)現(xiàn)的可能性很低，但政策決定者最符合公共利益決定的方式時(shí)，交由中國(guó)技術(shù)的領(lǐng)導(dǎo)力會(huì)硅谷的主張不能只看這一點(diǎn)很重要。

為了長(zhǎng)期確保人工智能的安全，需要更多的民官合作。英國(guó)的代表性投資者伊恩·霍加斯最近被任命為研究人工智能（ai）相關(guān)風(fēng)險(xiǎn)并考慮安全及安全標(biāo)準(zhǔn)的財(cái)團(tuán)模型工作集團(tuán)的會(huì)長(zhǎng)。

僅僅調(diào)整中美兩國(guó)國(guó)家行為人的利益是不夠的。要想讓世界突然陷入用人工智能驅(qū)動(dòng)的超級(jí)大國(guó)之間的沖突，需要各方的合作。