AI治理，從分散走向協(xié)同？

作者：陳佳慧? ?

摘要：在大國技術競爭和人工智能（AI）風險認知加劇的背景下，英國于2023年11月召開首屆人工智能安全峰會。會上，中國與美國、英國、歐盟等共同簽署了《布萊切利宣言》（Bletchley Declaration），就全球人工智能治理合作達成初步共識。同月，國家主席習近平與美國總統(tǒng)拜登在舊金山峰會中，宣布就人工智能治理開展政府間對話。全球人工智能治理合作出現(xiàn)積極勢頭。

然而，由于各國治理模式差異和大國博弈，現(xiàn)階段的全球人工智能治理面臨著“風險全球化與治理分散化”的顯著矛盾——歐美國家意圖主導全球人工智能治理，但歐盟、英國、美國的模式和進程有所不同；中國已在監(jiān)管法規(guī)方面取得先發(fā)優(yōu)勢，但廣大發(fā)展中國家在全球治理中仍處邊緣地位。

包括聯(lián)合國在內(nèi)的國際組織、產(chǎn)學界等利益相關方，也在積極推動建立全球治理框架。在動態(tài)博弈過程中，不同治理模式間出現(xiàn)了影響力范圍重合、具體實踐趨同的積極態(tài)勢，也預示了合作的可能性。

鑒于此，中國可以在基于聯(lián)合國框架的多邊人工智能治理模式中發(fā)揮關鍵作用。中國可以通過推動中美在人工智能治理領域的雙軌合作、借勢歐盟推動不同治理模式的接洽、發(fā)揮設立國際人工智能治理機構的“中心協(xié)調(diào)作用”等行動來推動全球人工智能治理合作。

01全球人工智能治理面臨挑戰(zhàn)

2023年3月以來，一系列人工智能大模型的發(fā)布加劇了全球?qū)θ斯ぶ悄艿娘L險認知，客觀上促進了國際合作共識的形成。然而，目前全球人工智能治理呈現(xiàn)出風險全球化、治理分散化、國際組織協(xié)調(diào)不足等特點?？傮w而言，具有實質(zhì)意義的全球人工智能治理框架尚未搭建。

第一，人工智能技術及其風險有全球化的特性。

人工智能技術發(fā)展三大關鍵要素——信息數(shù)據(jù)是跨境流動的，算力基礎設施已嵌入全球產(chǎn)業(yè)鏈，關鍵算法也離不開全球知識網(wǎng)絡的支撐。

此外，人工智能技術的風險是跨國且不確定的。這種風險包括兩類：第一類為與人工智能的開發(fā)和應用相關的直接風險——如技術濫用、結(jié)構性失業(yè)；

第二類為人工智能發(fā)展導致的結(jié)構性風險——如人工智能挑戰(zhàn)人類主體地位、顛覆現(xiàn)有國際體系。這些新舊疊加的風險，無法通過單一國家，也無法通過現(xiàn)有治理結(jié)構來解決。

第二，不同國家的治理模式存在較大差異。

目前，各國的人工智能治理進程大多已超越早期的倫理原則探討階段，進入了制定實質(zhì)性政策的時期，進而形成了“模式多元、治理分散”的多層次治理格局。

由于各國在傳統(tǒng)社會治理模式、科技實力、文化背景上的差異，對于“如何治理”這一問題，各國在具體模式上的分歧長期存在。在國家政府層面，全球已形成以中國、美國、歐盟為代表的三大主要模式，不同模式各有側(cè)重，也有共通之處。

第三，國際組織協(xié)調(diào)力不足。

在國際協(xié)調(diào)層面，包括聯(lián)合國、七國集團（G7）、二十國集團（G20）在內(nèi)的政府間多邊及雙邊機制已成為人工智能治理的重要平臺。此外，其他非政府的多邊交流平臺、行業(yè)自治網(wǎng)絡和技術專業(yè)組織，都就人工智能的倫理準則和具體監(jiān)管機制進行探索和合作。

在科技競賽加劇、各國監(jiān)管格局分散的客觀現(xiàn)實下，由于不同組織和機制間的協(xié)調(diào)不足，國際組織和機制在調(diào)和各國利益、促進國際合作方面進度遲緩。如何加強不同治理模式和體系間的國際協(xié)調(diào)，已成為全球AI治理的關鍵。

02全球人工智能治理的多元模式與積極趨勢

各國在塑造人工智能監(jiān)管框架方面的努力，推動了早期全球人工智能治理格局的形成。由于傳統(tǒng)社會治理模式、科技實力以及文化背景存在差異，各國在全球人工智能治理模式上缺乏足夠的共識。

目前，中國、美國、歐盟的模式具有代表性，其他國家也在推動監(jiān)管框架方面積極行動。同時，以聯(lián)合國為代表的多邊機構積極促進全球合作，并尋求建立全球性的人工智能治理機構。

歐美國家：意圖領導規(guī)則制定權

歐美國家意圖領導全球人工智能治理規(guī)則制定權，但各自的監(jiān)管進程和模式也各有差異。

歐盟：長期堅持強監(jiān)管路徑，鞏固社會基礎。

歐盟通過反壟斷法案、數(shù)據(jù)保護法案及其他監(jiān)管工具，來保證對AI技術的管控。目前，引起最廣泛關注的監(jiān)管措施是歐盟的《人工智能法案》（AI Act）。該法案將為歐盟引入一個共同的、有約束性的AI監(jiān)管法律框架。如通過，該法案將是首個區(qū)域性人工智能監(jiān)管綜合立法。

此外，歐盟也積極將模式推廣至其他國家，以爭奪全球人工智能規(guī)則制定權。預計，該法案將借由“布魯塞爾效應”，即歐盟借助其市場力量塑造國際市場規(guī)范的能力，推動企業(yè)積極游說，促使其他國家的監(jiān)管規(guī)則與之趨同，以此強化其在人工智能治理中的引領優(yōu)勢。

英國：采取促進創(chuàng)新的原則性監(jiān)管路徑。

2023年3月，英國創(chuàng)新科技部發(fā)布人工智能監(jiān)管白皮書，確立了以“促進創(chuàng)新”為監(jiān)管的基礎原則，避免可能扼制創(chuàng)新的立法。英國確立了應對人工智能風險時的跨部門監(jiān)管原則，但尚未制定新的法律或設立單獨的監(jiān)管機構。具體監(jiān)管準則、如何實施原則等細則，仍待填充。英國預計于白皮書發(fā)布的一年內(nèi)，完善系列方案構想。

不同于歐盟，在監(jiān)管的謹慎姿態(tài)上，英國的與美國更為接近。

美國：傾向于行業(yè)自治、審慎監(jiān)管，但科技企業(yè)自我監(jiān)管為主的現(xiàn)狀或有轉(zhuǎn)變。

歷史上，美國傾向于行業(yè)自律和事后問責，因此在技術前景尚未明朗時，政府在加強監(jiān)管方面更為謹慎。同時，美國科技巨頭引領全球技術創(chuàng)新進程，謹慎姿態(tài)可以避免監(jiān)管措施削弱其科技企業(yè)在全球市場的地位。此舉也與各科技企業(yè)自我監(jiān)管、減少外部干預的訴求相匹配。

但是，隨著人工智能治理的社會關注度和國際監(jiān)管的競爭態(tài)勢上升，美國可能會采取更多實質(zhì)性行動。拜登政府于2023年10月簽署一項行政命令，要求公司對聯(lián)邦政府進行風險匯報，并宣布針對人工智能安全采取“迄今為止最強有力的全球行動”。?

美國式治理的特征為：行政命令范圍廣泛，同時更多為原則性闡述，更關注其在全球人工智能治理規(guī)則制定中的領導角色。

中國及發(fā)展中國家：影響力逐漸上升

中國率先出臺國內(nèi)人工智能監(jiān)管法規(guī)，廣泛的發(fā)展中國家在國際人工智能治理中仍處邊緣，但影響力逐步上升。

中國在人工智能監(jiān)管立法層面具有先發(fā)優(yōu)勢。目前，中國已出臺一系列治理原則和具體法規(guī)，不斷完善治理體系，發(fā)展負責任的人工智能。2023年出臺的《生成式人工智能服務管理暫行辦法》（《暫行辦法》）是全球首部針對生成式人工智能的法規(guī)。

《暫行辦法》確定了“發(fā)展”的基調(diào)，減少限制性舉措，并在技術開發(fā)的透明度和準確性、權益保護方面，確立了可操作的監(jiān)管標準。此外，更全面完備的《人工智能法》也已進入立法規(guī)劃進程。

在全球治理層面，中國于2023年10月份提出《全球人工智能治理倡議》。倡議以合作和發(fā)展為基調(diào)，強調(diào)全球人工智能發(fā)展中的平等問題，主張彌合技術和治理能力差距、支持聯(lián)合國框架下的人工智能治理合作。

廣大的發(fā)展中國家可能陷入后發(fā)劣勢。由于技術實力和權力不對稱，技術發(fā)展的后發(fā)國家難以構建“技術自主”能力。在西方發(fā)達國家主導的相關人工智能政府間協(xié)調(diào)機制或倡議中，廣大的亞非拉發(fā)展中國家長期處于被動和邊緣地位。

目前，包括中國在內(nèi)的國家，國際組織和相關倡議，也增加對廣大發(fā)展中國家在人工智能技術發(fā)展的人員培訓、基礎設施、治理經(jīng)驗等方面的支持。發(fā)展中國家內(nèi)部也進行了初步的合作嘗試。

如非洲聯(lián)盟早在2019年就將人工智能納入合作議程，其主導的泛非洲人工智能戰(zhàn)略，旨在推動非洲大陸國家技術能力建設和風險應對能力。

對廣大發(fā)展中國家而言，“發(fā)展”是現(xiàn)階段及未來全球AI治理合作的關鍵議題。

多邊機構：積極行動但缺乏約束力

以聯(lián)合國為代表的多邊機構積極促進全球合作，并尋求新人工智能治理機構的建立。

就全球人工智能治理的領導力量而言，現(xiàn)階段主要的多邊合作機制及倡議，仍由歐美發(fā)達國家的政府、科技巨頭和非政府組織牽頭。非盟、東盟、金磚國家組織和拉美國家，都在嘗試創(chuàng)立多邊人工智能合作框架。從治理合作的形式來看，多邊框架下的人工智能治理合作，多為在現(xiàn)有的多邊組織架構下融入相關議程，或?qū)ＴO人工智能多邊倡議。

論參與方包容性以及議程廣度，聯(lián)合國仍是全球治理中最有代表性的機構。近期，聯(lián)合國推動組建了聯(lián)合國框架內(nèi)的專門人工智能治理實體，以建立和管理國際協(xié)商和監(jiān)管的治理機制。2023年10月，聯(lián)合國秘書長古特雷斯宣布組建聯(lián)合國高級別人工智能咨詢機構（High Level Advisory Body on AI），與各國政府、技術人員、專家學者探討全球人工智能治理的關鍵問題和方案建議，該機構將為聯(lián)合國框架下人工智能管理機構的形式和功能奠定基礎。[6]

但是，從合作產(chǎn)出來看，聯(lián)合國在現(xiàn)階段更多作為規(guī)范引領及建言獻策的“咨詢顧問”角色。除非中美歐等國形成合力，否則難以形成真正有約束力的全球人工治理合作框架。

全球治理的積極態(tài)勢

隨著治理實踐的推進，針對人工智能的不同治理模式之間出現(xiàn)了影響力范圍重合、具體實踐趨同的趨勢，預示了全球進一步合作的可能性。

第一，分散的人工智能治理機制在相互鏈接的過程中，也出現(xiàn)成員范圍、合作內(nèi)容的重疊。

治理模式的影響力外溢是技術發(fā)展和市場演變的客觀進程，但也有權力博弈的主動結(jié)果。一方面，更多發(fā)展中國家也將參與到全球人工智能治理的各項機制中。中國長期關注技術普惠性發(fā)展，在國際機制層面也傾向于能廣泛包容發(fā)展中國家參與其中的多邊機制。近期，歐美國家也更關注發(fā)展中國家的技術鴻溝問題。

英國人工智能安全峰會也加強對非洲國家的人工智能技術發(fā)展援助，幫助更廣泛的國家確立治理規(guī)范。同年10月，G7“廣島人工智能進程”聯(lián)合聲明呼吁G7、GPAI、經(jīng)合組織，開展與發(fā)展中國家和新興經(jīng)濟體的合作。

另一方面，具體實踐為超越意識形態(tài)的務實合作創(chuàng)造了動力。美國一度聯(lián)同“志同道合”的國家，通過科技戰(zhàn)和意識形態(tài)切割，初步打造了以 “制華”為基礎的治理合作機制。但是，在應對全球風險的迫切需求下，美國曾經(jīng)主推的“自由民主”與“數(shù)字威權”二分框架已被貶低。例如，基于意識形態(tài)價值觀創(chuàng)立的GPAI，已不斷加強與其他人工智能治理主體和治理機制的對接，開始吸收印度、土耳其和埃及等更多國家作為成員國。

第二，不同監(jiān)管理念和實踐相互借鑒、趨同，科技企業(yè)成為重要推動力。

在典型治理領域（如倫理準則、個人權利保護、軍事應用）的AI技術應用，現(xiàn)有的多邊合作機制（尤其是聯(lián)合國的相關專門機構）已可供各國就這一新興議題達成部分合作、增進共識。

在新興治理領域（如AI系統(tǒng)或算法透明度等問題），也出現(xiàn)各國監(jiān)管措施上的相互借鑒。如AI系統(tǒng)或算法分類分級，成為框架構建的新方向。目前，中國、美國、歐盟等主要國家均已提出對人工智能系統(tǒng)或算法分類分級管理的要求。

各國人工智能治理也都呈現(xiàn)“軟法”與“硬法”并重的特征。[8]AI Index對127個國家立法記錄的分析顯示，包含“AI”的法案被通過成為法律的數(shù)量從2016年的1個增加到2022年的37個。

最后，不容忽視的是，為了降低企業(yè)跨國經(jīng)營的合規(guī)性成本，科技企業(yè)也將游說推動各國適當監(jiān)管、并且實現(xiàn)規(guī)則對接?？萍计髽I(yè)將是全球治理實踐趨同的重要力量。

03全球人工智能治理前景

如上所述，全球治理模式雖有競爭，但在治理的具體實踐中已出現(xiàn)功能和內(nèi)容的重合。然而，全球人工智能治理從碎片化走向集中還欠缺動能——目前尚未形成一個全球包容、廣納多利益相關方、專門的、更具影響力的全球人工智能治理機構，該機構可以為治理體系搭建的具體進程提供動力。

聯(lián)合國框架下的多邊主義合作，是全球人工智能治理的可行路徑。中國在《全球人工智能治理倡議》也已明確提出要“積極支持在聯(lián)合國框架下討論成立國際人工智能治理機構”。

其他國家以及產(chǎn)學界對此路徑也進行了初步探討。聯(lián)合國框架下的氣候治理和核安全治理的成功經(jīng)驗，也可以為人工智能治理合作提供參考。

如前所述，目前的聯(lián)合國高級別人工智能咨詢機構雖已建立，但以科學研究和智力支持為主。就此而言，聯(lián)合國仍難以成為國際人工智能治理的實質(zhì)性機構。要將聯(lián)合國框架下的全球人工智能治理機構作為全球治理主體、并啟動治理體系搭建的具體進程，至少需要具備以下條件：

技術與政治的適當平衡：

政府間氣候變化專門委員會（IPCC）是全球氣候治理的核心機構，國際原子能機構（IAEA）是全球核安全治理的治理主體，都依賴科學和技術專家團體，并在政治上相對獨立。IAEA還被各國授予在核安全和核不擴散方面有限的監(jiān)督執(zhí)法能力。

同理，在人工智能治理領域，技術中立有助于增進全球政策制定者與各利益相關方之間的風險共識，為全球標準的制定提供智力支持；適當?shù)摹耙?guī)范治理權”，可以促進各方遵守全球標準，也鼓勵更廣泛國家在尊重主權安全的基礎上參與全球合作。

彌合分散體系的橋梁：

IPCC和IAEA都將廣泛的利益相關者也納入合作進程，彌合多元觀點，并有時與利益相關方合作，共同實施項目。該國際人工智能治理機構應能促進不同國家之間、以及相關組織機構之間的交流、協(xié)調(diào)和合作，成為分散的全球治理網(wǎng)絡的中心，確保全球范圍內(nèi)達成統(tǒng)一標準。

具有約束力的全球法規(guī)：

全球法規(guī)與治理機構互為補充。全球氣候治理合作基于《聯(lián)合國氣候變化框架公約》（《公約》）奠定的法律基礎，IPCC為《公約》的完善提供了關鍵智力支持；全球核安全治理的成效也基于《不擴散核武器條約》等國際條約，IAEA受各締約國所托，承擔條約的重要職責和義務。

因此，在國際人工智能治理機構設立后，第二階段目標應是制定具有約束力的全球法規(guī)。一方面，可以確保各類人工智能的開發(fā)和應用符合國際倫理和標準；另一方面，可以成為技術和政治分歧解決方法之一，并加強該機構的主體地位。

創(chuàng)新與風控的雙重使命：

IAEA承擔著“雙重使命”——阻止核武器制造的同時，繼續(xù)分享知識和技術——這與人工智能治理領域“創(chuàng)新推廣與風險管控”的雙重邏輯一致。國際人工智能治理機構也要承擔“技術協(xié)調(diào)員”和“義務監(jiān)督員”的雙重角色。尤其在技術協(xié)調(diào)方面，可以通過設立技術援助與能力建設的相關部門，協(xié)調(diào)或補充現(xiàn)有的人工智能技術和治理援助項目。通過幫助發(fā)展中國家融入全球治理體系，該機構將增強全球在應對人工智能風險時的整體能力。

廣泛主體的包容合作：

任何全球治理中，都需要大國的領導力、多國的協(xié)作以及廣泛的利益相關方的貢獻，缺一不可。尤其在全球人工智能治理中，中美為首的大國在尖端技術發(fā)展、政策制定和國際標準的建立方面扮演著關鍵角色。中國、美國、歐盟是重要的戰(zhàn)略領導力量，大國間的政策和政治分歧是否有效協(xié)調(diào)，是否能為建立新的全球機構創(chuàng)造機會，是全球治理合作的關鍵。

04中國推動全球人工智能治理進程的行動

中國積極推進全球人工智能治理合作是現(xiàn)實所需。同樣，中國可以以人工智能治理合作為抓手，開拓中美合作的新領域，促進國際系統(tǒng)的穩(wěn)定。為更好延續(xù)中美元首舊金山會晤的積極勢頭、推進全球人工智能治理合作進程，可以考慮采取如下措施：

第一，推進中美人工智能領域的“雙軌”合作。

在開發(fā)最為復雜的人工智能模型方面，只有中美兩國具備所需的專業(yè)人才、研究機構以及大規(guī)模的計算能力。?

美國在人工智能領域技術優(yōu)勢顯著，但在監(jiān)管方面相對滯后；中國人工智能技術發(fā)展則處相對后發(fā)地位，但監(jiān)管立法更加完善——在此情況下，中美在治理層面達成合作共識面對重要機遇期。

在落實舊金山首腦峰會成果、積極促進 “一軌”對話、形成高層共識的同時，雙方應同步推進 “二軌”對話，加強研究合作，為落實高層共識提供政策方案。

第二，借勢歐盟推動不同治理模式的接洽。

歐盟在人工智能技術發(fā)展領域較中美缺乏優(yōu)勢。但歐盟在人工智能領域的 “規(guī)范性力量”不容忽視。就治理模式而言，美歐之間的監(jiān)管模式趨同，但理念和利益存有差異。中國與歐盟傾向于立法的強監(jiān)管模式更相近。三方并非不可協(xié)調(diào)。

歐盟將繼續(xù)在全球人工智能治理領域發(fā)揮引領和平衡角色。中國應借勢與歐盟在中歐數(shù)字領域高層對話中，就加強雙方人工智能安全研究機構合作、對接技術規(guī)則、借鑒治理經(jīng)驗展開積極協(xié)商。

第三，發(fā)揮設立國際人工智能治理機構的“中心協(xié)調(diào)作用”。

中國應繼續(xù)深度參與聯(lián)合國主導的多邊治理實踐。在加強中美、中歐對話的同時，也要促進中、美、歐盟各國在組建聯(lián)合國框架下的人工智能治理機構方面達成初步共識。

中國可以采取更切實行動，主動提出動議、或者與美國、歐盟提出聯(lián)合動議，積極支持建立聯(lián)合國框架下的國際人工智能治理機構，向國際社會展示合作意愿和能力。

審核編輯：黃飛