微軟發(fā)布！人工智能治理：未來(lái)藍(lán)圖

2023年5月25日，美國(guó)微軟公司發(fā)布報(bào)告《AI治理：未來(lái)藍(lán)圖》（Governing AI: A Blueprint for the Future），詳細(xì)介紹了政府在制定人工智能的政策、法律和法規(guī)時(shí)應(yīng)考慮的五項(xiàng)指導(dǎo)方針。

元戰(zhàn)略觀察員精心編譯本報(bào)告，為人工智能治理研究提供參考。

各國(guó)政府正在尋求或制定治理人工智能的新藍(lán)圖?；诒姸嗑o迫的問(wèn)題和議題，本報(bào)告在此提出一個(gè)方案，以幫助人工智能治理取得更快進(jìn)展。該方案認(rèn)同人工智能可以改善人們的生活，同時(shí)也制定了新的治理措施?；谡退綘I(yíng)部門(mén)的倡議，該方案為人工智能治理提出五項(xiàng)建議：

1.搭建并執(zhí)行以政府為主導(dǎo)的人工智能安全新框架；

2.控制關(guān)鍵基礎(chǔ)設(shè)施的人工智能系統(tǒng)必須具備有效的安全防護(hù)措施；

3.基于人工智能技術(shù)架構(gòu)，搭建范圍更廣的法律監(jiān)管框架；

4.提升透明度，確保學(xué)界和公眾可利用人工智能技術(shù)；

5.加強(qiáng)公私合作，用人工智能解決新技術(shù)引發(fā)的社會(huì)挑戰(zhàn)。

通過(guò)該方案，微軟在一定程度上回應(yīng)了美國(guó)白宮最近對(duì)人工智能公司的倡議，承諾確保人工智能的安全性和可靠性。

1、搭建并執(zhí)行以政府

為主導(dǎo)的人工智能安全新框架

微軟以政府工作的最新進(jìn)展為基礎(chǔ)，通過(guò)以下四種方式來(lái)提升人工智能的安全性：

第一，微軟回應(yīng)美國(guó)白宮最近的倡議，承諾將實(shí)施美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）的人工智能風(fēng)險(xiǎn)管理框架。

第二，將通過(guò)采取新措施，進(jìn)一步加強(qiáng)與高風(fēng)險(xiǎn)人工智能系統(tǒng)相關(guān)的工程實(shí)踐，來(lái)完善微軟現(xiàn)有的人工智能測(cè)試工作。

第三，政府可以通過(guò)行政命令推進(jìn)治理進(jìn)程，要求向美國(guó)政府提供關(guān)鍵人工智能系統(tǒng)的供應(yīng)商，應(yīng)當(dāng)自證其正在實(shí)施NIST的人工智能風(fēng)險(xiǎn)管理框架。

第四，與其他行業(yè)領(lǐng)導(dǎo)者和政府合作，制定與高度可靠的基礎(chǔ)模型相關(guān)的新標(biāo)準(zhǔn)。

我們認(rèn)識(shí)到，人工智能的快速發(fā)展帶來(lái)了新的安全問(wèn)題，并且通過(guò)合作制定可操作的標(biāo)準(zhǔn)，以幫助評(píng)估和解決這些問(wèn)題。OpenAI、Google、Anthropic和其他人工智能公司的領(lǐng)導(dǎo)者已提出了重要的想法，為未來(lái)人工智能安全的進(jìn)展奠定基礎(chǔ)。

2、控制關(guān)鍵基礎(chǔ)設(shè)施的人工智能系統(tǒng)

必須具備有效的安全防護(hù)措施

展望人工智能的未來(lái)，控制新技術(shù)潛在風(fēng)險(xiǎn)的基本方法一直以來(lái)都是有效的。該方法就是提前識(shí)別出新產(chǎn)品何時(shí)失控，并部署有效的安全“剎車(chē)”機(jī)制，以確保人工監(jiān)督的有效性、及時(shí)性。

隨著人工智能變得越來(lái)越強(qiáng)大，電網(wǎng)、供水系統(tǒng)和城市交通等關(guān)鍵基礎(chǔ)設(shè)施交由人工智能控制的程度日益加深。因此，我們需要安全“剎車(chē)”機(jī)制來(lái)確保這些系統(tǒng)處于人類(lèi)控制之下。

新的安全要求能為控制關(guān)鍵基礎(chǔ)設(shè)施運(yùn)行的人工智能系統(tǒng)進(jìn)行安全“剎車(chē)”，從而確?；A(chǔ)設(shè)施人工監(jiān)督的有效性、彈性和穩(wěn)健性。政府將定義控制關(guān)鍵基礎(chǔ)設(shè)施的高風(fēng)險(xiǎn)人工智能系統(tǒng)的類(lèi)別，并確保運(yùn)營(yíng)商定期測(cè)試高風(fēng)險(xiǎn)系統(tǒng)，以確保系統(tǒng)安全措施有效。

3、基于人工智能技術(shù)架構(gòu)

搭建范圍更廣的法律監(jiān)管框架

隨著對(duì)人工智能潛在監(jiān)管問(wèn)題的深入思考，我們需要建立一個(gè)與人工智能技術(shù)本身相符的法律和監(jiān)管框架。簡(jiǎn)而言之，法律需要根據(jù)不同行為者在管理人工智能技術(shù)上的不同角色，賦予他們不同的監(jiān)管責(zé)任。

在搭建人工智能的法律監(jiān)管框架時(shí)，一方面，需要將現(xiàn)有的法律保護(hù)措施應(yīng)用于人工智能。

第一，與客戶合作，推動(dòng)他們使用最佳方式來(lái)合法、負(fù)責(zé)地部署人工智能。

第二，監(jiān)管機(jī)構(gòu)需要新的人工智能專業(yè)知識(shí)和能力。

第三，支持廣泛的教育倡議，為立法者、法官和律師提供人工智能技術(shù)和負(fù)責(zé)任的人工智能信息。

第四，人工智能的快速進(jìn)步給立法者或執(zhí)法人員帶來(lái)了新壓力，他們需要了解新的人工智能技術(shù)及其工作原理。

另一方面，針對(duì)高水平能力的人工智能基礎(chǔ)模型制定新的法律法規(guī)。

第一，和其他領(lǐng)先的人工智能開(kāi)發(fā)者共享先進(jìn)人工智能模型的專業(yè)知識(shí)，以降低監(jiān)管門(mén)檻。

第二，確立開(kāi)發(fā)或部署高水平人工智能模型需要滿足的條件。

第三，通過(guò)對(duì)人工智能數(shù)據(jù)中心運(yùn)營(yíng)商施加許可要求，確保有效執(zhí)行高水平人工智能模型的許可制度。

4、提升透明度

確保學(xué)界和公眾可利用人工智能技術(shù)

未來(lái)，有許多人工智能的政策問(wèn)題有待認(rèn)真討論，包括安全與透明度之間的關(guān)系問(wèn)題。在某些領(lǐng)域，許多專家認(rèn)為保密對(duì)于安全至關(guān)重要，尤其是對(duì)于國(guó)家安全和公共安全。除此之外，透明度也很重要，甚至有助于更好地理解安全需求和最佳實(shí)踐。

微軟于2018年采用了人工智能倫理準(zhǔn)則，并將透明度作為六項(xiàng)基本原則之一。在實(shí)施這一原則時(shí)，我們意識(shí)到在不同情況下提供不同類(lèi)型的透明度非常重要。生成式人工智能的出現(xiàn)使得這一原則比以往更加重要，這也是需要持續(xù)進(jìn)行研究和創(chuàng)新的關(guān)鍵領(lǐng)域。為了推動(dòng)該領(lǐng)域的工作，微軟向美國(guó)白宮做出了以下三項(xiàng)承諾：

第一，微軟將發(fā)布年度透明度報(bào)告，向公眾介紹其在負(fù)責(zé)任和安全管理人工智能方面的政策、系統(tǒng)、進(jìn)展和表現(xiàn)。

第二，微軟將支持建立一個(gè)開(kāi)放的、供公眾查閱的國(guó)家高風(fēng)險(xiǎn)人工智能系統(tǒng)注冊(cè)機(jī)構(gòu)，讓公眾了解這些系統(tǒng)的使用情況和方式。

第三，微軟承諾確保其人工智能系統(tǒng)在與公眾互動(dòng)時(shí)能夠清晰地向其傳達(dá)系統(tǒng)的能力和不足。

第四，微軟認(rèn)同在重要場(chǎng)景中需標(biāo)記人工智能生成的內(nèi)容，以便公眾“知曉所接收的內(nèi)容”。

5、加強(qiáng)公私合作

用人工智能解決新技術(shù)引發(fā)的社會(huì)挑戰(zhàn)

微軟相信，公共和私營(yíng)部門(mén)可以聯(lián)合起來(lái)利用人工智能來(lái)改善世界，其中包括對(duì)抗技術(shù)變革所帶來(lái)的挑戰(zhàn)。微軟對(duì)未來(lái)保持清醒的認(rèn)識(shí)，并意識(shí)到有些人試圖將人工智能作為武器而不是工具，技術(shù)變革會(huì)不可避免地帶來(lái)難以預(yù)料的困難和問(wèn)題。

近年來(lái)，人們?cè)絹?lái)越關(guān)注解決民主社會(huì)所面臨的新風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)源于人工智能的潛在武器化。我們對(duì)未來(lái)技術(shù)的擔(dān)憂是合理的，需要共同努力來(lái)對(duì)抗這種威脅。

在這一進(jìn)程中，內(nèi)容溯源和真實(shí)性聯(lián)盟（C2PA）至關(guān)重要。該聯(lián)盟由Adobe、BBC、Intel、Microsoft、Sony和Truepic等公司共同創(chuàng)立，整合了Adobe領(lǐng)導(dǎo)的內(nèi)容真實(shí)性倡議（CAI），該倡議致力于為數(shù)字媒體提供歷史背景，以及Microsoft和BBC領(lǐng)導(dǎo)的Project Origin倡議，旨在解決數(shù)字新聞生態(tài)系統(tǒng)中的虛假信息問(wèn)題。

正如微軟首席科學(xué)官埃里克·霍維茨去年所說(shuō)，公私合營(yíng)的成功需要采取“多管齊下的方法，包括媒體素養(yǎng)、意識(shí)和警覺(jué)性的培養(yǎng)，以及投資高質(zhì)量傳媒業(yè)的發(fā)展”。

微軟將推出一套新的先進(jìn)溯源工具，幫助公眾識(shí)別人工智能生成的視聽(tīng)內(nèi)容并了解其來(lái)源。在年度開(kāi)發(fā)者大會(huì)上，微軟宣布正在開(kāi)發(fā)新的媒體溯源服務(wù)。該服務(wù)將使用元數(shù)據(jù)標(biāo)記和簽名來(lái)驗(yàn)證人工智能生成的視頻和圖像的真實(shí)性，該服務(wù)將按照C2PA的規(guī)范來(lái)實(shí)施。微軟將支持主流的圖像和視頻格式，并將該服務(wù)提供給兩款新人工智能產(chǎn)品Microsoft Designer和Bing Image Creator使用。這是一個(gè)重要措施，但也只是眾多措施中的一個(gè)。幸運(yùn)的是，許多人也正在采取類(lèi)似且關(guān)鍵的行動(dòng)，因此，需要將相關(guān)實(shí)踐與更廣泛的倡議結(jié)合起來(lái)。