英國(guó)對(duì)AI的定義是什么？監(jiān)管AI的五大原則

人工智能創(chuàng)新者和企業(yè)必須適當(dāng)透明，并能夠解釋他們的AI決策過(guò)程和風(fēng)險(xiǎn)。適當(dāng)水平的透明度和可解釋性被定義為“監(jiān)管者擁有關(guān)于AI系統(tǒng)及其相關(guān)輸入和輸出的足夠信息，以對(duì)其他原則產(chǎn)生有意義的影響?！北O(jiān)管機(jī)構(gòu)可能會(huì)將產(chǎn)品標(biāo)簽和技術(shù)標(biāo)準(zhǔn)作為收集這些信息的選擇。監(jiān)管者還需要澄清特定人工智能技術(shù)的適當(dāng)和可實(shí)現(xiàn)的可解釋程度。

（3）公平

AI應(yīng)該是公平的，不歧視個(gè)人或商業(yè)成果，也不損害他們的合法權(quán)利。監(jiān)管機(jī)構(gòu)可能需要使用相關(guān)法律，如《2010年平等法案》、《1998年人權(quán)法》、《公共部門(mén)平等義務(wù)》、《英國(guó)通用數(shù)據(jù)保護(hù)條例》、《2018年數(shù)據(jù)保護(hù)法案》、《消費(fèi)者和競(jìng)爭(zhēng)法》以及特定部門(mén)的公平要求，制定并發(fā)布適用于其監(jiān)管領(lǐng)域內(nèi)人工智能系統(tǒng)的公平描述。

（4）問(wèn)責(zé)制和治理

管理AI的監(jiān)管措施需要充分地讓AI生命周期中的適當(dāng)行為者對(duì)人工智能的結(jié)果負(fù)責(zé)。監(jiān)管者必須確保對(duì)法規(guī)遵從性有明確的預(yù)期，并且可能需要使用治理程序來(lái)鼓勵(lì)法規(guī)遵從性。DSIT承認(rèn)，在AI產(chǎn)品的生命周期中，誰(shuí)應(yīng)該被分配責(zé)任還不清楚，因此不建議在這個(gè)階段進(jìn)行干預(yù)。相反，DSIT將召集專家、技術(shù)人員和律師來(lái)考慮未來(lái)的適度干預(yù)。

（5）爭(zhēng)議和補(bǔ)救

用戶和其他利益相關(guān)者需要明確的途徑來(lái)質(zhì)疑人工智能造成的任何傷害。政府希望監(jiān)管機(jī)構(gòu)澄清現(xiàn)有的途徑，并鼓勵(lì)和指導(dǎo)受監(jiān)管的實(shí)體，以確保受影響的各方可以通過(guò)非正式或正式的渠道明確質(zhì)疑有害的人工智能結(jié)果。

六、在新框架下，監(jiān)管機(jī)構(gòu)將做些什么？

雖然DSIT的白皮書(shū)沒(méi)有提供監(jiān)管AI技術(shù)的現(xiàn)有監(jiān)管機(jī)構(gòu)的詳盡列表，但所描繪的監(jiān)管框架取決于授權(quán)這些監(jiān)管機(jī)構(gòu)制定針對(duì)具體情況和跨部門(mén)的人工智能方法。這篇論文解釋說(shuō)，創(chuàng)建一個(gè)新的專門(mén)針對(duì)AI的監(jiān)管機(jī)構(gòu)會(huì)給整個(gè)監(jiān)管機(jī)構(gòu)列表帶來(lái)更多的復(fù)雜性和混亂。目前AI的監(jiān)管機(jī)構(gòu)包括健康和安全執(zhí)行局、平等和人權(quán)委員會(huì)以及競(jìng)爭(zhēng)和市場(chǎng)管理局，但該列表可以包括白皮書(shū)中沒(méi)有提到的其他機(jī)構(gòu)。

根據(jù)人工智能的新方法，這些監(jiān)管機(jī)構(gòu)將采取以下措施:

（1）采取相應(yīng)的、支持增長(zhǎng)和支持創(chuàng)新的方法，重點(diǎn)關(guān)注特定AI帶來(lái)的特定風(fēng)險(xiǎn)。

（2）考慮采取相應(yīng)的措施解決優(yōu)先風(fēng)險(xiǎn)，考慮由政府或?yàn)檎M(jìn)行的風(fēng)險(xiǎn)評(píng)估。

（3）設(shè)計(jì)、實(shí)施和執(zhí)行適當(dāng)?shù)谋O(jiān)管要求，將新的AI監(jiān)管原則整合到現(xiàn)有流程中。

（4）制定聯(lián)合指南，以支持AI遵守原則和相關(guān)要求。

（5）考慮工具，如保證技術(shù)和技術(shù)標(biāo)準(zhǔn)，如何支持法規(guī)遵從性。

（6）參與政府對(duì)框架的監(jiān)測(cè)和評(píng)估。

七、英國(guó)將如何實(shí)施這一注重原則的框架？

白皮書(shū)中定義的人工智能五項(xiàng)原則將首先在現(xiàn)有法規(guī)中實(shí)施，并得到中央政府職能部門(mén)的支持。監(jiān)管機(jī)構(gòu)將首先實(shí)施這些原則，以適應(yīng)人工智能的背景和使用。監(jiān)管機(jī)構(gòu)還將合作找出實(shí)施這些原則的障礙。政府將發(fā)揮核心支持作用，以確保該框架按比例運(yùn)作，并有利于AI創(chuàng)新。

只有在必要的情況下，政府才會(huì)出臺(tái)新的立法，制定進(jìn)一步的措施，要求監(jiān)管機(jī)構(gòu)適當(dāng)考慮這些原則，即授權(quán)監(jiān)管機(jī)構(gòu)實(shí)施與其部門(mén)或領(lǐng)域相關(guān)的原則。

八、政府將如何評(píng)估其人工智能框架？

政府界定了七項(xiàng)中央職能，這將有助于政府確定框架是否有效，并確定提高清晰度和協(xié)調(diào)的機(jī)會(huì):

（1）監(jiān)控、評(píng)估和反饋

政府將通過(guò)從行業(yè)、監(jiān)管機(jī)構(gòu)、政府和民間社會(huì)收集相關(guān)數(shù)據(jù)，評(píng)估該框架的跨經(jīng)濟(jì)和特定部門(mén)影響。它還將支持和裝備監(jiān)管機(jī)構(gòu)，以監(jiān)測(cè)和評(píng)估制度的內(nèi)部。通過(guò)跟蹤框架的有效性、相稱性和對(duì)創(chuàng)新的影響，政府希望提供改進(jìn)建議、可能需要額外干預(yù)的情況以及反饋循環(huán)和利益攸關(guān)方參與的必要情況。

（2）支持原則的一致實(shí)施

政府將制定和維護(hù)中央監(jiān)管指南，以幫助監(jiān)管機(jī)構(gòu)實(shí)施AI原則，確定可能妨礙實(shí)施的障礙，并解決監(jiān)管機(jī)構(gòu)解釋原則的不一致和差異。政府將利用這些任務(wù)進(jìn)一步監(jiān)測(cè)這些原則的相關(guān)性以及是否需要對(duì)其進(jìn)行調(diào)整。

（3）跨部門(mén)風(fēng)險(xiǎn)評(píng)估

政府將建立一個(gè)跨經(jīng)濟(jì)和全社會(huì)的人工智能風(fēng)險(xiǎn)登記冊(cè)?？绮块T(mén)風(fēng)險(xiǎn)評(píng)估職能將支持監(jiān)管機(jī)構(gòu)的內(nèi)部風(fēng)險(xiǎn)評(píng)估；監(jiān)控、審查和優(yōu)先處理已知和新的風(fēng)險(xiǎn)；明確新風(fēng)險(xiǎn)中的責(zé)任；支持監(jiān)管機(jī)構(gòu)之間的合作；確定風(fēng)險(xiǎn)覆蓋范圍的差距；并分享風(fēng)險(xiǎn)評(píng)估的最佳做法。

（4）支持創(chuàng)新者(包括試驗(yàn)臺(tái)和沙箱)

政府將消除創(chuàng)新障礙，最大限度地降低法律和合規(guī)風(fēng)險(xiǎn)，以幫助人工智能創(chuàng)新者駕馭監(jiān)管格局。根據(jù)首席科學(xué)顧問(wèn)Patrick Vallance爵士的建議，政府還將建立一個(gè)多監(jiān)管機(jī)構(gòu)的人工智能沙盒。沙盒將測(cè)試監(jiān)管框架如何運(yùn)作，以及監(jiān)管機(jī)構(gòu)或政府是否應(yīng)該解決不必要的創(chuàng)新障礙。政府將首先在一個(gè)人工智能投資高的行業(yè)試點(diǎn)一個(gè)多監(jiān)管機(jī)構(gòu)沙箱，并計(jì)劃隨著時(shí)間的推移將這一能力擴(kuò)展到更多的行業(yè)。政府傾向于一個(gè)沙箱，向參與創(chuàng)新者提供技術(shù)專家和監(jiān)管專家的定制建議，幫助他們克服監(jiān)管障礙。

（5）教育和意識(shí)

政府將引導(dǎo)企業(yè)、消費(fèi)者和公眾在AI和AI監(jiān)管領(lǐng)域?qū)Ш健Ｕ€將鼓勵(lì)監(jiān)管機(jī)構(gòu)利用宣傳活動(dòng)教育AI用戶有關(guān)風(fēng)險(xiǎn)。

（6）地平線掃描

政府將監(jiān)測(cè)AI的新興趨勢(shì)和機(jī)遇，積極召集利益相關(guān)者討論人工智能監(jiān)管框架如何支持AI創(chuàng)新和應(yīng)對(duì)AI風(fēng)險(xiǎn)，并支持進(jìn)一步的AI風(fēng)險(xiǎn)評(píng)估。

九、確保與國(guó)際監(jiān)管框架的互操作性

政府將支持英國(guó)與國(guó)際合作伙伴在人工智能監(jiān)管方面的合作，方法是監(jiān)測(cè)英國(guó)原則與全球方法的一致性，并利用跨境協(xié)調(diào)使英國(guó)框架與國(guó)際司法管轄區(qū)保持一致，并創(chuàng)建監(jiān)管互操作性。

DSIT希望這一新的監(jiān)管框架的適應(yīng)性和相稱性將有助于它為面向未來(lái)的AI監(jiān)管設(shè)定全球規(guī)范。例如，基礎(chǔ)模型是通用AI，它針對(duì)各種任務(wù)對(duì)大量數(shù)據(jù)進(jìn)行訓(xùn)練。因?yàn)榇_定基礎(chǔ)模型如何工作、它們的能力和它們的風(fēng)險(xiǎn)具有挑戰(zhàn)性，所以框架對(duì)中心功能的使用以及對(duì)保證技術(shù)和技術(shù)標(biāo)準(zhǔn)等工具的潛在使用可能有助于最小化它們的潛在風(fēng)險(xiǎn)，同時(shí)允許基礎(chǔ)模型進(jìn)入英國(guó)市場(chǎng)。DSIT還承認(rèn)，基礎(chǔ)模型生命周期中的責(zé)任問(wèn)題將越來(lái)越重要，因?yàn)槟Ｐ椭械娜魏稳毕荻紩?huì)迅速影響到所有下游產(chǎn)品。

然而，白皮書(shū)認(rèn)為，對(duì)有限責(zé)任公司和其他基金會(huì)模式采取具體的監(jiān)管行動(dòng)為時(shí)過(guò)早。干預(yù)過(guò)快可能會(huì)妨礙英國(guó)在各種用例中采用這些模型的能力。相反，英國(guó)將監(jiān)測(cè)和評(píng)估LLM的影響，探索標(biāo)準(zhǔn)和其他工具是否能夠支持負(fù)責(zé)任的創(chuàng)新，然后讓監(jiān)管者與行動(dòng)者合作并對(duì)模式發(fā)展做出反應(yīng)。對(duì)于有限責(zé)任公司，白皮書(shū)建議監(jiān)管機(jī)構(gòu)可以就適當(dāng)?shù)耐该鞫却胧┌l(fā)布指導(dǎo)意見(jiàn)。英國(guó)政府將監(jiān)測(cè)和評(píng)估這些模型，直到監(jiān)管機(jī)構(gòu)和標(biāo)準(zhǔn)可以干預(yù)，以支持良好的治理和實(shí)踐。

十、英國(guó)想要可信人工智能的工具

DSIT認(rèn)為，可信人工智能的工具對(duì)于負(fù)責(zé)任和安全地采用AI至關(guān)重要。白皮書(shū)建議將這些工具分為兩類，以幫助符合其提議的監(jiān)管框架。

第一類包括人工智能保證技術(shù)——包括影響評(píng)估、審計(jì)、性能測(cè)試和正式驗(yàn)證方法——可能有助于英國(guó)AI保證行業(yè)的發(fā)展。這些技術(shù)將測(cè)量、評(píng)估和描述AI在其整個(gè)生命周期中的可信度。這些技術(shù)沒(méi)有具體說(shuō)明，但政府將在2023年春季推出一個(gè)投資組合。

第二類由AI技術(shù)標(biāo)準(zhǔn)組成，這些標(biāo)準(zhǔn)提供了跨供應(yīng)商的共同理解，當(dāng)實(shí)現(xiàn)時(shí)，表明符合框架的原則。AI技術(shù)標(biāo)準(zhǔn)將包括風(fēng)險(xiǎn)管理、透明度、偏見(jiàn)、安全性和穩(wěn)健性方面的通用基準(zhǔn)和實(shí)用指南。政府將與行業(yè)、國(guó)際合作伙伴、英國(guó)合作伙伴和英國(guó)AI標(biāo)準(zhǔn)中心合作。

英國(guó)政府表示，它將對(duì)人工智能技術(shù)標(biāo)準(zhǔn)采用分層方法:

第一層將提供跨監(jiān)管權(quán)限的一致性和共同基礎(chǔ)。監(jiān)管機(jī)構(gòu)將尋求采用非特定部門(mén)的標(biāo)準(zhǔn)，并可用于支持五項(xiàng)AI原則的跨部門(mén)實(shí)施。

第二層將使治理實(shí)踐適應(yīng)特定背景下AI的特定風(fēng)險(xiǎn)，以便監(jiān)管機(jī)構(gòu)可以鼓勵(lì)采用針對(duì)偏見(jiàn)和透明度等問(wèn)題的新標(biāo)準(zhǔn)。

最后，監(jiān)管機(jī)構(gòu)可以在適當(dāng)?shù)臅r(shí)候鼓勵(lì)采用特定部門(mén)的技術(shù)標(biāo)準(zhǔn)，以支持遵守特定部門(mén)的監(jiān)管要求。

十一、關(guān)于人工智能的全球?qū)υ?/strong>