誰在害怕 人工智能：AI帶給人類的三大挑戰(zhàn)

誰在害怕人工智能：AI帶給人類的三大挑戰(zhàn)

“當(dāng)我看到柯潔在圍棋比賽中負(fù)于機(jī)器時痛哭的畫面，感到些許悲哀。作為世界頂級的圍棋選手，他卻被機(jī)器人擊敗了，并且在賽后說‘我回去讓機(jī)器復(fù)盤檢查錯在哪里’。過去他只需自己復(fù)盤，而現(xiàn)在，機(jī)器會立即指出他的錯誤。這說明，機(jī)器與人力已不處于同一段位了，在機(jī)器面前，人類如同孩童一般。機(jī)器教給人類最初級的下法，而其本身的下法人類已不可理解?！?/p>

“其他行業(yè)也面臨同樣的問題。如果機(jī)器學(xué)會作詩作曲，做出我們普遍喜歡的產(chǎn)品，那人類的生活就將完全改變?？梢韵胂竽莻€時代，杜甫將是極少數(shù)學(xué)院派研究的對象，因為機(jī)器已經(jīng)影響了我們對音樂、美術(shù)、戲劇表演的喜好，我們會喜歡機(jī)器讓我們喜歡的產(chǎn)品?！瘪T象對人工智能深刻改變?nèi)祟惿畹姆治鲆l(fā)了現(xiàn)場觀眾的深思。

世界排名第一的圍棋棋手柯潔對戰(zhàn)“阿爾法狗”

“我是阿爾法，機(jī)器人說，我是人工智能（AI）。人哪，你們準(zhǔn)備好沒有？”馮象在2018年出版的《我是阿爾法論法和人工智能》中寫道。曾經(jīng)看上去屬于未來、屬于科幻的人工智能已經(jīng)深度地介入到我們的生活，帶來了嚴(yán)峻且不可避免的挑戰(zhàn)，未來已經(jīng)來到，一切皆有可能。

4月20日，在文匯講堂暨華東師大第五屆思勉人文思想節(jié)期間，主辦方邀請清華大學(xué)梅汝法學(xué)講席教授、哈佛文學(xué)博士、耶魯法學(xué)博士馮象舉辦了一場“誰害怕人工智能”的講座，馮象從法律的角度切入，分析了人工智能的現(xiàn)在與未來。

清華大學(xué)梅汝法學(xué)講席教授、哈佛文學(xué)博士、耶魯法學(xué)博士馮象

“我”的隱私將變成“他們”的財產(chǎn)

傳感器、刷臉支付、大數(shù)據(jù)......隨著人工智能的發(fā)展，人們的個人隱私變得無處可隱、無法可隱，這也成為人工智能帶來的首要挑戰(zhàn)。機(jī)器智能如此普遍，以至于每個人的行為、習(xí)慣、喜好和信用表現(xiàn)等被忠實(shí)地記錄著，在這背后涉及的法律問題就是個人的隱私權(quán)。

隱私權(quán)是一項非常重要的法律權(quán)利，在美國，隱私權(quán)被確立為***上的基本權(quán)利，而中國正在編纂的統(tǒng)一《民法典》也將隱私權(quán)視為一項重要的民事權(quán)利。在如今的現(xiàn)實(shí)中，個人隱私權(quán)卻正在消失，而且由于機(jī)器智能的便利性，使得對其的維護(hù)也相當(dāng)困難。“我們?yōu)槭裁葱枰[私？我的客戶很樂意把隱私交給我們，因為我們的服務(wù)能給他們帶來不可抗拒的便利?！瘪T象引用了臉書（Facebook）創(chuàng)始人馬克扎克伯格（Mark Zuckerberg）的言論來說明這種困難性。

與知識產(chǎn)權(quán)禁止他人隨意復(fù)制或使用相反，人工智能的商業(yè)模式是用便利的產(chǎn)品和服務(wù)，去換取開放的、免費(fèi)的個人信息。商業(yè)模式的本質(zhì)基礎(chǔ)是對價交易，而我們與各種app簽訂的協(xié)議使得我們付出的對價就是個人信息。個人數(shù)據(jù)被企業(yè)獲取，用于建立數(shù)據(jù)庫，再轉(zhuǎn)賣給第三方或者用于其他用途，例如開發(fā)新產(chǎn)品等等，被稱為“數(shù)字利維坦”（意指其利用數(shù)據(jù)進(jìn)行獨(dú)裁統(tǒng)治）的臉書層出不窮的數(shù)據(jù)丑聞就是一個明顯的例證。

扎克伯格出席臉書數(shù)據(jù)泄露事件聽證會

在信息時代，數(shù)據(jù)成為一種重要資源，其所蘊(yùn)含的巨大價值令業(yè)界希望將其財產(chǎn)化，數(shù)據(jù)的財產(chǎn)化將使得少數(shù)企業(yè)獲得難以估量的財富。雖然現(xiàn)在還沒有對數(shù)據(jù)財產(chǎn)化進(jìn)行***，但它在事實(shí)上已經(jīng)是財產(chǎn)了，因為它是個人與網(wǎng)絡(luò)平臺交易的標(biāo)的物。但馮象對此提出了一系列的質(zhì)問：“試想，若將數(shù)據(jù)財產(chǎn)化，那數(shù)據(jù)的原始主人是誰？難道不是我們每一個人嗎？難道數(shù)據(jù)不是我們的財產(chǎn)嗎？若是這樣思考，臉書就無法運(yùn)營了，因為它需要與幾億人簽訂合同。”

不得不接受的“硬規(guī)則”

人工智能帶來的第二大挑戰(zhàn)，是將我們原有的社會規(guī)則體系轉(zhuǎn)變成“硬規(guī)則”體系?！爸袊鸟R路中間通常都設(shè)有一排鐵柵欄，用于分隔兩個車道，它強(qiáng)迫車輛必須在它自己的那條車道里行駛，不得越界?！瘪T象用一個生活中的現(xiàn)象來解釋什么是硬規(guī)則。

手機(jī)硬規(guī)則通過用戶點(diǎn)擊“同意”進(jìn)入系統(tǒng)，之后會顯示一份字體較孝內(nèi)容復(fù)雜的授權(quán)合同，幾乎一面倒地將權(quán)利給予了運(yùn)營商。馮象將這份授權(quán)合同稱為“誰都看不懂的”合同，引發(fā)了觀眾有些無奈的笑聲。這種單方面為用戶制定的規(guī)則，它的邏輯非常簡單要么同意，要么不用，用戶為了能夠使用并得到便利，一般都會同意。

某APP隱私政策

整個法律制度實(shí)際上被人工智能引領(lǐng)著走向了硬規(guī)則體系的方向，比如阿里巴巴這樣的企業(yè)，現(xiàn)在已擁有非常成熟的糾紛解決機(jī)制，政府也與之合作建立了互聯(lián)網(wǎng)法律。這令人感到無比害怕和憂慮，因為這將導(dǎo)致資本力量過于強(qiáng)大。從中國的國情與黨和政府的立場來看，***必須回應(yīng)民眾的要求、呼聲與利益訴求，這也呼應(yīng)了中國***黨為人民服務(wù)的宗旨。但是，如果規(guī)則的制定權(quán)大量落入企業(yè)手中，其結(jié)果就大為不同了。

硬規(guī)則的制定權(quán)越來越多地歸于商家，將使***迅速擴(kuò)大。馮象將舊富豪洛克菲勒家族與新貴扎克伯格進(jìn)行比較，扎克伯格在短短的幾年中就可以積累起前者幾代人才可以積累的財富。

網(wǎng)絡(luò)技術(shù)、網(wǎng)絡(luò)產(chǎn)業(yè)極大地推動了社會的階級分化，這是全世界都有的一個大問題，去年的“***”事件就引發(fā)了社會對于這一問題的擔(dān)憂。在利益的驅(qū)使下，占有技術(shù)優(yōu)勢的相關(guān)企業(yè)勢必不遺余力地攫取財富和權(quán)力，而資本在市場博弈中具有相當(dāng)?shù)拿つ啃?，正如馬克思所說：“為了100％的利潤，資本就敢踐踏一切人間法律；有300％以上的利潤，資本就敢犯任何罪行，甚至去冒絞首的危險。”

微軟小冰：要是能重來，我也不做李白

2017年，微軟（Microsoft）開發(fā)的人工智能少女小冰創(chuàng)作的詩集《陽光失了玻璃窗》出版，吸引了許多人的關(guān)注，她還曾多次匿名給雜志報紙投稿，被《長江詩刊》《北京晨報》《信報》等刊載。然而，仍有許多人不看好小冰創(chuàng)作的詩歌，認(rèn)為她不過是學(xué)習(xí)了五四以來的新文學(xué)，排列組合生產(chǎn)出幾句“詩”而已，與李白、杜甫相比則是天差地別。

《陽光失了玻璃窗》，作者：小冰，出版社：北京聯(lián)合出版公司，2017年5月。

但馮象指出，微軟研發(fā)小冰的意圖并非是讓她成為李白、杜甫，正如AlphaGo團(tuán)隊研究圍棋并非是出于對圍棋的熱愛，華為研發(fā)5G產(chǎn)品也不是想成為愛因斯坦或牛頓，他們的根本目的只有一個占有市常

因此，小冰下一步如何進(jìn)行商業(yè)化發(fā)展，商業(yè)化之后如何改變我們與下一代對詩歌、文學(xué)以及藝術(shù)的感受，才是需要關(guān)注的大問題。微軟小冰團(tuán)隊以及競爭者們或許已經(jīng)在基因?qū)用嫣剿魅祟悓ξ膶W(xué)和音樂的感受，以研發(fā)出能改變?nèi)祟愓J(rèn)知和喜好的產(chǎn)品，改變?nèi)藱C(jī)關(guān)系。“我將其稱作較為終極的挑戰(zhàn)，因為它改變了生命的意義?！瘪T象對最后一大挑戰(zhàn)的總結(jié)振聾發(fā)聵。

一直以來，無論科學(xué)技術(shù)如何發(fā)展，政治朝代如何更迭，自遠(yuǎn)古留傳下來的宗教、倫理、法律、商業(yè)等方面的人類生活基本都存在共識?，F(xiàn)在，今后的發(fā)展卻可能無法預(yù)測，因為人類內(nèi)心最深處的一些愛好和習(xí)慣，以及智力所能投放的領(lǐng)域?qū)⒈蝗〈?/p>

但馮象在回答觀眾提問時同樣指出，人類最傳統(tǒng)的領(lǐng)域，比如宗教，可能是人工智能無法涉足的，因為機(jī)器不需要宗教。再如人本身對人的依賴和伴侶的需求，正如馬克思所說：“人是社會關(guān)系的總和”，人在這方面的需求可能是人工智能無法替代的。

資本主義因AI而滅***主義的未來

人工智能提供的便利和規(guī)則正在溫水煮青蛙式地將人類逼至無法反抗的境地，在《我是阿爾法》一書中，馮象提出了兩種可能的最終解決方案：一是徹底知識產(chǎn)權(quán)化的***，二是數(shù)據(jù)國有化。“人類如果因AI而亡，一定是拜資本主義所賜；資本主義如果因AI而滅，則機(jī)器人必已認(rèn)識了真理?！?/p>

《我是阿爾法論法和人工智能》，作者：馮象，出版社：中國政法大學(xué)出版社，2018年10月

財富的高度集中必定會誘使更多***和硬規(guī)則的普遍約束，就像***專政一般。相反地，隨著政府部門越來越深地介入商業(yè)活動，最終每次商業(yè)交易都必須由第三方政府參加，市場經(jīng)濟(jì)就會逐漸轉(zhuǎn)變?yōu)橛媱澖?jīng)濟(jì)。而且隨著機(jī)器的大規(guī)模出現(xiàn)，分工不再重要，可能會實(shí)現(xiàn)***主義。

列寧曾說，人類將按照科學(xué)的進(jìn)步程度來接受***主義，***主義在科學(xué)技術(shù)不發(fā)達(dá)的情況下是無法實(shí)現(xiàn)的。1960年代，一位蘇聯(lián)數(shù)學(xué)家提出綜合數(shù)學(xué)模型，解說計劃經(jīng)濟(jì)成功與失敗的可能性，并獲得了諾貝爾經(jīng)濟(jì)學(xué)獎。馮象受此啟發(fā)，認(rèn)為計劃經(jīng)濟(jì)并非過去式，只不過不適合科技欠發(fā)達(dá)的時代。但當(dāng)人工智能大量投入使用時，它將解放人們勞動的雙手，計劃經(jīng)濟(jì)的計劃將非常完善，人類從此進(jìn)入***發(fā)展的必然王國。

但在進(jìn)入公有制社會之前，我們還需對人機(jī)關(guān)系、人機(jī)倫理等進(jìn)行研究和規(guī)范。當(dāng)機(jī)器智能高度發(fā)展時，它將遠(yuǎn)遠(yuǎn)超過人類的知識、判斷力甚至道德選擇，那么讓機(jī)器獲得正確的智能而不是對人類有害的智能就尤為重要了。社會應(yīng)該讓科研受到強(qiáng)有力的倫理和法律的約束，減少錯誤，以降低人類的安全風(fēng)險。

機(jī)器必須理解人類美好生活的含義，才能幫助我們實(shí)現(xiàn)***主義。那么，誰來教育人工智能，怎么教育人工智能？馮象認(rèn)為中國革命給了我們答案。***撰寫的《紀(jì)念白求恩》一文寫道：“白求恩是毫無自私自利之心的人，是純粹高尚的人”。白求恩的理想人格可以給人機(jī)關(guān)系做出榜樣，讓人工智能更好地為人類服務(wù)。