AI對(duì)人類有潛在威脅分析

　　AI 對(duì)人類是威脅嗎

　　有新聞報(bào)道稱，人工智能（AI）

　　研究盡管在未來(lái)可能取得成功且前途

　　不可限量，但潛在的長(zhǎng)期風(fēng)險(xiǎn)正逐

　　漸顯示出來(lái)。奧倫·埃齊奧尼（Oren

　　Etzioni）是一位知名的人工智能研究

　　人員，他對(duì)此感到不滿（參見《專

　　家并不認(rèn)為超級(jí)智能對(duì)人類是一種

　　威脅》）。在他直接公開指責(zé)牛津大

　　學(xué) 哲 學(xué) 家 尼 克· 波 斯 特 羅 姆（Nick

　　Bostrom）和他的最新著作《超級(jí)智能》

　　（Superintelligence）后，埃齊奧尼指出，

　　波斯特羅姆提出的“即將出現(xiàn)的人類

　　層級(jí)智能的主要數(shù)據(jù)源”來(lái)自對(duì) AI

　　□艾倫·達(dá)福（Allan Dafoe） 斯圖爾特·羅素（Stuart Russell）

　　人工智能的真正風(fēng)險(xiǎn)

　　最好是期待人類的聰明才智，而非低估它；最好是承認(rèn)風(fēng)險(xiǎn)的存在，而非否認(rèn)它

　　研究人員意見的調(diào)查。在此之后，埃

　　齊奧尼自己也對(duì) AI 研究人員的意見

　　進(jìn)行了調(diào)查，聲稱他得出的結(jié)論推翻

　　了波斯特羅姆的觀點(diǎn)。

　　要知道，埃齊奧尼甚至沒提到為

　　什么他公開譴責(zé)《超級(jí)智能》所造成

　　的影響，這點(diǎn)很重要。他也沒有解釋

　　清楚為什么超級(jí)智能的 AI 可能會(huì)造

　　成無(wú)法把控的負(fù)面影響，為什么提前

　　開始解決 AI 的問題是如此重要。波

　　斯特羅姆并沒有把事實(shí)建立在超人類

　　AI 系統(tǒng)即將來(lái)臨的這個(gè)預(yù)測(cè)上，他在

　　著作中寫道 ：“本書并不是在表明我

　　們正處于人工智能重大突破的開端，

　　也沒有表明我們可以準(zhǔn)確預(yù)測(cè)這一重

　　大進(jìn)展何時(shí)會(huì)發(fā)生?！?/p>

　　因此，在我們看來(lái)，埃齊奧尼的

　　文章轉(zhuǎn)移了讀者的注意力，使讀者沒

　　有關(guān)注該書的核心內(nèi)容。埃齊奧尼以

　　質(zhì)疑調(diào)查結(jié)果為由，直接從個(gè)人偏好

　　的角度出發(fā)攻擊波斯特羅姆。我們覺

　　得有必要更正一下。我們的一位同事

　?。ɡ麪枺┥踔吝€參與了埃齊奧尼的

　　調(diào)查，但卻發(fā)現(xiàn)他的回答完全被埃齊

　　奧尼曲解了。事實(shí)上，根據(jù)我們的詳

　　細(xì)分析，埃齊奧尼的調(diào)查結(jié)果與波斯

　　特羅姆的觀點(diǎn)完全一致。

　　那么，埃齊奧尼是如何得出他的

　　新結(jié)論的呢？他自己設(shè)計(jì)了一份調(diào)查

　　問卷，不過問卷的質(zhì)量比波斯特羅姆