AI具有威脅人類存續(xù)的可能性

　
　有新聞報(bào)道稱，人工智能（AI）

　　研究盡管在未來可能取得成功且前途不可限量，但潛在的長(zhǎng)期風(fēng)險(xiǎn)正逐漸顯示出來。奧倫·埃齊奧尼（Oren

　　Etzioni）是一位知名的人工智能研究人員，他對(duì)此感到不滿（參見《專家并不認(rèn)為超級(jí)智能對(duì)人類是一種威脅》）。在他直接公開指責(zé)牛津大學(xué)哲學(xué)家尼克· 波斯特羅姆（Nick Bostrom）和他的最新著作《超級(jí)智能》

　?。⊿uperintelligence）后，埃齊奧尼指出，波斯特羅姆提出的“即將出現(xiàn)的人類層級(jí)智能的主要數(shù)據(jù)源”來自對(duì) AI

　　CFP供圖

　　研究人員意見的調(diào)查。在此之后，埃 大進(jìn)展何時(shí)會(huì)發(fā)生?！?/p>

　　齊奧尼自己也對(duì) AI 研究人員的意見 因此，在我們看來，埃齊奧尼的

　　進(jìn)行了調(diào)查，聲稱他得出的結(jié)論推翻 文章轉(zhuǎn)移了讀者的注意力，使讀者沒

　　了波斯特羅姆的觀點(diǎn)。 有關(guān)注該書的核心內(nèi)容。埃齊奧尼以

　　要知道，埃齊奧尼甚至沒提到為 質(zhì)疑調(diào)查結(jié)果為由，直接從個(gè)人偏好

　　什么他公開譴責(zé)《超級(jí)智能》所造成 的角度出發(fā)攻擊波斯特羅姆。我們覺

　　的影響，這點(diǎn)很重要。他也沒有解釋 得有必要更正一下。我們的一位同事

　　清楚為什么超級(jí)智能的 AI 可能會(huì)造 （拉塞爾）甚至還參與了埃齊奧尼的

　　成無法把控的負(fù)面影響，為什么提前 調(diào)查，但卻發(fā)現(xiàn)他的回答完全被埃齊

　　開始解決 AI 的問題是如此重要。波 奧尼曲解了。事實(shí)上，根據(jù)我們的詳

　　斯特羅姆并沒有把事實(shí)建立在超人類 細(xì)分析，埃齊奧尼的調(diào)查結(jié)果與波斯

　　AI 系統(tǒng)即將來臨的這個(gè)預(yù)測(cè)上，他在 特羅姆的觀點(diǎn)完全一致。

　　著作中寫道：“本書并不是在表明我 那么，埃齊奧尼是如何得出他的

　　們正處于人工智能重大突破的開端， 新結(jié)論的呢？他自己設(shè)計(jì)了一份調(diào)查

　　也沒有表明我們可以準(zhǔn)確預(yù)測(cè)這一重 問卷，不過問卷的質(zhì)量比波斯特羅姆