Spectrum 2023年熱門故事: AI啟示錄、ChatGPT幻覺、英偉達(dá)的成功等

來源：IEEE Spectrum

2023年很可能會作為人工智能歷史上最瘋狂、最戲劇性的年份之一載入史冊。2022年年底OpenAI推出了ChatGPT，當(dāng)人們還在努力了解OpenAI ChatGPT的強大功能時，該公司又于2023年3月發(fā)布了最新的大型語言模型GPT-4（大型語言模型本質(zhì)上是面向消費者的應(yīng)用程序背后的大腦）。

2023年整個春季，一些權(quán)威專業(yè)人士都對不斷改進(jìn)的人工智能可能帶來的負(fù)面后果感到擔(dān)憂，即這些后果從令人不安到對生存造成的影響等。首先是一封公開信，呼吁暫停先進(jìn)模型的開發(fā)，然后是一份關(guān)于存在風(fēng)險的聲明、首屆人工智能安全國際峰會，以及美國行政命令和歐盟人工智能法案等具有里程碑意義的法規(guī)。

以下是Spectrum 2023年關(guān)于人工智能的前10篇文章，文章順序根據(jù)讀者閱讀時間排列。一起來品味閱讀可能會載入史冊的2023年人工智能吧……除非2024年更加瘋狂。

10.人工智能藝術(shù)生成器可能被濫用制作NSFW圖像

利用Dall-E 2和Stable Diffusion等文本到圖像生成器，用戶輸入描述他們想要生成的圖像的提示，模型就會完成剩下的工作。雖然他們有保護(hù)措施來防止用戶生成暴力、色情和其他不可接受的圖像，但人工智能研究人員和黑客都樂于找出如何規(guī)避這些保護(hù)措施的方法。對于白帽子和黑帽子來說，破解是新的愛好。

9. OpenAI的Moonshot：解決AI價值對齊問題

OpenAI的Jan Leike的問答深入探討了AI價值對齊問題。一些人擔(dān)心，人類可能會建立超級智能的人工智能系統(tǒng)，這種系統(tǒng)的目標(biāo)與人類的目標(biāo)不一致，從而可能導(dǎo)致人類物種的滅絕。這確實是一個重要的問題，OpenAI正在投入大量資源尋找方法來對尚不存在的問題進(jìn)行實證研究（因為超級智能AI系統(tǒng)尚不存在）。

8. 英偉達(dá)成功的秘訣

英偉達(dá)AI加速GPU讓其迎來了美好的一年，其H-100無疑成為了科技領(lǐng)域最熱門的硬件。該公司的首席科學(xué)家Bill Dally在一次會議上反思了推動英偉達(dá)邁入頂層的四種要素。IEEE Spectrum高級編輯Sam Moore寫道：“摩爾定律只是英偉達(dá)魔法中令人驚訝的一小部分，而新的數(shù)字格式則占很大一部分?！?/p>

7. ChatGPT的幻覺可能會阻礙其成功

困擾大型語言模型的一個問題是他們編造事實的習(xí)慣——用最自信的語氣說出不可預(yù)測的謊言。當(dāng)人們試圖將其用于真正重要的事情（例如撰寫法律摘要）時，這種習(xí)慣就會成為一個特殊的問題。OpenAI認(rèn)為這是一個可以解決的問題，而一些外部專家（例如Meta AI的Yann LeCun）則不同意。

6. 圖表中對2023年人工智能狀況的十大重要見解

這是列表中的列表！每年，Spectrum編輯都會對斯坦福以人為本的人工智能研究所發(fā)布的海量人工智能指數(shù)進(jìn)行分析，將報告提煉成幾張反映最重要趨勢的圖表。2023年的亮點包括訓(xùn)練大型模型的成本和能源需求，以及在招聘博士和構(gòu)建模型方面工業(yè)界相對于學(xué)術(shù)界的主導(dǎo)地位。

5.令人毛骨悚然的新型數(shù)字來世產(chǎn)業(yè)

以下摘錄自Wendy H. Wong所著的《我們，便是數(shù)據(jù)》（We, the Data）一書。這段摘錄對作為新型數(shù)字來世行業(yè)的一部分而出現(xiàn)的服務(wù)進(jìn)行了深入研究：一些公司會在您去世后，代表您發(fā)送消息，另一些公司則允許您記錄故事，其他人可以在以后通過提問來回放。已經(jīng)有一些例子表明人們根據(jù)已故親人留下的數(shù)據(jù)構(gòu)建他們的數(shù)字復(fù)制品。

4. 人工智能啟示錄：記分卡

這個項目是在Spectrum編輯討論真正智能的人工智能方面的從業(yè)者（在該領(lǐng)域工作了數(shù)十年的人）對兩個重要問題持如此截然不同的觀點是多么令人驚訝時產(chǎn)生的。也就是說，今天的大型語言模型是否預(yù)示著人工智能將很快實現(xiàn)超人的智能，而這種超級智能的人工智能系統(tǒng)是否會為智人帶來厄運？為了幫助讀者了解意見的范圍，我們制作了一個記分卡。

3. 200年歷史的數(shù)學(xué)打開了人工智能的神秘黑匣子

眾所周知，為當(dāng)今人工智能提供動力的神經(jīng)網(wǎng)絡(luò)都是黑匣子。研究人員為他們提供訓(xùn)練數(shù)據(jù)并查看結(jié)果，但對中間發(fā)生的情況并沒有太多了解。一組從事流體動力學(xué)研究的研究人員決定使用傅立葉分析（一種數(shù)學(xué)技術(shù)用于識別已經(jīng)存在了大約200年的模型）來研究經(jīng)過訓(xùn)練來預(yù)測湍流的神經(jīng)網(wǎng)絡(luò)。

2. 多鄰國的AI如何學(xué)習(xí)您需要學(xué)習(xí)的內(nèi)容

本文是Spectrum標(biāo)志性的深入研究之一，是由構(gòu)建該技術(shù)的專家撰寫的專題文章。在本例中，它是語言學(xué)習(xí)應(yīng)用程序多鄰國背后的人工智能團(tuán)隊。他們解釋了如何開發(fā)人工智能系統(tǒng)Birdbrain，它利用教育心理學(xué)和機(jī)器學(xué)習(xí)來向用戶提供難度適中的課程，以保持用戶的參與度。

1. GPT-4熱度已經(jīng)降下來了

Spectrum讀者都有逆向思維，因此非常喜歡Rodney Brooks的問答，他自稱是人工智能懷疑論者，在該領(lǐng)域工作了數(shù)十年。Brooks并沒有稱贊GPT-4是邁向通用人工智能的一步，而是提請注意大型語言模型在從一項任務(wù)推廣到另一項任務(wù)方面的困難。他表示，“大型語言模型擅長的是說出聽起來應(yīng)該是什么樣子的答案，但這與應(yīng)該是什么的答案不同”。

審核編輯 黃宇