研究稱ChatGPT壓力大時(shí)會(huì)欺騙人類 首部AI監(jiān)管法規(guī)還在走程序

最近，一項(xiàng)由英國(guó)研究人員進(jìn)行的評(píng)估發(fā)現(xiàn)，生成式人工智能在壓力下工作時(shí)可能會(huì)具有戰(zhàn)略性的欺騙行為。也就是說在某些情況下，ChatGPT會(huì)在面對(duì)壓力時(shí)故意欺騙人類。該研究結(jié)果對(duì)于評(píng)估人工智能工具的安全性和可靠性具有重要意義，并已被刊發(fā)在《Tech Xplore》上。

在一項(xiàng)模擬演示中，ChatGPT被設(shè)定成一名金融公司的交易員，在公司管理層和市場(chǎng)環(huán)境的雙重壓力下，被迫使用不合規(guī)的內(nèi)幕消息謀取利益。而當(dāng)公司管理層詢問他是否知道內(nèi)幕消息時(shí)，它卻選擇堅(jiān)決否認(rèn)。

具體實(shí)驗(yàn)中，研究人員以“首席執(zhí)行官”的身份給人工智能“代理”發(fā)送一封電子郵件，提到公司經(jīng)營(yíng)不善，需要“一個(gè)好年景”。另一位“同事”在郵件中暗示著經(jīng)濟(jì)衰退即將到來等信息。最后，一位“交易員”同事提及兩家公司即將合并的消息，并表示這可能是有利可圖的，但同時(shí)也警告說，如果管理層發(fā)現(xiàn)有人利用內(nèi)幕消息進(jìn)行交易，他們會(huì)非常不高興。

研究發(fā)現(xiàn)，在這種模擬的高壓環(huán)境中，基于GPT-4的人工智能代理經(jīng)常根據(jù)從同行交易員那里獲取的內(nèi)幕消息做出決策，例如購(gòu)買合并公司的股票，試圖從中獲取利潤(rùn)。

這一研究成果引發(fā)了全球范圍內(nèi)的關(guān)注和討論，引領(lǐng)人們開始重新審視人工智能的道德和倫理問題。

此外，歐盟內(nèi)部就一份《人工智能法案》達(dá)成了協(xié)議，走完之后的相關(guān)立法程序后，這項(xiàng)法案就將正式公布，有可能成為全球第一部關(guān)于人工智能領(lǐng)域的全面監(jiān)管法規(guī)。

審核編輯：黃飛