安全政策遭質(zhì)疑 OpenAI解散AGI（通用人工智能）團(tuán)隊(duì)

前不久OpenAI決定解散專(zhuān)注于AI的長(zhǎng)期風(fēng)險(xiǎn)的“超級(jí)對(duì)齊”團(tuán)隊(duì)（Superalignment team），現(xiàn)在又突發(fā)AGI團(tuán)隊(duì)解散事件。OpenAI的安全政策遭業(yè)界質(zhì)疑。要知道面對(duì)越來(lái)越強(qiáng)大的AI技術(shù)，很多AI企業(yè)在安全政策上持續(xù)加大投入；但是OpenAI似乎在退步？要知道AI技術(shù)如果不加以控制可能會(huì)帶來(lái)災(zāi)難性的后果。若缺乏有效的監(jiān)管與規(guī)劃，AGI的進(jìn)展將面臨更多的不確定性與風(fēng)險(xiǎn)。現(xiàn)在；對(duì)于AGI（通用人工智能）OpenAI真的準(zhǔn)備好了嗎？世界真的準(zhǔn)備好了嗎？

據(jù)外媒報(bào)道，OpenAI公司正在解散其“AGI籌備”團(tuán)隊(duì)，團(tuán)隊(duì)負(fù)責(zé)人Miles Brundage離職，OpenAI公司的AGI團(tuán)隊(duì)就OpenAI自身處理日益強(qiáng)大的人工智能技術(shù)的能力以及世界管理人工智能技術(shù)的準(zhǔn)備情況向公司提供建議。

而OpenAI的AGI籌備團(tuán)隊(duì)負(fù)責(zé)人Miles Brundage在周三通過(guò)Substack發(fā)布的帖子中宣布了這一消息，Miles Brundage透露已經(jīng)完成了他在OpenAI的目標(biāo)。Miles Brundage想要減少偏見(jiàn)；可能會(huì)自己成立一家非營(yíng)利組織，或加入現(xiàn)有的非營(yíng)利組織，未來(lái)將專(zhuān)注于人工智能政策研究和倡導(dǎo)。

事件發(fā)生在OpenAI董事會(huì)可能計(jì)劃將公司重組為營(yíng)利性企業(yè)之際；這就更讓業(yè)界擔(dān)心其安全性。以前的OpenAI是一個(gè)開(kāi)源公司、非營(yíng)利組織，但現(xiàn)在OpenAI似乎真的變了，OpenAI正在設(shè)法實(shí)現(xiàn)利潤(rùn)最大化。

AI落地實(shí)踐的進(jìn)程中；目前業(yè)界多認(rèn)為在研究、開(kāi)發(fā)和應(yīng)用人工智能技術(shù)時(shí)，需要遵循的道德準(zhǔn)則和社會(huì)價(jià)值觀，以確保人工智能的導(dǎo)向正確，如何讓引導(dǎo)AI;使其是受控制的；這是一個(gè)大的前提。確保AI的目標(biāo)是為了讓世界變得更加美好；盡管甚至可以達(dá)到比人類(lèi)更智能的AI系統(tǒng)。技術(shù)創(chuàng)新與安全性兼顧的可能性是需要重點(diǎn)考慮的。