黃鐵軍：AI安全要同等重視，否則人類面臨巨大風險

以“促進數(shù)碼融合天行備份”為主題的2023（第22屆）中國網絡大會18日在北京開幕。

北京大學計算機學院教授黃鐵軍以“人工智能巨大模型的現(xiàn)狀和展望”為主題發(fā)表了主題演講。

黃鐵軍認為，大型模型有3個典型特征，規(guī)模大，參數(shù)要達到100億，普遍性，人工智能模型什么都能做。當出現(xiàn)性，模型訓練達到一定程度時，會突然出現(xiàn)意想不到的能力。

黃鐵軍指出，今天的chatgpt具有強大的智能，影響力深遠。未來3年，除了語言之外，巨大模型還將迅速擴展視覺，聽覺，身體，行動等普遍智能，其影響將更大。

在談及ai風險時，黃鐵軍表示：“簡單的系統(tǒng)無法控制復雜的系統(tǒng)。如果人工智能智能水平超過人類，人類就不可能完全控制?！薄叭斯ぶ悄艿陌l(fā)展和人工智能風險管理，確實要同時重視，才能迎來光明的未來。”

黃哲說，未來10年：智力革命已經開始，產業(yè)革命解放體力，電力革命解決能源流通，是全新生態(tài)的構建，開放資源開放生態(tài)最終會取得勝利。未來20年：chatgpt是數(shù)據驅動的靜態(tài)智能，未來是時空環(huán)境驅動的體積智能。智能載體不是今天的人工神經網絡，而是像大腦一樣的脈沖神經網絡。超人“電子大腦”：如果不同等重視結構模仿腦、功能腦腦、性能超腦腦、ai的安全，人類將面臨巨大的危險。