你們知道深度學(xué)習(xí)框架制造原理嗎

新一代人工智能技術(shù)的發(fā)展，離不的兩大基礎(chǔ)是：芯片、深度學(xué)習(xí)框架，隨著中國(guó)科研創(chuàng)新能力的提升，這兩方面技術(shù)取得了大量的突破。

當(dāng)然，這也是一種技術(shù)封鎖的倒逼，去年出現(xiàn)的華為芯片供應(yīng)鏈被全面封鎖，和工科神器MATLAB被禁事件，這兩件事情加起來(lái)，迫使我國(guó)要從基礎(chǔ)架構(gòu)平臺(tái)到應(yīng)用系統(tǒng)等，全方位建設(shè)自主知識(shí)的優(yōu)秀產(chǎn)品。

01

發(fā) 展

作為人工智能的核心技術(shù)，深度學(xué)習(xí)來(lái)說(shuō)，無(wú)論是學(xué)術(shù)領(lǐng)域、還是工業(yè)領(lǐng)域，均發(fā)揮著十分重要的作用。

過(guò)去十年，深度學(xué)習(xí)領(lǐng)域涌現(xiàn)了大量算法和應(yīng)用。在這些深度學(xué)習(xí)算法和應(yīng)用涌現(xiàn)的背后，是各種各樣的深度學(xué)習(xí)工具和框架。TensorFlow 和 PyTorch 等深度學(xué)習(xí)框架是機(jī)器學(xué)習(xí)革命的腳手架，它們的廣發(fā)使用，使得許多從業(yè)者能夠使用適合領(lǐng)域特定編程語(yǔ)言，和豐富構(gòu)建模塊，以便于更容易地組裝模型。

回顧深度學(xué)習(xí)框架的演變，深度學(xué)習(xí)框架和深度學(xué)習(xí)算法之間的緊密耦合關(guān)，讓我們知道了這種，互依賴良性循環(huán)，推動(dòng)了深度學(xué)習(xí)框架和工具的快速發(fā)展。

02

趨 勢(shì)

我們正在處于一場(chǎng)人工智能革命的黎明，人工智能領(lǐng)域的新研究和應(yīng)用框架，正在以前所未有的速度涌現(xiàn)。

八、九年前的AlexNet 網(wǎng)絡(luò)，只包含了大概6000 萬(wàn)個(gè)參數(shù)，而 GPT-3 網(wǎng)絡(luò)竟然包含了 1750 億參數(shù)，網(wǎng)絡(luò)規(guī)模在短短不到十年的時(shí)間，迅猛增加了 3000 倍。但我們要知道，人類的大腦包含了100萬(wàn)億個(gè)突觸，也就相當(dāng)于100萬(wàn)億參數(shù)。所以，神經(jīng)網(wǎng)絡(luò)要達(dá)到人類的智能水平還有很大的差距。

這種難以接受的網(wǎng)絡(luò)規(guī)模，對(duì)現(xiàn)有的模型訓(xùn)練和推理的硬件、軟件計(jì)算效率都提出了很大的挑戰(zhàn)。未來(lái)的深度學(xué)習(xí)框架很可能是算法、高性能計(jì)算、硬件加速器和分布式系統(tǒng)的跨學(xué)科成果。

03

挑 戰(zhàn)

然而，對(duì)于深度學(xué)習(xí)相關(guān)的初學(xué)者，還是對(duì)于已經(jīng)從事相關(guān)工作的算法工程師來(lái)說(shuō)，深度學(xué)習(xí)理論太難學(xué)，開(kāi)發(fā)過(guò)程太復(fù)雜，又將許多人拒之于深度學(xué)習(xí)的門(mén)外。

而大廠等一線企業(yè)在這方面的需求也是迫在眉睫，阿里云也正式開(kāi)深，是業(yè)界首個(gè)面向NLP場(chǎng)景的深度遷移學(xué)習(xí)框架。人才渴求之大，人才缺口異常嚴(yán)峻。

編輯：jq