繼AutoML后,第四范式發(fā)布軟硬一體化AI集成系統(tǒng)SageOne

6 月 20 日，AI產(chǎn)品和服務(wù)提供商第四范式宣布發(fā)布最新 AI 系列產(chǎn)品SageOne Appliance軟硬一體化AI集成系統(tǒng)，性能較市面開源工具或GPU解決方案至少提高6倍。這是繼 2018 年9 月 18 日第四范式發(fā)布自動(dòng)機(jī)器學(xué)習(xí)平臺(tái)AI 先知 AutoML 與計(jì)算機(jī)視覺平臺(tái)AI 先知 AutoCV 兩款產(chǎn)品之后的又一系列AI新產(chǎn)品。同時(shí)，該公司還發(fā)布了“啟航”合作伙伴計(jì)劃，對(duì)合作伙伴開放“先知”生態(tài)體系建設(shè)。

SageOne Appliance軟硬一體化AI集成系統(tǒng)

在幫助企業(yè)轉(zhuǎn)型及應(yīng)用AI的過(guò)程中，第四范式總結(jié)出企業(yè)AI轉(zhuǎn)型的“1+N”戰(zhàn)略方法?！?”是指利用AI達(dá)到極致效果，在自己的核心業(yè)務(wù)上建立絕對(duì)優(yōu)勢(shì)；“N”是借力科技創(chuàng)新帶來(lái)的基礎(chǔ)設(shè)施成本的降低，規(guī)?；穆涞赜诟鄻I(yè)務(wù)場(chǎng)景，提升整體經(jīng)營(yíng)效率。

第四范式創(chuàng)始人&CEO戴文淵表示，企業(yè)的核心業(yè)務(wù)通常有1或數(shù)個(gè)，在實(shí)際經(jīng)營(yíng)中，核心業(yè)務(wù)創(chuàng)造的營(yíng)收占比可達(dá)80%甚至更多，因而1%的提升就足以改變企業(yè)競(jìng)爭(zhēng)格局。如果企業(yè)能高效地完成一千個(gè)場(chǎng)景的全面覆蓋，即使每個(gè)場(chǎng)景只提升1倍，那也是百分之百的提升。面對(duì)場(chǎng)景眾多的企業(yè)，AI的“規(guī)?；涞亍蹦芰κ瞧髽I(yè)全面智能化轉(zhuǎn)型的關(guān)鍵。

第四范式聯(lián)合創(chuàng)始人、首席架構(gòu)師胡時(shí)偉表示：傳統(tǒng)算力和AI應(yīng)用負(fù)載之間存在天然的鴻溝，傳統(tǒng)算力只是解決在計(jì)算、訪存、I/O帶寬的局部密集問(wèn)題，而AI應(yīng)用負(fù)載則需要解決全部密集的問(wèn)題。發(fā)展企業(yè)級(jí)AI專用算力已經(jīng)成為行業(yè)的普遍共識(shí)和大勢(shì)所趨。

為解決這些問(wèn)題，第四范式發(fā)布了最新AI產(chǎn)品SageOne Appliance軟硬一體化AI集成系統(tǒng)，共發(fā)布 SageOne Advanced、SageOne Standard 和 SageOne WorkStation 三大系列共7款產(chǎn)品，覆蓋大中小企業(yè)中開發(fā)、投產(chǎn)和驗(yàn)證等全部場(chǎng)景應(yīng)用。

據(jù)介紹，SageOne Appliance 的整體架構(gòu)如下圖所示，由AI應(yīng)用、AI平臺(tái)、AI核心引擎和硬件基礎(chǔ)設(shè)施四部分組成。

▌三大核心引擎

第四范式 SageOne 借助自研AI訓(xùn)練引擎、AI推理引擎和AI特征存儲(chǔ)引擎三大引擎的領(lǐng)先技術(shù)，針對(duì)硬件中的芯片、存儲(chǔ)、網(wǎng)絡(luò)等組件進(jìn)行了重新定義，根據(jù)企業(yè)AI應(yīng)用的實(shí)際情況進(jìn)行了專用計(jì)算架構(gòu)、資源管理和調(diào)度等進(jìn)行深度優(yōu)化和加速，為企業(yè) “1+N”AI應(yīng)用提供充沛算力。

AI訓(xùn)練引擎——全面加速高維機(jī)器學(xué)習(xí)過(guò)程

SageOne AI 訓(xùn)練引擎以自研高維機(jī)器學(xué)習(xí)分布式框架GDBT和高維算法為基礎(chǔ)，并使用第四范自主研發(fā)的硬件加速卡4Paradigm ATX800，該卡采用20nm制程，算力達(dá)到1.5TFLOPS，內(nèi)置FlashGBM加速系統(tǒng)，充分用內(nèi)存和高速緩存帶寬，支持自動(dòng)優(yōu)化訓(xùn)練超參數(shù)、高位特征計(jì)算過(guò)程I/O加速和高維 GBDT 訓(xùn)練加速等功能，在企業(yè)應(yīng)用場(chǎng)景中表現(xiàn)出多達(dá) 10 倍的訓(xùn)練性能。

此外，第四范式和英特爾聯(lián)合實(shí)驗(yàn)室針對(duì)最新Cascade Lake-AP處理器的全新AVX512指令集、多核心及主頻利用率和CLX AP微架構(gòu)IO總線的利用率進(jìn)行了全面優(yōu)化。

SageOne內(nèi)置第四范式自主研發(fā)的高維、分布式網(wǎng)絡(luò)通訊協(xié)議Swift，集成P-PRC自研網(wǎng)絡(luò)通信框架、零拷貝數(shù)據(jù)交換協(xié)議等通訊技術(shù)，結(jié)合基于CLX-AP架構(gòu)的參數(shù)服務(wù)器集群。SageOne在高維特征計(jì)算過(guò)程I/O最大10X加速，高維稀疏場(chǎng)景模型訓(xùn)練比GPU提速5X以上，自研pRPC通信框架比百度bRPC和谷歌gRPC提速3-10X。

AI推理引擎，實(shí)時(shí)AI推理能力

SageOne內(nèi)置自研實(shí)時(shí)特征計(jì)算引擎和模型預(yù)估引擎，為企業(yè)AI應(yīng)用提供特征處理過(guò)程免開發(fā)上線、線下線上一致性保證、一鍵生成預(yù)估服務(wù)、異構(gòu)模型統(tǒng)一服務(wù)等AI核心應(yīng)用服務(wù)，結(jié)合非易失性存儲(chǔ)的無(wú)限緩存和超低延遲內(nèi)存存儲(chǔ)等硬件技術(shù)，確保企業(yè)AI應(yīng)用時(shí)具備海量量時(shí)序特征計(jì)算和萬(wàn)億維模型實(shí)時(shí)推理能力的同時(shí)，提供百萬(wàn)級(jí)并發(fā)實(shí)時(shí)請(qǐng)求支持和99.9%請(qǐng)求毫秒級(jí)響應(yīng)的高并發(fā)業(yè)務(wù)極速響應(yīng)服務(wù)。

AI特征存儲(chǔ)引擎，超低延時(shí)在線AI數(shù)據(jù)治理

面向AI的數(shù)據(jù)治理是企業(yè)AI規(guī)?；涞氐幕A(chǔ)，針對(duì)企業(yè)中多源異構(gòu)數(shù)據(jù)對(duì)接、離線在線數(shù)據(jù)一致性管理、回流數(shù)據(jù)自動(dòng)標(biāo)準(zhǔn)及權(quán)限、審計(jì)等眾多治理需求，SageOne借由自研內(nèi)存時(shí)序數(shù)據(jù)庫(kù)引擎的優(yōu)勢(shì)，具備毫秒級(jí)海量時(shí)序特征供給性能，并通過(guò)融合InfiniCache無(wú)限緩存等技術(shù)，實(shí)現(xiàn)自動(dòng)切換存儲(chǔ)介質(zhì)優(yōu)化TCO和 RAFT一致性災(zāi)備與恢復(fù)等高性能企業(yè)級(jí)標(biāo)準(zhǔn)。SageOne利用超低延遲數(shù)據(jù)訪問(wèn)接口、超高數(shù)據(jù)吞吐傳輸通道和水平擴(kuò)展動(dòng)態(tài)擴(kuò)容服務(wù)等突出能力，為企業(yè)AI應(yīng)用構(gòu)建了超低延遲在線數(shù)據(jù)治理能力。

值得一提的是，SageOne 存儲(chǔ)引擎中使用的 RTIDB 是業(yè)界首個(gè)AI特征數(shù)據(jù)庫(kù)。胡時(shí)偉分析道，市面上有很多數(shù)據(jù)庫(kù)，如關(guān)系型數(shù)據(jù)庫(kù)、分析型數(shù)據(jù)庫(kù)等主要是人對(duì)數(shù)據(jù)進(jìn)行處理并得到結(jié)果，但是，AI數(shù)據(jù)庫(kù)要解決的問(wèn)題不是給人看的，而是給機(jī)來(lái)“看”，所以對(duì)于吞吐量、一致性的要求較高。因?yàn)榈谒姆妒揭鉀Q1+N的問(wèn)題，原來(lái)面向傳統(tǒng)應(yīng)用的數(shù)據(jù)庫(kù)應(yīng)用起來(lái)非常不順利，會(huì)產(chǎn)生很多折損，但按照AI數(shù)據(jù)庫(kù)的架構(gòu)，用全量、實(shí)時(shí)、一致性的數(shù)據(jù)標(biāo)注，可以更好地支持核心場(chǎng)景和應(yīng)用。軟件層面要求實(shí)時(shí)性和全量兼顧，這就會(huì)產(chǎn)生內(nèi)存不足、網(wǎng)絡(luò)傳輸吞吐量的問(wèn)題，因

此，軟硬一體化和無(wú)限閃存技術(shù)可以彌補(bǔ)傳統(tǒng)的系統(tǒng)架構(gòu)中內(nèi)存成本太高、磁盤延遲太大的問(wèn)題，以相同的代價(jià)實(shí)現(xiàn)性能提高十倍以上，同時(shí)保持延遲基本相同。

軟件目標(biāo)的體系架構(gòu)和算法的設(shè)計(jì)，再加上硬件的支持，是這套數(shù)據(jù)庫(kù)的特點(diǎn)。

特點(diǎn)：高維計(jì)算、實(shí)時(shí)決策

相比于同類產(chǎn)品，SageOne 的優(yōu)勢(shì)在于高維計(jì)算和實(shí)時(shí)決策。

第四范式自主研發(fā)的高維機(jī)器學(xué)習(xí)算法，面對(duì)企業(yè)海量多源異構(gòu)的數(shù)據(jù)場(chǎng)景，特征維度可以達(dá)到6500萬(wàn)，在同等維度下，大部分的開源工具或GPU解決方案會(huì)以失敗告終。同時(shí)，模型的預(yù)測(cè)效果提升，比如金融風(fēng)控的性能提升9倍，金融反洗錢的效率提高6倍。

另外，SageOne通過(guò)毫秒級(jí)數(shù)據(jù)響應(yīng)和百萬(wàn)級(jí)吞吐量實(shí)時(shí)提升核心業(yè)務(wù)成效，讓原本只能出現(xiàn)于“事后”的統(tǒng)計(jì)分析，轉(zhuǎn)變成為 “事中”實(shí)時(shí)業(yè)務(wù)決策AI應(yīng)用。在企業(yè)核心場(chǎng)景的實(shí)時(shí)業(yè)務(wù)決策中，15個(gè)SageOne推理引擎節(jié)點(diǎn)都?jí)蛑?0億維特征模型實(shí)時(shí)2萬(wàn)次并發(fā)請(qǐng)求，其中99.9%請(qǐng)求在100ms內(nèi)響應(yīng)，大幅提升實(shí)時(shí)決策在核心業(yè)務(wù)場(chǎng)景中的關(guān)鍵價(jià)值。

最后，胡時(shí)偉表示，對(duì)于中小企業(yè)或者處于擁抱AI的初級(jí)階段的公司，可以采用SageOne Standard產(chǎn)品，SageOne WorkStation和SageOne Advanced產(chǎn)品也可以使用。

此外，第四范式還展示了全面國(guó)產(chǎn)化的AI軟硬一體機(jī)——領(lǐng)航，產(chǎn)品內(nèi)置國(guó)產(chǎn)化的CPU、BIOS、網(wǎng)卡和操作系統(tǒng)等軟硬組件，融合了第四范式的企業(yè)級(jí)先知Sage平臺(tái)中自研高維機(jī)器學(xué)習(xí)框架、AutoML和實(shí)時(shí)自學(xué)習(xí)等。

SageOne機(jī)器學(xué)習(xí)框架和算法特點(diǎn)

相比于之前的先知平臺(tái)產(chǎn)品，SageOne在機(jī)器學(xué)習(xí)框架和算法上進(jìn)行了一些改進(jìn)和創(chuàng)新。

胡時(shí)偉表示，從方法論來(lái)講，從高維實(shí)時(shí)這個(gè)角度，SageOne繼承了之前先知平臺(tái)的優(yōu)勢(shì)，但是由于軟硬一體的設(shè)計(jì)，SageOne可以做到純軟做不到的事情，比如硬件和軟件一起加速的設(shè)計(jì)使得企業(yè)可以在同等投入的基礎(chǔ)上性能可以再提升十倍或更高，維度可以進(jìn)一步擴(kuò)大，這個(gè)是原先純軟件方案做不到的。

第二，SageOne引入了存儲(chǔ)引擎，此前軟件是在傳統(tǒng)數(shù)據(jù)平臺(tái)上，但SageOne體系提出了全新的數(shù)據(jù)治理和架構(gòu)，規(guī)模化的應(yīng)用和數(shù)據(jù)閉環(huán)就要靠這個(gè)新的架構(gòu)，因?yàn)閭鹘y(tǒng)大數(shù)據(jù)平臺(tái)底層的硬件架構(gòu)支持不了最新實(shí)時(shí)和一致性需求，所以SageOne引入數(shù)據(jù)庫(kù)產(chǎn)品，這是整個(gè)新的體系架構(gòu)中的創(chuàng)新。

獨(dú)立團(tuán)隊(duì)自研AI芯片，2019年更注重AI創(chuàng)造價(jià)值

軟硬件一體化已成為最近一些公司發(fā)布新產(chǎn)品的趨勢(shì)，將軟件解決方案直接嵌入到硬件設(shè)施中。第四范式也不例外。目前，第四范式在新加坡已經(jīng)有一支十多人規(guī)模的AI芯片研發(fā)團(tuán)隊(duì)，正在進(jìn)行軟硬件一體化的研究。戴文淵表示，現(xiàn)在產(chǎn)業(yè)已經(jīng)從軟件符合算力的階段向軟件定義算力的階段轉(zhuǎn)變，第四范式也將從整體到局部，依次做出改變。

2018 年 12 月 19日，第四范式宣布完成 C 輪融資，融資金額超過(guò) 10 億元人民幣，估值約 12 億美金，成為一支獨(dú)角獸，同時(shí)引入包括國(guó)新、啟迪、保利、三峽、中信、農(nóng)銀、交銀等戰(zhàn)略股東，紅杉中國(guó)繼續(xù)追加投資。2019年2月，第四范式入選CB Insights全球AI百?gòu)?qiáng)榜及領(lǐng)軍獨(dú)角獸榜單。

戴文淵透露，第四范式其實(shí)已經(jīng)有了上市規(guī)劃，但短期內(nèi)暫無(wú)具體計(jì)劃，上市板塊也需靈活選擇。戴文淵強(qiáng)調(diào)，上市不是目的，上市的方式需要適合第四范式的發(fā)展。

目前，第四范式已進(jìn)入金融、醫(yī)療、政府、能源、零售、媒體等領(lǐng)域，加速AI通用平臺(tái)在各行業(yè)的拓展和規(guī)?；涞貞?yīng)用。

最后，如果說(shuō)2017年是AI技術(shù)井噴的一年，2018年是AI 落地的一年，那么 2019 年將會(huì)出現(xiàn)什么現(xiàn)象和改變呢？

對(duì)此，戴文淵給出了自己的想法：“2019年將會(huì)關(guān)注AI在各個(gè)行業(yè)里創(chuàng)造的價(jià)值，過(guò)去我們關(guān)注的是AI公司本身，比如又一個(gè)大牛出來(lái)了，好像寫了很多論文，好像拿了好多錢。但這個(gè)都不是根本，長(zhǎng)期存在價(jià)值一定不是說(shuō)簡(jiǎn)歷好看，而是能不能持續(xù)給企業(yè)產(chǎn)生價(jià)值?！?/p>