自 AIBOX-1684X 上市后,這個小巧的盒子憑借本地化 AI 的能力,獲得市場一致好評。現(xiàn) Firefly 推出新一款入門級 AI 盒子:AIBOX-1688
該盒子搭載 SOPHON 算能八核 AI 處理器 BM1688,算力高達(dá) 16 TOPS,支持主流大模型的私有化部署,把 AI 的能力私有化,滿足個性化的 AI 部署。
人工智能私有化部署
語言大模型
支持 Transformer 架構(gòu)下超大規(guī)模參數(shù)模型,如 Gemma-2B、Qwen1.5-1.8B、Llama2-7B、ChatGLM3-6B 等大模型的私有化部署。
傳統(tǒng)網(wǎng)絡(luò)架構(gòu)
支持 CNN、RNN、LSTM 等傳統(tǒng)網(wǎng)絡(luò)架構(gòu)。
支持多種深度學(xué)習(xí)框架,包括 TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX 和 Darknet,并支持自定義算子開發(fā)。
Docker 容器化
支持 Docker 容器化管理技術(shù),可方便進(jìn)行鏡像部署。
16TOPS算力AI處理器BM1688
采用 SOPHON 算能 AI 處理器 BM1688,擁有八核 ARM Cortex-A53,最高主頻 1.6GHz,內(nèi)建神經(jīng)網(wǎng)絡(luò)加速引擎 TPU,擁有 32T@INT4 峰值算力、16T@INT8 峰值算力、4T@FP16 / BF16 算力、0.5T@FP32 算力,支持主流編程框架,可廣泛應(yīng)用于 AI 推理、計(jì)算機(jī)視覺等領(lǐng)域。
多路視頻AI處理性能
最高支持 16 路 H.265 / H.264 1080P 視頻解碼,10 路 H.265 / H.264 1080P 視頻編碼,支持 16 路 1080P 高清視頻全流程處理(解碼+ AI 分析),滿足視頻流人臉檢測、車牌識別、智慧城市等各類 AI 應(yīng)用場景的需求。
強(qiáng)大的網(wǎng)絡(luò)通訊能力
支持雙路 1000Mbps 以太網(wǎng) ,高速穩(wěn)定的網(wǎng)絡(luò)通訊方式,滿足不同應(yīng)用場景的需求。
全金屬外殼,高效散熱
配置工業(yè)級全金屬外殼,鋁合金結(jié)構(gòu)導(dǎo)熱,頂蓋外殼側(cè)面采用條幅格柵設(shè)計(jì),保證外部空氣流通,高效散熱,保障在高溫運(yùn)行狀態(tài)下的運(yùn)算性能和穩(wěn)定性。
匠心工藝,美觀精致
頂蓋采用多孔六邊形設(shè)計(jì),簡潔美觀。整機(jī)小巧精致,運(yùn)行穩(wěn)定,滿足工業(yè)級應(yīng)用的需求。
完善的開發(fā)資料
提供配套的源代碼、教程、技術(shù)資料和開發(fā)工具,讓開發(fā)變得更加簡單方便。
廣泛的應(yīng)用場景
AIBOX-1688 可廣泛適用于智能監(jiān)控、AI 教學(xué)、算力服務(wù)、邊緣計(jì)算、大模型私有化部署、數(shù)據(jù)安全和隱私保護(hù)等場景。
-
處理器
+關(guān)注
關(guān)注
68文章
19100瀏覽量
228806 -
AI
+關(guān)注
關(guān)注
87文章
29805瀏覽量
268098 -
大模型
+關(guān)注
關(guān)注
2文章
2274瀏覽量
2356
發(fā)布評論請先 登錄
相關(guān)推薦
評論