360開源70億參數(shù)模型，助力360k長文本輸入

近日，360公司創(chuàng)始人周鴻祎透露，他們即將發(fā)布基于360智腦7B的新版本（70億參數(shù)模型），并支持全文字符長度達360K（50萬字）的文本輸入。

周鴻祎指出，近期大模型產(chǎn)業(yè)正在以數(shù)據(jù)量為競爭重點，百萬字文本處理能力“有望成為未來標(biāo)配”。他表示，360決定發(fā)布這項功能，以避免相關(guān)行業(yè)研發(fā)者重復(fù)投入精力，同時360K作為長度單位也是象征性的選擇。

此外，周鴻祎也被視為“開源信徒”，他深信開源的力量。

據(jù)悉，360智腦的長文本處理能力已經(jīng)落實在他們的大模型產(chǎn)品——360AI瀏覽器上。周鴻祎亦提及其對小型模型的看法，即小型模型優(yōu)勢在于速度和用戶體驗良好，且只需單機單卡運行，具有較高的性價比。

當(dāng)前，360AI瀏覽器已經(jīng)向用戶提供100萬字的長文本處理能力和網(wǎng)頁、中英論文等常見文檔、音頻、視頻處理服務(wù)，幫助用戶快速實現(xiàn)要點總結(jié)、思維導(dǎo)圖生成等操作。

據(jù)先前的信息披露，京東推出的模型Kimi以及其他國產(chǎn)品牌大模型都已紛紛加入“長文本”戰(zhàn)場，包括百度文心一言預(yù)計下月升級后將開放200至500萬字的長文本能力；360智腦正在試驗500萬字長文本，即將發(fā)布至360AI瀏覽器；阿里通義千問則宣布面向所有用戶提供1000萬字長文檔處理免費服務(wù)。