OpenHarmony城市技術論壇武漢站：探索大模型時代的終端操作系統(tǒng)創(chuàng)新

2023年12月23日下午,OpenHarmony城市技術論壇(以下簡稱“技術論壇”)——第6期(武漢站)于華中科技大學梧桐語問學中心明德報告廳圓滿舉辦。本次技術論壇聚焦“大模型時代的系統(tǒng)軟件”,旨在探索AI大模型在終端操作系統(tǒng)領域的創(chuàng)新趨勢和挑戰(zhàn)。論壇從“終端操作系統(tǒng)十大技術挑戰(zhàn)”出發(fā),邀請了學術界和工業(yè)界的資深專家,共同探討AI系統(tǒng)軟件基礎設施、邊緣智能系統(tǒng)、大模型安全、智能化系統(tǒng)軟件分析等關鍵技術。論壇匯集了業(yè)界前沿的觀點和見解,為終端操作系統(tǒng)領域的未來發(fā)展指明了方向。

本次技術論壇由OpenHarmony項目群技術指導委員會(以下簡稱“OpenHarmony TSC”)主辦,華中科技大學OpenHarmony技術俱樂部承辦,武漢大學OpenHarmony技術俱樂部協(xié)辦。華中科技大學教授、OpenHarmony技術俱樂部主任王浩宇擔任出品人。

出席本次論壇的嘉賓陣容強大,包括華中科技大學人工智能與自動化學院副院長鐘勝、網絡空間安全學院副院長陳凱擔任本次技術論壇的主持人,以及邀請到了學術界和工業(yè)界的多位專家學者包括:北京大學計算機學院教授、副院長郭耀;中國科學院自動化研究所副總工程師、武漢人工智能研究院院長王金橋;華為MindSpore架構師李政;上海交通大學助理研究員糜澤羽;統(tǒng)信軟件終端操作系統(tǒng)產線架構師李鶴;中國科學院信息工程研究所副研究員孟國柱;華中科技大學網絡空間安全學院副教授李珍;北京郵電大學計算機學院副研究員徐夢煒;武漢大學國家網絡安全學院副研究員李霏;華中科技大學網絡空間安全學院副研究員周威。他們的報告為聽眾帶來了深刻的洞見,并就大模型時代系統(tǒng)軟件的創(chuàng)新方向進行了深入的探討。

此外,本次論壇還得到了眾多業(yè)界嘉賓的支持,華中科技大學網絡空間安全學院執(zhí)行院長鄒德清、院長助理湯學明;北京郵電大學未來學院副院長喻鵬;武漢大學OpenHarmony技術俱樂部主任張立強;OpenHarmony TSC秘書處副主任張蕃等多位嘉賓出席本次技術論壇。他們的參與進一步提升了論壇的影響力和權威性。

合影留念

技術論壇出品人:華中科技大學教授、OpenHarmony技術俱樂部主任 王浩宇

技術論壇主持人:華中科技大學人工智能與自動化學院副院長 鐘勝

技術論壇主持人:華中科技大學網絡空間安全學院副院長 陳凱

華中科技大學網絡空間安全學院執(zhí)行院長鄒德清為本次技術論壇致辭。他表示,在當今數字化快速發(fā)展的時代,大模型技術已成為引領創(chuàng)新浪潮的關鍵力量。OpenHarmony 等系統(tǒng)軟件在推動城市科技進步方面發(fā)揮著舉足輕重的作用,不僅加速了數字城市的智能化進程,還促使我們深入思考如何在這一過程中保障系統(tǒng)的穩(wěn)定性和網絡的安全性。本次論壇旨在匯聚智慧、碰撞思想,期待各位專家學者能夠分享在大模型時代系統(tǒng)軟件領域的成果和經驗,共同探討如何更好地應對網絡空間安全的挑戰(zhàn)。讓我們攜手努力,共同推動OpenHarmony在大模型時代的創(chuàng)新發(fā)展,為構建安全、穩(wěn)定、智能的數字城市貢獻智慧和力量。

華中科技大學網絡空間安全學院執(zhí)行院長 鄒德清

北京大學計算機學院教授、副院長郭耀在《面向大模型的泛在操作系統(tǒng):挑戰(zhàn)與展望》的報告中深入探討了新一代信息技術背景下,大模型與泛在操作系統(tǒng)(Ubiquitous Operating System, UOS)的緊密關聯(lián)。他指出,隨著人機物融合泛在計算時代的來臨,新型應用模式與場景對操作系統(tǒng)提出了更高的要求。在報告中,郭耀詳細介紹了泛在操作系統(tǒng)的概念、架構與實例。他深入剖析了大模型對操作系統(tǒng)帶來的技術挑戰(zhàn),并展望了大模型和操作系統(tǒng)結合的未來發(fā)展方向。

北京大學計算機學院教授、副院長 郭耀

中國科學院自動化研究所副總工程師、武漢人工智能研究院院長王金橋在《多模態(tài)大模型的發(fā)展與思考》的報告中深入探討了多模態(tài)大模型在人工智能領域的突破與前景。他指出,近年來,隨著大算力、大數據和AI算法的快速發(fā)展,以ChatGPT、GPT-4等為代表的人工智能大模型的成功標志著人工智能從以專用小模型訓練為主的“手工作坊時代”邁入到以通用大模型預訓練為主的“工業(yè)化時代”,成為新一代人工智能發(fā)展分水嶺。王金橋詳細分析了大模型的技術發(fā)展現(xiàn)狀,能力涌現(xiàn)機理及其存在的問題。他深入介紹了多模態(tài)大模型紫東太初的研發(fā)歷程、關鍵技術和當前進展等情況,以及知識增強的大模型方法,并探討了大模型的行業(yè)應用和未來發(fā)展趨勢。

中國科學院自動化研究所副總工程師、武漢人工智能研究院院長 王金橋

華為MindSpore架構師李政在《MindSpore端側大模型部署助力OS智能化》的報告中提到,生成式AI大模型如ChatGPT正悄然改變人們工作和生活方式。當AI大模型與智能終端相結合,勢必為用戶帶來前所未有的全新體驗。然而,受限于終端設備的算力和存儲,AI大模型在端側的部署仍面臨諸多技術挑戰(zhàn)。在報告中,李政詳細闡述了云端邊全場景訓推一體開源AI框架“MindSpore”的架構設計與功能特性,并進一步分享了MindSpore在大模型端側部署及推理加速領域的相關探索與實踐,展示了如何通過技術創(chuàng)新克服挑戰(zhàn),實現(xiàn)大模型在智能終端的高效部署。

華為MindSpore架構師 李政

上海交通大學助理研究員糜澤羽在《PowerInfer: 面向消費級顯卡的大模型快速推理框架》的線上報告中介紹了生成式大語言模型(LLM)在創(chuàng)造性寫作、高級代碼生成和復雜自然語言處理任務方面的強大能力,并指出這些能力使得LLM受到了廣泛關注。然而,由于消費級顯卡的內存容量有限,因此本地部署大語言模型存在較大挑戰(zhàn)。針對這一問題,糜澤羽提到“PowerInfer”作為面向消費級顯卡的大模型快速推理框架,該框架利用大語言模型推理中固有的高局部性(神經元激活的冪律分布),設計了一種GPU-CPU混合推理引擎,減少了GPU內存需求和CPU-GPU數據傳輸,從而顯著提升了大語言模型在本地部署環(huán)境上的推理速度。

上海交通大學助理研究員 糜澤羽

統(tǒng)信軟件終端操作系統(tǒng)產線架構師李鶴在《deepin操作系統(tǒng)的大模型探索之旅》的報告中,分析了大語言模型在桌面操作系統(tǒng)的發(fā)展趨勢和應用情況,介紹了deepin操作系統(tǒng)在大語言模型應用方面的研究,包括deepin操作系統(tǒng)的各個系統(tǒng)組件和應用軟件,如智能助手、郵箱、瀏覽器、文件管理器、deepin IDE對在線大模型以及本地模型的應用情況。

統(tǒng)信軟件終端操作系統(tǒng)產線架構師 李鶴

中國科學院信息工程研究所副研究員孟國柱在《面向軟件開發(fā)的大模型安全評估與風險探討》的報告中深入探討了大模型在軟件開發(fā)領域的應用及其帶來的安全問題。他指出,隨著大模型研究的快速發(fā)展,并逐漸應用于軟件開發(fā)的多個領域,如代碼的自動生成、功能補全、缺陷修復等。然而,與此同時,大模型的安全風險也逐漸凸顯。孟國柱強調了訓練過程的不可知性可能使大模型容易受到錯誤或缺陷代碼的影響,“幻覺”問題使得生成的代碼不可控,針對大模型的越獄攻擊使模型的輸出被劫持等風險。在報告中,孟國柱對大模型在軟件開發(fā)領域的能力進行了全面評估,深入分析了存在的問題和潛在風險。他強調了應對大模型安全挑戰(zhàn)的迫切性,并呼吁業(yè)界共同探討有效的解決方案,以確保大模型在軟件開發(fā)中的安全應用。

中國科學院信息工程研究所副研究員 孟國柱

華中科技大學網絡空間安全學院副教授李珍在《大模型下的系統(tǒng)軟件漏洞檢測》的報告中探討了深度學習技術驅動的系統(tǒng)軟件漏洞檢測的現(xiàn)狀與前景。她指出,隨著深度學習技術的發(fā)展,在數據驅動下,采用人工智能技術,自動學習漏洞模式以檢測系統(tǒng)軟件中的漏洞已成為一種趨勢。然而目前方法存在系統(tǒng)軟件可獲得的漏洞代碼數量少、樣本中存在大量漏洞無關語句、漏洞行定位和漏洞類型預測準確率低等問題。李珍強調,大模型的出現(xiàn)為系統(tǒng)軟件的智能漏洞檢測帶來了新的機遇。她在報告中分享了在大模型下系統(tǒng)軟件漏洞檢測方面的探索,包括大規(guī)模漏洞領域數據集構建、專家知識與數據驅動的融合、基于代碼大模型的指令微調、大模型的攻擊與防御等方面的研究。

華中科技大學網絡空間安全學院副教授 李珍

北京郵電大學計算機學院副研究員徐夢煒在《端側大模型和衛(wèi)星操作系統(tǒng)》的報告中強調了邊緣智能技術在用戶隱私保護和低延時推理方面的優(yōu)勢。然而,由于神經網絡模型(DNN)為代表的機器學習算法的參數量大、計算量大,在資源受限的邊緣側高效部署面臨挑戰(zhàn)。徐夢煒分享了團隊在邊緣智能系統(tǒng)軟件方向的研究成果和思考,并探討了在當前大語言模型(LLM)快速發(fā)展背景下邊緣智能領域所面臨的新要求和挑戰(zhàn)。此外,徐夢煒還關注到低軌衛(wèi)星星座的快速發(fā)展,并分析了構建新一代衛(wèi)星操作系統(tǒng)所面臨的挑戰(zhàn)與機遇。他分享了團隊在基于Rust語言構建開源衛(wèi)星操作系統(tǒng)RROS過程中的嘗試和早期成果。

北京郵電大學計算機學院副研究員 徐夢煒

武漢大學國家網絡安全學院副研究員李霏在《大模型內容安全與價值觀對齊》的報告中深入探討了大模型內容安全的重要性及其與價值觀的關聯(lián)。他指出,以ChatGPT為代表的大模型技術引發(fā)了公眾的廣泛關注,并帶來了諸多令人矚目的應用。然而,由于大模型基于海量大數據進行訓練,數據中存在的仇恨、歧視、暴力等不良內容可能被大模型所學習,進而在特定條件下生成具有社會危害性的言論,因此研究大模型的內容安全問題顯得尤為重要。李霏從大模型的訓練機理、潛在安全隱患、檢測手段、價值觀對齊等多個方面進行了詳細闡述,他回顧了當前的相關工作和方法,梳理了大模型內容安全治理的技術方案,并強調了維護大模型內容安全與價值觀對齊的重要性。

武漢大學國家網絡安全學院副研究員 李霏

華中科技大學網絡空間安全學院副研究員周威在《大模型輔助的物聯(lián)網系統(tǒng)虛擬化技術及其安全應用》的報告中深入探討了物聯(lián)網系統(tǒng)在“萬物互聯(lián)”時代面臨的安全挑戰(zhàn)。特別是隨著嵌入式系統(tǒng)廣泛應用于物聯(lián)網中,這些系統(tǒng)大多使用低級語言開發(fā),普遍缺乏防御措施,因此存在大量安全漏洞等。同時,嵌入式設備硬件資源受限,難以在設備上直接應用模糊測試等傳統(tǒng)自動化漏洞檢測技術。周威指出,隨著AI和大模型技術的飛速發(fā)展,如何利用這些先進技術構建虛擬化環(huán)境,以輔助實現(xiàn)自動化物聯(lián)網系統(tǒng)與應用漏洞檢測,已成為工業(yè)界和學術界關注的焦點。在報告中,周威分析了多種最新的AI與大模型輔助的嵌入式系統(tǒng)與應用虛擬化技術,并介紹了如何利用虛擬化技術實現(xiàn)快速、自動化的嵌入式系統(tǒng)與固件漏洞檢測。

華中科技大學網絡空間安全學院副研究員 周威

隨著人工智能技術的不斷突破,大模型已經成為推動操作系統(tǒng)創(chuàng)新的重要驅動力。結合大模型技術,操作系統(tǒng)不僅能更好地理解用戶的需求和意圖,提供更智能化的服務,還能推動操作系統(tǒng)向原生智能方向發(fā)展。展望未來,OpenHarmony將繼續(xù)提升智能體驗的競爭力,不斷向原生智能演進,致力于構建一個面向萬物智聯(lián)世界的分布式全場景協(xié)同的開源操作系統(tǒng)基座與生態(tài)系統(tǒng)。大模型的崛起為操作系統(tǒng)帶來了前所未有的機遇與挑戰(zhàn),只有不斷創(chuàng)新,才能在變革中保持領先。

審核編輯 黃宇