人工智能安全守護(hù)計(jì)劃啟動(dòng),共建AI系統(tǒng)情報(bào)共享機(jī)制

7月26日訊，近期微軟遭遇的大規(guī)模藍(lán)屏事件，不僅震撼了科技界，也促使社會(huì)各界對(duì)技術(shù)穩(wěn)定性與安全性進(jìn)行了深刻反思。這一事件警示我們，在即將到來的AI時(shí)代，若類似的技術(shù)故障重演，其潛在影響與損失或?qū)⒏鼮閲?yán)峻。

在此背景下，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會(huì)于近日舉辦的成果發(fā)布會(huì)上，AIIA秘書長(zhǎng)、中國(guó)信通院院長(zhǎng)余曉暉強(qiáng)調(diào)，面對(duì)人工智能安全治理的緊迫任務(wù)，需集行業(yè)之力，共同構(gòu)建和完善人工智能安全風(fēng)險(xiǎn)識(shí)別體系，確保風(fēng)險(xiǎn)識(shí)別的敏捷性與精準(zhǔn)度，以便及時(shí)發(fā)現(xiàn)并應(yīng)對(duì)潛在威脅。同時(shí)，他呼吁加強(qiáng)人工智能安全評(píng)測(cè)技術(shù)的研究與應(yīng)用，以技術(shù)手段解決技術(shù)難題。

AIIA安全治理委員會(huì)已深入探索人工智能治理框架、風(fēng)險(xiǎn)管理、內(nèi)生安全及安全應(yīng)用等多個(gè)維度，力求在理論和技術(shù)層面為AI安全保駕護(hù)航。會(huì)上，正式啟動(dòng)了“人工智能安全守護(hù)計(jì)劃”，旨在通過AI Guard品牌，建立AI系統(tǒng)情報(bào)共享及AIGC真實(shí)性與可信賴性互認(rèn)機(jī)制，并推動(dòng)人工智能相關(guān)保險(xiǎn)產(chǎn)品的開發(fā)，全方位提升AI技術(shù)服務(wù)提供方與使用方的安全防護(hù)能力。

此外，中國(guó)信通院人工智能所黑一鳴博士展示了自主研發(fā)的大模型安全加固解決方案。該方案創(chuàng)新性地采用模型微調(diào)與外掛安全知識(shí)庫(kù)等策略，在保持大模型原有性能與效率的同時(shí)，顯著增強(qiáng)了其對(duì)抗各類誘導(dǎo)攻擊的能力，為AI安全加固提供了新思路。

值得注意的是，人工智能的跨界融合特性日益顯著，這既是其發(fā)展的動(dòng)力，也對(duì)法律與規(guī)范提出了更高要求。中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書長(zhǎng)劉金瑞指出，法學(xué)界在應(yīng)對(duì)AI挑戰(zhàn)時(shí)，需深入了解技術(shù)特性，以確保所制定的規(guī)范和規(guī)制措施既符合邏輯又具實(shí)操性。

北京市金杜律師事務(wù)所合伙人寧宣鳳律師則透露，國(guó)家層面正逐步推進(jìn)針對(duì)人工智能的小切口立法，涵蓋深度合成、算法、AIGC等多個(gè)領(lǐng)域，并探索科技倫理審查等制度建設(shè)。她進(jìn)一步透露，專門的“人工智能法”也正在緊鑼密鼓的制定之中，預(yù)示著我國(guó)在AI治理領(lǐng)域的法制化進(jìn)程正加速推進(jìn)。