智能時(shí)代的攻守之道！瑞萊智慧如何為AI產(chǎn)業(yè)打好安全底座？

（電子發(fā)燒友網(wǎng)報(bào)道 文/章鷹）2021年，隨著5G網(wǎng)絡(luò)和AI應(yīng)用的大規(guī)模部署，更多數(shù)據(jù)、更多設(shè)備進(jìn)入互聯(lián)網(wǎng)絡(luò)，終端AI、邊緣AI、云上AI大規(guī)模運(yùn)行，但同時(shí)AI算法自身的安全漏洞、AI技術(shù)濫用，還有AI系統(tǒng)引入的第三方組件被黑客攻擊等新型安全問(wèn)題給企業(yè)智能化轉(zhuǎn)型帶來(lái)日益嚴(yán)峻的挑戰(zhàn)，如何在AI技術(shù)大規(guī)模發(fā)展的當(dāng)下，構(gòu)建智能安全的新底座，建立防護(hù)機(jī)制？

圖：瑞萊智慧科技公司副總裁 唐家渝

12月27日，在深圳會(huì)展中心舉辦的第十八屆中國(guó)國(guó)際社會(huì)公共安全博覽會(huì)上，來(lái)自清華人工智能研究院的官方產(chǎn)學(xué)研機(jī)構(gòu)瑞萊智慧科技公司的副總裁唐家渝接受電子發(fā)燒友專訪，就瑞萊智慧公司的市場(chǎng)定位是什么？瑞萊智慧安全AI領(lǐng)域的旗艦產(chǎn)品如何助力智能企業(yè)做好安全防護(hù)？帶來(lái)了精彩的市場(chǎng)前瞻和產(chǎn)品分析。

應(yīng)對(duì)嚴(yán)峻的安全挑戰(zhàn)，瑞萊智慧建立獨(dú)辟蹊徑的商業(yè)定位

2018年7月，瑞萊智慧RealAI公司成立，它是清華大學(xué)人工智能研究院發(fā)起成立的科技成果轉(zhuǎn)化企業(yè)，是全球領(lǐng)先的安全可控人工智能基礎(chǔ)設(shè)施和解決方案提供商。團(tuán)隊(duì)由中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸和清華大學(xué)計(jì)算機(jī)系教授朱軍共同擔(dān)任首席科學(xué)家，清華大學(xué)計(jì)算機(jī)系博士田天出任CEO。團(tuán)隊(duì)博士占比超30%，累計(jì)獲得各項(xiàng)知識(shí)產(chǎn)權(quán)百余項(xiàng)，授權(quán)發(fā)明專利近五十項(xiàng)。

圖：瑞萊智慧安博會(huì)展臺(tái)

瑞萊智慧副總裁唐家渝表示，伴隨規(guī)?；ㄔO(shè)和應(yīng)用加速發(fā)展，保證人工智能“安全、可靠、可控”成為其未來(lái)發(fā)展最重要的趨勢(shì)。瑞萊智慧聚焦安全、可控的人工智能基礎(chǔ)設(shè)施建設(shè)。圍繞這一戰(zhàn)略定位，瑞萊智慧首先在底層技術(shù)上發(fā)展第三代人工智能新范式。

據(jù)悉，清華大學(xué)人工智能研究院院長(zhǎng)、中國(guó)科學(xué)院院士張鈸教授最早提出發(fā)展“第三代人工智能”。他認(rèn)為，第三代 AI 發(fā)展的思路是把第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)結(jié)合起來(lái)，通過(guò)利用知識(shí)、數(shù)據(jù)、算法和算力等4個(gè)要素，構(gòu)造更強(qiáng)大的 AI，建立新的可解釋和魯棒的AI 理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的 AI 技術(shù)，這是發(fā)展 AI 的必經(jīng)之路。

其次在核心業(yè)務(wù)上，瑞萊智慧聚焦三大方向：首先算法可靠，基于世界領(lǐng)先的對(duì)抗攻防技術(shù)檢測(cè)算法漏洞，提供防御加固，進(jìn)一步提升AI系統(tǒng)安全性。其次數(shù)據(jù)安全，針對(duì)AI落地過(guò)程中可能引發(fā)的隱私數(shù)據(jù)泄漏等問(wèn)題，采用隱私計(jì)算等新興技術(shù)手段，實(shí)現(xiàn)數(shù)據(jù)可用不可見，保障數(shù)據(jù)的安全流通和使用；最后針對(duì)AI換臉等技術(shù)濫用現(xiàn)象，開發(fā)相應(yīng)的檢測(cè)工具，引導(dǎo)技術(shù)的可控應(yīng)用。

唐家渝表示，人工智能應(yīng)用是集算法、數(shù)據(jù)、業(yè)務(wù)于一體的有機(jī)整體，涉及訓(xùn)練、檢驗(yàn)、運(yùn)行等生命周期階段，所以應(yīng)面向所有關(guān)鍵流程和要素，布局全面且有針對(duì)性地應(yīng)對(duì)措施。同時(shí)他表示，隨著公眾對(duì)于AI安全性的關(guān)注度提升，以及監(jiān)管政策的出臺(tái)和引導(dǎo)，未來(lái)AI行業(yè)將進(jìn)入發(fā)展與治理協(xié)同的新階段，如何保證AI應(yīng)用的安全性是一個(gè)重要命題，安全AI這一新興領(lǐng)域?qū)⒑芸煊瓉?lái)爆發(fā)。

AI安全防火墻+AI殺毒軟件 兩大旗艦產(chǎn)品展示

“今年比較出圈的一件事情是，我們通過(guò)一幅對(duì)抗樣本圖像可以解鎖多種多樣的人臉識(shí)別系統(tǒng)，無(wú)論是安防門禁、考勤系統(tǒng)和手機(jī)刷臉解鎖都可以攻破?！碧萍矣褰忉尩?，“數(shù)據(jù)驅(qū)動(dòng)”的深度學(xué)習(xí)算法存在不可靠、不可解釋等局限性，即便是開發(fā)者也難以理解其內(nèi)在的運(yùn)行邏輯，這就導(dǎo)致系統(tǒng)可能遭受到難以被察覺(jué)的惡意攻擊。

記者在走訪瑞萊智慧的展臺(tái)時(shí)，一件AI版“隱身衣”引人矚目。瑞萊智慧開發(fā)的這款特制T恤，衣服上印刷了特定的圖案，能夠讓識(shí)別算法出錯(cuò)、捕捉不到目標(biāo)，人一旦穿上便可以實(shí)現(xiàn)“隱身”。據(jù)介紹，衣服上看似奇怪的圖案就是針對(duì)算法漏洞生成的“對(duì)抗樣本”圖案，能夠誤導(dǎo)識(shí)別算法使其出錯(cuò)。

圖：AI版“隱身衣”演示

除此，還有更多新型攻擊手段出現(xiàn)。唐家渝補(bǔ)充道，“一些黑產(chǎn)分子通過(guò)不法手段采集到人臉識(shí)別信息數(shù)據(jù)后，用AI算法驅(qū)動(dòng)它生成各種各樣的表情，這樣的圖像可以成功地攻破某些銀行的APP，攻破人臉識(shí)別系統(tǒng)，后續(xù)的登錄操作、轉(zhuǎn)帳操作都可以正常進(jìn)行，這也是數(shù)據(jù)泄漏很直觀的風(fēng)險(xiǎn)所在。”

為了抵御類似的攻擊，瑞萊智慧研發(fā)了業(yè)內(nèi)首個(gè)AI安全防火墻系統(tǒng)，通過(guò)集成多項(xiàng)國(guó)際領(lǐng)先的對(duì)抗防御算法，能夠有效檢測(cè)和抵御對(duì)抗樣本攻擊和AI換臉等新型攻擊風(fēng)險(xiǎn)，實(shí)現(xiàn)人臉識(shí)別、目標(biāo)檢測(cè)等計(jì)算機(jī)視覺(jué)場(chǎng)景的安全加固升級(jí)，可用于安防門禁、人臉身份核驗(yàn)、人臉解鎖等場(chǎng)景的安全防護(hù)，大幅提升人工智能系統(tǒng)的安全性。

除此，瑞萊智慧推出了業(yè)內(nèi)首個(gè)業(yè)務(wù)級(jí)人工智能安全平臺(tái)RealSafe，提供模型安全性測(cè)評(píng)及防御加固的端到端解決方案，類似于AI系統(tǒng)的殺毒軟件。相較于IBM ART、Google CleverHans等開源工具，該平臺(tái)開箱即用，無(wú)需具備專業(yè)的算法安全知識(shí)和研發(fā)經(jīng)驗(yàn)，同時(shí)首創(chuàng)黑盒測(cè)評(píng)，支持在被測(cè)方不暴露被測(cè)AI模型參數(shù)等信息的情況下進(jìn)行測(cè)評(píng)，優(yōu)勢(shì)顯著。

“這是深度學(xué)習(xí)算法存在的結(jié)構(gòu)性缺陷，刷臉支付、刷臉解鎖等人臉識(shí)別應(yīng)用，智能手機(jī)、智能閘機(jī)，以及線上APP、第三方支付平臺(tái)等智能系統(tǒng)均面臨對(duì)抗樣本攻擊、數(shù)據(jù)投毒等攻擊威脅。為此，瑞萊智慧基于RealSafe平臺(tái)，能夠全面挖掘模型漏洞，從根本上發(fā)掘并解決可能影響業(yè)務(wù)正常運(yùn)行的安全漏洞?！?唐家渝重點(diǎn)介紹道。

談及兩大產(chǎn)品的不同之處，唐家渝表示，AI防火墻是通過(guò)檢測(cè)外部訪問(wèn)、輸入數(shù)據(jù)、行為決策等抵御安全風(fēng)險(xiǎn)，人工智能安全平臺(tái)則是為算法模型進(jìn)行全面的體檢并提出改進(jìn)方案，從根本上提升系統(tǒng)安全性。

截止目前，瑞萊智慧AI產(chǎn)品和解決方案已經(jīng)在政務(wù)、金融、能源、互聯(lián)網(wǎng)等領(lǐng)域落地，服務(wù)于中國(guó)石油、中國(guó)電建、長(zhǎng)安汽車、浦發(fā)銀行等在內(nèi)的數(shù)十家大型企業(yè)機(jī)構(gòu)。最后，唐家渝表示，信息領(lǐng)域的安全是攻防博弈的過(guò)程，安全AI也同樣如此，需要不斷升級(jí)算法，更快一步的發(fā)現(xiàn)和抵御住新型風(fēng)險(xiǎn)。未來(lái)，瑞萊智慧將持續(xù)聚焦于國(guó)際領(lǐng)先的AI安全攻防技術(shù)研發(fā)和產(chǎn)業(yè)化實(shí)踐，護(hù)航智能產(chǎn)業(yè)安全可控地蓬勃發(fā)展。


本文為原創(chuàng)文章，作者章鷹，微信號(hào)zy1052625525，轉(zhuǎn)載請(qǐng)注明以上來(lái)源。如需入群交流，請(qǐng)?zhí)砑游⑿舉lecfans999.