強(qiáng)化AI安全應(yīng)用，商湯打造“深偽檢測+數(shù)字水印”防火墻
“如果一臺機(jī)器能夠與人類展開對話（通過電傳設(shè)備）而不能被辨別出其機(jī)器身份，那么稱這臺機(jī)器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。
圖靈測試不僅首次從行為的角度對“智能”做出了清晰定義，也直接引申出了科技發(fā)展所具有的兩面性，一方面機(jī)器智能會越發(fā)接近或超過人類，而另一方面更強(qiáng)的AI也不可避免會帶來更多人類無法辨別的風(fēng)險。
2023年以來，伴隨各類生成式超大模型爆發(fā)，“通過AI換臉和擬聲技術(shù)佯裝熟人實(shí)施詐騙”等AI新型騙局頻繁登上新聞頭條，引發(fā)廣泛社會關(guān)注。
除了提高全民反詐意識，還有哪些方法可以預(yù)防“新科技”騙局？
推動AI可信，強(qiáng)化新技術(shù)安全治理。針對“AI深度偽造（DeepFake）內(nèi)容”在全球范圍內(nèi)病毒式傳播，商湯科技從技術(shù)源頭出發(fā)，針對性打造兩把技術(shù)盾牌，并快速應(yīng)用于各類AI產(chǎn)品中。 ▎深偽檢測+數(shù)字水印， 讓AI詐騙顯行
商湯在涉及隱私保護(hù)、數(shù)字取證及偽造檢測等領(lǐng)域的人像合成技術(shù)有著廣泛積累，并逐步開發(fā)了基于生成、鑒偽和溯源三位一體的綜合鑒偽解決方案。
為在偽造鑒別這場“攻防戰(zhàn)”中奪得先機(jī)，商湯打造了高效的對抗體系。
包括自建囊括數(shù)十種先進(jìn)攻擊手段的偽造生成平臺，為鑒偽檢測和溯源提供豐富多樣的攻擊案例和海量數(shù)據(jù)支持。并可通過持續(xù)集成先進(jìn)偽造算法，在zero/few-shot場景下快速響應(yīng)難例樣本和長尾類型，幫助提升鑒偽算法的泛化性。
“防”的層面，商湯訓(xùn)練的偽造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，并結(jié)合頻譜、聲音和文字等多模態(tài)信息，準(zhǔn)確鑒別包括PS、換臉、活化以及各種先進(jìn)擴(kuò)散模型（如：Stable Diffusion）合成的高清人像。主流評測數(shù)據(jù)集上算法檢測精度可達(dá)到99%以上，在應(yīng)對新技術(shù)復(fù)合偽造方法上（如：通過MidJourney），檢測能力也高出行業(yè)同類產(chǎn)品20%以上。
作為偽造鑒別中的最后一環(huán)，溯源可追蹤偽造數(shù)據(jù)的數(shù)據(jù)物料源頭、偽造過程以及核心偽造方法。商湯通過自研基于解耦-重建的偽造檢測算法，能夠從偽造數(shù)據(jù)中分離出真實(shí)內(nèi)容及偽影痕跡。在針對10余種主流偽造算法溯源上，準(zhǔn)確率超過90%，同時還可給出數(shù)據(jù)中的相關(guān)偽造痕跡，提高檢測算法的可解釋性和可信度。這一技術(shù)為行業(yè)首創(chuàng)，并作為數(shù)字取證技術(shù)成功落地司法領(lǐng)域。 目前，商湯綜合鑒偽解決方案已投入實(shí)戰(zhàn)，為十余家銀行的安全系統(tǒng)提供服務(wù)，對各類灰黑產(chǎn)攻擊攔截成功率超行業(yè)同類產(chǎn)品20%以上，有效防范了灰黑產(chǎn)身份盜取、支付盜刷等網(wǎng)絡(luò)詐騙。
在AIGC技術(shù)大爆發(fā)時代，每天都會出現(xiàn)新的生成方法，僅僅依靠深偽檢測技術(shù)存在一定漏檢風(fēng)險，從生成平臺源頭加入數(shù)字水印技術(shù)可以構(gòu)成強(qiáng)力雙保險。
商湯數(shù)字水印結(jié)合頻域分析、深度學(xué)習(xí)、擴(kuò)散模型等技術(shù)，將特定信息嵌入到數(shù)字載體中，同時不影響載體的使用價值，也不易被人的知覺系統(tǒng)察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實(shí)現(xiàn)篡改內(nèi)容的檢測且水印不可竊取。 數(shù)字水印技術(shù)可在AIGC相關(guān)產(chǎn)品發(fā)布時加入，能夠有效增強(qiáng)深偽檢測的可靠性，甚至進(jìn)一步影響生成效果，從源頭上遏制深度偽造，實(shí)現(xiàn)主動防御。 具體應(yīng)用中，商湯數(shù)字水印技術(shù)可用于版權(quán)保護(hù)，防偽溯源等場景，支持圖像、視頻、音頻、文本等各種模態(tài)的數(shù)字載體，在不同程度的干擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數(shù)據(jù)本身質(zhì)量(如高清圖畫質(zhì))，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數(shù)字水印技術(shù)也響應(yīng)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》監(jiān)管要求。
目前，商湯數(shù)字水印技術(shù)已服務(wù)于“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產(chǎn)品，以及內(nèi)容創(chuàng)作、大數(shù)據(jù)客戶。
▎持續(xù)推進(jìn)可信AI體系化建設(shè)
提升AI安全治理水平、推動AI可持續(xù)發(fā)展，是行業(yè)健康成長的根基，也是商湯科技的責(zé)任。
多年來，商湯積極釋放在可信AI領(lǐng)域的技術(shù)沉淀和實(shí)踐經(jīng)驗(yàn)，產(chǎn)生一系列成果：
-
構(gòu)建“商湯AI安全治理開放平臺”，提供可持續(xù)發(fā)展的AI安全公益平臺；
-
參與國家人工智能標(biāo)準(zhǔn)化總體組和全國信標(biāo)委人工智能分委會組織編寫的《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》，助力人工智能研發(fā)及應(yīng)用更健康發(fā)展；
-
成為新加坡“人工智能驗(yàn)證基金會”（AI Verify Foundation）一員，促進(jìn)新加坡可信AI建設(shè)，樹立具有積極社會影響力的國際實(shí)踐標(biāo)桿；
- 榮獲隱私信息管理體系認(rèn)證全部三項(xiàng)認(rèn)證，并獲評中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）頒發(fā)的“可信AI 2022年突出貢獻(xiàn)企業(yè)”；
波瀾壯闊的人工智能發(fā)展浪潮中，AI技術(shù)將不斷帶來巨大的創(chuàng)新和改變，但只有可信、符合倫理的AI產(chǎn)品才能造福人類。
相關(guān)閱讀，戳這里
《商湯獲評“可信AI 2022年突出貢獻(xiàn)企業(yè)”》
《多維度打造可信AI，商湯斬獲三項(xiàng)權(quán)威獎項(xiàng)》
原文標(biāo)題：強(qiáng)化AI安全應(yīng)用，商湯打造“深偽檢測+數(shù)字水印”防火墻
文章出處：【微信公眾號：商湯科技SenseTime】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
商湯科技
+關(guān)注
關(guān)注
8文章
474瀏覽量
35993
原文標(biāo)題：強(qiáng)化AI安全應(yīng)用，商湯打造“深偽檢測+數(shù)字水印”防火墻
文章出處：【微信號：SenseTime2017，微信公眾號：商湯科技SenseTime】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
物通博聯(lián)工業(yè)智能網(wǎng)關(guān)實(shí)現(xiàn)防火墻配置及應(yīng)用
隨著工業(yè)信息化建設(shè)不斷發(fā)展及“兩化”進(jìn)程不斷深入，工業(yè)網(wǎng)絡(luò)面臨的傳統(tǒng)安全威脅和工控網(wǎng)絡(luò)特有安全威脅在不斷增加。通過部署防火墻，能夠禁止不被允許的設(shè)備進(jìn)行訪問，有效降低網(wǎng)絡(luò)被入侵、數(shù)據(jù)泄露的風(fēng)險，從而
IR700與SSG5防火墻如何建立VPN模板？
防火墻配置登錄用戶名和密碼：
設(shè)置WAN接口
編輯“ethernet0/0”接口
設(shè)置LAN接口編輯“bgroup0”
設(shè)置DNS
設(shè)置DHCP
點(diǎn)擊編輯“broup0
發(fā)表于 07-26 08:12
深信服防火墻和IR700建立IPSec VPN的配置說明
深信服防火墻和IR700建立IPSec VPN 配置說明本文檔針對深信服防火墻 的常規(guī)使用以及與無線路由器InRouter配合使用時（主要是建IPSec VPN）雙方的相關(guān)配置而編寫注：并未
發(fā)表于 07-26 07:43
工業(yè)防火墻是什么？工業(yè)防火墻主要用在哪里？
工業(yè)防火墻是一種專為工業(yè)控制系統(tǒng)(Industrial Control Systems, ICS)設(shè)計(jì)的網(wǎng)絡(luò)安全設(shè)備，它結(jié)合了硬件與軟件技術(shù)，用以保護(hù)工業(yè)生產(chǎn)環(huán)境中的關(guān)鍵基礎(chǔ)設(shè)施免受網(wǎng)絡(luò)攻擊。工業(yè)
防火墻雙機(jī)熱備命令行配置方案
部署防火墻雙機(jī)熱備，避免防火墻出現(xiàn)單點(diǎn)故障而導(dǎo)致的網(wǎng)絡(luò)癱瘓
什么是SPI？SPI防火墻的優(yōu)點(diǎn)
SPI防火墻(Stateful Packet Inspection Firewall)是一種用于網(wǎng)絡(luò)安全的防火墻技術(shù)。SPI防火墻是一種全狀態(tài)數(shù)據(jù)包
18圖詳解防火墻和路由器、交換機(jī)的區(qū)別
按照防火墻技術(shù)原理：防火墻可以分為包過濾防火墻、狀態(tài)檢測防火墻，AI
如何利用Web應(yīng)用防火墻應(yīng)對未知威脅
網(wǎng)絡(luò)安全是一個永恒的話題，尤其是在未知威脅不斷涌現(xiàn)的情況下。Web應(yīng)用防火墻（WAF）是企業(yè)網(wǎng)絡(luò)安全防線的重要組成部分，能夠幫助企業(yè)在面對未知威脅時采取有效的防護(hù)措施。本文將探討如何利用Web
火傘云Web應(yīng)用防火墻的特點(diǎn)與優(yōu)勢
在前文中，我們已經(jīng)介紹了Web應(yīng)用防火墻（WAF）的基本原理和重要性。接下來，我們將深入探討火傘云Web應(yīng)用防火墻的特點(diǎn)與優(yōu)勢，了解它如何為企業(yè)提供更為完善和專業(yè)的網(wǎng)絡(luò)安全保障。1.全球部署火傘云
Web應(yīng)用防火墻的重要性及基本原理
企業(yè)網(wǎng)絡(luò)安全是保障業(yè)務(wù)穩(wěn)定運(yùn)行的基礎(chǔ)，而Web應(yīng)用防火墻（WAF）是這個基礎(chǔ)上的重要一環(huán)。本文將為你詳細(xì)介紹WAF的基本原理，并探討其在維護(hù)網(wǎng)絡(luò)安全中的重要作用。01Web應(yīng)用防火墻
如何利用Web應(yīng)用防火墻應(yīng)對未知威脅
網(wǎng)絡(luò)安全是一個永恒的話題，尤其是在未知威脅不斷涌現(xiàn)的情況下。Web應(yīng)用防火墻（WAF）是企業(yè)網(wǎng)絡(luò)安全防線的重要組成部分，能夠幫助企業(yè)在面對未知威脅時采取有效的防護(hù)措施。本文將探討如何利用Web
Web應(yīng)用防火墻的重要性及基本原理
企業(yè)網(wǎng)絡(luò)安全是保障業(yè)務(wù)穩(wěn)定運(yùn)行的基礎(chǔ)，而Web應(yīng)用防火墻（WAF）是這個基礎(chǔ)上的重要一環(huán)。本文將為你詳細(xì)介紹WAF的基本原理，并探討其在維護(hù)網(wǎng)絡(luò)安全中的重要作用。 一、Web應(yīng)用防火墻
請問Centos7如何配置firewalld防火墻規(guī)則？
Firewalld是CentOS系統(tǒng)自帶的一種動態(tài)防火墻管理工具。是一個前端工具，用于管理Linux系統(tǒng)上的netfilter防火墻規(guī)則。Firewalld提供了一種簡化和易于使用的方法來配置和管理防火墻。
在命令行下配置防火墻的基礎(chǔ)上網(wǎng)步驟
部分用戶需要在命令行界面下進(jìn)行防火墻基礎(chǔ)上網(wǎng)配置，本文展示如何在命令行下配置防火墻的基礎(chǔ)上網(wǎng)步驟。
工商網(wǎng)監(jiān)
評論