確保人工智能保持合規(guī)性和安全性的三種技術(shù)

　　企業(yè)在實施人工智能策略之前，需要考慮采用一些新技術(shù)以幫助保護隱私，并確保符合安全標準。

　　如果企業(yè)參與了下一代數(shù)字產(chǎn)品工程，那么嘗試采用人工智能（AI）將幫助企業(yè)構(gòu)建新的業(yè)務(wù)模型、收入流和體驗。

　　但是企業(yè)應(yīng)該了解有關(guān)人工智能技術(shù)創(chuàng)新的頭條新聞。例如AlphaFold解決了具有50年歷史的蛋白質(zhì)折疊問題，還有也許更具影響力的一些人工智能技術(shù)，這些進步使人工智能變得更加負責(zé)任和更加注重隱私。

　　隨著算法在訓(xùn)練和部署中吸收和采用了越來越龐大的數(shù)據(jù)集，特別是隨著GDPR、CCPA、HIPAA等新隱私法規(guī)的發(fā)布，與人工智能/機器學(xué)習(xí)相關(guān)的數(shù)據(jù)隱私只會變得越來越重要。事實上，美國食品藥品監(jiān)督管理局（FDA）最近發(fā)布了一項新的行動計劃來規(guī)范醫(yī)療設(shè)備中采用的人工智能。不斷擴大的監(jiān)管框架部分地解釋了數(shù)據(jù)隱私是這十年最重要問題之一的原因。

　　當企業(yè)計劃在未來進行人工智能投資時，以下三種人工智能技術(shù)將確保其在未來保持合規(guī)性和安全性。

　　1.聯(lián)合學(xué)習(xí)

　　聯(lián)合學(xué)習(xí)是一種越來越重要的機器學(xué)習(xí)訓(xùn)練技術(shù)，可以解決機器學(xué)習(xí)最大的數(shù)據(jù)隱私問題之一，尤其是在具有敏感用戶數(shù)據(jù)的領(lǐng)域中（例如醫(yī)療保?。?。過去十年的傳統(tǒng)做法是盡可能地隔離數(shù)據(jù)。但是，訓(xùn)練和部署機器學(xué)習(xí)算法所需的聚合數(shù)據(jù)已造成嚴重的隱私和安全問題，尤其是在企業(yè)之間共享數(shù)據(jù)時。

　　聯(lián)合學(xué)習(xí)可讓企業(yè)提供聚合數(shù)據(jù)集的洞察力，同時在非聚合環(huán)境中確保數(shù)據(jù)的安全性?；厩疤崾?，本地機器學(xué)習(xí)模型是在私有數(shù)據(jù)集上訓(xùn)練的，模型更新在數(shù)據(jù)集之間流動以進行集中聚合。至關(guān)重要的是，數(shù)據(jù)永遠不必離開本地環(huán)境。

　　通過這種方式，數(shù)據(jù)在保持安全的同時仍能給組織帶來“群體智慧”。聯(lián)合學(xué)習(xí)降低了單個攻擊或泄漏的風(fēng)險，因為數(shù)據(jù)不是存放在單個存儲庫中，而是分散在多個存儲庫中。

　　2.可解釋的人工智能（XAI）

　　許多人工智能/機器學(xué)習(xí)模型（特別是神經(jīng)網(wǎng)絡(luò)）都是黑盒模型。在經(jīng)過大量數(shù)據(jù)的訓(xùn)練之后，由于難以確定如何以及為何做出某些決定，這些模型通常是不負責(zé)任的。為了使它們更具責(zé)任感和透明度，需要使它們更具解釋性。

　　一個新興的研究領(lǐng)域稱為“可解釋性”，它使用復(fù)雜的技術(shù)來幫助為諸如決策樹之類的簡單系統(tǒng)以及諸如神經(jīng)網(wǎng)絡(luò)之類的復(fù)雜系統(tǒng)帶來透明度。解釋有助于建立對系統(tǒng)的信任，也可以幫助研究人員了解為什么會犯錯誤以及如何快速糾正錯誤。

　　在醫(yī)療、銀行、金融服務(wù)和保險等敏感領(lǐng)域，不能盲目相信人工智能決策。例如，在批準銀行貸款時，需要理解為什么有人被拒絕，特別是當考慮到種族偏見潛入其他人工智能系統(tǒng)的例子時。隨著人工智能變得越來越復(fù)雜，將這些黑盒模型變得更加清晰將變得越來越重要，可解釋的人工智能（XAI）應(yīng)該成為未來開發(fā)人工智能系統(tǒng)的組織關(guān)注的主要領(lǐng)域。

　　3.AIOps/MLOps

　　大約20年前，DevOps徹底改變了應(yīng)用程序的開發(fā)、部署和管理方式。它使管道實現(xiàn)標準化，從而顯著提高了效率，并縮短了交付時間。

　　如今，AIOps/MLOps在人工智能方面也在做同樣的事情。Cognilityca公司預(yù)測，到2025年，全球MLOps市場規(guī)模將擴大到40億美元。

　　這個想法是通過標準化操作、衡量性能和自動修復(fù)問題來加速整個機器學(xué)習(xí)模型的生命周期。AIOps可以應(yīng)用于以下三層：

　?。?）基礎(chǔ)設(shè)施層

　　這就是容器化發(fā)揮作用的地方。自動化工具使組織可以擴展其基礎(chǔ)設(shè)施和團隊，以滿足容量需求。DevOps的一個新興子集叫GitOps，它專門將DevOps原理應(yīng)用于在容器中運行的基于云計算的微服務(wù)。

　　（2）應(yīng)用程序性能管理（APM）

　　根據(jù)IDC公司的一項調(diào)查，全球應(yīng)用程序宕機每年造成的損失在1.25美元到25億美元。應(yīng)用程序性能管理（APM）通過簡化應(yīng)用程序管理、限制停機時間和最大限度地提高性能來幫助組織。應(yīng)用程序性能管理（APM）解決方案結(jié)合了AIOps方法，使用人工智能和機器學(xué)習(xí)主動識別問題，而不是采用被動方法。

　?。?）IT服務(wù)管理（ITSM）

　　IT服務(wù)規(guī)模巨大，實際上可以代表IT組織提供給最終用戶的任何硬件、軟件或計算資源，無論該最終用戶是內(nèi)部員工、客戶還是業(yè)務(wù)合作伙伴。ITSM采用AIOps實現(xiàn)票務(wù)工作流、管理和分析事件、授權(quán)和監(jiān)視文檔等方面的自動化。

　　雖然大多數(shù)組織為了提高效率而實施AIOps/MLOps，但許多組織發(fā)現(xiàn)，例如應(yīng)用程序性能管理（APM）平臺可以利用其豐富的數(shù)據(jù)資源作為預(yù)警系統(tǒng)，從而增加額外的安全層。隨著人工智能/機器學(xué)習(xí)生命周期得到更嚴格的優(yōu)化和結(jié)構(gòu)化，安全和隱私風(fēng)險將更容易識別和減輕。

　　負責(zé)任地進行實驗

　　在過去的幾年中，人們已經(jīng)看到了許多強大的人工智能用例，但是未來將是確保這些用例背后的人工智能系統(tǒng)負責(zé)任地使用數(shù)據(jù)。隨著越來越多的隱私法規(guī)發(fā)布，并且隨著組織看到法規(guī)實際上增加了透明度和對客戶的信任，是需要嘗試負責(zé)任的人工智能的時候了。聯(lián)合學(xué)習(xí)、可解釋的人工智能和AIOps/MLOps將是三個很好的起點。
責(zé)任編輯人：CC