NVIDIA數(shù)組GPU助力隱私算法實現(xiàn)百倍加速

NVIDIA人工智能研究人員在芬蘭開展的第一個合作項目可以幫助縮減差分隱私的性能成本，這個項目同時開啟了NVIDIA與芬蘭兩家大型合作伙伴的合作進程。與芬蘭的合作項目將利用當?shù)乇姸嗪献骰锇樵诟髯灶I(lǐng)域的專業(yè)知識，推動人工智能向前發(fā)展。

Finn Antti Honkela可能永遠不會像Linux之父Linus Torvalds那樣聲名遠揚，但他最近在清除數(shù)字隱私障礙中取得重大突破。

Honkela是赫爾辛基大學數(shù)據(jù)科學副教授，致力于差分隱私研究，這是一種基于個人數(shù)據(jù)的計算方法，用于保護個人數(shù)據(jù)隱私。今年3月，這一新興領(lǐng)域榮登《麻省理工科技評論》“具備深遠影響潛力的十大突破”榜單。

該技術(shù)當前已經(jīng)廣泛應用于智能手機和云計算，甚至會被應用于2020年的美國人口普查。

Honkela說：“差分隱私依賴于強大的理論基礎(chǔ)。因此，只要遵循算法，便能實現(xiàn)隱私保障。但截至目前，這樣操作的性能成本非常高。”

“現(xiàn)在我們可以縮小這一差距。”他在談到NVIDIA與人工智能研究人員在芬蘭持續(xù)開展廣泛合作的第一個項目時說。

差分隱私算法加速百倍

Honkela和NVIDIA的解決方案架構(gòu)師Niki Loppi借助數(shù)組GPU展示了一種用于加速差分隱私訓練速度的方法。

Loppi說:“這類與GPU相關(guān)的加速十分常見，但這個方法的與眾不同之處在于標準訓練中加入的差分隱私的懲罰只有2-3倍，而不是CPU系統(tǒng)上觀察到的20倍。”

他們的研究成果展示了如何對高價值的數(shù)據(jù)集作匿名處理，但由于包含個人敏感信息，這些數(shù)據(jù)集目前仍須保密。發(fā)布這些經(jīng)處理的數(shù)據(jù)將幫助AI開發(fā)人員建立更好的模型，加速整個領(lǐng)域的發(fā)展。

當前Loppi在NVIDIA的同事們正聚焦AI訓練中隨機二次抽樣過程，并在探索一種能夠有效加速GPU在這一過程中運行的方法。這項工作可以進一步縮小實現(xiàn)差分隱私的性能差距。

這個項目開啟了NVIDIA與芬蘭兩家大型合作伙伴的合作進程。芬蘭傾舉國之力打造的芬蘭人工智能中心（FCAI）匯集了芬蘭赫爾辛基大學、阿爾托大學和VTT技術(shù)研究中心的頂級研究人員。

芬蘭國家超級計算中心（CSC）是NVIDIA和FCAI的另一個合作伙伴。該公司將在其2.7-petaflops系統(tǒng)上運行該集團的研究項目，該系統(tǒng)包含320組NVIDIA V100 Tensor Core GPU。

廣泛的人工智能目標

與芬蘭的合作緣起今年一月在意大利Modena的合作項目。他們加入了日益壯大的NVIDIA人工智能技術(shù)中心(NVAITC)全球社區(qū)，推動技術(shù)進步。

與芬蘭的合作項目將利用當?shù)乇姸嗪献骰锇樵诟髯灶I(lǐng)域的專業(yè)知識，推動人工智能向前發(fā)展。FCAI的協(xié)調(diào)教授Honkela更是將人工智能研究人員和GPU專家的協(xié)同合作評價為“一個很好的工作模式”。

“顯然，研究人員必須掌握代碼，但有時了解如何實現(xiàn)程序的有效運行是一項并非所有研究人員都具備的專長?！彼f。

NVIDIA NVAITC高級主管Simon See說：“通過這次合作，我們能夠更好地支持在致力該領(lǐng)域的當?shù)乜茖W家，推動芬蘭的人工智能研究?！?/p>

后事如何無人可知。Honkela指出，當前一種作為所有神經(jīng)網(wǎng)絡訓練核心的現(xiàn)代高效反向傳播算法，其實源于1970年赫爾辛基大學的一名研究人員的碩士論文。