人工智能對(duì)算力的需求分析和預(yù)測

　　9月28日，為期3天的2020全國高性能計(jì)算學(xué)術(shù)年會(huì)（HPCChina2020）在鄭州舉行。中國工程院副院長、中國工程院院士陳左寧進(jìn)行了題為《人工智能進(jìn)展對(duì)算力需求分析》的報(bào)告。陳左寧提出人工智能模型和算法的7大發(fā)展趨勢，并對(duì)AI趨勢對(duì)算力的需求進(jìn)行分析和預(yù)測：

　　1.向無監(jiān)督的方向發(fā)展

　　人工智能需要適應(yīng)“小數(shù)據(jù)”、減少標(biāo)注需求、減少計(jì)算開銷。現(xiàn)在用的比較多的是主動(dòng)學(xué)習(xí)，即算法主動(dòng)提出標(biāo)注請求，將一些經(jīng)過篩選的數(shù)據(jù)提交給專家標(biāo)注。遷移學(xué)習(xí)即增強(qiáng)訓(xùn)練好的模型，解決目標(biāo)領(lǐng)域中僅有少量有標(biāo)簽樣本數(shù)據(jù)的問題。強(qiáng)化學(xué)習(xí)即用agents構(gòu)成系統(tǒng)來描述行為并給予評(píng)價(jià)和反饋學(xué)習(xí)。從主動(dòng)學(xué)習(xí)到遷移學(xué)習(xí)再到強(qiáng)化學(xué)習(xí)，需要的能力也由“人機(jī)交互能力、數(shù)據(jù)整合能力”到“大算力預(yù)訓(xùn)練、數(shù)據(jù)處理能力”再到“信息采集能力、概率計(jì)算能力”不斷演化。

　　2.可解釋（XAI）越來越重要

　　首先，深度學(xué)習(xí)進(jìn)一步設(shè)計(jì)算法和參數(shù)，提高泛化能力，需要模型算法可解釋。對(duì)抗樣本如果導(dǎo)致模型失效，那訓(xùn)練數(shù)據(jù)將不合理地被局部放大。另外，模型愈復(fù)雜，越容易失去可調(diào)式性和透明性。人工智能模型有透明模型和事后可解釋模式，無論是哪一個(gè)模型，他們都有對(duì)算力的需求，具體需求是需要我們將可解釋技術(shù)融入軟件環(huán)境中，為現(xiàn)有軟件框架增加可解釋技術(shù)接口；第二個(gè)需求是將人-AI系統(tǒng)結(jié)合。以人為中心，把人對(duì)事情的解釋跟整個(gè)模型融合在一起。

　　3.人工智能模型的自學(xué)習(xí)、自演化

　　從自動(dòng)機(jī)器學(xué)習(xí)（AutoML）到限制約束條件的AutoML再到不設(shè)初始條件，搜索空間極大豐富的自演化AutoML，人工智能模型的自學(xué)習(xí)、自演化需要我們提供計(jì)算框架支撐、大算力支撐、輔助設(shè)備支撐。

　　4.多種算法、模型的有機(jī)組合

　　這個(gè)趨勢目前已經(jīng)非常明顯了，目前單一的算法或模型難以解決實(shí)際問題，經(jīng)過分析，我們可以把多種模型有機(jī)結(jié)合起來，另外，人工智能模型的發(fā)展希望融入多種技術(shù)來解決已有問題。當(dāng)然，人工智能的應(yīng)用流程越來越復(fù)雜，所以，不同流程所涉及的環(huán)境也多樣化，這就需要不同的算法和模型的組合，需要計(jì)算存儲(chǔ)等可擴(kuò)展能力和基礎(chǔ)軟件能力提升，支持復(fù)雜模型。

　　5.人工智能應(yīng)用需要關(guān)注生命周期

　　從設(shè)計(jì)到數(shù)據(jù)預(yù)處理，建立、訓(xùn)練、優(yōu)化模型，部署、推理，保持和更新，數(shù)據(jù)積累，準(zhǔn)備，訓(xùn)練，得到推理結(jié)果等這些全周期不同任務(wù)具有不同的事件、空間和計(jì)算需求，全生命周期都要考慮可解釋、公平性需求。

　　6.分布式、分散式的需求越來越突出

　　首先，大型、復(fù)雜模型，海量數(shù)據(jù)需要并行、分布式計(jì)算；第二，聯(lián)邦學(xué)習(xí)等分散場景需要分布式ML原生算法。因此這就需要大算力、原生支持分散場景，而并行的、分散的人工智能模型算法本身的需求越來越突出。

　　7.深度推理

　　清華大學(xué)唐杰老師認(rèn)為，從計(jì)算、感知、認(rèn)知到意識(shí)，對(duì)算力的需求，從最初的計(jì)算存儲(chǔ)、輸入輸出，到語音圖像等識(shí)別，再到認(rèn)知推理、自學(xué)習(xí)、頓悟等，反映出對(duì)計(jì)算需求的演進(jìn)。如何應(yīng)對(duì)多種形式的不確定性是目前的一大難題。比如從環(huán)境中感知的信息、知識(shí)的情景特異性、缺乏完全解釋自然現(xiàn)象的完整理論、計(jì)算的有限合理性等。我們可以從以下三個(gè)方面有效應(yīng)對(duì)多種形式的不確定性，如概率計(jì)算，類腦、仿腦體系結(jié)構(gòu)、模擬計(jì)算。

　　總結(jié)下來，人工智能對(duì)算力的需求有如下特點(diǎn)：關(guān)系和概率計(jì)算更加突出，同時(shí)不要求高精度、不要求高容錯(cuò)；并且在節(jié)點(diǎn)上簡單了，此外，人在環(huán)路中的需求非常明顯。這些特點(diǎn)可能隨著人工智能的發(fā)展不斷突破。
責(zé)任編輯人：CC