人工智能學(xué)習(xí) 遷移學(xué)習(xí)實(shí)戰(zhàn)進(jìn)階

上課時(shí)間安排：

2022年05月27日 — 2022年05月30日

No.1 第一天

一、機(jī)器學(xué)習(xí)簡(jiǎn)介與經(jīng)典機(jī)器學(xué)習(xí)算法介紹

1. 什么是機(jī)器學(xué)習(xí)？
2. 機(jī)器學(xué)習(xí)框架與基本組成
3. 機(jī)器學(xué)習(xí)的訓(xùn)練步驟
4. 機(jī)器學(xué)習(xí)問(wèn)題的分類
5. 經(jīng)典機(jī)器學(xué)習(xí)算法介紹

章節(jié)目標(biāo)：機(jī)器學(xué)習(xí)是人工智能的重要技術(shù)之一，詳細(xì)了解機(jī)器學(xué)習(xí)的原理、機(jī)制和方法，為學(xué)習(xí)深度學(xué)習(xí)與遷移學(xué)習(xí)打下堅(jiān)實(shí)的基礎(chǔ)。

二、深度學(xué)習(xí)簡(jiǎn)介與經(jīng)典網(wǎng)絡(luò)結(jié)構(gòu)介紹

1. 神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介
2. 神經(jīng)網(wǎng)絡(luò)組件簡(jiǎn)介
3. 神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法
4. 卷積神經(jīng)網(wǎng)絡(luò)介紹
5. 經(jīng)典網(wǎng)絡(luò)結(jié)構(gòu)介紹

章節(jié)目標(biāo)：深入了解神經(jīng)網(wǎng)絡(luò)的組成、訓(xùn)練和實(shí)現(xiàn)，掌握深度空間特征分布等關(guān)鍵概念，為深度遷移學(xué)習(xí)奠定知識(shí)基礎(chǔ)

三、遷移學(xué)習(xí)基礎(chǔ)

1. 遷移學(xué)習(xí)緒論
2. 基于樣本的遷移學(xué)習(xí)
3. 基于特征的遷移學(xué)習(xí)
4. 基于分類器適配的遷移學(xué)習(xí)

章節(jié)目標(biāo)：掌握遷移學(xué)習(xí)的思想與基本形式，了解傳統(tǒng)遷移學(xué)習(xí)的基本方法，對(duì)比各種方法的優(yōu)缺點(diǎn)，掌握遷移學(xué)習(xí)的適用范圍。

四、深度遷移學(xué)習(xí)介紹

1. 深度遷移學(xué)習(xí)概述
2. 基于距離函數(shù)的深度遷移學(xué)習(xí)
3. 基于對(duì)抗網(wǎng)絡(luò)的深度遷移學(xué)習(xí)
4. 深度異構(gòu)遷移學(xué)習(xí)方法介紹
5. 深度領(lǐng)域泛化學(xué)習(xí)介紹

章節(jié)目標(biāo)：掌握深度遷移學(xué)習(xí)的思想與組成模塊，學(xué)習(xí)深度遷移學(xué)習(xí)的各種方法，對(duì)比各種方法的優(yōu)缺點(diǎn)，掌握深度遷移學(xué)習(xí)的適用范圍。

No.2 第二天

五、遷移學(xué)習(xí)前沿方法介紹

1. 深度遷移網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)
2. 深度遷移學(xué)習(xí)目標(biāo)函數(shù)設(shè)計(jì)
3. 全新場(chǎng)景下的遷移學(xué)習(xí)

章節(jié)目標(biāo)：掌握深度遷移學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)、目標(biāo)函數(shù)設(shè)計(jì)的前沿方法，了解遷移學(xué)習(xí)在PDA、Source-Free DA上的應(yīng)用。

六、遷移學(xué)習(xí)前沿應(yīng)用

1. 遷移學(xué)習(xí)在語(yǔ)義分割中的應(yīng)用
2. 遷移學(xué)習(xí)在目標(biāo)檢測(cè)中的應(yīng)用
3. 遷移學(xué)習(xí)在行人重識(shí)別中的應(yīng)用
4. 圖片與視頻風(fēng)格遷移

章節(jié)目標(biāo)：掌握深度遷移學(xué)習(xí)在語(yǔ)義分割、目標(biāo)檢測(cè)、行人重識(shí)別等任務(wù)中的應(yīng)用，學(xué)習(xí)圖像/視頻風(fēng)格遷移方法，了解風(fēng)格遷移在實(shí)際生活中的應(yīng)用。

七、小樣本學(xué)習(xí)、Transformer等前沿方法與應(yīng)用

1. 小樣本學(xué)習(xí)概念與基本方法介紹
2. 小樣本學(xué)習(xí)應(yīng)用
3. Transformer概念與基本方法介紹
4. Transformer在圖像領(lǐng)域的應(yīng)用

章節(jié)目標(biāo)：掌握小樣本學(xué)習(xí)、Transformer等前沿方法和基本思想，了解小樣本學(xué)習(xí)、Transformer等在實(shí)際場(chǎng)景下的應(yīng)用。

No.3 第三天

八、實(shí)驗(yàn)實(shí)操之實(shí)操環(huán)境搭建

1. 硬件準(zhǔn)備：GPU顯存11GB以上
2. 軟件準(zhǔn)備：Linux操作系統(tǒng)（Ubuntu16.04以上），顯卡驅(qū)動(dòng)安裝（512.54），CUDA Toolkit（10.1）和cuDNN加速庫(kù)（7.6.4），VS Code編輯器安裝，Jupyter Notebook
3. 編程語(yǔ)言和框架：Python3.8.5、torch==1..07、torchvision==0.8.2、mmcv-full==1.3.7、opencv-python==4.4.0、matplotlib==3.4.2、numpy==1.19.2、Pillow==8.3.1、scikit-learn==1.0.2
4. 數(shù)據(jù)集準(zhǔn)備：Office-31、IRVI、GTA5、Cityscapes、Foggy cityscapes等

注：硬件準(zhǔn)備由主辦方提供云服務(wù)器

九、實(shí)驗(yàn)實(shí)操之深度遷移學(xué)習(xí)實(shí)踐

1. 掌握PyTorch中的基本原理和編程思想。
2. 理解在一個(gè)新的場(chǎng)景或數(shù)據(jù)集下，何時(shí)以及如何進(jìn)行遷移學(xué)習(xí)。
3. 利用PyTorch加載數(shù)據(jù)、搭建模型、訓(xùn)練網(wǎng)絡(luò)以及進(jìn)行網(wǎng)絡(luò)微調(diào)操作。
4. 給定遷移場(chǎng)景，利用daib庫(kù)和生成對(duì)抗技術(shù)獨(dú)立完成圖像分類中的領(lǐng)域適配。
5. 遷移效果的可視化，利用機(jī)器學(xué)習(xí)庫(kù)scikit-learn中的t-SNE對(duì)遷移過(guò)后的高維數(shù)據(jù)進(jìn)行可視化。

十、實(shí)驗(yàn)實(shí)操之圖片與視頻風(fēng)格遷移實(shí)踐

1. 掌握基于生成對(duì)抗網(wǎng)絡(luò)的風(fēng)格遷移技術(shù)。
2. 圖像/視頻風(fēng)格遷移網(wǎng)絡(luò)的搭建，重點(diǎn)掌握編碼器和解碼器的內(nèi)在邏輯和不同損失函數(shù)的運(yùn)用。
3. 實(shí)踐紅外視頻轉(zhuǎn)換到可見(jiàn)光視頻的風(fēng)格遷移。

十一、實(shí)驗(yàn)實(shí)操之自動(dòng)駕駛中的跨域語(yǔ)義分割實(shí)踐

1. 掌握語(yǔ)義分割發(fā)展現(xiàn)狀及代表性工作，如FCN，DeepLab系列等。
2. 了解常用的語(yǔ)義分割評(píng)價(jià)指標(biāo)（PA、mPA、mIoU、FWIoU）和常見(jiàn)數(shù)據(jù)集（PASCAL VOC2012，ADE20K、BDD100K、Cityscapes、GTA5、Dark Zurich）。
3. 語(yǔ)義分割工具箱MMSegmentaion的認(rèn)識(shí)和使用。
4. 設(shè)計(jì)一個(gè)分割模型能夠從仿真環(huán)境中得到的數(shù)據(jù)遷移到真實(shí)場(chǎng)景下產(chǎn)生的數(shù)據(jù)。

十二、實(shí)驗(yàn)實(shí)操之目標(biāo)檢測(cè)實(shí)踐

1. 掌握目標(biāo)檢測(cè)算法的基本框架以及目標(biāo)檢測(cè)中的經(jīng)典模型，如R-CNN系列的兩階段檢測(cè)模型和YOLO系列的單階段檢測(cè)模型。
2. 掌握目標(biāo)檢測(cè)模型的評(píng)測(cè)指標(biāo)（IOU和mAP）、標(biāo)準(zhǔn)評(píng)測(cè)數(shù)據(jù)集（Pascal VOC，MS COCO和Cityscapes）以及檢測(cè)模型中的一些訓(xùn)練技巧，如數(shù)據(jù)增強(qiáng)、多尺度訓(xùn)練/測(cè)試、預(yù)測(cè)框微調(diào)/投票法、在線難例挖掘、軟化非極大抑制、RoI對(duì)齊和集成。
3. 實(shí)踐基于Transformer的端到端目標(biāo)檢測(cè)框架的搭建，并在新的數(shù)據(jù)集上與基于CNN的網(wǎng)絡(luò)進(jìn)行遷移性能的對(duì)比。

培訓(xùn)專家

培訓(xùn)專家來(lái)自中國(guó)科學(xué)院計(jì)算技術(shù)研究所、清華大學(xué)、北京理工大學(xué)等科研機(jī)構(gòu)和大學(xué)的高級(jí)專家，擁有豐富的科研及工程技術(shù)經(jīng)驗(yàn)，長(zhǎng)期從事人工智能芯片、FPGA、深度學(xué)習(xí)等領(lǐng)域的教學(xué)與研究工作。

審核編輯：符乾江