介紹一門MIT新課6.S191：深入“深度學習”

MIT座右銘是“Mens et Manus”：理論、實踐兩手抓，兩手都要硬。MIT的課程設置也秉承了動腦更要動手的原則，具有很高的實操性。今天我們向大家介紹一門MIT新課6.S191：深入“深度學習”。

MIT官方座右銘是“Mens et Manus”：理論、實踐兩手抓，兩手都要硬。MIT的課程設置也秉承了動腦更要動手的原則，具有很高的實操性。

6.S191：深入”深度學習“是MIT正式提供的入門課程，已在其課程網站上開源。

該課程共9課時，全免費。包括一系列關于神經網絡基礎知識的基礎講座及其在序列建模、計算機視覺、生成模型和強化學習中的應用。

視頻、代碼等資源下載地址見文末。

課程視頻截圖

課程簡介

理論部分主要是線下講座。MIT將線下講座錄制成視頻并放在了YouTube上，供大家隨意觀看。

講座內容會從神經網絡的基礎知識開始，然后講到完全連接的網絡和反向傳播算法; 再到通過循環(huán)和卷積神經網絡，生成模型和深度強化學習的旅程; 并探索現(xiàn)代深度學習研究不斷擴大的前沿等等。

而實踐部分，MIT設計了三個開源、交互的TensorFlow軟件lab，涵蓋了TensorFlow的基礎知識。例如，用于音樂生成的復現(xiàn)神經網絡模型、計算機視覺、消除偏見的面部識別系統(tǒng)和深度強化學習。

lab運行在谷歌的Colaboratory環(huán)境中，只需要你有一個谷歌賬戶即可?；硬糠职ㄒ徊糠帧癟ODO”代碼塊，供你來完成。MIT將指導學生如何使用TensorFlow的Keras API及其新的命令執(zhí)行風格，來定義和訓練深度學習模型。

接下來，我們來分別介紹一下這3個lab：

Lab介紹

Lab 1：介紹TensorFlow及音樂生成

第1講側重于神經網絡基礎。因此lab 1中的第一個模塊簡單介紹了TensorFlow，為即將發(fā)布的TensorFlow 2.0做準備。

TensorFlow練習的介紹中，特別強調了幾個關鍵概念：如何使用數(shù)學運算符執(zhí)行計算；如何定義神經網絡模型；以及如何使用自動微分來訓練具有反向傳播的網絡。

lab 1的第二個模塊直接進入構建和RNN進行音樂生成，旨在配合第2講深度序列建模。

通過第二模塊，你將能夠構建一個人工智能算法，生成全新的、從未聽過的愛爾蘭民歌。為什么愛爾蘭民間音樂不是二人轉啥的呢？因為課程設計者特別喜歡下面這個萌萌噠?谷歌Doodle。動圖中的幾個?們正在表演傳統(tǒng)的愛爾蘭民歌。

通過填寫代碼塊以定義RNN模型，使用愛爾蘭民歌的數(shù)據(jù)集（在ABC表示法中）訓練模型，使用學習的模型生成新歌曲，然后播放生成的內容來檢驗你的模型的成果如何。

下面是一段示例音樂：

Lab 2：計算機視覺：消除偏見的面部檢測系統(tǒng)

Lab 2伴隨著深度計算機視覺和深度生成模型的講座。

第1部分通過卷積神經網絡（CNN）的示例提供了對基本神經網絡架構的實現(xiàn)的持續(xù)實踐，用于對著名的MNIST數(shù)據(jù)集中的手寫數(shù)字進行分類。

第2部分更進一步，探討了應用深度學習的兩個突出例子：面部檢測和算法偏見。

盡管神經網絡在識別圖像中的面部識別的消除偏見方面表現(xiàn)非常出色，但最近有很多人關注這些人工智能會遭受隱藏的算法偏見。事實證明，深度學習本身可以幫助對抗這種偏見。

MIT基于變分自動編碼器（VAE）訓練了一個模型，該模型學習特定任務，如面部檢測、以及訓練數(shù)據(jù)的基礎結構。

反過來，該算法使用這種學習的潛在結構，來揭示隱藏的偏見，并將其影響降低至最小化。

當應用于面部檢測任務時，與最先進的模型相比，MIT的算法降低了分類偏見并保持了非常高的整體準確性。

這個軟件lab將教會你如何構建這個去除模型，并評估其在消除面部檢測任務方面的功效。

除了考慮算法偏見及如何對抗之外，你還將獲得VAE的實操經驗，這種架構通常不會在深度學習實施教程中突出顯示。

更重要的是，這種方法可以應用于面部檢測以外的任何環(huán)境！

下面是一段示例代碼：

Lab 3：無模型強化學習

這個lab開始，你講接觸到深層強化學習的基礎技巧。

與之前專注于監(jiān)督和無監(jiān)督學習的lab相比，強化學習旨在教會代理人如何在世界上行動以最大化自己的獎勵。

Tensorflow的強制執(zhí)行為RL提供了一種簡化的方法，你可以在lab 3中，從頭開始完整的編寫一段程序。

我們專注于學習兩個任務：控制（例如Cart-Pole）和游戲（例如Pong）。MIT會分配學生一個任務：建立一個模塊化的RL框架，只使用一個“RL大腦”來學習這兩個截然不同的環(huán)境。

處理這些基線環(huán)境為學生提供了迅速掌握快速創(chuàng)建新算法原型的方法。學生們最終能夠具體了解如何實施RL培訓程序，并將這些想法用作最終項目中的模板。