關(guān)于AutoML的完整資源列表

深度學(xué)習(xí)的發(fā)展促進了相關(guān)應(yīng)用的涌現(xiàn)。但是，深度學(xué)習(xí)模型往往具有非常大的參數(shù)搜索空間，為了保證模型的效果，經(jīng)常需要機器學(xué)習(xí)專家耗費大量的時間構(gòu)建深度學(xué)習(xí)模型。

為了降低深度學(xué)習(xí)模型的設(shè)計成本和難度、提高模型構(gòu)建效率，學(xué)界提出了一個新的概念： Automated Machine Learning（AutoML）。目前 AutoML 這一概念并無統(tǒng)一定義，主要理念是：通過使用 AutoML 方法，用戶只需向模型輸入數(shù)據(jù)，之后模型會自動完成架構(gòu)選擇和參數(shù)訓(xùn)練。

2018年初， Google 發(fā)布的深度學(xué)習(xí)模型自動構(gòu)建工具—— Cloud AutoML ，引發(fā)了針對 AutoML 更為廣泛的討論。本文中，營長將為大家推薦 GitHub 上一項針對 AutoML 的資源整理項目。項目作者對 AutoML 和傳統(tǒng)深度學(xué)習(xí)的特點進行了對比，并提供了關(guān)于 AutoML 的完整資源列表，包括論文、教程、教材、模型及項目、 PPT 等。

地址：

https://github.com/hibayesian/awesome-automl-papers

整體介紹

在傳統(tǒng)深度學(xué)習(xí)的模型構(gòu)建中，主要包含以下步驟：數(shù)據(jù)處理、特征工程、模型架構(gòu)選擇、超參數(shù)優(yōu)化、模型后處理、結(jié)果分析。這些步驟往往會耗費大量人力和時間。在 AutoML 中，則可以對大部分步驟進行自動處理。在該項目中，作者對相關(guān)的 AutoML 類別進行了總結(jié)，包括：

自動數(shù)據(jù)清洗（Automated Data Clean, Auto Clean）

自動特征工程（Automated Feature Enginnering, Auto FE）

超參數(shù)優(yōu)化（Hyperparameter Optimization, HPO）

元學(xué)習(xí)（Meta-Learning）

神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索（Neural Architecture Search, NAS）

此外，細心的項目作者還提供了一個詳細的結(jié)構(gòu)圖，以及部分現(xiàn)有模型的實現(xiàn)情況分析表。有興趣的讀者可以找到該項目地址以查看更多詳細內(nèi)容。

論文

在這一部分，該項目針對于上述幾個 AutoML 類別提供了涉及 AutoML 的完整論文列表。

自動特征工程

模型架構(gòu)搜索

超參數(shù)優(yōu)化

混合模型

教程

這一部分，作者提供了關(guān)于貝葉斯優(yōu)化和元學(xué)習(xí)的兩個教程，內(nèi)容如下：

博客

書籍

項目

這一部分提供了一些相關(guān)模型和項目的官網(wǎng)或開源代碼鏈接：

PPT

最后是三個相關(guān)的 PPT 資源：

以上就是此次分享內(nèi)容，希望對大家有所幫助！