看點(diǎn)：大廠的機(jī)器學(xué)習(xí)參考架構(gòu)

盡管?chē)@機(jī)器學(xué)習(xí)和人工智能（AI）進(jìn)行了大肆宣傳，但企業(yè)中的大多數(shù)努力仍處于試驗(yàn)階段。 造成這種現(xiàn)象的部分原因是與機(jī)器學(xué)習(xí)項(xiàng)目相關(guān)的自然實(shí)驗(yàn)，但也有一個(gè)與機(jī)器學(xué)習(xí)體系結(jié)構(gòu)缺乏成熟度有關(guān)的重要因素。 該問(wèn)題在企業(yè)環(huán)境中尤其明顯，在企業(yè)環(huán)境中，現(xiàn)代機(jī)器學(xué)習(xí)解決方案的新應(yīng)用程序生命周期管理實(shí)踐與公司實(shí)踐和法規(guī)要求相沖突。 在采用機(jī)器學(xué)習(xí)解決方案時(shí)，組織應(yīng)放置哪些關(guān)鍵體系結(jié)構(gòu)構(gòu)建塊？ 答案不是很簡(jiǎn)單，但是最近我們已經(jīng)看到研究實(shí)驗(yàn)室和AI數(shù)據(jù)科學(xué)的一些努力，這些努力開(kāi)始為大規(guī)模機(jī)器學(xué)習(xí)解決方案的參考體系結(jié)構(gòu)鋪平道路。

建立用于大規(guī)模機(jī)器學(xué)習(xí)解決方案的參考體系結(jié)構(gòu)的挑戰(zhàn)主要由兩個(gè)主要因素來(lái)強(qiáng)調(diào)：

1）機(jī)器學(xué)習(xí)框架和基礎(chǔ)設(shè)施的發(fā)展比主流環(huán)境中采用這些技術(shù)的發(fā)展速度要快得多。

2）機(jī)器學(xué)習(xí)解決方案的生命周期與其他軟件學(xué)科根本不同。

為了解釋第一點(diǎn)，請(qǐng)考慮構(gòu)成機(jī)器學(xué)習(xí)生態(tài)系統(tǒng)的四個(gè)主要領(lǐng)域：研究，開(kāi)發(fā)框架，基礎(chǔ)架構(gòu)和應(yīng)用程序架構(gòu)。 在過(guò)去的幾年中，前三個(gè)領(lǐng)域的發(fā)展速度比第四領(lǐng)域快得多，這說(shuō)明在主流環(huán)境中采用新的機(jī)器學(xué)習(xí)體系結(jié)構(gòu)存在很大的摩擦。

第二點(diǎn)也不是很明顯，除非您在實(shí)際應(yīng)用中遇到了這一挑戰(zhàn)。 機(jī)器學(xué)習(xí)程序的生命周期與傳統(tǒng)軟件應(yīng)用程序根本不同。 結(jié)果，當(dāng)應(yīng)用于機(jī)器學(xué)習(xí)解決方案時(shí)，大多數(shù)已建立的應(yīng)用程序開(kāi)發(fā)方法（例如，敏捷或瀑布式開(kāi)發(fā)以及連續(xù)的集成/交付工具和流程）均不完善。

盡管這些挑戰(zhàn)當(dāng)然是相關(guān)的，但我們開(kāi)始看到第一波架構(gòu)，這些架構(gòu)為機(jī)器學(xué)習(xí)解決方案提供了可行的工作流程。 矛盾的是，與流行的機(jī)器學(xué)習(xí)框架（如TensorFlow或PyTorch）或機(jī)器學(xué)習(xí)平臺(tái)（如AWS SageMaker或Azure ML）相比，這些解決方案中的大多數(shù)都沒(méi)有受到機(jī)器學(xué)習(xí)社區(qū)的太多關(guān)注。

您需要了解的五個(gè)機(jī)器學(xué)習(xí)框架

下面，我列出了一些我最喜歡的框架和參考體系結(jié)構(gòu)，這些框架和參考體系結(jié)構(gòu)簡(jiǎn)化了現(xiàn)實(shí)世界中機(jī)器學(xué)習(xí)解決方案的實(shí)現(xiàn)。 我計(jì)劃在以后的文章中深入研究這些堆棧中的每個(gè)堆棧。

斯坦福的DAWN

DAWN是由斯坦福大學(xué)（Stanford University）創(chuàng)立的一項(xiàng)計(jì)劃，并得到了英特爾，谷歌或微軟等行業(yè)巨頭的支持。 去年發(fā)表的研究論文中概述了DAWN背后的原理，該論文實(shí)質(zhì)上提出了一系列工具，框架和體系結(jié)構(gòu)參考，以簡(jiǎn)化機(jī)器學(xué)習(xí)工作流程。 當(dāng)前的DAWN堆棧包括解決機(jī)器學(xué)習(xí)解決方案生命周期不同方面的項(xiàng)目，例如培訓(xùn)（Snorkel），連續(xù)分析（MacroBase）或數(shù)據(jù)計(jì)算（Weld）。

》 Source： https://dawn.cs.stanford.edu/

優(yōu)步的米開(kāi)朗基羅

Uber的米開(kāi)朗基羅（Michelangelo）是該領(lǐng)域最著名的工作之一，它的運(yùn)行時(shí)為Uber的數(shù)百種機(jī)器學(xué)習(xí)工作流提供了動(dòng)力。 從實(shí)驗(yàn)到模型服務(wù)，米開(kāi)朗基羅結(jié)合了主流技術(shù)以自動(dòng)化機(jī)器學(xué)習(xí)應(yīng)用程序的生命周期。 Uber出色地完成了Michelangelo與其他專有機(jī)器學(xué)習(xí)技術(shù)（例如Horovod，PyML或Pyro）的互補(bǔ)工作。

》 Source： https://eng.uber.com/michelangelo-machine-learning-platform/

DataBricks的MLflow

MLflow是一個(gè)開(kāi)源平臺(tái)，用于自動(dòng)化機(jī)器學(xué)習(xí)解決方案的生命周期。 該項(xiàng)目專注于機(jī)器學(xué)習(xí)工作流程的三個(gè)關(guān)鍵領(lǐng)域：培訓(xùn)，項(xiàng)目包裝和模型服務(wù)。 Mlflow與許多主流開(kāi)發(fā)框架以及運(yùn)行時(shí)基礎(chǔ)結(jié)構(gòu)集成在一起，這使其成為各種機(jī)器學(xué)習(xí)場(chǎng)景的可行選擇。

》 Source： https://www.mlflow.org/

Facebook的FBLearner Flow

FBLearner Flow是Facebook機(jī)器學(xué)習(xí)應(yīng)用程序的骨干。 該平臺(tái)可自動(dòng)執(zhí)行機(jī)器學(xué)習(xí)工作流程的不同元素，例如特征提取，訓(xùn)練，模型評(píng)估和推理。 FBLearner Flow與Facebook自己的Caffe2，PyTorch和ONNX等多種機(jī)器學(xué)習(xí)框架和工具集成在一起。

》 Source： https://engineering.fb.com/ml-applications/introducing-fblearner-flow-facebook-s-ai-backbo

Google的TFX

Google還創(chuàng)建了自己的運(yùn)行時(shí)來(lái)執(zhí)行機(jī)器學(xué)習(xí)工作流。 TFX基于最近發(fā)表的研究論文，該論文提出了用于簡(jiǎn)化TensorFlow程序可操作性的架構(gòu)。 TFX包含TensorFlow架構(gòu)的幾個(gè)關(guān)鍵組件，例如用于基于訓(xùn)練數(shù)據(jù)生成模型的學(xué)習(xí)器，用于分析和驗(yàn)證數(shù)據(jù)以及模型的模塊以及用于在生產(chǎn)中服務(wù)模型的基礎(chǔ)架構(gòu)。

》 Source： https://www.kdd.org/kdd2017/papers/view/tfx-a-tensorflow-based-production-scale-machine-le

這些是一些新的，即將到來(lái)的項(xiàng)目，旨在簡(jiǎn)化現(xiàn)實(shí)世界中機(jī)器學(xué)習(xí)應(yīng)用程序的實(shí)現(xiàn)。 隨著機(jī)器學(xué)習(xí)的發(fā)展，我們應(yīng)該看到越來(lái)越多的參考架構(gòu)和框架已成為全球企業(yè)軟件堆棧中不可或缺的一部分。