0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

20個必知的自動化機(jī)器學(xué)習(xí)庫(Python)

新機(jī)器視覺 ? 來源:聞雞起舞 ? 2023-05-26 15:04 ? 次閱讀

本文介紹了20個必須知道的機(jī)器學(xué)習(xí)自動化庫。

AutoML是指自動機(jī)器學(xué)習(xí)。它說明了如何在組織和教育水平上自動化機(jī)器學(xué)習(xí)的端到端過程。機(jī)器學(xué)習(xí)模型基本上包括以下步驟:
  • 數(shù)據(jù)讀取和合并,使其可供使用。
  • 數(shù)據(jù)預(yù)處理是指數(shù)據(jù)清理和數(shù)據(jù)整理。
  • 優(yōu)化功能和模型選擇過程的位置。
  • 將其應(yīng)用于應(yīng)用程序以預(yù)測準(zhǔn)確的值。
最初,所有這些步驟都是手動完成的。但是現(xiàn)在隨著AutoML的出現(xiàn),這些步驟可以實(shí)現(xiàn)自動化。AutoML當(dāng)前分為三類:
  1. 用于自動參數(shù)調(diào)整的AutoML(相對基本的類型)
  2. 用于非深度學(xué)習(xí)的AutoML,例如AutoSKlearn。此類型主要應(yīng)用于數(shù)據(jù)預(yù)處理,自動特征分析,自動特征檢測,自動特征選擇和自動模型選擇。
  3. 用于深度學(xué)習(xí)/神經(jīng)網(wǎng)絡(luò)的AutoML,包括NAS和ENAS以及用于框架的Auto-Keras。

44608634-fb83-11ed-90ce-dac502259ad0.png

為什么需要AutoML?

機(jī)器學(xué)習(xí)的需求日益增長。組織已經(jīng)在應(yīng)用程序級別采用了機(jī)器學(xué)習(xí)。仍在進(jìn)行許多改進(jìn),并且仍然有許多公司正在努力為機(jī)器學(xué)習(xí)模型的部署提供更好的解決方案。 為了進(jìn)行部署,企業(yè)需要有一個經(jīng)驗(yàn)豐富的數(shù)據(jù)科學(xué)家團(tuán)隊(duì),他們期望高薪。即使企業(yè)確實(shí)擁有優(yōu)秀的團(tuán)隊(duì),通常也需要更多的經(jīng)驗(yàn)而不是AI知識來決定哪種模型最適合企業(yè)。機(jī)器學(xué)習(xí)在各種應(yīng)用中的成功導(dǎo)致對機(jī)器學(xué)習(xí)系統(tǒng)的需求越來越高。即使對于非專家也應(yīng)該易于使用。AutoML傾向于在ML管道中自動執(zhí)行盡可能多的步驟,并以最少的人力保持良好的模型性能。

AutoML三大優(yōu)點(diǎn)

  • 它通過自動化最重復(fù)的任務(wù)來提高效率。這使數(shù)據(jù)科學(xué)家可以將更多的時間投入到問題上,而不是模型上。

  • 自動化的ML管道還有助于避免由手工作業(yè)引起的潛在錯誤。

  • AutoML是朝著機(jī)器學(xué)習(xí)民主化邁出的一大步,它使每個人都可以使用ML功能。

讓我們看看以不同的編程語言提供的一些最常見的AutoML庫:

以下是用Python實(shí)現(xiàn)

auto-sklearn

44695e30-fb83-11ed-90ce-dac502259ad0.jpg圖片 auto-sklearn是一種自動機(jī)器學(xué)習(xí)工具包,是scikit-learn估計器的直接替代品。Auto-SKLearn將機(jī)器學(xué)習(xí)用戶從算法選擇和超參數(shù)調(diào)整中解放出來。它包括功能設(shè)計方法,例如一站式,數(shù)字功能標(biāo)準(zhǔn)化和PCA。該模型使用SKLearn估計器來處理分類和回歸問題。Auto-SKLearn創(chuàng)建管道并使用貝葉斯搜索來優(yōu)化該渠道。在ML框架中,通過貝葉斯推理為超參數(shù)調(diào)整添加了兩個組件:元學(xué)習(xí)用于使用貝葉斯初始化優(yōu)化器,并在優(yōu)化過程中評估配置的自動集合構(gòu)造。 Auto-SKLearn在中小型數(shù)據(jù)集上表現(xiàn)良好,但無法生成在大型數(shù)據(jù)集中具有最先進(jìn)性能的現(xiàn)代深度學(xué)習(xí)系統(tǒng)。

詳細(xì)原理與案例請見(點(diǎn)擊查看):一文徹底搞懂自動機(jī)器學(xué)習(xí)AutoML:Auto-Sklearn

例子


					
import sklearn.model_selection
import sklearn.datasets
import sklearn.metrics


import autosklearn.regression


def main():
    X, y = sklearn.datasets.load_boston(return_X_y=True)
    feature_types = (['numerical'] * 3) + ['categorical'] + (['numerical'] * 9)
    X_train, X_test, y_train, y_test = 
    sklearn.model_selection.train_test_split(X, y, random_state=1)


    automl = autosklearn.regression.AutoSklearnRegressor(
    time_left_for_this_task=120,
    per_run_time_limit=30,
    tmp_folder='/tmp/autosklearn_regression_example_tmp',
    output_folder='/tmp/autosklearn_regression_example_out',
    )
    automl.fit(X_train, y_train, dataset_name='boston',
    feat_type=feature_types)


        print(automl.show_models())
    predictions = automl.predict(X_test)
    print("R2 score:", sklearn.metrics.r2_score(y_test, predictions))


if __name__ == '__main__':
main()

FeatureTools


它是用于自動功能工程的python庫。

安裝

pip安裝

					
						
python-mpipinstallfeaturetools
或通過conda上的Conda-forge頻道:

					
						
condainstall-cconda-forgefeaturetools

附加組件

我們可以運(yùn)行以下命令單獨(dú)安裝或全部安裝附件

					
						
python-mpipinstallfeaturetools[complete]
更新檢查器—接收有關(guān)FeatureTools新版本的自動通知

					
						
python-mpipinstallfeaturetools[update_checker]
TSFresh基本體-在Featuretools中使用tsfresh中的60多個基本體

					
						
python-mpipinstallfeaturetools[tsfresh]


					
import featuretools as ft
es = ft.demo.load_mock_customer(return_entityset=True)
es.plot()
447dd720-fb83-11ed-90ce-dac502259ad0.jpg

圖片

Featuretools可以為任何"目標(biāo)實(shí)體"自動創(chuàng)建一個特征表
feature_matrix,features_defs=ft.dfs(entityset=es,
                     target_entity="customers")
feature_matrix.head(5)
4488c4dc-fb83-11ed-90ce-dac502259ad0.jpg圖片

官方網(wǎng)站:

https://featuretools.alteryx.com/cn/stable/

MLBox

MLBox是功能強(qiáng)大的自動化機(jī)器學(xué)習(xí)python庫。詳細(xì)原理與案例請見(點(diǎn)擊查看)一文徹底掌握自動機(jī)器學(xué)習(xí)AutoML:MLBox

根據(jù)官方文檔,它具有以下功能:

  • 快速讀取和分布式數(shù)據(jù)預(yù)處理/清理/格式化

  • 高度強(qiáng)大的功能選擇和泄漏檢測以及精確的超參數(shù)優(yōu)化

  • 最新的分類和回歸預(yù)測模型(深度學(xué)習(xí),堆疊,LightGBM等)

  • 使用模型解釋進(jìn)行預(yù)測,MLBox已在Kaggle上進(jìn)行了測試,并顯示出良好的性能。

  • 管道

MLBox體系結(jié)構(gòu)

MLBox主軟件包包含3個子軟件包:

  • 預(yù)處理:讀取和預(yù)處理數(shù)據(jù)

  • 優(yōu)化:測試或優(yōu)化各種學(xué)習(xí)者

  • 預(yù)測:預(yù)測測試數(shù)據(jù)集上的目標(biāo)

官方網(wǎng)站:https://github.com/AxeldeRomblay/MLBox

TPOT

TPOT代表基于樹的管道優(yōu)化工具,它使用遺傳算法優(yōu)化機(jī)器學(xué)習(xí)管道.TPOT建立在scikit-learn的基礎(chǔ)上,并使用自己的回歸器和分類器方法。TPOT探索了數(shù)千種可能的管道,并找到最適合數(shù)據(jù)的管道。 TPOT通過智能地探索成千上萬的可能管道來找到最適合我們數(shù)據(jù)的管道,從而使機(jī)器學(xué)習(xí)中最繁瑣的部分自動化。 TPOT建立在scikit-learn的基礎(chǔ)上,因此它生成的所有代碼都應(yīng)該看起來很熟悉……無論如何,如果我們熟悉scikit-learn。詳細(xì)原理與案例請見(點(diǎn)擊查看)一文徹底搞懂自動機(jī)器學(xué)習(xí)AutoML:TPOT

TPOT仍在積極開發(fā)中。 下面是分類和回歸問題的兩個例子:

分類

這是具有手寫數(shù)字?jǐn)?shù)據(jù)集光學(xué)識別功能的示例。


					

from tpot import TPOTClassifier
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
digits = load_digits()
X_train, X_test, y_train, y_test = train_test_split(digits.data, 
                                                    digits.target,
                                                    train_size=0.75, 
                                                    test_size=0.25, 
                                                    random_state=42)
tpot = TPOTClassifier(generations=5, population_size=50,
                      verbosity=2, random_state=42)
tpot.fit(X_train, y_train)
print(tpot.score(X_test, y_test))
tpot.export('tpot_digits_pipeline.py')

此代碼將發(fā)現(xiàn)達(dá)到98%的測試精度的管道。應(yīng)將相應(yīng)的Python代碼導(dǎo)出到tpot_digits_pipeline.py文件,其外觀類似于以下內(nèi)容:


					
import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.pipeline import make_pipeline, make_union
from sklearn.preprocessing import PolynomialFeatures
from tpot.builtins import StackingEstimator
from tpot.export_utils import set_param_recursive
# NOTE: Make sure that the outcome column is labeled 'target' in the data file
tpot_data = pd.read_csv('PATH/TO/DATA/FILE', sep='COLUMN_SEPARATOR', dtype=np.float64)
features = tpot_data.drop('target', axis=1)
training_features, testing_features, training_target, testing_target = 
   train_test_split(features, tpot_data['target'], random_state=42)
# Average CV score on the training set was: 0.9799428471757372
exported_pipeline = make_pipeline(
   PolynomialFeatures(degree=2, include_bias=False, interaction_only=False),
   StackingEstimator(estimator=LogisticRegression(C=0.1, dual=False, penalty="l1")),
   RandomForestClassifier(bootstrap=True, criterion='entropy',
                           max_features=0.35000000000000003, 
                           min_samples_leaf=20, min_samples_split=19, 
                           n_estimators=100)
)
# Fix random state for all the steps in exported pipeline
set_param_recursive(exported_pipeline.steps, 'random_state', 42)
exported_pipeline.fit(training_features, training_target)
results = exported_pipeline.predict(testing_features)

回歸

TPOT可以優(yōu)化管道以解決回歸問題。以下是使用波士頓房屋價格數(shù)據(jù)集的最小工作示例。


					
from tpot import TPOTRegressor
from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
housing = load_boston()
X_train, X_test, y_train, y_test = train_test_split(
     housing.data, 
    housing.target,
     train_size=0.75,
     test_size=0.25, 
     random_state=42)
tpot = TPOTRegressor(generations=5, population_size=50,
                     verbosity=2, random_state=42)
tpot.fit(X_train, y_train)
print(tpot.score(X_test, y_test))
tpot.export('tpot_boston_pipeline.py')

這將導(dǎo)致流水線達(dá)到約12.77均方誤差(MSE),tpot_boston_pipeline.py中的Python代碼應(yīng)類似于:

					
import numpy as np
import pandas as pd
from sklearn.ensemble import ExtraTreesRegressor
from sklearn.model_selection import train_test_split
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import PolynomialFeatures
from tpot.export_utils import set_param_recursive
# NOTE: Make sure that the outcome column is labeled 'target' in the data file
tpot_data = pd.read_csv('PATH/TO/DATA/FILE', 
                        sep='COLUMN_SEPARATOR', 
                        dtype=np.float64)
features = tpot_data.drop('target', axis=1)
training_features, testing_features, training_target, testing_target = 
     train_test_split(features, tpot_data['target'], random_state=42)
#AverageCVscoreonthetrainingsetwas:-10.812040755234403
exported_pipeline = make_pipeline(
    PolynomialFeatures(degree=2, include_bias=False, interaction_only=False),
    ExtraTreesRegressor(bootstrap=False, max_features=0.5, 
                          min_samples_leaf=2, min_samples_split=3, 
                          n_estimators=100)
)
# Fix random state for all the steps in exported pipeline
set_param_recursive(exported_pipeline.steps, 'random_state', 42)
exported_pipeline.fit(training_features, training_target)
results = exported_pipeline.predict(testing_features)

Github鏈接

https://github.com/EpistasisLab/tpot

Lightwood

一個基于Pytorch的框架,它將機(jī)器學(xué)習(xí)問題分解為較小的塊,可以與一個目標(biāo)無縫地粘合在一起:讓它變得如此簡單,以至于您只需要一行代碼就可以構(gòu)建預(yù)測模型。

安裝

我們可以從pip安裝Lightwood:

					
						
pip3installlightwood
注意:根據(jù)我們的環(huán)境,在上面的命令中我們可能必須使用pip而不是pip3。 鑒于簡單的sensor_data.csv,我們可以預(yù)測sensor3的值。 從Lightwood導(dǎo)入預(yù)測變量

					
from lightwood import Predictor
訓(xùn)練模型。

					
import panda
ssensor3_predictor = Predictor(output=['sensor3']
                              ).learn(from_data=pandas.read_csv('sensor_data.csv'))
現(xiàn)在我們可以預(yù)測sensor3的值。

					
prediction = sensor3_predictor.predict(when={'sensor1':1, 'sensor2':-1})

官方鏈接:

https://github.com/mindsdb/lightwood

MindsDB


MindsDB是現(xiàn)有數(shù)據(jù)庫的開源AI層,可讓您輕松使用SQL查詢來開發(fā),訓(xùn)練和部署最新的機(jī)器學(xué)習(xí)模型。

官方鏈接:

https://github.com/mindsdb/mindsdb

mljar-supervised


mljar-supervised是一個自動化的機(jī)器學(xué)習(xí)Python軟件包,可用于表格數(shù)據(jù)。它旨在為數(shù)據(jù)科學(xué)家節(jié)省時間time。它抽象了預(yù)處理數(shù)據(jù),構(gòu)建機(jī)器學(xué)習(xí)模型以及執(zhí)行超參數(shù)調(diào)整以找到最佳模型common的通用方法。這不是黑盒子,因?yàn)槟梢源_切地看到ML管道的構(gòu)造方式(每個ML模型都有詳細(xì)的Markdown報告)。 在mljar-supervised中,將幫助您:

  • 解釋和理解您的數(shù)據(jù),

  • 嘗試許多不同的機(jī)器學(xué)習(xí)模型,

  • 通過分析創(chuàng)建有關(guān)所有模型的詳細(xì)信息的Markdown報告,

  • 保存,重新運(yùn)行和加載分析和ML模型。

它具有三種內(nèi)置的工作模式:
  • 解釋模式,非常適合于解釋和理解數(shù)據(jù),其中包含許多數(shù)據(jù)解釋,例如決策樹可視化,線性模型系數(shù)顯示,排列重要性和數(shù)據(jù)的SHAP解釋,
  • 執(zhí)行構(gòu)建用于生產(chǎn)的ML管道,
  • 競爭模式,用于訓(xùn)練具有集成和堆疊功能的高級ML模型,目的是用于ML競賽中。

官方鏈接:

https://github.com/mljar/mljar-supervisedv

Auto-Keras


Auto-Keras是由DATA Lab開發(fā)的用于自動機(jī)器學(xué)習(xí)(AutoML)的開源軟件庫。Auto-Keras建立在深度學(xué)習(xí)框架Keras之上,提供自動搜索深度學(xué)習(xí)模型的體系結(jié)構(gòu)和超參數(shù)的功能。 Auto-Keras遵循經(jīng)典的Scikit-Learn API設(shè)計,因此易于使用。當(dāng)前版本提供了在深度學(xué)習(xí)期間自動搜索超參數(shù)的功能。 在Auto-Keras中,趨勢是通過使用自動神經(jīng)體系結(jié)構(gòu)搜索(NAS)算法來簡化ML。NAS基本上使用一組算法來自動調(diào)整模型,以取代深度學(xué)習(xí)工程師/從業(yè)人員。

官方鏈接:

https://github.com/keras-team/autokeras

神經(jīng)網(wǎng)絡(luò)智能 NNI

用于神經(jīng)體系結(jié)構(gòu)搜索和超參數(shù)調(diào)整的開源AutoML工具包。NNI提供了CommandLine Tool以及用戶友好的WebUI來管理訓(xùn)練實(shí)驗(yàn)。使用可擴(kuò)展的API,您可以自定義自己的AutoML算法和培訓(xùn)服務(wù)。為了使新用戶容易使用,NNI還提供了一組內(nèi)置的最新AutoML算法,并為流行的培訓(xùn)平臺提供了開箱即用的支持。 官方網(wǎng)站https://nni.readthedocs.io/en/latest/

Ludwig

路德維希(Ludwig)是一個工具箱,可讓用戶無需編寫代碼即可訓(xùn)練和測試深度學(xué)習(xí)模型。它建立在TensorFlow之上,Ludwig基于可擴(kuò)展性原則構(gòu)建,并基于數(shù)據(jù)類型抽象,可以輕松添加對新數(shù)據(jù)類型和新模型架構(gòu)的支持,可供從業(yè)人員快速培訓(xùn)和測試深度學(xué)習(xí)模型以及由研究人員獲得的強(qiáng)基準(zhǔn)進(jìn)行比較,并具有實(shí)驗(yàn)設(shè)置,可通過執(zhí)行相同的數(shù)據(jù)處理和評估來確保可比性。 路德維希提供了一組模型體系結(jié)構(gòu),可以將它們組合在一起以為給定用例創(chuàng)建端到端模型。舉例來說,如果深度學(xué)習(xí)圖書館提供了建造建筑物的基礎(chǔ),路德維希提供了建造城市的建筑物,您可以在可用建筑物中進(jìn)行選擇,也可以將自己的建筑物添加到可用建筑物中。
  • 無需編碼:不需要任何編碼技能即可訓(xùn)練模型并將其用于獲取預(yù)測。
  • 通用性:新的基于數(shù)據(jù)類型的深度學(xué)習(xí)模型設(shè)計方法使該工具可在許多不同的用例中使用。
  • 靈活性:經(jīng)驗(yàn)豐富的用戶對模型的建立和培訓(xùn)具有廣泛的控制權(quán),而新用戶則會發(fā)現(xiàn)它易于使用。
  • 可擴(kuò)展性:易于添加新的模型架構(gòu)和新的特征數(shù)據(jù)類型。
  • 可理解性:深度學(xué)習(xí)模型的內(nèi)部通常被認(rèn)為是黑匣子,但是路德維希(Ludwig)提供了標(biāo)準(zhǔn)的可視化效果來了解其性能并比較其預(yù)測。
  • 開源:Apache License 2.0

官方鏈接

https://github.com/uber/ludwig

AdaNet

AdaNet是基于TensorFlow的輕量級框架,可在最少的專家干預(yù)下自動學(xué)習(xí)高質(zhì)量的模型。AdaNet建立在AutoML最近的努力基礎(chǔ)上,以提供快速的,靈活的學(xué)習(xí)保證。重要的是,AdaNet提供了一個通用框架,不僅用于學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu),而且還用于學(xué)習(xí)集成以獲得更好的模型。 AdaNet具有以下目標(biāo):
  • 易于使用:提供熟悉的API(例如Keras,Estimator)用于訓(xùn)練,評估和提供模型。
  • 速度:可用計算進(jìn)行擴(kuò)展,并快速生成高質(zhì)量的模型。
  • 靈活性:允許研究人員和從業(yè)人員將AdaNet擴(kuò)展到新穎的子網(wǎng)體系結(jié)構(gòu),搜索空間和任務(wù)。
  • 學(xué)習(xí)保證:優(yōu)化提供理論學(xué)習(xí)保證的目標(biāo)。
官方鏈接https://github.com/tensorflow/adanet

Darts

該算法基于架構(gòu)空間中的連續(xù)松弛和梯度下降。它能夠有效地設(shè)計用于圖像分類的高性能卷積體系結(jié)構(gòu)(在CIFAR-10和ImageNet上),以及用于語言建模的循環(huán)體系結(jié)構(gòu)(在Penn Treebank和WikiText-2上)。只需要一個GPU。

官方鏈接

https://github.com/quark0/darts

automl-gs

提供一個輸入的CSV文件和一個您希望預(yù)測為automl-gs的目標(biāo)字段,并獲得訓(xùn)練有素的高性能機(jī)器學(xué)習(xí)或深度學(xué)習(xí)模型以及本機(jī)Python代碼管道,使您可以將該模型集成到任何預(yù)測工作流中。沒有黑匣子:您可以確切地看到如何處理數(shù)據(jù),如何構(gòu)建模型以及可以根據(jù)需要進(jìn)行調(diào)整。 44be6844-fb83-11ed-90ce-dac502259ad0.jpg圖片 automl-gs是一種AutoML工具,與Microsoft的NNI,Uber的Ludwig和TPOT不同,它提供了零代碼/模型定義界面,可在多個流行的ML / DL框架中以最少的Python依賴關(guān)系獲得優(yōu)化的模型和數(shù)據(jù)轉(zhuǎn)換管道。

官方鏈接

https://github.com/minimaxir/automl-gs

以下是用R實(shí)現(xiàn)

AutoKeras的R接口

AutoKeras是用于自動機(jī)器學(xué)習(xí)(AutoML)的開源軟件庫。它是由德克薩斯農(nóng)工大學(xué)的DATA Lab和社區(qū)貢獻(xiàn)者開發(fā)的。AutoML的最終目標(biāo)是為數(shù)據(jù)科學(xué)或機(jī)器學(xué)習(xí)背景有限的領(lǐng)域?qū)<姨峁┮子谠L問的深度學(xué)習(xí)工具。AutoKeras提供了自動搜索深度學(xué)習(xí)模型的體系結(jié)構(gòu)和超參數(shù)的功能。 在RStudio TensorFlow for R博客上查看AutoKeras博客文章。

官方文檔

https://github.com/r-tensorflow/autokeras

以下是用Scala實(shí)現(xiàn)

TransmogrifAI

TransmogrifAI(發(fā)音為tr?ns-m?g?r?-fī)是用Scala編寫的AutoML庫,它在Apache Spark之上運(yùn)行。它的開發(fā)重點(diǎn)是通過機(jī)器學(xué)習(xí)自動化來提高機(jī)器學(xué)習(xí)開發(fā)人員的生產(chǎn)率,以及一個用于強(qiáng)制執(zhí)行編譯時類型安全,模塊化和重用的API。通過自動化,它實(shí)現(xiàn)了接近手動調(diào)整模型的精度,時間減少了近100倍。 如果您需要機(jī)器學(xué)習(xí)庫來執(zhí)行以下操作,請使用TransmogrifAI:
  • 數(shù)小時而不是數(shù)月內(nèi)即可構(gòu)建生產(chǎn)就緒的機(jī)器學(xué)習(xí)應(yīng)用程序
  • 在沒有博士學(xué)位的情況下建立機(jī)器學(xué)習(xí)模型在機(jī)器學(xué)習(xí)中
  • 構(gòu)建模塊化,可重用,強(qiáng)類型的機(jī)器學(xué)習(xí)工作流程

官方鏈接

https://github.com/salesforce/TransmogrifAI

以下是用Java實(shí)現(xiàn)

Glaucus


Glaucus是基于數(shù)據(jù)流的機(jī)器學(xué)習(xí)套件,它結(jié)合了自動機(jī)器學(xué)習(xí)管道,簡化了機(jī)器學(xué)習(xí)算法的復(fù)雜過程,并應(yīng)用了出色的分布式數(shù)據(jù)處理引擎。對于跨領(lǐng)域的非數(shù)據(jù)科學(xué)專業(yè)人士,幫助他們以簡單的方式獲得強(qiáng)大的機(jī)器學(xué)習(xí)工具的好處。 用戶只需要上傳數(shù)據(jù),簡單配置,算法選擇,并通過自動或手動參數(shù)調(diào)整來訓(xùn)練算法。該平臺還為培訓(xùn)模型提供了豐富的評估指標(biāo),因此非專業(yè)人員可以最大限度地發(fā)揮機(jī)器學(xué)習(xí)在其領(lǐng)域中的作用。整個平臺結(jié)構(gòu)如下圖所示,主要功能是: 44d3250e-fb83-11ed-90ce-dac502259ad0.jpg圖片
  • 接收多源數(shù)據(jù)集,包括結(jié)構(gòu)化,文檔和圖像數(shù)據(jù);
  • 提供豐富的數(shù)學(xué)統(tǒng)計功能,圖形界面使用戶輕松掌握數(shù)據(jù)情況;
  • 在自動模式下,我們實(shí)現(xiàn)了從預(yù)處理,特征工程到機(jī)器學(xué)習(xí)算法的全管道自動化;
  • 在手動模式下,它極大地簡化了機(jī)器學(xué)習(xí)流程,并提供了自動數(shù)據(jù)清理,半自動特征選擇和深度學(xué)習(xí)套件。

官方網(wǎng)站

https://github.com/ccnt-glaucus/glaucus

介紹幾款其他工具

H20 AutoML


H2O AutoML界面設(shè)計為具有盡可能少的參數(shù),因此用戶所需要做的只是指向他們的數(shù)據(jù)集,標(biāo)識響應(yīng)列,并可選地指定時間限制或訓(xùn)練的總模型數(shù)量的限制。 在R和Python API中,AutoML與其他H2O算法使用相同的數(shù)據(jù)相關(guān)參數(shù)x,y,training_frame,validation_frame。大多數(shù)時候,您需要做的就是指定數(shù)據(jù)參數(shù)。然后,您可以為max_runtime_secs和/或max_models配置值,以在運(yùn)行時設(shè)置明確的時間或模型數(shù)量限制。 詳細(xì)原理與案例請見(點(diǎn)擊查看)一文徹底搞懂自動機(jī)器學(xué)習(xí)AutoML:H2O

官方鏈接

https://github.com//h2oai/h2o-3/blob/master/h2o-docs/src/product/automl.rst

PocketFlow

PocketFlow是一個開源框架,用于以最少的人力來壓縮和加速深度學(xué)習(xí)模型。深度學(xué)習(xí)廣泛用于計算機(jī)視覺,語音識別和自然語言翻譯等各個領(lǐng)域。但是,深度學(xué)習(xí)模型通常在計算上很昂貴,這限制了在計算資源有限的移動設(shè)備上的進(jìn)一步應(yīng)用。 PocketFlow旨在為開發(fā)人員提供一個易于使用的工具包,以提高推理效率而幾乎不降低性能或不降低性能。開發(fā)人員只需指定所需的壓縮和/或加速比,然后PocketFlow將自動選擇適當(dāng)?shù)某瑓?shù)以生成用于部署的高效壓縮模型。 44e50cba-fb83-11ed-90ce-dac502259ad0.jpg圖片

官方鏈接

https://github.com/Tencent/PocketFlow

Ray

Ray提供了用于構(gòu)建分布式應(yīng)用程序的簡單通用API。 Ray與以下庫打包在一起,以加快機(jī)器學(xué)習(xí)的工作量:
  • Tune:可伸縮超參數(shù)調(diào)整
  • RLlib:可擴(kuò)展的強(qiáng)化學(xué)習(xí)
  • RaySGD:分布式培訓(xùn)包裝器
  • Ray Serve:可擴(kuò)展和可編程服務(wù)
使用以下方式安裝Ray:pip install ray

官方鏈接

https://github.com/ray-project/ray

SMAC3

SMAC是用于算法配置的工具,可以跨一組實(shí)例優(yōu)化任意算法的參數(shù)。這還包括ML算法的超參數(shù)優(yōu)化。主要核心包括貝葉斯優(yōu)化和積極的競速機(jī)制,可有效地確定兩種配置中哪一種的性能更好。 有關(guān)其主要思想的詳細(xì)說明,請參閱 Hutter, F. and Hoos, H. H. and Leyton-Brown, K.Sequential Model-Based Optimization for General Algorithm ConfigurationIn: Proceedings of the conference on Learning and Intelligent OptimizatioN (LION 5) SMAC v3是用Python3編寫的,并經(jīng)過了Python3.6和python3.6的持續(xù)測試。它的隨機(jī)森林用C++編寫。

結(jié)論

autoML庫非常重要,因?yàn)樗鼈兛梢宰詣訄?zhí)行重復(fù)任務(wù),例如管道創(chuàng)建和超參數(shù)調(diào)整。它為數(shù)據(jù)科學(xué)家節(jié)省了時間,因此他們可以將更多的時間投入到業(yè)務(wù)問題上。AutoML還允許每個人代替一小部分人使用機(jī)器學(xué)習(xí)技術(shù)。數(shù)據(jù)科學(xué)家可以通過使用AutoML實(shí)施真正有效的機(jī)器學(xué)習(xí)來加速M(fèi)L開發(fā)。 讓我們看看AutoML的成功將取決于組織的使用情況和需求。時間將決定命運(yùn)。但是目前我可以說AutoML在機(jī)器學(xué)習(xí)領(lǐng)域中很重要。
審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4588

    瀏覽量

    92505
  • 自動化
    +關(guān)注

    關(guān)注

    29

    文章

    5483

    瀏覽量

    79008
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8350

    瀏覽量

    132315

原文標(biāo)題:20個必知的自動化機(jī)器學(xué)習(xí)庫(Python)

文章出處:【微信號:vision263com,微信公眾號:新機(jī)器視覺】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    介紹10Python自動化腳本

    在這個自動化時代,我們有很多重復(fù)無聊的工作要做。想想這些你不再需要一次又一次地做的無聊的事情,讓它自動化,讓你的生活更輕松。那么在本文中,我將向您介紹 10 Python
    發(fā)表于 10-17 09:27 ?922次閱讀

    10殺手級的Python自動化腳本

    今天浩道跟大家分享10日常工作中用到的python自動化腳本。讓你感受一番python簡單強(qiáng)大之處!
    發(fā)表于 11-28 11:07 ?665次閱讀

    電力行業(yè)電氣工程及其自動化專業(yè) “應(yīng)聘” 時

    電力行業(yè)電氣工程及其自動化專業(yè) “應(yīng)聘” 時
    發(fā)表于 05-28 22:41

    Python機(jī)器學(xué)習(xí)常用

    歡迎的編程語言!人工智能是當(dāng)前最熱門話題之一,機(jī)器學(xué)習(xí)技術(shù)是人工智能實(shí)現(xiàn)必備技能,Python編程語言含有最有用的機(jī)器學(xué)習(xí)工具和
    發(fā)表于 03-26 16:29

    常用python機(jī)器學(xué)習(xí)盤點(diǎn)

    現(xiàn)在人工智能非?;鸨?b class='flag-5'>機(jī)器學(xué)習(xí)應(yīng)該算是人工智能里面的一子領(lǐng)域,而其中有一塊是對文本進(jìn)行分析,對數(shù)據(jù)進(jìn)行深入的挖掘提取一些特征值,然后用一些算法去學(xué)習(xí),訓(xùn)練,分析,甚至還能預(yù)測,那么
    發(fā)表于 05-10 15:20

    Python機(jī)器學(xué)習(xí)的重要

    開發(fā)用 Python機(jī)器學(xué)習(xí)不得不收藏的重要
    發(fā)表于 06-10 09:24

    機(jī)器學(xué)習(xí)專家們每天都在做什么?如何讓機(jī)器學(xué)習(xí)自動化

    在思考我們?nèi)绾巫?b class='flag-5'>機(jī)器學(xué)習(xí)自動化,以及如何讓它普及到更多領(lǐng)域的人時,首先要思考的是,機(jī)器學(xué)習(xí)專家們都要做什么?任何能解決
    的頭像 發(fā)表于 07-19 16:01 ?5096次閱讀

    談?wù)勅绾螌?b class='flag-5'>機(jī)器學(xué)習(xí)引入自動化

    今天,筆者嘗試通過一一般性方法的介紹來談?wù)勅绾螌?b class='flag-5'>機(jī)器學(xué)習(xí)引入自動化,同時對機(jī)器學(xué)習(xí)的相關(guān)概念做
    的頭像 發(fā)表于 10-09 15:55 ?2282次閱讀

    初學(xué)者20模擬電路

    初學(xué)者20模擬電路
    發(fā)表于 05-29 09:27 ?456次下載
    初學(xué)者<b class='flag-5'>必</b><b class='flag-5'>知</b>的<b class='flag-5'>20</b><b class='flag-5'>個</b>模擬電路

    分享10實(shí)用的Python自動化腳本

    重復(fù)性任務(wù)總是耗時且無聊,想一想你想要一張一張地裁剪 100 張照片或 Fetch API、糾正拼寫和語法等工作,所有這些任務(wù)都很耗時,為什么不自動化它們呢?在今天的文章中,我將與你分享 10 Python
    的頭像 發(fā)表于 01-21 15:58 ?1301次閱讀

    使用Python腳本實(shí)現(xiàn)自動化運(yùn)維任務(wù)

    許多運(yùn)維工程師會使用 Python 腳本來自動化運(yùn)維任務(wù)。Python 是一種流行的編程語言,具有豐富的第三方和強(qiáng)大的自動化能力,適用于許
    的頭像 發(fā)表于 04-08 10:36 ?1609次閱讀

    Facebook群組自動化python – 網(wǎng)絡(luò)自動化

    電子發(fā)燒友網(wǎng)站提供《Facebook群組自動化python – 網(wǎng)絡(luò)自動化.zip》資料免費(fèi)下載
    發(fā)表于 07-05 14:26 ?0次下載
    Facebook群組<b class='flag-5'>自動化</b><b class='flag-5'>python</b> – 網(wǎng)絡(luò)<b class='flag-5'>自動化</b>

    python機(jī)器學(xué)習(xí)概述

    Python機(jī)器學(xué)習(xí)概述 機(jī)器學(xué)習(xí)是人工智能領(lǐng)域的一重要分支,是一種可以
    的頭像 發(fā)表于 08-17 16:11 ?1031次閱讀

    python數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)

    用的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)工具。 一、數(shù)據(jù)挖掘 數(shù)據(jù)挖掘是指從大量數(shù)據(jù)中自動或半自動地發(fā)現(xiàn)潛在的關(guān)系、規(guī)律或模式的過程。Python中有許多數(shù)據(jù)
    的頭像 發(fā)表于 08-17 16:29 ?1272次閱讀

    Python 模擬鍵盤鼠標(biāo)的方式實(shí)現(xiàn)自動化

    實(shí)現(xiàn)自動化。 Python中模擬鍵盤和鼠標(biāo)最著名的模塊是: pymouse 和 pykeyboard 。一次安裝兩模塊比較麻煩,而有一
    的頭像 發(fā)表于 11-02 14:48 ?1310次閱讀
    <b class='flag-5'>Python</b> 模擬鍵盤鼠標(biāo)的方式實(shí)現(xiàn)<b class='flag-5'>自動化</b>