AWS推全新機器學(xué)習定制訓(xùn)練芯片Trainium

在 2020 年度的 re：Invent 大會上，亞馬遜云服務(wù)（AWS）推出了全新的機器學(xué)習定制訓(xùn)練芯片 Trainium 。通過對 TensorFlow、PyTorch 和 MXNet 提供支持，該公司希望帶來比任何競爭對手都更高的性能表現(xiàn)。此外 Trainium 還可作為一個 EC2 實例，在 AWS 的 SageMaker 機器學(xué)習平臺上使用，基于這些定制芯片的新實例將于 2021 上半年推出。

Trainium 具有相當顯著的速度和成本優(yōu)勢，與標準的 AWS GPU 實例相比，AWS 承諾可帶來 30% 的吞吐量提升、以及降低 45% 的單次引用成本。

此外 AWS 正與英特爾合作啟動基于 Habana Gaudi 的 EC2 機器學(xué)習訓(xùn)練實例。與定于 2021 年推出的版本相比，未來版本有望帶來高達 40% 的性價比提升。

需要指出的是，兩款新產(chǎn)品都是去年 re：Invent 大會上推出的 AWS Inferentia 定制芯片方案的補充，且 Trainium 使用了與 Inferentia 相同的軟件開發(fā)套件（SDK）。

據(jù)悉，在機器學(xué)習基礎(chǔ)架構(gòu)中，90% 的開銷都用于解決推理成本。盡管 Inferentia 有著成本方面的優(yōu)勢，但開發(fā)團隊也受到了固定 ML 訓(xùn)練的預(yù)算限制。

為了突破訓(xùn)練范圍和頻度的限制，AWS Trainium 通過以云為中心的 ML 訓(xùn)練，帶來了最高性能和最低成本。結(jié)合兩者，客戶能夠切實擴展 ML 訓(xùn)練的工作量、同時加速端到端的部署。
責編AJX