Zen架構(gòu)之父轉(zhuǎn)戰(zhàn)AI公司：投身RISC-V處理器

當(dāng)像Jim Keller這樣的人說您的公司“取得了令人矚目的進(jìn)步，并且擁有最有前途的架構(gòu)”的時(shí)候，對你而言這將是莫大的榮譽(yù)。如果他還加入了你的公司，那么這種表揚(yáng)就意味著兩倍。

日前，Tenstorrent公司宣布，業(yè)內(nèi)知名的計(jì)算架構(gòu)師Jim Keller已加入公司，擔(dān)任公司首席技術(shù)官兼總裁，并加入了公司董事會。

對于我們的普通讀者來說，Jim Keller是計(jì)算機(jī)架構(gòu)有方面的知名專家。他的職業(yè)生涯始于DEC，從事Alpha處理器的設(shè)計(jì)工作，隨后在AMD工作了兩年之久，致力于推出K7和K8。

Keller還在SiByte / Broadcom擔(dān)任過首席架構(gòu)師四年，為網(wǎng)絡(luò)接口設(shè)計(jì)MIPS處理器，然后在PA Semi任職四年，然后在公司被Apple收購后還呆了四年，推動A4和A5的發(fā)布。

然后回到AMD工作兩年，擔(dān)任公司副總裁和首席核心架構(gòu)師。負(fù)責(zé)新一代CPU架構(gòu)K12和Zen。

隨后，在特斯拉擔(dān)任自動駕駛硬件工程副總裁兩年，創(chuàng)建了完全自動駕駛芯片；然后在擔(dān)任了硅谷工程集團(tuán)的英特爾高級副總裁兩年后離職。

自從離開英特爾以來，許多關(guān)鍵的行業(yè)分析師（以及我們自己）一直在猜測吉姆將去哪兒。他曾短暫出現(xiàn)埃里·馬斯克（Elon Musk）于2020年8月發(fā)表的Neuralink演講的觀眾中，同期到場的還有萊克斯·弗里德曼（Lex Fridman）。

日前，Tenstorrent告訴我們，Jim Keller將擔(dān)任公司總裁兼首席技術(shù)官，同時(shí)還是其董事會成員。根據(jù)他先前的專業(yè)知識，Jim的角色似乎是在為該公司設(shè)計(jì)未來產(chǎn)品以及在Tenstorrent團(tuán)隊(duì)的基礎(chǔ)上成功實(shí)現(xiàn)這一目標(biāo)。

該公司首席執(zhí)行官Ljubisa Bajic也確認(rèn)Jim被任命為公司總裁兼CTO，他同時(shí)指出：

Tenstorrent的建立是基于這樣一種信念，即以ML為中心的軟件的不斷轉(zhuǎn)變需要對計(jì)算能力進(jìn)行相應(yīng)的轉(zhuǎn)換。Jim Keller是計(jì)算機(jī)，文化和組織設(shè)計(jì)方面出色的領(lǐng)導(dǎo)者，沒有其他人能夠執(zhí)行此構(gòu)想。我很高興與Jim一起工作，并為我們的合作伙伴關(guān)系釋放出來的可能性而感到興奮。

Tenstorrent是一家純粹的無晶圓廠AI芯片設(shè)計(jì)和軟件公司，這意味著他們創(chuàng)建和設(shè)計(jì)用于機(jī)器學(xué)習(xí)的芯片，然后使用代工廠制造硬件，然后與合作伙伴一起創(chuàng)建解決方案（例如，芯片+系統(tǒng)+軟件+針對該客戶的優(yōu)化）。

對于那些了解這一領(lǐng)域的人來說，這與市場上其他50家表現(xiàn)相同的公司。純無晶圓廠AI芯片設(shè)計(jì)公司的典型分歧在于并無任何不同，Tenstorrent會同時(shí)進(jìn)行訓(xùn)練和推理芯片研發(fā)，并且已經(jīng)在研發(fā)其第三代處理器的過程中。

Tenstorrent成立于2016年，在多倫多和奧斯汀之間擁有約70名員工。

公司的關(guān)鍵成員都有芯片設(shè)計(jì)的背景：CEO曾領(lǐng)導(dǎo)AMD電源和性能架構(gòu)團(tuán)隊(duì)，也曾負(fù)責(zé)過NVIDIA Tegra的系統(tǒng)架構(gòu)設(shè)計(jì)；還有在AMD和Altera工作了16年的系統(tǒng)軟件負(fù)責(zé)人，以及擁有來自神經(jīng)網(wǎng)絡(luò)的專業(yè)、Intel的網(wǎng)絡(luò)加速器設(shè)計(jì)，AMD的GPU系統(tǒng)工程，ARM的Arm CPU驗(yàn)證負(fù)責(zé)人，AMD的IO虛擬化專業(yè)人士，英特爾的前神經(jīng)網(wǎng)絡(luò)編譯器團(tuán)隊(duì)負(fù)責(zé)人以及AMD的前安全性和網(wǎng)絡(luò)開發(fā)負(fù)責(zé)人。

由此看來，Jim會很合適，還有一些前同事在旁邊工作。

Tenstorrent當(dāng)前的產(chǎn)品是Grayskull，基于GF的12nm設(shè)計(jì)的處理器，該產(chǎn)品最初被設(shè)計(jì)為推理加速器和主機(jī)。它在2D雙向網(wǎng)格中包含120個(gè)定制內(nèi)核，并且僅65 W即可提供368 TeraOP的8位計(jì)算。120個(gè)定制內(nèi)核中的每一個(gè)都有用于數(shù)據(jù)控制的數(shù)據(jù)包管理引擎，該數(shù)據(jù)包計(jì)算引擎包含Tenstorrent的定制TENSIX內(nèi)核，以及五個(gè)用于非標(biāo)準(zhǔn)操作（例如條件接收）的RISC-V內(nèi)核。

該芯片通過將矩陣運(yùn)算優(yōu)化為壓縮數(shù)據(jù)包，從而通過圖形編譯器和數(shù)據(jù)包管理器對計(jì)算步驟進(jìn)行流水線并行化，從而致力于稀疏張量運(yùn)算。這還可以實(shí)現(xiàn)動態(tài)圖形執(zhí)行，與某些其他AI芯片模型相比，該信任允許異步進(jìn)行計(jì)算和數(shù)據(jù)傳輸，而不是特定的計(jì)算/傳輸時(shí)域。

Grayskull目前正在向Tenstorrent的客戶發(fā)貨，但所有這些都尚未公開。

下一代芯片被稱為Wormhole，它更注重訓(xùn)練而不是加速，并且還捆綁在16x100G以太網(wǎng)端口交換機(jī)中。從訓(xùn)練到加速的轉(zhuǎn)變需要更快的內(nèi)存接口，因此有6個(gè)GDDR6通道，而不是8個(gè)LPDDR4通道。

與討論HBM集成的其他AI芯片相比，這似乎很低，但是Tenstorrent的計(jì)劃似乎更適合于中端成本結(jié)構(gòu)，而且比那些推動尖端技術(shù)的芯片以更高的效率提供機(jī)器學(xué)習(xí)計(jì)算。頻率和過程節(jié)點(diǎn)（部分也將在產(chǎn)量中）。

那么，如果當(dāng)前一代已經(jīng)在銷售，而下一代幾乎已經(jīng)準(zhǔn)備就緒，那么Keller究竟適合什么地方呢？

在與首席執(zhí)行官交談時(shí)，他表示，Keller將與我們一起打造新穎有趣的東西。這似乎表明，考慮到Tenstorrent的壓倒一切的Software 2.0策略（硬件，編譯器和運(yùn)行時(shí)提供了一種全棧方法來稀疏（密集）），考慮到Keller的愿景將針對2022/2023硬件——AI矩陣計(jì)算。

用Jim自己的話說：長期以來，軟件2.0是計(jì)算創(chuàng)新的最大機(jī)會。要獲得勝利需要對計(jì)算和底層軟件進(jìn)行全面的重新思考。Tenstorrent取得了令人矚目的進(jìn)步，并且憑借最有前途的架構(gòu)，我們有望成為下一代計(jì)算巨頭。

責(zé)任編輯：PSY