本文由半導(dǎo)體產(chǎn)業(yè)縱橫（ID：ICVIEWS）編譯自technews

Tenstorrent 正在打造基于開(kāi)源架構(gòu)的RISC-V CPU。

本屆SEMICON TAIWAN 的大師論壇焦點(diǎn)，無(wú)疑落在Tenstorrent 執(zhí)行長(zhǎng)Jim Keller 身上。這位曾在英特爾、AMD、特斯拉等公司硬件部門任職高端主管，成功領(lǐng)導(dǎo)多個(gè)成功芯片開(kāi)發(fā)計(jì)劃，稱之為“芯片大神”的傳奇人物，演講一開(kāi)場(chǎng)就表示，Tenstorrent 將在臺(tái)北成立辦公室，開(kāi)始招募人才，還將借開(kāi)放原始碼RISC-V 架構(gòu)提出全新AI 處理器，用普通DRAM 和以太網(wǎng)構(gòu)建高性能AI，讓任何人都能建造和擴(kuò)展，AI 應(yīng)用普及更快速。

Jim Keller 不同于其他人，穿著T-Shirt 上臺(tái)，說(shuō)這次演講部分是受邀，更重要的是Tenstorrent 將在臺(tái)北設(shè)立辦事處，已開(kāi)始招募人才。因臺(tái)北人才濟(jì)濟(jì)，不僅招聘營(yíng)運(yùn)人員協(xié)助與本地制造商合作，更找到許多優(yōu)秀工程師，將投入小芯片（chiplet）工程、CPU 設(shè)計(jì)驗(yàn)證和AI 模型等關(guān)鍵領(lǐng)域。尤其中國(guó)臺(tái)灣以主機(jī)板、封裝、系統(tǒng)、晶圓等各工廠卓越制造聞名，他希望成為優(yōu)秀制造團(tuán)隊(duì)的一分子。

一次惱人的逆向工程事件，解開(kāi)Tenstorrent 思維禁錮

Jim Keller 表示，Tenstorrent 正在建造一座特殊的電腦工廠，目標(biāo)是生產(chǎn)所有現(xiàn)代高端AI 電腦和高性能處理器所需的零組件。一直以來(lái)，Tenstorrent 一直致力于打造高端AI 電腦和具備大量IP 與技術(shù)的高速CPU，如今產(chǎn)品已經(jīng)開(kāi)始出貨，包括可擴(kuò)展的Galaxy box 服務(wù)器，以及為了回應(yīng)客戶抱怨噪聲而設(shè)計(jì)的水冷quiet box 等。此外，還推出了PCI Express卡，并剛開(kāi)始向客戶提供Eson TPU 作為IP。令人興奮的是，還已經(jīng)將AI 處理器出貨給多家客戶，其中包含LG，他們將AI 處理器整合到電視芯片中。

對(duì)于這些Tenstorrent 的成果，Jim Keller 強(qiáng)調(diào)自己是個(gè)任務(wù)導(dǎo)向的人，雖然長(zhǎng)遠(yuǎn)來(lái)看也希望公司能夠賺錢，但更重要的是要有一個(gè)使命，就是當(dāng)今AI 世界正在徹底改變一切，隨處都可見(jiàn)對(duì)“千兆瓦”“兆位元組”產(chǎn)品的需求。但這一切都變得越來(lái)越大、越來(lái)越昂貴，而且很多技術(shù)是專有的。盡管有些模型是開(kāi)源的，但大部分仍然是封閉的。因此，我的使命是創(chuàng)造更便宜、更快、更開(kāi)放的新型架構(gòu)。

為此，Tenstorrent 制定了一項(xiàng)宏偉計(jì)劃，就是正在打造基于開(kāi)源架構(gòu)的RISC-V CPU。而這款正在開(kāi)發(fā)的開(kāi)放式AI 處理器，其來(lái)自于一個(gè)無(wú)意的開(kāi)源軟件，就是一位網(wǎng)絡(luò)上的年輕人通過(guò)逆向工程公布了Tenstorrent處理器的所有細(xì)節(jié)，并發(fā)布了規(guī)格。這個(gè)看似惱人的事件，卻反而促使Tenstorrent認(rèn)為這是一個(gè)好主意。因?yàn)?，如果有人想從頭開(kāi)始構(gòu)建自己的AI 電腦，網(wǎng)絡(luò)上很快就會(huì)有完整的規(guī)格和參考模型。

基于此，Tenstorrent還承諾將建立一個(gè)完全開(kāi)放原始碼的軟件堆疊，從模型、編譯器、快速操作器、運(yùn)行時(shí)環(huán)境的底層指令集等，都將全部都是開(kāi)放的。這代表著，如果用戶購(gòu)買硬件，可以清楚地看到所有內(nèi)部運(yùn)作。目標(biāo)就是利用普通的DRAM 和以太網(wǎng)來(lái)構(gòu)建高性能AI，讓任何人都能建造和擴(kuò)展它。

臺(tái)積電6 納米打造Black Hole 芯片，建構(gòu)強(qiáng)大可擴(kuò)展Galaxy box 服務(wù)器

Jim Keller 強(qiáng)調(diào)，在硬件方面，Black Hole 采用臺(tái)積電6 納米制程的芯片，它包含140 個(gè)張量處理器和RISC-V 處理器，并且支持GDDR6 DRAM 和片上SRAM。

Tenstorrent選擇不使用HBM，因?yàn)樗^(guò)于昂貴且封裝復(fù)雜。Tenstorrent的策略是制造更多、更小、更便宜的芯片。例如，一塊板上有八個(gè)Black Hole 芯片，四塊板組成一個(gè)盒子，總共有32 個(gè)芯片，提供1TB 的DRAM 和16TB 的頻寬。每個(gè)芯片都有以太網(wǎng)接口，所有連接都具備冗余，確保系統(tǒng)的可靠性。

就目前的情況來(lái)說(shuō)，AI 訓(xùn)練的挑戰(zhàn)在于盡管可以編寫模型，但要使其快速運(yùn)行卻是一個(gè)復(fù)雜的HPC 問(wèn)題。因此，Tenstorrent 的訓(xùn)練電腦擁有2,000 個(gè)Black Hole 芯片，相當(dāng)于超過(guò)一百萬(wàn)個(gè)RISC-V 處理器協(xié)同運(yùn)作，這需要巨大的協(xié)作和優(yōu)化。

至于，實(shí)現(xiàn)低成本的AI 訓(xùn)練方面，目前許多大型AI 模型（如OpenAI 和XAI 的模型）可能是開(kāi)源的，但對(duì)于Tenstorrent這些需要自己訓(xùn)練模型的人來(lái)說(shuō)，能夠以低成本進(jìn)行訓(xùn)練至關(guān)重要。Tenstorrent的訓(xùn)練電腦由九個(gè)Galaxy box 組成一個(gè)單元，所有連接都具備冗余，即使有線纜故障也能正常運(yùn)行。多個(gè)這樣的單元可以進(jìn)一步組成更大的訓(xùn)練集群，提供從上到下的一致視角，這讓管理數(shù)百個(gè)Galaxy box 成為可能。

Jim Keller 強(qiáng)調(diào)指出，建造一個(gè)芯片成本高昂，Tenstorrent的Black Hole 芯片耗資約8,000 萬(wàn)美元。每次升級(jí)AI，Tenstorrent都需要再花費(fèi)數(shù)千萬(wàn)美元來(lái)打造新芯片。因此，Tenstorrent的下一代解決方案是采用小芯片（chiplets）。Tenstorrent將CPU、存儲(chǔ)器控制器和AI 等組件設(shè)計(jì)成模組化的積木。盡管現(xiàn)有多個(gè)小芯片互連標(biāo)準(zhǔn)，目標(biāo)是確保Tenstorrent的芯片家族能協(xié)同工作，并與UCIe 標(biāo)準(zhǔn)兼容。

小芯片架構(gòu)堆疊＋自行IP 整合，輕松擁抱AI 市場(chǎng)

Tenstorrent 正在努力實(shí)現(xiàn)芯片的獨(dú)立迭代和組合成完整解決方案，將提供采用這些小芯片的解決方案，同時(shí)也將這些小芯片開(kāi)放給希望自行開(kāi)發(fā)解決方案的客戶。為此，Tenstorrent發(fā)起了開(kāi)放小芯片架構(gòu)（Open Chiplet Architecture）計(jì)劃，這不僅僅是芯片間的互連標(biāo)準(zhǔn)，還包括測(cè)試、重置、系統(tǒng)加密等所有組件。Tenstorrent將貢獻(xiàn)所有相關(guān)IP 給這個(gè)聯(lián)盟，甚至計(jì)劃推出一種空芯片（empty chip）一個(gè)包含所有必要IP 系統(tǒng)的芯片裸晶，讓客戶可以輕松地將自己的IP 整合進(jìn)去并快速推向市場(chǎng)。

最后，Jim Keller 表示，過(guò)去許多人會(huì)問(wèn)Tenstorrent到底賣什么？答案是Tenstorrent銷售Tenstorrent所做的一切。無(wú)論是IP、芯片還是系統(tǒng)，Tenstorrent都會(huì)銷售。

Tenstorrent甚至還提供云端服務(wù)，讓新創(chuàng)公司可以在Tenstorrent的機(jī)器上托管他們的應(yīng)用。最終，我希望讓下一代電腦設(shè)計(jì)變得更有趣。這使得人們覺(jué)得電腦設(shè)計(jì)越來(lái)越昂貴、越來(lái)越困難的情況消失。通過(guò)小芯片技術(shù)、更好的IP、更優(yōu)化的驗(yàn)證以及開(kāi)源的AI 驅(qū)動(dòng)方法，電腦設(shè)計(jì)將會(huì)變得更好、更易于實(shí)現(xiàn)。希望能凝聚大家的力量，共同創(chuàng)造一個(gè)充滿無(wú)限可能的未來(lái)。

*聲明：本文系原作者創(chuàng)作。文章內(nèi)容系其個(gè)人觀點(diǎn)，我方轉(zhuǎn)載僅為分享與討論，不代表我方贊成或認(rèn)同，如有異議，請(qǐng)聯(lián)系后臺(tái)。