Tenstorrent不與Nvidia競(jìng)爭(zhēng)

初創(chuàng)公司的生存取決于第一條規(guī)則：永遠(yuǎn)不要缺錢。無(wú)論是Cerebra、Tenstorrent、Groq還是SambaNova，每家AI芯片初創(chuàng)公司都面臨著在Nvidia主導(dǎo)的市場(chǎng)中維持資金流的挑戰(zhàn)。?

迄今為止，盡管許多AI芯片初創(chuàng)公司都忙于各種PR，包括芯片發(fā)布、電路板發(fā)布和開(kāi)發(fā)可以修改的SDK，但沒(méi)有一家公司說(shuō)得出任何實(shí)際客戶的名字。

在沒(méi)有這樣的突破之前，Tenstorrent一直在設(shè)定某種基調(diào)，發(fā)布敘事、技術(shù)和業(yè)務(wù)戰(zhàn)略，讓業(yè)界了解Tenstorrent是誰(shuí)以及它將走向何方。

為什么要這樣宣傳？從第一天起，Tenstorrent的高管們（CEO-Jim Keller、COO-Keith Witek和CCO-David Bennet）就非常明確地表示：“我們不是在與Nvidia競(jìng)爭(zhēng)?！?/p>

他們對(duì)外始終如一地表示，如果一家初創(chuàng)公司認(rèn)為自己可以與Jenson Huang為Nvidia打造的巨大工程資源和財(cái)力相媲美，那“簡(jiǎn)直是瘋了”，因?yàn)镹vidia的市值已超2萬(wàn)億美元。

或許Tenstorrent在謹(jǐn)慎地降低人們的期望值。但這也反映了對(duì)當(dāng)今AI硬件市場(chǎng)以及Tenstorrent的地位和前景的現(xiàn)實(shí)看法。

盡管如此，仍有媒體在等待一家AI芯片公司成為下一個(gè)Nvidia。

誰(shuí)不喜歡大衛(wèi)與歌利亞的故事呢？

上周，我看到了一個(gè)熟悉的標(biāo)題，“Startup with ‘radical’ concept for AI chips emerges from stealth with $15 million to try to challenge Nvidia”。

“Challenge Nvidia”這個(gè)故事情節(jié)蒼白且老套，讓人難以相信。

Tenstorrent的理由??

那么，如果Tenstorrent真的沒(méi)有在挑戰(zhàn)Nvidia，它的利基在哪里？有哪些Nvidia沒(méi)有cover到的角落可供Tenstorrent搶奪呢？

所謂“服務(wù)不足”的AI市場(chǎng)有多大？

AMD的Lisa Su預(yù)測(cè)，到2027年，AI領(lǐng)域的收入將達(dá)到4,000億美元。保守預(yù)測(cè)的數(shù)字約為1,000億美元，因?yàn)楹芏嗳苏J(rèn)為不存在生產(chǎn)4,000億美元AI硬件的制造能力。不過(guò)，Tenstorrent認(rèn)為，到本十年末，AI芯片行業(yè)的TAM（total available market）將達(dá)到2,000億美元。

無(wú)論從哪個(gè)角度來(lái)看，這都是一個(gè)巨大的市場(chǎng)，有大量的AI細(xì)分市場(chǎng)可供Tenstorrent等公司開(kāi)發(fā)。

在最近與Ark Investment的一次視頻播客中，Tenstorrent的COO Witek分享了他在不與Nvidia發(fā)生沖突的情況下開(kāi)拓AI市場(chǎng)的計(jì)算方法。

“對(duì)于像Nvidia這樣的公司來(lái)說(shuō)，每年都有數(shù)百億美元投入到DGX盒子與H100這樣的產(chǎn)品中，利潤(rùn)率非常高，你需要不斷打造大型、昂貴、高性能的AI盒子，配備昂貴的HBM、interposer和一切非常大的東西?！盢vidia為維持自身增長(zhǎng)而期望賺取的資金量，讓“二線、三線細(xì)分市場(chǎng)落在了后面，而這些細(xì)分市場(chǎng)對(duì)Nvidia來(lái)說(shuō)可能是更痛苦的支持”。

更具體地說(shuō)，Witek指出：“Nvidia并不是在尋找5億美元或10億美元的機(jī)會(huì)。他們正在尋找下一個(gè)250億美元的機(jī)會(huì)。這樣的機(jī)會(huì)并不多，但這可能是他們的重點(diǎn)。對(duì)Jenson來(lái)說(shuō)，這將是一件明智的事情。

同時(shí)，他補(bǔ)充說(shuō)：“Jim Keller和我可以專注于50億美元的機(jī)會(huì)。”雖然這只是AI硬件市場(chǎng)的一小部分，但Witek和Kellert認(rèn)為它足以讓Tenstorrent上市。

Tenstorrent害怕Nvidia嗎？??

Witek說(shuō)：“在一個(gè)2,000億美元的市場(chǎng)中，沒(méi)人能讓營(yíng)收30億美元的Nvidia垂頭喪氣。他們不會(huì)把自己的毛利率從82%降到甚至81%，來(lái)試圖打擊競(jìng)爭(zhēng)對(duì)手?！?/p>

這個(gè)理由聽(tīng)起來(lái)可能有些自圓其說(shuō)，但Witek的信念是基于他對(duì)電子行業(yè)歷史的觀察。像IBM或Intel這樣的大公司，在它們的鼎盛時(shí)期，都是被它們的規(guī)模和對(duì)年銷售額的高期望值所驅(qū)使。他們釣大魚(yú)，把小雨小蝦留給別人去撈，直到小雨小蝦占領(lǐng)了海洋。Clayton Christensen的一書(shū)對(duì)這一經(jīng)典案例進(jìn)行了詳細(xì)描述。

游戲計(jì)劃??

Tenstorrent聲稱，AI市場(chǎng)足夠大，足以讓其他行業(yè)找到Nvidia提供的替代解決方案。

如果是這樣，他們是誰(shuí)，他們看中Tenstorrent的什么？

每家AI芯片供應(yīng)商都希望在數(shù)據(jù)中心獲得設(shè)計(jì)上的第一桶金，除此之外，Tenstorrent還提到了汽車和機(jī)器人領(lǐng)域的關(guān)鍵應(yīng)用。Tenstorrent戰(zhàn)略與企業(yè)傳播副總裁Bob Grim說(shuō)，人們對(duì)AI芯片的興趣已經(jīng)讓“一些機(jī)器人客戶”進(jìn)入了發(fā)展通道。今年夏天，Tenstorrent將指定至少一家車廠為其商業(yè)客戶。

Tenstorrent的魅力何在？這位發(fā)言人表示，Nvidia H100和A100的有限供應(yīng)和令人瞠目的成本是明顯的障礙。更重要的是，汽車和機(jī)器人領(lǐng)域的應(yīng)用“需要難以想象的質(zhì)保工作”。

100%的代碼檢測(cè)?????

典型的例子就是Nvidia的專有軟件庫(kù)CUDA。

Tenstorrent聲稱，“很多客戶……無(wú)法使用CUDA”，因?yàn)橛行?a class="article-link" target="_blank" href="/tag/%E5%BA%94%E7%94%A8%E7%A8%8B%E5%BA%8F/">應(yīng)用程序“需要100%的代碼檢測(cè)，而使用CUDA庫(kù)，你無(wú)法做到這一點(diǎn)，因?yàn)樗鼈兪菍Ｓ械摹薄?/p>

對(duì)此，Nvidia表示，CUDA“作為Nvidia DRIVE OS軟件的一部分已通過(guò)認(rèn)證，可提供高達(dá)ASIL-D的認(rèn)證”，但沒(méi)有直接解釋CUDA庫(kù)本身是否通過(guò)了ASIL認(rèn)證的SEooC（Safety Element Out of Context）。

SEooC非常重要，因?yàn)樗糜陂_(kāi)發(fā)SW、HW或系統(tǒng)元素，在這些元素中，開(kāi)發(fā)者確信該元素不僅是一個(gè)安全程序中的安全元素，也是其他安全程序中的安全元素，在這些安全程序中，該安全元素可用于多個(gè)安全目標(biāo)或安全要求。

開(kāi)發(fā)者是否將CUDA庫(kù)用于機(jī)器人、無(wú)人機(jī)、采礦車或其他不一定使用Nvidia DRIVE OS的應(yīng)用？在這種情況下，Nvidia如何對(duì)CUDA庫(kù)進(jìn)行100%的代碼檢查和測(cè)試？Nvidia承認(rèn)，機(jī)器人和醫(yī)療設(shè)備等市場(chǎng)也有類似的安全認(rèn)證，這些認(rèn)證與汽車行業(yè)的ISO 26262相關(guān)，但并不完全相同?！拔覀冋谂c這些行業(yè)的客戶合作，并將在未來(lái)公布其中的一些產(chǎn)品?！?/p>

通過(guò)提供開(kāi)源軟件堆棧，Tenstorrent認(rèn)為自己的定位是為無(wú)法使用Nvidia的CUDA或DRIVE OS的汽車和機(jī)器人客戶提供服務(wù)。

分散的AI應(yīng)用???????????

Tenstorrent并沒(méi)有在超大規(guī)模企業(yè)中尋找巨額交易機(jī)會(huì)，而是選擇了長(zhǎng)尾市場(chǎng)。一個(gè)每個(gè)應(yīng)用都有不同需求的碎片化AI市場(chǎng)。

Tenstorrent的優(yōu)勢(shì)在于其AI芯片解決方案的可擴(kuò)展架構(gòu)。其方法是將基于圖形計(jì)算機(jī)的AI硬件與RISC-V計(jì)算內(nèi)核相結(jié)合。RISC-V內(nèi)核為處理解決方案提供了內(nèi)置靈活性，以支持未來(lái)的模式。

Tenstorrent最近推出了“Wormhole”芯片，其特點(diǎn)是為對(duì)可擴(kuò)展性感興趣的開(kāi)發(fā)者設(shè)計(jì)了PCIe卡和工作站。他們可以使用Tenstorrent強(qiáng)大的開(kāi)源軟件棧進(jìn)行多芯片開(kāi)發(fā)。

該公司發(fā)言人將Wormhole描述為“a fabric”或“sea of chips”，稱其“非常適合于解決需要在多個(gè)芯片上解決的問(wèn)題，并讓這些芯片協(xié)同工作”。

通過(guò)利用Wormhole芯片，Tenstorrent正在為開(kāi)發(fā)者構(gòu)建開(kāi)發(fā)板和系統(tǒng)。Wormhole n150由單個(gè)處理器驅(qū)動(dòng)。Wormhole n300由兩個(gè)處理器驅(qū)動(dòng)。這些板卡隨后被制成兩種不同類型的工作站，供開(kāi)發(fā)者使用。第一種是TT-LoudBox，一種由四個(gè)Wormhole n300（八個(gè)處理器）驅(qū)動(dòng)的開(kāi)發(fā)者工作站；第二種是TT-QuietBox，一種高端水冷式開(kāi)發(fā)者工作站。Tenstorrent利用其開(kāi)源TT-Buda和TT-Metallium軟件棧為這兩個(gè)工作站提供支持。據(jù)該公司稱，這些軟件可支持多個(gè)LLM和其他流行的AI模型。

工作站與服務(wù)器中的AI芯片??????

Tenstorrent希望強(qiáng)調(diào)的另一個(gè)產(chǎn)品是其在工作站中使用的AI芯片與在服務(wù)器中設(shè)計(jì)的AI芯片。

Tenstorrent解釋說(shuō)，“我們?cè)诠ぷ髡竞头?wù)器中使用相同的AI芯片”。這是因?yàn)楫?dāng)開(kāi)發(fā)者從AI開(kāi)發(fā)轉(zhuǎn)向部署，再擴(kuò)展到服務(wù)器時(shí)，“將代碼從工作站移植到服務(wù)器變得非常簡(jiǎn)單直接”。

相比之下，Dell等電腦公司在數(shù)據(jù)中心和工作站中使用不同的AI芯片。

Dell發(fā)言人證實(shí)，“Dell Precision工作站沒(méi)有使用Nvidia的H100或A100。她補(bǔ)充說(shuō)，Dell的工作站“包括跨芯片合作伙伴的強(qiáng)大圖形選擇，如Nvidia RTX Ada代GPU和AMD Radeon Pro”。

當(dāng)然，“當(dāng)你需要擴(kuò)展模型并進(jìn)行更廣泛的部署時(shí)，企業(yè)可以輕松地過(guò)渡到Dell PowerEdge服務(wù)器”。她強(qiáng)調(diào)，Dell服務(wù)器提供“一系列的GPU”，這些GPU來(lái)自芯片合作伙伴，包括Nvidia的H100、A100和即將推出的Blackwell架構(gòu)和H200 GPU，即將支持Intel的Guadi3和AMD的Instinct MI300x加速器。

SoftBank最近收購(gòu)了英國(guó)的Graphcore，隨后AMD又收購(gòu)了芬蘭的Silo.ai，后者是歐洲最大的私人AI實(shí)驗(yàn)室。但這些舉動(dòng)是否預(yù)示著AI芯片公司之間會(huì)出現(xiàn)并購(gòu)浪潮呢？很難說(shuō)。要擺脫曇花一現(xiàn)的局面，AI芯片初創(chuàng)公司需要一個(gè)可靠的生存計(jì)劃。