芯耀
2092
好家伙，只能說(shuō)好家伙。都2024年了，SRAM概念居然能成為風(fēng)口屬實(shí)沒(méi)有想到！
今天芯片圈有個(gè)爆炸性的消息，叫大模型推理最快芯片出世，創(chuàng)始人喊話奧特曼，你們太慢了！
這家初創(chuàng)公司叫Groq，原來(lái)谷歌TPU的人馬，自研芯片主要是加速推理卡那種。
按他們的說(shuō)法，他們的推理速度比英偉達(dá)的GPU快了十倍！但是成本卻只有十分之一，那一來(lái)一去豈不是差百倍？
看起來(lái)非常棒！
目前Groq公司的新款加速卡，可以支持Mixtral?8x7B SMoE，LIama 2的7B和70B這三種模型，并且可以直接體驗(yàn)Demo。
目前測(cè)試下來(lái)效果接近每秒500tokens，當(dāng)然他們只說(shuō)快，沒(méi)說(shuō)內(nèi)容真實(shí)性和準(zhǔn)確性，內(nèi)容概不負(fù)責(zé)的那種。
除了Demo演示，Groq現(xiàn)在也支持APi訪問(wèn)，并且完全兼容，可以直接從OpenAI的APi切換。
免費(fèi)十天，一共100萬(wàn)tokens可以用。
價(jià)格方面也表示，未來(lái)肯定低于市面上同類價(jià)格。
總之，看起來(lái)非常棒！
本來(lái)呢，這就是國(guó)外初創(chuàng)公司新產(chǎn)品自我宣傳，自我展示的過(guò)程，和國(guó)內(nèi)沒(méi)有半毛錢關(guān)系。
但是國(guó)內(nèi)突然有一個(gè)板塊跟打了雞血一樣猛干猛干。
我一看原來(lái)是SRAM芯片板塊，好幾個(gè)股票都直接被干上20cm，我去。
擦，我仔細(xì)去看了一下，原來(lái)是Groq表示該新產(chǎn)品采用14nm制程，搭載了230M的SRAM來(lái)保證帶寬，片上系統(tǒng)內(nèi)存帶寬達(dá)到了80TB/s。
然后國(guó)內(nèi)這些小作文手，居然開(kāi)始狂吹SRAM，說(shuō)什么拳打DRAM，腳踢HBM。
好家伙，是真當(dāng)行業(yè)里沒(méi)人懂是吧。
科普一下SRAM是什么芯片
SRAM的中文全名叫靜態(tài)隨機(jī)存取存儲(chǔ)器，和DRAM也就是內(nèi)存，技術(shù)上略有不同。
SRAM是易失性內(nèi)存，也就是說(shuō)斷電不保存數(shù)據(jù)，這點(diǎn)DRAM內(nèi)存條也一樣，NAND FLASH剛好相反，它是非易失性的，斷電還能保存數(shù)據(jù)。
SRAM的優(yōu)點(diǎn)很明顯，快，非常快，不僅遠(yuǎn)遠(yuǎn)超過(guò)NAND，更是超過(guò)DRAM的速度，所以SRAM特點(diǎn)就是快。
你可以理解成SRAM一個(gè)高速搬運(yùn)的臨時(shí)倉(cāng)庫(kù)，DRAM是次一級(jí)稍微慢一點(diǎn)的臨時(shí)倉(cāng)庫(kù)，NAND是一個(gè)比較慢的永久倉(cāng)庫(kù)。
三者共同組成了計(jì)算機(jī)的存儲(chǔ)架構(gòu)，嚴(yán)格意義上來(lái)講，SRAM+DRAM叫內(nèi)存，NAND以及過(guò)去的HDD機(jī)械硬盤叫外存。
而前端時(shí)間炒火熱的HBM高帶寬內(nèi)存，實(shí)際上是DRAM的超級(jí)加強(qiáng)版，它的本質(zhì)是通過(guò)堆疊多顆DRAM的芯片來(lái)提供更高的帶寬和容量。
歷史上，SRAM作為單獨(dú)一個(gè)顆芯片存在是有過(guò)一段歷史期的。
但是到80年后，90年初基本就消失淘汰了，現(xiàn)在只有在極少數(shù)，特俗的應(yīng)用場(chǎng)合才能看到它。比如128M，256M的產(chǎn)品依然有，甚至還有512M。干嘛呢？新款芯片測(cè)試和研發(fā)的時(shí)候搭載一個(gè)SRAM，主要就是研發(fā)測(cè)試用，談不上商業(yè)化，市場(chǎng)化。
這里插一個(gè)飛利浦，光刻機(jī)的ASML和臺(tái)積電的故事。
80年代初，如夢(mèng)初醒的歐洲人在半導(dǎo)體領(lǐng)域?yàn)榱瞬槐话l(fā)展強(qiáng)勁的美日兩國(guó)拉開(kāi)差距，歐洲共同體曾經(jīng)搞過(guò)一個(gè)叫“尤里卡計(jì)劃”，這個(gè)計(jì)劃里有個(gè)關(guān)于集成電路的項(xiàng)目叫JESSI。
JESSI里面最重要的項(xiàng)目就是MEGA，對(duì)，就叫這個(gè)名字，和理想汽車MEGA沒(méi)關(guān)系。
這個(gè)計(jì)劃就是做1M的內(nèi)存，MEGA項(xiàng)目有兩個(gè)具體執(zhí)行的單位，分別是西門子和飛利浦。
于是兩家公司分工了一下，西門子負(fù)責(zé)DRAM，飛利浦負(fù)責(zé)SRAM。
西門子的DRAM事業(yè)就是從這里起步，后面2006年的時(shí)候DRAM事業(yè)拆分就是奇夢(mèng)達(dá)，然后經(jīng)歷了2008年金融危機(jī)，以及同行三星瘋狂價(jià)格戰(zhàn)后，奇夢(mèng)達(dá)最終倒在了2009年，之后奇夢(mèng)達(dá)的專利又被老朱同志搞來(lái)，于是就有了國(guó)產(chǎn)內(nèi)存之光——長(zhǎng)鑫！
國(guó)產(chǎn)內(nèi)存，國(guó)貨之光！
這段歷史在我內(nèi)存戰(zhàn)爭(zhēng)里都講過(guò)。
項(xiàng)目在1984年啟動(dòng)，兩個(gè)巨頭準(zhǔn)備出資15億馬克，兩國(guó)政府補(bǔ)貼5億馬克，目標(biāo)是在80年代末趕上日本人。
做到一半的時(shí)候，西門子在最關(guān)鍵的時(shí)候選擇“背刺”，他們直接從東芝引進(jìn)DRAM的技術(shù)！并且在1987年的時(shí)候順利量產(chǎn)了1M的DRAM。
正是因?yàn)檫@個(gè)原因，西門子直接從日本復(fù)制了整個(gè)東芝生產(chǎn)線的設(shè)備，當(dāng)然光刻機(jī)也肯定用了尼康的。
然后歐洲的光刻機(jī)初創(chuàng)公司ASML當(dāng)時(shí)就哭了，說(shuō)好的是歐洲政府補(bǔ)貼的項(xiàng)目，怎么好處全給日本同行？？？
好在，ASML還有飛利浦這個(gè)好爸爸，最艱苦的時(shí)候，ASML依靠爸爸，稍微賣了幾臺(tái)光刻機(jī)，熬了過(guò)去。
但是問(wèn)題又來(lái)了，隨著市場(chǎng)變化和技術(shù)迭代，SRAM芯片市場(chǎng)逐漸消失。甚至CPU大哥英特爾直接把它集成到CPU里面變成緩存，單顆的SRAM芯片還有誰(shuí)要?。?/p>
所以，最終飛利浦負(fù)責(zé)SRAM項(xiàng)目失敗了，落得一地雞毛。
思來(lái)想去，飛利浦只能選擇止損。
他們找到當(dāng)時(shí)剛剛對(duì)新技術(shù)饑渴難耐的中國(guó)臺(tái)灣，因?yàn)槟沁厔倓傉Q生了未來(lái)的芯片代工巨頭——臺(tái)積電！
于是飛利浦毫無(wú)保留的把整個(gè)MEGA項(xiàng)目的生產(chǎn)線放開(kāi)給臺(tái)積電學(xué)習(xí)，再原封不動(dòng)的把所有設(shè)備打包搬到中國(guó)臺(tái)灣，當(dāng)然作為光刻機(jī)供應(yīng)商的ASML，也總算順帶把自己的光刻機(jī)設(shè)備給賣出去了。
作為回報(bào)，在臺(tái)積電股東里，飛利浦是當(dāng)時(shí)最大的外部股東，占股27.5%。
所以說(shuō)臺(tái)積電的老底子都是飛利浦給打下來(lái)的。
最意思的事來(lái)了！
1988年，新產(chǎn)線快弄好的時(shí)候發(fā)生了一場(chǎng)大火，無(wú)奈之下，臺(tái)積電只能把所有過(guò)火的光刻機(jī)退了回去，并且重新下了17臺(tái)新訂單。
這17臺(tái)機(jī)器的訂單是真的幫了大忙！
ASML當(dāng)時(shí)很缺錢，這些訂單在關(guān)鍵時(shí)刻救了急。當(dāng)然FAB都有保險(xiǎn)，結(jié)果就是為火災(zāi)埋單的保險(xiǎn)公司成了ASML的客戶，所以1989年的時(shí)候，從嚴(yán)格意義上講，ASML最大的客戶是保險(xiǎn)公司！?。?/p>
從上面這個(gè)小故事大家就可以看到，到80年代后90年代初，SRAM基本作為單獨(dú)芯片銷售的市場(chǎng)基本上已經(jīng)消失了。
當(dāng)然，SRAM并沒(méi)有消失，它們以IP內(nèi)核的形式直接被集成到CPU，GPU，以及各種SoC芯片內(nèi)部。
直接設(shè)計(jì)在一起，然后流片流出來(lái)就行了，沒(méi)什么人買單顆SRAM的芯片了！除了上文提到過(guò)的極少數(shù)的需求之外。
到現(xiàn)在CPU，GPU的內(nèi)部都有SRAM，它們作為芯片的二級(jí)緩存而普遍存在。
在PC，HPC上的CPU里面，SRAM面積還不小哦，普遍占到一半，但是在手機(jī)這種對(duì)功耗要求比較高的CPU里，SRAM就比較小了。
由此可見(jiàn)，SRAM還有兩個(gè)特點(diǎn)，第一是面積大，第二是功耗高。
SRAM和DRAM相比，面積上天然劣勢(shì)，這個(gè)沒(méi)辦法，因?yàn)楸旧斫Y(jié)構(gòu)限制了。
DRAM的原理是1T1C，也就是一個(gè)電容一個(gè)晶體管，而SRAM則由6個(gè)晶體管組成。
因此同容量情況下，SRAM的面積得是DRAM的5，6倍以上。
而面積就是成本，所以SRAM按單位面積算，那是相當(dāng)昂貴的！
所以CPU，GPU里能給的容量，普遍也就幾M到幾十M，比如啟哥這顆i9-14900的CPU頂配桌面級(jí)CPU，當(dāng)時(shí)4000多大洋買的，SRAM二級(jí)緩存只有區(qū)區(qū)32M。
不是英特爾不想做大，而是真的用不起?。?/p>
商業(yè)環(huán)境下，你不能只考慮性能，不考慮成本，你說(shuō)是不是？
當(dāng)然在AI芯片上，情況略有不同，畢竟AI芯片的核心面積比我的i9要大多了，所以普遍能上100多，甚至200多M的SRAM緩存。
畢竟人家Qroq的一塊卡，要賣2萬(wàn)多美金，那用料必須得足啊，速度必須得快啊，否則對(duì)不起這2萬(wàn)美金的售價(jià)??！
那再反過(guò)來(lái)說(shuō)，就算以后大容量的SRAM成為AI芯片的標(biāo)準(zhǔn)，請(qǐng)問(wèn)和國(guó)內(nèi)做SRAM上市公司有什么關(guān)系嗎？
半毛錢關(guān)系都沒(méi)有！
我已經(jīng)說(shuō)了，SRAM早就以IP內(nèi)核的形式集成到SoC里面，又不是單獨(dú)拿來(lái)賣的，難道Qroq還采用了國(guó)產(chǎn)SRAM公司的IP不成？
就算用了，這買IP也花不了太多錢啊！都是非常成熟的技術(shù)和方案，花不了幾個(gè)錢的！也不知道那些按計(jì)算器拍業(yè)績(jī)的人，是咋按的，反正我看不懂。
所以網(wǎng)上傳的哪份《SRAM和DRAM，從成本角度與AI的關(guān)系》，絕對(duì)有失偏頗，只提優(yōu)點(diǎn)，不提缺點(diǎn)，也不提實(shí)際情況。
實(shí)際情況就是大容量的SRAM要上，畢竟這個(gè)直接提升性能比較明顯，但是HBM也絕對(duì)不是它的對(duì)立面啊。HBM依然是未來(lái)主要技術(shù)路徑，這個(gè)毫無(wú)疑問(wèn)，畢竟HBM雖然貴，但是比單位容量?jī)r(jià)格比SRAM還是便宜太多了，性價(jià)比擺著呢！
說(shuō)什么SRAM未來(lái)替代HBM，絕對(duì)胡說(shuō)八道！瞎扯淡！
當(dāng)然了，這些半導(dǎo)體知識(shí)太專業(yè)了，一般人接觸不到，也不懂，哪怕是機(jī)構(gòu)研究員估計(jì)相當(dāng)一部分人也稀里糊涂的，反正跟風(fēng)推票完事，回頭拿派點(diǎn)，豈不是喜滋滋？
但是我今天偏要把這些東西給你點(diǎn)破，說(shuō)透！
最后有人說(shuō)，啟哥，你太壞了，你不點(diǎn)破，明天繼續(xù)漲一把，大家都賺錢不就挺好的？干嘛非要說(shuō)這么清楚？萬(wàn)一明天又跌回去了，看我不拿板磚拍死你！讓你丫的多嘴！
我：玩過(guò)桌游馬尼拉船長(zhǎng)沒(méi)有，不給我上船，我TM就是要搞你們心態(tài)?。ㄊ謩?dòng)狗頭）
桌游馬尼拉船長(zhǎng)，我好想玩??！啊啊啊啊啊啊……
下載ECAD模型
