芯耀
305
隨著AI滲透至每一個(gè)終端，每一個(gè)機(jī)器，每一個(gè)人的生活，AI不再是“中心計(jì)算”的專屬特權(quán)，而將成為一個(gè)社會(huì)級(jí)智能系統(tǒng)的組成部分。要實(shí)現(xiàn)這一愿景，關(guān)鍵在于是否有足夠便宜、足夠高效、足夠靈活的“算力基建”。
2025年5月，在第十五屆松山湖中國(guó)IC創(chuàng)新高峰論壇現(xiàn)場(chǎng)，圍繞AI基礎(chǔ)設(shè)施與邊緣計(jì)算展開的技術(shù)分享接連登場(chǎng)。
愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉
愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉介紹了邊緣AI芯片AX8850的技術(shù)架構(gòu)與實(shí)際應(yīng)用，更從底層計(jì)算邏輯出發(fā)，重新定義了AI處理器在“普惠AI”時(shí)代的角色。通過AX8850這類產(chǎn)品，愛芯元智正試圖打通AI應(yīng)用最后一公里，推動(dòng)從“能用AI”到“用得起AI”的產(chǎn)業(yè)躍遷。
AI正成為基礎(chǔ)設(shè)施
不同于前幾年將算力集中在云端、交互局限于“文字與語(yǔ)音”的形式，如今AI開始嵌入攝像頭、機(jī)器人、無人設(shè)備，完成從“認(rèn)知到執(zhí)行”的具身轉(zhuǎn)化。AI開始成為一種“有形的基礎(chǔ)設(shè)施”，其普及程度與用水、用電的公共資源相提并論。
“我們希望把算力做得更經(jīng)濟(jì)，真正實(shí)現(xiàn)‘普惠AI’，讓智能變得更加可及?！痹趧⒔▊タ磥?，AI本質(zhì)上正在成為一種穩(wěn)定可靠的智能輸出基建。它的作用是將物理世界數(shù)字化——但不同于傳統(tǒng)意義上對(duì)數(shù)值和符號(hào)的采集，AI能對(duì)視頻、圖像、行為、空間結(jié)構(gòu)等進(jìn)行高維度的理解和重構(gòu)，從而讓終端實(shí)現(xiàn)更深層次的自動(dòng)化與智能協(xié)同。
他指出，這種智能輸出基礎(chǔ)設(shè)施的核心驅(qū)動(dòng)力，并不是算法的花哨程度，而是算力的成本與能效比。只有當(dāng)“1元錢”的算力能跑出足夠多的推理量，才能真正讓AI走向“水電化”部署的可能。
AI是一種新的“程序范式”
在傳統(tǒng)計(jì)算架構(gòu)中，程序是由開發(fā)者制定規(guī)則，依靠流程與邏輯來推動(dòng)的。然而AI程序不同，它是數(shù)據(jù)驅(qū)動(dòng)的。開發(fā)者只需設(shè)計(jì)好網(wǎng)絡(luò)結(jié)構(gòu)，模型的行為和性能則由數(shù)據(jù)訓(xùn)練來決定。這種范式的改變，對(duì)底層算力提出了完全不同的要求。
劉建偉系統(tǒng)地分析了AI程序的兩個(gè)底層邏輯：
以Tensor為核心的計(jì)算模型：AI程序的最小計(jì)算單位不再是標(biāo)量或低維向量，而是高維Tensor，常見于卷積、歸一化、注意力機(jī)制等神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中。這些數(shù)據(jù)結(jié)構(gòu)往往是千維、萬(wàn)維，導(dǎo)致計(jì)算密度呈指數(shù)級(jí)增長(zhǎng)。
數(shù)據(jù)驅(qū)動(dòng)的連續(xù)流處理：AI并不適合傳統(tǒng)CPU所擅長(zhǎng)的跳轉(zhuǎn)密集型任務(wù)，而更適配于類似圖形渲染的數(shù)據(jù)流處理模式。這種特點(diǎn)也促使GPU在AI早期階段成為主流推理平臺(tái)。
但GPU并不是AI應(yīng)用的終點(diǎn)。它的通用性在云端足夠強(qiáng)大，但在邊緣部署中往往存在成本高、功耗大、體積受限等情況。于是，為AI而生的NPU（神經(jīng)網(wǎng)絡(luò)處理器）應(yīng)運(yùn)而生。
AX8850正是愛芯元智在這一背景下，結(jié)合多年量產(chǎn)打磨的自研核心技術(shù) AI-ISP與混合精度NPU，推出的旗艦級(jí)邊緣AI SoC產(chǎn)品。
10倍能效比提升，AX8850的“性價(jià)比”優(yōu)勢(shì)
AX8850并不是追求單純的“峰值性能”或者“參數(shù)堆疊”，而是針對(duì)邊緣部署需求，在架構(gòu)、指令集、內(nèi)存訪問方式等多個(gè)維度進(jìn)行“算力性價(jià)比”的極致優(yōu)化。
其架構(gòu)采用了基于算子指令集的數(shù)據(jù)流微架構(gòu)設(shè)計(jì)。在AI語(yǔ)義中，“算子”如同神經(jīng)網(wǎng)絡(luò)的基本構(gòu)件（Conv、LayerNorm、Attention等），AX8850直接將這些算子作為硬件調(diào)度的執(zhí)行單元。相比通用CPU通過匯編指令控制每一條數(shù)據(jù)路徑的處理方式，這種“以算子為中心”的架構(gòu)更貼合AI程序的運(yùn)行模式。
其次，AX8850采用異構(gòu)多核、多線程處理架構(gòu)，可根據(jù)任務(wù)類型自動(dòng)調(diào)用CNN、BEV、Transformer等不同模型結(jié)構(gòu)。同時(shí)，原生支持DeepSeek、Qwen、LLaMA等主流輕量化大模型，并內(nèi)嵌量化與剪枝優(yōu)化算法，確保大模型在邊緣側(cè)流暢運(yùn)行。
最重要的是能效比的提升——AX8850相較于同等GPU方案實(shí)現(xiàn)了約10倍的能效比優(yōu)勢(shì)。這意味著，原來需要通過高性能GPU完成的AI任務(wù)，如今在一塊成本更低、體積更小的芯片上也能輕松運(yùn)行。
AX8850的強(qiáng)大算力并非停留在實(shí)驗(yàn)室，其真正價(jià)值在于為邊緣AI提供可落地的“智價(jià)比基建”。
在此次論壇中，劉建偉展示了多個(gè)AX8850的真實(shí)應(yīng)用場(chǎng)景：
語(yǔ)義感知與圖生文生成：芯片可實(shí)時(shí)理解視頻畫面中的人物行為，并結(jié)合語(yǔ)音或文本輸入生成描述性內(nèi)容，實(shí)現(xiàn)“環(huán)境理解+語(yǔ)義表達(dá)”的閉環(huán)。例如，識(shí)別“穿紅衣服的人走進(jìn)房間”并自動(dòng)生成對(duì)應(yīng)提示；
多輪對(duì)話與機(jī)器人情緒表達(dá)：AX8850可嵌入人機(jī)交互系統(tǒng)中，實(shí)現(xiàn)多輪對(duì)話控制，同時(shí)根據(jù)語(yǔ)境生成圖像反饋，表達(dá)情緒狀態(tài)或控制機(jī)器執(zhí)行動(dòng)作——這是“人機(jī)交互+行動(dòng)執(zhí)行”的典型具身智能場(chǎng)景；
視頻級(jí)聯(lián)感知與事件判斷：在智慧城市、智能家居、看護(hù)等領(lǐng)域，AX8850支持連續(xù)視頻幀的深度分析，如跌倒檢測(cè)、異常行為判斷等，通過時(shí)間線索提升感知準(zhǔn)確性；
多攝像頭與毫米波融合感知：支持多視角攝像頭融合構(gòu)建三維感知，還能接入4D毫米波雷達(dá)數(shù)據(jù)，在視覺受限場(chǎng)景下補(bǔ)全目標(biāo)檢測(cè)信息，提高感知魯棒性；
DeepSeek類大模型邊緣部署：可在低功耗條件下運(yùn)行Transformer類大模型，適配掃地機(jī)器人、巡檢無人機(jī)、車載娛樂等場(chǎng)景中的AI助手。
這些案例共同指向一個(gè)趨勢(shì)——邊緣AI不再只是圖像識(shí)別和簡(jiǎn)單推理，而正在邁向“認(rèn)知+執(zhí)行”的高階智能階段。
AX8850的軟件工具生態(tài)鏈
AI處理器的價(jià)值，不僅取決于芯片的硬件性能，還高度依賴其軟件生態(tài)的配合程度。劉建偉在演講中也明確指出，愛芯元智在軟件工具鏈上的投入已持續(xù)多年，涵蓋模型轉(zhuǎn)換、編譯優(yōu)化、運(yùn)行時(shí)調(diào)度、硬件加速等全流程。AX8850支持主流深度學(xué)習(xí)框架（如PyTorch、TensorFlow等），并提供適配自家NPU的優(yōu)化編譯器，方便開發(fā)者一鍵部署模型。同時(shí)在推理引擎層面，支持動(dòng)態(tài)調(diào)度、數(shù)據(jù)流圖優(yōu)化、精度感知執(zhí)行等關(guān)鍵功能，確保模型運(yùn)行時(shí)達(dá)到最佳功耗與響應(yīng)速度平衡。更重要的是，軟件棧通過持續(xù)升級(jí)，保證了芯片與前沿AI算法的同步發(fā)展，為未來應(yīng)用場(chǎng)景預(yù)留擴(kuò)展空間。
