AI推理

• 上海GPU云服務(wù)商沖刺港交所！猛吃DeepSeek紅利，創(chuàng)始人曾打造PPTV

  AI推理工作負(fù)載越來(lái)越具有低時(shí)延和高并發(fā)要求的特點(diǎn)。曾經(jīng)非常適合大規(guī)模AI訓(xùn)練的集中式云端架構(gòu)，現(xiàn)時(shí)已不再適合滿足現(xiàn)代推理的需求

  智東西

  295

  06/23 12:43

  GPU 云計(jì)算

  
• 【一文看懂】什么是視覺(jué)推理？

  上周，OpenAI發(fā)布了新款A(yù)I模型o3和o4-min。OpenAI官方稱，o3和o4-mini是首批能夠“圖像思維”的AI模型：“這是我們首次推出能夠獨(dú)立使用全部ChatGPT工具的推理模型——包括網(wǎng)頁(yè)瀏覽、Python編程、圖像理解和圖像生成能力。這使得它們?cè)诮鉀Q復(fù)雜的多步驟問(wèn)題時(shí)更加高效，并朝著自主執(zhí)行任務(wù)的方向邁出了真正一步?！?/div>

  超算百科

  1980

  04/23 10:50

  AI推理 視覺(jué)推理

  
• 從生成式到推理模型：AI應(yīng)用的未來(lái)演進(jìn)與商業(yè)機(jī)會(huì)

  人工智能技術(shù)正在重塑產(chǎn)業(yè)格局，大模型作為核心技術(shù)引擎，從成本優(yōu)化到商業(yè)模式革新，從智能設(shè)備爆發(fā)到超級(jí)應(yīng)用雛形初現(xiàn)，已逐步滲透至多個(gè)場(chǎng)景。本次愛(ài)分析邀請(qǐng)網(wǎng)易數(shù)智副總經(jīng)理、網(wǎng)易云信總經(jīng)理段毓錚與網(wǎng)易云信音視頻技術(shù)負(fù)責(zé)人、流媒體首席架構(gòu)師吳桐在線對(duì)談，深度交流AI技術(shù)在企業(yè)級(jí)場(chǎng)景的實(shí)戰(zhàn)經(jīng)驗(yàn)與未來(lái)趨勢(shì)，為泛IT從業(yè)者提供前沿洞察與創(chuàng)新啟示。

  愛(ài)分析ifenxi

  422

  03/27 10:20

  生成式AI AI應(yīng)用

  
• Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

  Oracle 和 NVIDIA 宣布，NVIDIA 加速計(jì)算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實(shí)現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。 此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺(tái)之間的集成，將使 160 多個(gè) AI 工具和 100 多個(gè) NVIDIA NIM?

  與非網(wǎng)編輯

  877

  03/19 10:45

  NVIDIA AI推理

  
• Sequential Thinking MCP 與推理型大模型的功能實(shí)現(xiàn)差異分析

  來(lái)自用戶的提問(wèn)：sequential thinking MCP 和具有推理能力大模型比如 deepseek r1，cluade 3.7 think 在功能實(shí)現(xiàn)上有啥區(qū)別。

  二師兄說(shuō)AI

  4516

  03/18 09:00

  大模型 AI推理

  
• 研報(bào) | 2025年AI服務(wù)器出貨成長(zhǎng)仍有變量，DeepSeek效應(yīng)將提升AI推理占比

  根據(jù)TrendForce集邦咨詢最新研究，2024年全球AI服務(wù)器（Server）出貨量受惠于CSP、OEM的強(qiáng)勁需求，年增幅度為46%。國(guó)際形勢(shì)、DeepSeek效應(yīng)、英偉達(dá)GB200/GB300 Rack供應(yīng)鏈整備進(jìn)度等將成為影響2025年AI Server出貨量的變量，TrendForce集邦咨詢據(jù)此提出三種情境預(yù)估。

  TrendForce集邦咨詢

  1542

  02/13 12:40

  DeepSeek AI服務(wù)器

  
• AI推理內(nèi)存革命：突破瓶頸，CPU性能飛躍

  AI推理、高性能計(jì)算和實(shí)時(shí)分析等行業(yè)，通常需要運(yùn)行大量的工作負(fù)載，內(nèi)存帶寬如果跟不上處理器的提升速度，往往可能會(huì)導(dǎo)致計(jì)算瓶頸，影響工作負(fù)載執(zhí)行的效率和效果，這就需要對(duì)內(nèi)存技術(shù)進(jìn)行革新。

  張慧娟

  3468

  2024/12/05

  與非觀察 CPU
• 奪回?cái)?shù)據(jù)中心主導(dǎo)權(quán)，英特爾新一代CPU“跨越式”升級(jí)

  英特爾正式發(fā)布至強(qiáng)6性能核處理器（代號(hào)Granite Rapids），旨在針對(duì)AI、數(shù)據(jù)分析、科學(xué)計(jì)算等計(jì)算密集型業(yè)務(wù)提供更佳性能。

  張慧娟

  1922

  2024/09/30

  與非觀察 CPU
• 英偉達(dá)顛覆傳統(tǒng)：NVIDIA NIM正推動(dòng)企業(yè)及開(kāi)發(fā)者部署AI新革命

  對(duì)于英偉達(dá)來(lái)說(shuō)，賣(mài)GPU從來(lái)不只是賣(mài)GPU，其更大的商業(yè)愿景在于讓AI的蛋糕更大，讓它更易用，更便于規(guī)?；@樣一來(lái)，銷(xiāo)售GPU也好，AI軟件服務(wù)也好，都是水到渠成，形成完美商業(yè)閉環(huán)。

  張慧娟

  2204

  2024/09/10

  與非觀察 GPU
• 邊緣AI推理趨勢(shì)下，GDDR7內(nèi)存有望勝出？

  邊緣計(jì)算在低延遲、高帶寬、隱私保護(hù)等方面展現(xiàn)出較強(qiáng)優(yōu)勢(shì)，使得大模型在邊緣端的推理逐漸成為可能，也進(jìn)一步推動(dòng)了AI推理向邊緣下沉的趨勢(shì)，以降低對(duì)云端計(jì)算的依賴、提高系統(tǒng)的響應(yīng)速度。

  張慧娟

  1834

  2024/07/24

  與非觀察 內(nèi)存

正在努力加載...