AI推理

• 上海GPU云服務(wù)商沖刺港交所！猛吃DeepSeek紅利，創(chuàng)始人曾打造PPTV

  AI推理工作負(fù)載越來越具有低時延和高并發(fā)要求的特點。曾經(jīng)非常適合大規(guī)模AI訓(xùn)練的集中式云端架構(gòu)，現(xiàn)時已不再適合滿足現(xiàn)代推理的需求

  智東西

  296

  06/23 12:43

  GPU 云計算

  
• 【一文看懂】什么是視覺推理？

  上周，OpenAI發(fā)布了新款A(yù)I模型o3和o4-min。OpenAI官方稱，o3和o4-mini是首批能夠“圖像思維”的AI模型：“這是我們首次推出能夠獨立使用全部ChatGPT工具的推理模型——包括網(wǎng)頁瀏覽、Python編程、圖像理解和圖像生成能力。這使得它們在解決復(fù)雜的多步驟問題時更加高效，并朝著自主執(zhí)行任務(wù)的方向邁出了真正一步?！?/div>

  超算百科

  1981

  04/23 10:50

  AI推理 視覺推理

  
• 從生成式到推理模型：AI應(yīng)用的未來演進(jìn)與商業(yè)機會

  人工智能技術(shù)正在重塑產(chǎn)業(yè)格局，大模型作為核心技術(shù)引擎，從成本優(yōu)化到商業(yè)模式革新，從智能設(shè)備爆發(fā)到超級應(yīng)用雛形初現(xiàn)，已逐步滲透至多個場景。本次愛分析邀請網(wǎng)易數(shù)智副總經(jīng)理、網(wǎng)易云信總經(jīng)理段毓錚與網(wǎng)易云信音視頻技術(shù)負(fù)責(zé)人、流媒體首席架構(gòu)師吳桐在線對談，深度交流AI技術(shù)在企業(yè)級場景的實戰(zhàn)經(jīng)驗與未來趨勢，為泛IT從業(yè)者提供前沿洞察與創(chuàng)新啟示。

  愛分析ifenxi

  422

  03/27 10:20

  生成式AI AI應(yīng)用

  
• Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

  Oracle 和 NVIDIA 宣布，NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。 此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺之間的集成，將使 160 多個 AI 工具和 100 多個 NVIDIA NIM?

  與非網(wǎng)編輯

  878

  03/19 10:45

  NVIDIA AI推理

  
• Sequential Thinking MCP 與推理型大模型的功能實現(xiàn)差異分析

  來自用戶的提問：sequential thinking MCP 和具有推理能力大模型比如 deepseek r1，cluade 3.7 think 在功能實現(xiàn)上有啥區(qū)別。

  二師兄說AI

  4519

  03/18 09:00

  大模型 AI推理

  
• 研報 | 2025年AI服務(wù)器出貨成長仍有變量，DeepSeek效應(yīng)將提升AI推理占比

  根據(jù)TrendForce集邦咨詢最新研究，2024年全球AI服務(wù)器（Server）出貨量受惠于CSP、OEM的強勁需求，年增幅度為46%。國際形勢、DeepSeek效應(yīng)、英偉達(dá)GB200/GB300 Rack供應(yīng)鏈整備進(jìn)度等將成為影響2025年AI Server出貨量的變量，TrendForce集邦咨詢據(jù)此提出三種情境預(yù)估。

  TrendForce集邦咨詢

  1543

  02/13 12:40

  DeepSeek AI服務(wù)器

  
• AI推理內(nèi)存革命：突破瓶頸，CPU性能飛躍

  AI推理、高性能計算和實時分析等行業(yè)，通常需要運行大量的工作負(fù)載，內(nèi)存帶寬如果跟不上處理器的提升速度，往往可能會導(dǎo)致計算瓶頸，影響工作負(fù)載執(zhí)行的效率和效果，這就需要對內(nèi)存技術(shù)進(jìn)行革新。

  張慧娟

  3470

  2024/12/05

  與非觀察 CPU
• 奪回數(shù)據(jù)中心主導(dǎo)權(quán)，英特爾新一代CPU“跨越式”升級

  英特爾正式發(fā)布至強6性能核處理器（代號Granite Rapids），旨在針對AI、數(shù)據(jù)分析、科學(xué)計算等計算密集型業(yè)務(wù)提供更佳性能。

  張慧娟

  1923

  2024/09/30

  與非觀察 CPU
• 英偉達(dá)顛覆傳統(tǒng)：NVIDIA NIM正推動企業(yè)及開發(fā)者部署AI新革命

  對于英偉達(dá)來說，賣GPU從來不只是賣GPU，其更大的商業(yè)愿景在于讓AI的蛋糕更大，讓它更易用，更便于規(guī)?；@樣一來，銷售GPU也好，AI軟件服務(wù)也好，都是水到渠成，形成完美商業(yè)閉環(huán)。

  張慧娟

  2206

  2024/09/10

  與非觀察 GPU
• 邊緣AI推理趨勢下，GDDR7內(nèi)存有望勝出？

  邊緣計算在低延遲、高帶寬、隱私保護等方面展現(xiàn)出較強優(yōu)勢，使得大模型在邊緣端的推理逐漸成為可能，也進(jìn)一步推動了AI推理向邊緣下沉的趨勢，以降低對云端計算的依賴、提高系統(tǒng)的響應(yīng)速度。

  張慧娟

  1835

  2024/07/24

  與非觀察 內(nèi)存
• 黃仁勛“松弛感”演講談創(chuàng)新：偉大的智慧是退后一步

  在生成式AI的熱潮來臨之前需要思考：人工智能的背景是什么？深度學(xué)習(xí)的基礎(chǔ)是什么？長期的影響是什么？

  張慧娟

  4424

  2024/06/03

  與非觀察 GPU
• AMD AI目標(biāo)實現(xiàn)關(guān)鍵一環(huán)，“單芯片智能”滿足嵌入式需求

  AMD宣布針對嵌入式系統(tǒng)推出第二代Versal自適應(yīng)SoC，包括：第二代Versal AI Edge系列和第二代Versal Prime系列，

  張慧娟

  2276

  2024/04/09

  與非觀察 可編程邏輯
• AI推理，和訓(xùn)練有什么不同？

  如果要用一句話概括AI的訓(xùn)練和推理的不同之處，我覺得用“臺上一分鐘，臺下十年功”最為貼切。話說小明已經(jīng)和心目中的女神交往數(shù)年，在邀約女神出門這件事上積累了大量的經(jīng)驗數(shù)據(jù)，但卻依然捉摸不透其中的玄機。借助AI技術(shù)，能否實現(xiàn)精準(zhǔn)預(yù)測呢？小明思考再三，總結(jié)出了可能影響女神是否接受邀請的變量：是否節(jié)假日，天氣不好，太熱/太冷了，心情不好，生病了，另有他約，家里來親戚了......等等。

  無線深海

  1438

  2024/03/26

  AI技術(shù) AI訓(xùn)練

  

正在努力加載...