芯耀
1017
Oracle Cloud Infrastructure率先運(yùn)行NVIDIA AI超級(jí)計(jì)算實(shí)例；微軟Azure、谷歌云等即將托管DGX Cloud
NVIDIA今日發(fā)布NVIDIA DGX Cloud?。這項(xiàng)AI超級(jí)計(jì)算服務(wù)使企業(yè)能夠即時(shí)接入用于訓(xùn)練生成式AI等開(kāi)創(chuàng)性應(yīng)用的高級(jí)模型所需的基礎(chǔ)設(shè)施和軟件。
DGX Cloud可提供NVIDIA DGX? AI超級(jí)計(jì)算專用集群，并配以NVIDIA AI軟件。這項(xiàng)服務(wù)使得每個(gè)企業(yè)都可以通過(guò)一個(gè)簡(jiǎn)單的網(wǎng)絡(luò)瀏覽器就能訪問(wèn)自己的AI超級(jí)計(jì)算機(jī)，免除了購(gòu)置、部署和管理本地基礎(chǔ)設(shè)施的復(fù)雜性。
企業(yè)可按月租用DGX Cloud集群，以便能夠快速、輕松地?cái)U(kuò)展大型多節(jié)點(diǎn)訓(xùn)練工作負(fù)載的開(kāi)發(fā)，無(wú)須等待需求量通常很大的加速計(jì)算資源。
NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“我們正處于AI的‘iPhone’時(shí)刻。初創(chuàng)企業(yè)正在競(jìng)相打造顛覆性的產(chǎn)品和商業(yè)模式，老牌企業(yè)則在尋求應(yīng)對(duì)之法。DGX Cloud 使客戶能夠在全球規(guī)模的云上即時(shí)接入NVIDIA AI超級(jí)計(jì)算。”
NVIDIA正在與領(lǐng)先的云服務(wù)商聯(lián)合托管DGX Cloud基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure（OCI）將首當(dāng)其沖，通過(guò)其OCI超級(jí)集群，提供專門(mén)構(gòu)建的RDMA網(wǎng)絡(luò)、裸金屬計(jì)算以及高性能本地塊存儲(chǔ)，可擴(kuò)展到超過(guò)32,000個(gè)GPU所組成的超級(jí)集群。
微軟Azure預(yù)計(jì)將在下個(gè)季度開(kāi)始托管DGX Cloud。這項(xiàng)服務(wù)還將在不久之后擴(kuò)展到谷歌云等。
行業(yè)巨頭利用NVIDIA DGX Cloud加速取得成功
首批使用DGX Cloud的AI行業(yè)先鋒包括全球領(lǐng)先的生物技術(shù)公司安進(jìn)（Amgen）、保險(xiǎn)科技領(lǐng)導(dǎo)者CCC Intelligent Solutions（CCC）以及數(shù)字業(yè)務(wù)平臺(tái)提供商ServiceNow。
安進(jìn)正在使用DGX Cloud與NVIDIA BioNeMo?大型語(yǔ)言模型軟件來(lái)加速藥物研發(fā)，比如包含NVIDIA RAPIDS?數(shù)據(jù)科學(xué)加速庫(kù)的NVIDIA AI Enterprise軟件。
安進(jìn)數(shù)字創(chuàng)新研究加速中心、生物制劑治療研究執(zhí)行總監(jiān)Peter Grandsard表示：“借助NVIDIA DGX Cloud和NVIDIA BioNeMo，我們的研究人員能夠把精力集中在更深層次的生物學(xué)研究上，無(wú)需再處理AI 基礎(chǔ)設(shè)施和設(shè)置機(jī)器學(xué)習(xí)工程。相較于其他平臺(tái)，我們借助DGX Cloud的強(qiáng)大算力和多節(jié)點(diǎn)能力，同時(shí)結(jié)合BioNeMo將蛋白質(zhì)LLM的訓(xùn)練速度提高了3倍，使用NVIDIA RAPIDS將訓(xùn)練后分析速度提高了100倍?！?/p>
財(cái)產(chǎn)和意外保險(xiǎn)領(lǐng)域的領(lǐng)先云平臺(tái)CCC正在使用DGX Cloud，以加快和擴(kuò)展其AI模型的開(kāi)發(fā)與訓(xùn)練。這些模型為該公司的創(chuàng)新汽車(chē)?yán)碣r解決方案賦能， 幫助加速該行業(yè)的智能自動(dòng)化，并為每天數(shù)百萬(wàn)的企業(yè)用戶及其消費(fèi)者改進(jìn)理賠體驗(yàn)。
ServiceNow正在使用DGX Cloud與本地NVIDIA DGX超級(jí)計(jì)算機(jī)，來(lái)構(gòu)建靈活可擴(kuò)展的混合云AI超級(jí)計(jì)算，以來(lái)幫助其在大型語(yǔ)言模型、代碼生成和因果分析方面的AI研究。ServiceNow還與其他機(jī)構(gòu)共同發(fā)起了一個(gè)負(fù)責(zé)任的開(kāi)放科學(xué)生成式AI倡議——BigCode項(xiàng)目，其在NVIDIA的Megatron-LM框架上進(jìn)行訓(xùn)練。
打開(kāi)一個(gè)瀏覽器即可使用NVIDIA AI超級(jí)計(jì)算和軟件
企業(yè)可以使用 NVIDIA Base Command?平臺(tái)軟件管理和監(jiān)控DGX Cloud訓(xùn)練工作負(fù)載，該軟件可實(shí)現(xiàn)DGX Cloud以及本地NVIDIA DGX超級(jí)計(jì)算機(jī)之間用戶體驗(yàn)的無(wú)縫銜接。通過(guò)使用Base Command 平臺(tái)，用戶可根據(jù)每項(xiàng)工作所需的DGX基礎(chǔ)設(shè)施的數(shù)量和類型，將工作負(fù)載與之相匹配。
DGX Cloud包含NVIDIA AI Enterprise。NVIDIA AI Enterprise作為NVIDIA AI平臺(tái)的軟件層，通過(guò)提供端到端AI框架和預(yù)訓(xùn)練模型，來(lái)加速數(shù)據(jù)科學(xué)流程，并簡(jiǎn)化生產(chǎn)級(jí)AI的開(kāi)發(fā)和部署。今日發(fā)布的NVIDIA AI Enterprise 3.1提供新的預(yù)訓(xùn)練模型、經(jīng)過(guò)優(yōu)化的框架和加速數(shù)據(jù)科學(xué)軟件庫(kù)，可進(jìn)一步幫助開(kāi)發(fā)人員啟動(dòng)他們的AI項(xiàng)目。
DGX Cloud的每個(gè)實(shí)例都配有8個(gè)NVIDIA H100或A100 80GB Tensor Core GPU，每個(gè)節(jié)點(diǎn)共有640GB GPU內(nèi)存。使用NVIDIA 網(wǎng)絡(luò)解決方案構(gòu)建的高性能、低延遲結(jié)構(gòu)確保了工作負(fù)載能夠在互連系統(tǒng)集群中擴(kuò)展，使多個(gè)實(shí)例就像一個(gè)巨型的GPU，以滿足高級(jí)AI訓(xùn)練性能要求。集成在DGX Cloud中的高性能存儲(chǔ)為AI超級(jí)計(jì)算提供了完整的解決方案。
DGX Cloud特有的來(lái)自NVIDIA專家的支持貫穿整個(gè)AI開(kāi)發(fā)流程。用戶可以直接與NVIDIA工程師一起優(yōu)化模型，并迅速解決各種行業(yè)用例中的開(kāi)發(fā)難題。
供應(yīng)情況
DGX Cloud實(shí)例的價(jià)格為每實(shí)例每月36,999美元起。企業(yè)機(jī)構(gòu)可以聯(lián)系NVIDIA Partner Network合作伙伴了解更多詳情。
觀看黃仁勛GTC主題演講，黃仁勛在演講中介紹了NVIDIA DGX Cloud。
