Blog

Nvidia與Oracle攜手推動雲端AI:為高性能計算開啟新篇章

Blog Image
Nvidia與Oracle攜手推動雲端AI:為高性能計算開啟新篇章

October 22, 2023

重點摘要:
  1. Nvidia的企業級AI軟體和超級運算平台現在可以在Oracle Cloud Infrastructure(OCI)上運行,目的是為了在快速增長的AI市場中強化Oracle的地位。
  2. 企業可以使用Nvidia的點到點AI開發平台在OCI上部署生成式AI應用程式,並且能夠自定義和訓練模型,進一步使用Nvidia的「Triton」推斷服務器。
  3. OCI特別適用於高性能計算(HPC),提供了「同時擴展成萬千核心的潛力」,並且客戶可以使用現有的Oracle Universal Credits購買使用這些Nvidia技術。

新聞內文:
Nvidia的企業級人工智慧(AI)軟體和超級運算平台現在可以在「Oracle Cloud Infrastructure」(OCI)上使用,這是為了提供聯合功能,讓Oracle在不斷增長的AI市場中站穩腳跟。

通過Nvidia AI Enterprise和OCI上的Nvidia DGX Cloud,企業可以使用Nvidia的點到點AI開發平台,並在Oracle的雲端基礎架構上部署生成式AI(genAI)應用程式。IT團隊可以自定義和訓練其模型,然後使用相同的軟體和工具在任何OCI實例上部署Nvidia的「Triton」推斷服務器。

Oracle副總裁Leo Leung告訴SDxCentral,他預計這些聯合產品將吸引新客戶,並受到現有OCI企業用戶的歡迎,他們可以將其當前的OCI工作負載與Nvidia的技術整合在一起。Leung表示:「AI市場正在蓬勃發展,Nvidia和Oracle正在合作,共同提供獨特的能力,以吸引新客戶」。

合格的客戶,或者需要「OCI強大的裸金屬計算實例集群」的客戶(而不僅僅是單個OCI裸金屬或虛擬機實例,對於大多數AI客戶來說這已足夠),可以使用現有的Oracle Universal Credits購買使用這些Nvidia技術。


Leung表示,OCI特別適用於高性能計算(HPC),這歸功於雲端彈性和基於消耗的成本的特性,它提供了「同時擴展成萬千核心的潛力」。「客戶可以獲得高頻處理器;快速而密集的在地儲存;高吞吐量、超低延遲的RDMA集群網路;以及自動化運行工作的工具」。

OCI和Nvidia的實際應用
例如,Gemelo.ai正在Oracle的雲基礎架構上運行Nvidia AI軟體開發工具組合和雲端原生微服務,以提供文本轉語音、語音轉語音和語音複製系統,這些系統可以重建任何人的形象,充當訓練有素的互動客戶服務代理人,類似Meta基於名人如Snoop Dogg和Kendall Jenner的角色的AI助手。

Gemelo.ai執行長Paul Jaski表示:「我們很高興在架構我們的下一代AI驅動應用程式和越來越有用的數位孿生方面,充分利用OCI和Nvidia AI Enterprise組合的雙重資源」。

儘管這種HPC不可避免地需要大量投資,Leung表示:「客戶可以將Nvidia強大的軟體與OCI的獨特功能相結合,包括具有GPU的裸金屬計算和超級計算機規模的集群網路,所有這些都具有卓越的性價比」。