在快速發展的人工智慧(AI)和雲端運算 (Cloud Computing )世界中,對高性能網路的解決方案需求非常的龐大。因此NVIDIA 推出了 NVIDIA Spectrum-X 乙太網路平台以滿足此需求。
NVIDIA Spectrum-X 是一個專為加速 AI 工作負載 (AI Workloads) 而設計的端到端解決方案的網路平台。由於傳統乙太網路無法滿足(限制) AI 應用方面的獨特需求,因此NVIDIA開發了 Spectrum-X網路平台,以提供無與倫比的性能、可擴展性和高效率乙太網路平台。
Spectrum-X網路平台結合了 NVIDIA Spectrum-4 乙太網路交換器和 NVIDIA BlueField-3 DPU(Data Processing Unit),整體 AI 效能相對於傳統乙太網路提高了 1.7 倍,為 AI 工作負載提供最佳性能。它可以增強各種 AI 應用的性能和效率,包括 GPT 和 BERT LLMs、分佈式訓練、自然語言處理(NLP)、計算機視覺、高性能的模擬、數據的分析和推理應用。
Spectrum-4乙太網路交換器以 Spectrum-4 ASIC 為基礎,頻寬高達 51.2 Tbps,是上一代的四倍。 它不僅是世界首款專為AI工作負載 (AI Workloads)設計的乙太網路交換平台,更將專業的高效能架構與標準乙太網路連接完美結合。
NVIDIA Spectrum-4 Switch提供以下功能:
1. RoCE (RDMA over Converged Ethernet) 擴充:具有獨特的RoCE增強功能, RoCE 自適應路由(Adaptive Routing), RoCE 效能隔離(Performance Isolation), 簡化、自動化的自適應路由(Adaptive Routing)和 RoCE 配置, Collective 同步化
2. 在大規模的乙太網路將有效頻寬最大化
3. 低延遲(Latency)、低抖動(Jitter)
4. 可確定的性能和性能隔離(Performance isolation)
5. 全堆疊(Full-stack)和端對端優化
6. 支援網路作業系統NVIDIA Cumulus Linux (或 Open source – SONiC NOS)
Nvidia Spectrum-4 Switch
NVIDIA BlueField-3 DPU 是一款用於加速資料中心的產品,主要由NVIDIA Connectx-7 (支援高達 400Gbps 的乙太網路和 InfiniBand 連接) 以及16個 ARM 核心組成。 該產品旨在提供卸載、加速和隔離多種先進的網路、儲存和安全服務,以在雲端、資料中心和邊緣運算等各種環境中,建構適用於各種工作負載的安全加速基礎架構。
Nvidia DPU Bluefield-3
NVIDIA Spectrum-4 典型數據中心部屬结構
NVIDIA 的 Spectrum-X 乙太網路平台代表了 AI 網路解決方案領域的重大進步。通過解決 AI 工作負載帶來的獨特挑戰並提供一系列先進功能,Spectrum-X 乙太網路平台在尋求優化 AI 操作的組織中脫穎而出。隨著 AI 繼續塑造技術的未來,像 Spectrum-X 這樣的乙太網路平台,將在確保基礎設施與進步保持同步方面發揮關鍵作用。
InfiniBand 網路解決方案
https://www.nvidia.com/zh-tw/networking/products/infiniband/
乙太網路產品
https://www.nvidia.com/zh-tw/networking/products/ethernet/
NVIDIA Bluefield 資料處理器
https://www.nvidia.com/zh-tw/networking/products/data-processing-unit/
NVIDIA Spectrum-X 網路平台
2025年6月17日
邁向兆位元(Terabits)時代:NVIDIA 800G/1.6T 高速網路解決方案全面解析
隨著雲端運算、人工智慧(AI)以及 5G 應用持續推進,全球資料流量正以倍數成長。傳統 200G 或 400G 架構已逐漸無法應付未來所需。資料中心正快速邁向 800Gb/s 與 1.6Tb/s(Terabits)傳輸時代,而實現這項目標的關鍵之一,就是 200Gbps 的高速數據調變技術。透過 200G PAM4 高速數據調變技術,每一個通道即可支援 200Gb/s 傳輸頻寬。PAM4(Pulse Amplitude Modulation)調變方式,透過四種不同電壓幅度表示資料,每一個符號(symbol)可承載 2 bit 資訊,相較於傳統 NRZ(Non-Return-to-Zero)調變方式,傳輸效率提升一倍。
NVIDIA
NVIDIA
2025
2024年9月6日
AI 存儲平台的新選擇: VAST Data Platform
在架構上,VAST Data Platform建構的系統,顛覆了傳統以HDD為主導的存儲架構(如圖三)。利用快閃記憶體的存取優勢,與傳統基礎架構相比,提供巨大的性能提升。
VAST Data
VAST Data
NVIDIA
NVIDIA
2024
2024年5月3日
AI PC與高速記憶體的結合:革命性的智慧運算體驗
近年來,AI(Artificial Intelligence)人工智慧的快速發展引領了計算機科技的新浪潮,同時高速記憶體的不斷創新,為提升計算效能提供了關鍵的支持,市場上多半視2024年為AI PC發展元年,預計2025、2026年才會逐漸成熟。 我們將簡要介紹AI PC和高速記憶體的基本概念,強調其在當今科技領域的關鍵地位。同時,我們將提出結合這兩者的動機,以及這種結合對於計算機性能和應用多樣性的重要性。
Micron
Micron
NVIDIA
NVIDIA
2024