重塑 AI 算力:eSSD 在高效能運算與節能數據中心的關鍵角色

重塑 AI 算力:eSSD 在高效能運算與節能數據中心的關鍵角色 引言

在生成式AI與高效能運算(HPC)全速狂飆的時代,算力即是生產力,高速運算數據中心卻正默默面臨一場速度跟不上,電力餵不飽的隱形危機。當GPU算力以驚人速度飆升,傳統儲存設備早已淪為拖慢運算的致命瓶頸,而巨額的電費與散熱成本,更讓全球企業在數位轉型上面臨綠色減碳的雙重考驗。究竟該如何打破這場兼顧極致效能與節能永續的兩難僵局?答案就藏在數據中心的儲存心臟——企業級固態硬碟(Enterprise Solid State Drive)eSSD。它不僅是釋放AI與HPC恐怖算力的解速關鍵,更是現代綠色數據中心對抗科技吃電怪獸、實現淨零碳排的秘密武器。

根據各大國際權威研究機構(McKinsey與JPMorgan)的最新預估,全球企業級固態硬

碟(eSSD)的總位元出貨容量從2024年的181EB到2030年將正式突破1000EB(Note 1)的大關,年複合成長率(CAGR)高達35%。在生成式AI推論(Inference)與大數據應用的強勁拉動下, eSSD市場規模將呈現爆發式增長。

參考如下圖(一)

fadu 全球 eSSD 總容量市場規模趨勢預估圖(一)

Note 1 : 容量換算概念 :

1 EB  =  1,024 PB ; 1 PB  =  1,024 TB ; 1 EB  =  1,048,576 TB(精確二進位)

eSSD爆發性成長的核心驅動因素

1.    AI推論與RAG檢索資料庫增強生成是最大動能。

企業進入AI規模化落地階段後,AI系統需要頻繁存取模型參數與上下文資料。為了解決GPU內建HBM容量嚴重不足的問題,產業全面導入(KV Cache Offloading)技術(Note 2),將中間資料卸載至eSSD,使eSSD從「資料倉庫」升級為 AI 架構中的二級儲存。此外,檢索增強生成RAG與向量資料庫的大規模部署,也帶來了巨大的重複儲存與分散式區域備份需求。

 

Note 2: 參考圖二

KV Cache Offloading是一種大型語言模型(LLM)在推理時的記憶體最佳化技術。當GPU的高頻寬記憶體(HBM/VRAM)不足以容納龐大的長上下文(Context)KV快取時,系統會將暫時用不到的中間運算結果動態卸載(Offload)到容量較大的CPU記憶體(DRAM)或高速固態硬碟(NVMe SSD)中,待需要時再載入回GPU。

fadu KV Cache Offloading圖(二)

2.加速替代傳統機械硬碟Hard Disk Drive (HDD )

因為AI工作負載極度要求低延遲與極高的讀寫吞吐量,傳統的機械式硬碟(HDD)已無法滿足此需求,逐漸遭到eSSD強烈蠶食。特別在64TB以上的超大容量eSSD,其整體擁有成本在資料中心能耗限制下已較HDD更具戰略優勢。

 

3. 大容量QLC閃存技術的普及

為滿足AI訓練叢集與大型高密度機架的空間限制,QLC技術已從邊緣走向主流。預估到2030年,QLC佔eSSD的需求比重將跨越40%以上,進一步推高了單位晶圓所能產出的位元容量。

 

4. 伺服器單機搭載容量暴增

未來AI伺服器的單機儲存容量預估將超過70TB,是傳統通用伺服器的兩倍以上,而高達90TB甚至100TB上的超大容量儲存節點也將在2030年前成為資料中心的常態配備。

企業級固態硬碟外型規格

企業級固態硬碟(Enterprise SSD, eSSD)的外型規格(Form Factor),逐漸從傳統的2.5吋(U.2/U.3)轉向由全球網路儲存工業協會Storage Networking Industry Association

(SNIA)主導的EDSFF(Enterprise and Datacenter Standard Form Factor)標準。主要規格分為E1與E3兩大系列,提供最佳的散熱,高容量及高功率的支援。

如下表(一) EDSFF E1.S與E3.S比較表:

fadu EDSFF E1.S與E3.S比較表 表(一)

eSSD 的高速傳輸技術- PCIe 5.0 / 6.0 介面

  • SATA / SAS 時代:傳統機械硬碟介面,頻寬極低(SATA III僅6Gbps),採用AHCI 協議,隊列深度僅32,無法釋放快閃記憶體的並發優勢。
  • PCIe Gen4 x4 時代:頻寬提升至8 GB/s,NVMe 1.4協議普及,延遲降至微秒級。
  • PCIe Gen5 x4 時代:頻寬翻倍至16 GB/s(實際單向傳輸極限約14.6 GB/s)。NVMe 2.0協議導入,優化了分區名稱空間(ZNS)與雲端密集工作負載。
  • ZNS(分區命名空間,Zoned Namespaces)是一種將硬碟儲存空間劃分為多個不重
  • 疊區域的NVMe標準技術。
  • PCIe Gen6 x4時代:頻寬再次倍增至 32 GB/s(實際吞吐量 > 28 GB/s),改採 PAM4調變技術與FLIT(Flow Information Unit)編碼,消除了傳統NRZ編碼的物理傳輸瓶頸,為AI大數據串流提供了幾乎零阻塞的極限管道。

企業級 eSSD 技術指標比較

為了客觀評估市場上各家領先方案,以下針對PCIe Gen5世代之企業級主流 eSSD規格進行評估,參考表(二) 。

fadu eSSD 技術指標比較表(二)

如上表規格,eSSD提升儲存效率與壽命的關鍵技術,支援OCP 2.0規範與FDP(Flexible Data Placement,彈性資料放置)技術及其相關技術解析。

關鍵技術定義

OCP Datacenter NVMe SSD Spec 2.0:指開放運算計畫(Open Compute Project)主導,標準化超大規模資料中心及雲端基礎設施NVMe SSD在效能、功耗、遙測、延遲監控與可靠性上有嚴苛規範。

FDP(Flexible Data Placement):彈性靈活的放置資料,減少寫入,這是NVMe 2.0協調標準的一項進階功能。它讓主機端能將生命週期或特性相似的資料歸類並標註提示(Hint),引導SSD將這些資料寫入相同的底層實體區塊中,藉此降低寫入放大率Write Amplification Factor(WAF)並延長硬碟壽命。WAF是指實際寫入NAND快閃記憶體的資料量與主機端要求寫入的資料量的比值。WAF理想狀態下趨近於1,現實狀態則不然,通常落在2~5之間,也就是主機寫入1TB的資料量,實際狀況eSSD抹寫2TB~5TB,這對效能功耗壽命都有極大影響。

fadu

優化 QoS(Quality of Service)並減少30%長尾延遲

企業級SSD通常透過底層核心技術來達到目標

  • 更強大的控制器與韌體優化:內建多核心處理器,能更聰明地排程I/O請求,避免讀寫衝突。如上表(二) Fadu FC5161是一款4個64-bit RISC-V多核心架構的eSSD控制晶片。
  • 進階垃圾回收(Garbage Collection)GC機制:利用主機管理垃圾回收,如ZNS 技術或將GC搬移到系統閒置時執行,防止GC佔用頻寬而卡住正常讀寫。
  • 傳統SSD控制器架構中,從PCIe接收NVMe指令開始,到資料讀寫NAND Flash的整個流程,都必須透過控制器核心(CPU Core)執行韌體程式進行處理,其中也包含垃圾回收(Garbage Collection, GC)等背景管理工作。因此,傳統控制器的效能表現,很大程度取決於核心執行韌體程式的效率與速度。換句話說,核心運算能力直接影響SSD的讀寫效能與整體反應速度。
  • 預留空間(Over-Provisioning, OP):保留更多隱藏的快閃記憶體空間,減少寫入放大,維持長期的讀寫流暢度。
  • NVMe佇列優化:支援數萬個並行佇列,讓高併發流量分流,不塞車。

企業級固態硬碟(eSSD)的功耗與省電設計

如何降低企業投資在資料中心的營運成本及達成節能減碳的ESG永續發展,eSSD追求極致的功耗效能,已成為各家廠商競逐的關鍵指標。其核心技術在於NVMe標準規範的省電機制,如下定義的幾項核心技術:

  • APST (Autonomous Power State Transition):讓eSSD在無工作負載時自動切換到更低的功耗狀態,如(Power States) PS。

PS0 : 全速運作 (Full-speed Operation),運作中。

PS1 : 輕度調節且運作中,微幅降功耗且能快速喚醒的狀態。

PS2 : 重度調節且運作中,大幅調降功耗且能快速喚醒的狀態。

PS3 : 輕度睡眠 (Lite Sleep) ,非運作中。

PS4 : 深度睡眠 (Deep Sleep) ,非運作中,極低功耗但喚醒延遲較長的深層睡眠狀態。

  • ASPM (Active State Power Management):透過PCIe匯流排在連結閒置時降低訊號功率。
  • PLM (Power Loss Management /動態功耗管理):依據即時的IO讀寫壓力動態調整晶片耗電,避免不必要的全速運轉。
fadu Fadu省電控制器架構圖(三)

韓商Fadu eSSD controller支援上述NVMe規範的省電機制,除此之外Fadu eSSD controller低功耗架構如圖(三)所示。更進一步剖析說明, 在 NAND Flash 的讀寫流程中,約有 70% 的操作不需經由核心運算,而是直接交由專用的硬體加速器進行背景處理。透過將大量軟體功能固化為硬體邏輯,不僅能大幅降低韌體複雜度,更能發揮硬體平行處理的優勢,有效降低整體功耗。這種低功耗的設計理念,關鍵在於精準劃分「硬體自主處理」與「核心韌體執行」的功能分工,進而成為硬體架構優化與 IC 設計改版的重要依據。如圖(四)的實際驗證成果所示,量測 Fadu Gen 5 的 7.6TB 產品(FC5161 + BiCS6)時,其最大工作功耗僅 23W,成功達成了 25W 的低功耗應用需求。

fadu Power Consumption from datasheet圖(四)

PCIe Gen 5 eSSD 25W QLC應用,目前最大的瓶頸,正是功耗限制。因為市場需求正在逐漸往同一個方向靠攏,高效能與低功耗並存。過去只是產品規格上的趨勢,如今已經成為實際應用端的迫切需求,而25W也正在悄悄成為最具潛力的企業級SSD應用規格。

面對下一世代Gen 6,各家廠商已經開始進行控制器硬體驗證。在不改變傳統控制器架構的前提下,許多控制器供應商早已在Gen 5世代面臨突破瓶頸的挑戰,甚至逐漸退出競爭舞台。提升功耗確實可以換取更高的效能,但功耗增加所帶來的熱問題,又會反過來限制系統整體效能,形成難以突破的循環。

PCIe Gen 6企業級eSSD各家產品亮點簡析

Micron 9650 NVMe SSD:

  • 這是全球首款進入量產階段的PCIe Gen 6儲存解決方案。
  • 分為PRO (讀取優化)與MAX (混合用途) 兩個系列,以滿足不同的工作負載需        

Samsung PM1763:

  • 專為液冷伺服器架構優化,能效比前代提升1.8倍。
  • 循序寫入效能強勁,達到21,000 MB/s。

 

Kioxia CM10 系列:

  • 首批支援冷板液冷 (Cold-plate Liquid Cooling)的PCIe 6.0 eSSD,特別針對次世代AI基礎設施設計。
  • 採用最新的332層第十代BiCS FLASH技術。

 

Fadu Sierra (FC6161 控制器):

  • 該控制器具備極高的功耗效率(2GB/s per Watt),在28.5 GB/s的全速運轉下,功耗僅約 9.5W。
  • 其設計架構支援超大容量SSD,最高可達512TB。

由於PCIe 6.0產品目前多處於發表或初步量產階段,預計2026年後普及,詳細的規格,如具體的IOPS(Input/Output Operations Per Second)或耐用度參數等,仍會隨著各廠正式量產而有所微調,先僅供參考。

fadu 各廠牌eSSD示意圖

結論

隨著人工智慧與高效能運算全面走入日常生活與工業應用,數據中心底層的儲存架構已迎來了不可逆的結構性轉移。企業級固態硬碟eSSD成功擺脫了傳統冷存儲的宿命,正式躍升為AI推論運算路徑中不可或缺的二級記憶體加載層。在這一波由AI驅動的NAND超級循環週期中,傳統的M.2與U.2外觀規格因散熱與高功耗瓶頸逐步淡出核心舞台,取而代之的是在空間利用率、熱流體力學及電氣性能上皆做到極致的 EDSFF(E1.S / E3.S)新標準。而以茂綸代理的產品Fadu為代表的新創廠商,透過引入多核心並行RISC-V架構主控,並率先將FDP(靈活數據放置技術)與硬體級閃存轉換層(Flash Translation Layer, FTL)完美融合,成功打破了高性能、低功耗、低延遲三者不可兼得的物理魔咒。展望未來,隨著PCIe Gen6時代的全面降臨,eSSD將朝向單盤256TB~512TB的超巨大容量與28GB/s的極限頻寬演進。這不僅能為雲端服務商提供更低的每代幣成本(Cost per Token),更是重塑全球大數據算力基礎設施、實現未來節能減碳與永續綠色數據中心的致勝關鍵。

Reference

You may also want to know