AI Server引入數位核心電源潮流
隨著 AI(人工智慧)及 5G 網路的發展,人們對於數位化的型態已大幅地接受,周遭生活已離不開 AI 的產品,小的如個人裝置手機或 NB,大至企業使用的伺服器等。
甚麼是伺服器?簡單地說,就是一台電腦,但它是具有特殊功能及用途的企業電腦,使用者可以透過連線取得相關的資訊或是服務項目,遠遠超過一台個人電腦所可以提供的資源。
傳統伺服器與 AI 伺服器有何不同?
傳統 Server(伺服器)是甚麼?指的是專為某企業作為特殊應用的電腦,可以管理網頁或公司資料,也可共享資訊,讓其它電腦裝置透過網路連線取得資訊。其所搭載的 CPU 可以符合一般通用的、簡單的運算,對於需要大量的矩陣資料處理,會顯得能力不足。
而 AI Server(人工智慧伺服器),它具有深度的學習能力,可以讓機器去學習複雜高階的演算程式,並可以更快速、更有效率地執行任務。它需搭配 GPU 或是 TPU(Tensor Processing Unit,張量處理單元,Google 開發專用)或是 ASIC(積體電路),結合不同類型的處理器單元,提供不同的運算服務。
| 傳統伺服器 | AI 伺服器 |
---|---|---|
功能 | 資料儲存 / 一般運算 | 資料儲存 / 大量高效能運算 |
核心 | CPU | CPU + GPU(4 or 8顆) |
設計一台AI Server需要的AI晶片有CPU / GPU / FPGA / ASIC 四種類型可選擇,視應用需求選取合適的晶片。
| 特性 | 主要供應商 |
---|---|---|
CPU 中央處理器 | l 執行複雜運算時候,需要考量CPU間核心通訊及功耗問題 | 英特爾 (INTEL) 超微 (AMD) |
GPU 圖形處理器 | l 善於處理高性能運算 l 雲端運算具有優勢,但功耗大、效能較差 | 輝達 (NVIDA) 英特爾 (INTEL) 超微 (AMD) |
FPGA 可程式化邏輯閘陣列 | l 開發靈活性高 l 處理速度較慢,體積較大,功耗劣於ASIC | 賽靈思 (Xilinx) 阿爾特拉 (Atera) 萊迪斯 (Lattice) |
ASIC 特定應用積體電路 | l 客製化可滿足各種應用 l 性能好、功耗佳,開發成本高 | 創意 (GUC) 世芯(AICHIP) |
AI Server 除了硬體的需求外,也需要搭配複雜的演算法來處理大量的外部資訊。其演算法可以放置在雲端的 Server(稱為雲端 Server),只要使用者將你電腦所收集的資訊透過網路上傳至雲端,再由雲端 Server 的應用服務程式計算完成後,再透過網路傳至使用者電腦上。
但隨著資料量愈來愈多,加上透過網路往復的傳輸過程會有一定的延遲時間,會造成使用者在開啟網頁資訊時有延遲的情況。因此現在還有另一種方式,就是將應用演算法或是內容儲存在使用者電腦或是靠近用戶端,這樣可以減少開啟網頁資料的延遲(這一類型的設計我們稱為 Edge Server/邊緣伺服器)。
在 AI Server 運算需求急遽攀升、朝向更高密度與需要更大功耗的架構發展下,也使得核心電源系統(Core Power)面臨挑戰與轉型壓力。從傳統 CPU 為主的伺服器架構,轉向以 GPU、AI 加速器為主的設計,不僅核心數量倍增,動態負載變化也更劇烈,迫使電源設計從「穩定供電」進化到「智慧管理」。而也從傳統的硬體控制進入到數位電源控制(Digital Core Power),並與 PMBus/AVS(Adaptive Voltage Scaling)通訊管理,透過韌體自動追蹤負載變化,進行即時電壓調整、熱點偵測與系統補償優化。同時,核心電源也隨著晶片廠商推陳出新、不同協定規範(如 Intel VR14/.Cloud、AMD SVI3 協定規範),因此在電源控制器的選擇上需要相對地謹慎。其中瑞薩(Renesas)在核心電源控制器領域有長久的設計歷史,能對應不同的晶片商,提供相對應的產品供客戶使用。
型號 | Q3400-RA(4U) | Q3200-RA(2U) |
---|---|---|
高度 | 4U(177.8mm) | 2U(88mm) |
連接埠數量 | Total 144個800Gb/s 連接埠(72 個 OSFP 插槽),Support speed 400, 800Gb/s per port | Total 72個 800Gb/s 連接埠(36 個 OSFP 插槽),Support speed40, 56, 100, 200, 400, 800Gb/s per port |
交換容量 | 115.2 Tbps | 57.6 Tbps |
資料來源:工研院
瑞薩電子多相電源控制器產品
Controller | Output | Phase | Protocol | CFP |
---|---|---|---|---|
ISL69260 | 2 | 8 | Intel / VR13/VR14 | Y |
RAA229126 | 2 | 12 | Intel / VR13/VR14 | Y |
RAA229140A | 2 | 8 | Intel / VR14.cloud | Y |
RAA229141A | 2 | 12 | Intel / VR14.cloud | Y |
RAA229620 | 2 | 8 | AMD / SVI3 | Y |
RAA229621 | 2 | 12 | AMD / SVI3 | Y |
RAA229641 | 2 | 8 | AMD / SVI3 | Y |
RAA229640 | 2 | 12 | AMD / SVI3 | Y |
CFP: Common Footprint
茂綸股份有限公司(https://www.macnica.com/apac/galaxy/zh_tw/)代理瑞薩電子全系列產品,有任何問題或有興趣的夥伴,皆可在我們這邊獲得完整的設計方案。