AI Server引入數位核心電源潮流

  隨著 AI(人工智慧)及 5G 網路的發展,人們對於數位化的型態已大幅地接受,周遭生活已離不開 AI 的產品,小的如個人裝置手機或 NB,大至企業使用的伺服器等。

 

甚麼是伺服器?簡單地說,就是一台電腦,但它是具有特殊功能及用途的企業電腦,使用者可以透過連線取得相關的資訊或是服務項目,遠遠超過一台個人電腦所可以提供的資源。

 

傳統伺服器與 AI 伺服器有何不同?

傳統 Server(伺服器)是甚麼?指的是專為某企業作為特殊應用的電腦,可以管理網頁或公司資料,也可共享資訊,讓其它電腦裝置透過網路連線取得資訊。其所搭載的 CPU 可以符合一般通用的、簡單的運算,對於需要大量的矩陣資料處理,會顯得能力不足。

 

而 AI Server(人工智慧伺服器),它具有深度的學習能力,可以讓機器去學習複雜高階的演算程式,並可以更快速、更有效率地執行任務。它需搭配 GPU 或是 TPU(Tensor Processing Unit,張量處理單元,Google 開發專用)或是 ASIC(積體電路),結合不同類型的處理器單元,提供不同的運算服務。

 

傳統伺服器

AI 伺服器

功能

資料儲存 / 一般運算

資料儲存 / 大量高效能運算

核心

CPU

CPU + GPU(4 or 8顆)

設計一台AI Server需要的AI晶片有CPU / GPU / FPGA / ASIC 四種類型可選擇,視應用需求選取合適的晶片。

 

特性

主要供應商

CPU

中央處理器

l   執行複雜運算時候,需要考量CPU間核心通訊及功耗問題

英特爾 (INTEL)

超微 (AMD)

GPU

圖形處理器

l   善於處理高性能運算

l   雲端運算具有優勢,但功耗大、效能較差

輝達 (NVIDA)

英特爾 (INTEL)

超微 (AMD)

FPGA

可程式化邏輯閘陣列

l   開發靈活性高

l   處理速度較慢,體積較大,功耗劣於ASIC

賽靈思 (Xilinx)

阿爾特拉 (Atera)

萊迪斯 (Lattice)

ASIC

特定應用積體電路

l   客製化可滿足各種應用

l   性能好、功耗佳,開發成本高

創意 (GUC)

世芯(AICHIP)

 AI Server 除了硬體的需求外,也需要搭配複雜的演算法來處理大量的外部資訊。其演算法可以放置在雲端的 Server(稱為雲端 Server),只要使用者將你電腦所收集的資訊透過網路上傳至雲端,再由雲端 Server 的應用服務程式計算完成後,再透過網路傳至使用者電腦上。

 

但隨著資料量愈來愈多,加上透過網路往復的傳輸過程會有一定的延遲時間,會造成使用者在開啟網頁資訊時有延遲的情況。因此現在還有另一種方式,就是將應用演算法或是內容儲存在使用者電腦或是靠近用戶端,這樣可以減少開啟網頁資料的延遲(這一類型的設計我們稱為 Edge Server/邊緣伺服器)。

在 AI Server 運算需求急遽攀升、朝向更高密度與需要更大功耗的架構發展下,也使得核心電源系統(Core Power)面臨挑戰與轉型壓力。從傳統 CPU 為主的伺服器架構,轉向以 GPU、AI 加速器為主的設計,不僅核心數量倍增,動態負載變化也更劇烈,迫使電源設計從「穩定供電」進化到「智慧管理」。而也從傳統的硬體控制進入到數位電源控制(Digital Core Power),並與 PMBus/AVS(Adaptive Voltage Scaling)通訊管理,透過韌體自動追蹤負載變化,進行即時電壓調整、熱點偵測與系統補償優化。同時,核心電源也隨著晶片廠商推陳出新、不同協定規範(如 Intel VR14/.Cloud、AMD SVI3 協定規範),因此在電源控制器的選擇上需要相對地謹慎。其中瑞薩(Renesas)在核心電源控制器領域有長久的設計歷史,能對應不同的晶片商,提供相對應的產品供客戶使用。

型號

Q3400-RA(4U)

Q3200-RA(2U)

高度

4U(177.8mm)

2U(88mm)

連接埠數量

Total 144個800Gb/s 連接埠(72 個 OSFP 插槽),Support speed 400, 800Gb/s per port

Total 72個 800Gb/s 連接埠(36 個 OSFP 插槽),Support speed40, 56, 100, 200, 400, 800Gb/s per port

交換容量

115.2 Tbps

57.6 Tbps

資料來源:工研院

瑞薩電子多相電源控制器產品

Controller

Output

Phase

Protocol

CFP

ISL69260

2

8

Intel / VR13/VR14

Y

RAA229126

2

12

Intel / VR13/VR14

Y

RAA229140A

2

8

Intel / VR14.cloud

Y

RAA229141A

2

12

Intel / VR14.cloud

Y

RAA229620

2

8

AMD / SVI3

Y

RAA229621

2

12

AMD / SVI3

Y

RAA229641

2

8

AMD / SVI3

Y

RAA229640

2

12

AMD / SVI3

Y

CFP: Common Footprint

 

茂綸股份有限公司(https://www.macnica.com/apac/galaxy/zh_tw/)代理瑞薩電子全系列產品,有任何問題或有興趣的夥伴,皆可在我們這邊獲得完整的設計方案。

You may also want to know