隨著 AI(人工智慧)及 5G 網路的發展,人們對於數位化的型態已大幅地接受,周遭生活已離不開 AI 的產品,小的如個人裝置手機或 NB,大至企業使用的伺服器等。
甚麼是伺服器?簡單地說,就是一台電腦,但它是具有特殊功能及用途的企業電腦,使用者可以透過連線取得相關的資訊或是服務項目,遠遠超過一台個人電腦所可以提供的資源。
傳統伺服器與 AI 伺服器有何不同?
傳統 Server(伺服器)是甚麼?指的是專為某企業作為特殊應用的電腦,可以管理網頁或公司資料,也可共享資訊,讓其它電腦裝置透過網路連線取得資訊。其所搭載的 CPU 可以符合一般通用的、簡單的運算,對於需要大量的矩陣資料處理,會顯得能力不足。
而 AI Server(人工智慧伺服器),它具有深度的學習能力,可以讓機器去學習複雜高階的演算程式,並可以更快速、更有效率地執行任務。它需搭配 GPU 或是 TPU(Tensor Processing Unit,張量處理單元,Google 開發專用)或是 ASIC(積體電路),結合不同類型的處理器單元,提供不同的運算服務。
傳統伺服器 | AI 伺服器 | |
|---|---|---|
功能 | 資料儲存 / 一般運算 | 資料儲存 / 大量高效能運算 |
核心 | CPU | CPU + GPU(4 or 8顆) |
設計一台AI Server需要的AI晶片有CPU / GPU / FPGA / ASIC 四種類型可選擇,視應用需求選取合適的晶片。
特性 | 主要供應商 | |
|---|---|---|
CPU 中央處理器 | l 執行複雜運算時候,需要考量CPU間核心通訊及功耗問題 | 英特爾 (INTEL) 超微 (AMD) |
GPU 圖形處理器 | l 善於處理高性能運算 l 雲端運算具有優勢,但功耗大、效能較差 | 輝達 (NVIDA) 英特爾 (INTEL) 超微 (AMD) |
FPGA 可程式化邏輯閘陣列 | l 開發靈活性高 l 處理速度較慢,體積較大,功耗劣於ASIC | 賽靈思 (Xilinx) 阿爾特拉 (Atera) 萊迪斯 (Lattice) |
ASIC 特定應用積體電路 | l 客製化可滿足各種應用 l 性能好、功耗佳,開發成本高 | 創意 (GUC) 世芯(AICHIP) |
AI Server 除了硬體的需求外,也需要搭配複雜的演算法來處理大量的外部資訊。其演算法可以放置在雲端的 Server(稱為雲端 Server),只要使用者將你電腦所收集的資訊透過網路上傳至雲端,再由雲端 Server 的應用服務程式計算完成後,再透過網路傳至使用者電腦上。
但隨著資料量愈來愈多,加上透過網路往復的傳輸過程會有一定的延遲時間,會造成使用者在開啟網頁資訊時有延遲的情況。因此現在還有另一種方式,就是將應用演算法或是內容儲存在使用者電腦或是靠近用戶端,這樣可以減少開啟網頁資料的延遲(這一類型的設計我們稱為 Edge Server/邊緣伺服器)。
在 AI Server 運算需求急遽攀升、朝向更高密度與需要更大功耗的架構發展下,也使得核心電源系統(Core Power)面臨挑戰與轉型壓力。從傳統 CPU 為主的伺服器架構,轉向以 GPU、AI 加速器為主的設計,不僅核心數量倍增,動態負載變化也更劇烈,迫使電源設計從「穩定供電」進化到「智慧管理」。而也從傳統的硬體控制進入到數位電源控制(Digital Core Power),並與 PMBus/AVS(Adaptive Voltage Scaling)通訊管理,透過韌體自動追蹤負載變化,進行即時電壓調整、熱點偵測與系統補償優化。同時,核心電源也隨著晶片廠商推陳出新、不同協定規範(如 Intel VR14/.Cloud、AMD SVI3 協定規範),因此在電源控制器的選擇上需要相對地謹慎。其中瑞薩(Renesas)在核心電源控制器領域有長久的設計歷史,能對應不同的晶片商,提供相對應的產品供客戶使用。
型號 | Q3400-RA(4U) | Q3200-RA(2U) |
|---|---|---|
高度 | 4U(177.8mm) | 2U(88mm) |
連接埠數量 | Total 144個800Gb/s 連接埠(72 個 OSFP 插槽),Support speed 400, 800Gb/s per port | Total 72個 800Gb/s 連接埠(36 個 OSFP 插槽),Support speed40, 56, 100, 200, 400, 800Gb/s per port |
交換容量 | 115.2 Tbps | 57.6 Tbps |
資料來源:工研院
Controller | Output | Phase | Protocol | CFP |
|---|---|---|---|---|
ISL69260 | 2 | 8 | Intel / VR13/VR14 | Y |
RAA229126 | 2 | 12 | Intel / VR13/VR14 | Y |
RAA229140A | 2 | 8 | Intel / VR14.cloud | Y |
RAA229141A | 2 | 12 | Intel / VR14.cloud | Y |
RAA229620 | 2 | 8 | AMD / SVI3 | Y |
RAA229621 | 2 | 12 | AMD / SVI3 | Y |
RAA229641 | 2 | 8 | AMD / SVI3 | Y |
RAA229640 | 2 | 12 | AMD / SVI3 | Y |
CFP: Common Footprint
茂綸股份有限公司(https://www.macnica.com/apac/galaxy/zh_tw/)代理瑞薩電子全系列產品,有任何問題或有興趣的夥伴,皆可在我們這邊獲得完整的設計方案。
2021年6月21日
Clock Buffer 你選對了嗎?專用型與通用型規格知多少?
現今的電子電路設計從個人電子計算機到消費型電子產品或工業級的高性能網絡通信系統,時鐘頻率緩衝器與時鐘分頻器是各個系統中時鐘的分配與建構的理想選擇。
Renesas
RENESAS
Renesas
2021
2021年8月26日
藍芽低功耗(BLE)印刷式天線設計參考
本文章基於Dialog天線設計技術文件針對於BLE印刷式PCB天線設計要點作一論述。BLE天線工作於2.4GHz頻段,其中印刷式PCB天線因其低成本特性廣泛的使用於BLE產品中。天線設計時應避免的幾個基本規則,如多層 PCB,根據可用的 PCB 空間,提供了多種天線選項。需在天線尺寸和輻射性能之間存在折衷平衡。全尺寸天線由於阻抗接近50歐姆,因此更易於匹配。對於單層 PCB主要挑戰是為天線提供合適的接地 (GND) 面,當使用較低成本的基板材料時,這也會相對影響天線的輻射效率。
Renesas
RENESAS
Renesas
2021
2021年9月13日
數位電源 Digital Power
隨著時代的進步,各類型電器需求的電能大幅增加;新世代電源的規格與應用也越來越複雜,傳統類比控制電源已無法滿足這些電源產品的規格與應用,而數位電源可以克服類比控制電源的問題。以下列出的各種產品應用主晶片的電源管理變得日益重要,從消費產品筆記型電腦到伺服器、網路交換機和工業電腦應用,各種現代電子設備都需要高效的電源管理解決方案。
Renesas
RENESAS
Renesas
2021