AMD Helion結合開放式硬體與軟體,並內建Token路由器(Token Router),可於先進與開源模型中分派代理程式發出的模型呼叫。
AMD(NASDAQ: AMD)宣布推出AMD Helion代理式AI機櫃,基於開放運算計畫(Open Compute Project, OCP)規格設計,並由AMD運算技術挹注動能,為代理式AI基礎設施打造開放運算藍圖。


AMD Helion延續 AMD Helios機櫃級解決方案的開放平台策略,旨在為合作夥伴與客戶提供建構代理式AI基礎設施所需的靈活性。透過AMD Helion,客戶能根據AI代理執行的工作任務,搭配合適的CPU效能、核心密度和功耗與GPU加速相結合。
AMD資深副總裁暨運算與企業AI總經理Dan McNamara表示:「代理式AI並非單一工作負載,而是涵蓋了個人代理、企業級應用、程式碼執行以及複雜的工作流程,且各具不同的運算需求。要實現這點,需要能夠因應多樣化工作負載的最佳化運算與基礎設施。透過AMD Helion,我們整合AMD EPYC的卓越效能、開放軟體與靈活的機櫃設計,協助合作夥伴根據客戶需求建構專屬系統,並有效率地運用可用電力。」
AMD Helion基於OCP規格的機櫃藍圖支援開放軟體,並提供液冷及空冷等靈活配置選項,讓客戶能依據自身需求打造系統配置。範例包括:
• 純CPU機櫃:搭載第6代AMD EPYC處理器,支援高達32,768個CPU核心。此機櫃專為超大規模客戶設計,可為代理執行提供專屬運算容量,並能連結至獨立的模型推論基礎設施。
• 整合式(All-in-one)機櫃:在單一平台上整合AMD EPYC CPU節點、AMD Instinct MI350P GPU節點以及通用運算。此機櫃旨在為合作夥伴與客戶提供企業級代理式AI的一體化概念。


AMD Helion協助客戶將代理式AI部署於現有的IT基礎設施中,將既有投資轉化為發展全新AI能力的基石。合作夥伴可針對客戶的工作負載靈活調整CPU與GPU配置,使代理執行、模型推論與輔助運算皆能精準契合每次部署在效能、功耗與成本上的要求。
AMD計劃將AMD Helion規格提交予OCP,開放給社群進一步開發與採用。AMD Helion代理式機櫃配置目前正與產業體系合作夥伴共同開發中,預計於2026年11月提供。
AMD正透過開放且靈活的平台、廣泛的工作負載最佳化運算產品組合,以及跨產業體系的緊密合作,引領AI基礎設施邁入下一階段。AMD Helion將此理念延伸至代理式AI領域,協助合作夥伴依據代理所執行的工作,靈活配置軟體與運算資源,並讓客戶能因應需求變化彈性擴充。

思科運算資深副總裁暨總經理Jeremy Foster表示:「代理式AI正在改變客戶對基礎設施的需求。這不僅關乎運算效能,更涉及整個系統如何進行連接、管理與安全防護。AMD Helion等架構結合思科的全方位基礎設施能力,能讓客戶隨著需求變化更靈活地於自身環境中部署、營運與擴充代理式工作負載。」
戴爾科技運算與網路事業部資深副總裁Arun Narayanan表示:「Dell PowerRack讓客戶在選擇上無須妥協,而我們對AMD Helion代理式機櫃參考設計的支援,更將此承諾延伸至下一代代理式 AI。透過結合AMD的機櫃級架構與戴爾在機櫃級解決方案交付與獨特工程技術方面的專業,可進一步將部署擴展至Dell PowerRack網路與儲存方案。我們為客戶提供完整且經過驗證的部署途徑,協助其大規模部署代理式運算,同時具備戴爾一貫的易管理性與可靠性。」
鴻海科技集團表示:「鴻海科技集團持續深化與AMD在AI基礎設施領域的合作,支援全新AMD Helion代理式AI機櫃參考設計。此平台採用開放式架構,結合第6代AMD EPYC處理器與靈活的CPU及GPU配置,以滿足超大規模資料中心與企業代理式AI工作負載需求。鴻海將持續發揮在機櫃級系統整合與全球製造方面的優勢,攜手產業體系合作夥伴推動機櫃級代理式AI解決方案,加速下一代AI基礎設施的部署。」
HPE資深副總裁暨HPC與AI基礎架構解決方案總經理Trish Damkroger表示:「正如我們近期與客戶達成部署AMD Helios的協議所示,下一代AI工作負載需要開放式機櫃級架構所帶來的規模、效率與靈活性。數十年來,HPE與AMD共同倡導開放標準,如今也透過AMD Helion持續推動此願景。我們攜手以開放式大規模系統迎來AI的下一個時代,並結合空冷與直接液冷(Direct Liquid-Cooled)網路技術,同時以HPE數十年累積的專業與創新為後盾。」
聯想基礎設施解決方案集團副總裁Scott Patti 表示:「隨著代理式AI逐步進入正式部署階段,客戶需要在部署方式與地點上保有靈活性。這正是聯想混合式AI優勢的核心,而AMD Helion將進一步提升部署靈活性,因應客戶的實際需求,並支援其所需執行的工作負載。」
雲達科技總經理楊麒令表示:「代理式AI需要多元的系統設計,以滿足不同的客戶需求。AMD Helion提供一個開放式藍圖,賦予雲達科技能依據客戶需求靈活調整運算配置,並運用我們在系統設計與客製化方面的專業,打造符合需求的解決方案。」

美超微(Supermicro)業務長Vik Malyala表示:「美超微透過旗下Data Center Building Block Solutions (DCBBS),將AMD Helion開放且符合ORv3標準的機櫃級架構推向市場,加速下一代代理式AI基礎設施的部署。憑藉我們在OCP認可(OCP accepted)的機櫃級設計、整合、液冷、軟體與部署服務方面的專業,我們將先進的代理式AI架構轉化為可隨時投入正式部署的解決方案。我們與AMD攜手,協助客戶更快部署、高效擴充,並加速代理式AI系統的上線速度。」
緯穎科技總經理暨執行長林威遠表示:「AMD Helion為代理式AI基礎設施提供開放且靈活的基礎。緯穎科技很高興能與AMD合作,發揮我們在機櫃級整合與先進散熱技術方面的專業,協助超大規模資料中心客戶打造客製化系統,以滿足代理式AI時代嚴苛的工作負載、功耗需求及資料中心環境需求。」



