AMD首席執行官蘇姿豐出席imec ITF World 2024大會并榮獲創新獎,此項榮譽旨在肯定其卓越創新及引領行業發展之貢獻。先前同樣獲得該獎項的還有戈登·摩爾和比爾·蓋茨。
會議期間,蘇姿豐談論了AMD如何通過實施30x25戰略推動2025年計算節點能效提升30倍的目標。她進一步透露,AMD已找到2026年至2027年間將能效提升100倍以上的解決方案。
隨著生成式AI LLM如ChatGPT的崛起,AI功耗問題日益凸顯。AMD早在2021年便洞察到AI龐大功耗需求所引發的挑戰,并以此為契機啟動30x25戰略,致力于提升數據中心計算節點能效,尤其針對AI和HPC的高能耗問題。
隨著訓練模型所需算力不斷攀升,AI功耗問題愈發嚴峻。蘇姿豐指出,早期圖像和語音識別AI模型體積每兩年翻番,與過去十年計算能力提升速度相當。然而,生成式AI模型規模現今正以每年20倍的速度擴張,遠超計算和存儲進步速度。盡管當前最大模型需借助數萬個GPU進行訓練,耗費數萬兆瓦時電力,但未來模型規模迅速擴大后,或需動用數十萬個GPU,甚至數吉瓦時電力進行訓練。
為了提升能效,AMD采取了全方位策略,涵蓋硅架構升級、先進封裝策略、AI專用架構設計、系統及數據中心級調整,以及軟硬件協同設計等多個層面。
硅材料無疑是基礎。蘇姿豐強調,AMD正在推進3nm GAA晶體管研發,旨在提升功率效率和性能,同時持續關注先進封裝和互聯技術,以實現更高效、經濟的模塊化設計。先進封裝在突破單芯片封裝性能瓶頸方面具有重要意義,AMD采用2.5D和3D封裝混合技術,最大化每平方毫米數據中心硅片的計算能力。
在服務器節點與服務器機架間傳輸數據因距離過長導致額外電力消耗,優化數據局部性可大幅節約能源。AMD MI300X展示了大規模芯片封裝所帶來的效率優勢——該芯片包含1530億個晶體管,分布在12個芯片上,配備24個HBM3芯片,提供192GB存儲容量,均可作為本地內存供GPU使用。此外,封裝內單元間經功率和性能優化的Infinity Fabric互連,使得極高的計算和存儲密度能夠將更多數據保存在接近處理核心的位置,從而降低數據傳輸所需能量。
-
amd
+關注
關注
25文章
5466瀏覽量
134087 -
gpu
+關注
關注
28文章
4729瀏覽量
128890 -
HPC
+關注
關注
0文章
315瀏覽量
23754 -
生成式AI
+關注
關注
0文章
502瀏覽量
471
發布評論請先 登錄
相關推薦
評論