色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Vicor技術如何改進生成式人工智能的供電

Vicor ? 來源:Vicor ? 2024-10-16 09:54 ? 次閱讀

專訪 Maury Wood,Vicor 戰略營銷副總裁

生成式人工智能(genAI)帶來的文化革命可能像互聯網普及一樣對人類產生深遠影響。從您的角度來看,目前情況如何?

過去 18 個月以來,我們見證了整個生成式人工智能生態系統的飛速創新,涵蓋處理器芯片、專用軟件和超級計算機等多個領域,這些創新加速了特定領域人工智能應用的開發,同時,許多企業紛紛宣布戰略規劃,這預示著生成式人工智能將在可預見的未來對全球經濟產生巨大影響。目前,生成式人工智能模型的訓練已經在計算性能、存儲容量和網絡帶寬方面達到了前所未有的高水平。一些當今性能最高的超級計算機(通常以浮點數學性能衡量)專門用于生成式人工智能模型訓練。生成式人工智能正推動半導體、基礎設施硬件、系統軟件和網絡邊緣等領域的空前投資,這種投資熱潮有望進一步擴展到家庭和工作場所的嵌入式人工智能設備領域。

生成式人工智能的快速普及會帶來哪些負面影響?

除了人們普遍擔憂的問題外,這波創新浪潮的一個主要成本是云數據中心的能耗急劇增加,這些數據中心承擔著生成式人工智能的訓練和推理任務,而能耗的預測數據令人擔憂。例如,《紐約時報》的一項預測顯示,到 2027 年,生成式人工智能的用電量將相當于阿根廷、荷蘭或瑞典一年的用電量。生成式人工智能模型的訓練和推理帶來日益嚴重的能耗挑戰,與社會減少能源使用和溫室氣體排放的目標背道而馳。

為何生成式人工智能計算如此耗電?

首先,讓我們區分兩個概念。當我們個人使用生成式人工智能工具時,我們是在對預訓練的大型語言模型(LLM)進行查詢,這種所謂的"推理"活動并不特別耗電,甚至可以在網絡邊緣設備上進行。然而,訓練生成式人工智能大型語言模型的過程則需要在我之前提到的超級計算機上進行大量計算(目前這個過程通常需要數月)。這些超級計算機使用成千上萬個基于圖形處理單元(GPU)的專用處理器,每個處理器包含的晶體管都數量驚人——通常超過 1000 億。這些訓練處理器采用了最先進的半導體工藝技術,如 4 納米 CMOS 工藝,但在運行過程中會漏電。由于這些晶體管的供電電壓約為 0.7VDD,持續的電流需求可能高達 1000 安培或更高,導致持續功耗(也稱為熱設計功耗)達到 700 瓦特或更高。如果每臺生成式人工智能超級計算機的數千個處理器和全球數百臺云端生成式人工智能超級計算機都乘以 700 瓦,總體電力消耗就會急劇飆升。

舉個例子,根據英偉達(Nvidia)的數據,OpenAI 的 GPT-3 模型有 1750 億個參數,整個訓練周期需要約 300 澤字節浮點運算(300 zettaFLOPS,即每秒 1021 次浮點運算),相當于 3X1023 次數學運算。而且這些模型的規模只會不斷增加,目前正在開發的神經網絡模型參數已達到萬億級。

229e9bd8-8b53-11ef-a511-92fbcf53809c.jpg

圖 1:生成式人工智能訓練處理器的峰值電流需求不斷攀升,似乎沒有盡頭。

常規開關模式電源架構能否滿足生成式人工智能的供電需求?

直到最近,數據中心機架還在使用 12V 直流配電系統。在過去十年中,Vicor 等電源系統創新公司一直倡導在數據中心機架中使用 48V 直流電源,因為根據歐姆定律,電壓更高可以在具有非零電阻的導體中降低功耗。開放計算項目組織(Open Compute Project)標準化的開放機架規范大大推動了 48V 直流電源在高性能計算應用中的采用。在早期的生成式人工智能配電架構中,這種 48V 直流電源在加速模塊上轉換為中間母線電壓,然后再通過跨電感電壓穩壓器(TLVR)供電,然而這種方法在可擴展性和電流密度方面存在明顯的局限性。

概念性加速模塊(AM),展示基于 GPU 的處理器并支持高帶寬內存(HBM),是生成式人工智能的基本構建模塊。

為何 TLVR 方法不足以滿足生成式人工智能處理器的供電需求?

在用于生成式人工智能訓練處理器的加速模塊上,可用的印刷電路板(PCB)空間非常有限,這意味著這些處理器的供電子系統必須具有超高的功率密度(W/mm2)和電流密度(A/mm2)。傳統電源根本無法達到所需的功率和電流密度,既無法提供足夠的電流,也無法適應有限的 PCB 面積。此外,生成式人工智能訓練處理器的電源組件還必須滿足負載瞬變引起的動態性能需求。同樣,傳統的供電方法并不能很好地滿足這些要求。另外,生成式人工智能供電架構中的組件必須具有出色的散熱能力。無論生成式人工智能系統采用液冷還是風冷,電源組件都必須具有高熱導率,其封裝還要能在整個使用壽命期內承受極高水平的熱循環。最新的生成式人工智能加速模塊采用分級電源架構,其負載點轉換器使用電流倍增技術,如 Vicor 公司的創新技術。

Vicor 的分比式電源架構(FPA)在負載點采用具有出色散熱性能的模塊化電流倍增器(MCM),非常適合生成式人工智能訓練應用。

Vicor 技術如何改進生成式人工智能的供電?

Vicor 獨特的電源模塊采用模塑成型,然后使用無電鍍鎳浸金(ENIG)工藝進行電鍍。模壓結構確保機械剛性,以及在溫度、濕度和振動等環境下的穩定性。電鍍外表面有利于高良率的表面貼裝組裝,同時為使用冷板強制風冷或液冷提供了理想的熱傳導條件。Vicor 電源模塊采用專有的正弦振幅轉換器(SAC)電路拓撲,使用零電壓開關(ZVS)和零電流開關(ZCS)技術來最大限度地減少開關噪聲和雜散輻射,同時最大化 DC-DC 轉換效率。Vicor 還使用高頻 MOSFET 開關來減小高度集成模塊的物理尺寸。此外,Vicor 為人工智能/高性能計算應用設計的負載點組件非常薄(≤1.7mm),并在一系列與 PCB 兼容的封裝中提供可擴展的電流輸出。在可預見的未來,生成式人工智能無疑將繼續是現代計算世界中最耗電且散熱挑戰最大的應用。Vicor 將繼續創新,滿足這一激動人心的新業務機會不斷攀升的供電需求。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19259

    瀏覽量

    229653
  • 數據中心
    +關注

    關注

    16

    文章

    4761

    瀏覽量

    72034
  • 人工智能
    +關注

    關注

    1791

    文章

    47183

    瀏覽量

    238264

原文標題:隨著人工智能(AI)的發展,電力挑戰也隨之而來

文章出處:【微信號:Vicor,微信公眾號:Vicor】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    嵌入人工智能究竟是什么關系?

    了重要作用。在未來,隨著嵌入系統和人工智能技術的不斷進步,我們可以預見更多創新應用的出現,為社會發展和生活品質的提升帶來更多可能性。
    發表于 11-14 16:39

    risc-v在人工智能圖像處理應用前景分析

    和使用該技術,無需支付專利費或使用費。這大大降低了人工智能圖像處理技術的研發成本,并吸引了大量的開發者、企業和研究機構參與其生態建設。 靈活性則體現在RISC-V可以根據不同的應用場景進行定制和優化,從而
    發表于 09-28 11:00

    生成人工智能在教育中的應用

    生成人工智能在教育中的應用日益廣泛,為教育領域帶來了諸多變革和創新。以下是對生成人工智能在教
    的頭像 發表于 09-16 16:07 ?808次閱讀

    生成人工智能的概念_生成人工智能主要應用場景

    生成人工智能(Generative Artificial Intelligence,簡稱GAI)是一種先進的人工智能技術,其核心在于利用計算機算法和大量數據來
    的頭像 發表于 09-16 16:05 ?1631次閱讀

    揭秘生成人工智能如何重塑視頻會議體驗

    面對面交流所帶來的體驗。與此同時,生成人工智能技術的飛速發展,為破解混合會議長期以來面臨的諸多挑戰提供了創新性解決方案。 生成
    的頭像 發表于 08-19 14:54 ?178次閱讀

    如何利用生成人工智能進行精確編碼

    隨著技術的飛速發展,生成人工智能(Generative AI)在軟件開發領域的應用日益廣泛。生成
    的頭像 發表于 07-05 17:51 ?636次閱讀

    中國生成人工智能專利數量傲視群雄

    在全球科技創新的浪潮中,生成人工智能(Generative AI)作為一股不可忽視的力量,正以前所未有的速度重塑著多個行業的面貌。近日,世界知識產權組織(WIPO)發布的《世界知識產權組織
    的頭像 發表于 07-04 15:39 ?349次閱讀

    Vicor引領生成人工智能供電技術的創新浪潮

    ? ? 雖然人工智能有望帶來人類生產力的飛躍,但其運行時能耗巨大,導致溫室氣體的排放也顯著增加。如今,Vicor 電源模塊與垂直供電架構相結合,為 GenAI 提供了高效的供電方法,實
    的頭像 發表于 06-11 16:03 ?754次閱讀
    <b class='flag-5'>Vicor</b>引領<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b><b class='flag-5'>供電</b><b class='flag-5'>技術</b>的創新浪潮

    國內首個生成人工智能安全技術文件發布,燧原科技深度參編

    近日,全國網絡安全標準化技術委員會(TC260)正式發布了《生成人工智能服務安全基本要求》(以下簡稱《基本要求》),是國內首個面向AIGC服務安全領域的
    的頭像 發表于 03-12 10:35 ?693次閱讀
    國內首個<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>安全<b class='flag-5'>技術</b>文件發布,燧原科技深度參編

    嵌入人工智能的就業方向有哪些?

    嵌入人工智能的就業方向有哪些? 在新一輪科技革命與產業變革的時代背景下,嵌入人工智能成為國家新型基礎建設與傳統產業升級的核心驅動力。同時在此背景驅動下,眾多名企也紛紛在嵌入
    發表于 02-26 10:17

    小白學大模型:什么是生成人工智能

    來源:Coggle數據科學什么是生成人工智能?在過去幾年中,機器學習領域取得了迅猛進步,創造了人工智能的一個新的子領域:生成
    的頭像 發表于 02-22 08:27 ?1677次閱讀
    小白學大模型:什么是<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>?

    生成人工智能和感知人工智能的區別

    生成新的內容和信息的人工智能系統。這些系統能夠利用已有的數據和知識來生成全新的內容,如圖片、音樂、文本等。生成
    的頭像 發表于 02-19 16:43 ?1727次閱讀

    關于生成人工智能你應該知道的7件事

    不同類型的學習提供機會。1、生成人工智能是什么?長期以來,人工智能一直在我們日常使用的許多技術的幕后運作,但隨著2022年11月ChatG
    的頭像 發表于 02-19 13:27 ?859次閱讀
    關于<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>你應該知道的7件事

    2024年生成人工智能五大發展趨勢

    2023年是技術發展的分水嶺,生成人工智能成為主流。隨著我們進入2024年,預計生成
    的頭像 發表于 01-23 09:50 ?1443次閱讀

    生成人工智能的應用

    ChatGPT 雖然很酷,但這只是一個開始; 生成人工智能的企業用途要復雜得多。
    的頭像 發表于 01-09 11:19 ?1300次閱讀
    主站蜘蛛池模板: 国产成人精品免费青青草原app| 中文免费视频| 亚洲国产五月综合网| 性xxx欧美| 伊人久久大香线蕉综合亚洲 | 嫩草亚洲国产精品| 人人看人人看| 一级毛片美国| AV无码九九久久| 国产成人免费高清视频| 黑人开嫩苞| 久久精品熟女亚洲AV国产| 暖暖 免费 高清 日本 在线| 青青精品视频国产| 香蕉视频国产精品| 在线亚洲黄色| 第九色区av天堂| 精品国产乱码久久久久久人妻| 秘密教学26我们在做一次吧免费| 品色堂主页| 亚洲国产在线精品国自产拍五月 | 国产精品第十页| 精品亚洲国产熟女福利自在线| 蜜桃婷婷狠狠久久综合9色| 热re99久久精品国99热| 亚洲AV 无码AV 中文字幕| 2022久久精品国产色蜜蜜麻豆| 成人手机在线观看| 精品国产精品人妻久久无码五月天| 美女裸露胸部100%无遮挡| 色一欲一性一乱一区二区三区| 亚洲精品无码久久久久A片空| 76人遣返航班上71人呈阳性| 姑娘视频日本在线播放| 久久久久久九九| 手机移动oa| 717影院理论午夜伦不卡久久| 国产露脸150部国语对白| 免费在线观看国产| 亚洲狠狠97婷婷综合久久久久| thermo脱色摇床安卓下载|