色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

新一輪AI競賽中,為什么HPC一定是贏家?

新思科技 ? 來源:未知 ? 2023-03-23 06:35 ? 次閱讀

本文轉自《TechSugar》感謝《TechSugar》對新思科技的關注

當前,以ChatGPT為代表的生成式人工智能應用風頭無兩,正在全球科技巨頭間掀起新一輪的技術競賽。在很多人看來,ChatGPT的上線或可被視作一次新產業革命的引爆點,而這個引爆點之所以能出現,則離不開背后的高性能計算與大數據基礎設施。

ChatGPT基于Open AI公司的GPT-3系列語言大模型來實現,GPT(Generative Pre-trained Transformer)即生成式預訓練轉換模型,是一種基于互聯網可用數據訓練的文本生成深度學習模型。

為了實現和人類可比擬的語言交互和語言組織能力,GPT-3的參數達到1750億個,相比之下,2018年推出的GPT-1,參數為1.17億個,而2019年推出的GPT-2參數則達到15億個,量變最終將引發質變,參數規模的飛速膨脹,對支撐GPT運行的硬件系統提出了越來越高的要求,對于類似GPT這樣的大模型,沒有高性能硬件支撐,根本無法去實現與部署,更不要說隨著新數據的涌入來迭代了。

所以,在眾廠商紛紛宣布加碼大模型AI投入時,有人斷言,新一輪AI競賽鹿死誰手還很難說,但高性能計算(HPC)系統中的高算力芯片、高帶寬互連芯片和存儲芯片一定是贏家。

HPC及其核心

芯片發展趨勢

那么,高性能計算要如何發展才能更好地支持新一波人工智能發展浪潮?而人工智能將如何影響到高性能計算本身呢?有如下幾點,可供探討。

第一,高性能計算與人工智能相得益彰。人工智能的每一次高速發展,都離不開背后硬件基礎設施的支持,而高速發展的AI又對硬件基礎設施提出了更高的要求,激勵芯片或系統性能成倍上升。

在Open AI 2018年發布的報告中,對自2012至2018年人工智能訓練對算力的需求超過30萬倍,算力需求平均每3.5個月翻一番,這給芯片及硬件系統更新換代帶來極大壓力,因為按摩爾定律的性能升級速度,已經不能滿足AI訓練對芯片性能的需求增長速度了。

為了打破性能瓶頸,新思科技提出了SysMoore開發方法學,通過全系統優化,有效釋放了性能提升潛力。

反過來,AI能力也在提升芯片開發效率,幫助開發者設計出性能更出色的芯片。例如,通過應用新思科技的DSO.ai工具,開發者將一款HPC處理器的運行頻率提高了100Mz,而開發時間縮短了一半,整個團隊的產出效率提升至原來的三倍。

bf7b3c4c-c901-11ed-bfe3-dac502259ad0.png

第二,HPC芯片性能提升方式從平面擴展轉變為立體增長。多晶片系統(Multi-Die System)正在成為HPC芯片的主要發展潮流,從HPC的系統角度來看,采用先進封裝技術將不同芯片封裝在一起的方式,比PCB互連能大幅提升系統性能,因而HPC芯片在實現上,2.5D封裝與3D封裝的設計將越來越多。

而由于成熟的接口IP可以直接以芯粒(Chiplet)方式與計算內核進行拼接,多晶片系統開發方式還可以有效保證良率,加快開發效率。

多晶片系統的實現,需要設計方法學的更新,以實現高帶寬、低延遲、低功耗和無差錯工作的片間接口,多晶片系統的片間接口技術對于數據中心與邊緣設備的快速、可靠的數據傳輸至關重要。

采用先進封裝技術將芯片進行立體堆疊,為芯片性能提升打開了無限可能,但也需要更強的EDA工具、設計方法學和IP,來處理多晶片系統中的異構集成、互連和封裝問題。此外,隨著數據中心互連技術的發展,開發者還需要具備硅光學等領域的專業知識和技術。

新思科技的3DIC Compiler是一個高效易用的多晶片系統設計實現平臺,可以為各種不同工藝制造的芯粒拼接堆疊提供完整的開發環境。

例如,從多晶片系統項目啟動時,開發者就需要用3DIC Compiler對多晶片系統進行功能劃分,將整體設計分解為多個芯粒,接下來,可以用3DIC Compiler進行早期版圖規劃和基于封裝的信號完整性分析,以實現更好的片間連接性能和更優的功耗表現。

bfcd9d2a-c901-11ed-bfe3-dac502259ad0.jpg

第三,邊緣計算設備將不斷進步迭代。人工智能的訓練發生在數據中心,但推理或數據收集都離不開邊緣設備。

在人工智能應用中,對邊緣設備的延遲要求越來越高,希望能進一步減少邊緣設備數據處理和傳輸延遲,這就要求優化邊緣設備主芯片的數據傳輸速度和效率。而邊緣設備數量眾多,因而在芯片層面能夠降低功耗的話,將對整個云加邊緣體系的節能降耗貢獻極大。

所以,邊緣端芯片需要強大的仿真和驗證工具、功耗和熱分析功能、設計布局的智能實施,以及一系列關鍵功能和接口的認證IP模塊,新思科技可以為開發者提供從邊緣到云端可應用的基礎IP、接口IP、安全IP和處理器IP,優化實現高性能、低延遲和低功耗,同時支持先進的工藝技術。

第四,從信息安全、可靠性和運營成本等考慮,HPC芯片需要全生命周期管理。HPC系統規模巨大,運營成本高昂,可以處理PB乃至ZB級別的數據,可以實時運行大模型。這種級別的系統一旦出現故障,由于業務暫停造成的經濟損失,數字會十分驚人。

所以,一個好的HPC系統,應該具備卓越的可靠性、可用性和服務能力,而要做到這一點,系統角度可以通過冗余設計來增加可靠性,但更重要的則是從芯片層級來減少故障率。

在芯片層級減少系統的故障率,就需要用到新思科技的硅生命周期管理(Silicon Lifecycle Management,SLM )的理念。

SLM通過內置IP來收集芯片運行中的各種參數,并將芯片運行數據傳輸至指定位置進行分析和跟蹤,從而讓系統可以實時監控各個核心芯片的運行狀況,為系統建立起芯片健康狀況跟蹤圖,從而更好地預測和預防故障的發生,最終實現故障率降低和最小化故障損失。

第五,可持續發展是HPC產業長期繁榮的基礎。由于規模巨大,HPC系統能耗驚人,專家預測,到2030年,僅數據中心用電量將占到全球總用電量的3%至7%,不少區域甚至抵制建設數據中心,以免因其耗能巨大而導致當地環境惡化。所以,如何有效解決HPC/數據中心能耗和散熱問題,已經成為其能否可持續發展的關鍵。

在新思科技為HPC/數據中心提供的完整解決方案中,處處體現了節能降耗的理念。例如,通過低功耗設計方法學和功耗優化過的IP核來實現HPC芯片的整體功耗優化,從而降低HPC系統能耗,有效降低系統功耗,而新思科技各種高效率開發、仿真和驗證工具,大幅降低了研發一款芯片的總體用時和資源占用,則是從更廣泛角度上為可持續發展做出的貢獻。

總結

隨著互聯網與人工智能技術的發展,HPC產業的重要性與日俱增,大數據與大數據模型的應用,都對HPC系統的性能與能耗提出了更高要求,只有從芯片層級出發來對HPC系統進行優化,才能真正讓HPC系統性能不斷升級,能效持續優化,走上真正的可持續發展之路。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 新思科技
    +關注

    關注

    5

    文章

    796

    瀏覽量

    50334

原文標題:新一輪AI競賽中,為什么HPC一定是贏家?

文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    榮耀迎來新一輪投資,中國電信、金資本等加入

    據最新報道,榮耀在其股權改革進程迎來了新一輪投資者的加入,包括中國電信、金資本旗下基金、基石資本旗下基金、特發基金,以及新成立的代理商投資平臺金石星耀等。   榮耀方面表示,此次融資堅持公開透明的原則,旨在進
    的頭像 發表于 10-31 13:44 ?546次閱讀

    小馬智行獲得廣汽集團2700萬美元新一輪投資

    近日,自動駕駛解決方案提供商小馬智行宣布獲得廣汽集團2700萬美元的新一輪投資。
    的頭像 發表于 10-12 16:01 ?282次閱讀

    字節跳動開啟新一輪股權回購

    字節跳動近日向員工發布了新一輪股權回購的郵件通知。此次回購,在職員工的稅前回購價定為每股180.7美元,而離職員工的回購價則為153.6美元。
    的頭像 發表于 10-11 15:46 ?327次閱讀

    OpenAI新一輪融資66億美元,鞏固AI領先地位

    近日,美國人工智能領域的佼佼者OpenAI宣布,在最新一輪融資中成功籌集了高達66億美元的資金。此次融資后,OpenAI的估值飆升至1570億美元,再次彰顯了其在全球AI領域的強勁實力。
    的頭像 發表于 10-08 14:44 ?341次閱讀

    Anthropic擬進行新一輪融資

    人工智能領域再掀波瀾,初創公司Anthropic正緊鑼密鼓地籌備新一輪融資,市場預計其估值將躍升至400億美元大關。此次融資吸引了包括谷歌、亞馬遜等科技巨頭的青睞,彰顯了Anthropic在AI賽道上的強勁競爭力和市場潛力。目前,融資談判尚處于初級階段,但已足夠引發業界廣
    的頭像 發表于 09-24 15:19 ?338次閱讀

    武漢敏聲再獲新一輪融資

    近日,武漢敏聲新技術有限公司(簡稱“武漢敏聲”)宣布成功完成新一輪融資,此次融資由中國互聯網投資基金、長江產業集團、駱駝基金等知名投資機構共同參與。這是自2019年成立以來,武漢敏聲獲得的第4融資,累計融資金額已接近10億元,公司估值隨之攀升至近30億元的新高度。
    的頭像 發表于 09-24 14:52 ?744次閱讀

    喆塔科技完成新一輪戰略融資

    喆塔科技近日宣布圓滿完成新一輪戰略融資,此融資由光谷金控、張科垚坤及合肥產投三大國有及產業資本巨頭攜手完成。此次融資不僅彰顯了市場對喆塔科技的高度認可,更為其未來發展注入了強勁動力。
    的頭像 發表于 09-06 17:37 ?581次閱讀

    銀河水滴科技完成新一輪股權融資

    近日,步態身份識別系統研發商銀河水滴科技完成新一輪股權融資,融資額未披露,本輪投資方為蘇高新金控。
    的頭像 發表于 05-28 11:24 ?1235次閱讀
    銀河水滴科技完成<b class='flag-5'>新一輪</b>股權融資

    AI獨角獸Cohere尋求新一輪融資,目標估值達50億美元

    加拿大AI領軍企業Cohere,作為OpenAI的有力競爭者,近日正在積極尋求新一輪的融資。據悉,該公司的目標是以高達50億美元的估值籌集5億美元的資金。這雄心勃勃的舉措顯示了Cohere在人工智能領域的深厚實力與堅定信心。
    的頭像 發表于 03-26 11:25 ?612次閱讀

    螞蟻集團新一輪組織架構升級

    螞蟻集團近日完成了新一輪的組織架構升級,旨在進步加速其改革進程并推動核心戰略的實施。在這次重要的調整,韓歆毅被正式任命為螞蟻集團總裁,他將肩負起全面負責數字支付、數字互聯和數字金融業務的重任。
    的頭像 發表于 03-22 13:58 ?1201次閱讀

    聲揚科技逆勢完成新一輪融資,發力終端語音打造大模型的“耳朵”

    近日,深圳市聲揚科技有限公司(以下簡稱“聲揚科技”)完成由青島某地方國資平臺出資及部分老股東跟投的新一輪融資,為2023年以來低迷的AI語音級市場
    的頭像 發表于 03-12 09:00 ?982次閱讀
    聲揚科技逆勢完成<b class='flag-5'>新一輪</b>融資,發力終端語音打造大模型的“耳朵”

    人形機器人企業Figure AI在最新一輪融資中累計籌得約6.75億美元

    據外媒報道,當地時間2月24日,致力于研發人形機器人的美國初創公司Figure AI在最新一輪融資中累計籌得約6.75億美元。
    的頭像 發表于 02-28 11:39 ?1178次閱讀

    瀜礦科技完成最新一輪A融資 青桐資本擔任財務顧問

    近日,瀜礦科技控股平臺公司完成最新一輪A融資,由Amperex Technology Limited(ATL)獨家領投,老股東上海源晗能源持續加注,青桐資本擔任財務顧問。本
    的頭像 發表于 02-21 10:25 ?696次閱讀

    高端封裝基板供應商芯愛科技完成新一輪融資

    芯愛科技,作為家高端封裝基板供應商,近日宣布完成了新一輪融資,累計獲得社會資本超過25億元人民幣。這一輪融資吸引了眾多知名投資機構的參與,包括比亞迪、越秀產業基金、陽光融匯資本、高遠資本等頭部資本。
    的頭像 發表于 01-18 15:53 ?891次閱讀

    開年資本“熱”,已有3家LED企業完成最新一輪投資

    開年以來,資本對LED產業的投資熱情不減,近日已有3家LED企業完成最新一輪投資。
    的頭像 發表于 01-11 13:50 ?986次閱讀
    主站蜘蛛池模板: 国产99久久| 成人免费视频在线播放| 97视频免费上传播放| 最近中文字幕免费高清MV视频6 | 日本人娇小hd| 少爷不要别揉了高H| 亚洲AV无码一区二区三区牛牛| 亚洲高清免费在线观看| 一本二卡三卡四卡乱码麻豆| 最新国产麻豆精品| yellow2019在线观看视频| 国产成人女人视频在线观看| 国模啪啪久久久久久久| 久久久久久久99精品免费观看| 男gv纯肉免费视频| 色噜噜狠狠一区二区三区 | 欧美在线看欧美视频免费| 三叶草未满十八岁| 亚洲免费无码av线观看| 91精品欧美一区二区三区| 嘟嘟嘟影院免费观看视频| 韩国成人理伦片免费播放| 龙腾亚洲人成电影网站| 日本G奶乳液汁| 亚洲精品成人AV在线观看爽翻| 征服丝袜旗袍人妻| 成人国产在线观看| 黑人阴茎插女人图片| 欧美成人国产| 小向美奈子厨房magnet| 18禁三级黄| 国产精品人妻无码免费A片导航| 久久成人伊人欧洲精品AV| 日本久久久久久久做爰片日本 | 亚洲国产成人在线| 99精品视频免费在线观看| 国产看黄网站又黄又爽又色| 麻豆精品传媒卡一卡二传媒短视频| 色多多污污版免费下载安装| 玉林天天论坛| 国产AV无码熟妇人妻麻豆|