色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

1000TOPS背后的“大算力芯片”

半導體產業縱橫 ? 來源:半導體產業縱橫 ? 作者:半導體產業縱橫 ? 2022-12-12 15:53 ? 次閱讀

人類社會已經進入算力時代。

據中國信息通信研究院測算,截至2021年底,中國算力核心產業規模超過1.5萬億元,關聯產業規模超過8萬億元。其中,云計算市場規模超過3000億元,互聯網數據中心(服務器)市場規模超過1500億元,AI 核心產業規模超過4000億元。

國內算力產業近五年平均增速超過30%,算力規模超過150EFlops(每秒15000京次浮點運算次數),排名全球第二,第一是美國。

數字經濟時代,算力高低成為綜合國力強弱的重要指標之一,高算力芯片技術是國家核心競爭力的重要體現。

眾多場景已經進入超越1000TOPS(Tera Operations Per Second, 處理器每秒可以進行一萬億次操作(1012))算力的時代。

01

超越1000 TOPS的高算力

數據中心和超算

一個典型的超越1000TOPS算力的場景就是數據中心和超算。先來看數據中心對于算力的需求,工信部發布的《新型數據中心發展三年行動計劃(2021-2023年)》明確了算力內涵并引入測算指標FLOPS,對數據中心發展質量進行評價,指出到2023年底,總算力規模將超過200 EFLOPS,高性能算力占比將達到10%,到2025年,總算力規模將超過300 EFLOPS。

而超算中心也早已邁入E級算力(百億億次運算每秒)時代,并正在向Z(千E)級算力發展。E(Exascale)級計算也就是百萬兆級的計算,是目前全球頂尖超算系統新的追逐目標。用一個不精確的說法來解釋百萬兆級計算,一個百萬兆級計算機一瞬間進行的計算,相當于地球上所有人每天每秒都不停地計算四年。

2022年5月登頂世界超算500強榜單的美國國防部橡樹嶺國家實驗室Frontier超算中心,采用AMD公司MI250X高算力芯片(可提供383 TOPS算力),達到了1.1 EOPS雙精度浮點算力。

人工智能

不斷發展的人工智能也對芯片的算力提出更高的要求。人工智能的應用對于算力最大的挑戰依然來自于核心數據中心的模型訓練,近年來,算法模型的復雜度呈現指數級增長趨勢,正在不斷逼近算力的上限。

以2020年發布的GPT3預訓練語言模型為例,其擁有1750億個參數,使用1000億個詞匯的語料庫訓練,采用1000塊當時最先進的英偉達A100 GPU(圖形處理器,624 TOPS)訓練仍需要1個月。

距離GPT-3問世不到一年,更大更復雜的語言模型,即超過一萬億參數的語言模型Switch Transformer已問世。目前,人工智能所需算力每兩個月即翻一倍,承載AI的新型算力基礎設施的供給水平,將直接影響AI創新迭代及產業AI應用落地。

AI模型跑步進入萬億級時代,深度學習發展逐步進入大模型、大數據階段,模型參數和數據量呈爆發式增長,引發的算力需求平均每2年超過算力實際增長速度的375倍。

自動駕駛

自動駕駛任務需要高于1000 TOPS的高算力芯片。

自動駕駛的競爭實際上是算力的競爭。汽車從L1、L2向L3、L4、L5不斷推進,從某種意義上看,就是算力的競賽,每往上進階一級就意味著對算力的需求更高。高階自動駕駛對算力需求呈指數級上升。

2014—2016年特斯拉ModelS的算力為0.256TOPS,2017年蔚來ES8的算力是2.5TOPS,2019年特斯拉Model3算力為144TOPS,2021年智己L71070TOPS,2022年蔚來ET7是1016 TOPS。

綜合考慮集成電路技術發展下的芯片算力現狀和未來人工智能、數據中心、自動駕駛等領域的發展趨勢,未來高算力芯片需要不低于1000 TOPS的算力水平。

市場對于算力需求的增長遠遠超過摩爾定律的演進速度。OpenAI的模型顯示,2010年以來業內最復雜的AI模型算力需求漲了100億倍。目前解決算力的方式80%依靠并行計算和增加投資,10%依靠AI算法進步,10%依靠芯片單位算力進步。

02

1000TOPS背后的“大算力芯片”

單個芯片對于算力的追求是永無止盡的。目前來看,業內人士認為“單芯片算力達到100TOPS”就能稱之為“大算力芯片”。

目前能夠推出單芯片超越100TOPS的企業并不多,包括:AMD公司MI250X高算力芯片(可提供383 TOPS算力)、Mobileye EyeQ Ultra單顆芯片(算力可達176TOPS)等。

國內方面,寒武紀2021年也接連發布2款云端AI芯片,分別是思元290和思元370。思元370是寒武紀首款采用chiplet(芯粒)技術的AI芯片,集成了390億個晶體管,最大算力高達256TOPS(INT8),是寒武紀第二代產品思元270算力的2倍。

此外,燧原科技、地平線、瀚博半導體、芯馳科技、黑芝麻智能等在2021年也都推出了大算力AI芯片,其中,燧原科技發布的“邃思2.0”,整數精度INT8算力高達320TOPS。

4e74659c-7950-11ed-8abf-dac502259ad0.png

目前推出算力超越1000TOPS的SoC,唯有英偉達、高通,并且兩家企業推出的高算力芯片主要用于自動駕駛領域。

首先來看英偉達,在2021年4月,英偉達就已經發布了算力為1000TOPS的DRIVE Atlan芯片。到了今年,英偉達直接推出芯片Thor,算力是Atlan的兩倍,達到2000TOPS,并且在2025年投產,直接跳過了1000TOPS的DRIVE Atlan芯片。

其次是高通,今年同樣推出集成式汽車超算SoC———Snapdragon Ride Flex,包括Mid、High、Premium三個級別。最高級的Ride Flex Premium SoC再加上AI加速器,其綜合AI算力能夠達到2000TOPS。

4ebed348-7950-11ed-8abf-dac502259ad0.png

超強算力的背后,是利用SoC的片上整合。異構計算通過多種計算單元混合協作模式提升計算并行度和效率,在移動互聯網、人工智能、云計算等各類典型應用中占比顯著提高,并主要通過芯片內異構、節點內異構兩種模式實現性能、功耗與成本間的最佳均衡。芯片內異構典型代表為 SoC 芯片,以英偉達的Thor為例,Thor之所以能實現如此高算力,主要得益于其整體架構中的Hopper GPU、Next-Gen GPU Ada Lovelace和Grace CPU

03

高算力芯片如何進化

實際上,芯片的算力由數據互連、單位晶體管提供的算力(通常由架構決定)、晶體管密度和芯片面積共同決定。因此想要實現算力的提高,需要從這幾個方面入手。

算力進化的路徑一:芯片系統架構的挑戰

200TOPS以上的芯片對于訪存能力的要求非常高,需要支持更高的帶寬,這帶來系統架構設計復雜度的大幅度提升。

當前芯片主要采用馮·諾依曼架構,存儲和計算物理上是分離的。有數據顯示,過去二十年,處理器性能以每年大約55%的速度提升,內存性能的提升速度每年只有10%左右。結果長期下來,不均衡的發展速度造成了當前的存儲速度嚴重滯后于處理器的計算速度,出現了“存儲墻”問題,最終導致芯片性能難以跟上需求。

英偉達提出的“黃氏定律”,預測GPU將推動AI性能實現逐年翻倍,采用新技術協調并控制通過設備的信息流,最大限度減少數據傳輸,來避免“存儲墻”問題。

英偉達在GPGPU上迭代形成集成了張量核心(Tensor Core)的領域定制架構,2022年最新發布的H100 GPU基于4 nm工藝,可以提供2000 TFLOPS(萬億次浮點運算每秒)的算力。

算力進化的路徑二:先進工藝平臺的挑戰

集成電路尺寸的微縮能夠帶來單位面積算力指數的提升。在相同架構的不同工藝下,隨著工藝節點的縮小,英偉達GPU單位面積芯片算力持續提升。近年來,英偉達、AMD、蘋果的高算力芯片均采用7、5 nm先進制程實現。本質上,算力提升的核心是晶體管數量的增加。

作為 Intel 的創始人之一,Gordon Moore 在最初的模型中就指明,無論是從技術的角度還是成本的角度來看,單一芯片上的晶體管數量不能無限增加;因此,業內在致力于提升晶體管密度的同時,也在嘗試其他軟硬件方式來提高芯片運行效率,如:異構計算、分布式運算等等。

算力進化的路徑三:大尺寸芯片工程的挑戰

大算力芯片的尺寸非常大,其在封裝、電源和熱管理、成本控制、良率等方面都存在嚴峻的挑戰。芯片的價格當然是面積越大越貴,芯片面積擴大一倍,價格高3到5倍甚至更高。

根據近40年來芯片面積的變化趨勢,可以看出隨著高算力芯片的不斷發展,面積也持續增大,當前已接近單片集成的面積極限。既然單顆芯片的面積不能無限增加,將一顆芯片拆解為多顆芯片,分開制造再封裝到一起是一個很自然的想法。

異構集成+高速互聯塑造了 Chiplet 這一芯片屆的里程碑。如果使用芯粒(Chiplet)設計技術,通過把不同功能芯片模塊化,利用新的設計、互連、封裝等技術,在一顆芯片產品中使用來自不同技術、不同制程甚至不同工廠的芯片,解決了芯片制造層面的效率問題。

04

結語

宏觀總算力 = 性能 x 數量(規模) x 利用率。

算力是由性能、規模、利用率三部分共同組成的,相輔相成,缺一不可:有的算力芯片,可能可以做到性能狂飆,但較少考慮芯片的通用性易用性,然后芯片銷量不高落地規模小,那就無法做到宏觀算力的真正提升。

有的算力提升方案,重在規模投入,攤大餅有一定作用,但不是解決未來算力需求數量級提升的根本。

現階段大國博弈加劇全球產業鏈、供應鏈重構,同時中國集成電路先進工藝的開發受到制約,單純依靠先進制程等技術的單點突破成本高、周期長。

采用成熟制程和先進集成,結合CGRA和存算一體等國內領先的新型架構,在芯粒技術基礎上實現晶圓級的高算力芯片是一條可行的突破路徑,該路徑能夠利用現有優勢技術,在更低的成本投入下,更快地提升芯片算力。

審核編輯 :李倩

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    455

    文章

    50714

    瀏覽量

    423158
  • 人工智能
    +關注

    關注

    1791

    文章

    47183

    瀏覽量

    238265
  • 算力
    +關注

    關注

    1

    文章

    964

    瀏覽量

    14794

原文標題:1000TOPS算力時代來臨

文章出處:【微信號:ICViews,微信公眾號:半導體產業縱橫】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    杰和課堂|帶你認識

    主板內置34TOPS的NPU。那么究竟什么是?一、
    的頭像 發表于 12-06 10:24 ?253次閱讀
    杰和課堂|帶你認識<b class='flag-5'>算</b><b class='flag-5'>力</b>

    【NVIDIA生態】具有100 TOPS強勁的AIBOX!

    JetsonOrin模組的高AI主機:AIBOX-OrinNano和AIBOX-OrinNX英偉達系列AIBOX該系列可提供40或100TOPS的AI計算能力、大容
    的頭像 發表于 12-05 03:00 ?368次閱讀
    【NVIDIA生態】具有100 <b class='flag-5'>TOPS</b>強勁<b class='flag-5'>算</b><b class='flag-5'>力</b>的AIBOX!

    今日看點丨龍芯中科:計劃2025年發布3C6000系列服務器芯片;消息稱比亞迪內部自研 80 TOPS 智駕芯片

    1. 消息稱比亞迪內部自研 80 TOPS 智駕芯片,8 萬元級車型也有望用上 ? 據報道,比亞迪內部正自主研發 80 TOPS
    發表于 11-20 13:56 ?715次閱讀

    AI芯片供電電源測試利器:費思低壓大電流系列電子負載

    AI芯片作為驅動復雜計算任務的核心引擎,其性能與穩定性成為了決定應用成敗的關鍵因素。而在這背后,供電電源的穩定性和高效性則是保障AI
    的頭像 發表于 10-25 11:26 ?400次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供電電源測試利器:費思低壓大電流系列電子負載

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    本帖最后由 1653149838.791300 于 2024-10-16 22:19 編輯 感謝平臺提供的書籍,厚厚的一本,很有分量,感謝作者的傾力付出成書。 本書主要講芯片CPU
    發表于 10-15 22:08

    ARMxy工業控制器為視頻監控提供1Tops支持

    ARMxy ARM工業控制器以其1TopsNPU,在視頻監控中的應用展現出了不錯的性能和廣泛的應用,為用戶提供了高效、穩定和可靠的解決方案,一起看看它的具體應用吧。 一、ARMxy ARM工業
    的頭像 發表于 08-20 12:03 ?306次閱讀
    ARMxy工業控制器為視頻監控提供1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>支持

    用ARMxy ARM工業控制器自帶的1Tops實現高性能圖像處理

    ARMxy ARM工業控制器憑借其強大的性能、靈活的配置和高度集成的特性,尤其是其內置的1TopsNPU(神經網絡處理單元),在圖像識別領域展現出了良好的處理性能。本文將簡易說明ARMxy ARM工業控制器如何利用其1
    的頭像 發表于 08-20 11:55 ?412次閱讀
    用ARMxy ARM工業控制器自帶的1<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>實現高性能圖像處理

    刷新AI PC NPU,AMD銳龍AI 9 HX 375領銜55 TOPS

    NPU性能第一梯隊。而此次推出的Ryzen AI 9 HX 375進一步提升至55 TOPS。在NPU這條路上AMD甚是積極。 ?
    的頭像 發表于 08-07 00:28 ?3336次閱讀
    刷新AI PC NPU<b class='flag-5'>算</b><b class='flag-5'>力</b>,AMD銳龍AI 9 HX 375領銜55 <b class='flag-5'>TOPS</b>

    光子計算芯片最新突破,峰值1000tops,比電芯片更適合大模型

    電子發燒友網報道(文/李彎彎)近日,國內光計算芯片公司光本位科技宣布,公司已完成算密度和精度均達到商用標準的光計算芯片流片。這顆
    的頭像 發表于 07-08 07:18 ?4616次閱讀
    光子計算<b class='flag-5'>芯片</b>最新突破,峰值<b class='flag-5'>算</b><b class='flag-5'>力</b>超<b class='flag-5'>1000tops</b>,比電<b class='flag-5'>芯片</b>更適合大模型

    揭秘芯片:為何它如此關鍵?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 05-09 08:27 ?1017次閱讀
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:為何它如此關鍵?

    韓國力推1000TOPS自動駕駛芯片,奮力實現L4級駕駛

    然而,盡管韓國企業在自動駕駛芯片領域取得了一些進展,但其產品的普遍仍未突破300TOPS。相比之下,英偉達DRIVE Thor單芯片
    的頭像 發表于 05-08 15:08 ?531次閱讀

    AMD推出銳龍8000嵌入式處理器,AI高達39 T

    此款CPU選用4納米制程、AMD基于“Zen 4”架構的CPU核心以及使用RDNA 3架構GPU和XDNA架構NPU,實現高達39TOPS的AI,其中NPU
    的頭像 發表于 04-03 10:39 ?870次閱讀

    256Tops!CSA1-N8S1684X服務器

    (基于BM1684X的高服務器)高AI處理器BM1684X搭載了BM1684AISo
    的頭像 發表于 03-23 08:02 ?1608次閱讀
    256<b class='flag-5'>Tops</b><b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b>服務器

    芯片:未來科技的加速器?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 02-27 09:42 ?928次閱讀
    高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:未來科技的加速器?

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52
    主站蜘蛛池模板: 男女一边摸一边做羞羞的事情免费| 伦理电影2499伦理片| 国产AV果冻传奇麻豆| 好色女博士| 国产亚洲精品久久精品录音| 久久婷婷久久一区二区三区| 国产剧情福利AV一区二区| 后入式狂顶免费视频| 欧美人与禽zoz0性伦交app| 欧美美女一区二区三区| 天天躁日日躁狠狠躁中文字幕老牛| 99热久这里都是精品小草| 欧美zzzoooxxx| wwwwxxxxx中国| 欧美激情性AAAAA片欧美| 97国内精品久久久久久久影视| 久久久无码精品亚洲欧美| 一本色道久久88加勒比—综合| 国产中文字幕一区| 亚州视频一区| 黄色三级三级免费看| 亚洲午夜AV久久久精品影院色戒 | 99九九99九九九视频精品| 麻豆免费观看高清完整视频在线| 18禁止观看免费私人影院| 蜜臀AV精品一区二区三区| 拔萝卜电视剧高清免费| 欧美精品九九99久久在观看| 亚洲熟妇色自偷自拍另类| 成人在线观看免费视频| 女厕所边摸边吃奶边做爽视频| 一个人HD高清在线观看免费视频| 成人免费观看在线视频| 欧美z000z猪| 最近的中文字幕免费完整| 国产一区二区三区影院 | 亚洲高清毛片一区二区| 精品久久综合1区2区3区激情| 在线亚洲色拍偷拍在线视频| 欲香欲色天天天综合和网| 狠狠狠狠狠狠干|