色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

芯片或將發生巨變

旺材芯片 ? 來源:與非網eefocus ? 2024-11-09 10:54 ? 次閱讀

芯片行業正在朝著特定領域的計算發展,而人工智能AI)則朝著相反的方向發展,這種差距可能會迫使未來芯片和系統架構發生重大變化。

這種分裂的背后是設計硬件和軟件所需的時間。自ChatGPT在全球推出以來的 18 個月里,大量軟件初創公司紛紛探索新架構和技術??紤]到映射到它們身上的任務變化速度之快,這種趨勢可能會持續下去。但生產一塊定制芯片通常需要超過 18 個月的時間。

在標準的世界中,軟件不會隨著時間的推移而發生太大變化,定制硬件以滿足應用程序或工作負載的確切需求是值得的,僅此而已。這是RISC-V背后的主要驅動因素之一,其中處理器ISA可以專門為給定任務設計。但是,隨著 AI 的多種變化,硬件在投入批量生產時可能已經過時了。因此,除非規范不斷更新,否則專門針對應用程序優化的硬件不太可能足夠快地進入市場以供使用。

因此,特定領域 AI 芯片首次運行失敗的風險會增加。在修復該問題的同時,生成式 AI 將繼續發展。

但這并不意味著定制硅片的末日。數據中心正在部署越來越多的處理架構,其中每一種架構在特定任務上都比單個通用 CPU 更勝一籌。Quadric 首席營銷官 Steve Roddy 表示:“隨著數據中心 AI 工作負載的激增,隨著數據中心芯片和系統被迫適應快速發展的形勢,即使是普通計算能力的最后一道堡壘也已崩潰 。”

但它確實指出了超高速、低功耗硅片與更多通用芯片或小芯片之間平衡的架構。

“在人工智能領域,人們強烈要求將事物變得盡可能通用和可編程,因為沒人知道下一個 LLM 事物何時會出現,并徹底改變他們做事的方式,”Blue Cheetah 首席執行官 Elad Alon 說道?!澳阍绞窍萑肜Ь常驮接锌赡苠e過潮流。與此同時,很明顯,幾乎不可能滿足使用完全通用系統所需的計算能力,因此也幾乎不可能滿足功率和能源要求。人們強烈要求定制硬件,使其在當今已知的特定事物上更加高效?!?/p>

挑戰在于如何高效地將軟件映射到這種異構處理器陣列上,而目前業界尚未完全掌握這一技術。共存的處理器架構越多,映射問題就越困難。“現代芯片中有一個 GPU、一個神經處理單元,還有核心處理,”Arteris 解決方案和業務開發副總裁 Frank Schirrmeister 在接受采訪時表示(他目前擔任 Synopsys 戰略項目和系統解決方案執行董事)。“你至少有三個計算選項,你必須決定將東西放在何處,并設置適當的抽象層。我們過去稱之為軟件協同設計。當你將算法或算法的一部分移植到NPU或 GPU 中時,你會重新調整軟件,將更多的軟件執行轉移到更高效的實現中。計算中仍有一個通用組件支持不同的元素。”

追逐領先者

AI 的出現得益于 GPU 的處理能力,圖形處理所需的功能與 AI 核心部分所需的功能非常接近。此外,創建了軟件工具鏈,使非圖形功能能夠映射到架構上,這使得 NVIDIA GPU 成為最容易定位的處理器。

“當有人成為市場領導者時,他們可能是市場上唯一的競爭者,每個人都會試圖對其做出反應,”Keysight 新機遇業務經理 Chris Mueth 表示?!暗@并不意味著它是最優架構。我們可能暫時還不知道這一點。GPU 適用于某些應用,例如執行重復的數學運算,在這方面很難被超越。如果你優化軟件以與 GPU 配合使用,那么速度會非??臁!?/p>

成為通用加速器領導者可能會帶來阻力。西門子 EDA高級綜合項目總監Russell Klein說:“如果你要構建通用加速器,你就需要考慮面向未來的問題。當 NVIDIA 坐下來構建 TPU 時,他們必須確保 TPU 能夠滿足盡可能廣泛的市場,這意味著任何構想新神經網絡的人都需要能夠將其放入這個加速器中并運行它。如果你要為某個應用程序構建某個東西,則幾乎不需要考慮面向未來的問題。我可能希望構建一點靈活性,這樣我才有能力解決問題。但如果只是將其固定為一種能夠非常好地執行一項工作的特定實現,那么再過 18 個月就會有人想出一種全新的算法。好消息是我將領先于其他所有人,使用我的定制實現,直到他們能夠趕上他們自己的定制實現。我們利用現成的硬件能做的事情很有限?!?/p>

但特異性也可以分層構建?!癐P 交付的一部分是硬件抽象層,它以標準化方式向軟件公開,”Schirrmeister 說。“如果沒有中間件,圖形核心就毫無用處。應用程序特異性在抽象中向上移動。如果你看看 CUDA,NVIDIA 核心本身的計算能力相當通用。CUDA 是抽象層,然后在其上具有用于生物學的各種事物的庫。這很棒,因為應用程序特異性上升到更高的水平。”

這些抽象層在過去非常重要。Expedera 首席科學家兼聯合創始人 Sharad Chole 表示:“Arm 在應用處理器之上整合了軟件生態系統。此后,異構計算使每個人都可以在該軟件堆棧上構建自己的附加組件。例如,高通的堆棧完全獨立于蘋果的堆棧。如果你將其延伸,就會有一個接口可用于獲得更好的性能或更好的功率分布。然后就有了協處理器的空間。這些協處理器將允許你進行更多的差異化,而不僅僅是使用異構計算進行構建,因為你可以添加或刪除它,或者你可以構建一個更新的協處理器,而無需啟動新的應用程序流程,而這要昂貴得多?!?/p>

經濟因素是一個重要因素?!敖邮?C++ 或其他高級語言的完全可編程設備以及功能特定的 GPU、GPNPU 和 DSP 的普及減少了新設計中對專用、固定功能且財務風險較高的硬件加速模塊的需求,”Quadric 的 Roddy 說道。

這既是技術問題,也是商業問題。Blue Cheetah 的 Alon 表示:“有人可能會說,我要做這個非常具體的目標應用,在這種情況下,我知道我將在 AI 或其他堆棧中做以下幾件事,然后你只需讓它們發揮作用?!薄叭绻@個市場足夠大,那么對一家公司來說,這可能是一個有趣的選擇。但對于 AI 加速器或 AI 芯片初創公司來說,這是一個更棘手的賭注。如果沒有足夠的市場來證明整個投資的合理性,那么你必須預測尚不存在的市場所需的能力。這實際上是你正在采取什么樣的商業模式和賭注的混合體,因此可以采取什么樣的技術策略來盡可能地優化它。”

專用硬件的情況

硬件實現需要選擇。Expedera 的 Chole 說:“如果我們可以標準化神經網絡并說這就是我們要做的全部,那么您仍然必須考慮參數的數量、必要的操作數量以及所需的延遲。但情況從來都不是這樣的,尤其是對于 AI 而言。從一開始,我們就從 224 x 224 的郵票圖像開始,然后轉向高清,現在我們要轉向 4k。LLM 也是一樣。我們從 300 兆位模型(例如 Bert)開始,現在我們要朝著數十億、數十億甚至數萬億的參數邁進。最初我們只從語言翻譯模型(例如令牌預測模型)開始。現在我們有了多模式模型,可以同時支持語言、視覺和音頻。工作量在不斷發展,這就是正在發生的追逐游戲。

現有架構有許多方面值得質疑。Mythic 首席執行官兼聯合創始人 Dave Fick 表示:“設計一個好的系統的關鍵部分是找到系統性能的顯著瓶頸并找到加速它們的方法?!薄叭斯ぶ悄苁且豁椓钊伺d奮且影響深遠的技術。然而,它需要每秒數萬億次操作的性能水平和標準緩存和 DRAM 架構完全無法支持的內存帶寬。這種實用性和挑戰性的結合使人工智能成為專用硬件單元的首選。”

通用設備數量不足以滿足需求,這可能是迫使行業開始采用更高效硬件解決方案的因素?!吧墒饺斯ぶ悄茴I域的進展非??欤盋hole 說?!澳壳皼]有任何東西可以在成本和功率方面滿足硬件的要求。什么都沒有。甚至 GPU 的出貨量也不夠。有訂單,但出貨量不夠。這是每個人都看到的問題。沒有足夠的計算能力來真正支持生成式人工智能的工作負載。”

小芯片可能有助于緩解這個問題。“即將到來的小芯片海嘯將加速數據中心的這種轉變,”Roddy 說?!半S著小芯片封裝取代單片集成電路,混合和匹配完全可編程 CPU、GPU、GPNPU(通用可編程 NPU)和其他處理引擎以完成特定任務的能力將首先影響數據中心,然后隨著小芯片封裝成本隨著產量的增加而不可避免地降低,慢慢輻射到更大批量、更成本敏感的市場。”

多個市場,多個權衡

雖然大多數注意力都集中在訓練新模型的大型數據中心上,但最終的收益將歸于使用這些模型進行推理的設備。這些設備無法承擔用于訓練的巨額電力預算?!坝糜谟柧毴斯ぶ悄艿挠布悬c標準化,”Ansys產品營銷總監馬克·斯溫寧 (Marc Swinnen) 說?!澳阗徺I NVIDIA 芯片,這就是你訓練人工智能的方式。但是一旦你建立了模型,你如何在最終應用程序中(也許是在邊緣)執行該模型。這通常是為該人工智能算法的特定實現量身定制的芯片。獲得高速、低功耗人工智能模型的唯一方法是為其構建定制芯片。人工智能將成為執行這些模型的定制硬件的巨大驅動力?!?/p>

他們要做一系列類似的決定?!安⒉皇敲總€ AI 加速器都是一樣的,”Mythic 的 Fick 說?!瓣P于如何解決 AI 帶來的內存和性能挑戰,有很多很棒的想法。特別是,有新的數據類型可以一直到 4 位浮點甚至 1 位精度??梢允褂?a href="http://www.1cnz.cn/analog/" target="_blank">模擬計算來獲得極高的內存帶寬,從而提高性能和能效。其他人正在考慮將神經網絡精簡到最關鍵的位,以節省內存和計算。所有這些技術都將產生在某些領域強大而在其他領域薄弱的硬件。這意味著更大的硬件和軟件協同優化,以及需要建立一個具有各種 AI 處理選項的生態系統?!?/p>

這正是 AI 和 RISC-V 的利益交匯之處。Sigasi 首席執行官 Dieter Therssen 表示:“在 LLM 等軟件任務方面,它們將占據主導地位,足以推動新的硬件架構,但不會完全停止差異化,至少在短期內不會?!薄凹词?RISC-V 的定制也是基于進行一些 CNN 或 LLM 處理的需求。這里的一個關鍵因素是如何部署 AI。目前,有太多方法可以做到這一點,因此成像融合仍然遙不可及?!?/p>

結論

AI 是新興事物,發展速度如此之快,以至于沒有人能給出明確的答案。對于現有的應用程序來說,最佳架構是什么?未來的應用程序是否看起來足夠相似,以至于現有架構只需擴展?這似乎是一個非常幼稚的預測,但今天它可能是許多公司的最佳選擇。

GPU 和在其之上構建的軟件抽象使 AI 的快速崛起成為可能。它為我們看到的擴展提供了足夠的框架,但這并不意味著它是最高效的平臺。模型開發在一定程度上被迫朝著現有硬件支持的方向發展,但隨著更多架構的出現,AI 和模型開發可能會根據可用的硬件資源及其對電力的需求而出現分歧。電力很可能成為主導兩者的因素,因為目前的預測是,AI 將很快消耗掉全球發電能力的很大一部分。這種情況不能繼續下去。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    455

    文章

    50714

    瀏覽量

    423158
  • AI
    AI
    +關注

    關注

    87

    文章

    30728

    瀏覽量

    268892
  • 人工智能
    +關注

    關注

    1791

    文章

    47183

    瀏覽量

    238265

原文標題:芯片,將發生巨變?

文章出處:【微信號:wc_ysj,微信公眾號:旺材芯片】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    EDA 市場再迎巨變,新思收購 Ansys?!

    電子發燒友網報道(文/周凱揚)收購并購整合一向是 EDA 市場恒久不變的周期定律,無論是三巨頭,還是初創企業,幾乎都是這樣過來的。然而,自從2016年西門子收購 Mentor Graphics 以來,我們已經很少看到大型 EDA 廠商的收購并購案了。 ? 然而就在近期,路透社報道新思已經向知名仿真軟件廠商 Ansys 發出收購交易談判,或許會以每股 400 美元以上的報價,收購這家市值 300 億美元以上的廠商。消息源稱如果談判順利的話,很可能會在未來幾周公開這一消
    的頭像 發表于 12-26 00:25 ?3348次閱讀
    EDA 市場再迎<b class='flag-5'>巨變</b>,新思<b class='flag-5'>或</b><b class='flag-5'>將</b>收購 Ansys?!

    DAC81416多通道輸出口連一起,輸出不同電壓,會發生什么?

    大家好,如果DAC的多個輸出通道連在一起,輸出不同電壓,會發生什么?
    發表于 11-20 07:36

    小鵬汽車2024 AI科技日:圖靈AI芯片進展公布,預計AI汽車市場迎來巨變

    在11月6日下午的2024小鵬AI科技日上,小鵬汽車揭曉了其圖靈AI芯片的最新研發成果。小鵬汽車強調,這款圖靈芯片是專為AI應用而生,配備了40核處理器,能夠本地運行參數高達30B的大模型,同時集成了2個NPU以及針對神經網絡優化的特定領域架構。
    的頭像 發表于 11-07 14:56 ?853次閱讀

    芯片知識:如何語音精確燒錄至語音芯片

    ,精心錄制的語音內容及控制程序,精細地編織進可編程語音芯片的內部。每一次燒錄,都是對聲音藝術的一次雕琢,讓芯片發生機。而針對不同類型的語音芯片
    的頭像 發表于 10-19 08:01 ?181次閱讀
    <b class='flag-5'>芯片</b>知識:如何<b class='flag-5'>將</b>語音精確燒錄至語音<b class='flag-5'>芯片</b>

    請問有0-5V電壓轉換成4-20mA信號的芯片嗎?

    我想生成一個4-20mA的交流信號模擬壓力傳感器信號,目前想利用芯片信號發生器生成的電壓信號轉換成電流信號,請問有合適的芯片嗎?
    發表于 08-05 06:22

    WiFi芯片和BT芯片Lora 2.4G Hz芯片放在同一個板上會有問題嗎?

    WiFi 芯片和 BT 芯片 Lora 2.4G Hz 芯片放在同一個板上會有問題嗎?有什么參考設計
    發表于 07-08 08:19

    英偉達推出融合Arm與Blackwell內核的AI PC芯片

    近日,業內傳出英偉達正在研發一款全新芯片的傳聞。據悉,這款芯片結合下一代Arm Cortex CPU內核與英偉達自家的Blackwell GPU內核,主要面向Windows on Arm的AI PC設備市場。
    的頭像 發表于 05-31 10:31 ?592次閱讀

    函數發生器、信號發生器和波形發生器的區別

    在電子測試和測量領域,函數發生器、信號發生器和波形發生器都是重要的測試儀器,它們各自具有獨特的功能和應用場景。本文詳細介紹這三種發生器的原
    的頭像 發表于 05-15 14:49 ?1573次閱讀

    什么是信號發生

    信號發生器是一種能提供各種頻率、波形和輸出電平電信號的設備,也稱為信號源振蕩器。在生產實踐和科技領域中,信號發生器有著廣泛的應用,主要用于測量各種電信系統電信設備的振幅特性、頻率特
    的頭像 發表于 05-07 15:26 ?1209次閱讀

    蘋果市值攀升1120億美元,人工智能項目帶來巨變

    此次蘋果股價的大幅攀升主要得益于其在人工智能領域的布局。盡管蘋果在AI領域已有諸多布局,但尚未推出相關服務。據IT之家早前報道,蘋果將于今年底推出M4系列芯片,以提升AI任務處理能力,此舉無疑對蘋果股價產生積極影響。
    的頭像 發表于 04-12 10:55 ?504次閱讀

    馬斯克預測明年2026年AI超越最聰明的人類

    馬斯克認為,如果 AGI 界定為超越最聰明的人類智力水平,那么這可能發生在明年兩年內。AGI 研究務求打造出具備類似人類般的智能決策與自學能力的軟件,如今已成為了人工智能領域的重要議題。
    的頭像 發表于 04-09 15:52 ?476次閱讀

    核芯互聯發布時鐘發生芯片CLG0841和CLG0851

    核芯互聯公司近日發布了全新的時鐘發生芯片——CLG0841和CLG0851,這兩款芯片均支持PCIe Gen 6標準,展現出了強大的技術實力和創新精神。CLG08x1系列時鐘發生
    的頭像 發表于 03-29 09:56 ?641次閱讀

    Galaxy Z Flip6搭載Exynos芯片

    據X博主@Kro_Roe透露,Galaxy Z Flip6提供兩款不同的型號選擇,一個搭載自家Exynos芯片,另一個則采用高通驍龍處理器。若該消息屬實,這將是Exynos 芯片首次應用在Galaxy Z系列智能手機上。
    的頭像 發表于 03-25 10:41 ?979次閱讀

    5分鐘內Raspberry Pi Pico變成簡單的示波器+波形發生

    5 分鐘內 Raspberry Pi Pico(任何 RP2040 板)變成簡單的示波器+波形發生器。
    的頭像 發表于 03-04 09:14 ?2133次閱讀
    5分鐘內<b class='flag-5'>將</b>Raspberry Pi Pico變成簡單的示波器+波形<b class='flag-5'>發生</b>器

    STM芯片鎖定無法發送ACK的原因是什么?

    我正在嘗試在 STM32F427IGH6芯片上進行固件升級,英飛凌XMC4800-F144K2048芯片作為主芯片,STM
    發表于 01-30 06:55
    主站蜘蛛池模板: 中文字幕亚洲欧美日韩2019| 蜜桃成人在线| 办公室激情在线观看| 亚洲精品蜜夜内射| 人人干人人爽| 久久亚洲国产精品亚洲| 国产成人午夜精品免费视频| 中文字幕人妻无码系列第三区 | 91女神娇喘| 午夜爽喷水无码成人18禁三级| 乱码午夜-极品国产内射| 国产区在线不卡视频观看| avove旗袍丝袜高跟啪啪| 野花韩国在线观看| 羞羞一区二区三区四区片| 区产品乱码芒果精品P站在线| 浪潮AV色综合久久天堂| 好大好硬好湿再深一点网站| 国产国产成人人免费影院| 99手机在线视频| 在线中文字幕亚洲日韩| 亚洲精品久久久久久蜜臀| 97色伦图片7778久久| 夜夜草导航| 亚洲精品视频区| 亚洲AV色香蕉一区二区9255| 色欲AV人妻精品麻豆AV| 清晨紧湿爱运动h高h| 女配穿书病娇被强啪h| 伦理片在线线249| 乱奷XXXXXHD| 浪荡女天天不停挨CAO日常视 | 伊人久99久女女视频精品免| 亚洲免费在线播放| 亚洲精品自在线拍2019| 亚洲成a人不卡在线观看| 校草让我脱了内裤给全班看| 手机在线观看毛片| 无码国产成人午夜在线观看不卡 | 国产成人a视频在线观看| 贵妇局长的蕾丝乳罩|