色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

支持大語言模型的AIoT系統設計難度在哪?該怎么做設計驗證?

芯華章科技 ? 來源:芯華章科技 ? 2023-07-17 16:56 ? 次閱讀

ChatGPT成為今年現象級的熱門應用后,一個說法也在行業里悄然流傳開——1萬枚英偉達A100芯片,是做好大模型訓練的入門級裝備。一時之間“洛陽紙貴”,AI芯片成為了大家眼中的“屠龍寶刀”。我們看到,大量抓住機遇的人,不僅投身大模型產品,還有一部分負責給“掘金人”賣鏟子。

那么問題來了:

支持大語言模型的AIoT系統,

設計難度在哪?

該怎么做設計驗證?

藏在“屠龍刀”里面的秘籍究竟是什么?

過去的AIoT,通常指的都是帶低算力的端側小芯片,但是隨著類似ChatGPT的大語言模型全面得到應用,在端側AIoT芯片上部署需要幾十到幾百TOPS算力的LLM大模型也成為新的需求。但是新一代AIoT芯片要提高十倍到百倍算力,這不僅僅是堆砌算力那么簡單,需要從性能、互連、帶寬、接口進行全面的系統級規劃和設計。

新一代的AIoT芯片已經不是一個獨立的芯片個體,目前市場上的AIoT芯片幾乎都結合了CPUGPUFPGADSP等核心零部件。這就必然需要支持系統級芯片開發的EDA流程。

實際上,芯片設計廠商也意識到了這個問題。當制程工藝逼近極限,但人們對電子產品性能的追求還在不斷攀升時,壓力很快就傳導到了上游的芯片廠商。借助面向系統級的創新,提升芯片的終極性能表現,也成為大家的共識。

所以沒有任何分歧,無論從哪個維度看,大規模的系統級芯片設計由于場景豐富、系統規模不斷擴張,這一需求正在快速形成市場主流的大浪,涌向EDA工具并推動其不斷革新。

如何做好大系統芯片設計?

2023年7月13日至14日,備受期待的第三屆中國集成電路設計創新大會(ICDIA 2023)在無錫召開。作為國內領先的系統級驗證EDA解決方案提供商,芯華章受邀參加此次盛會,在“AIoT與ChatGPT”分論壇上針對大系統芯片設計挑戰,分享了自己的解決方案。

大系統芯片設計,首先要理解什么叫“系統”?對高性能AIoT、自動駕駛、高性能CPU和GPU等等復雜應用來說,系統意味著多節點互聯,每個節點都有自己的控制單元(如CPU)和計算單元(如AI、NPU),每個節點都有自己的操作系統和應用軟件。

毫無疑問,大系統是一個軟硬件一體化、多節點一體化的復雜平臺,但也只有把這整個平臺都在芯片流片前驗證通過,才能真正保證高性能復雜芯片設計的正確性。

因此,大系統芯片驗證,最直接的挑戰來自于規模龐大的系統級仿真但困難遠不止于此,由“大”帶來的結構性挑戰,涵蓋了從驗證到調試的方方面面。而更大的設計本身往往意味著更長的時間、更高昂的成本、更慢的仿真性能,本質上也就意味著更困難的驗證。

在當下的技術和市場環境下,大系統芯片設計的驗證面臨三大共性難題,這些難題正是傳統的EDA工具所難以解決的痛點:

設計大,很大,大到放不下

從多核、Chiplet封裝、多節點到完整系統,復雜的驗證規模可以輕易達到百億甚至千億門,對驗證工具的容量提出了更高的要求,試想如果驗證平臺根本無法仿真完整的應用系統,又怎么能證明設計是完整正確的?但供數十億至數百億規模容量的驗證平臺,其性能、規模、可調試性又往往成為難以平衡的選擇。

驗證慢,很慢,難以收斂的慢

系統級規模不斷增大,系統級仿真在整個驗證的仿真流程中比例不斷增大,導致驗證團隊特別依賴性能和數量有限的硬件仿真系統,導致驗證慢的不僅僅是仿真速度,更是整個驗證工作的收斂速度和效率。

Debug難,很難,越往后越難

在如此復雜和大規模的系統級仿真上,調試就變成一個更加困難的問題。仿真平臺上觀察到的問題,到底來自軟件、芯片邏輯設計還是多節點互連?問題能否穩定復現?如何在多種仿真平臺的數據之間進行綜合分析?不解決這些問題,大系統的調試就會越往后期越難,最終影響整個項目周期。

我們似乎開始找到“屠龍刀里秘籍”的線索。作為最上游的輔助設計工具,EDA創新確實是提升系統級設計效率,降低創新成本的關鍵“鑰匙”。

芯華章資深產品與業務規劃總監楊曄表示,“單個IP的驗證需求在降低,SoC或單個chiplet級的驗證需求在不斷上升,因為這部分是客戶系統級創新的核心。然而在新場景的應用中,傳統的EDA工具在應對大容量、深度調試、多種驗證場景混合使用的時候,遇到各種效率挑戰。芯華章致力提供從軟件、硬件到調試的整體解決方案,特別是在大規模設計的系統級驗證、硬件驗證、架構驗證等方面,將為用戶提供全流程大系統芯片驗證解決方案。”

b2ea95de-247f-11ee-962d-dac502259ad0.png

芯華章大系統芯片設計驗證解決方案的核心,是基于敏捷驗證理念,建立統一的EDA數據庫,打造從IP到子系統再到系統級的統一測試場景,提早開始系統級驗證,實現驗證與測試目標的高速收斂,進行高效率、高效益的快速迭代,從而助力芯片及系統公司提高驗證效率,降低研發成本。

b2ffae56-247f-11ee-962d-dac502259ad0.png

芯華章針對大規模系統級芯片“量身打造”的敏捷驗證方案,已經在多個領域獲得具體項目部署。

針對自動駕駛應用芯片,芯華章高性能硬件仿真系統HuaEmu E1不僅有高性能仿真和深度調試,還提供了LPDDR5模型用于客戶內存仿真,提供CSIDSI模型用于仿真自動駕駛系統的輸入和輸出,這些都超出了單顆芯片的范疇,是針對軟硬件一體化的系統方案進行仿真驗證。

為了解決原型系統和硬件仿真之間切換版本成本高,延長驗證周期的問題,芯華章發布的雙模硬件驗證系統HuaPro P2E則基于統一的軟件平臺和硬件平臺,可以在綜合、編譯、驗證方案構建、用戶腳本、調試等階段,能最大程度的復用技術模塊和中間結果,并使用統一用戶界面,從而實現原型驗證和硬件仿真絲滑的無縫集成,在節約用戶成本的同時,還能大大提高驗證效率。

傳統的軟件仿真工具以調試功能強大著名,但卻受限于仿真速度,不擅長處理系統級的大規模仿真驗證。基于芯華章自主研發的邏輯仿真器GalaxSim,芯華章GalalxSim Turbo實現多核、多服務器并行運算,可以實現1K-10KHz的復雜系統軟件仿真,從而可以在RTL階段提前進行系統級仿真。

拿到屠龍刀并不一定能號令天下,只有學會了刀里面的絕學才能真正成為“武林至尊”。

當“大模型”的路上人越來越多時,產業同樣也需要向上游追溯,進一步提升創新效率,在激烈的競爭中快人一步。作為芯片產品定義和創新的核心環節,隨著以系統級場景為代表的產業數字化需求迸發,EDA正從方法學、從底層架構開始這場自我革新。





審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • dsp
    dsp
    +關注

    關注

    553

    文章

    8014

    瀏覽量

    349191
  • FPGA
    +關注

    關注

    1629

    文章

    21748

    瀏覽量

    603984
  • EDA工具
    +關注

    關注

    4

    文章

    268

    瀏覽量

    31813
  • AIoT芯片
    +關注

    關注

    0

    文章

    32

    瀏覽量

    3847
  • ChatGPT
    +關注

    關注

    29

    文章

    1563

    瀏覽量

    7776

原文標題:支持大語言模型的下一代AIoT系統該怎么做設計驗證?

文章出處:【微信號:X-EPIC,微信公眾號:芯華章科技】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    語言模型管理的作用

    要充分發揮語言模型的潛力,有效的語言模型管理非常重要。以下,是對語言模型管理作用的分析,由AI部
    的頭像 發表于 01-02 11:06 ?72次閱讀

    語言模型開發框架是什么

    語言模型開發框架是指用于訓練、推理和部署大型語言模型的軟件工具和庫。下面,AI部落小編為您介紹大語言
    的頭像 發表于 12-06 10:28 ?132次閱讀

    語言模型開發語言是什么

    在人工智能領域,大語言模型(Large Language Models, LLMs)背后,離不開高效的開發語言和工具的支持。下面,AI部落小編為您介紹大
    的頭像 發表于 12-04 11:44 ?136次閱讀

    云端語言模型開發方法

    云端語言模型的開發是一個復雜而系統的過程,涉及數據準備、模型選擇、訓練優化、部署應用等多個環節。下面,AI部落小編為您分享云端語言
    的頭像 發表于 12-02 10:48 ?147次閱讀

    TINA軟件里沒有OPA191元器件模型,請問怎么做

    1、請問有沒OPA191的參考原理圖? 2、這個芯片有沒有放大倍數限制?我打算用他放大一個0.4V信號,放大10-15倍 3、TINA軟件里沒有OPA191元器件模型,請問怎么做
    發表于 08-27 06:01

    nlp自然語言處理模型怎么做

    自然語言處理(Natural Language Processing,簡稱NLP)是人工智能領域的一個重要分支,它涉及到計算機對人類語言的理解和生成。隨著深度學習技術的發展,NLP領域取得了顯著
    的頭像 發表于 07-05 09:59 ?654次閱讀

    c語言怎么做可視化界面

    C語言是一種通用的編程語言,廣泛應用于系統編程、嵌入式開發等領域。雖然C語言本身并不支持直接創建可視化界面,但通過結合一些圖形庫和工具,我們
    的頭像 發表于 06-06 10:46 ?2390次閱讀

    語言模型(LLM)快速理解

    歷史可以追溯到早期的語言模型和機器翻譯系統,但其真正的起點可以說是隨著深度學習技術的興起而開始。1.1統計語言模型在深度學習技術出現之前,
    的頭像 發表于 06-04 08:27 ?1002次閱讀
    大<b class='flag-5'>語言</b><b class='flag-5'>模型</b>(LLM)快速理解

    【大語言模型:原理與工程實踐】大語言模型的應用

    ,它通過抽象思考和邏輯推理,協助我們應對復雜的決策。 相應地,我們設計了兩類任務來檢驗大語言模型的能力。一類是感性的、無需理性能力的任務,類似于人類的系統1,如情感分析和抽取式問答等。大
    發表于 05-07 17:21

    【大語言模型:原理與工程實踐】大語言模型的評測

    計算和代碼糾錯等。這些場景覆蓋日常生活和學習的多個方面,使得對話能力評測變得尤為復雜和關鍵。為了全面評估大語言模型在各種應用場景下的對話能力,研究人員和使用者需要一套綜合性的評測框架。框架主要包括評測
    發表于 05-07 17:12

    【大語言模型:原理與工程實踐】大語言模型的基礎技術

    不同語境下的不同語義。而動態詞向量語言模型中對詞的表示隨著上下文語境的不同而動態變化,依賴當前所在的句子或段落等的語境。以ELMo為例,將詞序列輸入經過預訓練的ELMo模型
    發表于 05-05 12:17

    【大語言模型:原理與工程實踐】揭開大語言模型的面紗

    。這一過程的不斷迭代使大語言模型語言理解和生成能力逐步提升。大語言模型在自然語言處理領域應用廣
    發表于 05-04 23:55

    【大語言模型:原理與工程實踐】探索《大語言模型原理與工程實踐》

    《大語言模型》是一本深入探討人工智能領域中語言模型的著作。作者通過對語言模型的基本概念、基礎技術
    發表于 04-30 15:35

    華為云盤古大模型通過金融大模型標桿驗證,獲最高評級

    驗證標準主要關注金融大模型語言,語音,視覺以及多模態任務等多元領域的適應能力,涵蓋數據合規性,模型安全性和服務穩定性等關鍵要素。
    的頭像 發表于 03-04 15:58 ?698次閱讀

    能否使用普通IO口模擬PWM波?怎么做

    能否使用普通IO口模擬PWM波?怎么做? 使用普通IO口模擬PWM波是一種常見的嵌入式系統應用技術,它通過控制GPIO(通用輸入輸出)口的電平,實現對外設的模擬PWM(脈寬調制)波的模擬。在本文
    的頭像 發表于 01-15 14:43 ?6354次閱讀
    主站蜘蛛池模板: 国产国产成人人免费影院| 快播av网址| 琪琪婷婷五月色综合久久| qvod免费电影| 少妇高潮A视频| 国产主播AV福利精品一区| 在线观看国产区| 清晨紧湿爱运动h高h| 国产高清免费视频免费观看| 亚洲日韩KKK444KKK聚色| 蜜桃TV成人网站免费打开| 把英语老师强奷到舒服动态图| 午夜剧场1000| 老湿司午夜爽爽影院榴莲视频| 超碰97人人做人人爱亚洲尤物| 亚洲国产韩国欧美在线不卡| 美女张开腿让男生桶动态图| 国产精彩视频在线| 尤物久久99国产综合精品| 人成片在线观看亚洲无遮拦| 国产在线精品亚洲一品区| 99re8热视频这在线视频| 婷婷开心激情综合五月天| 久久无码AV亚洲精品色午夜| 岛国大片在线观看免费版| 亚洲日韩欧美国产专区| 欧美内射深插日本少妇| 果冻传媒我的女老板| 973午夜伦伦电影论片| 亚欧洲乱码视频一二三区| 欧美激情一区二区三区AA片| 好好的曰com久久| 被公疯狂玩弄的漂亮人妻| 亚洲伊人久久大香线蕉综合图片 | 久久爽狠狠添AV激情五月| 国产成人精品视频| 97视频免费观看2区| 亚洲毛片网| 手机在线观看你懂的| 欧美成人猛片aaaaaaa| 九九在线精品亚洲国产|