色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Arm以CSS計算平臺+ KleidiAI +生態合作,宣告智能終端AI全面到來

花茶晶晶 ? 來源:電子發燒友 ? 作者:黃晶晶 ? 2024-12-03 11:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/黃晶晶)據預測,到2026年底中國道路上將有超過100萬輛搭載L3級別ADAS(高級駕駛輔助系統)的汽車。到今年年底,中國將有超過1.7 億臺支持AI智能手機,55% 的PC 將支持AI功能。同時,AI 數據中心將增長5倍。從這組數據中,我們已經看到AI正在快速地推進眾多行業的智能化進程。當前首要任務是夯實AI底座,構建一個強大的生態系統,為AI應用打下堅實的根基,從而助力其實現指數級增長。

在最近舉辦的Arm Tech Symposia年度技術大會上,Arm終端事業部產品管理副總裁James McNiven表示,在過去的三十多年里,Arm一直致力于打造全球最大的計算平臺,并以無與倫比的能源效率著稱。憑借Arm的行業洞察和數十年與生態伙伴的合作,Arm的計算平臺正持續推動新一代生態系統合作伙伴關系的發展。正如 Arm 曾經助力智能手機的崛起,Arm 也將成為AI計算平臺的驅動者。

wKgZPGdJIIeAJ2kaABLyXaTKmZk157.png
圖:Arm終端事業部產品管理副總裁James McNiven


大會期間,James說道:“我們正面臨全新的需求,無論是算力、性能、能效,還是上市時間的需求都在不斷提升。”在談及Arm如何以超越硬件的設計方法助力AI應用時,James分享:“要想充分釋放 AI 的潛力,我們需要從系統層面思考問題,將硬件、軟件和生態無縫集成到一個全面的解決方案,使其具備卓越的可擴展性、性能和能效,并且能夠加速產品上市。”

以硬件為基石

Arm推出的計算子系統 (CSS),正是為客戶提供優化的解決方案,強大的軟件生態系統,以及更快的上市時間。該解決方案主要聚焦于異構計算并實現對系統多種計算要素的優化協作,實現高效率的軟件編寫方式、易用且可擴展的全球解決方案,讓開發者能夠針對硬件進行開發。

James強調,Arm多年來持續投資Armv9架構。在過去幾年中,通過加入許多以 AI 為核心的功能,使該架構適用于未來發展,而這一進程還在持續。十多年前,Arm首次將 AI 功能引入 Arm 架構,隨后在 Armv8 架構中引入了64位技術,但真正開啟AI時代的,則是 Armv9。

這其中包括兩大關鍵技術,可伸縮向量擴展 (SVE)和可伸縮矩陣擴展 (SME)。

SVE2 已應用于一些領先的計算產品中,如全新的天璣 9400,可加速工作負載,惠及開發者和終端用戶。SVE2 提升了視頻和圖像處理,提供更好的照片質量。

SME新一代架構功能將為開發者提供通用指令集,使其能夠一次在多個硬件平臺上實現 Arm 架構中的加速效果。

James表示,未來十年的Arm計算平臺將持續為 AI 而優化,所有功能將通過軟硬件能力的結合來實現。

以軟件為中心

在傳統的、AI 熱潮興起前的初創公司中,硬件和軟件工程師的比例大約是 50/50。但現在這一比例變成了 10/90,即10% 的硬件工程師和90%的軟件工程師。軟件的地位已經壓倒性地提升,而圍繞軟件構建的復雜性也在持續增長。

針對這一趨勢,James表示,Arm 聚焦于整體的技術棧,從底層硬件到整個技術棧中的軟件和應用程序。Arm已投入 30 多年來編寫和優化軟件,軟件始終是 Arm 計算平臺不可或缺的一部分。未來技術將變得更加復雜,并且需要大量的支持。軟件的開發成本高且耗時,因此投資策略也必須不斷進化。

Arm相信我們正處于以軟件為中心的未來。目前已有2000萬名開發者在Arm平臺上進行軟件開發。受到如此多的開發者青睞,正是因為Arm 擁有全球最大的計算平臺,這形成了良性循環,即更多的硬件吸引更多開發者開發軟件,進而推動對高能效硬件的需求,彼此互為循環。這一過程貫穿整個技術棧,從底層的操作系統到頂層的應用程序和用戶與科技的互動方式。一致的計算平臺為開發者提供了信心,使他們能夠編寫出可在當前數十億臺Arm 硬件上良好運行的軟件。

為了進一步以技術賦能開發者,Arm正在抽象化許多硬件相關的技術細節,真正實現對開發者友善的設計,讓他們能專注于打造優秀的軟件與簡單的整合。

其今年中旬發布的KleidiAI,是一款致力于提升人工智能計算性能的軟件庫,旨在通過與主流AI框架的深度集成,為開發者無縫獲取底層硬件架構的高性能。目前KleidiAI已與PyTorch、TensorFlow和MediaPipe等熱門框架集成,能夠顯著優化如Meta Llama 3和Phi-3等大型語言模型的性能。在本次年度大會上,Arm還宣布其與騰訊合作,通過 KleidiAI 集成提升混元大模型端側 AI 性能,為騰訊眾多應用場景提供卓越的 AI 體驗。當與Arm終端CSS結合使用時,KleidiAI借助Neon、SVE2和SME2等技術實現了性能的顯著提升,特別是在生成式AI應用中的效率得到了極大的優化。

James解析,Kleidi 技術可以用于加速Armv9 和Armv8 架構。最初的版本實際上是覆蓋 Neon 指令集,而Arm陸續新增了 SVE (可伸縮向量擴展)、SVE2 和 SME (可伸縮矩陣擴展)等新架構功能。因此,它將適用于多個不同版本的架構,包括 Armv8、Armv9.0,乃至目前最新的Armv9.2。

Kleidi 技術以其卓越的性能給人留下深刻印象,通過集成 Kleidi,騰訊混元大模型的預填充部分加速了 100%,而解碼器的速度提高了 10%。這些性能改善有助于實現更快、更高效的 AI 操作。其應用范圍從發布伊始的終端市場,已經擴展到云端應用,例如在基于Arm架構的 AWS Graviton 處理器上運行Llama 3 模型時,詞元 (token) 首次響應時間可提高2.5 倍。

在談及Kleidi未來的發展,James表示:“隨著 Kleidi 的逐步普及和更多開發者的參與,我們將看到更多的優化。作為開源生態系統的一部分,我們期待開發者為其貢獻力量,從而在整個 Arm 生態系統中實現更廣泛的協作。”

此外,在此次大會期間,Arm也展示了其對生態系統合作的重視。今年,Arm與vivo持續深化合作,宣布成立聯合實驗室,分別發揮各自在技術賦能和用戶理解領域的優勢,為用戶帶來卓越的 AI 體驗,這成為Arm生態合作的一個優秀范例。此外,Arm還與合作伙伴攜手,積極推進產業標準化進程,旨在構建一個健康、可持續的Arm生態系統。James 表示,Arm正在思考如何打造一個軟件庫,通過將其集成到合作伙伴的軟件中,讓這些應用能夠在包括移動終端在內的端側領域,充分發揮 Arm CPU 的性能優勢。同時,Arm也將持續投入軟件,例如,在企業場景中提供支持,通過與 Linaro 的合作,持續強化對 Linux 的支持,在固件標準(如 UEFI)上的貢獻,以及對一些開源工具的支持等,盡可能減少產業的碎片化。

Arm加快AI PC進程

Arm正在加緊建設AI PC的相關生態。目前Windows on Arm 平臺已成功運行很多原生應用程序,并配備了豐富的開發工具,而且越來越多的創新應用正在涌現,如愛奇藝、嗶哩嗶哩和搜狗等原生支持 Windows on Arm 的應用,可以充分利用AI PC的全部AI功能。未來,用戶將會看到更多、更加卓越的使用體驗。

Arm正與包括微軟在內的多家合作伙伴攜手合作,繼續深化Arm的AI PC進程。現在微軟已經推出了專門針對Arm 架構的 Windows 11 系統。談到業內擔心的基于Arm 架構運行時面臨的軟件兼容和生態問題,James解釋道:“我們持續和微軟合作,通過微軟提供的仿真環境,我們也為應用程序的開發者提供更多指引和建議。根據微軟的統計,其 PC 用戶投入在筆記本電腦上的時間,大約 90% 是用在原生應用上,表明了目前 WoA 原生應用的用戶體驗得到了顯著提升。”


小結:

預計到2025年,將會有1,000億臺基于 Arm 架構的設備可用于AI,這其中包括廣泛的面向邊緣 AI 的產品,從Arm Cortex-M到 Arm Cortex-A涵蓋了不同的性能水平和功耗需求。而Arm終端CSS、KleidiAI以及廣泛的生態合作,將助力開發者更方便快捷地釋放AI技術的潛力。


聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • ARM
    ARM
    +關注

    關注

    134

    文章

    9345

    瀏覽量

    376493
收藏 0人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

  • ben1111

評論

相關推薦
熱點推薦

Arm計算平臺全面驅動人工智能變革

人工智能 (AI) 正以前所未有的速度重塑科技,成為人們日常生活中不可或缺的一部分。Arm 計算平臺正處于這場變革的核心。基于
的頭像 發表于 05-28 13:52 ?291次閱讀

強強聯手!米爾×安路IDH合作共筑FPGA新生態

?。此次合作標志著?國產FPGA芯片?與?嵌入式系統設計能力?的深度融合,雙方將共同打造從芯片到應用的全鏈路技術生態?。 聯合開發平臺:定義邊緣智能新標桿? 雙方首款
發表于 04-27 16:43

首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

PIX GP模型的整合,并且針對模型進行全鏈路微秒級分析,確保最佳的端到端性能表現。在雙方的整個合作流程中,開發效率提升了30%。 天璣AI生態同樣拓展到了
發表于 04-13 19:52

硅基覺醒已至前夜,聯發科攜手生態加速智能體化用戶體驗時代到來

、適配與部署;Dimensity Profiler提供深層調試能力;而天璣AI開發套件2.0則在模型規模、訓練性能與平臺接口全面升級,為開發者打造從芯片到底層算法的閉環支持。 駛向AI
發表于 04-13 19:51

Arm+AWS實現AI定義汽車 基于Arm KleidiAI優化并由AWS提供支持

文中介紹的車載生成式 AI 應用演示由 Arm KleidiAI 進行優化并由 AWS 所提供的服務進行支持,展示了新興技術如何幫助解決汽車行業的實際挑戰。該解決方案可實現 1 至 3 秒的響應時間并將開發時間縮短數周,證明更高
的頭像 發表于 04-03 19:24 ?1294次閱讀
<b class='flag-5'>Arm</b>+AWS實現<b class='flag-5'>AI</b>定義汽車  基于<b class='flag-5'>Arm</b> <b class='flag-5'>KleidiAI</b>優化并由AWS提供支持

Banana Pi 發布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發

和 Renesas一直致力于推動開源生態的發展,并積極合作打造高效、開放的計算平臺。BPI-AI2N & BPI-
發表于 03-19 17:54

中科曙光AI加速智能計算服務千行萬業

近年來,中科曙光AI為中心,全面重構底層芯片、液冷、計算、存儲、智算集群、基礎軟件棧、管理平臺,并與A
的頭像 發表于 02-10 17:45 ?875次閱讀

Arm平臺引領AI計算革新

我們正處于一個由人工智能 (AI) 定義的計算時代,其轉型速度空前迅速。Arm 一直致力于通過工程創新和技術發展,可持續且可擴展的方式加速
的頭像 發表于 01-03 15:26 ?715次閱讀

中興通訊亮相2024數字科技生態大會,創新AI終端重塑智慧生活體驗

列多形態AI終端產品亮相,并展示了與中國電信在AI生態領域的創新合作成果。雙方在AI領域
的頭像 發表于 12-03 17:24 ?529次閱讀
中興通訊亮相2024數字科技<b class='flag-5'>生態</b>大會,創新<b class='flag-5'>AI</b><b class='flag-5'>終端</b>重塑智慧生活體驗

Arm成功將Arm KleidiAI軟件庫集成到騰訊自研的Angel 機器學習框架

KleidiAI 技術融入騰訊混元自研的 Angel 機器學習框架。這一合作旨在提高移動端人工智能 (AI) 服務的推理性能和效率,為用戶提供卓越
的頭像 發表于 11-24 15:33 ?1246次閱讀

烏鎮亮點 Arm終端計算子系統 (CSS) 榮膺世界互聯網大會領先科技獎

、能效最高的計算平臺,為新一波人工智能 (AI) 計算需求奠定堅實根基! 世界互聯網大會領先科技獎旨在獎勵全球年度最具領先性的科技成果,
的頭像 發表于 11-20 19:11 ?1392次閱讀
烏鎮亮點  <b class='flag-5'>Arm</b><b class='flag-5'>終端</b><b class='flag-5'>計算</b>子系統 (<b class='flag-5'>CSS</b>) 榮膺世界互聯網大會領先科技獎

Arm Cortex-X925實現超強IPC性能

隨著人工智能 (AI) 時代的到來,手機的智能化程度越來越高,用戶體驗也越來越富沉浸感,消費者對手機的算力需求也隨之提高。因應于此,我們宣布推出 A
的頭像 發表于 10-27 11:07 ?1175次閱讀

Arm全面設計助力Arm架構生態發展

,通過該生態項目,Arm、三星晶圓代工廠 (Samsung Foundry)、ADTechnology 和 Rebellions 正在聯手向市場推出人工智能 (AI) CPU 芯粒 (
的頭像 發表于 10-21 09:58 ?802次閱讀

Arm全面設計生態迅速擴張,推出AI CPU小芯片平臺

近期,Arm全面設計(Arm Total Design)在推出一周年之際宣布,其生態體系中的合作伙伴數量已迅速增長至超過30家。這些
的頭像 發表于 10-18 17:00 ?654次閱讀

Arm如何賦能無處不在的AI

作為人工智能 (AI) 的創新基礎,眾多企業都在使用通用且應用廣泛的 Arm 計算平臺。迄今為止,合作
的頭像 發表于 09-14 09:38 ?884次閱讀
主站蜘蛛池模板: 内射人妻无码色AV麻豆去百度搜 | 国产精品成久久久久三级四虎 | 麻豆精品无码久久久久久久久 | 中文字幕无码乱人伦蜜桃 | 在线视频一区二区三区在线播放 | 国产99RE在线观看69热 | 性感尼姑风流寺 | av56788成 人影院| adc年龄确认大驾光临入口 | 无人区日本电影在线观看 | 男女生爽爽爽视频免费观看 | 国产免费福利在线视频 | 中国女人hd | 国产三级在线精品男人的天堂 | 大咪咪dvd | 99九九精品国产高清自在线 | 美女尿口羞羞视频 | 亚洲国产亚综合在线区尤物 | 久久久GOGO无码啪啪艺术 | RUN AWAY无删减全集动漫 | 日产国产欧美韩国在线 | 亚洲AV无码国产精品色午夜情 | 无遮18禁在线永久免费观看挡 | 国产欧美另类久久久品 | 国产精品自在在线午夜精品 | 日本特黄网站 | 伊人久久丁香色婷婷啪啪 | 亚洲AV无码专区国产精品麻豆 | 樱花动漫成人隐藏入口 | 国产又粗又猛又爽又黄的免费视频 | 久久受www免费人成_看片中文 | 99视频精品国产在线视频 | 亚洲qvod图片区电影 | 青草国产在线视频免费 | 亚洲乱码中文字幕久久 | 国产精品色欲AV亚洲三区软件 | 国产激情精品久久久久久碰 | 成人免费无毒在线观看网站 | 夜色福利院在线观看免费 | 国产精品99久久久久久人韩国 | 国产精品一区二区AV97 |

電子發燒友

中國電子工程師最喜歡的網站

  • 2931785位工程師會員交流學習
  • 獲取您個性化的科技前沿技術信息
  • 參加活動獲取豐厚的禮品