色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

阿里全新AI推理方法入選ICML 2020,可減少AI對計算和內存資源的消耗

牽手一起夢 ? 來源:C114通信網 ? 作者:佚名 ? 2020-06-19 15:52 ? 次閱讀

近日,人工智能國際頂會ICML 2020公布了論文收錄結果,阿里巴巴7篇論文入選,是入選論文數量最多的中國科技公司。ICML是機器學習領域全球最具影響力的學術會議之一,今年接受率僅為21.8%。

根據ICML官方顯示,阿里7篇論文涵蓋在圖像識別、自然語言處理、搜索推薦等領域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一種全新的AI推理方法,可大幅減少AI對計算和內存資源的消耗,能將推理速度提升3倍。

近年來AI模型變得越來越復雜化,尤其是類似語言AI這類復雜模型,給計算、內存資源帶來了新的挑戰。目前,業界通用的解決方法是采用更先進的計算性能來運行AI任務,例如采用GPUFPGA或者NPU等異構計算,但該方法并沒有從根源上解決問題。

阿里巴巴達摩院設計出了一種“AI雙腦思考”的方法,能讓大型神經網絡像人類一樣學會“快思考”與“慢思考”,從而進行高效且準確的推理過程。

該方法被稱為“雙模推理”, 即將一個復雜任務拆分成兩個任務,例如在復雜AI推理任務過程中,可以先以很小的資源運行“小網絡”,同時分析哪些網絡的區域較為敏感,然后只對敏感區域在“大網絡”中運行計算。

達摩院的科學家從理論上證明了雙模推理的可行性,且在CPU上實現了該方法。實際效果顯示,該方法能在保證模型精度的基礎上,在語言模型上減小40%的訪存,達到1.54倍-1.75倍的性能提升,同時可以在僅損耗0.5%精度基礎上,提升3倍的推理速度。

近年來,阿里在AI領域迎來了基礎研究與產業應用成果雙爆發的階段。三年前,阿里巴巴成立了內部研究機構達摩院,深入AI研究前沿。據了解,阿里AI已在國際頂級技術賽事上獲得了近60項世界第一,500多篇論文入選國際頂會。同時,阿里AI落地了多項重大研究成果,全面賦能各行各業。達摩院醫療AI團隊疫情期間研發的AI診斷技術,已在全球近600家醫院落地,完成50余萬例臨床診斷。

責任編輯:gt

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31134

    瀏覽量

    269471
  • 阿里巴巴
    +關注

    關注

    7

    文章

    1617

    瀏覽量

    47306
收藏 人收藏

    評論

    相關推薦

    AI云端計算資源的多維度優勢

    AI云端計算資源,作為AI技術與云計算深度融合的產物,在成本效益、性能優化、數據安全、靈活擴展以及創新加速等多個維度都具有顯著優勢。下面,
    的頭像 發表于 01-07 11:11 ?64次閱讀

    雷鳥創新與阿里云達成戰略合作,引領 AI大模型與AR眼鏡融合新紀元

    大模型與AI眼鏡硬件廠商開展的深度定制合作,阿里云通義系列大模型將為雷鳥創新的AI眼鏡提供全套AI技術和產品支持。這也是阿里云在
    發表于 01-03 13:45 ?83次閱讀
    雷鳥創新與<b class='flag-5'>阿里</b>云達成戰略合作,引領 <b class='flag-5'>AI</b>大模型與AR眼鏡融合新紀元

    阿里云開源推理大模型QwQ

    近日,阿里云通義團隊宣布推出全新AI推理模型QwQ-32B-Preview,并同步實現了開源。這一舉措標志著阿里云在
    的頭像 發表于 11-29 11:30 ?585次閱讀

    Arm計算平臺助力實現持續未來

    人工智能 (AI)、云計算和邊緣計算等技術的發展正推動著各行各業的創新升級,這一過程也伴隨著對計算資源需求的急劇增加,引發能源
    的頭像 發表于 11-26 09:22 ?323次閱讀

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了從基礎設施到軟件服務的多個層面,為AI模型的訓練、推理和部署提供了強大的支持。下面,
    的頭像 發表于 11-15 09:39 ?177次閱讀

    NVIDIA助力麗蟾科技打造AI訓練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業和科研機構提供了一套高效、靈活的 AI 訓練與推理加速解決方案。無論是在復雜的
    的頭像 發表于 10-27 10:03 ?237次閱讀
    NVIDIA助力麗蟾科技打造<b class='flag-5'>AI</b>訓練與<b class='flag-5'>推理</b>加速解決方案

    AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    計算的結合 我深刻體會到高性能計算(HPC)在AI for Science中的重要性。傳統的科學計算往往面臨計算量大、
    發表于 10-14 09:16

    AMD助力HyperAccel開發全新AI推理服務器

    HyperAccel 是一家成立于 2023 年 1 月的韓國初創企業,致力于開發 AI 推理專用型半導體器件和硬件,最大限度提升推理工作負載的存儲器帶寬使用,并通過將此解決方案應用于大型語言模型來
    的頭像 發表于 09-18 09:37 ?381次閱讀
    AMD助力HyperAccel開發<b class='flag-5'>全新</b><b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務器

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1 系列開源模型一起,為全球企業的生成式 AI
    的頭像 發表于 07-25 09:48 ?731次閱讀

    如何基于OrangePi?AIpro開發AI推理應用

    。通過昇騰CANN軟件棧的AI編程接口,滿足大多數AI算法原型驗證、推理應用開發的需求。AscendCL(AscendComputingLanguage,昇騰
    的頭像 發表于 06-04 14:23 ?553次閱讀
    如何基于OrangePi?AIpro開發<b class='flag-5'>AI</b><b class='flag-5'>推理</b>應用

    阿里云 all in AI 的決心

    “第一個提出MaaS的阿里云,能否成為云廠商在AI時代變革的新范本?”如何抓住AI的機會?這是進入大模型時代后,面對新的起點,各大云廠商在不斷思考的問題。毋庸置疑,AI與云已經成為緊密
    的頭像 發表于 05-17 08:04 ?323次閱讀
    <b class='flag-5'>阿里</b>云 all in <b class='flag-5'>AI</b> 的決心

    開發者手機 AI - 目標識別 demo

    Network Runtime 神經網絡運行時,作為中間橋梁連通上層AI推理框架和底層加速芯片,實現AI模型的跨芯片推理計算。提供統一
    發表于 04-11 16:14

    NanoEdge AI的技術原理、應用場景及優勢

    ,可以減少數據在傳輸過程中被竊取或篡改的風險,提高數據安全性。 - 低能耗:通過優化神經網絡模型和硬件設計,NanoEdge AI 可以在有限的資源下實現高效的計算,降低設備的能耗。
    發表于 03-12 08:09

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?594次閱讀

    邊緣AI它到底是什么?能做什么?

    邊緣,減少了數據的傳輸延遲和依賴云端的通信需求。邊緣AI能夠在接近數據源的設備上進行實時決策和推理,這為許多應用領域帶來了革命性的改變。 邊緣AI能夠解決許多傳統
    的頭像 發表于 01-11 14:44 ?1336次閱讀
    主站蜘蛛池模板: 久色视频网| 双性人皇上被c到哭| 高h肉辣文黄蓉| 被强J高H纯肉公交车啊| 成人国产亚洲欧美成人综合网| 白丝女仆被强扒内裤| 俄罗斯18xv在线观看| 久久高清免费视频| 免费看欧美一级特黄a大片| 男女生爽爽爽视频免费观看 | 国产在线亚洲v天堂a| 好男人在线视频| 麻豆COMCN| 日本aa大片| 小777论坛| 在线a视频| 18国产精品白浆在线观看免费| 99久久精品毛片免费播放| 敌伦小芳的第一次| 國產麻豆AVMDXMDX| 美女动态图真人后进式| 亚洲区偷拍自拍29P| 99精品国产在热久久| 久久www99re在线播放| 亚洲第一国产| 99久久蜜臀亚洲AV无码精品| 久久观看视频| 亚洲精品m在线观看| XXXchinese国产HD| 国产性夜夜性夜夜爽91| 老师你狠狂| 熟女啪啪白浆嗷嗷叫| swag合集120部| 欧美牲交A欧美牲交| 亚洲视频无码高清在线| 99久久国产露脸精品竹菊传煤| 精品国产国产综合精品| 青青草国产精品| 伊人影院综合网| 国产精品大陆在线视频| 看了n遍舍不得删的黄文|