色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AMD硬剛英偉達,推出Instinct MI300,單芯片可運行800億參數

DzOH_ele ? 來源:電子發燒友網 ? 2023-06-14 16:46 ? 次閱讀

美國時間本周二,AMD舉行了重磅發布會,推出了一款全新的人工智能GPU Instinct MI300,并表示這款處理器將于今年晚些時候開始向部分客戶發貨。自英偉達發布了AI芯片后,便徹底帶動了市場的投資熱情,也推動英偉達登上萬億美元市值的高峰。此次AMD發布重磅AI芯片,有望對英偉達當前的市場地位形成一定沖擊。

AMD推出高性能AI芯片

在這次AMD的新品發布會中,核心產品無疑是用于訓練大模型的GPU Instinct MI300。早在今年初,AMD便已經宣布了新一代Instinct MI300,是全球首款同時集成CPU、GPU的數據中心APU。

601e5ef4-0a8e-11ee-962d-dac502259ad0.png

如今,這款芯片的名字變成了Instinct MI300A,而純GPU產品則命名為Instinct MI300X。據AMD的CEO蘇姿豐透露,MI300A是全球首個為AI和HPC(高性能計算)打造的APU加速卡,擁有13個小芯片,總共包含1460億個晶體管,24個Zen 4 CPU核心,1個CDNA 3圖形引擎和128GB HBM3內存。

相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發布會稍早介紹,新的Zen 4c內核比標準的Zen 4內核密度更高,比標準Zen 4的內核小35%,同時保持100%的軟件兼容性。

602c2b92-0a8e-11ee-962d-dac502259ad0.png

而GPU MI300X更是本次發布會的重點,這款芯片是AMD針對大語言模型優化的版本,該產品的晶體管數量達到1530億個,內存達到了192GB,內存帶寬為5.2TB/s,Infinity Fabric帶寬為896GB/s。對比英偉達的H100,MI300X提供的HBM(高帶寬內存)密度約為H100的2.4倍,HBM帶寬是1.6倍。

這意味著AMD的這款產品可以運行比英偉達H100更大的模型,在現場AMD演示了MI300X運行400億參數的Falcon模型,而OpenAI的GPT-3模型有1750億個參數。蘇姿豐還用Hugging Face基于MI300X的大模型寫了一首關于活動舉辦地舊金山的詩。

這也是全球首次在單個GPU上運行這么大的模型,據AMD介紹,單個MI300X可以運行一個參數多達800億的模型。而在未來隨著AI模型越來越大,意味著需要更多GPU來運行最新的大模型,而AMD芯片上內存的增加,意味著開發人員不需要那么多GPU,可以為用戶節省大量成本。

60a97e44-0a8e-11ee-962d-dac502259ad0.png

蘇姿豐表示,MI300X將于今年第三季度向一些客戶提供樣品,并于第四季度量產。同時AMD還發布了AMD Instinct Platform,集合了8個MI300X,可提供總計1.5TB的HBM3內存。對標英偉達的CUDA,AMD也介紹了自身的芯片軟件ROCm,AMD總裁Victor Peng稱,在構建強大的軟件堆棧方面,AMD取得了真正的巨大進步,ROCm軟件棧可與模型、庫、框架和工具的開放生態系統配合使用。

之所以將重心放在AI芯片,也是因為AMD非常看好未來的AI市場。蘇姿豐認為,數據中心人工智能加速器的潛在市場總額將從今年的300億美元增長到2027年的1500億美元以上。

硬剛英偉達,但尚未透露大客戶

從AMD所介紹的產品性能來看,將成為當下AI市場的有力競爭者,尤其在ChatGPT等生成式AI的帶動下,市場對高性能GPU需求旺盛。不過當前市場中,英偉達處于絕對優勢,占據80%的市場。

而AMD并沒有公布這款GPU的具體價格,但是對比英偉達H100價格大多在3萬美元以上,如果MI300X價格能夠更加實惠,將顯著的對英偉達產品造成沖擊,并有助于降低生成式AI的研發成本。

有意思的是,在如此強勁的性能面前,市場卻似乎并不買單。截至當日收盤,AMD股價反而下降了3.61%,市值來到2000億元關口。而英偉達股價則拉升了3.9%,總市值達到1.01萬億美元,是AMD的五倍。

此次AMD并未透露哪些公司會采用MI300X或簡配版MI300A,而在此前的發布會中,AMD都會披露新產品的大客戶。這可能讓市場認為,目前并沒有大客戶為這款芯片買單。

另一方面,AMD并沒有透露新款AI芯片的具體售價,但想要有顯著的成本優勢可能不太現實,因為高密度的HBM價格昂貴。即便MI300X的內存達到了192GB,但這也不是顯著優勢,因為英偉達也擁有相同內存規格的產品。

更重要的原因在于,MI300并不具備H100所擁有的Transformer Engine。Transformer Engine能夠用于加速Transformer模型,以在AI的訓練和推理中以較低的內存利用率提供更好的性能。

有分析師認為,如果訓練一個新的模型,需要投入數千個GPU,并耗費一年的時間,那么幾乎不會有人會浪費2-3年或者投入3倍數量的GPU。而Transformer Engine能夠讓大模型實現三倍的性能表達。

盡管市場中認為,AMD的MI300芯片應該是除了谷歌的TPU之外,能與英偉達在AI訓練端上匹敵的產品。成為當前大企業在訓練AI大模型時,除了英偉達之外的另一個重要選擇。

但想要在短時間內挑戰英偉達,顯然還是比較困難的。就如AMD總裁VictorPeng說的那樣,“盡管這是一個過程,但我們在構建強大的軟件堆棧方面取得了很大進展,該軟件堆棧與開放的模型、庫、框架和工具生態系統兼容。”

無論如何需要市場中有大客戶切實的使用AMD新款芯片。

小結

AMD此次重磅發布的MI300系列芯片,無疑為AI市場注入了一劑強心針,不僅預示著AMD在持續看好未來的AI市場,也將表明AMD將在這一市場中與英偉達正面競爭。至少對于相關企業及用戶而言,有更多的選擇是一件好事。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • amd
    amd
    +關注

    關注

    25

    文章

    5466

    瀏覽量

    134095
  • 人工智能
    +關注

    關注

    1791

    文章

    47183

    瀏覽量

    238263
  • AI芯片
    +關注

    關注

    17

    文章

    1879

    瀏覽量

    34992

原文標題:AMD硬剛英偉達,推出Instinct MI300,單芯片可運行800億參數

文章出處:【微信號:elecfanscom,微信公眾號:核芯產業觀察】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    AMD最強AI芯片,性能強過英偉H200,但市場仍不買賬,生態是最大短板?

    。 ? 其中,全新旗艦AI芯片的型號為AMD Instinct MI325X GPU,雖然仍然是采用CDNA 3架構,但是相較于AMD
    的頭像 發表于 10-14 01:32 ?3410次閱讀
    <b class='flag-5'>AMD</b>最強AI<b class='flag-5'>芯片</b>,性能強過<b class='flag-5'>英偉</b><b class='flag-5'>達</b>H200,但市場仍不買賬,生態是最大短板?

    IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器

    合作服務預計將于2025年上半年正式推出AMD Instinct MI300X加速器作為AMD在高性能計算領域的旗艦產品,將為IBM云上的
    的頭像 發表于 11-19 11:03 ?442次閱讀

    AMD發布新版Instinct MI325X

    今日,芯片行業的老牌巨頭AMD在AI領域交出了一份令人矚目的答卷。   美國時間10月10日,AMD在舊金山成功舉辦了Advancing AI發布會。會上,AMD隆重
    的頭像 發表于 10-12 16:54 ?761次閱讀

    三星首度引入AMD MI300X,緩解AI GPU短缺

    三星電子近日斥資約270韓元(約合1.42元人民幣),購買了AMD Instinct MI300X加速器。這一舉措標志著三星電子首次引入
    的頭像 發表于 10-10 17:15 ?509次閱讀

    AMD發布全新AI芯片Instinct MI325X

    在近日舉行的COMPUTEX臺北國際電腦展上,AMD董事長兼CEO蘇姿豐發表了精彩演講,并正式發布了一款備受矚目的AI芯片——Instinct MI325X。這款
    的頭像 發表于 06-04 14:49 ?977次閱讀

    AMD發布AI芯片MI325X 預計2024年第四季度上市

    在COMPUTEX臺北國際電腦展上,AMD公司的董事會主席兼首席執行官蘇姿豐女士受邀發表了重要演講,隆重推出了其最新研發的AI芯片——Instinct
    的頭像 發表于 06-03 15:41 ?953次閱讀

    英偉B100 GPU架構披露,B200或配備288GB顯存

    XpeaGPU透露,B100 GPU將配備兩枚基于此技術的芯片,與此同時,還將連通多達8個HBM3e顯存堆棧,總容量高達192GB。AMD同樣已有提供同量級的產品,并且在Instinct MI
    的頭像 發表于 03-18 14:16 ?1310次閱讀

    人工智能市場風向轉變,AMD Instinct MI300X GPU更受歡迎

    近一半的受訪者表示對AMDInstinct MI300X GPU持樂觀態度。與英偉的H100系列相比,
    的頭像 發表于 03-11 15:28 ?967次閱讀

    AMD Instinct MI300新版將采用HBM3e內存,競爭英偉B100

    AMD于去年宣布旗下兩款Instinct MI300加速器,包括基于GPU的MI300X以及基于APU架構的MI300A, both配備19
    的頭像 發表于 02-23 14:36 ?1022次閱讀

    英偉繁榮背后的挑戰 仍面臨著各種內憂外患

    為搶占AI商機,英特爾和AMD都緊跟著NVIDIA腳步,在NVIDIA率先推出采用臺積電4nm的H100后,AMD于去年推出首批應用于AI和HPC的“
    的頭像 發表于 02-21 14:16 ?793次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>繁榮背后的挑戰 仍面臨著各種內憂外患

    AMD首批Instinct MI300X已開始交付

    模型。與Instinct MI300A不同,Instinct MI300X不包含x86 CPU內核,但通過增加CDNA 3小芯片的數量和搭載
    的頭像 發表于 01-24 16:57 ?698次閱讀

    AMD Instinct MI300X已向LaminiAI批量供貨

    LaminaAI作為AMD的長期合作伙伴,能夠搶先體驗到全新MI300X加速器的強大優勢,實屬正常。該公司首席執行官Sharon Zhou在社交媒體進行了公告,同時透露,已經接收到配置8個Instinct
    的頭像 發表于 01-23 09:53 ?453次閱讀

    不同算力芯片的特點與區別

    AMD 推出數據中心 APU Instinct MI300AMD 推出數據中心APU(加速處理
    發表于 01-22 11:20 ?1956次閱讀
    不同算力<b class='flag-5'>芯片</b>的特點與區別

    英偉AMD激戰AI芯片市場,臺積電成最大贏家

    AI芯片市場上,英偉AMD之間的競爭越來越激烈。AMDMI300A系列產品已開始批量生產,
    的頭像 發表于 01-10 18:11 ?1376次閱讀

    AMD Instinct MI300A獲得德國訂單

    先進微設備公司(AMD)于本月6日成功舉辦了"推進人工智能"(Advancing AI)主題活動,期間正式發布了專為數據中心設計的Instinct MI300系列計算卡,首批推出
    的頭像 發表于 12-25 11:30 ?471次閱讀
    <b class='flag-5'>AMD</b> <b class='flag-5'>Instinct</b> <b class='flag-5'>MI300</b>A獲得德國訂單
    主站蜘蛛池模板: 诱咪视频免费| 欧美亚洲国内日韩自拍视频| 久久国产亚洲电影天堂| 久草在线一免费新视频| 捆绑白丝粉色JK震动捧喷白浆| 美女叉腿掰阴大胆艺术照| 欧美 亚洲 日韩 中文2019| 日韩免费一区二区三区在线| 无码欧美毛片一区二区三在线视频| 亚洲风情无码免费视频| 杨幂视频1分11未删减在线观看| 2021全国精品卡一卡二| 果冻传媒在线看免费高清| 狠狠综合久久综合88亚洲| 空姐被黑人 苏晓曼| 青娱乐在线一区| 邪恶肉肉全彩色无遮琉璃神社| 亚洲伊人网站| BL文库好大粗黑强强肉NP| 国产精品久久久久久久久爆乳| 精品无码久久久久久动漫| 女王羞辱丨vk| 偷拍亚洲制服另类无码专区| 一二三四高清中文版视频| swag合集120部| 国产在线观看不卡| 美女爽到嗷嗷嗷叫| 丝袜美女被艹| 宅男午夜大片又黄又爽大片| younv 学生国产在线视频| 国模沟沟一区二区三区| 蜜臀AV精品久久无码99| 忘忧草在线影院www日本| 综合久久伊人| 国产精品久久久久久久久久久| 久久人妻少妇嫩草AV無碼| 色婷婷欧美在线播放内射| 伊人热人久久中文字幕| 粉色视频午夜网站入口| 久久综合久久伊人| 甜宠溺H宝贝嗯撞PLAY啊|