11月16日消息,美國(guó)時(shí)間周三,微軟發(fā)布了首款自研人工智能(AI)芯片,可用于訓(xùn)練大語(yǔ)言模型,擺脫對(duì)英偉達(dá)昂貴芯片的依賴。微軟還為云基礎(chǔ)設(shè)施構(gòu)建了基于Arm架構(gòu)的CPU。這兩款自研芯片旨在為Azure數(shù)據(jù)中心提供動(dòng)力,并幫助該公司及其企業(yè)客戶準(zhǔn)備迎接AI時(shí)代的到來(lái)。
微軟的Azure Maia AI芯片和Arm架構(gòu)Azure Cobalt CPU將于2024年上市。今年,英偉達(dá)的H100 GPU需求激增,這些處理器被廣泛用于訓(xùn)練和運(yùn)行生成圖像工具和大語(yǔ)言模型。這些GPU的需求非常高,甚至在eBay上的售價(jià)超過(guò)了4萬(wàn)美元。
微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施主管拉尼·博卡(Rani Borkar)在接受采訪時(shí)解釋說(shuō):“微軟在芯片開(kāi)發(fā)方面有著悠久的歷史。”早在20多年前,微軟就與人合作開(kāi)發(fā)了Xbox的芯片,甚至還合作設(shè)計(jì)了Surface設(shè)備的芯片。博卡表示:“這些努力都是建立在這些經(jīng)驗(yàn)基礎(chǔ)之上的。2017年,我們開(kāi)始構(gòu)建云硬件堆棧,并開(kāi)啟了這段旅程,使我們走上了構(gòu)建新自研芯片的軌道。”
新的Azure Maia AI芯片和Azure Cobalt CPU都是由微軟內(nèi)部構(gòu)建的,并對(duì)其整個(gè)云服務(wù)器堆棧進(jìn)行了深度檢修,以優(yōu)化性能、功耗和成本。博卡表示:“我們正在重新考慮人工智能時(shí)代的云基礎(chǔ)設(shè)施,并真正優(yōu)化該基礎(chǔ)設(shè)施的每一層。”
Azure Cobalt CPU以元素“鈷”(鈷藍(lán)是重要的藍(lán)色顏料)命名,是一款128核芯片,基于Arm的Neoverse CSS設(shè)計(jì),并為微軟定制。它旨在為Azure上的通用云服務(wù)提供支持。博卡解釋稱:“我們花了很多心思,不僅要讓它具有高性能,還要注意到電源管理。為此我們做了許多有意識(shí)的設(shè)計(jì)選擇,包括控制每個(gè)內(nèi)核和每臺(tái)虛擬機(jī)上性能和功耗的能力。”
微軟目前正在測(cè)試Cobalt CPU的工作負(fù)載,如Teams和SQL服務(wù)器,并計(jì)劃明年為客戶提供各種工作負(fù)載的虛擬機(jī)。雖然博卡沒(méi)有直接將其與亞馬遜在AWS上提供的Graviton 3服務(wù)器進(jìn)行比較,但與微軟目前用于Azure的基于Arm的服務(wù)器相比,應(yīng)該會(huì)有一些明顯的性能提升。博卡表示:“我們的初步測(cè)試表明,我們的性能比目前使用商用Arm服務(wù)器的數(shù)據(jù)中心提高了40%。” 微軟還沒(méi)有分享完整的系統(tǒng)規(guī)格或基準(zhǔn)。
-
微軟
+關(guān)注
關(guān)注
4文章
6591瀏覽量
104026 -
gpu
+關(guān)注
關(guān)注
28文章
4729瀏覽量
128893 -
AI芯片
+關(guān)注
關(guān)注
17文章
1880瀏覽量
34994
原文標(biāo)題:微軟發(fā)布自研AI芯片!
文章出處:【微信號(hào):CSF211ic,微信公眾號(hào):中國(guó)半導(dǎo)體論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論