4 月 7 日訊,AMD 最新公布了一系列基準(zhǔn)測試,宣稱其銳龍移動版 7040 Phoenix 和 8040 系列處理器在運行大型語言模型 (LLM) 領(lǐng)域的效能領(lǐng)先于 Intel 最新 Skylake Coffee Lake U Refresh Core i7-155Hz 達(dá) 79%。
據(jù)悉,此次測試針對 AMD 銳龍 7 8740U 及 Intel Core Ultra 7 155Hz兩種芯片進(jìn)行了對比,兩者均內(nèi)含硬件神經(jīng)網(wǎng)絡(luò)處理單元(NPU)。AMD 利用多幅幻燈片展示了兩顆處理器在參與 Mistral 7b、Llama v2 以及 Mistral Instruct 7B 等大型語言模型的效能差異。具體來說,在采用 Q4 位寬的Llama v2 對話測試環(huán)節(jié),AMD 處理器性能優(yōu)于 Intel 產(chǎn)品 14%;在其他相同設(shè)定條件下,AMD 器件性能較Core Ultra 7 提高 17%。
同樣在上述大型語言模型測試中,AMD 處理器反應(yīng)速度明顯加快。以Llama v2 對話測試中的“首個 Token生成提示詞”速率比拼為例,AMD 工作效率比 Intel 高出 79%,且在 Mistral Instruct 測試中達(dá)到 41%的提速。
AMD 還提供了多種質(zhì)量參數(shù)的 Llama v2 7B 對話測試數(shù)據(jù),總體而言,銳龍 7 7840U 平均效能比 Intel 競品高出 55%,在 Q8 位寬設(shè)置中甚至有 70%的進(jìn)步。但 AMD 亦指出,在實際運行大語言模型時,選用 4 位 K M 量化可實現(xiàn)更佳效,如需極高精度度的編碼任務(wù),建議使用 5 位 K M 量化模式。
然而,目前看來,AMD 在人工智能性能上暫占上風(fēng)。雖然理論上,銳龍 7040 系列架構(gòu)在計算性能(TOPS)上與 Meteor Lake 持平,但早在去年年底,Tom‘s Hardware 即發(fā)現(xiàn)在 AI 負(fù)載方面,AMD 總是能戰(zhàn)勝 Meteor Lake。這顯而易見是軟件優(yōu)化問題,并非硬件或驅(qū)動程序故障所致。
然而,未來情況未必如此。無論是在神經(jīng)網(wǎng)絡(luò)處理單元領(lǐng)域,還是在AI性能優(yōu)化領(lǐng)域,未來規(guī)劃與發(fā)展都尚無定論。盡管如此,我們有理由相信,隨著時間推移,格局或許將有所變動。
綜合來看,現(xiàn)階段AMD的NPU性能尤為出色,尤其是具備強(qiáng)大NPU性能的銳龍 8040 系列處理器。然而隨著Intel年底推出新款Lunar Lake移動CPU及完善其人工智能優(yōu)化議程,情況恐生變數(shù)。
-
處理器
+關(guān)注
關(guān)注
68文章
19259瀏覽量
229654 -
amd
+關(guān)注
關(guān)注
25文章
5466瀏覽量
134096 -
語言模型
+關(guān)注
關(guān)注
0文章
520瀏覽量
10268
發(fā)布評論請先 登錄
相關(guān)推薦
評論