近日,英特爾宣布在全新英特爾酷睿 Ultra處理器上,有超過500款AI模型得以優(yōu)化運行。這是市場上目前可用的業(yè)界出眾的AI PC處理器,兼具全新AI體驗、沉浸式圖形和出色電池續(xù)航表現(xiàn)。這一重大里程碑是英特爾在客戶端AI技術、AI PC轉型、框架優(yōu)化和包括OpenVINO工具包在內的AI工具方面投資的成果。這500個模型可在中央處理器(CPU)、圖形處理器(GPU)和神經(jīng)網(wǎng)絡處理單元(NPU)上進行部署,它們可以通過業(yè)界主流的途徑被獲取使用,包括OpenVINO Model Zoo、Hugging Face、ONNX Model Zoo和PyTorch。這些模型涵蓋了本地AI推理的多種類別,包括大語言處理、擴散處理 、超分辨率、目標檢測、圖像分類/分割、計算機視覺等。
在將AI應用程序引入客戶端設備方面,英特爾與生態(tài)系統(tǒng)已經(jīng)合作許久。今天,我們將共同慶祝在客戶端AI發(fā)展歷程中的又一個重要的篇章,即超過500個經(jīng)過預訓練的AI模型,在英特爾酷睿Ultra處理器上得以優(yōu)化運行。這一成就反映了我們致力于打造PC行業(yè)極具優(yōu)勢的AI開發(fā)者工具鏈,以及構建讓AI軟件用戶可以信任的堅實基礎。
——Robert Hallock
英特爾客戶端計算事業(yè)部副總裁兼AI和技術營銷總經(jīng)理
重要性:超過500個AI模型得以優(yōu)化運行,是英特爾努力推動和支持AI PC轉型的一個重要里程碑。英特爾酷睿Ultra處理器在一個季度內銷量達到500萬片,在AI模型、框架和運行時(Runtimes)方面表現(xiàn)出眾。
模型是諸如目標去除、圖像超分辨率或文本摘要等AI增強軟件功能的關鍵基礎。模型可用或優(yōu)化的數(shù)量,與面向用戶的AI功能的廣度之間具有直接關系。沒有模型,功能就無法被設計出來。沒有運行時優(yōu)化,功能就無法達到出色的性能表現(xiàn)。
AI模型如何工作:AI模型是軟件棧中眾多關鍵層之一,它決定了AI驅動的應用程序的最終性能、穩(wěn)定性和功能。AI模型經(jīng)過訓練,可分析大量數(shù)據(jù),根據(jù)推理得出結論并采取行動。開發(fā)者可以利用這些模型并在此基礎上構建新的AI PC功能。AI模型越多,啟用的AI PC功能就越多。
AI模型可以對文本、語音、音頻、圖像以及其他PC場景體驗中常見的音視頻源進行操作。AI模型為造福用戶而開發(fā)的AI增強功能奠定了基礎,例如自動文本摘要、在視頻會議期間降低能耗或從圖片中去除不需要的對象。OpenVINO通過在所有計算單元之間優(yōu)化平衡負載,壓縮模型從而在AI PC上實現(xiàn)高效運行,并優(yōu)化運行時以充分利用英特爾酷睿Ultra的內存帶寬和核心架構。
英特爾不斷努力,在英特爾酷睿Ultra上實現(xiàn)對出色高性能模型集的啟用,為軟件開發(fā)者提供了廣泛的創(chuàng)新領域,并簡化了向用戶交付AI PC應用程序和功能的過程。
關于其他功能和優(yōu)勢:以下列表包括500多個已優(yōu)化的AI模型的特性和優(yōu)勢:
●方便開發(fā)和部署。
●涵蓋20多個AI類別,包括大語言處理、擴散處理、超分辨率、目標檢測和計算機視覺。
●包括Phi-2、Mistral、Llama、Bert、Whisper和Stable Diffusion 1.5。
●提高系統(tǒng)穩(wěn)定性、可靠性和性能。
審核編輯:劉清
-
處理器
+關注
關注
68文章
19259瀏覽量
229649 -
英特爾
+關注
關注
61文章
9949瀏覽量
171692 -
神經(jīng)網(wǎng)絡
+關注
關注
42文章
4771瀏覽量
100712 -
AI大模型
+關注
關注
0文章
315瀏覽量
305
原文標題:已有超過500款AI模型在英特爾酷睿Ultra處理器上得以優(yōu)化運行
文章出處:【微信號:英特爾中國,微信公眾號:英特爾中國】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論