電子發燒友網報道(文/黃晶晶)手機處理器廠商最先引領了AI大模型在手機上的落地。去年下半年以來,高通、聯發科相繼發布最新處理器,都開始支持AI大模型。
驍龍8 Gen3是高通首款以生成式AI為核心設計的移動平臺。驍龍8 Gen 3基于臺積電4nm制程,采1個3.3GHz Cortex-X4+5個3.2GHz Cortex-A720+2個2.3GHz Cortex-A530的八核架構設計。在強大的CPU、GPU和NPU的支持下,驍龍8 Gen可以在設備端運行生成式AI,其支持超過100億個參數的模型,比如Meta Llama2 / Baichuan,并支持20個 tokens/秒。
聯發科天璣9300采用全大核設計,CPU包含4個Cortex-X4超大核,以及4個主頻為2.0GHz的Cortex-A720大核。天璣9300集成的APU 790內置生成式AI引擎,與Transformer模型適配進行算子加速,可以實現1秒內生成圖片。
結合內存硬件壓縮技術NeuroPilot Compression來減少AI大模型對終端內存的占用,天璣9300支持在終端運行10億、70億、130億參數的AI大模型。并且天璣9300成功運行了330億參數的AI大模型。
在這些處理器發布后,手機廠商陸續推出搭載這些最新處理器的旗艦智能手機,當然也無一例外的開始搭載AI大模型。
手機AI大模型涌現
電子發燒友網統計去年底到今年1月發布的旗艦智能手機,包括小米14系列、vivo X100系列,OPPO X7系列、榮耀Magic6系列等,以及更早前發布的華米Mate60系列。它們都已經支持AI大模型的運行和應用。手機廠商對于AI大模型的擁抱態度十分積極,在主處理器支持AI功能的基礎上,推出了自研的AI大模型。
例如小米的MiLM大模型支持64億參數,還有支持13億參數的端側大模型。
vivo發布五款自研“藍心”AI大模型,包括1750億、1300億、700億、70億、10億五款不同參數規模,并開源70億“藍心”大模型。X100系列搭載70億參數大模型。
在安第斯AndesGPT 大模型70億參數大語言支持下,OPPO 端側具備超快的首字響應速度。用戶可以體驗全新的 AIGC 消除功能,首個 AI 大模型語音摘要,文字生成圖片等100多種能力。
當然,要追溯AI大模型上手機的進程,其實早在去年8月,華為Mate60 Pro發布,并宣布接入盤古人工智能大模型,為消費者提供更智慧的交互體驗。
在AI大模型的加持下,智能手機變得更加智能化,出現更多便捷而有趣的應用,AI大模型成為智能手機的一大賣點,也將是未來智能手機創新發展的趨勢。
需要多少存儲容量?
我們看到,這些基于高通和聯發科旗艦芯片的智能手機比較集中的是支持70億的AI大模型參數。那么這些旗艦機型的存儲容量又是多少呢?經統計發現,最低的為8GB+256GB,最高達到16GB+1TB。16GB+512GB這種搭配的存儲容量是最為集中的。
以手機AI大模型的內存容量來看,OPPO影像產品總監張璇此前在接受采訪時給出的數據是,70億大模型正常的模型大小是28GB,經過壓縮和輕量化之后可壓縮到最小的3.9GB左右。
這個數據,其他手機廠商也有類似的看法。vivo AI解決方案中心總監謝偉欽此前透露,要運轉一個10億規模大模型至少需要1G內存,70億模型需要4GB內存,130億模型目前需要超過7GB內存。
這里不能不說輕量化和內存壓縮技術。聯發科在介紹天璣 9300支持生成式AI時就特別提到,特有內存硬件壓縮技術和NeuroPilot Compression 混合精度 INT4 量化技術。采用INT4量化可以將130億參數大模型壓縮至13GB,再用內存硬件壓縮技術進一步減少存儲容量。
我們以70億大模型壓縮后需要4GB來算,再加上6GB App?;睢?GB安卓OS,也就是說,支持70億參數大模型的智能手機,實現圖像生成功能等,其內存至少需要14GB。
若未來要支持超100億參數的模型,實現數字AI助手等功能,在現有條件下智能手機內存至少需要17GB。
目前國內智能手機已經搭載最高24GB的內存,比如一加 12,一加Ace 3、realme 真我 GT5 等已提供24GB版本。
在內存規格上,當前旗艦智能手機的內存主要為LPDDR5X。vivo X100系列率先搭載海力士LPDDR5T內存(為強調其超高速度,SK海力士在“LPDDR5”規格名稱后添加了“Turbo渦輪增壓”字樣),相比LPDDR5X內存讀取速度提升達13%,達9.6Gbps。
在閃存規格上,主要為UFS4.0。UFS是一種允許設備同時讀取和寫入的全雙工接口,并且在標準層面能幫助設備以更低的功耗實現高速讀寫,UFS4.0理論速度達到4,640MB/s。如前所述,最新發布的旗艦智能手機的閃存容量都配置了512GB這一容量。
隨著AI大模型在手機上的推進,手機處理器、內存、閃存的容量和性能需求都將升級到更高的水平。增加容量只是一方面,無論是存儲芯片廠商還是手機處理器、終端廠商,在存儲技術、系統優化等方面還需更多的創新。
智能手機回暖,AI手機拉動存儲市場上升
智能手機市場經歷一段長時間的低迷之后,終于迎來增長。
Counterpoint數據顯示,2023年10月全球智能手機銷量在連續27個月同比下降后,首次售出交易量(即零售額)同比增長5%。2023年第四季度,智能手機出貨量增速為同比增長3%,達到3.12億部。Counterpoint預測,2024年全球智能手機出貨量有望同比增長3%。
IDC預計,2024年中國智能手機市場出貨量將達到2.87億部,同比增長3.6%,實現2021年以來首次同比增長。
和PC市場對AI PC給予厚望一樣,AI手機將成為智能手機市場一個強勁的增長動力。AI手機將帶動LPDDR5、UFS 4.0的滲透,加速存儲行業的復蘇態勢。
-
聯發科
+關注
關注
56文章
2674瀏覽量
254688 -
AI
+關注
關注
87文章
30728瀏覽量
268882 -
大模型
+關注
關注
2文章
2423瀏覽量
2640 -
天璣9300
+關注
關注
3文章
53瀏覽量
362 -
AI大模型
+關注
關注
0文章
315瀏覽量
305
發布評論請先 登錄
相關推薦
評論