電子發燒友網報道（文/周凱揚）要說跟上AI時代的進程，RISC-V相對其他架構來說也一點不慢。從各個初創公司的產品或者路線圖也可以看出，AI計算是他們最為重視的一環，甚至重要性要超過通用計算。畢竟這是RISC-V可以后發制人的一大領域，甚至不會有太多架構設計上的歷史桎梏。為此，不少廠商也都從AI出發，設計出了定位不一的RISC-V產品。

高性能AI計算

Esperanto作為為數不多的幾家沖擊高性能AI計算的公司，如今也開始察覺到了AI市場的風向變動，于是決定將重心從過去的推薦加速改為大語言模型和HPC。Esperanto走進大眾視野的方式相當特別，他們的第一款產品就是千核RISC-V芯片ET-SOC-1。

ET-SOC-1基于臺積電7nm工藝打造，集成了1088個64位ET-Minion RISC-V核心和4個ET-Maxion核心，提供了超高的單線程性能。雖說ET-SOC-1對ML進行了優化，是一個理想的推理芯片選擇，但Esperanto為其打造的軟件棧主要還是以推薦場景打造。直到他們近期推出了新的AI軟件開發工具包，并專門針對LLM進行了優化，并展示了運行300億參數的OPT模型。

據Esperanto表示，目前他們的生成式AI應用已經可以運行最新的LLM和圖片生成模型，比如LLaMA2、Vicuma和Stable Diffusion等等。不過在千變萬化的AI市場下，單個模型往往難以維持長時間的熱度，所以Esperanto的計劃是持續跟進最流行的開源模型。

IP廠商也不例外，除了SiFive、平頭哥、Tenstorrent等已經推出高性能AI IP或對現有產品線進行AI升級的公司外，Semidynamics也發布了最新完全可定制的矢量單元，用于配合其Atrevido CPU核心。該矢量單元有多個矢量內核構成，每個內核都有算數單元，可以執行加減、乘加等數字與邏輯運算。

這個矢量單元的最大特色在于全定制性，與其他廠商只有部分配置選項不同，為了應對未來各種AI模型的精度要求，Semidynamics的矢量單元在定制化后，可以支持FP64、FP32、FP16、BF16、INT64、INT32、INT16或INT8的數據類型。

盡管ASIC、GPU和FPGA常被視為最合適進行AI計算的三大硬件，但在如今的市場環境下，無論是服務器還是消費終端，CPU也都需要一些可觀的AI計算特性。所以開源社區推出了LLaMA.cpp這一模型，該模型是基于Meta的LLaMA模型打造而成，無需PyTorch等庫的外部依賴，僅靠C/C++編譯即可生成執行文件，且無需GPU，只靠CPU就可以運行。

曠視科技參考并借鑒了LLaMA.cpp項目，推出了InferLLM這一輕量級的LLM模型推理管家，且除了常見的Arm、x86和CUDA外，他們也針對RISCV-Vector做了專門的優化，目前已經可以部署在群芯閃耀科技發布的Milk-V Pioneer RISC-V主板上，而該主板用到的64位CPU正是算能科技的算豐SG2042。

算豐SG2042采用了單芯片64個RISC-V內核的設計，支持雙路CPU互聯、4通道DDR4和32通道PCIe 4.0，典型功耗為120W，可以說是典型的服務器芯片設計。但很明顯，即便是高性能CPU，在一些非重型AI負載下，也能有可觀的表現。

低功耗的邊緣端

盡管云端的生成式AI已經變得越來越普及，企業在花了大成本購置硬件資源后也能在本地運行更多的AI計算負載降低效率提高安全性。但對于消費者而言，似乎真正部署在端側的生成式AI才更加值得關注，在實用性上也剛強一些，而且不只是手機這種使用高端芯片的產品，不少IoT產品也在規劃著如何接入生成式AI，因此大算力的邊緣AI芯片就成了首選。

云天勵飛作為國內首批闖入AI賽道的廠商，此前一直在主攻AI算法領域，但單靠算法的泛化能力相對較弱，于是云天勵飛也就開始加入芯片設計賽道，比如2018年推出的DeepEye 1000等。

而在今年舉辦的第三屆滴水湖中國RISC-V論壇上，云天勵飛展示了去年成功流片，如今已經接近量產的邊緣AP級SoC Deep Edge10V。從芯片結構上看，Edge10V采用了Chiplet設計，滿足國產Chiplet UCIE標準。CPU部分采用了1.2GHz的雙核C920，還集成了一個500MHz的NNP400T NPU，算力高達12TOPS@INT8。在視頻處理能力上，Edge10V也配備了支持H265/H264視頻編解碼的多媒體子系統。

另外值得一提的是，Edge10V僅僅是Edge10系列中的一環，由于Chiplet設計支持多die擴展，所以也可以在Edge10Max這一產品上實現高達64Tops的算力。云天勵飛芯片BD總監張福林表示，Edge10V主要應用于邊緣計算，而Edge10Max則應用于邊緣CV大模型，比如Pytorch、Caffe、Tensorflow等框架下的模型。從應用上來看，Edge10V的主要應用場景還是云天勵飛擅長的機器視覺領域，比如機器人、智能安防之類的邊緣端。

本屆滴水湖論壇上，普林芯馳也展示了他們的智能離線語音交互MCU SPV20系列芯片。該系列的特色在于，除了基于SiFive E21RISC-V核心打造的CPU外，還有基于CEVA TL420核心的DSP與集成普林芯馳自有算法的NPU。該NPU支持CNN、DS-CNN等深度壓縮語音識別模型，可用于家電的智能語音控制。

嘉楠科技的第二代AI推理芯片，勘智K510，同樣是針對邊緣側AI開發的產品。這一芯片采用了雙核RISC-V 64位CPU，主頻最高達到800MHz。勘智K510支持INT8和BF16雙數據類型，且具備2.5TFLOPS的算力，還支持Tensorflow、Pytorch和ONNX等多種框架的算子庫。

用生成式AI設計RISC-V芯片

隨著生成式AI在代碼生成上日益精進的表現，如今利用生成式AI來設計芯片也成了可能。近日，開源硬件平臺Efabless就舉辦了一屆生成式開源芯片設計挑戰賽，其中清華RIOS Lab團隊的RISC-V芯片，CyberRio獲得了亞軍。

據其Github頁面所示，該芯片的大部分Verilog代碼都是使用GPT-4生成的，從而基于一個經典的5級流水線設計出了CyberRio。CyberRio也在Skywater提供的130nm的工藝平臺上得到了流片驗證，這也意味著全球第一個由LLM完成主要涉及的CPU被成功制造出來。

不過開放團隊也表示，GPT-4對硬件語言的理解并不算完整，無論是對設計語言本身的理解，還是對握手或并行處理等設計概念。這很可能是GPT-4訓練過程本身的缺陷，不過開發團隊也提出了Langchain之類的替代方案或許可以解決GPT-4信息缺失造成的問題。

寫在最后

盡管RISC-V社區針對AI計算的開發熱情空前高漲，但同樣需要來自架構上的各種支持，比如矢量、虛擬化擴展等也需要不斷地優化，給到開發者一個優秀的通用方案，而不僅僅只有各大廠商獨立開發的AI技術棧。與此同時，RISC-V硬件廠商應該吸引更多的軟件框架開發者為RISC-V做一定的適配或移植工作，這樣也能讓已經成熟的生成式AI社區盡快融入RISC-V生態。