智能科技已經無縫融入到每個人的生活中。使用智能音箱查詢天氣、播放歌曲、甚至進行會議提醒確實很方便,但如果黑客能夠訪問你所有的數據和交易信息,那會不會是一場災難呢?在萬物智能(Pervasive Intelligence)時代,人工智能(AI)和安全已經成為超越傳統芯片設計界限的關鍵因素。
半導體行業的迅猛增長主要是由AI(人工智能)、ML(機器學習)和DL(深度學習)等技術的廣泛應用所驅動的,這些技術對計算要求極高,需要專用芯片和高效的設計來支持智能功能。從語音和文本識別到高性能計算(HPC)、數據中心、搭載AI的個人電腦及自動駕駛汽車等,這些計算密集型任務依賴于先進的架構。這些架構不僅能夠提供強大的計算能力,還能隨著時間的推移優化,不斷提升決策能力。尤其是在科學和醫學研究、氣象預報、金融、石油與天然氣勘探等細分領域,需要更強大的算例資源,以有效進行數據分析和數字計算。
人工智能的發展勢頭正在加速。隨著越來越多的智能設備接入云端,人工智能的潛力呈指數級增長,從而創造了龐大的市場機遇。為了讓設備根據現實條件快速做出決策,AI相關計算的關鍵部分必須在硬件中完成。專用的“AI芯片”對于經濟高效地實現規模化AI應用至關重要,它們為特定應用帶來了創新且顛覆性的解決方案。
當前用于AI/ML/DL應用的芯片含有定制的處理器架構和復雜的數據路徑,能夠準確執行所需的算術分析。行業對數據處理能力的需求日益增長,對功能自動化的期望不斷提高,智能技術在各類應用中的廣泛集成,芯片開發者和驗證團隊也亟需采用現代化的驗證技術,推動人工智能技術進一步發展。
在本文中我們將共同探討以下幾個問題:AI芯片對硅工程的影響,以及開發者面臨的關鍵功耗、性能和面積(PPA)有哪些挑戰?將AI芯片普及到各應用領域的潛在機遇有哪些?對高級驗證有哪些需求?為何硬件安全在未來將變得至關重要?
不是只有半導體公司才能設計芯片
隨著摩爾定律逐漸接近極限,從通用處理器獲得期望的性能增益變得越來越困難。因此,許多非傳統半導體領域的公司開始自行設計芯片,以適應特定應用的需求。
像英偉達、英特爾、AMD、高通、Meta、亞馬遜、阿里巴巴、微軟和谷歌這樣的公司,目前都在積極投資開發自己的定制ASIC(應用特定集成電路)芯片,旨在支持他們的AI軟件并滿足具體應用的需求。十年前,幾乎沒有行業專家能預見到像Meta這樣的社交媒體公司會涉足這一領域。
此外,汽車、HPC和云計算等市場的系統和軟件公司也開始自主構建專用硬件架構。越來越多企業開始涉足芯片開發領域,這樣的市場增長孕育了海量全新機遇,為當今要求苛刻的芯片設計環境帶來了一系列新的設計工具和解決方案。
在AI設計中采用RISC-V處理器架構
RISC-V起初主要用于嵌入式應用和微控制器領域。經過多年的發展,這個開源標準在汽車、數據中心和高性能計算等諸多應用領域持續受到關注,也越來越多地應用到各式各樣的AI工作負載中。以下為廣泛采用RISC-V架構的主要領域:
人工智能:AI芯片往往采用異構設計,開發者會盡可能選擇RISC-V等現成的處理器,著力于開發高性能、高能效的AI加速器,用于完成諸如神經網絡處理和自然語言處理等任務。
汽車:對于汽車SoC,RISC-V處理器可以滿足信息娛樂、高級駕駛輔助和通信等系統對性能、功耗、成本和安全性的要求。
高性能計算(HPC)和數據中心:RISC-V內核非常適合使用定制ISA來處理復雜的計算任務,而RISC-V擴展可以支持開發簡單、安全和靈活的內核,從而滿足這些應用的能效要求。
是什么讓AI芯片設計與眾不同?
從AI初創公司到全球主要的云服務提供商,各方紛紛加大研發力度,相繼推出了GroqChip、Nvidia H100 GPU、Ambarella CV52S、Atlazo AZ-N1、AWS Trainium和Google TPU v4等備受矚目的AI芯片。這些創新激發了一波又一波的芯片開發浪潮,推動了業界在開發更加快速和高效的AI芯片方面的競爭。
如今,以數據為中心的計算正在改變PC格局。而基于人工智能的PC正蓄勢待發,有望為大眾帶來強大的智能功能。英特爾的目標是到2025年為1億臺支持人工智能的PC提供內核處理器。這家芯片制造巨頭正在與微軟攜手定義人工智能PC,最終的成果預計將配備用于AI工作負載的神經處理單元和微軟的Copilot AI聊天機器人。?
在當前對AI片上系統(SoC)的新投資中,主要目的之一是讓系統能夠通過分布式操作執行多重計算任務,這一點超越了傳統CPU所提供的有限并行處理能力。AI/ML硬件設計包括多個數據密集型模塊,如控制路徑和計算模塊。控制路徑通過狀態機根據特定輸入處理輸出;計算模塊則包含加法器、減法器、乘法器和除法器等算術邏輯單元,負責執行各類數據運算。這些功能極大地提高了AI算法處理大量重復、可預測和獨立計算任務的速度。
雖然計算模塊對于大多數設計團隊來說可能難度不大,但隨著算術模塊和位數的增加,其實施復雜程度也將急劇攀升,從而給驗證團隊帶來額外的壓力。
我們以一個簡單的4位乘法器為例。為了驗證它的完整功能,開發者需要為24=16種輸入組合編寫測試向量。那么挑戰在哪里呢?在驗證當今AI芯片的實際場景時,由于數據處理量巨大,團隊需要驗證具有64位輸入的加法器。也就是說需要驗證264個狀態,如果依靠傳統方法,則需要花費數年時間才能完成。
而這只是在設計中包含單一乘法器或除法器的情況。隨著AI芯片的應用領域快速擴展,數據量的增長也在持續爆炸,這一趨勢使得整個情況變得更加復雜。為了應對硬件驗證中的各種挑戰和耗時任務,開發者迫切需要一種安全且靈活的現代化驗證解決方案。
芯片驗證所面臨的主要挑戰
在團隊設計AI芯片時,通常會選擇運行速度較快且用途較廣的C/C++來編寫設計算法。編寫完功能代碼后,需要使用RTL(寄存器傳輸語言)將信息轉換為更適用于硬件的表示形式,以便實現設計。為此,團隊要么為所有可能的組合開發測試向量,要么驗證RTL是否與原始的C/C++架構模型保持一致,這兩項任務相當艱巨,無論作何選擇,都需要投入大量的時間和精力。
當需要全面驗證而連續迭代方法顯得不現實時,可以采用形式化驗證等技術。形式化驗證通過數學分析,允許一次性全面考慮整個硬件設計,從而無需為每種輸入組合編寫測試向量。相反,可以使用模型檢測器,根據一系列預定義的行為斷言來驗證設計。
十年前,形式化驗證需要使用高級斷言,被視為一項僅限專家操作的技術。但現在情況已大為不同。如今,任何RTL開發者或驗證開發者都能迅速掌握相關技能并將其應用于設計中,這要求當前的驗證工具必須簡單易用。此外,改善工具的調試功能也極為關鍵,它有助于開發者理解復雜且不熟悉的設計行為,以及統一多樣化且復雜的設計環境。
然而,鑒于當前AI芯片的巨大尺寸、規模和復雜性,通過模型檢測實現完整的驗證已不再可行。從長遠來看,使用傳統方法來驗證這些數學功能不僅效率低下、耗時,也是不現實的。對于靈活且可定制的RISC-V架構來說,每當添加新的自定義指令時,確保所有配置都經過徹底驗證是另一個挑戰。
AI和ML應用亟需高級數據路徑驗證
驗證開發者可以通過等效性檢查等其他形式化驗證來高效驗證復雜的AI數據路徑。這種方法可以比較同一設計的兩種表示形式,由此能夠證明這兩種形式是否等效,識別出它們之間的具體差異。借助強大的形式化驗證引擎,這兩種表示形式可以處在截然不同的抽象層次上,甚至可以用不同的編程語言編寫,這無疑是巨大的優勢。這種方法通常用于根據邏輯綜合所生成的門級網表來檢查RTL輸入。
例如,可以將芯片設計的詳細RTL實現與高級C/C++架構模型進行比較。這種比較可以確認對于這兩種表示形式,同一組輸入會生成相同的輸出。這個有效的方法適合很多AI項目,因為大多數項目已擁有C/C++模型,可用于仿真中的結果檢測,或作為虛擬平臺的一部分來支持早期軟件開發和測試。
要根據經驗證的參考模型對設計數據路徑進行詳盡驗證,形式化等效性檢查仍然是目前少數可行的技術。為了推動AI應用不斷發展,并驗證今后熱門AI應用中的復雜功能單元,驗證工具和解決方案需要簡單易用,可擴展到更大的設計規模,并擁有能快速檢測錯誤的高級調試功能。
在實現層面,要達到所需的PPA通常會遇到一些挑戰。對此,新型全環繞柵極(GAA)技術節點和Multi-Die設計架構可以提供幫助。Synopsys.ai全棧式AI驅動型EDA整體解決方案可處理重復性任務,例如設計空間探索、驗證覆蓋和回歸分析,從而更快完成PPA的優化。
從當前的AI加速器到日后的認知系統
硬件設計已成為AI創新的核心推動力。當前計算工作負載的加速發展,對于縮短設計和驗證周期的迫切需求仍將保持增長。如今,新思科技提供多款成熟可靠的驗證解決方案,助力開發者在眾多應用領域中驗證復雜的AI架構。
新思科技VC Formal等新一代形式化驗證解決方案為開發團隊帶來所需的速度、容量和靈活性,助其驗證復雜的SoC設計。該解決方案包含全面的分析和調試技術,可幫助團隊通過新思科技Verdi調試平臺快速識別根本原因。
VC Formal解決方案提供了一套廣泛的形式化驗證應用,其中包括集成了HECTOR技術的VC Formal數據路徑驗證(DPV)應用。其中,HECTOR技術已成功部署于許多要求苛刻的AI芯片項目。借助定制優化和用于數據路徑驗證的引擎(ALU、FPU、DSP等),VC Formal解決方案可報告RTL和C/C++模型結果中的所有差異,以便在Verdi SoC調試平臺中進行診斷,并驗證二者是否已消除所有差異且達到等效目標。VC Formal解決方案已幫助多家創新芯片開發商和新興AI/ML芯片公司收獲累累碩果。
此外,我們的解決方案還利用了并行處理的優點,允許同時在多個內核上運行仿真,享受云端的優勢。這意味著,即使是那些有臨時性、高強度計算需求的企業,也可以使用我們的工具來設計AI硬件。AI市場日新月異、蓬勃發展,我們很高興能夠通過前沿的驗證解決方案為AI行業提供支持,助力開創AI芯片和軟件的新時代。
不久的將來:AI芯片將實現同態加密
AI行業將持續處理數萬億字節的數據,并且需要高性能芯片來維持這種計算范式,因此數據位數的增加無可避免。全球眾多大學和研究機構正積極探索處理大規模位數輸入數據(如4096位)的可行性,并致力于構建相應的解決方案,以設計支持此類龐大數據輸入量的芯片。而這正是VC Formal數據路徑驗證和形式化安全驗證(FSV)應用的理想應用場景。
海量數據正如潮水般涌入,對硬件安全防護的需求也隨之加劇。比如,最近發生了一起價值6億美元的加密貨幣盜竊案,這是去中心化金融領域有史以來金額最龐大的盜竊案,暴露出了一些可能被網絡犯罪分子所利用的緊急威脅和漏洞,凸顯了端到端安全的重要性。同態加密將成為AI/ML芯片發展不可或缺的一部分。簡單地說,借助同態加密,您可以加密數據并在不解密的情況下執行AI系統所需的相同算術計算,從而降低數據泄露的風險。同態加密是前景可期的發展方向,有望提升AI芯片設計的效率和結果質量。為了推動同態加密的廣泛采用,我們亟需開發下一代工具來助力其快速增長。
總結
人工智能日漸普及各方面計算應用,無論在哪個細分市場,AI芯片要想取得成功,都需要對設計進行充分驗證。沒有人希望自己的自動駕駛汽車撞上那些被圖像識別分析所忽略的障礙物。新的邊緣AI設備將推動實時海量數據計算爆炸式增長,并改變芯片開發者的半導體設計方式,由此會提高生產力、縮短周轉時間并帶來更出色的驗證解決方案。
一個以人工智能為核心的新時代即將來臨。如今,我們還需要引導才能回答問題的虛擬助手,未來是否能發展成像鋼鐵俠中的J.A.R.V.I.S那樣的智能助理呢?一切答案,時間將會揭曉。
評論
查看更多