ChatGPT是今年的大熱點,尤其是GPT-4幾乎讓全球用戶都為之驚嘆。ChatGPT生成的文字不僅十分接近人類的表達方式,它還能撰寫文章、編寫代碼、解釋復雜的概念等等。AI正在以一種零基礎入門的使用方式逐漸融入我們的日常生活。
AI和ML等計算密集型應用會產生龐大的計算工作負載,導致功耗巨大,因此對處理算法、運行模型和負責數據傳輸的硬件提出了更高的要求。對開發者來說,驚嘆于ChatGPT的強大之余,我們也更關注此類應用是如何實現如此快速實時的對話并給出高分答案的。
超大規模數據中心是目前處理AI、高性能計算、大數據分析等高強度工作負載的普遍選擇,但此類數據中心內多采用傳統的銅互連方式來連接不同組件,面對高帶寬需求時略顯局促。
光子集成電路(PIC)能夠利用光的優勢在這一領域發揮重要作用。本文我們將共同探討光電子技術如何優化性能、提高效率、助力設備微型化。
01運行AI模型的能耗巨大
ChatGPT使用了OpenAI的生成式預訓練Transformer 3(GPT-3)技術,這一自回歸語言模型利用深度學習生成文本,該模型具有1,750億個參數,人腦相當于具有1,000億個參數的模型,所以Transformer 3架構的處理水平超越了人腦。
這樣的AI模型對內存、GPU、CPU、加速器等硬件組件提出了極高的要求。運行AI模型需要大規模GPU陣列、高帶寬光連接等硬件基礎。
超大規模數據中心通常占地面積達數十萬平方英尺,擁有5,000余臺服務器,管理著petabytes級的數據,能夠高效、快速處理海量數據。然而,這種規模的容量和功能也帶來了巨大的能耗壓力:國際能源署的數據顯示,2021年,數據中心的能源用量在220至330太瓦時(TWh)之間,約占全球最終電力需求的0.9%至1.3%,甚至超過了一些國家或地區全年的能耗。
許多數據中心的硬件組件通常以銅互連方式連接,而中心內各機架之間則往往使用光纖連接。如今,短距離光連接技術已經發展至爆發點,使用光電子技術的光學I/O完成交換機、CPU、GPU等核心芯片的互連以及Die-to-Die互連,正在迅速崛起成為下一代數據中心不可或缺的解決方案。利用光的特性,光子集成電路可以實現和擴展數據傳輸并提高傳輸效率。從物理學角度看,光電子技術在提高帶寬和速度、降低延遲和功耗方面遙遙領先,完全可以滿足數據中心以及AI聊天機器人的需求。
“我們致力于為醫療保健、金融、工業等行業打造優化的AI和量子系統,在這一過程中,光電子技術可大幅提升帶寬和速度,我們體驗到了其優勢所在。新思科技的光電子技術解決方案使我們以光速注入我們的技術,幫助客戶提升業務成果。”
Nagendra Nagaraja博士
QpiAI創始人兼首席執行官
02光電子技術:分散式數據中心的光學高速線路
目前,數據中心架構正轉向分散式設計,將存儲、計算和網絡等同質資源分別置于不同模塊,并以光學方式進行連接。這種架構不會造成資源浪費,中央智能單元負責確定并從每個模塊獲取所需的數據,然后通過光互連傳輸數據,而其余資源可用于處理其他工作負載。
除機架、房間和建筑間的配置外,光互連還有望成為CPU和GPU級別的主要連接方式,并通過光信號處理數據I/O。人們希望能夠以高帶寬光連接取代許多并行和高速串行電氣I/O通道,這推升了對近封裝光學器件和共封裝光學器件的需求。其中,近封裝光學器件在主控板上使用高性能PCB基板(中介層),而共封裝光學器件則將電芯片和光芯片集成在單個封裝中。雖然光電子技術在短期內不太可能完全取代傳統的電子半導體組件,但其顯然能夠有效滿足帶寬和延遲要求。同時,人們正在研究模擬和數字計算在光學領域中的價值。
03光電子技術:利用光速突破帶寬壁壘
Future Market Insights的數據顯示,2022年至2032年,PIC市場的年復合增長率將達到21.5%。顯然,憑借高速數據傳輸和低能耗特性,PIC開辟了一條新途徑,能夠幫助開發者突破帶寬障礙并盡可能降低能耗。
一些公司積極開發新技術以滿足帶寬需求并降低環境影響,走在行業發展前沿,比如推出了光電子AI計算平臺的LightMatter和開發了光互連小芯片的Ayar Labs。此外,還有一些公司正在設計使用光子而非電子作為算法核心的模擬和數字計算解決方案。光電子技術領域正在迎來持續的創新發展。
然而,PIC設計并不像傳統IC設計那樣簡單直接,其電路的性能同材料和光學特性密切相關,而光學特性又與幾何形狀有關。要想取得成功,需要了解最新的研究成果、工具和技術,并熟練掌握量子光學和物理光學的相關知識。
新思科技是業界唯一提供光電子器件、系統和IC無縫設計流程的公司,助力開發者成功完成光電子設計。新思科技還與各大代工廠密切合作,攜手推出簡化PIC開發的工藝設計套件(PDK),同時與政府組織合作開展光電子技術教育項目。新思科技大力投資技術,與瞻博網絡合資成立OpenLight,推出全球首個集成激光器的開放式硅光子平臺。
從ChatGPT到物聯網,高帶寬應用催生了對更高數據傳輸速度的需求。基于光電子技術的芯片應運而生,利用光的速度提供更高的帶寬、更低的延遲和更低的功耗。隨著光子IC的持續發展,電子行業必將迎接光明的未來。
審核編輯:湯梓紅
-
光電子
+關注
關注
1文章
120瀏覽量
17283 -
AI
+關注
關注
87文章
30763瀏覽量
268912 -
新思科技
+關注
關注
5文章
796瀏覽量
50334 -
ChatGPT
+關注
關注
29文章
1560瀏覽量
7604
原文標題:光電子技術為下一代AI打開超強算力格局
文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論