如果說一年前我們談論AI(人工智能)替代人類這個話題,還有點科幻的色彩,那么今天看來,其現實感已經變得越來越強。導致這一變化的根本原因就是ChatGPT來了!
表面上看,由OpenAI開發的ChatGPT就是一款聊天機器人軟件,能夠隨時回答你的任何問題,并不稀奇;但令人驚訝的是,它回答問題太有“水平”了——它可以用非常連貫且具有邏輯性的自然語言進行回應,讓你幾乎覺察不出來是在和一個“機器”進行對話。這種體驗,是之前其他AI應用所沒有的。
ChatGPT如此“智能”的奧秘,就在于其采用了所謂“生成式AI(Generative AI)”技術,這背后的引擎是一個基于海量高質量文本、程序、數學、對話等數據而訓練出來的大型的語言模型。從原理上講,只要訓練數據量足夠大、模型中的參數量足夠多,這一語言模型就能在壓縮信息的過程中抽象出一定的思維能力,包括推理、計算、預測等,從而更接近于一個真實的人。
而且值得注意的是,用戶與ChatGPT的每一次交互,實際上就是一次讓ChatGPT獲取新的數據,加速“學習和進化”的過程,因此僅僅在ChatGPT首次發布后的105天,我們就迎來了其新的版本ChatGPT-4。經測試,ChatGPT-4在一些人類考試中,竟然表現出了碾壓式的優勢,而且能夠完成論文撰寫、美術設計、代碼編程等任務——要知道這些工作以前一直被認為是人類特有的優勢技能,是AI難于勝任的。
正是由于ChatGPT各種顛覆性的表現,它的出現也被比喻為“AI的iPhone時刻”,言外之意,它有望徹底改寫AI領域的游戲規則,構建起一個全新的AI生態。
ChatGPT背后的技術焦慮
ChatGPT的創新固然令人興奮,不過對于科技圈的從業者來說,它也帶來了新的焦慮。這主要是因為ChatGPT太吃資源了!
首先,作為一個“大模型”,ChatGPT本身無論是在訓練還是推理上,對計算資源的消耗都是巨大的。其次,ChatGPT提供的巨大想象空間,讓越來越多的開發者和用戶趨之若鶩,根據OpenAI開發者大會提供的數據,今天有大約200萬開發者在使用ChatGPT的API進行各種用例的開發,ChatGPT每周活躍用戶大約有1億,如此龐大且快速擴展的生態,也需要充足的計算資源提供支撐。再有,ChatGPT的成功,也在刺激其他IT巨頭積極跟進,谷歌、Meta、百度等大廠都已經下場參與生成式AI大模型的角逐,更多的玩家也在跑步趕來,這也勢必會對全球的計算資源提出更高的需求。
不難想象,上述各方面的需求匯集在一起,最終都會聚集在“數據中心”這一個焦點上,形成前所未有的巨大壓強。因此,打造下一代適應ChatGPT等AI新應用的數據中心,成了當務之急。
下一代的數據中心什么樣?回答這個問題,有諸多現實的技術考量。歸納起來,主要有三個方面:
更強的算力
無論是GPU、專用的算力芯片,還是綜合各類計算架構優勢的異構處理單元,開發者一直在探索更強的數據中心算力平臺,以滿足不斷攀升的AI計算處理需求。
更高的能效
隨著計算密度和強度的增加,數據中心已經成為了名副其實的“吃電”大戶,與此伴生的散熱問題也一直是數據中心升級之路上的攔路虎。因此從器件到系統層面,如何提高算力效率、優化能效,也是一個重大的挑戰。
更高速的互連
數據中心是成千上萬數據處理、存儲、通信設備的集合體,不同設備節點之間、設備中不同板卡之間,以及電路板上功能單元之間的高速互連,也是確保數據高吞吐、高可靠傳輸至關重要的一環,這一點對上述高算力和高能效目標的實現也起著重要的支撐作用。
雖然從硬件的角度去看,數據中心的迭代速度遠不及ChatGPT這類純軟件新“物種”來得快,但是基于以往的經驗,開發者們還是有信心能夠通過未雨綢繆的提前布局,積極應對ChatGPT們帶來的挑戰。下面我們將著重觀察一下在ChatGPT的“壓力”下,互連技術的發展趨勢。
ChatGPT時代的互連技術
為了滿足AI對海量計算能力和存儲容量的需求,各個互連產品的技術迭代都在加速。這首先體現在對“速度”的追求上。
目前,在成熟的56Gbps PAM-4傳輸速率互連產品基礎上,整個數據中心行業正在向112Gbps PAM-4技術過渡,而針對更前沿的224Gbps PAM-4解決方案的研發也已經初嘗勝果。
另一個例子是人們所熟知的PCIe標準,從PCIe 3.0到4.0經歷了6年時間,而之后該標準的迭代明顯加快,基本上保持每兩年一代的升級速度。盡管新的PCIe 6.0標準預計要到2024年才能開始商用推廣,但PCI-SIG組織已經在今年宣布了下一代PCIe 7.0 v0.3版本的草案,將數據傳輸率提高到128GT/s,一個16通道(x16)連接所支持雙向帶寬也將翻番,達到512GB/s!
技術和標準的加速演進,體現了人們對未來的信心。不過,除了“速度”,互連技術與下一代數據中心生態的深度融合也十分重要,這也是促進新技術和新產品落地應用的關鍵一步。
比如OCP開放計算項目(Open Compute Project)就是連接器廠商普遍看重的一個生態平臺,其旨在通過開放開源硬件技術,實現可擴展的計算,提升數據中心硬件設計的效率,目前已經有200多家公司參與其中,共同定義和打造下一代開放、可擴展的數據中心架構。而對于連接器廠商來說,能夠在一系列數據中心的開放標準制訂之初就參與其中,讓自己的方案被標準所吸納,無疑就會獲得顯著的先發優勢。
因此可以看到,對更高速度的追求以及與開發生態的融合,是互連技術領域迎接ChatGPT時代時,非常關鍵的兩步棋,誰走得好,也就意味著其在未來AI為王的世界能夠占得先機。
面向未來的高速連接器產品
面對這樣的大趨勢,連接器廠商Molex很早就做了深度布局。這不僅體現在其“追新”的速度上——比如Molex已經率先開發出了一系列224Gbps PAM-4產品,還體現在其對新技術的產品化能力上,這有助于加速新標準的商用,極大地推動數據中心的全面升級。
今天我們就來認識幾款來自Molex的高速連接器產品,在ChatGPT時代的門前,它們都是強有力的敲門磚!
Molex QSFP-DD互連系統和電纜組件
在數據中心中,高速可插拔IO是設備和組件之間實現高速互連的主要方案之一。Molex的QSFP-DD互連系統和電纜組件是按照新一代多源協議(MSA)打造的高速可插拔IO解決方案,可通過8通道電氣接口實現28Gbps NRZ、56Gbps PAM-4和112Gbps PAM-4高速數據傳輸,聚合速率分別高達200Gbps、400Gbps,甚至是800Gbps。
QSFP-DD互連系統在物理尺寸上與前一代的QSFP相同,但是通道數量從4個增加到8個,連接的面板密度和傳輸帶寬提升了一倍,為數據中心系統升級提供了有力支撐。其能夠滿足或超出當前200G以太網和InfiniBand 100G(EDR)應用的需求,也支持傳統10Gbps以太網、14 Gbps(FDR)InfiniBand和16Gbps光纖信道應用,而且其電纜組件符合IEEE 802.3bj、InfiniBand EDR和SAS 3.0規格,適用于多種下一代技術和應用。
QSFP-DD互連系統的接合設計采用窄邊、耦合盲插、成形觸點的構型和嵌件成型方案,可以提供出色的信號完整性(SI)性能以及極低的插入損耗(IL)。堅固耐用的不銹鋼外殼,也有助于實現更好的EMI防護和抵御外力的沖擊。加上QSFP-DD標準固有的向后兼容性,Molex的QSFP-DD互連系統和電纜組件可以為數據中心向更高性能和更新架構的迭代提供理想的解決方案。
圖2:Molex QSFP-DD互連系統
(圖源:Molex)
Molex鏡像式夾層連接器
在數據中心中,實現更高密度的設備模塊和基板之間的高速互連,少不了板對板連接器的支持。Molex鏡像式夾層(Mirror Mezz)連接器提供了一種可堆疊插接、尺寸兼容、不分公母端的板對板連接解決方案。
這些連接器支持每差分對高達56Gbps NRZ或112Gbps PAM4的數據速率,其精巧的端子設計,采用了多種增強機械強度、提升電氣特性的優化舉措,可滿足特定場合對于更快傳輸速率的需要,是服務器、聯網設備、存儲器和其他基礎設施的理想選擇。
除了高速率,Mirror Mezz連接器的其他優勢特性還包括:
-
可擴展性:憑借尺寸兼容且公母同型的特點,Mirror Mezz連接器可輕松實現可擴展性和升級,而無需為將來的應用重新設計PCB。
-
節省空間:這些連接器將高密度觸點封裝在一個小巧而堅固的外殼中,外形緊湊。
-
節省成本:Mirror Mezz連接器可以自行配對,因此避免了因公母配對而帶來的額外采購工作量和庫存維護量,降低了應用成本,并顯著節省產品鑒定和測試所需資金和時間。
-
設計靈活:該連接器能夠對配不同的連接器變體,從而實現所需的堆疊高度,以適應特定的應用場合需求。
-
模塊內的無縫集成:Mirror Mezz連接器利用標準的BGA結構,兼容標準的SMT連接工藝,并且不需要任何定制。
-
縮短產品交期:連接器的針式觸點結構有助于縮短產品交貨時間,簡化了產品矩陣,因此可提高運營效率。
值得一提的是,OCP已經吸納Mirror Mezz連接器作為OAM / OAI模塊的連接器,這為該互連解決方案在未來的數據中心中施展拳腳鋪平了道路。
圖3:Molex Mirror Mezz連接器
(圖源:Molex)
NearStack PCIe連接器系統和線纜組件
在高速PCB板級設計中,快速可靠地將數據從A點傳輸到B點是一個常見的場景。而很多時候,在昂貴且擁擠的PCB上通過布線實現互連,并不是一個優選的解決方案。
Molex的NearStack PCIe連接器系統和線纜組件就是為解決這個痛點而開發的,其使用雙軸電纜作為PCB布線連接的替代方案,可以支持PCIe Gen-5 32Gbps數據傳輸速率,同時在減小插入損耗和信號延遲、提高信號完整性,以及節省互連成本上有突出的優勢。
高密度設計是NearStack PCIe連接方案的主要優點之一,該連接器和電纜組件設計得盡可能小而緊湊,且具有較低的插配高度,非常適合在服務器主板等擁擠的PCB環境中使用。
在提升連接的可靠性和魯棒性上,NearStack PCIe線纜連接器上集成的金屬閂鎖可與PCB連接器上的金屬籠嚙合,可在配接時形成堅固的正向閂鎖;其受保護接口可確保信號引腳不會出現“斜插”和大于6°的角度偏差。NearStack電纜插座上還配有柔性束的接觸接口,有助于避免回流焊造成的預裝載束松弛,減小難以返修的PCB側損壞的可能性。
總之,NearStack PCIe連接器系統和線纜組件支持高速率數據傳輸,連接密度高,易于安裝且所需維護量少,可靠性高而使用壽命長,提供了一種高性價比的板上互連解決方案,可靈活地擴展到下一代應用中,
圖4:Molex NearStack PCIe連接方案
(圖源:Molex)
本文小結
隨著ChatGPT的爆火,以大模型、大數據、高算力為特征的新一代AI技術已經走上了前臺,而對于數據中心等IT基礎設施的焦慮也在增加。解決這一對供需矛盾的關鍵,就在于加速技術迭代,增加新一代解決方案的供給。
在ChatGPT時代的高速互連技術領域,Molex的布局早已開始,他們不僅可以提供成熟的商用產品,也在不斷探索下一代的解決方案,從PCB板上連接,到不同組件之間的板對板連接,以及設備間高速IO互連,都可以全場景覆蓋。
ChatGPT時代需要什么樣的連接器?這個問題的答案,Molex顯然已經心中有數,而從Molex的產品和方案中,你也一定能夠找到解題的思路——
相關技術資源
Molex QSFP-DD互連系統和電纜組件,了解詳情>>
Molex鏡像式夾層連接器,了解詳情>>
Molex NearStack PCIe連接器系統和線纜組件,了解詳情>>
該發布文章為獨家原創文章,轉載請注明來源。對于未經許可的復制和不符合要求的轉載我們將保留依法追究法律責任的權利。
關于貿澤電子貿澤電子(Mouser Electronics)是一家全球知名的半導體和電子元器件授權代理商,分銷超過1200家品牌制造商的680多萬種產品,為客戶提供一站式采購平臺。我們專注于快速引入新產品和新技術,為設計工程師和采購人員提供潮流選擇。歡迎關注我們!
更多精彩
原文標題:ChatGPT時代,我們需要什么樣的連接器?
文章出處:【微信公眾號:貿澤電子】歡迎添加關注!文章轉載請注明出處。
-
貿澤電子
+關注
關注
16文章
1110瀏覽量
96600
原文標題:ChatGPT時代,我們需要什么樣的連接器?
文章出處:【微信號:貿澤電子,微信公眾號:貿澤電子】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論