關注云服務市場的讀者朋友想必都知道，雖然芯片市場早已有著英特爾、AMD、英偉達、高通、聯發科技等諸多強有力的廠商，但是近年來針對某些應用，越來越多的云服務商開始推出自研芯片。

那么問題就來了：究竟是什么樣的原因，讓這些云服務商走上了定制芯片的道路？與大家熟知的傳統芯片相比，這些定制芯片究竟擁有哪些優勢？對于芯片市場而言，這種變化又預示著怎樣的未來？

作為亞馬遜云科技EC2產品管理總監，Chetan Kapoor主要負責人工智能、機器學習、高性能計算、圖像處理、游戲開發等業務。在2022亞馬遜云科技re:Invent全球大會現場，趣味科技通過對Chetan Kapoor的采訪，逐一揭曉了以上問題的答案。

亞馬遜云科技的三類計算服務

在計算領域，亞馬遜云科技的產品與服務主要有三個大的分類。

1、按需索取：以Amazon EC2為代表。Amazon EC2的核心能力，就是將重要資源分離開來并按需交給客戶。客戶無需在本地進行硬件堆砌，只需使用一個API或者在亞馬遜云科技的控制臺發出計算資源請求后，即可向客戶提供所需的服務。

2、無服務器：以Amazon Lambda系列為代表。該系列產品是一種無服務器計算組件，客戶無需管理計算資源，只需提供相關代碼并允許亞馬遜云科技執行代碼，亞馬遜云科技就會圍繞該代碼提供一系列的相關應用，客戶只需做好應用即可。

3、容器計算：容器化計算的所有應用都是基于容器，亞馬遜云科技提供了一系列可以幫助客戶開發容器化應用的服務；Amazon Fargate則讓客戶只需要創建容器，給出指令“這是我的容器，運行它”即可。

亞馬遜云科技的自研芯片之旅

Chetan Kapoor透露，之前亞馬遜云科技在很長時間里都是用英特爾、英偉達、AMD等合作伙伴的芯片，譬如Amazon EC2就是基于英特爾提供的芯片開發的，在機器學習領域采用了英偉達的GPU效果也非常不錯。然而后續亞馬遜云科技也不斷收到客戶的積極反饋，希望能夠有更加細化的產品服務可供選擇，幫助客戶圍繞某些應用降本增效，提升性能，以及更好地匹配應用需求。

“十年前亞馬遜云科技開始做自研芯片，剛開始是Amazon Nitro虛擬化芯片，后面又開始打造Amazon Graviton CPU芯片。過去的四到五年里，我們的重點都是持續構建芯片來加速人工智能和機器學習應用的開發。”Chetan Kapoor介紹道，亞馬遜云科技的自研芯片之旅是從開發Amazon Nitro芯片開始，它是幫助用戶卸載虛擬化工作負載的專用芯片。通常硬件虛擬化的主要方式是讓虛擬化軟件在同一臺服務器上運行，支持客戶的工作負載。假設客戶的服務器是48核心，那么大概需要預留10%-15%的算力來運行虛擬化軟件。而Amazon Nitro是有自己獨立CPU的芯片，具備單獨完成虛擬化的能力，服務器就不需要承擔虛擬化軟件的資源開銷，可以給客戶交付更高性能的實例（云主機）。從此，亞馬遜云科技就走上了定制芯片之路，也開始開發通用處理器，其中第一個版本就是4年前推出的Amazon Graviton。

除此之外，人工智能與機器學習也是客戶向亞馬遜云科技反饋較多的領域，尤其是當前深度學習模型的應用普及非常迅速，每年都會有十幾倍的增長，訓練這些深度學習模型需要消耗大量算力和成本，讓許多企業不堪重負。為了幫助客戶降低成本，亞馬遜云科技開始進行自研深度學習推理芯片的開發，發布的第一款芯片就是2019年推出的Amazon Inferentia。隨后亞馬遜云科技又再接再厲推出了Amazon Trainium，主要針對機器學習訓練工作負載。

在亞馬遜云科技2022 re:Invent全球大會上，亞馬遜云科技高級副總裁Peter DeSantis重磅發布了Nitro v5，其晶體管數量是前一代產品的2倍，提供了更多的計算性能，同時帶來了50%的DRAM內存性能提升，2倍的PCle 帶寬提升，每秒數據包速率（PPS） 提高60%，延遲改善30%，每瓦性能提高40%。亞馬遜云科技CEO Adam Selipsky也在會上發布了下一代Amazon Inferentia2（簡稱Inf2），與Inf1實例相比可提供高3倍的計算性能、高4倍的吞吐量和低10倍的延遲。

定制芯片性能高成本低的奧秘

為什么與商用芯片相比，定制芯片既可以做到非常高的性能，又能夠做到非常低的成本？

Chetan Kapoor揭曉了其中的奧秘：“因為專用芯片把運算能力都給到了客戶，極大地提升了效率。以剛才介紹的Amazon Nitro為例，Nitro的特殊之處在于獨立性，整個虛擬化是在獨立的芯片和服務器運行，因此可以讓客戶得到服務器100%的算力資源，這也意味著客戶得到的計算性能更高、成本更低。”

在Amazon Nitro芯片研發取得成功之后，亞馬遜云科技就開始著手研發自己的處理器，希望能夠幫助客戶降低成本，提升效率。事實也證明，Amazon Graviton2的同規格實例性價比提升高達40%。而在人工智能與機器學習領域，亞馬遜云科技也專門研發了針對機器學習推理的芯片，可以帶來更好的性能、更低的成本以及更強的機器學習推理能力。與Amazon Graviton帶來的收益類似，客戶可以看到亞馬遜云科技提供的機器學習芯片無論是用于模型訓練還是日常生產，性價比都要比其他同類產品高出40%-50%。

在2022亞馬遜云科技re:Invent全球大會上，亞馬遜云科技高級副總裁Peter DeSantis還發布了Amazon Graviton3E 芯片以及高性能計算實例HPC7g、C7gn，與現有的Graviton系列產品相比，新的Amazon Graviton3E芯片無論是性能還是精度都有著更高的提升，其中對依賴矢量計算指令的工作負載其性能提高了35%。

定制芯片將會成為未來主流

從2006年3月14日亞馬遜云科技發布第一個云存儲服務Amazon Simple Storage Service（簡稱S3）至今，云計算已經走過了16年的發展歷程。然而在Chetan Kapoor看來，其實一切還只是剛剛開始：“如今許多傳統行業，包括金融和醫療等很多都還處于上云的初級階段，很多企業還在用自建的數據中心，因此云計算在未來還有著非常廣闊的發展前景。”

而對于定制芯片的未來，亞馬遜全球副總裁兼CTO Werner Vogels博士有著這樣的預測：“2023年定制芯片的使用將迅速增加。因此，隨著工作負載將利用硬件優化來最大限度地提高性能，同時降低能耗和成本，創新的步伐將會進一步加快。”

Werner Vogels博士指出，在消費技術行業，定制芯片和定制硬件因為在性能上的顯著提升而獲得了迅速發展，但是商業應用程序和系統的情況卻并非如此。然而隨著定制芯片的普及和采用，這種情況將在未來幾年迅速發生改變。亞馬遜云科技近年來之所以在芯片設計上投入大量資金，正是因為亞馬遜云科技知道客戶的工作負載在定制芯片上運行，會具有更好的性能以及更高的成本效益。

“以機器學習工作負載為例，未來幾年越來越多的工程師將會看到將工作負載轉移到專為模型訓練（Amazon Trainium）和推理（Amazon Inferentia）設計的芯片所帶來的好處。通過使用基于Trainium的實例實現約50%的訓練成本節省，或者使用基于Inferentia2的實例實現50%的每瓦特性能提升，工程師和企業都會注意到，我們將開始工作負載的大規模遷移。而在性能提升以及成本節約上的巨大優勢，也將帶來更多的實驗、創新以及應用，并最終為其他特定工作負載提供更多的定制芯片，從而形成一個良性循環。”Werner Vogels博士表示。

審核編輯 ：李倩