在2018年云棲大會新一代異構計算專場的論壇上，阿里巴巴資深架構師徐凌杰發布了AI Matrix——AI Benchmark 基準測試平臺，可以幫助開發者解決四大關鍵問題：真實反應AI應用和模型使用的現實情況，對包括GPU在內的AI加速器解決方案的引入評估和選型制定一個標準，提高硬件的利用率，以及對AI芯片的架構定義設計以及優化提供指引。

所謂 “沒有規矩，不成方圓”，縱觀計算機體系結構的發展史，Benchmark一直在幕后擔任著指揮棒的角色，深刻地影響、甚至左右著芯片行業的發展。遠到超算領域的Linpack，CPU界的SPEC，近到GPU世界的3DMark以及智能手機的AnTuTu，不知道有多少公司多少工程師為此而“分”狂。AI 領域的benchmark卻一直缺乏有領導性地位的公司帶領。

在2018年云棲大會新一代異構計算專場的論壇上，阿里巴巴資深架構師徐凌杰發布了AI Matrix——AI Benchmark基準測試平臺（https://aimatrix.ai），結合阿里在芯片領域的布局以及在AI方面的投入，重磅推出阿里的Benchmarks。

阿里的愿景是“讓天下沒有難做的生意”，AI Matrix定位則是“讓天下沒有難測的AI加速器”。

“我們不僅會將這套平臺用于阿里內部的芯片設計和技術選型，同時也會把一部分的能力，通過（https://aimatrix.ai）網站以及相應的代碼庫開放，讓所有有需要或者有志于為AI軟硬件做出貢獻的人，都可以從中獲益。”

“阿里是一家技術公司，但也是一家平臺型的公司，平臺型的公司特點就是要有開放性和包容性，我們希望通過自身經驗能夠幫到更多的人。一起共同來繁榮AI芯片、AI加速器這個市場，這是我們做AI Matrix的使命。”

芯片是AI發展的核心技術

根據權威的行業分析報告，AI芯片的市場將會從今年的70億美金增長到2025年600億美金的市場。在AI的三要素中，數據和算法都是阿里優勢比較明顯的地方，同時在算力上阿里也在大力推進芯片方面的布局。

“萬事俱備，只欠東風。我們做芯片和造房子有點像，工程復雜度高，周期長，其中的核心人物在英文里都叫Architect，架構定的好不好是項目成敗的根本。我們必須要從應用的需求出發，要做到Domain Specific軟硬件的完美結合，就要定出一套合理的評估衡量標準，Benchmark就是一個硬需求，我們不僅要做，而且要花心思去做，把它給做好，這就是我們要借的東風。”

AI時代需要不一樣的Benchmark

Benchmark可以幫助阿里以及開發者解決以下四個關鍵性問題：

通過調研和集群信息收集，真實反應AI應用和模型使用的現實情況

基于現有信息，對包括GPU在內的AI加速器解決方案的引入評估和選型制定一個標準

利用這些頭部用例進一步推進軟硬件融合，提高硬件的利用率

結合行業前沿的算法，對AI芯片的架構定義設計以及優化提供指引

“所以，在開始Benchmark的項目之初，我們就定好了平臺化，靈活性，專業性以及可移植性四個主要方向，并創新性地提出了合成模型StatsNet來幫助我們實現信息及時靈活以及輕量級地落地，來促進AI加速器及時準確的迭代。”

“我們初期的研發工作也得到了外界的認同，關于合成模型的方法論的論文也已經被今年即將在達拉斯舉行的SC超算會議錄用。”

AI = Architecture Intelligence

AI Matrix的定位將不僅僅是一個簡單的測試集，而是希望能夠在將來提供完整的工具鏈以及解決方案。在定位上，除了在做好Benchmark本身最基本的評測功能之外，阿里巴巴也會把它拓展到應用和資源優化的領域，不僅做到Domain Specific軟硬件結合，同時也能做到Agile Design架構的快速迭代。

“我們誠摯感謝合作伙伴對于阿里巴巴在人工智能發展推進上的支持和反饋，也希望有更多的公司組織甚至個人都能夠參與到我們的項目中來，一起來攜手共建更強大的AI 芯片架構的基礎設施。”

希望AI Matrix成為AI芯片設計的征程上最好的指南針，不僅能夠陪你走到目的地，而且能夠讓你看到最好的風景。