9月14-15日，2023全球AI芯片峰會將在深圳灣萬麗酒店舉行。清華大學教授、中國半導體行業協會副理事長魏少軍領銜50+位演講嘉賓，NVIDIA高通英特爾AMD齊聚，近30家中國AI芯片與算力企業登臺交鋒，4家Chiplet創業創新團隊亮相，6位分析師和投資人帶來報告分享。峰會最終議程已公布，歡迎大家報名，線下參會交流。

由 GPT-4 等大型語言模型 (LLM) 支持的生成式人工智能在科技界引起了巨大震動。ChatGPT 的迅速崛起引發了全球科技行業對人工智能的重新評估和優先考慮，實時重塑了產品戰略。

LLM 的整合為產品開發人員提供了一種簡便的方法，將人工智能驅動的功能融入到他們的產品中。但并非一帆風順。產品領導者面臨著一個巨大的挑戰：GPU 短缺和成本飆升。

01.LLMs的興起和GPU短缺

越來越多的人工智能初創公司和服務導致對 A100 和 H100 等高端 GPU 的高需求，從而壓垮了 Nvidia 及其制造合作伙伴臺積電，兩者都在努力滿足供應。Reddit 等在線論壇上充斥著對 GPU 可用性的不滿，這呼應了整個技術社區的情緒。情況變得如此可怕，AWS 和 Azure 都別無選擇，只能實施配額系統。

這個瓶頸不僅擠壓了初創企業，也擠壓了初創企業的發展。對于 OpenAI 這樣的科技巨頭來說，這是一個絆腳石。最近在倫敦舉行的一次非正式會議上，OpenAI 首席執行官 Sam Altman坦誠承認，計算機芯片短缺正在阻礙 ChatGPT 的進步。據報道，Altman 感嘆計算能力的缺乏導致 API 可用性低于標準，并阻礙 OpenAI 為 ChatGPT 推出更大的“上下文窗口”。

推薦一場會議。2023全球AI芯片峰會將于9月14-15日在深圳灣萬麗酒店舉行，NVIDIA 解決方案與架構技術總監張瑞華首次參會，將圍繞《生成式 AI 與大語言模型時代的 NVIDIA GPU 生態》這一主題帶來演講。歡迎大家報名參會~

02.優先考慮AI功能

一方面，產品領導者發現自己陷入了不懈的創新之中，面臨著利用新一代人工智能的力量提供尖端功能的期望。另一方面，他們還要應對 GPU 容量限制的嚴峻現實。這是一個復雜的雜耍行為，無情的優先順序不僅成為戰略決策，而且成為必要。 鑒于 GPU 可用性在可預見的未來仍將是一個挑戰，產品領導者必須戰略性地考慮 GPU 分配。傳統上，產品領導者依賴于優先級劃分技術，例如客戶價值/需求與努力矩陣。無論這種方法在計算資源豐富的世界中多么合乎邏輯，現在都需要進行一些重新評估。 在我們當前的范式中，計算是限制因素，而不是軟件人才，產品領導者必須重新定義如何確定各種產品或功能的優先級，將 GPU 的限制帶到戰略決策的最前沿。 對于科技行業來說，圍繞容量限制進行規劃似乎不尋常，但在其他行業卻是一種常見策略。基本概念很簡單：最有價值的因素是在受限資源上花費的時間，目標是優化在該約束上花費的每單位時間的價值。

03.技術成功指標

作為一名前顧問，我已成功地將這個框架應用于各個行業。我相信，在 GPU 限制存在的情況下，科技產品領導者也可以使用類似的方法來確定產品或功能的優先級。應用此框架時，最直接的價值衡量標準是盈利能力。 然而，在科技領域，盈利能力可能并不總是合適的衡量標準，特別是在涉足新市場或新產品時。因此，我調整了該框架，以與技術中普遍使用的成功指標保持一致，概述了一個簡單的四個步驟過程：

1.貢獻 首先也是最重要的，確定你的北極星指標。這是每個產品或功能的貢獻，概括了其價值的本質。一些具體的例子可能包括：

收入和利潤增加

市場份額的增長

日/月活躍用戶數增長

2. 所需GPU數量 衡量每個產品或功能所需的 GPU 數量。重點關注關鍵因素，包括：

每個用戶每天的查詢數

日活躍用戶數

查詢的復雜性（每個查詢消耗多少令牌）

3.計算每個GPU的貢獻

把它分解到具體細節。每個 GPU 對總體目標有何貢獻？了解這一點將使您清楚地了解 GPU 的最佳分配位置。 根據每個 GPU 的貢獻確定產品的優先級 現在，是時候做出艱難的決定了。根據每個 GPU 的貢獻對您的產品進行排名，然后進行相應的排列。首先關注每 GPU 貢獻最高的產品，確保將有限的資源投入到能夠產生最大影響的領域。 由于GPU 限制不再是盲點，而是決策過程中的可量化因素，您的公司可以更有策略地應對 GPU 短缺問題。為了使這個框架變得生動起來，讓我們想象一個場景，在這個場景中，作為產品領導者，您正在努力應對在四種不同產品之間確定優先級的挑戰：

盡管產品 A 具有最高的收入潛力，但它并沒有為每個 GPU 帶來最高的貢獻。令人驚訝的是，產品 D 的收入潛力最小，但每個 GPU 的回報卻最高。通過根據此指標確定優先級，您可以最大化總潛在收入。 假設您總共有 1,000 個 GPU 可供使用。一個簡單的選擇可能會讓您選擇產品 A，從而產生 1 億美元的潛在收入。但是，通過應用上述優先級策略，您可以獲得 1.55 億美元的收入：

同樣的方法可以應用于其他貢獻指標，例如市場份額增益：

同樣，選擇產品 A 會導致市場份額增加 5%。然而，應用上述優先級策略，您可以獲得 7.75% 的市場份額增益：

04.優點和限制

這種替代的優先級框架引入了一種更加細致和更具戰略性的方法。通過專注于每個 GPU 的貢獻，您可以戰略性地調整資源，使其能夠發揮最大的作用，無論是在收入、市場份額還是任何其他定義指標方面。 但優點還不止于此。這種方法還可以增強產品團隊的清晰度和客觀性。根據我的經驗，包括我早期在一家醫療保健公司領導數字化轉型以及后來與麥肯錫的各種客戶合作時，這種方法在容量限制是關鍵因素的情況下改變了游戲規則。它使我們能夠以更加數據驅動和理性的方式確定計劃的優先順序，從而將傳統政治邊緣化，否則決策可能會落在房間里最響亮的聲音的手中。 然而，不存在一刀切的解決方案，并且值得承認這種方法的潛在局限性。例如，這種方法可能并不總是體現某些投資的戰略重要性。因此，雖然可以而且應該對框架做出例外，但應該仔細考慮例外情況，而不是規范。這樣可以保持流程的完整性，并確保任何偏差都是在考慮到更廣泛的戰略背景的情況下做出的。

05.結論

產品領導者面臨著前所未有的GPU 短缺局面，因此需要尋找新的資源管理方法。用偉大的軍事家孫子的話來說，“混亂之中也蘊藏著機遇”。 GPU 短缺確實是一個挑戰，但如果采取正確的方法，它也可能成為差異化和成功的催化劑。所提出的優先級框架側重于每個 GPU 的貢獻，提供了一種確定優先級的戰略方法。通過專注于每個 GPU 的貢獻，公司可以最大限度地提高投資回報，將資源調整到能夠產生最大影響的地方，并專注于對公司長期成功最重要的事情。

編輯：黃飛