谷歌云端可搶占GPU（最右邊一列），普遍降價40%

還愁用不起GPU？今天谷歌宣布云端可搶占GPU大幅降價，P100的價格每小時0.43美元，換算成人民幣只需2.77元。

不是每個人工作的時候都需要GPU，但對于那些需要的人來說，GPU是必不可少，越多越好。

但是，GPU很貴啊。此前谷歌、Facebook等巨頭開展了不少令人印象深刻的工作，其中不乏使用成百乃至上千GPU的例子，讓人望塵莫及。

不過，就像很多研究者預測的那樣，硬件的價格會不斷降低。今天，谷歌就宣布，他們整個GPU產品組合的可搶占價格大幅降低，比連接到按需GPU的降低了70%。

今年早些時候，谷歌云平臺宣布，可以將你的GPU連接到谷歌云計引擎（Google Compute Engine）和Google Kubernetes Engine上的可搶占虛擬機（Preemptible VMs）上——谷歌云端搶占式虛擬機的每小時的固定費用只要0.015美元，將GPU的使用價格降低了50％。今天，這個價格再往下走了40%。

谷歌表示，搶占式GPU（Preemptible GPUs）非常適合短期、容錯和批處理工作負載，比如機器學習（ML）和高性能計算（HPC）的客戶。使用搶占式GPU，你可以訪問大規模GPU基礎架構，只需支付可預測的低價格，無需對容量競標。

連接到可搶占虛擬機的GPU跟按需GPU基本相同，但有兩點重要的不同：因為是可搶占的，計算引擎可能會停止服務，停止服務前30秒會提前給你發送警告；你最多可以使用它們24小時。

任何連接到可搶占虛擬機實例的GPU都將被視為是可搶占的，并將以較低的價格進行計費。

現在，谷歌云平臺提供3種GPU，可以根據你的需要選擇使用。

GPU價格為每小時費率，每個連接到虛擬機的GPU都按秒計費。列出的價格適用于美國地區。其他地區的價格可能會有不同。額外的持續使用折扣（最高30％）僅適用于不可搶占GPU。

谷歌打起價格戰？

很多網友紛紛表示，谷歌這一大降價的背后，是對亞馬遜AWS的沖擊。

有人推測是因為谷歌推出了TPU 3.0，替換下來一大批不用的GPU。

也有人推測，是谷歌有一個新的產品要出現，降低舊產品市場的利潤率將使其他公司無法足夠盈利去投資研發并趕上自己。

總之，無論如何，這對于廣大群眾來說，是件好事。

如何使用云端可搶占GPU

結合自定義機器類型，具有可搶占GPU的搶占式虛擬機，讓你可以根據自己需要的資源構建計算堆棧，而不再需要其他資源。將可搶占GPU連接到自定義可搶占虛擬機（VM）中，你可以減少GPU VM的虛擬CPU或主機內存量。此外，你還可以使用可搶占本地SSD與谷歌的可搶占GPU進行低成本、高性能存儲選擇。

可搶占GPU的情況

進行機器學習研究的創新者、研究人員和學者，對硬件加速基礎設施的需求非常高，可搶占GPU具有可預測的低價格，因此兩者得到了很好的結合。

斯坦福大學助理教授Kayvon Fatahalian表示：“可搶占GPU有助于我們的研究小組使用我們的Scanner開源平臺大規模處理大型視頻集合。可預測的低成本使得單個研究生可以重復部署數百個GPU來處理基于機器學習的100,000小時電視新聞視頻分析。這個價格的下降使我們能夠以相同的預算執行兩倍的處理量。”

機器學習訓練和可搶占式GPU

訓練ML workloads非常適合使用帶有GPU的可搶占虛擬機。谷歌Kubernetes引擎和計算引擎的受管實例組（managed instance groups）讓你能為大型計算作業創建動態可擴展的帶GPU的可搶占虛擬機群集。你可以使用Tensorflow的檢查點功能（checkpointing）保存和恢復工作進度。

開始使用

要開始使用Google Compute Engine中的可搶占GPU，只需在gcloud中添加--preemptible到你的實例創建命令中，在REST API中指定scheduling.preemptible為true，或在Google Cloud Platform Console中將搶占性設置為“On”，然后像平時一樣添加GPU就行了。

你可以使用普通的GPU配額啟動可搶占GPU，或者，你可以申請特殊的可搶占GPU配額（https://cloud.google.com/compute/quotas），這個配額僅適用于與可搶占虛擬機相連的GPU。