2017年圖靈獎得主、現(xiàn)任谷歌工程師以及計算機體系結構宗師David Patterson表示我們正處于“后摩爾定律時代”。谷歌、英偉達、微軟、英特爾等各家公司都在探索不同的機器學習專用架構,最終市場會決定一切。對于硬件和軟件工程師而言,正有無數(shù)能獲得圖靈獎的機遇在前面。
2017年圖靈獎得主之一、加州大學教授、Google工程師和RISC先驅David Patterson表示,沒有什么是比現(xiàn)在從事計算機系統(tǒng)結構更好的時候了。
那是因為,摩爾定律真的結束了,他說:“如果摩爾定律仍然有效,那我們現(xiàn)在就落后了15倍。我們正處于后摩爾定律時代(post-Moore’s Law era)。”
上周,在圣何塞舉行的2018年@Scale會議上,Patterson表示,“我們已經(jīng)處于性能增長的最后階段。當性能每18個月翻一番時,人們就會丟掉用得好好的臺式電腦,因為他們朋友的新電腦速度要快得多得多。”
但去年,Patterson曾說,“運行單個程序的性能只增長了3%,因此它是每20年翻一番。如果你只是坐在那里等著芯片變得更快,你將不得不等待很長的時間。”
對于像Patterson這樣的計算機架構師來說,這實際上是個好消息。他同時指出,這也是軟件工程師創(chuàng)新的好機會。“專為處理特定類型計算問題而定制的革命性的新硬件架構和新軟件語言,正等待我們?nèi)ラ_發(fā),”Patterson說:“這些事情你只要去做,就有機會拿圖靈獎。”
作為軟件方面的一個例子,Patterson表示將Python重寫為C可以使性能提高50倍。加上其他一些優(yōu)化方法,速度會急劇增加,與原始Python程序相比性能提高1000倍也是完全有可能的。
在硬件方面,Patterson認為特定領域架構(domain-specific architectures,DSA)運行得更好。他說:“這不是魔術,只是我們能做的一些事情。”例如,應用程序并不都需要用同樣精度的計算。他說,對于有些應用,你可以使用比常規(guī)的IEEE 754標準更低精度的浮點運算。
Patterson說,機器學習是現(xiàn)在應用這種新架構和語言的最大機會。“如果你是做硬件的,”他說,“你希望你的朋友都恨不得要更多更多的計算機。”而機器學習對于計算來說是“貪婪的,我們太喜歡了”。
他說,如今,關于哪種類型的計算機架構最適合機器學習,業(yè)界有很多爭議,有很多公司在不同的架構上下注。谷歌擁有張量處理單元(TPU),每個芯片有一個核心和用軟件控制的內(nèi)存(而非緩存),英偉達的GPU則擁有80多個內(nèi)核;微軟正在走FPGA的路線。
至于英特爾,Patterson表示他們“在所有的賽道上都下了注”,為機器學習推銷傳統(tǒng)的CPU,收購Altera(這家公司向微軟提供FPGA),并且收購Nervana,后者專注于開發(fā)神經(jīng)網(wǎng)絡專用處理器(類似于谷歌的TPU)。
除了這些大公司外,Patterson表示至少還有45家硬件初創(chuàng)公司都在解決這個問題,即設計機器學習專用架構。最終,他說,市場將決定一切。
“現(xiàn)在,”他說,“是計算機系統(tǒng)結構的黃金時代。”
-
芯片
+關注
關注
455文章
50721瀏覽量
423172 -
摩爾定律
+關注
關注
4文章
634瀏覽量
79002 -
機器學習
+關注
關注
66文章
8408瀏覽量
132568
原文標題:圖靈獎得主David Patterson:將Python重寫為C,性能最高提升1000倍!
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論