深度學(xué)習(xí)應(yīng)用大量涌現(xiàn)使超級計算機的架構(gòu)逐漸向深度學(xué)習(xí)應(yīng)用優(yōu)化眷抠，從傳統(tǒng) CPU 為主 GPU 為輔的英特爾處理器變?yōu)?GPU 為主 CPU 為輔的結(jié)構(gòu)。不過锣猜，未來相當(dāng)長一段時間內(nèi)恍肢，計算系統(tǒng)仍將保持 CPU + 協(xié)處理器的混合架構(gòu)。但是俊伯，在協(xié)處理市場摧辣，隨著人工智能尤其是機器學(xué)習(xí)應(yīng)用大量涌現(xiàn)，芯片廠商紛紛完善產(chǎn)品阅酪、推出新品旨袒，都想成為智能時代協(xié)處理器的領(lǐng)跑者——但問題是，誰會擔(dān)當(dāng)這個角色呢?

TPU：始于谷歌术辐，終于谷歌

要說新的芯片砚尽，首先不得不提谷歌在剛剛結(jié)束的 I/O 大會上披露的TPU。

有輿論稱辉词，谷歌自己打造芯片必孤，勢必對芯片制造商產(chǎn)生巨大影響。確實瑞躺，面向機器學(xué)習(xí)專用的處理器是芯片行業(yè)的發(fā)展趨勢敷搪，而且未來其他大公司也很有可能組建芯片團隊，設(shè)計自己專用的芯片幢哨。

谷歌

TPU芯片

TPU 團隊主要負責(zé)人赡勘、計算機體系結(jié)構(gòu)領(lǐng)域大牛 Norm Jouppi 介紹嫂便，TPU 專為谷歌 TensorFlow 等機器學(xué)習(xí)應(yīng)用打造，能夠降低運算精度闸与，在相同時間內(nèi)處理更復(fù)雜毙替、更強大的機器學(xué)習(xí)模型并將其更快投入使用。 Jouppi 表示喳卢，谷歌早在 2013 年就開始秘密研發(fā) TPU弯枢，并且在一年前將其應(yīng)用于谷歌的數(shù)據(jù)中心。TPU 從測試到量產(chǎn)只用了 22 天珊娩，其性能把人工智能技術(shù)往前推進了差不多 7 年逊参，相當(dāng)于摩爾定律 3 代的時間。

有媒體評論稱 TPU 不僅為谷歌帶來了巨大的人工智能優(yōu)勢晕财，也對市面上已有的芯片產(chǎn)品構(gòu)成了威脅洪铣。

這后半句話值得商榷。GPU 巨頭姿味、英偉達 CEO 黃仁勛日前告訴《華爾街日報》学和，兩年前谷歌就意識到 GPU 更適合訓(xùn)練，而不善于做訓(xùn)練后的分析決策掘写。由此可知袋滔，谷歌打造 TPU 的動機只是想要一款更適合做分析決策的芯片。這一點在谷歌的官方聲明里也得到了印證：TPU 只在特定機器學(xué)習(xí)應(yīng)用中作輔助使用碘父，公司將繼續(xù)使用其他廠商制造的 CPU 和 GPU缩旬。

谷歌云服務(wù)副總裁 Diane Greene 也表示，谷歌并沒有對外銷售 TPU 的打算——拋開 TPU 本來就是為了谷歌自己設(shè)計的這個事實以外莱没，谷歌對外銷售芯片的可能性很低初肉，就像 Facebook 主張全球提供免費互聯(lián)網(wǎng)，也并不是自己要做運營商饰躲。

因此牙咏，TPU 再好，也僅適用于谷歌嘹裂，而且還是用于輔助 CPU 和 GPU妄壶。

TrueNorth 坐山觀虎斗?

第二個要說的是 IBM TrueNorth。IBM 在 2014 年研發(fā)出脈沖神經(jīng)網(wǎng)絡(luò)芯片 TrueNorth寄狼，走的是“類腦計算”的路線丁寄。類腦計算的假設(shè)是，相似的結(jié)構(gòu)可能會實現(xiàn)相似的功能泊愧，所以類腦計算研究者使用神經(jīng)形態(tài)器件制造與人腦神經(jīng)網(wǎng)絡(luò)相似的電子神經(jīng)網(wǎng)絡(luò)狡逢，希望后者具有與人腦類似的功能，并進一步反過來理解人類智能。

帶有IBM TrueNorth的DRAPA SyNAPSE

TrueNorth 一張郵票大小奢浑，有 54 億個晶體管，構(gòu)成的神經(jīng)元陣列包含 100 萬個數(shù)字神經(jīng)元窑肾，這些神經(jīng)元之間又通過 2.56 億個電突觸彼此通信鹤叹。由于采用了異步架構(gòu)，TrueNorth 的能耗很低玛纹，54 億個晶體管僅用 70 毫瓦;而且父历，只有在特定神經(jīng)元被開啟并和其他神經(jīng)元通信時才會產(chǎn)生能耗。TrueNorth 設(shè)計師 Filipp Akopyan 表示瑞喧，TrueNorth 的目標是 Edge-of-the-Net 和大數(shù)據(jù)解決方案斩却，所以必須要能夠用超低功耗實時處理大量數(shù)據(jù)。

在此基礎(chǔ)上藤汇，2016年 4 月 IBM 推出了用于深度學(xué)習(xí)的類腦超級計算平臺 IBM TrueNorth召摔，含 16 個 TrueNorth 芯片，處理能力相當(dāng)于 1600 萬個神經(jīng)元和 40 億個神經(jīng)鍵蜻肄，消耗的能量只需 2.5 瓦际终。

將低能耗芯片用于深度學(xué)習(xí)無疑是一大重舉，美國 LLNL 數(shù)據(jù)科學(xué)副主任 Jim Brase 表示琴致，類腦計算與未來高性能計算和模擬發(fā)展趨勢一致誓呆。但是，新智元芯片群的幾位專家討論后一致認為样刷，TrueNorth 雖然與人腦某些結(jié)構(gòu)和機理較為接近仑扑，但智能算法的精度或效果有待進一步提高，離大規(guī)模商業(yè)應(yīng)用還有一段距離置鼻。

因此镇饮，未來 10 年芯片市場群雄逐鹿，TrueNorth 大概不會有亮相的機會沃疮。

寒武紀：中國的智能芯片

寒武紀是國際首個深度學(xué)習(xí)專用處理器芯片盒让。2012 年，中科院計算所和法國 Inria 等機構(gòu)共同提出了國際上首個人工神經(jīng)網(wǎng)絡(luò)硬件的基準測試集 benchNN司蔬。這項工作提升了人工神經(jīng)網(wǎng)絡(luò)處理速度邑茄，有效加速了通用計算，大大推動了國際體系結(jié)構(gòu)學(xué)術(shù)圈對神經(jīng)網(wǎng)絡(luò)的接納度俊啼。此后肺缕，中科院計算所和法國 Inria 的研究人員共同推出了一系列不同結(jié)構(gòu)的 DianNao 神經(jīng)網(wǎng)絡(luò)硬件加速器結(jié)構(gòu)。

寒武紀芯片板卡

2016 年 3 月授帕，中科院計算所陳云霽同木、陳天石課題組、寒武紀公司提出的寒武紀深度學(xué)習(xí)處理器指令集 Cambricon 被計算機體系結(jié)構(gòu)領(lǐng)域頂級國際會議 ISCA 2016 接收，在所有近 300 篇投稿中排名第一膏逮，在深度學(xué)習(xí)處理器指令集方面取得了開創(chuàng)性進展拣壮。指令集是計算機軟硬件生態(tài)體系的核心，英特爾和 ARM 正是通過其指令集控制了 PC 和嵌入式生態(tài)體系琢刮。

2016 年 4 月呈缴，寒武紀進入產(chǎn)業(yè)化運營，陳天石也從中科院計算所的副研究員變成了北京中科寒武紀科技有限公司的 CEO耍烙。陳天石表示酌峻，寒武紀產(chǎn)業(yè)化運營的主要方向?qū)⑹歉咝阅?a target="_blank" style="text-decoration: none; color: rgb(51, 51, 51); border-bottom: 1px dotted rgb(153, 153, 153);">服務(wù)器芯片、高能效終端芯片和服務(wù)機器人芯片扼希。

寒武紀芯片預(yù)計 2018 年左右上市坊阎，其表現(xiàn)如何，值得期待工殖。

后起之秀概率芯片

2016 年 4月16 日惶政，MIT Techonolgy Review 報道，DARPA 投資了一款叫做“S1”的概率芯片昆淡。模擬測試中锰瘸，使用 S1 追蹤視頻里的移動物體，每幀處理速度比傳統(tǒng)處理器快了近 100 倍昂灵，而能耗還不到傳統(tǒng)處理器的 2%避凝。MIT 媒體實驗室教授、Twitter 首席媒體科學(xué)家 Deb Roy 評論稱眨补，近似計算的潮流正在興起管削。

美國 Singular Computing 公司開發(fā)的“S1”概率芯片(來源：MIT Techonolgy Review)

紐約州立大學(xué)石溪分校終身教授顧險峰從最基礎(chǔ)的數(shù)學(xué)層面分析了概率芯片的優(yōu)點，專用概率芯片可以發(fā)揮概率算法簡單并行的特點撑螺，極大提高系統(tǒng)性能含思。概率芯片所使用的隨機行走概率方法有很多優(yōu)點：算法邏輯異常簡單，不需要復(fù)雜的數(shù)據(jù)結(jié)構(gòu)甘晤，不需要數(shù)值代數(shù)計算;計算精度可以通過模擬不同數(shù)目的隨機行走自如控制;不同的隨機行走相互獨立含潘，可以大規(guī)模并行模擬;模擬過程中，不需要全局信息线婚，只需要網(wǎng)絡(luò)的局部信息遏弱。

顧險峰最后總結(jié)，隨著英特爾重組塞弊，傳統(tǒng) CPU 體系機構(gòu)獨霸江山的時代將一去不復(fù)返差齐，概率芯片和其他更多采用全新架構(gòu)的專用處理器分庭抗禮的時代即將來臨。

早在 2008 年 MIT Techonolgy Review “十大科技突破”預(yù)測中耘炭，概率芯片就榜上有名气弥。通過犧牲微小的計算精度換取能耗明顯降低，概率芯片在歷來追求精準的芯片領(lǐng)域獨樹一幟，但正因如此给措，再考慮到 DARPA 已經(jīng)投資 S1兆送，概率芯片很可能后來居上。

實力股

FPGA

2012年萧揩，百度決定自主設(shè)計深度學(xué)習(xí)專有的體系結(jié)構(gòu)和芯片榛娶，經(jīng)過深入研究和論證，為了讓項目快速落地及迭代泊鹿，工程師最后決定使用

    FPGA 實現(xiàn)百度第一版自主設(shè)計的深度學(xué)習(xí)專有芯片。作為 GPU 在算法加速上強有力的競爭者做鸽，F(xiàn)PGA 硬件配置最靈活蒙棱，單位能耗也通常比 GPU 低。更重要的是范咨，F(xiàn)PGA 相比 GPU 價格便宜(雖然性價比不一定是最好的)故觅。使用 FPGA 需要具體硬件的知識，對許多開發(fā)者有一定難度渠啊，因此 FPGA 也常被視為一種行家專屬的架構(gòu)输吏。不過，現(xiàn)在也出現(xiàn)了用軟件平臺編程 FPGA替蛉，弱化了軟硬件語言間的障礙贯溅，讓更多開發(fā)者使用 FPGA 成為可能。

加州大學(xué)計算機博士劉少山認為躲查，F(xiàn)PGA 具有低能耗它浅、高性能以及可編程等特性，十分適合感知計算镣煮。在能源受限的情況下姐霍，F(xiàn)PGA 相對于 CPU 與 GPU 有明顯的性能與能耗優(yōu)勢。FPGA 低能耗的特點很適合用于傳感器的數(shù)據(jù)預(yù)處理工作典唇。此外镊折，感知算法不斷發(fā)展意味著感知處理器需要不斷更新，F(xiàn)PGA 具有硬件可升級贾焊、可迭代的優(yōu)勢马前。劉少山預(yù)計，F(xiàn)PGA 與傳感器的緊密結(jié)合將會很快普及歇拦，而后隨著視覺累变、語音、深度學(xué)習(xí)的算法在 FPGA 上的不斷優(yōu)化命画，F(xiàn)PGA 將逐漸取代 GPU 與 CPU 成為機器人上的主要芯片囊弥。

目前還沒有任何深度學(xué)習(xí)工具明確支持 FPGA，但顯然它是一支實力股。

GPU：未來市場霸主?

憑借強大的并行計算能力姚库，在機器學(xué)習(xí)快速發(fā)展的推動下嘶遏，GPU 目前在深度學(xué)習(xí)芯片市場非常受歡迎，大有成為主流的趨勢被紊≡妆互聯(lián)網(wǎng)巨頭，比如谷歌丝仿、Facebook蟆豫、微軟、Twitter 和百度等公司都在使用 GPU 分析圖片懒闷、視頻和音頻文件十减，改進搜索和圖像標簽等應(yīng)用功能。GPU 也被應(yīng)用于 VR/AR 相關(guān)的產(chǎn)業(yè)愤估。此外帮辟，很多汽車生產(chǎn)商也在使用 GPU 作為傳感器芯片發(fā)展無人車⊥嫜妫可以說由驹，GPU 是眼下智能產(chǎn)品市場用戶覆蓋率最廣泛的芯片。

研究公司 Tractica LLC 預(yù)計昔园，到 2024 年深度學(xué)習(xí)項目在 GPU 上的花費將從 2015 年的 4360 萬增長到 41 億美元蔓榄，在相關(guān)軟件上的花費將從 1.09 億增長到 104 億。

但是蒿赢，也有人認為通用芯片 GPU 相比深度學(xué)習(xí)專用芯片并不具有優(yōu)勢润樱。

這有一定道理。然而羡棵，設(shè)計新的芯片需要很多年壹若，研發(fā)成本可能高達幾千萬甚至幾十億美元。而且鹤莹，專用芯片比通用芯片更難編程绰蚁。最重要的是，專用芯片——根據(jù)定義——只提升特定任務(wù)的性能表現(xiàn)坑遥，這也是為什么谷歌要制作 TPU 輔助 GPU 和 CPU嘁汞。

英偉達工程架構(gòu)副總裁 Marc Hamilton 表示，谷歌的 TPU 是一個非常有意思的技術(shù)剧廓，但其發(fā)布進一步印證了他們的觀點凰侈，那就是人工智能處理器將繼續(xù)從通用的 CPU 轉(zhuǎn)向 GPU 和 TPU 等其他芯片。此外馍丑，GPU 技術(shù)也在不斷發(fā)展郎丰，從算法層面加速智能感知計算速度吩饶。

Hamilton 還提到了百度人工智能科學(xué)家 Bryan Catanzaro 的話：深度學(xué)習(xí)并不是一個那么窄的領(lǐng)域，從計算角度看洛惹，深度學(xué)習(xí)是多樣化的而且演化迅速;要是制造一款適用于所有深度學(xué)習(xí)應(yīng)用的專用芯片唯乃，本質(zhì)上也就成了 GPU 或 DSP。

當(dāng)然奋构，GPU 也有缺陷壳影，比如不如 FPGA 靈活。同時弥臼，GPU 也不乏競爭者：除了同樣具備并行計算能力的 AMD宴咧，Nervana、Movidius 等公司都在制作與 GPU 類似的芯片径缅，但側(cè)重于把數(shù)據(jù)更快轉(zhuǎn)移和分攤給圖像所需要的功能悠汽。

小結(jié)

除了采用其他架構(gòu)，研究人員很早就開始探索使用新材料制作芯片芥驳。2015 年，三星茬高、Gobal Foundries兆旬、IBM 和紐約州立大學(xué)等機構(gòu)組成的研究聯(lián)盟推出了一個 7 納米的微芯片，其晶體管大約一半都由硅鍺(SiGe)合金制成怎栽。石墨烯也是芯片研發(fā)一個重點丽猬。機器學(xué)習(xí)加速新材料發(fā)現(xiàn)，也意味著使用新材料制作的芯片出現(xiàn)幾率大大提高熏瞄。

總之脚祟，谷歌自己打造 TPU 預(yù)示著未來更多非半導(dǎo)體公司或許也將開始生產(chǎn)硬件;硬件制造商必須不斷改進自己的產(chǎn)品，與 CPU 進行更好的配合惊申，并且貼近用戶越來越多樣化的需求烂攒。