美國(guó)當(dāng)?shù)貢r(shí)間11月28日济赎,在re:Invent大會(huì)上,亞馬遜旗下的云服務(wù)公司AWS宣布將在2019年正式推出自己研發(fā)的AI芯片AWSInferentia记某,主要用于機(jī)器學(xué)習(xí)推理應(yīng)用司训。
AWS CEO安迪·杰西(AndyJassy)表示,該芯片具有高吞吐量液南、低延遲壳猜、性能高且極具成本效益,這將會(huì)是“行業(yè)顛覆者”滑凉。
此次AWS發(fā)布的AI芯片主要通過其云業(yè)務(wù)向外提供服務(wù)忿震,并不直接出售這些芯片,因此二娄,杰西口中的這一“行業(yè)顛覆者”并不會(huì)對(duì)芯片巨頭英特爾和英偉達(dá)構(gòu)成直接威脅肚浴。
Inferentia支持FP16和INT8精度,并將支持主流深度學(xué)習(xí)框架辙求。杰西稱Inferentia芯片的計(jì)算力將會(huì)高達(dá)幾百TOPS盲并。
AI芯片主要分為云端和終端芯片。目前主流的深度學(xué)習(xí)算法包括訓(xùn)練和推理兩個(gè)階段弟诲。英偉達(dá)的GPU和英特爾的CPU分別占據(jù)了訓(xùn)練和推理兩大市場(chǎng)吻悍。
杰西稱,機(jī)器學(xué)習(xí)計(jì)算成本的絕大部分用于推理徘伯,這一比例高達(dá)90%囚上。他認(rèn)為,AWS發(fā)布的云端AI專用芯片Inferentia將極具成本效益就考。
從軟件到硬件痰拢,AWS的產(chǎn)品和服務(wù)覆蓋面越來越廣。就在本周贯卦,AWS還發(fā)布了基于ARM架構(gòu)的Graviton云計(jì)算處理器芯片资柔,這一產(chǎn)品更側(cè)重于低成本高能效的計(jì)算。AWS在數(shù)據(jù)中心使用Arm芯片撵割,或許將對(duì)英特爾的主導(dǎo)地位提出挑戰(zhàn)贿堰。
AWS發(fā)布的上述芯片與此前收購的以色列芯片企業(yè)AnnapurnaLabs密不可分。2015年啡彬,亞馬遜以3.5億美元收購了這一公司羹与。
不過,這并不意味著AWS將重點(diǎn)轉(zhuǎn)移到硬件上庶灿。在會(huì)后接受采訪時(shí)纵搁,杰西稱吃衅,AWS致力于打造自己的軟件和服務(wù),而硬件方面可以選擇不同的硬件產(chǎn)品腾誉。AWS早期主要使用戴爾徘层、惠普等OEM廠商的產(chǎn)品,現(xiàn)在則會(huì)自己設(shè)計(jì)硬件和芯片妄辩,“我們歡迎不同的硬件供應(yīng)商惑灵,我們希望能夠獲得合適的硬件價(jià)格,這樣客戶也可以降低成本伟蕾,因此打造更好的客戶體驗(yàn)私舱。”
縱觀全球,越來越多的云服務(wù)廠商開始推出自己的AI專用芯片配昼。在今年I/O大會(huì)上菊舅,谷歌發(fā)布了其第三代TPU芯片。阿里巴巴也在今年宣布將推出AI芯片如癌。
與英偉達(dá)舆滞、英特爾這些芯片廠商相比,云服務(wù)廠商的AI芯片計(jì)劃仍處于相對(duì)初級(jí)階段顿墨。同時(shí)服讯,從目前來看,云服務(wù)廠商的芯片主要是自用稼孤,基于自身的AI應(yīng)用打造授灵,并不向外出售。
但這一趨勢(shì)最終仍可能會(huì)影響傳統(tǒng)芯片廠商的業(yè)務(wù)扇述,因?yàn)锳WS藏亲、谷歌和阿里這些云服務(wù)大廠是英特爾和英偉達(dá)等的重要客戶。隨著上述云服務(wù)廠商的自研AI芯片越來越成熟匪煌,他們將會(huì)減少對(duì)芯片供應(yīng)商的依賴责蝠。
同時(shí),初創(chuàng)企業(yè)或許也將受到影響萎庭。據(jù)市場(chǎng)研究公司CompassIntelligence發(fā)布的全球AI芯片排行榜霜医,除了英偉達(dá)、英特爾等傳統(tǒng)芯片公司巨頭驳规,寒武紀(jì)支子、地平線等AI芯片公司也位居前列。這類初創(chuàng)公司吸引了眾多投資者的興趣达舒,甚至在未發(fā)布產(chǎn)品的情況下獲得大量投資。但是叹侄,初創(chuàng)企業(yè)能獲得的客戶有限巩搏,而且市場(chǎng)容量也有限昨登。
人工智能技術(shù)和產(chǎn)業(yè)化平臺(tái)供應(yīng)商小i機(jī)器人CEO朱頻頻此前告訴記者,他認(rèn)為從商業(yè)模式看贯底,做芯片的目的是為了減少芯片的體積丰辣、功耗和成本。而要能夠達(dá)到低成本挽后,必須達(dá)到一定的銷量滥港,“這就意味著你要去做的應(yīng)用場(chǎng)景必須是一個(gè)標(biāo)準(zhǔn)的可被復(fù)制的場(chǎng)景,不能太針對(duì)化镇盛。而一旦找到一個(gè)非常標(biāo)準(zhǔn)的應(yīng)用場(chǎng)景换蛔,巨頭們都進(jìn)來了。在這種情況下卜锡,不是我們這種公司所能夠做好的孽强。”
清華大學(xué)微電子所所長(zhǎng)魏少軍曾指出,AI芯片的發(fā)展很可能會(huì)在未來2~3年遭遇一個(gè)挫折期歉赴。今天的部分氮妆,甚至大部分創(chuàng)業(yè)者將成為這場(chǎng)技術(shù)變革中的“先烈”。