云天勵(lì)飛IPU聚焦嵌入式視覺智能終端

據(jù)介紹源哩，云天勵(lì)飛AI芯片的技術(shù)路線是通過設(shè)計(jì)一系列面向多層神經(jīng)網(wǎng)絡(luò)的可編程處理器鞋吉，應(yīng)對人工智能算法的快速迭代。“我們首創(chuàng)的‘自適應(yīng)云+端’AI系統(tǒng)架構(gòu)励烦，可通過云端邏輯控制終端芯片谓着，自動(dòng)更新終端芯片的算法和功能泼诱。”據(jù)云天勵(lì)飛聯(lián)合創(chuàng)始人、CEO陳寧介紹赊锚，云天勵(lì)飛自主研發(fā)的專用深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器芯片治筒，采用ASIP設(shè)計(jì)思路，提供ASIC級(jí)別高性能和低功耗舷蒲，也能提供處理器級(jí)別的指令集靈活性耸袜。同時(shí)，采用異構(gòu)計(jì)算多核SOC架構(gòu)牲平，集成多處理器單元妨宪，并行分布式處理與集中控制系統(tǒng)。

與傳統(tǒng)芯片迭代速度相比荡将，AI芯片迭代更快涵群。“目前來說，算法每半個(gè)月迭代一次您账，AI芯片則要同步迭代盲拐，而傳統(tǒng)芯片的迭代是按年計(jì)算。現(xiàn)有的CPU或GPU無法滿足嵌入式端視覺AI應(yīng)用爽附。”據(jù)云天勵(lì)飛研發(fā)副總李愛軍表示号均，通用CPU在神經(jīng)網(wǎng)絡(luò)加速上速度慢，性能上滿足不了對嵌入式端的需求;GPU性能是夠的蝗淡，但功耗高易震、成本居高不下。“所以避顶，我們覺得有必要去研究適應(yīng)新型神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)處理器架構(gòu)芯片烈瑰。”而云天勵(lì)飛研發(fā)的芯片是面向嵌入式端的邊緣計(jì)算人工智能芯片，專注智能視覺蟋软，聚焦在安防镶摘、智能商業(yè)等領(lǐng)域的場景應(yīng)用。

擁有國內(nèi)頂尖ASIP矢量處理器芯片設(shè)計(jì)團(tuán)隊(duì)

“云天勵(lì)飛做芯片不是臨時(shí)起意岳守，而是從公司創(chuàng)立之初就開始了芯片的布局凄敢。”據(jù)陳寧介紹，云天勵(lì)飛早在2014年就有了完整的“機(jī)器學(xué)習(xí)與視覺智能處理器”AI芯片解決方案湿痢，并獲得2015年深圳孔雀團(tuán)隊(duì)第一名涝缝。

在當(dāng)時(shí)，云天勵(lì)飛的芯片研發(fā)團(tuán)隊(duì)是國內(nèi)AI芯片界唯一有芯片商用經(jīng)驗(yàn)的團(tuán)隊(duì)譬重，陳寧本人是中國第一款商用矢量處理器芯片的設(shè)計(jì)者拒逮，而芯片團(tuán)隊(duì)主導(dǎo)者李愛軍是原中興通訊手機(jī)芯片的研發(fā)負(fù)責(zé)人，主導(dǎo)研發(fā)了國內(nèi)第一顆28nm手機(jī)芯片商用(2010)和國內(nèi)首款LTE多模手機(jī)芯片商用。

陳寧說消恍，“我們的芯片研發(fā)團(tuán)隊(duì)是國內(nèi)頂尖的ASIP矢量處理器芯片設(shè)計(jì)團(tuán)隊(duì)岂昭，主要的骨干團(tuán)隊(duì)成員有豐富的矢量處理器、復(fù)雜SoC芯片設(shè)計(jì)經(jīng)驗(yàn)狠怨，且平均設(shè)計(jì)經(jīng)驗(yàn)超過10年。”

IPU具有高能低耗邑遏、可編程秫玉、可云端升級(jí)等特點(diǎn)

據(jù)了解，云天勵(lì)飛在2016年完成了第一代深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器NNP100的研制路旬，并基于FPGA載體實(shí)現(xiàn)商用耀到。

李愛軍介紹說，NNP100深度結(jié)合云天勵(lì)飛自研深度學(xué)習(xí)算法哑回，與自研神經(jīng)網(wǎng)絡(luò)模型深度耦合莲吐，具有強(qiáng)大的運(yùn)算處理能力以及靈活的模型pooling能力，設(shè)計(jì)上支持PE數(shù)量根據(jù)場景需求任意擴(kuò)展和裁剪伊哮，非常靈活稠眠，同時(shí)它又具有高性能、低時(shí)延和低功耗技術(shù)優(yōu)勢问嬉。

“相比之前的應(yīng)用效果碱暗，采用NNP100后FPGA加速卡，計(jì)算性能相比GPU提升2倍炮姑，功耗減低 5 倍杖户，時(shí)延減低100倍。”李愛軍介紹检痰，目前NNP100應(yīng)用在云天勵(lì)飛的DeepEye100智能盒子和DeepEye200服務(wù)器加速卡產(chǎn)品上包归。基于NNP100的技術(shù)基礎(chǔ)铅歼，云天勵(lì)飛已經(jīng)在研發(fā)第二代深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)處理器NNP200公壤，并取得階段性成果。NNP200將集成于云天勵(lì)飛IPU (inteligence processor unit)芯片上谭贪，并用于智能終端產(chǎn)品境钟。

據(jù)介紹，云天勵(lì)飛的視覺AI芯片具有2Tops/W的高能量效率俭识。與Nvidia開源的nvDLA相比慨削，相同運(yùn)算力下，在很小的內(nèi)存帶寬下套媚，算法模型效率可以提高18倍缚态。與麒麟970相比，相同運(yùn)算力下，比970的性能提高4.4倍玫芦。

“云天的芯片除了高能低耗的優(yōu)勢之外浆熔，還能實(shí)現(xiàn)可編程，遠(yuǎn)程一鍵升級(jí)守涤。芯片可同時(shí)處理多路高清視頻矢匾，此外，通過片間級(jí)聯(lián)還可進(jìn)行擴(kuò)展溃艺。”李愛軍說区戚，多芯片級(jí)聯(lián)，相當(dāng)于搭積木一樣睡硫，一顆一顆之間通過板級(jí)互聯(lián)進(jìn)行擴(kuò)展挣堪。通過級(jí)聯(lián)擴(kuò)展最多可以同時(shí)處理64路視頻。

“我們采用業(yè)界領(lǐng)先的22nm工藝趣闹，工藝的性能豁惨、功耗、面積經(jīng)過仿真箍负、分析烂辟、比對，對比業(yè)界主流的28nm工藝惋涌，都具有一定優(yōu)勢坟翠，性能提升約10%，功耗降低約15%腰素，面積減小15%-20%聘裁。”陳寧還提到，云天勵(lì)飛的IPU芯片計(jì)劃在今年年中實(shí)現(xiàn)流片弓千，并在明年上半年推向商用衡便，最終通過模式創(chuàng)新，打造一個(gè)開放賦能的芯片平臺(tái)洋访。

云天IPU最大亮點(diǎn)——對場景理解更為深刻

相比傳統(tǒng)的芯片镣陕，AI芯片更注重“從場景到算法，從算法到芯片”姻政。正因?yàn)椴煌谝酝鶑挠布霭l(fā)的思路呆抑，AI芯片的行業(yè)形態(tài)和商業(yè)模式正在發(fā)生著變化。目前汁展，AI芯片的應(yīng)用場景主要集中在安防鹊碍、智能家居和消費(fèi)電子、自動(dòng)駕駛食绿、云計(jì)算侈咕、智慧城市等行業(yè)。

“由于目前還不存在適用于所有通用算法的嵌入式AI芯片，確定芯片的應(yīng)用場景就顯得尤為重要庇讥。”陳寧提到尚技，過往三年，云天勵(lì)飛深耕安防領(lǐng)域润沸，最先提出了針對安防行業(yè)“云+端”的解決方案潭耙，真正做到將AI技術(shù)落地于垂直場景。

而云天勵(lì)飛的拳頭產(chǎn)品“深目”系統(tǒng)燥箍，在深圳和全國已建設(shè)在線智能前端設(shè)備10000多路魂姆，動(dòng)態(tài)人像數(shù)據(jù)量150+億，是全球最大的動(dòng)態(tài)人像數(shù)據(jù)庫户载。“在場景定義算法，算法定義芯片的今天猩蓝，我們的算法訓(xùn)練來源于真實(shí)的場景锻宵，這也意味著在我們的芯片對場景的理解更深，我們知道應(yīng)該如何去優(yōu)化才能做到最好筐子。” 陳寧還提到扰藕，“算法+芯片+數(shù)據(jù)”的閉環(huán)生態(tài)是云天勵(lì)飛的核心競爭力，同時(shí)芳撒，云天勵(lì)飛也是國內(nèi)唯一一家同時(shí)擁有算法邓深、芯片和數(shù)據(jù)三個(gè)要素的公司。

2025年笔刹，讓1億攝像頭擁有“AI芯”

中國已經(jīng)成為世界上視頻監(jiān)控發(fā)展速度最快的國家芥备，我國一些一線城市已經(jīng)實(shí)現(xiàn)了監(jiān)控?cái)z像頭的100%全覆蓋。據(jù)行業(yè)調(diào)查公司IHSMarkit的最新統(tǒng)計(jì)數(shù)據(jù)顯示舌菜，目前中國在公共和私人領(lǐng)域(包括機(jī)場萌壳、火車站和街道)的監(jiān)控?cái)z像頭安裝量目前已有1.76億個(gè)，未來三年該數(shù)量將會(huì)成倍增長日月，達(dá)到6.26億個(gè)袱瓮。

“云天勵(lì)飛想做的，就是用芯片的產(chǎn)品爱咬，去激活這些傳統(tǒng)的攝像頭尺借。在2025年，讓1億攝像頭擁有‘AI芯’精拟。”

據(jù)介紹燎斩，云天勵(lì)飛走的是一條“算法+芯片+數(shù)據(jù)+應(yīng)用+服務(wù)”、提供端到端整體解決方案的路線：將算法植入前端的智能攝像頭为或，進(jìn)行人像檢測锤观、特征值提取，數(shù)據(jù)上傳到云端，由云端引擎進(jìn)行搜索和識(shí)別漱啥、決策迟赶。前端后端算法聯(lián)動(dòng)和深度優(yōu)化，而芯片級(jí)的解決方案則是核心灶常。

陳寧還提到堵但，云天勵(lì)飛除了在芯片技術(shù)上的創(chuàng)新之外，還將探索芯片商業(yè)模式的創(chuàng)新毯输，力推“芯片+服務(wù)”的新玩法铁厌。“未來，我們甚至可能會(huì)推出免費(fèi)的芯片試用霜甜，改變以往賣芯片的方式惹模，以服務(wù)的方式讓云天的AI芯能下滲到行業(yè)，最終達(dá)到賦能百業(yè)的目的箕昭。”