技術(shù)的革新與承載它的計算能力息息相關(guān),如今的人工智能技術(shù)正逐步從研究實驗走向應(yīng)用與生產(chǎn)付燥,在這一過程中宣谈,AI計算系統(tǒng)設(shè)計與優(yōu)化的重要性愈發(fā)明顯。
在不久的將來段卵,AI計算系統(tǒng)將要面臨計算平臺優(yōu)化設(shè)計蜈率、復(fù)雜異構(gòu)環(huán)境下計算效率、計算框架的高度并行與擴(kuò)展荤榄、AI應(yīng)用計算性能等挑戰(zhàn)魔辉。算力的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大,提高整個AI計算系統(tǒng)的性能與效率迫在眉睫借倘。
算力是人工智能的痛點
目前的人工智能阀霸,更多的是代表智能的個體,能夠通過自身的持續(xù)學(xué)習(xí)能力枣象,智能的完成單點決策屠剥。
機(jī)器經(jīng)驗需要由大量的歷史數(shù)據(jù)來得出,所以數(shù)據(jù)收集無處不在舶舅,數(shù)據(jù)的增長會是幾何級數(shù)的莫彩。使用當(dāng)前集中式的存儲和集中式的通信模式,在未來是無論如何都無法通過一個巨型單點支撐如此大的體量奸闽,存儲和通信能力都是瓶頸琼牧,而且效率會非常低下。
不僅如此葛假,算力成本也是人工智能行業(yè)的一大痛點≌咸眨現(xiàn)在的人工智能企業(yè)的硬件投入非常大。人工智能對計算的需求非常大,因此對高性能計算定制深度學(xué)習(xí)芯片要求很高抱究,意味著很多企業(yè)要花很多錢買算力恢氯、建很多計算中心,造成了很大的資源浪費(fèi)鼓寺。
AI計算能力愈發(fā)重要
全球人工智能市場商業(yè)價值一直處于高速增長趨勢勋拟,到2018年,所催生的商業(yè)價值會達(dá)到1.3萬億美元妈候,而未來將會達(dá)到接近5萬億美元敢靡。從技術(shù)成熟度曲線可以看到,未來2到5年會有大量AI技術(shù)實現(xiàn)從創(chuàng)新期到成長期的過渡苦银,現(xiàn)在仍有很多AI技術(shù)處于爬坡發(fā)展階段啸胧。
在推動AI發(fā)展過程中,有三大要素起著主導(dǎo)作用幔虏,除算力鲫础、數(shù)據(jù)外,計算方面也越來越重要奥徒。2021年計算方面的投資將占到整個AI投資的近一半以上嫉卵,2017年至2022年將會達(dá)到近6倍的增長。
傳統(tǒng)服務(wù)器難以滿足AI算力需求
摩爾定律失效吐捞,CPU性能提升遭遇瓶頸移卢。Intel宣布正式停用“Tick-Tock”處理器研發(fā)模式,未來研發(fā)周期將從兩年周期向三年期轉(zhuǎn)變吹蜡。單顆CPU性能的提升在放緩涩凑,傳統(tǒng)服務(wù)器難以滿足并行算力需求,服務(wù)器CPU出貨量增長停滯糯侍。
AI計算系統(tǒng)設(shè)計迫在眉睫
AI計算發(fā)展趨勢演變過程中面臨著巨大的挑戰(zhàn):隨著模型所需的精度越高扯际,所需的計算量也會呈現(xiàn)增長趨勢。對于未來的洞逼,算法的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大注芯,提高整個AI計算系統(tǒng)的性能與效率顯得尤為重要。
圍繞整個應(yīng)用党饮、算力肝陪、模型、網(wǎng)絡(luò)的特點刑顺,例如有的模型參數(shù)比較密集氯窍,對系統(tǒng)通信要求比較高,有的計算性能要求比較高蹲堂,則需要圍繞性能方面考慮如何提升整個系統(tǒng)性能的能力狼讨。
推理方面的復(fù)雜性比訓(xùn)練方面更高贝淤,它不僅體現(xiàn)在性能方面,更關(guān)心的是用戶的體驗政供。當(dāng)對于大規(guī)模進(jìn)行部署云計算時播聪,需要考慮到它的運(yùn)維成本,需要低功耗平臺架構(gòu)來做支撐布隔。
AI算力和需求都日趨壯大
語音識別离陶、虛擬現(xiàn)實與機(jī)器視覺已從導(dǎo)入期進(jìn)入成長期。標(biāo)準(zhǔn)化的數(shù)據(jù)集豐富衅檀。語音與圖像數(shù)據(jù)較易標(biāo)簽化招刨。15年圖像識別準(zhǔn)確率變已超過人類。CNN倾氮、RNN等神經(jīng)網(wǎng)絡(luò)基礎(chǔ)算力成熟匣酸。根據(jù)Imagenet測試結(jié)果,語音識別與機(jī)器識別準(zhǔn)確率均已在90%以上于抬。
如今渣冒,AI面臨著巨大的計算挑戰(zhàn),提高AI計算系統(tǒng)性能與效率變得尤為重要元邻,需要從系統(tǒng)的角度進(jìn)行綜合考慮。
自2012年以來掖阶,在大型AI運(yùn)算中用到的計算量呈指數(shù)式上升咒付,并且3.5個月計算量就會翻一倍。從2012年以來炮疲,這一指標(biāo)已經(jīng)增長了30萬倍枷斩。計算力的提升是AI進(jìn)步的一大重要因素,所以只要這一趨勢仍然延續(xù)虎叔,就值得為AI未來的發(fā)展努力下去味测。
AI算力決定芯片崛起
在理論層面,基于大數(shù)據(jù)和深度學(xué)習(xí)的人工智能技術(shù)高度依賴于系統(tǒng)的數(shù)據(jù)處理與學(xué)習(xí)能力铺坞。因此起宽,硬件的計算能力成為繼數(shù)據(jù)、算力之后济榨,另一制約人工智能發(fā)展的主要瓶頸坯沪,硬件計算能力與能效對于人工智能技術(shù)主要影響云端和邊緣端兩大主要領(lǐng)域的應(yīng)用。
單CPU的發(fā)展已經(jīng)不能滿足實際應(yīng)用的需求擒滑,AI時代必須要依靠并行計算腐晾。目前,并行計算的主流架構(gòu)是異構(gòu)并行計算平臺丐一。
以協(xié)同過濾算力為例藻糖,它是一種非常重要的推薦系統(tǒng)算力淹冰,為此設(shè)計了兩個計算核,一個是計算相似度巨柒,一個是計算平均值榄棵,把這些核心計算全部都在GPU上進(jìn)行計算來加速算力。
未來AI算力的發(fā)展
自2012年以來潘拱,人工智能訓(xùn)練任務(wù)中使用的算力正呈指數(shù)級增長疹鳄,其目前速度為每3.5個月翻一倍。
自2012年以來唠芋,人們對于算力的需求增長了超過300,000倍摹钳,如果是以摩爾定律的速度,只會有12倍的增長拧淘。在此期間疲席,硬件算力的提升一直是人工智能快速發(fā)展的重要因素。因此族焰,如果目前的發(fā)展趨勢持續(xù)下去台古,就需要為實現(xiàn)遠(yuǎn)超當(dāng)前方法負(fù)載的全新系統(tǒng)做好準(zhǔn)備。
從應(yīng)用場景來看蚊凫,AI計算熱門行業(yè)場景覆蓋了互聯(lián)網(wǎng)盲赚、政府、醫(yī)療和金融四大行業(yè)肛英,同時膘椿,根據(jù)市場潛力和時間發(fā)展成熟度,報告還對AI典型應(yīng)用場景進(jìn)行了評估林索,并預(yù)計未來2-3年笙隙,人工智能在生物識別和智慧城市建設(shè)領(lǐng)域的應(yīng)用將會率先步入商業(yè)應(yīng)用的成熟期;預(yù)計在未來5-10年坎缭,人工智能產(chǎn)業(yè)在智能家居和工業(yè)制造領(lǐng)域的應(yīng)用也將逐步步入高速發(fā)展的產(chǎn)業(yè)窗口竟痰。
在不久的將來段卵,AI計算系統(tǒng)將要面臨計算平臺優(yōu)化設(shè)計蜈率、復(fù)雜異構(gòu)環(huán)境下計算效率、計算框架的高度并行與擴(kuò)展荤榄、AI應(yīng)用計算性能等挑戰(zhàn)魔辉。算力的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大,提高整個AI計算系統(tǒng)的性能與效率迫在眉睫借倘。
算力是人工智能的痛點
目前的人工智能阀霸,更多的是代表智能的個體,能夠通過自身的持續(xù)學(xué)習(xí)能力枣象,智能的完成單點決策屠剥。
機(jī)器經(jīng)驗需要由大量的歷史數(shù)據(jù)來得出,所以數(shù)據(jù)收集無處不在舶舅,數(shù)據(jù)的增長會是幾何級數(shù)的莫彩。使用當(dāng)前集中式的存儲和集中式的通信模式,在未來是無論如何都無法通過一個巨型單點支撐如此大的體量奸闽,存儲和通信能力都是瓶頸琼牧,而且效率會非常低下。
不僅如此葛假,算力成本也是人工智能行業(yè)的一大痛點≌咸眨現(xiàn)在的人工智能企業(yè)的硬件投入非常大。人工智能對計算的需求非常大,因此對高性能計算定制深度學(xué)習(xí)芯片要求很高抱究,意味著很多企業(yè)要花很多錢買算力恢氯、建很多計算中心,造成了很大的資源浪費(fèi)鼓寺。
AI計算能力愈發(fā)重要
全球人工智能市場商業(yè)價值一直處于高速增長趨勢勋拟,到2018年,所催生的商業(yè)價值會達(dá)到1.3萬億美元妈候,而未來將會達(dá)到接近5萬億美元敢靡。從技術(shù)成熟度曲線可以看到,未來2到5年會有大量AI技術(shù)實現(xiàn)從創(chuàng)新期到成長期的過渡苦银,現(xiàn)在仍有很多AI技術(shù)處于爬坡發(fā)展階段啸胧。
在推動AI發(fā)展過程中,有三大要素起著主導(dǎo)作用幔虏,除算力鲫础、數(shù)據(jù)外,計算方面也越來越重要奥徒。2021年計算方面的投資將占到整個AI投資的近一半以上嫉卵,2017年至2022年將會達(dá)到近6倍的增長。
傳統(tǒng)服務(wù)器難以滿足AI算力需求
摩爾定律失效吐捞,CPU性能提升遭遇瓶頸移卢。Intel宣布正式停用“Tick-Tock”處理器研發(fā)模式,未來研發(fā)周期將從兩年周期向三年期轉(zhuǎn)變吹蜡。單顆CPU性能的提升在放緩涩凑,傳統(tǒng)服務(wù)器難以滿足并行算力需求,服務(wù)器CPU出貨量增長停滯糯侍。
AI計算系統(tǒng)設(shè)計迫在眉睫
AI計算發(fā)展趨勢演變過程中面臨著巨大的挑戰(zhàn):隨著模型所需的精度越高扯际,所需的計算量也會呈現(xiàn)增長趨勢。對于未來的洞逼,算法的發(fā)展對整個計算需求所造成的挑戰(zhàn)會變得更大注芯,提高整個AI計算系統(tǒng)的性能與效率顯得尤為重要。
圍繞整個應(yīng)用党饮、算力肝陪、模型、網(wǎng)絡(luò)的特點刑顺,例如有的模型參數(shù)比較密集氯窍,對系統(tǒng)通信要求比較高,有的計算性能要求比較高蹲堂,則需要圍繞性能方面考慮如何提升整個系統(tǒng)性能的能力狼讨。
推理方面的復(fù)雜性比訓(xùn)練方面更高贝淤,它不僅體現(xiàn)在性能方面,更關(guān)心的是用戶的體驗政供。當(dāng)對于大規(guī)模進(jìn)行部署云計算時播聪,需要考慮到它的運(yùn)維成本,需要低功耗平臺架構(gòu)來做支撐布隔。
AI算力和需求都日趨壯大
語音識別离陶、虛擬現(xiàn)實與機(jī)器視覺已從導(dǎo)入期進(jìn)入成長期。標(biāo)準(zhǔn)化的數(shù)據(jù)集豐富衅檀。語音與圖像數(shù)據(jù)較易標(biāo)簽化招刨。15年圖像識別準(zhǔn)確率變已超過人類。CNN倾氮、RNN等神經(jīng)網(wǎng)絡(luò)基礎(chǔ)算力成熟匣酸。根據(jù)Imagenet測試結(jié)果,語音識別與機(jī)器識別準(zhǔn)確率均已在90%以上于抬。
如今渣冒,AI面臨著巨大的計算挑戰(zhàn),提高AI計算系統(tǒng)性能與效率變得尤為重要元邻,需要從系統(tǒng)的角度進(jìn)行綜合考慮。
自2012年以來掖阶,在大型AI運(yùn)算中用到的計算量呈指數(shù)式上升咒付,并且3.5個月計算量就會翻一倍。從2012年以來炮疲,這一指標(biāo)已經(jīng)增長了30萬倍枷斩。計算力的提升是AI進(jìn)步的一大重要因素,所以只要這一趨勢仍然延續(xù)虎叔,就值得為AI未來的發(fā)展努力下去味测。
AI算力決定芯片崛起
在理論層面,基于大數(shù)據(jù)和深度學(xué)習(xí)的人工智能技術(shù)高度依賴于系統(tǒng)的數(shù)據(jù)處理與學(xué)習(xí)能力铺坞。因此起宽,硬件的計算能力成為繼數(shù)據(jù)、算力之后济榨,另一制約人工智能發(fā)展的主要瓶頸坯沪,硬件計算能力與能效對于人工智能技術(shù)主要影響云端和邊緣端兩大主要領(lǐng)域的應(yīng)用。
單CPU的發(fā)展已經(jīng)不能滿足實際應(yīng)用的需求擒滑,AI時代必須要依靠并行計算腐晾。目前,并行計算的主流架構(gòu)是異構(gòu)并行計算平臺丐一。
以協(xié)同過濾算力為例藻糖,它是一種非常重要的推薦系統(tǒng)算力淹冰,為此設(shè)計了兩個計算核,一個是計算相似度巨柒,一個是計算平均值榄棵,把這些核心計算全部都在GPU上進(jìn)行計算來加速算力。
未來AI算力的發(fā)展
自2012年以來潘拱,人工智能訓(xùn)練任務(wù)中使用的算力正呈指數(shù)級增長疹鳄,其目前速度為每3.5個月翻一倍。
自2012年以來唠芋,人們對于算力的需求增長了超過300,000倍摹钳,如果是以摩爾定律的速度,只會有12倍的增長拧淘。在此期間疲席,硬件算力的提升一直是人工智能快速發(fā)展的重要因素。因此族焰,如果目前的發(fā)展趨勢持續(xù)下去台古,就需要為實現(xiàn)遠(yuǎn)超當(dāng)前方法負(fù)載的全新系統(tǒng)做好準(zhǔn)備。
從應(yīng)用場景來看蚊凫,AI計算熱門行業(yè)場景覆蓋了互聯(lián)網(wǎng)盲赚、政府、醫(yī)療和金融四大行業(yè)肛英,同時膘椿,根據(jù)市場潛力和時間發(fā)展成熟度,報告還對AI典型應(yīng)用場景進(jìn)行了評估林索,并預(yù)計未來2-3年笙隙,人工智能在生物識別和智慧城市建設(shè)領(lǐng)域的應(yīng)用將會率先步入商業(yè)應(yīng)用的成熟期;預(yù)計在未來5-10年坎缭,人工智能產(chǎn)業(yè)在智能家居和工業(yè)制造領(lǐng)域的應(yīng)用也將逐步步入高速發(fā)展的產(chǎn)業(yè)窗口竟痰。