馮·諾依曼的技術(shù)挑戰(zhàn)

AI芯片需要滿足高效的數(shù)據(jù)訪問(wèn)，以及深度學(xué)習(xí)下的新的計(jì)算范式，AI芯片在發(fā)展上，也遇到了一些瓶頸問(wèn)題，特別是馮·諾依曼瓶頸。

在傳統(tǒng)“馮·諾依曼架構(gòu)”中，計(jì)算模塊和存儲(chǔ)單元互相分離，數(shù)據(jù)從處理單元外的存儲(chǔ)器提取，處理完之后再寫(xiě)回存儲(chǔ)器。每一項(xiàng)任務(wù)，如果有十個(gè)步驟，那么CPU會(huì)依次進(jìn)行十次讀取、執(zhí)行，再讀取、再執(zhí)行，這就造成了延時(shí)，以及大量功耗花費(fèi)在了數(shù)據(jù)讀取上。

大部分針對(duì)AI，特別是加速神經(jīng)網(wǎng)絡(luò)處理而提出的硬件架構(gòu)創(chuàng)新都是在和這個(gè)問(wèn)題做斗爭(zhēng)。概括來(lái)說(shuō)，目前的解決思路包括減少訪問(wèn)存儲(chǔ)器的數(shù)量，降低訪問(wèn)存儲(chǔ)器的代價(jià)。

AI芯片中的新興計(jì)算技術(shù)

新興計(jì)算技術(shù)包括近內(nèi)存計(jì)算、存內(nèi)計(jì)算，以及基于新型存儲(chǔ)器的人工神經(jīng)網(wǎng)絡(luò)和生物神經(jīng)網(wǎng)絡(luò)。

對(duì)于馮·諾依曼、CMOS工藝和器件瓶頸形成的AI芯片存儲(chǔ)、計(jì)算間的問(wèn)題，神經(jīng)形態(tài)計(jì)算是一種新的路徑。近些年，神經(jīng)形態(tài)計(jì)算也用來(lái)指采用模擬、數(shù)字、數(shù)模混合VLSI以及軟件系統(tǒng)實(shí)現(xiàn)的神經(jīng)系統(tǒng)模型。其將數(shù)字處理器當(dāng)作神經(jīng)元，把內(nèi)存作為突觸，內(nèi)存、CPU和通信部件完全集成在一起，采用模擬人腦神經(jīng)元結(jié)構(gòu)來(lái)提升計(jì)算能力。

而針對(duì)CMOS工藝瓶頸的解決思路，可以通過(guò)開(kāi)發(fā)提供大量存儲(chǔ)空間的片上存儲(chǔ)器技術(shù)，并探索利用片上存儲(chǔ)器去構(gòu)建未來(lái)的智能芯片架構(gòu)。

神經(jīng)形態(tài)芯片的最終方向

借鑒生物腦的互聯(lián)結(jié)構(gòu)，神經(jīng)形態(tài)芯片可以實(shí)現(xiàn)任意神經(jīng)元間的互聯(lián)。即在指定規(guī)模的仿生神經(jīng)網(wǎng)絡(luò)下，任意一個(gè)神經(jīng)元都可以把信息傳遞給指定的另一個(gè)或多個(gè)神經(jīng)元。如此強(qiáng)大的細(xì)粒度互聯(lián)能力是其他神經(jīng)網(wǎng)絡(luò)／深度學(xué)習(xí)芯片目前還無(wú)法做到的。

神經(jīng)形態(tài)芯片在智能城市、自動(dòng)駕駛的實(shí)時(shí)信息處理、人臉深度識(shí)別等領(lǐng)域都有出色的應(yīng)用。如IBMTrueNorth芯片可以用于檢測(cè)圖像中的行人、車(chē)輛等物體，且功耗極低（65mW）。它也可被用于語(yǔ)音、圖像數(shù)據(jù)集識(shí)別等任務(wù)，準(zhǔn)確性不遜于CNN加速器芯片。此外，在線學(xué)習(xí)能力也是神經(jīng)形態(tài)芯片的一大亮點(diǎn)。

AI芯片的存儲(chǔ)技術(shù)將被顛覆

近期，面向數(shù)字神經(jīng)網(wǎng)絡(luò)的加速器（GPU、FPGA和ASIC）迫切需要AI友好型存儲(chǔ)器。

中期，基于存內(nèi)計(jì)算的神經(jīng)網(wǎng)絡(luò)可以為規(guī)避馮·諾依曼瓶頸問(wèn)題提供有效的解決方案。

后期，基于憶阻器的神經(jīng)形態(tài)計(jì)算可以模擬人類(lèi)的大腦，是AI芯片遠(yuǎn)期解決方案的候選之一。

人工智能芯片如果能有統(tǒng)一的終極算法出現(xiàn)，那么我們很可能會(huì)看到一個(gè)終極芯片出現(xiàn)。AI芯片是整個(gè)人工智能技術(shù)發(fā)展的基礎(chǔ)，也將是推動(dòng)整個(gè)半導(dǎo)體領(lǐng)域技術(shù)進(jìn)步的最重要的力量之一。

隨著人工智能和物聯(lián)網(wǎng)的持續(xù)快速發(fā)展，越來(lái)越多的應(yīng)用需求和應(yīng)用場(chǎng)景將不斷涌現(xiàn)。需求驅(qū)動(dòng)的AI芯片技術(shù)創(chuàng)新將促進(jìn)創(chuàng)新鏈與產(chǎn)業(yè)鏈更加緊密結(jié)合，推動(dòng)開(kāi)放合作、共享共贏的產(chǎn)業(yè)生態(tài)形成。

CMOS技術(shù)與新興信息技術(shù)的交叉融合，開(kāi)源軟件到開(kāi)源硬件的潮流漸顯，預(yù)示著我們將迎來(lái)一個(gè)前所未有的協(xié)同創(chuàng)新機(jī)遇期。

國(guó)內(nèi)國(guó)外的AI芯片將成大趨勢(shì)

今年，國(guó)際、國(guó)內(nèi)已經(jīng)有多家芯片巨頭公布AI芯片計(jì)劃，也有多家AI芯片的研發(fā)公司獲得融資。

由寒武紀(jì)科技公司領(lǐng)頭，已經(jīng)完成1億美元A輪融資，并由國(guó)投創(chuàng)業(yè)（A輪領(lǐng)投方），阿里巴巴創(chuàng)投、聯(lián)想創(chuàng)投、國(guó)科投資、中科圖靈、元禾原點(diǎn)（天使輪領(lǐng)投方）、涌鏵投資（天使輪投資方）聯(lián)合投資，這輪融資之后，寒武紀(jì)科技已經(jīng)成為全球AI芯片領(lǐng)域第一家獨(dú)角獸公司。

英特爾、英偉達(dá)和三星，F(xiàn)acebook、微軟、Google、IBM、蘋(píng)果、華為等科技公司都在積極布局AI芯片。芯片巨頭英特爾收購(gòu)Nervana、Altera。其中，收購(gòu)Nervana一舉被認(rèn)為是要與英偉達(dá)開(kāi)戰(zhàn)。英偉達(dá)在芯片領(lǐng)域的表現(xiàn)越來(lái)越好，為了研發(fā)AI芯片，還聘請(qǐng)了專(zhuān)門(mén)研究AI芯片的Clément Farabet。可見(jiàn)專(zhuān)業(yè)的AI芯片將是未來(lái)很長(zhǎng)時(shí)間的大趨勢(shì)。