專注于3D DRAM、3D NAND存儲器廠NEO Semiconductor發(fā)表最新3D X-AI芯片技術(shù)，取代目前用于AI GPU加速器的HBM。

據(jù)悉，這款3D DRAM內(nèi)建AI處理功能，使處理和生成不需要數(shù)學(xué)運(yùn)算輸出，當(dāng)大量數(shù)據(jù)在存儲器與處理器間傳輸時，可減少數(shù)據(jù)匯流排(DataBus)問題，提升AI效能與效率。

3D X-AI芯片的底層有個神經(jīng)元電路層，可處理同一芯片上300個存儲器層所儲存的數(shù)據(jù)。NEO Semiconductor表示，由于8,000個中子電路(neutroncircuits)可在存儲器中進(jìn)行AI處理，該3D存儲器效能可提升100倍，存儲器密度比目前HBM高8倍，透過減少在GPU中處理的數(shù)據(jù)量，可降低99%耗電量。

NEO Semiconductor創(chuàng)辦人兼CEO許富菖指出，由于架構(gòu)和技術(shù)低效率，目前AI芯片浪費(fèi)大量效能和電力。目前AI芯片架構(gòu)是將數(shù)據(jù)儲存在HBM、GPU負(fù)責(zé)執(zhí)行所有運(yùn)算，這種架構(gòu)將數(shù)據(jù)儲存與處理分離，使數(shù)據(jù)匯流排成為無法避免的效能瓶頸，當(dāng)大量傳輸數(shù)據(jù)時效能有限，耗電量也非常高。

3D X-AI可在每個HBM芯片中執(zhí)行AI處理，大幅減少HBM與GPU之間傳輸?shù)臄?shù)據(jù)，提升效能并大幅降低功耗。

X-AI容量為128GB，每個芯片可支援10TB/s的AI處理能力。將12個裸晶(X-AI)堆疊在單一HBM封裝中，可實(shí)現(xiàn)超過1.5TB儲存容量和120TB/s處理吞吐量。

目前許多公司研究能提高處理速度和通訊吞吐量的技術(shù)，當(dāng)半導(dǎo)體速度越來越快、效率越來越高時，在元件之間傳輸數(shù)據(jù)的匯流排將成為瓶頸，因此這樣的技術(shù)將可讓所有元件一起加速。

臺積電、英特爾、鎧俠等公司都在研究光學(xué)技術(shù)，以加快主機(jī)板內(nèi)的通訊速度，透過將部分AI處理從GPU轉(zhuǎn)到HBM，NEO Semiconductor可降低工作量，使效率遠(yuǎn)高于目前耗電的AI加速器。