基于SRAM的方法可加速AI推理
來源:宇芯電子有限公司 日期:2020-09-16 10:35:47
泰克公司的工程師勾勒出了一種新穎的深度學(xué)習(xí)加速器。專用單元定義了一個(gè)
SRAM,該單元可以處理矩陣乘法,量化,存儲(chǔ)以及推理處理器所需的其他工作。
在Spice仿真中,當(dāng)使用8位整數(shù)數(shù)學(xué)識別手寫數(shù)字時(shí),該設(shè)計(jì)可提供100兆次操作/秒/瓦(TOPS / W)。它的計(jì)算密度可以擊敗Google的TPU一個(gè)數(shù)量級。
該設(shè)計(jì)是使用內(nèi)存中計(jì)算方法的加速器產(chǎn)品線中最新的一種。設(shè)計(jì)使用40納米NOR閃存單元的深度學(xué)習(xí)處理器,其目標(biāo)是為監(jiān)視攝像機(jī)等設(shè)備使用低功耗芯片。
設(shè)計(jì)時(shí)使用了很少的模擬電路,因此可以擴(kuò)展到精細(xì)的工藝節(jié)點(diǎn)。它可能成為低功耗處理器中引擎(從邊緣到云)的引擎。
獨(dú)特的方式操縱SRAM單元以處理深度學(xué)習(xí)任務(wù)
這個(gè)設(shè)計(jì)使用戶可以為從權(quán)重到神經(jīng)網(wǎng)絡(luò)層甚至單個(gè)神經(jīng)元的所有內(nèi)容創(chuàng)建自定義參數(shù)。這種靈活性可以使將來設(shè)計(jì)用于訓(xùn)練處理器的設(shè)計(jì)成為可能。但是尚無用于對該設(shè)計(jì)進(jìn)行編程的軟件堆棧,可能會(huì)在以后解決或留給將來的客戶使用。
關(guān)鍵詞:SRAM
宇芯有限公司自成立以來,我們專注于代理國內(nèi)外各大知名品牌的半導(dǎo)體元器件,代理品牌有NETSOL、JSC、everspin代理、來?xiàng)頛yontek、
ISSI、CYPRESS等多個(gè)品牌總代理資質(zhì),主要產(chǎn)品線為sram、mram、psram等其他存儲(chǔ)器芯片,致力于為客戶提供具有競爭優(yōu)勢的產(chǎn)品,是一家專業(yè)提供存儲(chǔ)方案解決商。