神經(jīng)架構(gòu)搜索(NAS)是費(fèi)力的過(guò)程。與自動(dòng)化NAS目標(biāo)有關(guān)的先前工作主要是提高精度,但未考慮計(jì)算資源使用。本文提出資源有效的神經(jīng)架構(gòu)(RENA)的實(shí)施方式,這是使用強(qiáng)化學(xué)習(xí)的具有網(wǎng)絡(luò)嵌入的高效的資源受限NAS。RENA實(shí)施方式使用策略網(wǎng)絡(luò)處理網(wǎng)絡(luò)嵌入以生成新配置。本文還提出與圖像識(shí)別和關(guān)鍵詞檢測(cè)(KWS)問(wèn)題有關(guān)的RENA實(shí)施方式的示例證明。在即使資源嚴(yán)重受限的情況下,RENA實(shí)施方式也可找到實(shí)現(xiàn)高性能的新型架構(gòu)。對(duì)于CIFAR10數(shù)據(jù)集,測(cè)試的實(shí)施方式在計(jì)算強(qiáng)度大于100FLOP/byte時(shí)具有2.95%的測(cè)試誤差,并且在模型大小小于3M參數(shù)時(shí)具有3.87%的測(cè)試誤差。對(duì)于谷歌語(yǔ)音命令數(shù)據(jù)集,測(cè)試后的RENA實(shí)施方式實(shí)現(xiàn)了在無(wú)資源約束的情況下的最先進(jìn)精度,并在資源嚴(yán)重受限的情況下優(yōu)于優(yōu)化的架構(gòu)。
聲明:
“資源有效的神經(jīng)架構(gòu)” 該技術(shù)專(zhuān)利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請(qǐng)聯(lián)系該技術(shù)所有人。
我是此專(zhuān)利(論文)的發(fā)明人(作者)