本申請公開了混合精度神經(jīng)網(wǎng)絡(luò)量化方法、裝置及設(shè)備。其中,所述方法通過結(jié)合強(qiáng)化學(xué)習(xí)和驗證數(shù)據(jù)生成技術(shù)來確定混合精度量化策略,使得基于自動生成的驗證數(shù)據(jù)集來確定混合精度網(wǎng)絡(luò)和待量化網(wǎng)絡(luò)輸出的分布差距,以此作為評判量化策略效果的標(biāo)準(zhǔn)。采用這種處理方式,無需用戶提供用于檢驗量化網(wǎng)絡(luò)的準(zhǔn)確率的驗證數(shù)據(jù),且降低了驗證量化網(wǎng)絡(luò)準(zhǔn)確率的耗時;無需用戶微調(diào)通過強(qiáng)化學(xué)習(xí)確定的量化網(wǎng)絡(luò),即可獲得用較小精度損失換取較大計算量降幅的量化網(wǎng)絡(luò),且簡化了網(wǎng)絡(luò)量化流程,實現(xiàn)了用戶無感的模型量化策略搜索;因此,在確保模型精度損失較小的前提下,可以有效提升模型量化效率,保護(hù)用戶的數(shù)據(jù)隱私,以及降低人工成本。
聲明:
“混合精度神經(jīng)網(wǎng)絡(luò)量化方法、裝置及設(shè)備” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學(xué)習(xí)研究,如用于商業(yè)用途,請聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)