研究文章

一种新颖的低位量化压缩深层神经网络的策略

表5

稀疏ResNet-18 CIFAR10。

层张量(重量) 完整的精度(1−稀疏)(%) 我们的方法(1−稀疏)(%)

Conv1 (64 3, 3, 3) One hundred. One hundred.
Conv2 (64、64、3、3) One hundred. 85.32
Conv3 (64、64、3、3) One hundred. 86.71
Conv4 (64、64、3、3) One hundred. 85.84
Conv5 (64、64、3、3) One hundred. 85.10
Conv6 (128、64、3、3) One hundred. 86.04
Conv7 (128、128、3、3) One hundred. 83.46
Conv8 (128、64、1、1) One hundred. 86.52
Conv9 (128、128、3、3) One hundred. 82.88
Conv10 (128、128、3、3) One hundred. 80.75
Conv11 (256、128、3、3) One hundred. 77.45
Conv12 (256、256、3、3) One hundred. 70.23
Conv13 (256、128、1、1) One hundred. 77.74
Conv14 (256、256、3、3) One hundred. 59.51
Conv15 (256、256、3、3) One hundred. 42.64
Conv16 (512、256、3、3) One hundred. 22.16
Conv17 (512、512、3、3) One hundred. 10.72
Conv18 (512、256、1、1) One hundred. 41.56
Conv19 (512、512、3、3) One hundred. 5.02
Conv20 (512、512、3、3) One hundred. 3.46
1−稀疏 One hundred. 23.32
精度 93.74 92.52