OMGDGAN 模型压缩框架
OMGD 即 Online Multi-Granularity Distillation(在线多粒度蒸馏算法)的简称,是一款模型压缩框架,专门用于解决 GAN 模型体积过大,过于耗费算力的问题。和同类模型压缩算法相比,OMGD 不仅压得更小,而且压得更好。
比如在把马变成斑马的过程中:
(MACs 表示消耗的计算量,括号中的数字为提升倍数)
把夏天变成冬天:
实验表明,这项技术可以把 GAN 模型的计算量最低减少到原来的 1/46、参数量最低减少到原来的 1/82。
OMGD 整体 Pipeline
性能
环境要求
- Linux
- Python 3
- CPU or NVIDIA GPU + CUDA CuDNN
评论