何恺明MAE,开源了!!
NLP从入门到放弃
共 493字,需浏览 1分钟
·
2022-01-21 18:24
大家好,我是DASOU。
之前我在B站录制了一起讲解MAE算法的视频,播放量还不错,感兴趣的可以去看一眼。
MAE做的一个事情简单来说,就是通过随机遮挡,进行图像重建,进而强迫模型学习知识。
并且遮挡的比例,非常大!我们直接看效果:
第一列是遮挡图,第二列是MAE模型重建结果,第三列是原图。
这个效果是相当的惊艳的。
前几天发现官方代码开源了MAE,目前是1.8k的星标:
Visualization demo
Pre-trained checkpoints + fine-tuning code
Pre-training code
对MAE感兴趣或者自己项目中会用到的朋友可以自己去跑一下,代码地址在这里:
https://github.com/facebookresearch/mae
评论