基于U-Net检测卫星图像上的新增建筑
共 3295字,需浏览 7分钟
·
2020-11-11 15:33
向AI转型的程序员都关注了这个号???
机器学习AI算法工程 公众号:datayx
在国土监察业务中,很重要的一项工作是监管地上建筑物的建、拆、改、扩。如果地块未经审批而存在建筑物,那么需要实地派人去调查是否出现了非法占地行为。如果地块卖给了开发商但是没有实际建设,那么需要调查是否捂地或者是开发商资金链出现问题。如果居民住房/商业用地异常扩大,那么需要调查是否存在违章建筑。对于大城市及其郊区来说,不可能靠国土局公务员来每天全城巡查,而可以靠高分辨率图像和智能算法来自动完成这项任务。具体来说,需要靠高分系列卫星图像(米级分辨率),和深度学习算法来革新现有的工作流程。
本次任务覆盖广东省部分地区数百平方公里的土地,其数据共3个大文件,存储在OSS上,供所有参赛选手下载挖掘。
卫星数据以Tiff图像文件格式储存。quickbird2015.tif是一张2015年的卫星图片,quickbird2017.tif是一张2017年的卫星图片。每个Tiff文件中有4个波段的数据:蓝、绿、红、近红外。本次比赛的卫星数据为多景数据拼接而成,这是国土资源工作中常见的实际场景。比赛数据在蓝、绿两个波段有明显的拼接痕迹,而红、近红外波段的拼接痕迹不明显。建议选手挑选波段使用数据,或者在算法中设计应对方案。每个像元以16-bit存储。Quickbird卫星数据的详细描述可以参见:
https://www.satimagingcorp.com/satellite-sensors/quickbird/
2015年度的国土审批纪录也以Tiff图像文件格式储存,命名为Cadastral2015.tif。其中包含了国土审批数据中大约5%的地块,这些地块的位置在图像中数值定为1,其余地区的位置在图像中数值定为0。值得注意的是:政府在2015年度审批的国土建设地块并不一定在2017年完成了建设,同时选手获取的审批地块图片也仅是所有审批纪录中的一小部分。因此,本次大赛国土审批纪录不是一份训练数据,而只是一个线索。
在初赛第一阶段,我们将提供一份人工精确标注的小型数据集,便于所有选手上手,命名为tinysample.tif。但是,我们推荐选手对国土审批地块图片进行人工甄别,筛选建造自己的训练集。决赛最终使用的训练集可以来自本次大赛所覆盖的全部地区。
图1:卫星图片和国土审批记录叠加在一起
上图中红/绿色地块是2015年政府批复下来的不同土地开发项目。
Tiff数据可以用各种编程语言读写。比如在Python语言中可以使用PIL库(Pillow版本), 请参见https://python-pillow.org ;或者是GDAL库,请参见https://pcjericks.github.io/py-gdalogr-cookbook/ 。同时,推荐选手使用开源软件QGIS来观察/编辑卫星图片数据,请参见www.qgis.org 。
基于U-Net检测卫星图像上的新增建筑
代码及运行教程 获取:
关注微信公众号 datayx 然后回复 unet 即可获取。
AI项目体验地址 https://loveai.tech
数据准备
图像预处理
针对原始图像存在的两个问题:
原图像不同拼接区域颜色差异大
虽然原图像每个通道的数据都是16位的,但数据的实际范围是0~2774
给出如下图所示的解决方法:
步骤1到步骤4的代码请参考genrate_mask.ipynb(需要人工交互操作),步骤5的代码请参考denoise.py,该操作的核心代码如下:
手工标注
如下图,标注训练数据时,我们只挑选一些有代表性的区域进行标注,保证在选择的区域内,标注的白色区域一定是房子变化,而黑色区域一定不是。得到所选区域的标签后,再分割成多个小图像组成我们数据集。
从手工标注的mask图像到训练用到的.npy文件,参考代码process_mark.py,该部分的核心代码如下:
读取.npy文件以生成训练用到的小图,参考代码generators.py,该部分的核心代码如下:
数据增强
使用数据增强对提高模型的泛化能力很有帮助,目前我们只使用了上面四种增强方法,在imgaug.py里还有其他数据增强的实现代码。
数据集划分
训练集:70%
验证集:20%
测试集:10%
网络训练
改进U-Net
使用U-Net检测新增建筑的整体流程如下:
U-Net的整体架构如下:
实现U-Net的代码请参考unet.py。
后处理
模型融合
将loss权重不同的模型得到的结果进行融合(像素级或操作),如下图所示:
Morphology处理
该部分的代码请参考post_process.py,其中核心代码如下:
总结
算法优势
预处理:解决图像拼接问题
八通道U-Net:直接输出房屋变化,可应对高层建筑倾斜问题
数据增强:增加模型泛化性,简单有效
加权损失函数:增强对新增建筑的检测能力
模型融合:取长补短,结果更全
后处理:直观、高效,可根据实际情况取舍
阅读过本文的人还看了以下文章:
基于40万表格数据集TableBank,用MaskRCNN做表格检测
《深度学习入门:基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习:基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》,加州伯克利深度学习(2019春)教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目,让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分?
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南:CNN、RNN及使用技巧速查(打印收藏)
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加: datayx
机大数据技术与机器学习工程
搜索公众号添加: datanlp
长按图片,识别二维码