DeepOSM

通过使用OpenStreetMap (OSM) 数据训练神经网络，对卫星影像中的道路和地物进行分类。

DeepOSM 可以：

• 下载一块卫星影像
• 下载该区域的道路/地物信息的 OSM 数据
• 生成训练和评估数据
• 显示 OSM 数据中未正确配准的道路预测结果，或显示 ON/OFF 的原始预测结果

运行代码非常简单：只需安装 Docker、执行 make dev 并运行一个脚本即可。

欢迎贡献代码。如果您想讨论要做的事情，请提交一个问题，或者发送邮件给我。

默认数据/准确率

默认情况下，DeepOSM 会分析特拉华州约 200 平方公里的区域。DeepOSM 将：

• 预测 64×64 像素瓦片的中心 9×9 像素是否包含道路。
• 使用红外波段和 RGB 波段。
• 总体准确率达到 75%-80%，且仅需训练约一分钟。
• 在 TensorFlow 中使用单个全连接的 ReLU 层。
• 将 OSM 数据中“假阳性”的预测结果渲染为 JPEG 图像——即 OSM 标记了道路，但 DeepOSM 认为那里并没有道路。

数据背景——NAIP 和 OSM PBF

对于训练数据，DeepOSM 会从 NAIP 影像 中裁剪出瓦片，这些影像提供 1 米/像素的分辨率，并包含 RGB 和红外波段数据。

对于训练标签，DeepOSM 使用 OSM 数据的 PBF 提取文件，这些文件以二进制格式存储地物和路径信息，可以使用 Python 进行处理。

NAIP 数据来自 Mapbox 在 AWS S3 上设置的请求者付费存储桶，而 OSM 提取文件则来自 geofabrik。

安装要求

DeepOSM 已成功在 Mac (10.x) 和 Linux (14.04 和 16.04) 上运行。您至少需要 4GB 内存。

AWS 凭证

您需要 AWS 凭证才能从 S3 请求者付费存储桶下载 NAIP 数据。虽然下载大量图像仅需几美分，但您需要绑定一张信用卡。

• 从 AWS 获取您的 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY

• 将它们导出为环境变量（并可能添加到您的 bash 或 zprofile 文件中）

export AWS_ACCESS_KEY_ID='FOO'
export AWS_SECRET_ACCESS_KEY='BAR'

安装 Docker

首先，安装 Docker 二进制文件。

此外，在 Mac 上运行时，我还需将 VirtualBox 的默认内存设置为 4GB。操作方法如下：

• 按照安装说明启动 Docker
• 停止 Docker
• 打开 VirtualBox，增加 Docker 创建的虚拟机的内存

（仅限 GPU）安装 nvidia-docker

若要使用您的 GPU 加速 DeepOSM，您需要先为您的 GPU 下载并安装最新的 NVIDIA 驱动程序，然后（在已安装 Docker 的基础上）再安装 nvidia-docker。

首先，请访问 NVIDIA 官网 查找适用于您 GPU 的最新驱动程序版本。请务必确认驱动程序的版本号，因为最新发布的版本并不总是最新版本。

下载合适的 NVIDIA-*.run 文件后，按照以下步骤进行安装（参考 AWS 文档）：

确保系统已更新，并重启以加载最新内核：

# 确保软件包是最新的
sudo apt-get update
sudo apt-get dist-upgrade

# 并重启
sudo reboot

系统重启后，请安装 build-essential 和当前内核版本对应的 linux-headers 包（或您所使用的 Linux 发行版中的等效包）：

sudo apt-get install build-essential linux-headers-$(uname -r)

然后运行之前下载的 NVIDIA 驱动程序安装脚本，并在完成后重启机器：

sudo bash <NVIDIA-Linux-*.run 文件路径>
sudo reboot

最后，验证 NVIDIA 驱动是否正确安装，以及 GPU 是否能够被 nvidia-smi 检测到：

nvidia-smi

Thu Mar  9 03:40:33 2017       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 367.57                 Driver Version: 367.57                    |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GRID K520           Off  | 0000:00:03.0     Off |                  N/A |
| N/A   54C    P0    45W / 125W |      0MiB /  4036MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID  Type  Process name                               Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

现在 NVIDIA 驱动已安装完毕，您可以按照以下步骤下载并安装 nvidia-docker（基于 这些说明）：

wget -P /tmp https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker_1.0.1-1_amd64.deb
sudo dpkg -i /tmp/nvidia-docker*.deb && rm /tmp/nvidia-docker*.deb

您可以通过在 Docker 容器中尝试运行 nvida-smi 来确认安装是否成功：

nvidia-docker run --rm nvidia/cuda nvidia-smi

Using default tag: latest
latest: Pulling from nvidia/cuda
d54efb8db41d: Pull complete 
f8b845f45a87: Pull complete 
e8db7bf7c39f: Pull complete 
9654c40e9079: Pull complete 
6d9ef359eaaa: Pull complete 
cdfa70f89c10: Pull complete 
3208f69d3a8f: Pull complete 
eac0f0483475: Pull complete 
4580f9c5bac3: Pull complete 
6ee6617c19de: Pull complete 
Digest: sha256:2b7443eb37da8c403756fb7d183e0611f97f648ed8c3e346fdf9484433ca32b8
Status: Downloaded newer image for nvidia/cuda:latest
Thu Mar  9 03:44:23 2017       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 367.57                 Driver Version: 367.57                    |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GRID K520           Off  | 0000:00:03.0     Off |                  N/A |
| N/A   54C    P8    18W / 125W |      0MiB /  4036MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID  Type  Process name                               Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

当您确认 nvidia-smi 在 nvidia-docker 中正常工作后，您应该就可以使用 GPU 运行 DeepOSM 了。

运行脚本

首先启动 Docker，然后运行：

make dev-gpu

如果您没有合适的 GPU，则运行：

make dev

下载 NAIP、PBF 并进行分析

在 Docker 容器中，以下 Python 脚本将正常运行。这些脚本会下载所有源数据，将其切片为训练/测试数据和标签，训练神经网络，并生成图像和文本输出。

默认数据为六幅 NAIP 影像，它们会被切分为 64x64x4 波段的数据（RGB-IR 波段）。训练标签则来自与 NAIP 影像重叠的 PBF 文件。

python bin/create_training_data.py
python bin/train_neural_net.py

DeepOSM 的输出包括一些控制台日志，以及将道路、标签和预测结果叠加在 TIFF 图像上的 JPEG 文件。

测试

目前有一个非常有限的测试套件可供使用，您可以在主机系统上通过运行以下命令来访问它：

make test

Jupyter Notebook

此外，您也可以通过 Jupyter Notebook 进行开发和研究：

make notebook

要通过主机上的浏览器访问该 Notebook，请先找到 VirtualBox 为您的默认 Docker 容器分配的 IP 地址，方法是运行：

docker-machine ls

NAME      ACTIVE   DRIVER       STATE     URL                         SWARM   DOCKER    ERRORS
default   *        virtualbox   Running   tcp://192.168.99.100:2376           v1.10.3

Notebook 服务器可通过端口 8888 访问，在本例中，您需要访问以下地址： http://192.168.99.100:8888

阅读材料

• 学习在高分辨率航空影像中检测道路（Hinton）

• 用于航空影像标注的机器学习——Mnih 2013年的博士论文，他是Hinton的学生，这是该领域最好/最新的论文，使用这些方法取得了巨大成功。

• 类似的基于OSM数据的研究

  • OSM-Crosswalk-Detection —— 使用Keras检测人行横道，为一门课程项目（2015年秋季）。
  • OSM-HOT-ConvNet —— 尝试用于灾害响应，作者认为其像素级准确率仅为69%（2016年秋季）。
  • Terrapattern —— （2016年春季）—— 检测相似图像，例如泳池、船迹或其他记者或研究人员可能感兴趣的内容模式——由卡内基梅隆大学的研究人员开发，开源。
  • Skynet Data —— （2016年春季）—— 基于OpenStreetMap的机器学习数据管道。
  • Mnih的CNN模型在马萨诸塞州数据上的完整实现

• 利用递归神经网络（RNN）解析自然场景与自然语言

• 神经网络与深度学习背景资料

  • MNIST数据及背景介绍
  • 其他所有指向Nielsen书籍和Colah博客的链接。
  • 香农的原始信息论论文

也可在此处查看工作日志。

论文——可能相关

• 基于道路与交叉口的识别与匹配进行航空影像地理定位——2016年5月

• 采用大窗口以改善预测效果，试图捕捉广泛的网络拓扑结构。

• 无需人工标注即可自动提取道路。准确度不高，但可作为预处理步骤来辅助道路检测。

论文——关联性不大

• 利用地图数据和立交桥的形状来检测相应物体的图片？如果能免费获取的话，似乎是一篇很有趣的论文。

• 一种将亚米级数据分类到不同区域的新技术。

• 无法访问全文，主要关注激光雷达数据的应用。

• 提出了一种提取网络拓扑结构的方法，或许可以作为后处理工具使用？

待審閱論文

近期推薦

• FIND - 您是否看過幾年前的一篇論文，該論文通過比較壓縮衛星影像的大小與 OSM 節點數量來估計 OSM 的完整度？

• READ - 這是一場關於使用 GPS 軌跡建議 OSM 編輯（Strava/Telenav）的演講：http://webcache.googleusercontent.com/search?q=cache:VoiCwRHOyLUJ:stateofthemap.us/map-tracing-for-millennials/+&cd=3&hl=en&ct=clnk&gl=us

引用 Mnih 和 Hinton 的研究

我正在審閱這些來自 Google 學術的論文，它們都引用了關鍵文獻，並且似乎與主題相關。

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=6602035&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D6602035

• http://www.cv-foundation.org/openaccess/content_cvpr_workshops_2015/W13/html/Paisitkriangkrai_Effective_Semantic_Pixel_2015_CVPR_paper.html

• http://www.tandfonline.com/doi/abs/10.1080/15481603.2013.802870

• https://www.computer.org/csdl/proceedings/icpr/2014/5209/00/5209d708-abs.html

• http://opticalengineering.spiedigitallibrary.org/article.aspx?articleid=1679147

• http://proceedings.spiedigitallibrary.org/proceeding.aspx?articleid=1354584

• http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.309.8565

• https://www.itc.nl/library/papers_2012/msc/gem/shaoqing.pdf

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7326745&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7326745

• http://proceedings.spiedigitallibrary.org/proceeding.aspx?articleid=2191094

• http://arxiv.org/abs/1509.03602

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7112625&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7112625

• http://www.sciencedirect.com/science/article/pii/S0924271615001690

• http://arxiv.org/abs/1405.6137

• https://www.itc.nl/external/ISPRS_WGIII4/ISPRSIII_4_Test_results/papers/Onera_2D_label_Vaih.pdf

• http://link.springer.com/chapter/10.1007/978-3-319-23528-8_33#page-1

• http://arxiv.org/abs/1508.06163

• http://www.mdpi.com/2072-4292/8/4/329

• http://arxiv.org/abs/1510.00098

• http://link.springer.com/article/10.1007/s10489-016-0762-6

• http://www.tandfonline.com/doi/abs/10.1080/01431161.2015.1054049

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7393563&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7393563

• http://www.cv-foundation.org/openaccess/content_iccv_2015/html/Mattyus_Enhancing_Road_Maps_ICCV_2015_paper.html

• http://www.cv-foundation.org/openaccess/content_iccv_2015/html/Zheng_Minimal_Solvers_for_ICCV_2015_paper.html

• http://arxiv.org/abs/1405.6136

• http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.681.1695&rep=rep1&type=pdf

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7120492&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7120492

• http://www.tandfonline.com/doi/abs/10.3846/20296991.2014.890271

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7362660&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7362660

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7414402&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7414402

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=6663455&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D6663455

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7337372&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7337372

• https://www.researchgate.net/profile/Moslem_Ouled_Sghaier/publication/280655680_Road_Extraction_From_Very_High_Resolution_Remote_Sensing_Optical_Images_Based_on_Texture_Analysis_and_Beamlet_Transform/links/55c0d9da08ae092e96678ff3.pdf

• http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=7159022&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D7159022

• http://www.sciencedirect.com/science/article/pii/S0303243415300283

• http://dl.acm.org/citation.cfm?id=2666389

• http://www.ijicic.org/ijicic-15-04045.pdf

原始構想

這是最開始的大致想法，而使用 TMS 地圖瓦片的方式也確實有一定效果（見前 50 多次提交），因此 DeepOSM 最終改為使用更優質的數據：

DeepOSM 快速上手指南

DeepOSM 是一个利用 OpenStreetMap (OSM) 数据训练神经网络，从而在卫星图像中分类道路和地物特征的开源工具。它支持下载卫星影像、生成训练数据、训练模型以及可视化预测结果（如检测 OSM 数据中未注册的道路）。

环境准备

系统要求

• 操作系统：macOS (10.x+) 或 Linux (Ubuntu 14.04/16.04+)
• 内存：至少 4GB RAM
• 存储：需预留足够空间下载卫星影像和中间数据（默认示例约处理 200 平方公里区域）
• GPU（可选）：若需加速训练，需配备 NVIDIA GPU 并安装对应驱动

前置依赖

1. Docker：必须安装 Docker Engine。
   • macOS 用户：安装 Docker Desktop 后，建议通过 VirtualBox 将默认虚拟机内存调整为 4GB 以上。
2. AWS 凭证：DeepOSM 默认从 AWS S3 "Requester Pays" 存储桶下载 NAIP 卫星影像。
   • 你需要拥有 AWS 账号并配置好信用卡。
   • 获取 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY。
3. NVIDIA 驱动与 nvidia-docker（仅 GPU 模式）：
   • 若使用 GPU 加速，需先在宿主机安装最新的 NVIDIA 驱动。
   • 安装 nvidia-docker 以支持容器调用 GPU。

安装步骤

1. 配置 AWS 环境变量

在终端中导出你的 AWS 凭证（建议写入 ~/.bashrc 或 ~/.zprofile 以便持久化）：

export AWS_ACCESS_KEY_ID='YOUR_AWS_ACCESS_KEY_ID'
export AWS_SECRET_ACCESS_KEY='YOUR_AWS_SECRET_ACCESS_KEY'

2. 安装 Docker 及 GPU 支持（可选）

通用 Docker 安装： 请参考 Docker 官方文档 安装。

• macOS 提示：启动 Docker -> 停止 Docker -> 打开 VirtualBox -> 增加 Default VM 的内存至 4GB+ -> 重启 Docker。

GPU 加速配置（Linux）： 若需使用 GPU，请先安装 NVIDIA 驱动并验证 nvidia-smi 正常工作，然后安装 nvidia-docker：

# 下载并安装 nvidia-docker (版本可能需根据实际更新)
wget -P /tmp https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker_1.0.1-1_amd64.deb
sudo dpkg -i /tmp/nvidia-docker*.deb && rm /tmp/nvidia-docker*.deb

# 验证安装
nvidia-docker run --rm nvidia/cuda nvidia-smi

3. 获取代码并构建环境

克隆项目仓库（如果尚未克隆），然后在项目根目录下运行以下命令构建开发环境：

使用 CPU 运行：

make dev

使用 GPU 运行：

make dev-gpu

基本使用

构建完成后，所有操作均在 Docker 容器内进行。以下是标准的训练与预测流程：

1. 生成训练数据

该脚本会自动下载默认的 NAIP 卫星影像（特拉华州区域）和对应的 OSM PBF 数据，将其切割为 64x64 的图块，并生成标签。

python bin/create_training_data.py

2. 训练神经网络

使用生成的数据训练模型。默认配置下，训练仅需约一分钟即可达到 75-80% 的准确率。

python bin/train_neural_net.py

3. 查看结果

运行结束后，控制台将输出日志，并在本地生成 JPEG 图像。这些图像展示了：

• 原始卫星影像
• OSM 道路标签
• 模型预测结果（特别是标记出 OSM 中有记录但模型认为不存在道路的“假阳性”区域，用于发现未更新的路网）

进阶：使用 Jupyter Notebook 进行研究

如果你希望通过交互式界面探索数据或调整模型参数：

1. 在项目根目录运行：

   make notebook
   

2. 获取 Docker 容器 IP 地址：

   docker-machine ls
   

   (例如输出显示 IP 为 192.168.99.100)
3. 在浏览器中访问： http://<IP_ADDRESS>:8888

注意：默认示例使用的是美国特拉华州的数据。若要分析其他区域，需修改源码中的数据下载逻辑以指向特定的 NAIP 和 OSM PBF 文件源。