Depth-Anything-V2

GitHub
7.9k 800 简单 1 次阅读 今天Apache-2.0图像其他
AI 解读 由 AI 自动生成,仅供参考

Depth Anything V2 是一款专为单目深度估计打造的先进基础模型,能够仅凭一张普通照片精准推算出场景的深度信息。相比前代版本,它在细节还原和鲁棒性上实现了显著突破,不仅能更清晰地识别物体边缘与纹理,还能在复杂光照或多样场景下保持稳定输出。

该工具主要解决了传统深度估计模型在精细度不足、推理速度慢以及参数量过大等方面的痛点。与基于稳定扩散(SD)的模型相比,Depth Anything V2 拥有更快的推理速度、更少的参数占用以及更高的深度预测精度,同时支持从轻量级到超大规模的多种模型配置,满足不同算力需求。

无论是计算机视觉开发者、学术研究人员,还是需要快速集成深度感知功能的产品工程师,都能从中受益。其独特的技术亮点包括对细粒度特征的卓越捕捉能力,以及已无缝集成至 Hugging Face Transformers 和苹果 Core ML 生态,便于跨平台部署。此外,项目还持续拓展视频深度一致性及高分辨率度量深度估计等前沿应用,为三维重建、自动驾驶及增强现实等领域提供了强有力的技术支撑。

使用场景

一家专注于自动驾驶仿真测试的团队,需要利用单目行车记录仪视频快速重建高保真的 3D 城市道路场景。

没有 Depth-Anything-V2 时

  • 细节丢失严重:传统深度估计模型难以识别远处的交通标志、纤细的护栏或复杂的路面纹理,导致重建的 3D 模型出现“平滑化”失真,缺乏真实感。
  • 极端环境失效:在夜间低光照、强逆光或雨天等恶劣天气下,旧模型生成的深度图充满噪点甚至完全错误,迫使团队必须人工剔除大量无效数据。
  • 推理效率低下:为了追求一定的精度,往往需要部署参数量巨大的基于扩散模型(SD-based)的方案,导致处理长视频时显存占用过高且推理速度极慢,严重拖慢迭代周期。

使用 Depth-Anything-V2 后

  • 细粒度还原:Depth-Anything-V2 凭借更强的基础模型能力,精准捕捉到电线杆、路面裂缝等微小结构的深度信息,使仿真场景的几何细节达到电影级质感。
  • 鲁棒性显著提升:即使在深夜隧道出口或暴雨场景中,Depth-Anything-V2 依然能输出连贯、准确的深度图,大幅减少了数据清洗和人工修正的工作量。
  • 速度与精度兼得:相比同类高精度模型,Depth-Anything-V2 在参数量更小的情况下实现了更快的推理速度,让团队能在消费级显卡上实时处理超长时间的视频流。

Depth-Anything-V2 通过突破性的细粒度感知与鲁棒性,将单目深度估计从“可用”提升至“生产级”,极大降低了高保真 3D 场景重建的门槛与成本。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows
GPU
  • 非必需
  • 支持 NVIDIA GPU (CUDA)、Apple Silicon (MPS) 或 CPU 运行
  • 具体显存需求未说明,但模型参数量最大达 1.3B,建议大模型使用高显存显卡
内存

未说明

依赖
notes1. 代码自动检测硬件:优先使用 CUDA,若无则尝试 MPS (macOS),最后回退到 CPU。 2. 提供四种规模模型 (Small/Base/Large/Giant),参数量从 24.8M 到 1.3B 不等,需根据硬件选择。 3. 可通过 pip install -r requirements.txt 安装依赖,具体版本需查看该文件。 4. 支持通过 Hugging Face Transformers 库直接加载模型,无需克隆仓库。 5. Small 模型采用 Apache-2.0 协议,Base/Large/Giant 模型采用 CC-BY-NC-4.0 协议。
python未说明
torch
opencv-python (cv2)
transformers (可选)
Depth-Anything-V2 hero image

快速开始

Depth Anything V2

李赫杨1 · 康炳毅2† · 黄子龙2
赵震 · 徐晓刚 · 冯嘉世2 · 赵恒爽1*

1香港大学   2TikTok
†项目负责人 *通讯作者

论文PDF 项目页面 基准测试

本工作提出了Depth Anything V2。它在细节表现和鲁棒性方面显著优于V1。与基于SD的模型相比,它具有更快的推理速度、更少的参数以及更高的深度精度。

teaser

新闻

  • 2025-01-22: Video Depth Anything 已发布。它可以为超长视频(例如超过5分钟)生成一致的深度图。
  • 2024-12-22: Prompt Depth Anything 已发布。当使用低分辨率激光雷达作为提示时,该模型支持4K分辨率的度量深度估计。
  • 2024-07-06: Depth Anything V2 已被集成到 Transformers 中。请参阅使用说明以方便使用。
  • 2024-06-25: Depth Anything 已被整合到 Apple Core ML Models 中。请参阅使用说明(V1V2)。
  • 2024-06-22: 我们发布了基于Depth-Anything-V2-Small 和 Base 的更小的度量深度模型
  • 2024-06-20: 我们的仓库和项目页面被 GitHub 标记并从公开列表中移除,为期6天。对此造成的不便,我们深表歉意。
  • 2024-06-14: 论文、项目页面、代码、模型、演示和基准测试均已发布。

预训练模型

我们提供了四种不同规模的模型,用于鲁棒的相对深度估计:

模型 参数量 检查点
Depth-Anything-V2-Small 24.8M 下载
Depth-Anything-V2-Base 97.5M 下载
Depth-Anything-V2-Large 335.3M 下载
Depth-Anything-V2-Giant 1.3B 即将发布

使用方法

准备工作

git clone https://github.com/DepthAnything/Depth-Anything-V2
cd Depth-Anything-V2
pip install -r requirements.txt

下载此处列出的预训练模型,并将它们放入 checkpoints 目录下。

使用我们的模型

import cv2
import torch

from depth_anything_v2.dpt import DepthAnythingV2

DEVICE = 'cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu'

model_configs = {
    'vits': {'encoder': 'vits', 'features': 64, 'out_channels': [48, 96, 192, 384]},
    'vitb': {'encoder': 'vitb', 'features': 128, 'out_channels': [96, 192, 384, 768]},
    'vitl': {'encoder': 'vitl', 'features': 256, 'out_channels': [256, 512, 1024, 1024]},
    'vitg': {'encoder': 'vitg', 'features': 384, 'out_channels': [1536, 1536, 1536, 1536]}
}

encoder = 'vitl' # 或 'vits', 'vitb', 'vitg'

model = DepthAnythingV2(**model_configs[encoder])
model.load_state_dict(torch.load(f'checkpoints/depth_anything_v2_{encoder}.pth', map_location='cpu'))
model = model.to(DEVICE).eval()

raw_img = cv2.imread('your/image/path')
depth = model.infer_image(raw_img) # HxW 的原始深度图,格式为 numpy

如果您不想克隆此仓库,也可以通过 Transformers 加载我们的模型。以下是一个简单的代码片段。更多详细信息请参考官方页面

  • 注意1:请确保您能够连接到 Hugging Face,并已安装最新版本的 Transformers。
  • 注意2:由于 OpenCV(我们使用的库)与 Pillow(HF使用的库)之间的上采样差异,预测结果可能会略有不同。因此,我们建议您按照上述方式使用我们的模型。
from transformers import pipeline
from PIL import Image

pipe = pipeline(task="depth-estimation", model="depth-anything/Depth-Anything-V2-Small-hf")
image = Image.open('your/image/path')
depth = pipe(image)["depth"]

在图像上运行脚本

python run.py \
  --encoder <vits | vitb | vitl | vitg> \
  --img-path <path> --outdir <outdir> \
  [--input-size <size>] [--pred-only] [--grayscale]

选项:

  • --img-path: 您可以将其指向一个存储所有感兴趣图像的目录,也可以指向单张图像,或指向一个包含所有图像路径的文本文件。
  • --input-size(可选):默认情况下,我们使用输入尺寸 518 进行模型推理。您可以增大尺寸以获得更精细的结果。
  • --pred-only(可选):仅保存预测的深度图,不保存原始图像。
  • --grayscale(可选):保存灰度深度图,不应用颜色映射。

例如:

python run.py --encoder vitl --img-path assets/examples --outdir depth_vis

在视频上运行脚本

python run_video.py \
  --encoder <vits | vitb | vitl | vitg> \
  --video-path assets/examples_video --outdir video_depth_vis \
  [--input-size <size>] [--pred-only] [--grayscale]

我们的大型模型在视频处理上具有更好的时间一致性。

Gradio 示例

要在本地使用我们的 Gradio 示例:

python app.py

你也可以尝试我们的在线示例

注意:与 V1 相比,我们对 DINOv2-DPT 架构做了一处小修改(源自此问题)。 在 V1 中,我们无意间使用了 DINOv2 最后四层的特征进行解码。而在 V2 中,我们改用中间特征。尽管这一改动并未提升细节或精度,但我们仍决定遵循这一常见做法。

针对度量深度估计的微调

请参阅度量深度估计

DA-2K 评估基准

请参阅DA-2K 基准

社区支持

我们衷心感谢社区对我们 Depth Anything 系列的所有支持!非常感谢!

致谢

我们由衷地感谢优秀的 Hugging Face 团队(@Pedro Cuenca@Niels Rogge@Merve Noyan@Amy Roberts 等),他们在 Transformers 和 Apple Core ML 中为我们模型的支持付出了巨大努力。

同时,我们也感谢DINOv2团队,为我们的社区贡献了如此令人印象深刻的模型。

许可证

Depth-Anything-V2-Small 模型采用 Apache-2.0 许可证。Depth-Anything-V2-Base/Large/Giant 模型则采用 CC-BY-NC-4.0 许可证。

引用

如果你觉得本项目对你有帮助,请考虑引用以下内容:

@article{depth_anything_v2,
  title={Depth Anything V2},
  author={Yang, Lihe and Kang, Bingyi and Huang, Zilong and Zhao, Zhen and Xu, Xiaogang and Feng, Jiashi and Zhao, Hengshuang},
  journal={arXiv:2406.09414},
  year={2024}
}

@inproceedings{depth_anything_v1,
  title={Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data}, 
  author={Yang, Lihe and Kang, Bingyi and Huang, Zilong and Xu, Xiaogang and Feng, Jiashi and Zhao, Hengshuang},
  booktitle={CVPR},
  year={2024}
}

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|今天
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|昨天
开发框架图像Agent

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.9k|★★☆☆☆|今天
开发框架图像Agent

LLMs-from-scratch

LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备

90.1k|★★★☆☆|今天
语言模型图像Agent

Deep-Live-Cam

Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具,用户仅需一张静态照片,即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点,让高质量的数字内容创作变得触手可及。 这款工具不仅适合开发者和技术研究人员探索算法边界,更因其极简的操作逻辑(仅需三步:选脸、选摄像头、启动),广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换,还是制作趣味短视频和直播互动,Deep-Live-Cam 都能提供流畅的支持。 其核心技术亮点在于强大的实时处理能力,支持口型遮罩(Mouth Mask)以保留使用者原始的嘴部动作,确保表情自然精准;同时具备“人脸映射”功能,可同时对画面中的多个主体应用不同面孔。此外,项目内置了严格的内容安全过滤机制,自动拦截涉及裸露、暴力等不当素材,并倡导用户在获得授权及明确标注的前提下合规使用,体现了技术发展与伦理责任的平衡。

88.9k|★★★☆☆|今天
开发框架图像Agent

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|今天
图像数据工具视频