CenterNet2

GitHub
1.2k 188 较难 1 次阅读 今天Apache-2.0图像
AI 解读 由 AI 自动生成,仅供参考

CenterNet2 是一款先进的开源目标检测算法,旨在通过创新的“概率两阶段检测”机制,在速度与精度之间取得卓越平衡。它巧妙地将无类别的单阶段检测器作为提议网络(第一阶段),用于估算物体存在的概率;随后在第二阶段,仅对这些高概率区域进行条件化的具体分类。

这一设计有效解决了传统两阶段检测器因候选框过多导致速度慢,以及单阶段检测器在复杂场景下精度不足的痛点。相比同类方案,CenterNet2 仅需更少的候选框即可实现更高准确率,同时保持了轻量级的计算开销。其最佳模型在权威的 COCO 测试集上达到了 56.4 mAP 的优异成绩。

该工具特别适合计算机视觉领域的研究人员与开发者使用,尤其是那些需要基于 Detectron2 框架进行高性能目标检测模型训练、评估或部署的专业人士。除了核心的两阶段架构,CenterNet2 还提供了优化的单阶段版本及新的 FPN 结构,支持多尺度训练,并兼容 LVIS 等长尾分布数据集,为学术探索和工业级应用提供了灵活且强大的技术基座。

使用场景

某自动驾驶初创团队正在开发城市道路感知系统,需要实时精准地检测车辆、行人及各类交通标志以保障行车安全。

没有 CenterNet2 时

  • 漏检率高:传统单阶段检测器在处理远处小目标(如斑马线上的行人)时概率估计不准,导致频繁漏检,存在严重安全隐患。
  • 推理延迟大:经典两阶段检测器生成的候选框过多,计算冗余严重,在车载 GPU 上难以维持高帧率,影响决策响应速度。
  • 长尾类别识别差:面对数据集中罕见的交通设施(如特殊施工牌),模型分类能力弱,误判或无法识别的情况频发。
  • 资源消耗高:为了平衡精度与速度,不得不堆叠更深的骨干网络,导致显存占用过高,难以部署在边缘计算设备上。

使用 CenterNet2 后

  • 概率感知更精准:利用第一阶段的类无关概率估计,CenterNet2 能更敏锐地捕捉低置信度目标,显著提升了小目标和遮挡物体的检出率。
  • 检测速度飞跃:得益于更轻量的一阶段提议网络和更少的候选框,模型在 Titan RTX 上可达 70+ FPS,完美满足实时性要求。
  • 长尾分布优化:结合条件分类机制与 FedLoss 策略,CenterNet2 在 LVIS 等长尾数据集上表现优异,能准确识别罕见交通标志。
  • 效率精度双赢:在减少计算量的同时,COCO 测试集 mAP 提升至 56.4,让团队能用更小的模型实现超越传统方案的检测精度。

CenterNet2 通过 probabilistic two-stage 架构,成功打破了自动驾驶场景中“高精度”与“低延迟”不可兼得的技术瓶颈。

运行环境要求

操作系统
  • Linux
GPU

需要 NVIDIA GPU(测试环境为 Titan RTX),具体显存和 CUDA 版本取决于 detectron2 及 PyTorch 的要求,通常建议 8GB+ 显存

内存

未说明

依赖
notes该项目基于 detectron2 开发,需优先按照 detectron2 官方文档完成安装。部分骨干网络代码(bifpn_fcos.py)源自 AdelaiDet,遵循非商业许可协议。测试 FPS 数据基于 Titan RTX GPU 得出。
python未说明
detectron2
torch
torchvision
AdelaiDet (部分代码引用)
CenterNet2 hero image

快速开始

概率两阶段检测

使用与类别无关的单阶段检测器作为候选区域生成网络的两阶段目标检测器。

概率两阶段检测,
周星毅、弗拉德伦·科尔图恩、菲利普·克雷亨布尔,
arXiv 技术报告 (arXiv 2103.07461)

联系邮箱:zhouxy@cs.utexas.edu。欢迎任何问题或讨论!

摘要

  • 两阶段 CenterNet:第一阶段估计目标概率,第二阶段对目标进行条件分类。
  • 所得检测器比传统两阶段检测器(所需候选框更少)和单阶段检测器(第一阶段头更轻量)都更快且更准确。
  • 我们的最佳模型在 COCO test-dev 上达到了 56.4 mAP。
  • 此仓库还包含一个基于 detectron2 的 CenterNet 实现,其精度更高(70 FPS 下为 42.5 mAP),以及一个新的 FPN 版本的 CenterNet(Res50_1x 下为 40.2 mAP)。

主要结果

所有模型均采用多尺度训练,并在单尺度下测试。FPS 测试在 Titan RTX GPU 上进行。 更多模型和详细信息请参阅 MODEL_ZOO

COCO

模型 COCO 验证集 mAP FPS
CenterNet-S4_DLA_8x 42.5 71
CenterNet2_R50_1x 42.9 24
CenterNet2_X101-DCN_2x 49.9 8
CenterNet2_R2-101-DCN-BiFPN_4x+4x_1560_ST 56.1 5
CenterNet2_DLA-BiFPN-P5_24x_ST 49.2 38

LVIS

模型 验证集 box mAP
CenterNet2_R50_1x 26.5
CenterNet2_FedLoss_R50_1x 28.3

Objects365

模型 验证集 mAP
CenterNet2_R50_1x 22.6

安装

我们的项目基于 detectron2 开发。请按照官方 detectron2 的 安装说明 进行安装。

我们使用默认的 detectron2 示例脚本。要使用我们的预训练模型对图像文件夹进行推理,请运行:

python demo.py --config-file configs/CenterNet2_R50_1x.yaml --input path/to/image/ --opts MODEL.WEIGHTS models/CenterNet2_R50_1x.pth

基准评估和训练

请参阅 detectron2 的 GETTING_STARTED.md,了解如何运行评估和训练。我们的配置文件位于 configs 目录下,预训练模型则存放在 MODEL_ZOO 中。

许可证

我们的代码采用 Apache 2.0 许可证。其中的 centernet/modeling/backbone/bifpn_fcos.py 来自 AdelaiDet,该库遵循原始的 非商业许可

引用

如果您认为本项目对您的研究有所帮助,请使用以下 BibTeX 条目:

@inproceedings{zhou2021probablistic,
  title={Probabilistic two-stage detection},
  author={Zhou, Xingyi and Koltun, Vladlen and Kr{\"a}henb{\"u}hl, Philipp},
  booktitle={arXiv preprint arXiv:2103.07461},
  year={2021}
}

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|3天前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|4天前
开发框架图像Agent

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.1k|★★☆☆☆|昨天
开发框架图像Agent

LLMs-from-scratch

LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备

90.1k|★★★☆☆|3天前
语言模型图像Agent

Deep-Live-Cam

Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具,用户仅需一张静态照片,即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点,让高质量的数字内容创作变得触手可及。 这款工具不仅适合开发者和技术研究人员探索算法边界,更因其极简的操作逻辑(仅需三步:选脸、选摄像头、启动),广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换,还是制作趣味短视频和直播互动,Deep-Live-Cam 都能提供流畅的支持。 其核心技术亮点在于强大的实时处理能力,支持口型遮罩(Mouth Mask)以保留使用者原始的嘴部动作,确保表情自然精准;同时具备“人脸映射”功能,可同时对画面中的多个主体应用不同面孔。此外,项目内置了严格的内容安全过滤机制,自动拦截涉及裸露、暴力等不当素材,并倡导用户在获得授权及明确标注的前提下合规使用,体现了技术发展与伦理责任的平衡。

88.9k|★★★☆☆|4天前
开发框架图像Agent

opencv

OpenCV 是一个功能强大的开源计算机视觉库,被誉为机器视觉领域的“瑞士军刀”。它主要解决让计算机“看懂”图像和视频的核心难题,提供了从基础的图像读取、色彩转换、边缘检测,到复杂的人脸识别、物体追踪、3D 重建及深度学习模型部署等全方位算法支持。无论是处理静态图片还是分析实时视频流,OpenCV 都能高效完成特征提取与模式识别任务。 这款工具特别适合计算机视觉开发者、人工智能研究人员以及机器人工程师使用。对于希望将视觉感知能力集成到应用中的软件工程师,或是需要快速验证算法原型的学术研究者,OpenCV 都是不可或缺的基础设施。虽然普通用户通常不会直接操作代码,但日常生活中使用的扫码支付、美颜相机和自动驾驶系统,背后往往都有它的身影。 OpenCV 的独特亮点在于其卓越的性能与广泛的兼容性。它采用 C++ 编写以确保高速运算,同时提供 Python、Java 等多种语言接口,极大降低了开发门槛。库中内置了数千种优化算法,并支持跨平台运行,能够无缝对接各类硬件加速器。作为社区驱动的项目,OpenCV 拥有活跃的生态系统和丰富的学习资源,持续推动着视觉技术的前沿发展。

87k|★☆☆☆☆|昨天
开发框架图像