PointMamba

GitHub
528 40 中等 2 次阅读 1周前Apache-2.0图像其他
AI 解读 由 AI 自动生成,仅供参考

PointMamba 是一款专为点云分析设计的开源深度学习模型,由华中科技大学与百度联合研发,并入选 NeurIPS 2024。它旨在解决传统 Transformer 架构在处理 3D 点云数据时计算复杂度高达二次方的问题,在保持强大全局建模能力的同时,显著降低了对显存和算力的需求。

该工具的核心亮点在于创新性地将自然语言处理领域流行的状态空间模型(Mamba)引入 3D 视觉任务。PointMamba 摒弃了复杂的层级结构,采用极其简洁的非分层编码器作为主干,并结合空间填充曲线技术对点云进行高效标记化。这种设计使其拥有线性级的计算复杂度,不仅大幅减少了浮点运算量(FLOPs)和 GPU 内存占用,还在多个主流数据集上实现了超越现有方法的精度表现。

PointMamba 非常适合从事 3D 视觉研究的研究人员、需要高效部署模型的算法工程师以及关注前沿 AI 架构的开发者使用。对于希望在有限硬件资源下探索高性能点云处理方案,或试图理解状态空间模型在三维场景中应用潜力的团队来说,这是一个简单而强大的基准工具。

使用场景

某自动驾驶初创公司的感知算法团队正在开发实时 3D 目标检测系统,需要在嵌入式设备上处理激光雷达采集的高密度点云数据以识别道路障碍物。

没有 PointMamba 时

  • 显存爆炸难以部署:传统 Transformer 架构因注意力机制的计算复杂度呈二次方增长,处理大规模点云时 GPU 显存占用极高,导致模型无法在车载边缘设备上运行。
  • 推理延迟过高:全局建模能力虽强,但巨大的计算量(FLOPs)使得单帧数据处理耗时过长,无法满足自动驾驶毫秒级的实时响应需求。
  • 工程优化成本高:为了适配硬件,工程师不得不花费大量时间进行复杂的模型剪枝、量化或设计分层结构,严重拖慢了迭代进度。
  • 细节特征易丢失:在强行降低计算负载的过程中,往往牺牲了对细小物体(如路锥、行人)的全局上下文捕捉能力,导致漏检率上升。

使用 PointMamba 后

  • 线性复杂度省显存:PointMamba 利用状态空间模型(SSM)将计算复杂度降为线性,显著降低了 GPU 显存占用,使大模型直接部署成为可能。
  • 推理速度大幅提升:凭借极简的非分层 Mamba 编码器,系统在保持全局建模能力的同时,大幅减少了 FLOPs,实现了流畅的实时推理。
  • 架构简单易于集成:无需复杂的分层设计或繁琐的调优,通过空间填充曲线即可高效完成点云令牌化,研发团队可快速将新算法落地。
  • 精度与效率兼得:在 ScanObjectNN 等数据集上验证了其在低资源消耗下仍能保持卓越的分类与检测精度,有效提升了小目标的识别率。

PointMamba 通过引入线性复杂度的状态空间模型,彻底打破了 3D 视觉任务中全局建模能力与计算效率不可兼得的瓶颈。

运行环境要求

操作系统
  • 未说明
GPU

需要 NVIDIA GPU(基于 Mamba 和 CUDA 扩展依赖),具体显存和 CUDA 版本未说明,但文中提到显著减少 GPU 内存占用

内存

未说明

依赖
notes该项目基于 Point-BERT 和 Point-MAE 架构,并引入了 Mamba 状态空间模型及 Causal-Conv1d。虽然 README 未列出具体的版本号和环境配置细节,但由于依赖了自定义 CUDA 算子(mamba-ssm, causal-conv1d),通常仅支持 Linux 环境且需要编译安装。建议参考其引用的上游项目(如 Point-BERT)或查看 docs/USAGE.md 获取详细安装步骤。
python未说明
torch
mamba-ssm
causal-conv1d
Point-BERT (代码基础)
Point-MAE (代码基础)
PointMamba hero image

快速开始

PointMamba

一种用于点云分析的简单状态空间模型

Dingkang Liang1 *, Xin Zhou1 *, Wei Xu1, Xingkui Zhu1, Zhikang Zou2, Xiaoqing Ye2, Xiao Tan2Xiang Bai1†

1 华中科技大学,2 百度公司

(*) 共同第一作者。($\dagger$) 通讯作者。

arXiv 项目 知乎 访问量 GitHub已关闭的问题 代码许可证

📣 新闻

  • [2025年3月12日] 更新代码。旧版本可在这里找到。
  • [2024年10月11日] 🚀 欢迎查看我们的最新工作**PointGST,它在ScanObjNN OBJ_BG、OBJ_OBLY和PB_T50_RS数据集上分别达到了99.48%**、**97.76%96.18%**的整体准确率。
  • [2024年9月26日] PointMamba已被NeurIPS 2024接收!🥳🥳🥳
  • [2024年5月30日] 更新! 我们更新了架构和性能。请查阅我们的最新论文,并与新结果进行比较。代码和权重将很快更新
  • [2024年4月1日] 带有进一步数据增强的ScanObjectNN现已可用,请查看!
  • [2024年3月16日] ModelNet40的配置文件和检查点现已开放下载,请查看!
  • [2024年3月5日] 我们的论文DAPT (github)已被CVPR 2024接收!🥳🥳🥳 请查看并给它一颗星🌟!
  • [2024年2月16日] 发布了论文

摘要

Transformer因其卓越的全局建模能力,已成为点云分析任务中的基础架构之一。然而,其注意力机制具有二次复杂度,因此设计一种具有线性复杂度且具备全局建模能力的方法显得颇具吸引力。本文提出PointMamba,将近期代表性状态空间模型(SSM)——Mamba的成功经验从自然语言处理领域迁移到点云分析任务中。与传统Transformer不同,PointMamba采用线性复杂度的算法,在显著降低计算成本的同时,仍能实现全局建模能力。具体而言,我们的方法利用空间填充曲线对点云进行有效分词,并采用极其简单的非层次化Mamba编码器作为骨干网络。全面的评估表明,PointMamba在多个数据集上均表现出色,同时大幅减少了GPU显存占用和浮点运算次数。本研究凸显了SSM在三维视觉相关任务中的潜力,并为未来的研究提供了一个简单而有效的基于Mamba的基准模型。

概述

主要结果

任务 数据集 配置 准确率 下载(检查点/日志)
预训练 ShapeNet pretrain.yaml N.A. 检查点
分类 ModelNet40 finetune_modelnet.yaml 93.6% 检查点
分类 ScanObjectNN finetune_scan_objbg.yaml 94.32% 检查点 / 日志
分类 ScanObjectNN finetune_scan_objonly.yaml 92.60% 检查点 / 日志
分类 ScanObjectNN finetune_scan_hardest.yaml 89.31% 检查点

快速入门

数据集

详情请参阅DATASET.md

使用方法

详情请参阅USAGE.md

待办事项

  • 发布代码。
  • 发布检查点。
  • ModelNet40。
  • 更新代码。

致谢

本项目基于Point-BERT(论文代码)、Point-MAE(论文代码)、Mamba(论文代码)以及Causal-Conv1d(代码)。感谢他们的杰出工作。

引用

如果您在研究中觉得本仓库很有用,请考虑给它点个赞 ⭐ 并引用如下文献:

@inproceedings{liang2024pointmamba,
      title={PointMamba:用于点云分析的简单状态空间模型}, 
      author={梁丁康、周欣、徐伟、朱兴魁、邹志康、叶晓青、谭晓、白翔},
      booktitle={神经信息处理系统进展},
      year={2024}
}

版本历史

ckpts-22025/03/12
ckpts2024/02/17

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|5天前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|6天前
开发框架图像Agent

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|昨天
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|昨天
插件Agent图像

LLMs-from-scratch

LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备

90.1k|★★★☆☆|5天前
语言模型图像Agent

Deep-Live-Cam

Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具,用户仅需一张静态照片,即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点,让高质量的数字内容创作变得触手可及。 这款工具不仅适合开发者和技术研究人员探索算法边界,更因其极简的操作逻辑(仅需三步:选脸、选摄像头、启动),广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换,还是制作趣味短视频和直播互动,Deep-Live-Cam 都能提供流畅的支持。 其核心技术亮点在于强大的实时处理能力,支持口型遮罩(Mouth Mask)以保留使用者原始的嘴部动作,确保表情自然精准;同时具备“人脸映射”功能,可同时对画面中的多个主体应用不同面孔。此外,项目内置了严格的内容安全过滤机制,自动拦截涉及裸露、暴力等不当素材,并倡导用户在获得授权及明确标注的前提下合规使用,体现了技术发展与伦理责任的平衡。

88.9k|★★★☆☆|5天前
开发框架图像Agent