nuitrack-sdk
Nuitrack 是一款由 3DiVi 开发的 3D 人体与骨骼追踪中间件,旨在让各类深度传感器(如 Kinect、Intel RealSense、Orbbec 等)具备精准的“视觉理解”能力。它解决了开发者在不同硬件平台和操作系统上统一获取高质量 3D 数据、实时骨骼动作及环境分析的难题,被誉为适配所有设备的"Kinect"。
无论是需要在树莓派上实现轻量级手势控制,还是构建大规模多传感器分析系统,Nuitrack 都能提供稳定支持。它不仅能输出深度图和 3D 点云,还能精准识别人体骨骼、进行像素级人物分割、检测地面平面,甚至分析面部年龄与情绪。特别适合游戏开发者、交互设计师、机器人研究人员以及需要动作捕捉功能的工程师使用。
其独特亮点在于拥有两套骨骼追踪引擎:一套是专为嵌入式设备优化的经典算法,快速且节省资源;另一套是基于深度学习的 AI 引擎,能更准确地处理复杂姿态。此外,Nuitrack 近期还原生支持 Unreal Engine 5 的 MetaHuman 角色,并推出了无需编程即可导出数据的可视化应用,大幅降低了技术门槛,帮助用户高效打造沉浸式交互体验。
使用场景
某智能健身镜开发团队正致力于打造一款能实时纠正用户深蹲、瑜伽等动作的家庭健身产品,需通过普通摄像头或深度传感器精准捕捉人体骨骼。
没有 nuitrack-sdk 时
- 硬件绑定严重:团队被迫针对特定品牌深度相机(如早期 Kinect)编写底层驱动,一旦更换传感器(如换用 Orbbec 或 RealSense),核心代码需推倒重来。
- 姿态识别局限:传统算法难以处理复杂瑜伽体式或多人同框场景,用户稍作遮挡或快速移动,骨骼点即刻丢失或漂移。
- 开发门槛极高:为了实现像素级的人体分割和手势控制 UI,工程师需耗费数月钻研计算机视觉底层数学模型与 C++ 优化。
- 边缘设备运行困难:算法过于沉重,无法在树莓派等低功耗嵌入式设备上流畅运行,导致产品成本居高不下。
使用 nuitrack-sdk 后
- 实现“一次开发,处处运行”:nuitrack-sdk 统一了各类深度传感器接口,团队可自由切换 Femto Bolt 或 Intel Realsense 等硬件,无需修改上层业务逻辑。
- 复杂动作精准锁定:借助其基于深度学习的 AI 追踪引擎,即使用户做高难度单腿平衡或被部分遮挡,nuitrack-sdk 仍能稳定输出高精度 3D 骨骼数据。
- 功能落地极速化:直接调用现成的 API 即可获取年龄情绪分析、手势识别及像素级人体分割,将原本数月的研发周期缩短至数周。
- 轻量化部署成功:凭借高度优化的经典追踪引擎,nuitrack-sdk 让高性能动作捕捉顺利跑在 ARM 架构的低成本设备上,大幅降低量产成本。
nuitrack-sdk 通过提供硬件无关的高精度 3D 骨骼追踪基座,让开发者能专注于沉浸式应用创新而非底层视觉算法的重复造轮子。
运行环境要求
- Windows
- Linux
- Android
- iOS
- 未说明(支持基于深度学习的 AI 引擎,但未指定具体 GPU 型号或 CUDA 版本
- 经典引擎针对嵌入式硬件和有限 CPU 资源优化)
未说明

快速开始
最新动态(2025年)?
- :white_check_mark: 25年第二季度 - 0.38.2 - Unreal Engine 5 MetaHuman 原生支持 :rocket:
- :white_check_mark: 25年第二季度 - 0.38.2 - 重新设计的 Nuitrack 应用程序
- :white_check_mark: 24年第四季度 - 0.37.24 - Unreal Engine 5 现已通过官方 Fab 市场直接提供
- :white_check_mark: 24年第二季度 - 0.37.24 - 使用 Nuitrack 应用程序编写 CSV 文件。无需 C++ 知识!
- TouchDesigner - 正式版本现已发布。
- :movie_camera: 多传感器追踪 请参阅此页面以了解如何参与 Nuitrack Holistic 测试计划。
- :gear: 故障案例记录器
即将推出:
- :soon: UE Niagara 粒子系统支持
- :soon: 身体测量 API
- :soon: 多传感器全身骨骼追踪
- :soon: 追踪精度的重大更新
什么是 Nuitrack™ SDK?
Nuitrack™ 是由 3DiVi Inc 开发的用于 3D/深度传感器的 3D 身体/骨骼追踪库。
它为各种广泛的应用场景提供了基于运动的应用支持:
- 3D 传感器 - Orbbec Astra2 / Persee2 / Femto Bolt / Femto Mega, Kinect v1/v2, Kinect Azure, Intel Realsense, Asus Xtion、LIPS、Structure Sensor 等。
- 硬件平台 - x64、x86、ARMv7、ARMv8
- 操作系统 - Windows、Linux、Android、iOS
受第一代 Microsoft Kinect 的启发,Nuitrack™ 的使命是为下一代沉浸式和分析型应用提供强大的骨骼追踪基础。
可以将其视为“适用于所有设备的 Kinect”。
凭借其卓越的性能和灵活性,Nuitrack™ 能够支持广泛的应用:
- 从在 Raspberry Pi4 上进行实时手势识别,
- 到大规模多传感器分析系统。
核心功能
与任何受支持的深度传感器一起使用后,Nuitrack 提供:
| 深度图 / 3D 点云 | 场景分析,如地面平面等关键元素 | 人员追踪及针对每个人的像素级分割 |
|---|---|---|
![]() |
![]() |
![]() |
| 高度复杂的 3D 骨骼追踪 用于每个人 | 基本的 面部分析,如年龄和情绪检测 | 手部追踪 和 手势识别 高级 API,用于 UI 控制 |
![]() |
![]() |
![]() |
Nuitrack 拥有两套 骨骼追踪 引擎:
- “经典”引擎 - 快速、稳定且轻量级,专为嵌入式硬件和有限的 CPU 使用而高度优化。
- AI 引擎 - 基于深度学习的引擎,可更好地覆盖复杂姿态。
本质上,Nuitrack 为您的应用程序提供了一种 以人为本的空间理解工具,使您能够以自然且智能的方式与用户互动。
使用您的传感器试用 Nuitrack
操作简单快捷,只需三步:
使用 Nuitrack 进行开发
| C++ | C# | Python |
|---|---|---|
| Unity | Unreal Engine 5 蓝图 | :new: Touch Designer | :new: Docker |
|---|---|---|---|
集成
- Nuitrack 提供将其嵌入到您应用程序中的能力,这意味着无需在客户的电脑上单独安装,更多信息请参见 此处。
其他资源
| 资源 | 描述 |
|---|---|
| Nuitrack.com | 一般信息及许可证购买 |
| 许可管理控制台 | 许可证/订阅管理 |
| 故障排除页面 | 已知问题及解决方案 |
| 社区论坛 | 故障排除、功能讨论 |
| 文档 | 文档索引 |
| 运行时组件 | 所有支持平台的软件包 |
| C++/C# API | 自动生成的 API 参考文档(Doxygen) |
| C++/C# 示例 | 这些基础示例展示了如何使用 Nuitrack SDK |
| iOS [测试版] | 开始在 iOS 上使用 Nuitrack |
应用领域
- 游戏与训练(健身、舞蹈课程)
- 医疗康复
- 智能家居
- 自然/手势用户界面(NUI)
- 用于 AR/VR 的全身追踪
- 观众分析
- 机器人视觉
Nuitrack 在学术界的应用
Nuitrack 广泛应用于严肃的研究中,以下仅列出部分精选参考文献:
版本历史
v0.38.52025/07/13v0.37.62023/12/17v0.37.52023/12/14v0.38.42025/06/08v0.38.22025/03/02v0.38.12025/02/02v0.38.02025/01/08v0.37.242024/07/01v0.37.232024/06/17v0.37.222024/06/10v0.37.212024/06/03v0.37.202024/05/24v0.37.192024/05/17v0.37.182024/05/13v0.37.172024/04/28v0.37.162024/04/22v0.37.152024/04/14v0.37.142024/04/11v0.37.82024/01/19v0.37.72024/01/08常见问题
相似工具推荐
openclaw
OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
opencode
OpenCode 是一款开源的 AI 编程助手(Coding Agent),旨在像一位智能搭档一样融入您的开发流程。它不仅仅是一个代码补全插件,而是一个能够理解项目上下文、自主规划任务并执行复杂编码操作的智能体。无论是生成全新功能、重构现有代码,还是排查难以定位的 Bug,OpenCode 都能通过自然语言交互高效完成,显著减少开发者在重复性劳动和上下文切换上的时间消耗。 这款工具专为软件开发者、工程师及技术研究人员设计,特别适合希望利用大模型能力来提升编码效率、加速原型开发或处理遗留代码维护的专业人群。其核心亮点在于完全开源的架构,这意味着用户可以审查代码逻辑、自定义行为策略,甚至私有化部署以保障数据安全,彻底打破了传统闭源 AI 助手的“黑盒”限制。 在技术体验上,OpenCode 提供了灵活的终端界面(Terminal UI)和正在测试中的桌面应用程序,支持 macOS、Windows 及 Linux 全平台。它兼容多种包管理工具,安装便捷,并能无缝集成到现有的开发环境中。无论您是追求极致控制权的资深极客,还是渴望提升产出的独立开发者,OpenCode 都提供了一个透明、可信
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
gemini-cli
gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。














