MeshCNN

GitHub
1.7k 344 中等 1 次阅读 昨天MIT其他开发框架图像
AI 解读 由 AI 自动生成,仅供参考

MeshCNN 是一个基于 PyTorch 开发的开源深度学习框架,专为处理三维三角网格数据而设计。它主要解决了传统卷积神经网络难以直接在不规则三维网格上运行的难题,能够高效地执行三维形状分类和语义分割等任务。

与需要将网格转换为体素或点云的传统方法不同,MeshCNN 的独特之处在于其“基于边”的处理机制。它直接在网格的边(edges)上定义卷积、池化和反池化操作,将网格的拓扑结构作为网络输入的核心部分。这种设计不仅保留了原始的几何特征,还让网络能够自适应地学习边的折叠与简化,从而更精准地理解复杂的三维形态。

这款工具非常适合从事计算机图形学、三维视觉研究的研究人员,以及需要开发三维分析应用的开发者使用。无论是进行学术实验,还是构建如人体部位分割、文物形状识别等实际应用,MeshCNN 都提供了一套成熟且灵活的解决方案。对于希望深入探索三维深度学习底层逻辑的专业人士而言,它是一个极具参考价值的起点。

使用场景

某医疗科技公司的算法团队正在开发一套自动分析膝关节软骨 3D 模型的辅助诊断系统,需要从复杂的三角网格中精准分割出病变区域。

没有 MeshCNN 时

  • 数据预处理繁琐:必须先将不规则的 3D 网格体素化(Voxelization)转换为规则立方体,导致原始几何细节大量丢失且内存占用激增。
  • 特征提取困难:传统 CNN 无法直接处理拓扑结构多变的网格边,工程师需手动设计复杂的几何描述符来捕捉边缘特征,耗时且泛化性差。
  • 分割精度受限:由于转换过程中的信息损耗,模型难以识别细微的软骨裂纹,导致早期病变漏诊率较高。
  • 流程割裂:预处理、特征工程与模型训练分属不同模块,调试周期长,难以端到端优化。

使用 MeshCNN 后

  • 原生网格支持:MeshCNN 直接在三角网格的边上进行卷积和池化操作,无需体素化转换,完整保留了膝关节软骨的原始几何拓扑。
  • 自动边缘学习:利用其特有的边折叠(Edge Collapse)机制,网络能自动学习并定位对形状分类最关键的结构边缘,无需人工设计特征。
  • 精细分割提升:在人体分割数据集上的验证表明,MeshCNN 能精准勾勒出病变边界,显著提升了微小病灶的检出率。
  • 端到端高效训练:从数据输入到分割输出形成统一流水线,结合 PyTorch 生态可快速可视化中间层的网格简化过程,大幅缩短研发迭代周期。

MeshCNN 通过让深度学习“理解”网格拓扑本质,解决了 3D 医疗影像分析中几何信息丢失的核心痛点,实现了高精度的自动化病灶分割。

运行环境要求

操作系统
  • 未说明
GPU

未说明 (基于 PyTorch,通常建议使用支持 CUDA 的 NVIDIA GPU)

内存

未说明

依赖
notes项目代码基于 PyTorch 1.2 版本编写。推荐使用 conda 创建名为 'meshcnn' 的环境进行依赖管理(命令:conda env create -f environment.yml)。该工具主要用于 3D 三角网格的分类和分割任务,包含卷积、池化和反池化层。若使用预训练权重,需先运行训练脚本以计算并保存训练数据的均值和标准差。
python未说明 (通过 conda environment.yml 安装)
PyTorch==1.2
tensorboardX (可选)
MeshCNN hero image

快速开始




MeshCNN 在 PyTorch 中的实现

SIGGRAPH 2019 [论文] [项目页面]

MeshCNN 是一种用于三维三角网格的通用深度神经网络,可用于三维形状分类或分割等任务。该框架包含卷积、池化和反池化层,这些层直接作用于网格的边。


代码由 Rana HanockaAmir Hertz 编写,并得到了 Noa Fish 的支持。

快速入门

安装

  • 克隆本仓库:
git clone https://github.com/ranahanocka/MeshCNN.git
cd MeshCNN
  • 安装依赖:PyTorch 1.2 版本。 可选 :使用 tensorboardX 进行训练过程的可视化。
    • 通过新的 conda 环境安装:conda env create -f environment.yml(创建名为 meshcnn 的环境)

SHREC 数据集上的三维形状分类

下载数据集:

bash ./scripts/shrec/get_data.sh

运行训练(如果使用 conda 环境,请先激活环境,例如 source activate meshcnn):

bash ./scripts/shrec/train.sh

要在另一个终端中查看训练损失曲线,运行 tensorboard --logdir runs,然后访问 http://localhost:6006

运行测试并导出中间池化后的网格:

bash ./scripts/shrec/test.sh

可视化网络学习到的边折叠结果:

bash ./scripts/shrec/view.sh

一个网格的折叠示例:

注意,您也可以通过运行 ./scripts/shrec/get_pretrained.sh 获取预训练权重。

要使用预训练权重,请运行 train.sh,它会计算并保存训练数据的均值和标准差。

人类数据集上的三维形状分割

与上述步骤相同,用于下载数据集、运行训练、获取预训练权重、运行测试和查看结果:

bash ./scripts/human_seg/get_data.sh
bash ./scripts/human_seg/train.sh
bash ./scripts/human_seg/get_pretrained.sh
bash ./scripts/human_seg/test.sh
bash ./scripts/human_seg/view.sh

一些分割结果示例:

其他数据集

类似的脚本也适用于 COSEG 分割任务(位于 scripts/coseg_seg)以及立方体分类任务(位于 scripts/cubes)。

更多信息

请访问 MeshCNN 维基,了解更多详情。特别是关于 分割数据处理 的信息。

其他实现

引用

如果您觉得此代码有用,请考虑引用我们的论文:

@article{hanocka2019meshcnn,
  title={MeshCNN: A Network with an Edge},
  author={Hanocka, Rana and Hertz, Amir and Fish, Noa and Giryes, Raja and Fleishman, Shachar and Cohen-Or, Daniel},
  journal={ACM Transactions on Graphics (TOG)},
  volume={38},
  number={4},
  pages = {90:1--90:12},
  year={2019},
  publisher={ACM}
}

问题与反馈

如果您在运行此代码时遇到任何问题或疑问,请提交 issue,以便我们及时修复。

致谢

本代码的设计参考了 pytorch-CycleGAN-and-pix2pix

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

160k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

109.2k|★★☆☆☆|今天
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|1周前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|1周前
插件开发框架