[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-facebookresearch--EdgeTAM":3,"tool-facebookresearch--EdgeTAM":62},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,2,"2026-04-10T11:39:34",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":32,"last_commit_at":41,"category_tags":42,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[43,13,15,14],"插件",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[52,15,13,14],"语言模型",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,61],"视频",{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":68,"readme_en":69,"readme_zh":70,"quickstart_zh":71,"use_case_zh":72,"hero_image_url":73,"owner_login":74,"owner_name":75,"owner_avatar_url":76,"owner_bio":77,"owner_company":78,"owner_location":78,"owner_email":78,"owner_twitter":78,"owner_website":79,"owner_url":80,"languages":81,"stars":97,"forks":98,"last_commit_at":99,"license":100,"difficulty_score":101,"env_os":102,"env_gpu":103,"env_ram":104,"env_deps":105,"category_tags":114,"github_topics":115,"view_count":32,"oss_zip_url":78,"oss_zip_packed_at":78,"status":17,"created_at":119,"updated_at":120,"faqs":121,"releases":122},7572,"facebookresearch\u002FEdgeTAM","EdgeTAM","[CVPR 2025] Official PyTorch implementation of \"EdgeTAM: On-Device Track Anything Model\"","EdgeTAM 是一款专为移动设备打造的视频目标跟踪与分割模型，它是著名模型 SAM 2 的高效落地版本。针对传统大型视觉模型在手机等终端设备上运行缓慢、难以实时处理的痛点，EdgeTAM 通过架构优化实现了极致的推理速度。在无需量化压缩的情况下，它能在 iPhone 15 Pro Max 上以每秒 16 帧的速度流畅运行，比原版 SAM 2 快达 22 倍，真正让“万物皆可跟踪”在端侧成为现实。\n\n这款工具特别适合移动端应用开发者、计算机视觉研究人员以及需要离线处理视频数据的专业人士。无论是开发增强现实（AR）应用、智能视频编辑软件，还是进行前沿的端侧 AI 研究，EdgeTAM 都能提供强大的技术支持。其核心亮点在于卓越的能效平衡，不仅支持标准的 PyTorch 环境，还原生支持导出为 CoreML 格式，方便直接部署到 iOS 和 macOS 生态中。此外，项目提供了完整的训练代码、预训练权重以及基于 Gradio 的交互式演示，帮助用户快速上手并验证效果。作为 CVPR 2025 的收录成果，EdgeTAM 在保持高精度的同时大幅降低了计算门槛，是推动视频理解技术从云端走向终端","EdgeTAM 是一款专为移动设备打造的视频目标跟踪与分割模型，它是著名模型 SAM 2 的高效落地版本。针对传统大型视觉模型在手机等终端设备上运行缓慢、难以实时处理的痛点，EdgeTAM 通过架构优化实现了极致的推理速度。在无需量化压缩的情况下，它能在 iPhone 15 Pro Max 上以每秒 16 帧的速度流畅运行，比原版 SAM 2 快达 22 倍，真正让“万物皆可跟踪”在端侧成为现实。\n\n这款工具特别适合移动端应用开发者、计算机视觉研究人员以及需要离线处理视频数据的专业人士。无论是开发增强现实（AR）应用、智能视频编辑软件，还是进行前沿的端侧 AI 研究，EdgeTAM 都能提供强大的技术支持。其核心亮点在于卓越的能效平衡，不仅支持标准的 PyTorch 环境，还原生支持导出为 CoreML 格式，方便直接部署到 iOS 和 macOS 生态中。此外，项目提供了完整的训练代码、预训练权重以及基于 Gradio 的交互式演示，帮助用户快速上手并验证效果。作为 CVPR 2025 的收录成果，EdgeTAM 在保持高精度的同时大幅降低了计算门槛，是推动视频理解技术从云端走向终端的重要利器。","# EdgeTAM: On-Device Track Anything Model\n\n[Chong Zhou\u003Csup>1,2*\u003C\u002Fsup>](https:\u002F\u002Fchongzhou96.github.io\u002F),\n[Chenchen Zhu\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fsites.google.com\u002Fandrew.cmu.edu\u002Fzcckernel\u002Fhome),\n[Yunyang Xiong\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fpages.cs.wisc.edu\u002F~yunyang\u002F),\n[Saksham Suri\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fwww.cs.umd.edu\u002F~sakshams\u002F),\n[Fanyi Xiao\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Ffanyix.cs.ucdavis.edu\u002F),\n[Lemeng Wu\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fsites.google.com\u002Fview\u002Flemeng-wu\u002Fhome),\n[Raghuraman Krishnamoorthi\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=F1mr9C0AAAAJ&hl=en),\n[Bo Dai\u003Csup>3,4\u003C\u002Fsup>](https:\u002F\u002Fdaibo.info\u002F),\n[Chen Change Loy\u003Csup>2\u003C\u002Fsup>](https:\u002F\u002Fwww.mmlab-ntu.com\u002Fperson\u002Fccloy\u002F),\n[Vikas Chandra\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fv-chandra.github.io\u002F),\n[Bilge Soran\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=9nXD6pwAAAAJ&hl=en)\n\n\u003Csup>1\u003C\u002Fsup>Meta Reality Labs,\n\u003Csup>2\u003C\u002Fsup>S-Lab, Nanyang Technological University,\n\u003Csup>3\u003C\u002Fsup>University of Hong Kong,\n\u003Csup>4\u003C\u002Fsup>Feeling AI\n\n(*) Work done during the internship at Meta Reality Labs.\n\n[[`Paper`](https:\u002F\u002Farxiv.org\u002Fabs\u002F2501.07256)] [[`Demo`](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Ffacebook\u002FEdgeTAM)] [[`BibTeX`](#citing-edgetam)]\n\n\n## Overview\n\n**EdgeTAM** is an on-device executable variant of the SAM 2 for promptable segmentation and tracking in videos.\nIt runs **22× faster** than SAM 2 and achieves **16 FPS** on iPhone 15 Pro Max without quantization.\n\n\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Ffacebookresearch_EdgeTAM_readme_45cdfcce9d1a.png\" width=\"400\"\u002F>\n\u003C\u002Fp>\n\n*In this figure, we show the speed-performance trade-offs of EdgeTAM and other models on iPhone 15 Pro Max (red) and NVIDIA A100 (blue). We report the J&F on the SA-V val dataset as the evaluation metric.*\n\n## Installation\n\nEdgeTAM needs to be installed first before use. The code requires `python>=3.10`, as well as `torch>=2.3.1` and `torchvision>=0.18.1`. Please follow the instructions [here](https:\u002F\u002Fpytorch.org\u002Fget-started\u002Flocally\u002F) to install both PyTorch and TorchVision dependencies. You can install EdgeTAM on a GPU machine using:\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM.git && cd EdgeTAM\n\npip install -e .\n```\n\nTo use the EdgeTAM predictor and run the example notebooks, `jupyter` and `matplotlib` are required and can be installed by:\n\n```bash\npip install -e \".[notebooks]\"\n```\n\nFor CoreML export to deploy EdgeTAM on iOS\u002FmacOS devices, install the CoreML dependencies:\n\n```bash\npip install -e \".[coreml]\"\n```\n\nNote:\n1. It's recommended to create a new Python environment via [Anaconda](https:\u002F\u002Fwww.anaconda.com\u002F) for this installation and install PyTorch 2.3.1 (or higher) via `pip` following https:\u002F\u002Fpytorch.org\u002F. If you have a PyTorch version lower than 2.3.1 in your current environment, the installation command above will try to upgrade it to the latest PyTorch version using `pip`.\n2. The step above requires compiling a custom CUDA kernel with the `nvcc` compiler. If it isn't already available on your machine, please install the [CUDA toolkits](https:\u002F\u002Fdeveloper.nvidia.com\u002Fcuda-toolkit-archive) with a version that matches your PyTorch CUDA version.\n3. If you see a message like `Failed to build the SAM 2 CUDA extension` during installation, you can ignore it and still use EdgeTAM (some post-processing functionality may be limited, but it doesn't affect the results in most cases).\n\n\n## Getting Started\n\n### Downloading the model\n\nModel is available [here](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM\u002Ftree\u002Fmain\u002Fcheckpoints\u002Fedgetam.pt).\n\n### On-device Gradio demo for EdgeTAM\nFollow the instructions below to run the on-device demo for EdgeTAM. If you want to quickly try out the demo, you can also go to [Hugging Face Spaces](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Ffacebook\u002FEdgeTAM).\n\nInstall the dependencies for the Gradio demo:\n\n```bash\npip install -e \".[gradio]\"\n```\n\nRun the demo:\n\n```bash\npython gradio_app.py\n```\n\nThe demo will be available at http:\u002F\u002F127.0.0.1:7860\u002F by default. You can change the port by setting the `--port` argument.\n\n### Image prediction\n\nEdgeTAM has all the capabilities of [SAM](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fsegment-anything) on static images, and we provide image prediction APIs that closely resemble SAM for image use cases. The `SAM2ImagePredictor` class has an easy interface for image prompting.\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2\nfrom sam2.sam2_image_predictor import SAM2ImagePredictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = SAM2ImagePredictor(build_sam2(model_cfg, checkpoint))\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    predictor.set_image(\u003Cyour_image>)\n    masks, _, _ = predictor.predict(\u003Cinput_prompts>)\n```\n\nPlease refer to the examples in [image_predictor_example.ipynb](.\u002Fnotebooks\u002Fimage_predictor_example.ipynb) for static image use cases.\n\nEdgeTAM also supports automatic mask generation on images just like SAM. Please see [automatic_mask_generator_example.ipynb](.\u002Fnotebooks\u002Fautomatic_mask_generator_example.ipynb) for automatic mask generation in images.\n\n### Video prediction\n\nFor promptable segmentation and tracking in videos, we provide a video predictor with APIs for example to add prompts and propagate masklets throughout a video. EdgeTAM supports video inference on multiple objects and uses an inference state to keep track of the interactions in each video.\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2_video_predictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = build_sam2_video_predictor(model_cfg, checkpoint)\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    state = predictor.init_state(\u003Cyour_video>)\n\n    # add new prompts and instantly get the output on the same frame\n    frame_idx, object_ids, masks = predictor.add_new_points_or_box(state, \u003Cyour_prompts>):\n\n    # propagate the prompts to get masklets throughout the video\n    for frame_idx, object_ids, masks in predictor.propagate_in_video(state):\n        ...\n```\n\nPlease refer to the examples in [video_predictor_example.ipynb](.\u002Fnotebooks\u002Fvideo_predictor_example.ipynb) for details on how to add click or box prompts, make refinements, and track multiple objects in videos.\n\n### CoreML export for iOS\u002FmacOS deployment\n\nEdgeTAM can be exported to CoreML format for deployment on iOS and macOS devices, enabling on-device inference with hardware acceleration.\n\n```bash\n# Export EdgeTAM to CoreML format\npython .\u002Fcoreml\u002Fexport_to_coreml.py \\\n  --sam2_cfg .\u002Fsam2\u002Fconfigs\u002Fedgetam.yaml \\\n  --sam2_checkpoint .\u002Fcheckpoints\u002Fedgetam.pt \\\n  --output_dir .\u002Fcoreml_models\n```\n\nThis creates three optimized CoreML models:\n- **Image Encoder**: Processes input images to feature embeddings (~9.6MB)\n- **Prompt Encoder**: Handles user prompts (points, boxes, masks) (~2MB) \n- **Mask Decoder**: Generates segmentation masks from features (~8MB)\n\n\n## Performance\n### Promptable Video Segmentation (PVS)\n\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Ffacebookresearch_EdgeTAM_readme_52b57e0976d5.png\" width=\"700\"\u002F>\n\u003C\u002Fp>\n\n*Zero-shot PVS accuracy across 9 datasets in offline and online settings.*\n\n### Video Object Segmentation (VOS)\n| Method         | MOSE val | DAVIS 2017 val | SA-V val | SA-V test | YTVOS 2019 val | A100  | V100  | iPhone |\n|----------------|----------|----------------|----------|-----------|----------------|-------|-------|--------|\n| STCN           | 52.5     | 85.4           | 61.0     | 62.5      | 82.7           | 62.8  | 13.2  | -      |\n| SwinB-AOT      | 59.4     | 85.4           | 51.1     | 50.3      | 84.5           | -     | -     | -      |\n| SwinB-DeAOT    | 59.9     | 86.2           | 61.4     | 61.8      | 86.1           | -     | -     | -      |\n| RDE            | 46.8     | 84.2           | 51.8     | 53.9      | 81.9           | 88.8  | 24.4  | -      |\n| XMem           | 59.6     | 86.0           | 60.1     | 62.3      | 85.6           | 61.2  | 22.6  | -      |\n| SimVOS-B       | -        | 88.0           | 44.2     | 44.1      | 84.2           | -     | 3.3   | -      |\n| JointFormer    | -        | 90.1           | -        | -         | 87.4           | -     | 3.0   | -      |\n| ISVOS          | -        | 88.2           | -        | -         | 86.3           | -     | 5.8   | -      |\n| DEVA           | 66.0     | 87.0           | 55.4     | 56.2      | 85.4           | 65.2  | 25.3  | -      |\n| Cutie-base     | 69.9     | 87.9           | 60.7     | 62.7      | 87.0           | 65.0  | 36.4  | -      |\n| Cutie-base+    | 71.7     | 88.1           | 61.3     | 62.8      | 87.5           | 57.2  | 17.9  | -      |\n| SAM 2-B+       | 75.8     | **90.9**       | 73.6     | 74.1      | 88.4           | 64.8  | -     | 0.7    |\n| SAM 2.1-B+     | **76.6** | 90.2           | **76.8** | **77.0**  | **88.6**       | 64.1  | -     | 0.7    |\n| **EdgeTAM**    | 70.0     | 87.7           | 72.3     | 71.7      | 86.2           | **150.9** | - | **15.7** |\n\n*We report the G for YTVOS and J&F for other datasets. The FPS on A100 is obtained with torch compile. Nota that, for SAM 2, SAM 2.1, and EdgeTAM, we evaluate all the datasets with the same model.*\n\n### Segment Anything (SA)\n| Model    | Data        | SA-23 All        | SA-23 Image      | SA-23 Video      | FPS   |\n|----------|-------------|------------------|------------------|------------------|-------|\n| SAM      | SA-1B       | 58.1 (81.3)      | 60.8 (82.1)      | 54.5 (80.3)      | -     |\n| SAM 2    | SA-1B       | 58.9 (81.7)      | 60.8 (82.1)      | 56.4 (81.2)      | 1.3   |\n| SAM 2    | SAM2’s mix  | 61.4 (83.7)      | 63.1 (83.9)      | 59.1 (83.3)      | 1.3   |\n| SAM 2.1  | SAM2’s mix  | **61.9 (83.5)**  | **63.3 (83.8)**  | **60.1 (83.2)**  | 1.3   |\n| **EdgeTAM** | Our mix  | 55.5 (81.7)      | 56.0 (81.9)      | 54.8 (81.5)      | **40.4** |\n\n*We report 1 (5) click mIoU results. FPS is measured on iPhone 15 Pro Max. Our mix does not contain the internal datasets that SAM 2 uses.*\n\n## License\n\nThe EdgeTAM model checkpoints and code are licensed under [Apache 2.0](.\u002FLICENSE).\n\n\n## Citing EdgeTAM\n\nIf you use EdgeTAM in your research, please use the following BibTeX entry.\n\n```bibtex\n@article{zhou2025edgetam,\n  title={EdgeTAM: On-Device Track Anything Model},\n  author={Zhou, Chong and Zhu, Chenchen and Xiong, Yunyang and Suri, Saksham and Xiao, Fanyi and Wu, Lemeng and Krishnamoorthi, Raghuraman and Dai, Bo and Loy, Chen Change and Chandra, Vikas and Soran, Bilge},\n  journal={arXiv preprint arXiv:2501.07256},\n  year={2025}\n}\n```\n","# EdgeTAM：设备端万物追踪模型\n\n[周冲\u003Csup>1,2*\u003C\u002Fsup>](https:\u002F\u002Fchongzhou96.github.io\u002F)，\n[朱晨晨\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fsites.google.com\u002Fandrew.cmu.edu\u002Fzcckernel\u002Fhome)，\n[熊云阳\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fpages.cs.wisc.edu\u002F~yunyang\u002F)，\n[萨克沙姆·苏里\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fwww.cs.umd.edu\u002F~sakshams\u002F)，\n[肖凡毅\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Ffanyix.cs.ucdavis.edu\u002F)，\n[吴乐萌\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fsites.google.com\u002Fview\u002Flemeng-wu\u002Fhome)，\n[拉古拉曼·克里希纳穆尔蒂\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=F1mr9C0AAAAJ&hl=en)，\n[戴博\u003Csup>3,4\u003C\u002Fsup>](https:\u002F\u002Fdaibo.info\u002F)，\n[陈昌礼\u003Csup>2\u003C\u002Fsup>](https:\u002F\u002Fwww.mmlab-ntu.com\u002Fperson\u002Fccloy\u002F)，\n[维卡斯·钱德拉\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fv-chandra.github.io\u002F)，\n[比尔盖·索兰\u003Csup>1\u003C\u002Fsup>](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=9nXD6pwAAAAJ&hl=en)\n\n\u003Csup>1\u003C\u002Fsup>Meta Reality Labs，\n\u003Csup>2\u003C\u002Fsup>S-Lab，南洋理工大学，\n\u003Csup>3\u003C\u002Fsup>香港大学，\n\u003Csup>4\u003C\u002Fsup>Feeling AI\n\n(*) 该工作于Meta Reality Labs实习期间完成。\n\n[[`论文`](https:\u002F\u002Farxiv.org\u002Fabs\u002F2501.07256)] [[`演示`](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Ffacebook\u002FEdgeTAM)] [[`BibTeX`](#citing-edgetam)]\n\n\n## 概述\n\n**EdgeTAM** 是 SAM 2 的一个可在设备端运行的变体，用于视频中的提示式分割和跟踪。它比 SAM 2 快 **22 倍**，在未进行量化的情况下，在 iPhone 15 Pro Max 上可达到 **16 FPS**。\n\n\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Ffacebookresearch_EdgeTAM_readme_45cdfcce9d1a.png\" width=\"400\"\u002F>\n\u003C\u002Fp>\n\n*在此图中，我们展示了 EdgeTAM 和其他模型在 iPhone 15 Pro Max（红色）和 NVIDIA A100（蓝色）上的速度与性能权衡。我们以 SA-V 验证集上的 J&F 作为评估指标。*\n\n## 安装\n\n在使用 EdgeTAM 之前，需要先将其安装。代码要求 `python>=3.10`，以及 `torch>=2.3.1` 和 `torchvision>=0.18.1`。请按照 [此处](https:\u002F\u002Fpytorch.org\u002Fget-started\u002Flocally\u002F) 的说明安装 PyTorch 和 TorchVision 的依赖项。您可以在 GPU 设备上通过以下命令安装 EdgeTAM：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM.git && cd EdgeTAM\n\npip install -e .\n```\n\n要使用 EdgeTAM 预测器并运行示例笔记本，还需要 `jupyter` 和 `matplotlib`，可通过以下命令安装：\n\n```bash\npip install -e \".[notebooks]\"\n```\n\n若要导出为 CoreML 格式以便在 iOS\u002FmacOS 设备上部署 EdgeTAM，请安装 CoreML 相关依赖：\n\n```bash\npip install -e \".[coreml]\"\n```\n\n注意：\n1. 建议使用 [Anaconda](https:\u002F\u002Fwww.anaconda.com\u002F) 创建一个新的 Python 环境进行安装，并按照 https:\u002F\u002Fpytorch.org\u002F 使用 `pip` 安装 PyTorch 2.3.1（或更高版本）。如果您当前环境中的 PyTorch 版本低于 2.3.1，上述安装命令将尝试使用 `pip` 将其升级到最新版本。\n2. 上述步骤需要使用 `nvcc` 编译器编译自定义 CUDA 内核。如果您的机器上尚未安装 CUDA 工具包，请安装与您的 PyTorch CUDA 版本匹配的 [CUDA 工具包](https:\u002F\u002Fdeveloper.nvidia.com\u002Fcuda-toolkit-archive)。\n3. 如果在安装过程中看到类似“无法构建 SAM 2 CUDA 扩展”的消息，您可以忽略它，仍然可以使用 EdgeTAM（某些后处理功能可能会受限，但在大多数情况下不会影响结果）。\n\n\n## 开始使用\n\n### 下载模型\n\n模型可在此处下载：[https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM\u002Ftree\u002Fmain\u002Fcheckpoints\u002Fedgetam.pt](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM\u002Ftree\u002Fmain\u002Fcheckpoints\u002Fedgetam.pt)。\n\n### EdgeTAM 设备端 Gradio 演示\n请按照以下说明运行 EdgeTAM 的设备端演示。如果您想快速试用演示，也可以前往 [Hugging Face Spaces](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Ffacebook\u002FEdgeTAM)。\n\n安装 Gradio 演示的依赖项：\n\n```bash\npip install -e \".[gradio]\"\n```\n\n运行演示：\n\n```bash\npython gradio_app.py\n```\n\n默认情况下，演示将在 http:\u002F\u002F127.0.0.1:7860\u002F 提供。您可以通过设置 `--port` 参数来更改端口。\n\n### 图像预测\n\nEdgeTAM 具有 [SAM](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fsegment-anything) 在静态图像上的所有功能，并且我们提供了与 SAM 非常相似的图像预测 API，适用于图像用例。`SAM2ImagePredictor` 类提供了一个简单的接口来进行图像提示。\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2\nfrom sam2.sam2_image_predictor import SAM2ImagePredictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = SAM2ImagePredictor(build_sam2(model_cfg, checkpoint))\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    predictor.set_image(\u003Cyour_image>)\n    masks, _, _ = predictor.predict(\u003Cinput_prompts>)\n```\n\n有关静态图像用例的示例，请参阅 [image_predictor_example.ipynb](.\u002Fnotebooks\u002Fimage_predictor_example.ipynb)。\n\nEdgeTAM 还支持像 SAM 一样在图像上自动生成掩码。有关图像中自动掩码生成的详细信息，请参阅 [automatic_mask_generator_example.ipynb](.\u002Fnotebooks\u002Fautomatic_mask_generator_example.ipynb)。\n\n### 视频预测\n\n对于视频中的提示式分割和跟踪，我们提供了一个视频预测器，其 API 允许添加提示并在整个视频中传播小掩码。EdgeTAM 支持多对象视频推理，并使用推理状态来跟踪每个视频中的交互。\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2_video_predictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = build_sam2_video_predictor(model_cfg, checkpoint)\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    state = predictor.init_state(\u003Cyour_video>)\n\n    # 添加新提示并立即在同一帧上获得输出\n    frame_idx、object_ids、masks = predictor.add_new_points_or_box(state, \u003Cyour_prompts>):\n\n    # 传播提示以在整个视频中生成小掩码\n    for frame_idx、object_ids、masks in predictor.propagate_in_video(state):\n        ...\n```\n\n有关如何在视频中添加点击或框选提示、进行细化以及跟踪多个对象的详细信息，请参阅 [video_predictor_example.ipynb](.\u002Fnotebooks\u002Fvideo_predictor_example.ipynb)。\n\n### CoreML 导出以用于 iOS\u002FmacOS 部署\n\nEdgeTAM 可以导出为 CoreML 格式，以便在 iOS 和 macOS 设备上部署，从而实现硬件加速的设备端推理。\n\n```bash\n# 将 EdgeTAM 导出为 CoreML 格式\npython .\u002Fcoreml\u002Fexport_to_coreml.py \\\n  --sam2_cfg .\u002Fsam2\u002Fconfigs\u002Fedgetam.yaml \\\n  --sam2_checkpoint .\u002Fcheckpoints\u002Fedgetam.pt \\\n  --output_dir .\u002Fcoreml_models\n```\n\n这将创建三个优化后的 CoreML 模型：\n- **图像编码器**：将输入图像处理为特征嵌入（约 9.6MB）\n- **提示编码器**：处理用户提示（点、框、掩码）（约 2MB）\n- **掩码解码器**：根据特征生成分割掩码（约 8MB）\n\n\n## 性能\n\n### 可提示视频分割 (PVS)\n\u003Cp align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Ffacebookresearch_EdgeTAM_readme_52b57e0976d5.png\" width=\"700\"\u002F>\n\u003C\u002Fp>\n\n*零样本 PVS 在离线和在线设置下跨 9 个数据集的准确率。*\n\n### 视频目标分割 (VOS)\n| 方法         | MOSE 验证集 | DAVIS 2017 验证集 | SA-V 验证集 | SA-V 测试集 | YTVOS 2019 验证集 | A100  | V100  | iPhone |\n|----------------|----------|----------------|----------|-----------|----------------|-------|-------|--------|\n| STCN           | 52.5     | 85.4           | 61.0     | 62.5      | 82.7           | 62.8  | 13.2  | -      |\n| SwinB-AOT      | 59.4     | 85.4           | 51.1     | 50.3      | 84.5           | -     | -     | -      |\n| SwinB-DeAOT    | 59.9     | 86.2           | 61.4     | 61.8      | 86.1           | -     | -     | -      |\n| RDE            | 46.8     | 84.2           | 51.8     | 53.9      | 81.9           | 88.8  | 24.4  | -      |\n| XMem           | 59.6     | 86.0           | 60.1     | 62.3      | 85.6           | 61.2  | 22.6  | -      |\n| SimVOS-B       | -        | 88.0           | 44.2     | 44.1      | 84.2           | -     | 3.3   | -      |\n| JointFormer    | -        | 90.1           | -        | -         | 87.4           | -     | 3.0   | -      |\n| ISVOS          | -        | 88.2           | -        | -         | 86.3           | -     | 5.8   | -      |\n| DEVA           | 66.0     | 87.0           | 55.4     | 56.2      | 85.4           | 65.2  | 25.3  | -      |\n| Cutie-base     | 69.9     | 87.9           | 60.7     | 62.7      | 87.0           | 65.0  | 36.4  | -      |\n| Cutie-base+    | 71.7     | 88.1           | 61.3     | 62.8      | 87.5           | 57.2  | 17.9  | -      |\n| SAM 2-B+       | 75.8     | **90.9**       | 73.6     | 74.1      | 88.4           | 64.8  | -     | 0.7    |\n| SAM 2.1-B+     | **76.6** | 90.2           | **76.8** | **77.0**  | **88.6**       | 64.1  | -     | 0.7    |\n| **EdgeTAM**    | 70.0     | 87.7           | 72.3     | 71.7      | 86.2           | **150.9** | - | **15.7** |\n\n*我们报告 YTVOS 的 G 值，其他数据集则报告 J&F 值。A100 上的 FPS 是通过 torch compile 获得的。请注意，对于 SAM 2、SAM 2.1 和 EdgeTAM，我们在所有数据集上都使用同一模型进行评估。*\n\n### Segment Anything (SA)\n| 模型    | 数据        | SA-23 全部        | SA-23 图像      | SA-23 视频      | FPS   |\n|----------|-------------|------------------|------------------|------------------|-------|\n| SAM      | SA-1B       | 58.1 (81.3)      | 60.8 (82.1)      | 54.5 (80.3)      | -     |\n| SAM 2    | SA-1B       | 58.9 (81.7)      | 60.8 (82.1)      | 56.4 (81.2)      | 1.3   |\n| SAM 2    | SAM2 的混合数据 | 61.4 (83.7)      | 63.1 (83.9)      | 59.1 (83.3)      | 1.3   |\n| SAM 2.1  | SAM2 的混合数据 | **61.9 (83.5)**  | **63.3 (83.8)**  | **60.1 (83.2)**  | 1.3   |\n| **EdgeTAM** | 我们的混合数据  | 55.5 (81.7)      | 56.0 (81.9)      | 54.8 (81.5)      | **40.4** |\n\n*我们报告 1 次点击下的 mIoU 结果。FPS 是在 iPhone 15 Pro Max 上测量的。我们的混合数据不包含 SAM 2 所使用的内部数据集。*\n\n## 许可证\n\nEdgeTAM 模型检查点和代码根据 [Apache 2.0](.\u002FLICENSE) 许可证授权。\n\n## 引用 EdgeTAM\n\n如果您在研究中使用了 EdgeTAM，请使用以下 BibTeX 条目。\n\n```bibtex\n@article{zhou2025edgetam,\n  title={EdgeTAM: On-Device Track Anything Model},\n  author={Zhou, Chong and Zhu, Chenchen and Xiong, Yunyang and Suri, Saksham and Xiao, Fanyi and Wu, Lemeng and Krishnamoorthi, Raghuraman and Dai, Bo and Loy, Chen Change and Chandra, Vikas and Soran, Bilge},\n  journal={arXiv preprint arXiv:2501.07256},\n  year={2025}\n}\n```","# EdgeTAM 快速上手指南\n\nEdgeTAM 是一款专为端侧设备优化的视频跟踪与分割模型（基于 SAM 2 架构）。它在保持高精度的同时，推理速度比原版 SAM 2 快 22 倍，在 iPhone 15 Pro Max 上无需量化即可达到 16 FPS。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux, macOS (支持 iOS 部署), Windows (需配置 CUDA)\n*   **Python 版本**: >= 3.10\n*   **PyTorch 版本**: >= 2.3.1\n*   **TorchVision 版本**: >= 0.18.1\n*   **GPU 支持** (可选但推荐): 需安装与 PyTorch 版本匹配的 CUDA Toolkit (用于编译自定义 CUDA 内核)\n\n> **提示**: 建议使用 [Anaconda](https:\u002F\u002Fwww.anaconda.com\u002F) 创建独立的 Python 虚拟环境以避免依赖冲突。国内用户可使用清华源或阿里源加速 `pip` 安装。\n\n## 安装步骤\n\n### 1. 安装 PyTorch 基础依赖\n请先访问 [PyTorch 官网](https:\u002F\u002Fpytorch.org\u002Fget-started\u002Flocally\u002F) 根据您的环境安装 PyTorch 和 TorchVision。\n*(国内用户推荐使用清华源安装)*\n```bash\npip install torch>=2.3.1 torchvision>=0.18.1 --index-url https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 2. 克隆代码并安装 EdgeTAM\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM.git && cd EdgeTAM\n\npip install -e .\n```\n*注意：安装过程中若出现 `Failed to build the SAM 2 CUDA extension` 警告，通常可忽略，不影响核心功能使用。*\n\n### 3. 安装可选依赖\n根据您的需求选择安装以下扩展包：\n\n*   **运行示例 Notebook 和 Gradio 演示**:\n    ```bash\n    pip install -e \".[notebooks]\"\n    pip install -e \".[gradio]\"\n    ```\n*   **导出 CoreML 模型 (用于 iOS\u002FmacOS 部署)**:\n    ```bash\n    pip install -e \".[coreml]\"\n    ```\n\n## 基本使用\n\n### 1. 下载模型权重\n从官方仓库下载预训练模型 `edgetam.pt` 并放置于 `.\u002Fcheckpoints\u002F` 目录下，或修改代码中的路径指向您的模型文件。\n*   下载地址：[edgetam.pt](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FEdgeTAM\u002Ftree\u002Fmain\u002Fcheckpoints\u002Fedgetam.pt)\n*   配置文件：`configs\u002Fedgetam.yaml`\n\n### 2. 图像分割预测\nEdgeTAM 支持类似 SAM 的交互式图像分割。\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2\nfrom sam2.sam2_image_predictor import SAM2ImagePredictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = SAM2ImagePredictor(build_sam2(model_cfg, checkpoint))\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    predictor.set_image(\u003Cyour_image>)\n    masks, _, _ = predictor.predict(\u003Cinput_prompts>)\n```\n*详细用法请参考 `notebooks\u002Fimage_predictor_example.ipynb`。*\n\n### 3. 视频目标跟踪\n这是 EdgeTAM 的核心功能，支持在视频中通过点击或框选提示来跟踪多个物体。\n\n```python\nimport torch\nfrom sam2.build_sam import build_sam2_video_predictor\n\ncheckpoint = \".\u002Fcheckpoints\u002Fedgetam.pt\"\nmodel_cfg = \"configs\u002Fedgetam.yaml\"\npredictor = build_sam2_video_predictor(model_cfg, checkpoint)\n\nwith torch.inference_mode(), torch.autocast(\"cuda\", dtype=torch.bfloat16):\n    # 初始化视频状态\n    state = predictor.init_state(\u003Cyour_video>)\n\n    # 添加新提示（点或框）并获取当前帧结果\n    frame_idx, object_ids, masks = predictor.add_new_points_or_box(state, \u003Cyour_prompts>)\n\n    # 在视频中传播提示以生成全程掩码\n    for frame_idx, object_ids, masks in predictor.propagate_in_video(state):\n        ...\n```\n*详细用法及多物体跟踪示例请参考 `notebooks\u002Fvideo_predictor_example.ipynb`。*\n\n### 4. 启动本地演示 (Gradio)\n快速体验交互式分割与跟踪功能：\n\n```bash\npython gradio_app.py\n```\n启动后访问 `http:\u002F\u002F127.0.0.1:7860\u002F` 即可使用界面。\n\n### 5. 导出 CoreML (iOS\u002FmacOS 部署)\n将模型转换为 CoreML 格式以在苹果设备上利用硬件加速运行：\n\n```bash\npython .\u002Fcoreml\u002Fexport_to_coreml.py \\\n  --sam2_cfg .\u002Fsam2\u002Fconfigs\u002Fedgetam.yaml \\\n  --sam2_checkpoint .\u002Fcheckpoints\u002Fedgetam.pt \\\n  --output_dir .\u002Fcoreml_models\n```\n这将生成三个优化后的模型组件：图像编码器、提示编码器和掩码解码器。","一位野外生态研究员正试图在 iPhone 15 Pro Max 上实时分析无人机拍摄的保护动物视频，以便在现场立即标记并追踪珍稀鸟类的飞行轨迹。\n\n### 没有 EdgeTAM 时\n- **依赖云端算力**：由于手机本地无法运行庞大的 SAM 2 模型，必须将视频上传至云端服务器处理，在无信号的深山保护区完全无法工作。\n- **严重延迟卡顿**：即使有网络，视频帧处理速度极慢，往往需要数分钟才能生成几秒的追踪结果，无法实现“所见即所得”的实时反馈。\n- **电量迅速耗尽**：强行在移动端部署未优化的大模型会导致设备发热严重，电池在短短十几分钟内就会耗尽，中断考察任务。\n- **交互体验割裂**：研究人员无法在拍摄过程中即时点击屏幕修正追踪目标，只能事后在电脑上进行繁琐的二次标注。\n\n### 使用 EdgeTAM 后\n- **纯端侧离线运行**：EdgeTAM 专为移动端设计，无需联网即可在 iPhone 上直接运行，让深山野外的实时分析成为可能。\n- **流畅实时追踪**：借助其比 SAM 2 快 22 倍的推理速度，设备能以 16 FPS 的帧率流畅处理视频，研究员能实时看到鸟类被精准锁定。\n- **低功耗持久作业**：模型经过深度优化，不再导致设备过热，支持研究员连续数小时进行现场数据采集而无需频繁充电。\n- **即时人机交互**：研究员发现追踪偏差时，可直接在手机屏幕上点击修正，EdgeTAM 立即响应并调整轨迹，极大提升了数据标注效率。\n\nEdgeTAM 通过将高性能视频追踪能力从云端下沉至手机终端，彻底打破了野外实时智能感知的算力与网络壁垒。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Ffacebookresearch_EdgeTAM_e8da8155.png","facebookresearch","Meta Research","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Ffacebookresearch_449342bd.png","",null,"https:\u002F\u002Fopensource.fb.com","https:\u002F\u002Fgithub.com\u002Ffacebookresearch",[82,86,90,94],{"name":83,"color":84,"percentage":85},"Jupyter Notebook","#DA5B0B",98.5,{"name":87,"color":88,"percentage":89},"Python","#3572A5",1.4,{"name":91,"color":92,"percentage":93},"Cuda","#3A4E3A",0,{"name":95,"color":96,"percentage":93},"Shell","#89e051",907,72,"2026-04-10T18:16:44","Apache-2.0",4,"Linux, macOS","训练\u002F编译需 NVIDIA GPU (用于编译自定义 CUDA 内核，需安装匹配的 CUDA Toolkit)；推理支持 iPhone 15 Pro Max (iOS\u002FmacOS via CoreML) 或 NVIDIA A100\u002FV100。未明确具体显存需求，但建议具备运行 PyTorch 模型的能力。","未说明",{"notes":106,"python":107,"dependencies":108},"1. 建议使用 Anaconda 创建新环境并安装 PyTorch 2.3.1 或更高版本。\n2. 安装过程需要编译自定义 CUDA 内核，若机器无 nvcc 编译器，需安装与 PyTorch 版本匹配的 CUDA Toolkit。\n3. 若安装时出现 'Failed to build the SAM 2 CUDA extension' 错误可忽略，不影响主要功能。\n4. 支持导出为 CoreML 格式以在 iOS\u002FmacOS 设备上进行硬件加速推理。\n5. 在 iPhone 15 Pro Max 上无需量化即可达到 16 FPS。","3.10+",[109,110,111,112,113],"torch>=2.3.1","torchvision>=0.18.1","jupyter","matplotlib","gradio",[15,61],[116,117,118],"on-device-ai","sam2","segment-anything","2026-03-27T02:49:30.150509","2026-04-15T07:18:34.687373",[],[]]