[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-ViTAE-Transformer--ViTDet":3,"tool-ViTAE-Transformer--ViTDet":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",155373,2,"2026-04-14T11:34:08",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":72,"owner_avatar_url":73,"owner_bio":74,"owner_company":75,"owner_location":75,"owner_email":75,"owner_twitter":75,"owner_website":76,"owner_url":77,"languages":78,"stars":101,"forks":102,"last_commit_at":103,"license":104,"difficulty_score":105,"env_os":106,"env_gpu":107,"env_ram":108,"env_deps":109,"category_tags":118,"github_topics":119,"view_count":32,"oss_zip_url":75,"oss_zip_packed_at":75,"status":17,"created_at":124,"updated_at":125,"faqs":126,"releases":157},7446,"ViTAE-Transformer\u002FViTDet","ViTDet","Unofficial implementation for [ECCV'22] \"Exploring Plain Vision Transformer Backbones for Object Detection\"","ViTDet 是一个基于 PyTorch 开发的开源项目，旨在复现并探索“纯视觉 Transformer（Plain Vision Transformer）”在目标检测任务中的强大潜力。它主要解决了传统检测模型过度依赖复杂的层级化骨干网络或特定设计的问题，证明了经过适当适配，结构简洁的标准 Transformer 也能在 COCO 等数据集上取得顶尖的检测与分割精度。\n\n该项目特别适合计算机视觉领域的研究人员和开发者使用。如果你希望深入理解 Transformer 架构在下游任务中的应用机制，或者需要一套高性能的代码基准来对比实验，ViTDet 提供了详尽的训练配置、日志记录以及预训练权重。其核心技术亮点在于验证了仅需简单的适配器模块，即可将原本用于图像分类的 Plain ViT 骨干网络（如 ViT-Base 及 ViTAE 系列）高效迁移至目标检测领域，并在 Mask R-CNN 框架下实现了超过 51% 的框检测 mAP。通过支持多种预训练策略（如 MAE）和硬件环境，ViTDet 为构建更简洁、通用的视觉感知系统提供了有力的技术参考。","\u003Ch1 align=\"left\">Unofficial PyTorch Implementation of Exploring Plain Vision Transformer Backbones for Object Detection\u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2203.16527\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-Paper-\u003CCOLOR>.svg\" >\u003C\u002Fa>\u003C\u002Fh1> \n\n\u003Cp align=\"center\">\n  \u003Ca href=\"#Results\">Results\u003C\u002Fa> |\n  \u003Ca href=\"#Updates\">Updates\u003C\u002Fa> |\n  \u003Ca href=\"#Usage\">Usage\u003C\u002Fa> |\n  \u003Ca href='#Todo'>Todo\u003C\u002Fa> |\n  \u003Ca href=\"#Acknowledge\">Acknowledge\u003C\u002Fa>\n\u003C\u002Fp>\n\nThis branch contains the **unofficial** pytorch implementation of \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2203.16527\">Exploring Plain Vision Transformer Backbones for Object Detection\u003C\u002Fa>. Thanks for their wonderful work!\n\n## Results from this repo on COCO\n\nThe models are trained on 4 A100 machines with 2 images per gpu, which makes a batch size of 64 during training.\n\n| Model | Pretrain | Machine | FrameWork | Box mAP | Mask mAP | config | log | weight |\n| :----: | :----: | :----: | :----: | :----: | :----: | :----: | :----: | :----: | \n| ViT-Base | IN1K+MAE | TPU | Mask RCNN | 51.1 | 45.5 | [config](.\u002Fconfigs\u002FViTDet\u002FViTDet-ViT-Base-100e.py) | [log](logs\u002FViT-Base-TPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQuegyG-Z3FH2LDP?e=9ij98g) |\n| ViT-Base | IN1K+MAE | GPU | Mask RCNN | 51.1 | 45.4 | [config](.\u002Fconfigs\u002FViTDet\u002FViTDet-ViT-Base-100e.py) | [log](logs\u002FViT-Base-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgRA7Y9s2rA5NC4wn?e=QfpKJf) |\n| [ViTAE-Base](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.10108) | IN1K+MAE | GPU | Mask RCNN | 51.6 | 45.8 | [config](configs\u002FViTDet\u002FViTDet-ViTAE-Base-100e.py) | [log](logs\u002FViTAE-Base-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQ--Ez4mzEnO-G5Y?e=ACfLxC) |\n| [ViTAE-Small](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.10108) | IN1K+Sup | GPU | Mask RCNN | 45.6 | 40.1 | [config](configs\u002FViTDet\u002FViTDet-ViTAE-Small-100e.py) | [log](logs\u002FViTAE-S-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQ7PorGY53K6gIGd?e=lw81U5) |\n\n## Updates\n\n> [2022-04-18] Explore using small 1K supervised trained models (20M parameters) for ViTDet (**45.6 mAP**). The results with multi-stage structure is **46.0 mAP** for [Swin-T](https:\u002F\u002Fgithub.com\u002FSwinTransformer\u002FSwin-Transformer-Object-Detection) and **47.8 mAP** for [ViTAEv2-S](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FObject-Detection) with Mask RCNN on COCO.\n\n> [2022-04-17] Release the pretrained weights and logs for ViT-B and ViTAE-B on MS COCO. The models are totally trained with PyTorch on GPU.\n\n> [2022-04-16] Release the initial unofficial implementation of ViTDet with ViT-Base model! It obtains 51.1 mAP and 45.5 mAP on detection and segmentation, respectively. The weights and logs will be uploaded soon. \n\n> Applications of ViTAE Transformer include: [image classification](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FImage-Classification) | [object detection](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FObject-Detection) | [semantic segmentation](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FSemantic-Segmentation) | [animal pose segmentation](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FAnimal-Pose-Estimation) | [remote sensing](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer-Remote-Sensing) | [matting](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer-Matting)\n\n## Usage\n\nWe use PyTorch 1.9.0 or NGC docker 21.06, and mmcv 1.3.9 for the experiments.\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fopen-mmlab\u002Fmmcv.git\ncd mmcv\ngit checkout v1.3.9\nMMCV_WITH_OPS=1 pip install -e .\ncd ..\ngit clone https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet.git\ncd ViTDet\npip install -v -e .\n```\n\nAfter install the two repos, install timm and einops, i.e.,\n```bash\npip install timm==0.4.9 einops\n```\n\nDownload the pretrained models from [MAE](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmae) or [ViTAE](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer), and then conduct the experiments by\n\n```bash\n# for single machine\nbash tools\u002Fdist_train.sh \u003CConfig PATH> \u003CNUM GPUs> --cfg-options model.pretrained=\u003CPretrained PATH>\n\n# for multiple machines\npython -m torch.distributed.launch --nnodes \u003CNum Machines> --node_rank \u003CRank of Machine> --nproc_per_node \u003CGPUs Per Machine> --master_addr \u003CMaster Addr> --master_port \u003CMaster Port> tools\u002Ftrain.py \u003CConfig PATH> --cfg-options model.pretrained=\u003CPretrained PATH> --launcher pytorch\n```\n\n## Todo\n\nThis repo current contains modifications including:\n\n- using LN for the convolutions in RPN and heads\n- using large scale jittor for augmentation\n- using RPE from MViT\n- using longer training epochs and 1024 test size\n- using global attention layers\n\nThere are other things to do:\n\n- [ ] Implement the conv blocks for global information communication\n\n- [ ] Tune the models for Cascade RCNN \n\n- [ ] Train ViT models for the LVIS dataset\n\n- [ ] Train ViTAE model with the ViTDet framework\n\n## Acknowledge\nWe acknowledge the excellent implementation from [mmdetection](https:\u002F\u002Fgithub.com\u002Fopen-mmlab\u002Fmmdetection), [MAE](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmae), [MViT](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmvit), and [BeiT](https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Funilm\u002Ftree\u002Fmaster\u002Fbeit).\n\n## Citing ViTDet\n```\n@article{Li2022ExploringPV,\n  title={Exploring Plain Vision Transformer Backbones for Object Detection},\n  author={Yanghao Li and Hanzi Mao and Ross B. Girshick and Kaiming He},\n  journal={ArXiv},\n  year={2022},\n  volume={abs\u002F2203.16527}\n}\n```\n\nFor ViTAE and ViTAEv2, please refer to:\n```\n@article{xu2021vitae,\n  title={Vitae: Vision transformer advanced by exploring intrinsic inductive bias},\n  author={Xu, Yufei and Zhang, Qiming and Zhang, Jing and Tao, Dacheng},\n  journal={Advances in Neural Information Processing Systems},\n  volume={34},\n  year={2021}\n}\n\n@article{zhang2022vitaev2,\n  title={ViTAEv2: Vision Transformer Advanced by Exploring Inductive Bias for Image Recognition and Beyond},\n  author={Zhang, Qiming and Xu, Yufei and Zhang, Jing and Tao, Dacheng},\n  journal={arXiv preprint arXiv:2202.10108},\n  year={2022}\n}\n```\n","\u003Ch1 align=\"left\">目标检测中探索简单视觉Transformer主干网络的非官方PyTorch实现\u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2203.16527\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-Paper-\u003CCOLOR>.svg\" >\u003C\u002Fa>\u003C\u002Fh1> \n\n\u003Cp align=\"center\">\n  \u003Ca href=\"#Results\">结果\u003C\u002Fa> |\n  \u003Ca href=\"#Updates\">更新\u003C\u002Fa> |\n  \u003Ca href=\"#Usage\">使用\u003C\u002Fa> |\n  \u003Ca href='#Todo'>待办事项\u003C\u002Fa> |\n  \u003Ca href=\"#Acknowledge\">致谢\u003C\u002Fa>\n\u003C\u002Fp>\n\n本分支包含\u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2203.16527\">目标检测中探索简单视觉Transformer主干网络\u003C\u002Fa>的**非官方** PyTorch 实现。感谢他们的出色工作！\n\n## 本仓库在COCO上的结果\n\n模型在4台A100机器上训练，每GPU处理2张图像，因此训练时的批量大小为64。\n\n| 模型 | 预训练 | 设备 | 框架 | Box mAP | Mask mAP | 配置文件 | 日志 | 权重 |\n| :----: | :----: | :----: | :----: | :----: | :----: | :----: | :----: | :----: | \n| ViT-Base | IN1K+MAE | TPU | Mask RCNN | 51.1 | 45.5 | [配置](.\u002Fconfigs\u002FViTDet\u002FViTDet-ViT-Base-100e.py) | [日志](logs\u002FViT-Base-TPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQuegyG-Z3FH2LDP?e=9ij98g) |\n| ViT-Base | IN1K+MAE | GPU | Mask RCNN | 51.1 | 45.4 | [配置](.\u002Fconfigs\u002FViTDet\u002FViTDet-ViT-Base-100e.py) | [日志](logs\u002FViT-Base-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgRA7Y9s2rA5NC4wn?e=QfpKJf) |\n| [ViTAE-Base](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.10108) | IN1K+MAE | GPU | Mask RCNN | 51.6 | 45.8 | [配置](configs\u002FViTDet\u002FViTDet-ViTAE-Base-100e.py) | [日志](logs\u002FViTAE-Base-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQ--Ez4mzEnO-G5Y?e=ACfLxC) |\n| [ViTAE-Small](https:\u002F\u002Farxiv.org\u002Fabs\u002F2202.10108) | IN1K+Sup | GPU | Mask RCNN | 45.6 | 40.1 | [配置](configs\u002FViTDet\u002FViTDet-ViTAE-Small-100e.py) | [日志](logs\u002FViTAE-S-GPU.log.json) | [OneDrive](https:\u002F\u002F1drv.ms\u002Fu\u002Fs!AimBgYV7JjTlgQ7PorGY53K6gIGd?e=lw81U5) |\n\n## 更新\n\n> [2022-04-18] 探索使用小型1K监督训练模型（20M参数）用于ViTDet（**45.6 mAP**）。采用多阶段结构后，[Swin-T](https:\u002F\u002Fgithub.com\u002FSwinTransformer\u002FSwin-Transformer-Object-Detection) 的结果为 **46.0 mAP**，而 [ViTAEv2-S](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FObject-Detection) 在COCO数据集上使用Mask RCNN时达到 **47.8 mAP**。\n\n> [2022-04-17] 发布了ViT-B和ViTAE-B在MS COCO上的预训练权重和日志。这些模型完全使用PyTorch在GPU上训练完成。\n\n> [2022-04-16] 发布了基于ViT-Base模型的ViTDet初始非官方实现！该模型在检测和分割任务上分别取得了51.1 mAP和45.5 mAP的成绩。权重和日志将很快上传。\n\n> ViTAE Transformer的应用包括：[图像分类](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FImage-Classification) | [目标检测](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FObject-Detection) | [语义分割](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FSemantic-Segmentation) | [动物姿态分割](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\u002Ftree\u002Fmain\u002FAnimal-Pose-Estimation) | [遥感](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer-Remote-Sensing) | [抠图](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer-Matting)\n\n## 使用方法\n\n我们使用PyTorch 1.9.0或NGC Docker 21.06，以及mmcv 1.3.9进行实验。\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fopen-mmlab\u002Fmmcv.git\ncd mmcv\ngit checkout v1.3.9\nMMCV_WITH_OPS=1 pip install -e .\ncd ..\ngit clone https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet.git\ncd ViTDet\npip install -v -e .\n```\n\n安装完这两个仓库后，再安装timm和einops，即：\n```bash\npip install timm==0.4.9 einops\n```\n\n从[MAE](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmae)或[ViTAE](https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer)下载预训练模型，然后通过以下方式开展实验：\n\n```bash\n# 单机运行\nbash tools\u002Fdist_train.sh \u003CConfig PATH> \u003CNUM GPUs> --cfg-options model.pretrained=\u003CPretrained PATH>\n\n# 多机运行\npython -m torch.distributed.launch --nnodes \u003CNum Machines> --node_rank \u003CRank of Machine> --nproc_per_node \u003CGPUs Per Machine> --master_addr \u003CMaster Addr> --master_port \u003CMaster Port> tools\u002Ftrain.py \u003CConfig PATH> --cfg-options model.pretrained=\u003CPretrained PATH> --launcher pytorch\n```\n\n## 待办事项\n\n当前本仓库包含以下修改：\n\n- 在RPN和头部中使用LN替代卷积\n- 使用大规模jittor进行数据增强\n- 使用来自MViT的RPE\n- 延长训练周期并采用1024的测试尺寸\n- 使用全局注意力层\n\n此外还有其他待办事项：\n\n- [ ] 实现用于全局信息传递的卷积块\n\n- [ ] 调优Cascade RCNN模型\n\n- [ ] 训练ViT模型以适应LVIS数据集\n\n- [ ] 使用ViTDet框架训练ViTAE模型\n\n## 致谢\n我们感谢[mmdetection](https:\u002F\u002Fgithub.com\u002Fopen-mmlab\u002Fmmdetection)、[MAE](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmae)、[MViT](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmvit)以及[BeiT](https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Funilm\u002Ftree\u002Fmaster\u002Fbeit)提供的优秀实现。\n\n## 引用ViTDet\n```\n@article{Li2022ExploringPV,\n  title={Exploring Plain Vision Transformer Backbones for Object Detection},\n  author={Yanghao Li and Hanzi Mao and Ross B. Girshick and Kaiming He},\n  journal={ArXiv},\n  year={2022},\n  volume={abs\u002F2203.16527}\n}\n```\n\n对于ViTAE和ViTAEv2，请参考：\n```\n@article{xu2021vitae,\n  title={Vitae: Vision transformer advanced by exploring intrinsic inductive bias},\n  author={Xu, Yufei and Zhang, Qiming and Zhang, Jing and Tao, Dacheng},\n  journal={Advances in Neural Information Processing Systems},\n  volume={34},\n  year={2021}\n}\n\n@article{zhang2022vitaev2,\n  title={ViTAEv2: Vision Transformer Advanced by Exploring Inductive Bias for Image Recognition and Beyond},\n  author={Zhang, Qiming and Xu, Yufei and Zhang, Jing and Tao, Dacheng},\n  journal={arXiv preprint arXiv:2202.10108},\n  year={2022}\n}\n```","# ViTDet 快速上手指南\n\nViTDet 是一个基于纯 Vision Transformer (ViT) 主干网络进行目标检测的非官方 PyTorch 实现。本指南将帮助你快速搭建环境并运行模型。\n\n## 环境准备\n\n在开始之前，请确保你的系统满足以下要求：\n- **操作系统**: Linux (推荐 Ubuntu)\n- **Python**: 3.7+\n- **PyTorch**: 1.9.0 或更高版本 (或使用 NGC docker 21.06)\n- **GPU**: 支持 CUDA 的 NVIDIA GPU (训练示例基于 4 张 A100，但单卡也可运行)\n- **编译器**: GCC 用于编译 mmcv 算子\n\n## 安装步骤\n\n请依次执行以下命令来安装依赖库和 ViTDet 项目。\n\n### 1. 安装 MMCV\nViTDet 依赖 `mmcv-full` 特定版本 (1.3.9)。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fopen-mmlab\u002Fmmcv.git\ncd mmcv\ngit checkout v1.3.9\nMMCV_WITH_OPS=1 pip install -e .\ncd ..\n```\n> **提示**: 如果下载速度慢，可尝试使用国内镜像源，例如：`pip install -e . -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple`\n\n### 2. 安装 ViTDet\n克隆本项目并进行安装。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet.git\ncd ViTDet\npip install -v -e .\n```\n\n### 3. 安装其他依赖\n安装 `timm` 和 `einops` 库。\n\n```bash\npip install timm==0.4.9 einops\n```\n\n### 4. 下载预训练权重\n你需要下载主干网络的预训练权重（如 MAE 或 ViTAE），可从以下地址获取：\n- **MAE**: https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fmae\n- **ViTAE**: https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTAE-Transformer\n\n下载后，记下权重文件的路径（例如 `\u002Fpath\u002Fto\u002Fpretrained.pth`）。\n\n## 基本使用\n\n安装完成后，你可以使用提供的脚本进行训练。以下是最简单的单机器多卡训练示例。\n\n### 单机器训练\n假设你使用了 4 张 GPU，配置文件路径为 `configs\u002FViTDet\u002FViTDet-ViT-Base-100e.py`，预训练权重路径为 `\u002Fpath\u002Fto\u002Fmae_pretrain_vit_base.pth`。\n\n```bash\nbash tools\u002Fdist_train.sh configs\u002FViTDet\u002FViTDet-ViT-Base-100e.py 4 --cfg-options model.pretrained=\u002Fpath\u002Fto\u002Fmae_pretrain_vit_base.pth\n```\n\n### 多机器分布式训练\n如果在多台机器上进行分布式训练，请使用以下命令格式：\n\n```bash\npython -m torch.distributed.launch --nnodes \u003CNum Machines> --node_rank \u003CRank of Machine> --nproc_per_node \u003CGPUs Per Machine> --master_addr \u003CMaster Addr> --master_port \u003CMaster Port> tools\u002Ftrain.py configs\u002FViTDet\u002FViTDet-ViT-Base-100e.py --cfg-options model.pretrained=\u002Fpath\u002Fto\u002Fmae_pretrain_vit_base.pth --launcher pytorch\n```\n\n**参数说明：**\n- `\u003CConfig PATH>`: 模型配置文件的路径。\n- `\u003CNUM GPUs>`: 当前机器使用的 GPU 数量。\n- `model.pretrained`: 指定预训练权重文件的绝对路径。","某自动驾驶初创公司的算法团队正在开发夜间城市道路的车辆与行人检测系统，急需提升模型在复杂光照下的识别精度。\n\n### 没有 ViTDet 时\n- **特征提取能力受限**：传统 CNN 骨干网络（如 ResNet）感受野固定，难以捕捉夜间模糊图像中车辆的全局上下文信息，导致小目标漏检率高。\n- **架构设计复杂**：为了弥补主干网缺陷，工程师不得不引入复杂的特征金字塔（FPN）或多阶段结构，增加了代码维护难度和训练调参成本。\n- **精度遭遇瓶颈**：即便堆叠更多层数或使用更重的模型，在 COCO 验证集上的框检测平均精度（Box mAP）始终卡在 45% 左右，无法满足量产安全标准。\n- **迁移效果不佳**：直接在大规模数据集预训练的模型迁移到特定夜间场景时，因缺乏对长距离依赖的建模能力，泛化表现不稳定。\n\n### 使用 ViTDet 后\n- **全局感知增强**：ViTDet 采用纯 Vision Transformer 作为骨干，利用自注意力机制有效捕捉图像全局特征，显著提升了夜间弱光下模糊车辆的检出率。\n- **架构极简高效**：团队移除了繁琐的多阶段设计，直接使用简单的单尺度特征输入配合 ViTDet，不仅简化了推理流程，还降低了工程落地复杂度。\n- **性能大幅突破**：基于 ViT-Base 骨干的模型在同等训练条件下，将 Box mAP 从 45% 提升至 51.1%，成功跨越了量产所需的精度门槛。\n- **预训练优势明显**：结合 MAE 等大规模自监督预训练权重，ViTDet 展现出极强的迁移能力，仅需少量微调即可适应夜间特殊场景。\n\nViTDet 通过“简单骨干 + 强力预训练”的范式，证明了去除复杂归纳偏置后，纯 Transformer 架构能在目标检测任务中实现精度与简洁性的双重飞跃。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FViTAE-Transformer_ViTDet_91dbb67d.png","ViTAE-Transformer","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FViTAE-Transformer_bbb0786d.png","Discover more of our latest work at https:\u002F\u002Fgithub.com\u002FMiliLab",null,"https:\u002F\u002Fgithub.com\u002FMiliLab","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer",[79,83,87,91,95,98],{"name":80,"color":81,"percentage":82},"Python","#3572A5",98.8,{"name":84,"color":85,"percentage":86},"Shell","#89e051",1.1,{"name":88,"color":89,"percentage":90},"Dockerfile","#384d54",0.1,{"name":92,"color":93,"percentage":94},"Batchfile","#C1F12E",0,{"name":96,"color":97,"percentage":94},"Makefile","#427819",{"name":99,"color":100,"percentage":94},"CSS","#663399",582,46,"2026-04-07T09:26:01","Apache-2.0",4,"Linux","必需，实验基于 NVIDIA A100 (4 台机器，每台 2 张卡) 或 TPU 进行；需支持 CUDA 的 NVIDIA GPU","未说明",{"notes":110,"python":111,"dependencies":112},"该仓库是论文的非官方 PyTorch 实现。官方实验使用了 NGC Docker 21.06 环境。训练时批处理大小为 64（4 台机器，每台 2 个 GPU，每卡 2 张图像）。需要先安装 mmcv 和 ViTDet 仓库，再安装 timm 和 einops。预训练模型需从 MAE 或 ViTAE 项目单独下载。","未说明 (隐含兼容 PyTorch 1.9.0 的版本)",[113,114,115,116,117],"torch==1.9.0","mmcv==1.3.9","timm==0.4.9","einops","mmdetection",[14,35,15],[120,121,122,123],"deep-learning","object-detection","pytorch","vision-transformer","2026-03-27T02:49:30.150509","2026-04-14T20:49:52.220333",[127,132,137,142,147,152],{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},33408,"运行训练脚本时遇到 'RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation' 错误，如何解决？","当前版本不需要设置额外的命令行参数。学习率、权重衰减和下降路径率等参数已在对应的配置文件中提供，且这些参数设置与论文保持一致。该错误通常不是由缺少参数引起的，请检查是否使用了正确的配置文件或环境。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F3",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},33409,"将代码集成到官方 MMDetection 代码库时出现 'Input shape error' 或维度不匹配错误，原因是什么？","这是因为 ViTDet 修改了 RPN、FPN 和 Head 文件中的卷积模块行为，以适配 LN（LayerNorm）层，从而改变了输出维度。如果你直接将部分文件集成到官方 MMDetection 代码库中而忘记修改这些维度适配逻辑，就会报错。请确保同步修改了相关文件的维度处理逻辑。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F10",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},33410,"如何使用 MAE 预训练分层的 ViTAE 主干网络？MAE 不包含 mask tokens 如何处理？","目前作者使用 MAE 训练的是 ViTAE 的各向同性（isotropic）设计，而非分层（hierarchical）ViTAEv2 主干。根据 ViTDet 论文第 17 页指出，可以通过在输入中添加 mask tokens 来辅助分层视觉变压器的 MAE 训练，但这可能会减慢训练速度。未来计划探索使用 MIM 系列方法训练分层 ViTAEv2 主干。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F4",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},33411,"为什么实际打印的学习率（如 1e-6）远低于配置文件中设定的值（如 1e-4）？","打印的学习率是所有层的平均学习率。由于配置中使用了 'LayerDecayOptimizerConstructor' 并设置了 'layer_decay_rate=0.7'，这会使得每一层的学习率按层深进行衰减，因此深层的学习率会显著低于初始设定值，导致平均值看起来很低。这是正常现象，无需修改配置。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F19",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},33412,"加载官方 MAE 预训练模型时提示缺少某些键（尤其是位置编码部分），这会影响精度吗？","这是正常现象。缺失的参数（如某些位置编码相关参数）在 MAE 预训练阶段并未被使用，因此不会出现在预训练权重文件中。加载时忽略这些缺失键不会影响模型最终的检测精度。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F18",{"id":153,"question_zh":154,"answer_zh":155,"source_url":156},33413,"在自定义数据集上训练时，即使修改了 config 中的 num_classes，仍报错 'num_classes (80) 不匹配数据集类别数 (8)'，如何解决？","根本原因是 mmdet\u002Fmodels\u002Fbackbones\u002Fvit.py 文件中定义了一个未使用的 num_classes 参数，导致其默认值 80 被强制使用。解决方法是打开 vit.py 文件，找到并删除该未使用的 num_classes 参数定义即可。修改后重新运行训练即可匹配自定义数据集的类别数。","https:\u002F\u002Fgithub.com\u002FViTAE-Transformer\u002FViTDet\u002Fissues\u002F17",[]]