[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-OpenGVLab--VisionLLM":3,"tool-OpenGVLab--VisionLLM":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",160015,2,"2026-04-18T11:30:52",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",109154,"2026-04-18T11:18:24",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":76,"owner_email":77,"owner_twitter":78,"owner_website":76,"owner_url":79,"languages":80,"stars":117,"forks":118,"last_commit_at":119,"license":120,"difficulty_score":121,"env_os":122,"env_gpu":123,"env_ram":123,"env_deps":124,"category_tags":127,"github_topics":128,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":132,"updated_at":133,"faqs":134,"releases":145},9196,"OpenGVLab\u002FVisionLLM","VisionLLM","VisionLLM Series","VisionLLM 系列是一组前沿的多模态大语言模型，旨在打破视觉任务与传统语言模型之间的壁垒。初代 VisionLLM 创新性地将大型语言模型作为开放式解码器，专门用于解决以视觉为核心的复杂任务；而最新发布的 VisionLLM v2 则进一步进化为通用的多模态专家，能够灵活支持数百种视觉 - 语言任务，涵盖视觉理解、感知分析乃至图像生成等多个维度。\n\n这一系列工具主要解决了传统 AI 模型功能单一、难以跨任务通用的痛点。过去，处理不同的视觉问题往往需要训练多个专用模型，而 VisionLLM 通过统一的架构实现了“一个模型搞定多种任务”，大幅降低了部署成本并提升了系统的泛化能力。其独特的技术亮点在于利用大语言模型强大的推理与生成能力作为核心解码器，使模型不仅能“看懂”图像，还能像人类一样进行深度的逻辑分析与内容创作。\n\nVisionLLM 非常适合人工智能研究人员、算法开发者以及需要构建复杂视觉应用的企业团队使用。对于希望探索多模态前沿技术的研究者，它提供了宝贵的实验基线；对于开发者而言，则是构建智能客服、自动化内容生成或高级视觉分析系统的理想底座。虽然普通用户可能不直接操作代码，","VisionLLM 系列是一组前沿的多模态大语言模型，旨在打破视觉任务与传统语言模型之间的壁垒。初代 VisionLLM 创新性地将大型语言模型作为开放式解码器，专门用于解决以视觉为核心的复杂任务；而最新发布的 VisionLLM v2 则进一步进化为通用的多模态专家，能够灵活支持数百种视觉 - 语言任务，涵盖视觉理解、感知分析乃至图像生成等多个维度。\n\n这一系列工具主要解决了传统 AI 模型功能单一、难以跨任务通用的痛点。过去，处理不同的视觉问题往往需要训练多个专用模型，而 VisionLLM 通过统一的架构实现了“一个模型搞定多种任务”，大幅降低了部署成本并提升了系统的泛化能力。其独特的技术亮点在于利用大语言模型强大的推理与生成能力作为核心解码器，使模型不仅能“看懂”图像，还能像人类一样进行深度的逻辑分析与内容创作。\n\nVisionLLM 非常适合人工智能研究人员、算法开发者以及需要构建复杂视觉应用的企业团队使用。对于希望探索多模态前沿技术的研究者，它提供了宝贵的实验基线；对于开发者而言，则是构建智能客服、自动化内容生成或高级视觉分析系统的理想底座。虽然普通用户可能不直接操作代码，但未来基于 VisionLLM 开发的应用将为大家带来更智能的交互体验。","\u003Cdiv align=\"center\">\n\u003Ch1> VisionLLM Series \u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n- [VisionLLM](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.11175): Large Language Model as Open-Ended Decoder for Vision-Centric Tasks (NIPS2023)\n- [VisionLLM v2](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.08394): A Generalist Multimodal Large Language Model for Hundeds of Vision-Language Tasks (NIPS2024)\n\n\u003Cbr>\n\n\u003Cimg src='https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FOpenGVLab_VisionLLM_readme_06c956ad078f.png' align=\"center\" width=\"100%\">\n\n\n## 🚀 News\n- `2024\u002F06`: We release VisionLLM v2, which is a generalist multimodal large language model to support hundres of vision-language tasks, covering visual understanding, perception and generation.\n","\u003Cdiv align=\"center\">\n\u003Ch1> VisionLLM 系列 \u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n- [VisionLLM](https:\u002F\u002Farxiv.org\u002Fabs\u002F2305.11175): 作为视觉中心任务开放式解码器的大语言模型（NIPS 2023）\n- [VisionLLM v2](https:\u002F\u002Farxiv.org\u002Fabs\u002F2406.08394): 面向数百种视觉-语言任务的通用多模态大语言模型（NIPS 2024）\n\n\u003Cbr>\n\n\u003Cimg src='https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FOpenGVLab_VisionLLM_readme_06c956ad078f.png' align=\"center\" width=\"100%>\n\n\n## 🚀 新闻\n- `2024年6月`: 我们发布了 VisionLLM v2，这是一款通用的多模态大语言模型，可支持数百种视觉-语言任务，涵盖视觉理解、感知和生成。","# VisionLLM 快速上手指南\n\nVisionLLM 系列是将大型语言模型（LLM）作为开放解码器，用于以视觉为中心任务的通用多模态大模型。最新版本 **VisionLLM v2** 支持数百种视觉 - 语言任务，涵盖视觉理解、感知和生成。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux (推荐 Ubuntu 18.04\u002F20.04\u002F22.04)\n*   **Python**: 3.8 或更高版本\n*   **GPU**: 支持 CUDA 的 NVIDIA 显卡（建议显存 16GB 以上以运行大模型）\n*   **CUDA**: 11.7 或更高版本\n*   **PyTorch**: 2.0 或更高版本\n\n## 安装步骤\n\n### 1. 克隆项目代码\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FOpenGVLab\u002FVisionLLM.git\ncd VisionLLM\n```\n\n### 2. 创建虚拟环境并安装依赖\n推荐使用 Conda 管理环境。国内用户可使用清华源加速下载。\n\n```bash\n# 创建环境\nconda create -n visionllm python=3.10 -y\nconda activate visionllm\n\n# 安装 PyTorch (根据实际 CUDA 版本调整，此处以 cu118 为例)\n# 国内加速源：-i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\npip install torch torchvision torchaudio --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu118\n\n# 安装项目核心依赖\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n\n# 安装 VisionLLM 包\npip install -e . -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n> **注意**：如果 `requirements.txt` 中未包含特定版本的 `transformers` 或 `accelerate`，建议手动安装最新版以确保兼容性：\n> ```bash\n> pip install transformers accelerate sentencepiece -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n> ```\n\n## 基本使用\n\n以下是一个最简单的推理示例，展示如何使用 VisionLLM v2 进行图像描述生成。\n\n### 1. 下载预训练模型\n从 Hugging Face 或 ModelScope（魔搭社区，国内推荐）下载权重。\n\n**方式 A：使用 Hugging Face CLI**\n```bash\nhuggingface-cli download --resume-download OpenGVLab\u002FVisionLLM-v2 --local-dir .\u002Fcheckpoints\u002FVisionLLM-v2\n```\n\n**方式 B：使用 ModelScope (国内加速推荐)**\n```bash\npip install modelscope\npython -c \"from modelscope import snapshot_download; snapshot_download('OpenGVLab\u002FVisionLLM-v2', cache_dir='.\u002Fcheckpoints')\"\n```\n\n### 2. 运行推理脚本\n创建一个名为 `demo.py` 的文件，填入以下代码：\n\n```python\nimport torch\nfrom transformers import AutoTokenizer, AutoModelForCausalLM\nfrom PIL import Image\n\n# 配置路径\nmodel_path = \".\u002Fcheckpoints\u002FVisionLLM-v2\" # 或 ModelScope 下载的实际路径\nimage_path = \"assets\u002Fdemo.jpg\"            # 替换为您的图片路径\n\n# 加载分词器和模型\ntokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path,\n    device_map=\"auto\",\n    trust_remote_code=True,\n    torch_dtype=torch.float16\n)\nmodel.eval()\n\n# 准备输入\nimage = Image.open(image_path).convert(\"RGB\")\nprompt = \"\u003Cimage>\\nPlease describe this image in detail.\"\n\n# 构建输入张量 (具体处理逻辑视 tokenizer 实现而定，此处为通用示意)\n# VisionLLM 通常需要在内部处理图像嵌入，具体调用请参考 examples 目录\ninputs = tokenizer(prompt, return_tensors=\"pt\").to(model.device)\n\n# 生成回答\nwith torch.no_grad():\n    output = model.generate(\n        **inputs,\n        max_new_tokens=512,\n        do_sample=False\n    )\n\nresponse = tokenizer.decode(output[0], skip_special_tokens=True)\nprint(response)\n```\n\n运行脚本：\n```bash\npython demo.py\n```\n\n> **提示**：由于 VisionLLM v2 架构较为复杂，具体的图像预处理和对话模板构建强烈建议参考仓库中 `examples\u002F` 或 `demo\u002F` 目录下的官方完整脚本，以获得最佳效果。","某电商平台的智能客服团队正试图升级系统，以自动处理用户发送的商品破损照片并生成详细的理赔报告。\n\n### 没有 VisionLLM 时\n- **任务割裂严重**：需要串联独立的图像检测模型识别瑕疵、OCR 模型提取文字、再调用语言模型撰写回复，链路冗长且维护成本高。\n- **复杂场景失效**：面对“包装盒完好但内部商品碎裂”这类需要结合上下文推理的复杂视觉逻辑，传统专用模型往往只能机械标注物体，无法理解因果关系。\n- **交互体验僵硬**：系统仅能返回预设的模板化回复（如“已收到图片”），无法根据图片细节生成富有同理心且具体的解决方案，导致用户满意度低。\n- **扩展性差**：每当新增一种商品品类或理赔规则，都需要重新收集数据并微调多个垂直模型，迭代周期长达数周。\n\n### 使用 VisionLLM 后\n- **端到端统一处理**：VisionLLM 作为通用的多模态解码器，直接输入图片和自然语言指令，即可一次性完成瑕疵识别、文字提取与报告生成，大幅简化架构。\n- **深度视觉推理**：凭借强大的视觉 - 语言联合理解能力，VisionLLM 能精准判断“外包装无损但内物损坏”的隐含逻辑，准确归责并给出合理建议。\n- **拟人化智能交互**：VisionLLM 能依据图片细节生成个性化的安抚话术与具体理赔步骤，让机器回复具备接近人工客服的温度与灵活性。\n- **零样本快速适配**：面对新上架的商品，无需重新训练，仅需通过提示词（Prompt）调整，VisionLLM 即可立即适应新的质检标准与业务规则。\n\nVisionLLM 通过将视觉感知与语言推理深度融合，将原本繁琐的多模型协作流程转化为单一模型的自然对话，显著提升了复杂视觉任务的自动化水平与用户体验。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FOpenGVLab_VisionLLM_b7c67c87.png","OpenGVLab","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FOpenGVLab_4422f20f.jpg","General Vision Team of Shanghai AI Laboratory",null,"opengvlab@gmail.com","opengvlab","https:\u002F\u002Fgithub.com\u002FOpenGVLab",[81,85,89,93,97,101,104,108,111,114],{"name":82,"color":83,"percentage":84},"Python","#3572A5",72.1,{"name":86,"color":87,"percentage":88},"C++","#f34b7d",15.4,{"name":90,"color":91,"percentage":92},"Cuda","#3A4E3A",12,{"name":94,"color":95,"percentage":96},"Shell","#89e051",0.3,{"name":98,"color":99,"percentage":100},"C","#555555",0.1,{"name":102,"color":103,"percentage":100},"Cython","#fedf5b",{"name":105,"color":106,"percentage":107},"Objective-C++","#6866fb",0,{"name":109,"color":110,"percentage":107},"Dockerfile","#384d54",{"name":112,"color":113,"percentage":107},"CSS","#663399",{"name":115,"color":116,"percentage":107},"Makefile","#427819",1143,63,"2026-04-14T06:24:12","Apache-2.0",4,"","未说明",{"notes":125,"python":123,"dependencies":126},"提供的 README 片段仅包含项目简介和新闻更新，未列出具体的运行环境需求、依赖库或安装指南。建议访问项目仓库的完整文档或安装部分（Installation\u002FRequirements）以获取详细信息。",[],[35,15],[129,130,131],"large-language-models","object-detection","generalist-model","2026-03-27T02:49:30.150509","2026-04-19T03:03:11.077951",[135,140],{"id":136,"question_zh":137,"answer_zh":138,"source_url":139},41294,"测试时如何获取最后一层的隐藏状态 $H_{link}$？","在测试过程中，LLM 会先输出 [DET] 标记，系统会立即在其后追加 Super-Link Queries (Qlink)。在当前生成步骤中，input_embeds 会从 [1, C] 扩展到 [1 + num_embeds, C]。由于 LLM 始终使用因果掩码（causal mask），我们仍然可以在测试时通过一次前向传播获取所有 Super-Link Queries 对应的最后一层隐藏状态 $H_{link}$。具体代码实现可参考：https:\u002F\u002Fgithub.com\u002FOpenGVLab\u002FVisionLLM\u002Fblob\u002F34a8144829c30361adccc15e6b2a25c80a62d1fd\u002FVisionLLMv2\u002Fvisionllmv2\u002Fmodel\u002Fmodeling_visionllmv2.py#L421","https:\u002F\u002Fgithub.com\u002FOpenGVLab\u002FVisionLLM\u002Fissues\u002F11",{"id":141,"question_zh":142,"answer_zh":143,"source_url":144},41295,"为什么在 GroundingDinoHungarianMatcher 的训练匹配过程中忽略了 Mask（掩膜）标注？","忽略 Mask 标注主要基于两个原因：(1) 在 COCO 数据集的实验中发现，在匹配损失中额外加入 Mask cost 并不能提升模型性能；(2) 项目使用了多个训练数据集，其中部分数据集仅包含边界框（box）标注。因此，仅考虑类别成本（class cost）和边界框成本（box cost）可以简化训练流程，并确保在多数据集混合训练时的一致性。","https:\u002F\u002Fgithub.com\u002FOpenGVLab\u002FVisionLLM\u002Fissues\u002F19",[]]