[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-dandelin--ViLT":3,"tool-dandelin--ViLT":62},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,2,"2026-04-10T11:39:34",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":32,"last_commit_at":41,"category_tags":42,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[43,13,15,14],"插件",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[52,15,13,14],"语言模型",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,61],"视频",{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":77,"owner_location":78,"owner_email":79,"owner_twitter":80,"owner_website":81,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":10,"env_os":92,"env_gpu":93,"env_ram":92,"env_deps":94,"category_tags":99,"github_topics":101,"view_count":32,"oss_zip_url":80,"oss_zip_packed_at":80,"status":17,"created_at":103,"updated_at":104,"faqs":105,"releases":134},6237,"dandelin\u002FViLT","ViLT","Code for the ICML 2021 (long talk) paper: \"ViLT: Vision-and-Language Transformer Without Convolution or Region Supervision\"","ViLT 是一款高效的视觉 - 语言预训练模型，旨在让机器同时理解图像与文字。传统多模态模型通常依赖复杂的卷积神经网络提取图像特征，并需要预先标注物体区域，这不仅计算成本高、速度慢，还限制了模型的表达能力。ViLT 创新性地摒弃了卷积结构和区域监督，采用纯 Transformer 架构，将图像切分为像素块后与文本令牌一同输入处理。这种“端到端”的极简设计，使其在保持甚至超越现有模型性能的同时，运行速度提升了数十倍。\n\n该项目提供了完整的训练代码、评估脚本以及多个针对视觉问答（VQA）、图文检索等任务微调后的预训练权重。开发者可以直接加载权重进行推理演示，或基于此架构在新数据集上训练专属模型。ViLT 特别适合人工智能研究人员探索高效的多模态架构，也适合工程开发者将其集成到需要快速图文理解的应用场景中。凭借其简洁的代码实现和显著的效率优势，ViLT 为构建轻量级、高性能的视觉语言系统提供了强有力的基础支持。","# ViLT\n\nCode for the ICML 2021 (long talk) paper: \"[ViLT: Vision-and-Language Transformer Without Convolution or Region Supervision](https:\u002F\u002Farxiv.org\u002Fabs\u002F2102.03334)\"\n\n---\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_fc33e21d79ee.png\" alt=\"The main figure\"\u002F>\n\u003C\u002Fp>\n\n## Install\n```bash\npip install -r requirements.txt\npip install -e .\n```\n\n## Download Pretrained Weights\nWe provide five pretrained weights\n1. ViLT-B\u002F32 Pretrained with MLM+ITM for 200k steps on GCC+SBU+COCO+VG (ViLT-B\u002F32 200k) [link](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_200k_mlm_itm.ckpt)\n2. ViLT-B\u002F32 200k finetuned on VQAv2 [link](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_vqa.ckpt)\n3. ViLT-B\u002F32 200k finetuned on NLVR2 [link](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_nlvr2.ckpt)\n4. ViLT-B\u002F32 200k finetuned on COCO IR\u002FTR [link](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_irtr_coco.ckpt)\n5. ViLT-B\u002F32 200k finetuned on F30K IR\u002FTR [link](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_irtr_f30k.ckpt)\n\n## Out-of-the-box MLM + Visualization Demo\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_e049ea6298c5.png\" alt=\"MLM + Visualization\"\u002F>\n\u003C\u002Fp>\n\n```bash\npip install gradio==1.6.4\npython demo.py with num_gpus=\u003C0 if you have no gpus else 1> load_path=\"\u003CYOUR_WEIGHT_ROOT>\u002Fvilt_200k_mlm_itm.ckpt\"\n\nex)\npython demo.py with num_gpus=0 load_path=\"weights\u002Fvilt_200k_mlm_itm.ckpt\"\n```\n\n## Out-of-the-box VQA Demo\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_0d75d3049a15.png\" alt=\"VQA\"\u002F>\n\u003C\u002Fp>\n\n```bash\npip install gradio==1.6.4\npython demo_vqa.py with num_gpus=\u003C0 if you have no gpus else 1> load_path=\"\u003CYOUR_WEIGHT_ROOT>\u002Fvilt_vqa.ckpt\" test_only=True\n\nex)\npython demo_vqa.py with num_gpus=0 load_path=\"weights\u002Fvilt_vqa.ckpt\" test_only=True\n```\n\n## Dataset Preparation\nSee [`DATA.md`](DATA.md)\n\n## Train New Models\nSee [`TRAIN.md`](TRAIN.md)\n\n## Evaluation\nSee [`EVAL.md`](EVAL.md)\n\n## Citation\nIf you use any part of this code and pretrained weights for your own purpose, please cite our [paper](https:\u002F\u002Farxiv.org\u002Fabs\u002F2102.03334).\n```\n@InProceedings{pmlr-v139-kim21k,\n  title = \t {ViLT: Vision-and-Language Transformer Without Convolution or Region Supervision},\n  author =       {Kim, Wonjae and Son, Bokyung and Kim, Ildoo},\n  booktitle = \t {Proceedings of the 38th International Conference on Machine Learning},\n  pages = \t {5583--5594},\n  year = \t {2021},\n  editor = \t {Meila, Marina and Zhang, Tong},\n  volume = \t {139},\n  series = \t {Proceedings of Machine Learning Research},\n  month = \t {18--24 Jul},\n  publisher =    {PMLR},\n  pdf = \t {http:\u002F\u002Fproceedings.mlr.press\u002Fv139\u002Fkim21k\u002Fkim21k.pdf},\n  url = \t {http:\u002F\u002Fproceedings.mlr.press\u002Fv139\u002Fkim21k.html},\n  abstract = \t {Vision-and-Language Pre-training (VLP) has improved performance on various joint vision-and-language downstream tasks. Current approaches to VLP heavily rely on image feature extraction processes, most of which involve region supervision (e.g., object detection) and the convolutional architecture (e.g., ResNet). Although disregarded in the literature, we find it problematic in terms of both (1) efficiency\u002Fspeed, that simply extracting input features requires much more computation than the multimodal interaction steps; and (2) expressive power, as it is upper bounded to the expressive power of the visual embedder and its predefined visual vocabulary. In this paper, we present a minimal VLP model, Vision-and-Language Transformer (ViLT), monolithic in the sense that the processing of visual inputs is drastically simplified to just the same convolution-free manner that we process textual inputs. We show that ViLT is up to tens of times faster than previous VLP models, yet with competitive or better downstream task performance. Our code and pre-trained weights are available at https:\u002F\u002Fgithub.com\u002Fdandelin\u002Fvilt.}\n}\n```\n\n## Contact for Issues\n- [Wonjae Kim](https:\u002F\u002Fwonjae.kim\u002F)\n- [Bokyung Son](https:\u002F\u002Fbo-son.github.io\u002F)\n- [Ildoo Kim](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fildoo-kim-56962034\u002F)\n","# ViLT\n\nICML 2021（长文）论文的代码： “[ViLT: 无需卷积或区域监督的视觉-语言 Transformer](https:\u002F\u002Farxiv.org\u002Fabs\u002F2102.03334)”\n\n---\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_fc33e21d79ee.png\" alt=\"主图\"\u002F>\n\u003C\u002Fp>\n\n## 安装\n```bash\npip install -r requirements.txt\npip install -e .\n```\n\n## 下载预训练权重\n我们提供了五种预训练权重：\n1. ViLT-B\u002F32 在 GCC+SBU+COCO+VG 数据集上使用 MLM+ITM 预训练了 20 万步（ViLT-B\u002F32 200k）[链接](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_200k_mlm_itm.ckpt)\n2. ViLT-B\u002F32 200k 在 VQAv2 上微调 [链接](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_vqa.ckpt)\n3. ViLT-B\u002F32 200k 在 NLVR2 上微调 [链接](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_nlvr2.ckpt)\n4. ViLT-B\u002F32 200k 在 COCO IR\u002FTR 上微调 [链接](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_irtr_coco.ckpt)\n5. ViLT-B\u002F32 200k 在 F30K IR\u002FTR 上微调 [链接](https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_irtr_f30k.ckpt)\n\n## 开箱即用的 MLM + 可视化演示\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_e049ea6298c5.png\" alt=\"MLM + 可视化\"\u002F>\n\u003C\u002Fp>\n\n```bash\npip install gradio==1.6.4\npython demo.py with num_gpus=\u003C如果你没有 GPU 则为 0，否则为 1> load_path=\"\u003CYOUR_WEIGHT_ROOT>\u002Fvilt_200k_mlm_itm.ckpt\"\n\n示例：\npython demo.py with num_gpus=0 load_path=\"weights\u002Fvilt_200k_mlm_itm.ckpt\"\n```\n\n## 开箱即用的 VQA 演示\n\u003Cp align=\"center\">\n  \u003Cimg align=\"middle\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_readme_0d75d3049a15.png\" alt=\"VQA\"\u002F>\n\u003C\u002Fp>\n\n```bash\npip install gradio==1.6.4\npython demo_vqa.py with num_gpus=\u003C如果你没有 GPU 则为 0，否则为 1> load_path=\"\u003CYOUR_WEIGHT_ROOT>\u002Fvilt_vqa.ckpt\" test_only=True\n\n示例：\npython demo_vqa.py with num_gpus=0 load_path=\"weights\u002Fvilt_vqa.ckpt\" test_only=True\n```\n\n## 数据集准备\n请参阅 [`DATA.md`](DATA.md)\n\n## 训练新模型\n请参阅 [`TRAIN.md`](TRAIN.md)\n\n## 评估\n请参阅 [`EVAL.md`](EVAL.md)\n\n## 引用\n如果您将本代码及预训练权重用于任何用途，请引用我们的 [论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2102.03334)。\n```\n@InProceedings{pmlr-v139-kim21k,\n  title = \t {ViLT: 无需卷积或区域监督的视觉-语言 Transformer},\n  author =       {Kim, Wonjae 和 Son, Bokyung 和 Kim, Ildoo},\n  booktitle = \t {第38届国际机器学习大会论文集},\n  pages = \t {5583--5594},\n  year = \t {2021},\n  editor = \t {Meila, Marina 和 Zhang, Tong},\n  volume = \t {139},\n  series = \t {机器学习研究论文集},\n  month = \t {7月18日至24日},\n  publisher =    {PMLR},\n  pdf = \t {http:\u002F\u002Fproceedings.mlr.press\u002Fv139\u002Fkim21k\u002Fkim21k.pdf},\n  url = \t {http:\u002F\u002Fproceedings.mlr.press\u002Fv139\u002Fkim21k.html},\n  abstract = \t {视觉-语言预训练（VLP）在多种视觉-语言下游任务中显著提升了性能。然而，现有的 VLP 方法大多依赖于图像特征提取过程，其中许多方法需要区域级监督（如目标检测）以及卷积架构（如 ResNet）。尽管这一现象在文献中常被忽视，但我们认为它存在两个问题：(1) 效率与速度——单纯提取输入特征所需的计算量远超多模态交互步骤；(2) 表达能力——其上限受限于视觉嵌入器及其预定义视觉词汇表的表达能力。本文提出了一种极简的 VLP 模型——视觉-语言 Transformer（ViLT），该模型在处理视觉输入时完全摒弃了卷积操作，与处理文本输入的方式保持一致。实验表明，ViLT 的速度比现有 VLP 模型快数十倍，同时在下游任务上的表现具有竞争力甚至更优。我们的代码和预训练权重可在 https:\u002F\u002Fgithub.com\u002Fdandelin\u002Fvilt 获取。}\n}\n```\n\n## 问题反馈联系方式\n- [Wonjae Kim](https:\u002F\u002Fwonjae.kim\u002F)\n- [Bokyung Son](https:\u002F\u002Fbo-son.github.io\u002F)\n- [Ildoo Kim](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fildoo-kim-56962034\u002F)","# ViLT 快速上手指南\n\nViLT (Vision-and-Language Transformer) 是一个无需卷积或区域监督的视觉 - 语言预训练模型。本指南将帮助你快速搭建环境并运行官方提供的演示 Demo。\n\n## 1. 环境准备\n\n在开始之前，请确保你的开发环境满足以下要求：\n\n*   **操作系统**: Linux 或 macOS (Windows 需使用 WSL)\n*   **Python**: 建议版本 3.7+\n*   **硬件**: \n    *   **GPU**: 推荐拥有 CUDA 支持的 NVIDIA 显卡（用于加速推理）。\n    *   **CPU**: 若无 GPU，也可使用 CPU 运行，但速度较慢。\n*   **依赖管理**: 确保已安装 `pip`。\n\n> **提示**：国内开发者建议使用清华源或阿里源加速 Python 包下载。\n> 临时使用示例：`pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple`\n\n## 2. 安装步骤\n\n### 2.1 克隆代码与安装依赖\n首先获取源代码并安装基础依赖库：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT.git\ncd ViLT\npip install -r requirements.txt\npip install -e .\n```\n\n### 2.2 下载预训练权重\n根据你想体验的功能，下载对应的预训练权重文件。以下是两个最常用的权重：\n\n*   **MLM + 可视化演示权重** (用于掩码语言建模及注意力可视化):\n    ```bash\n    wget https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_200k_mlm_itm.ckpt -O weights\u002Fvilt_200k_mlm_itm.ckpt\n    ```\n    *(注：请确保 `weights` 目录存在，若不存在请先执行 `mkdir weights`)*\n\n*   **VQA 演示权重** (用于视觉问答任务):\n    ```bash\n    wget https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Freleases\u002Fdownload\u002F200k\u002Fvilt_vqa.ckpt -O weights\u002Fvilt_vqa.ckpt\n    ```\n\n### 2.3 安装演示界面依赖\n运行官方 Demo 需要安装特定版本的 `gradio`：\n\n```bash\npip install gradio==1.6.4\n```\n\n## 3. 基本使用\n\nViLT 提供了开箱即用的 Gradio 演示脚本，你可以直接在浏览器中交互体验。\n\n### 3.1 运行 MLM + 可视化 Demo\n此功能允许你输入图文对，模型会预测被掩码的单词，并可视化图像与文本之间的注意力机制。\n\n**命令：**\n```bash\npython demo.py with num_gpus=0 load_path=\"weights\u002Fvilt_200k_mlm_itm.ckpt\"\n```\n*   `num_gpus=0`: 如果你没有 GPU 或显存不足，设为 `0` 使用 CPU；若有 GPU 则设为 `1`。\n*   `load_path`: 指向你刚才下载的 `.ckpt` 权重文件路径。\n\n运行后，终端会显示一个本地链接（如 `http:\u002F\u002F127.0.0.1:7860`），在浏览器打开即可使用。\n\n### 3.2 运行 VQA (视觉问答) Demo\n此功能允许你上传一张图片并提出问题，模型将直接回答。\n\n**命令：**\n```bash\npython demo_vqa.py with num_gpus=0 load_path=\"weights\u002Fvilt_vqa.ckpt\" test_only=True\n```\n*   参数说明同上，`test_only=True` 表示仅进行推理测试。\n\n---\n*更多高级用法（如自定义数据集训练、详细评估指标）请参考项目根目录下的 `TRAIN.md` 和 `EVAL.md` 文档。*","某电商平台的智能客服团队正在构建一个能直接“看懂”用户上传的商品破损照片并回答相关问题的自动化系统。\n\n### 没有 ViLT 时\n- **流程繁琐且延迟高**：传统方案需先调用独立的物体检测模型（如 Faster R-CNN）提取区域特征，再送入语言模型，串行处理导致单次请求耗时过长，无法满足实时对话需求。\n- **算力成本高昂**：维护复杂的卷积神经网络（CNN）作为视觉编码器需要大量 GPU 资源，尤其在流量高峰期，推理成本难以控制。\n- **信息丢失风险**：依赖预定义的区域监督（Region Supervision）可能导致模型只关注被框选的物体，而忽略背景上下文或细微的纹理破损线索。\n- **架构耦合度高**：视觉与语言模块分离，训练和调试过程复杂，任何一方的更新都可能引发兼容性问题，阻碍快速迭代。\n\n### 使用 ViLT 后\n- **端到端极速响应**：ViLT 摒弃了卷积和区域提取步骤，将图像块像文本词元一样直接输入 Transformer，实现了真正的端到端推理，响应速度提升数十倍。\n- **资源效率显著优化**：单一的 Transformer 架构大幅减少了模型参数量和计算开销，使得在普通显卡甚至 CPU 上部署高性能多模态应用成为可能。\n- **全局理解能力增强**：通过自注意力机制，ViLT 能同时捕捉图像全局信息与文本语义的细粒度交互，更准确地判断“角落划痕”或“整体色差”等复杂问题。\n- **开发部署极简**：利用官方提供的预训练权重（如 VQAv2 微调版），开发人员只需几行代码即可加载模型并集成到 Gradio 演示中，极大缩短了从实验到上线的周期。\n\nViLT 通过极简的架构设计，打破了视觉与语言处理的壁垒，让实时、低成本且高精度的多模态智能交互真正落地。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdandelin_ViLT_e049ea62.png","dandelin","Wonjae (Dan) Kim","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fdandelin_b4c861b0.jpg","I am a lead research scientist at TwelveLabs. Prior to joining TwelveLabs, I worked as a research scientist at Naver AI LAB and Kakao.","@twelvelabs-io","South Korea","contact@wonjae.kim",null,"http:\u002F\u002Fwonjae.kim","https:\u002F\u002Fgithub.com\u002Fdandelin",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,1530,231,"2026-04-06T03:38:46","Apache-2.0","未说明","非必需。演示脚本支持通过参数 num_gpus=0 在 CPU 上运行，若有 GPU 则设置为 1。具体显卡型号、显存大小及 CUDA 版本未在文中明确说明。",{"notes":95,"python":92,"dependencies":96},"安装需执行 'pip install -r requirements.txt' 和 'pip install -e .'。提供多个预训练权重文件（如 MLM+ITM、VQA、NLVR2 等），需手动下载。运行演示时需指定权重路径和 GPU 数量参数。",[97,98],"requirements.txt (具体列表需参考该文件)","gradio==1.6.4",[15,100],"其他",[102],"vision-and-language","2026-03-27T02:49:30.150509","2026-04-10T20:34:08.007359",[106,111,115,120,125,130],{"id":107,"question_zh":108,"answer_zh":109,"source_url":110},28214,"ViLT 模型是否已集成到 HuggingFace Transformers 中？如何使用？","是的，ViLT 已经添加到 HuggingFace Transformers 中。您可以访问官方文档 (https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Fmain\u002Fen\u002Fmodel_doc\u002Fvilt) 查看用法。所有预训练模型可在 HuggingFace Hub (https:\u002F\u002Fhuggingface.co\u002Fmodels?other=vilt) 找到。此外，还有专门的演示笔记本可供参考：https:\u002F\u002Fgithub.com\u002FNielsRogge\u002FTransformers-Tutorials\u002Ftree\u002Fmaster\u002FViLT。","https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Fissues\u002F36",{"id":112,"question_zh":113,"answer_zh":114,"source_url":110},28215,"如何获取确定性的图像嵌入（deterministic embeddings），避免批次处理时的随机性？","代码中用于对不同尺寸图像进行填充批处理的逻辑（vision_transformer.py 第 602-648 行）导致了非确定性。如果您需要确定性嵌入，可以忽略这些行。但请注意，这种情况下您需要向模型传入尺寸完全相同的图像批次，或者一次只传入单张图像。",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},28216,"训练过程中如何查看损失曲线和其他指标？","可以使用 Tensorboard 可视化损失和其他指标，日志文件会随检查点一起保存。运行命令如下：`tensorboard --logdir=result\u002Ffinetune_irtr_f30k_randaug_seed0_from_vilt_200k_mlm_itm`（请将路径替换为您实际的实验结果目录）。","https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Fissues\u002F4",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},28217,"开启 MPP (Masked Patch Prediction) 任务时报错 'VisionTransformer' object has no attribute 'mask_token' 如何解决？","该错误通常是因为相关代码遗留问题或配置不匹配。MPP、MPPD 和 MPFR 属于较旧的目标函数。其中 MPP 通过分类预测平均 RGB 值，MPPD 尝试回归该值，而 MPFR 类似于 MPPD 但尝试回归 patch embedding 值（来自 patch 投影层的值）。如果不需要这些特定功能，建议检查配置文件或暂时关闭相关任务选项。","https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Fissues\u002F18",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},28218,"ITM (Image-Text Matching) 和 MLM (Masked Language Modeling) 任务的输入数据有什么区别？","这两个任务需要不同的输入处理方式。对于 ITM 任务，使用的是未掩码（unmasked）的输入，并且包含错位（misaligned）的图像 - 文本对。因此，一个完整的迭代步骤需要运行三次 Transformer：1. 对齐的掩码文本 + 图像（用于 MLM）；2. 对齐的未掩码文本 + 图像（用于 ITM）；3. 错位的未掩码文本 + 图像（用于 ITM）。","https:\u002F\u002Fgithub.com\u002Fdandelin\u002FViLT\u002Fissues\u002F12",{"id":131,"question_zh":132,"answer_zh":133,"source_url":129},28219,"为什么我无法复现论文中的 100k 步预训练结果（VQA 得分偏低）？","无法复现通常与超参数设置、数据增强策略或随机种子有关。确保您的预训练和微调命令与官方一致，特别是 `whole_word_masking=True` 和 `task_finetune_vqa_randaug` 等关键参数。检查损失曲线是否正常收敛，如果损失曲线正常但分数仍低，请确认数据集版本及预处理步骤是否与论文描述完全一致。已有用户反馈在调整配置后得分接近论文报告的 70.8 分。",[135],{"id":136,"version":137,"summary_zh":138,"released_at":139},189117,"200k","检查点发布","2021-05-12T13:38:31"]