[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-luo3300612--Visualizer":3,"tool-luo3300612--Visualizer":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",142651,2,"2026-04-06T23:34:12",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,"2026-04-06T11:32:50",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":76,"owner_website":76,"owner_url":77,"languages":78,"stars":87,"forks":88,"last_commit_at":89,"license":90,"difficulty_score":32,"env_os":91,"env_gpu":92,"env_ram":92,"env_deps":93,"category_tags":99,"github_topics":76,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":101,"updated_at":102,"faqs":103,"releases":139},4807,"luo3300612\u002FVisualizer","Visualizer","assistant tools for attention visualization in deep learning","Visualizer 是一款专为深度学习研究者设计的轻量级辅助工具，旨在简化注意力机制（Attention Map）的可视化流程。在训练 Transformer 等复杂模型时，开发者常面临两难：若通过返回值层层传递注意力图，需反复修改模型代码；若使用全局变量记录，则容易因遗忘还原而导致内存溢出。Visualizer 巧妙利用 Python 字节码技术与装饰器模式，完美解决了这一痛点。\n\n用户只需在计算注意力的函数上添加 `@get_local` 装饰器并指定变量名，即可在非侵入式的前提下，自动捕获嵌套深层的中间结果。其核心亮点在于“训练 - 测试一致性”：可视化时激活装饰器即可提取数据，而正常训练时无需删除或修改任何代码，因为未激活状态下装饰器不生效，零性能损耗。此外，它能一键提取 Transformer 多层结构中的所有注意力图，避免了繁琐的逐层注册操作。\n\n这款工具非常适合从事计算机视觉、自然语言处理等领域的算法工程师与科研人员，尤其是需要频繁分析模型内部注意力分布的研究者。通过 Visualizer，你可以更专注于模型解读本身，而非被工程实现细节所困扰，让深度学习的可解释性探索变","Visualizer 是一款专为深度学习研究者设计的轻量级辅助工具，旨在简化注意力机制（Attention Map）的可视化流程。在训练 Transformer 等复杂模型时，开发者常面临两难：若通过返回值层层传递注意力图，需反复修改模型代码；若使用全局变量记录，则容易因遗忘还原而导致内存溢出。Visualizer 巧妙利用 Python 字节码技术与装饰器模式，完美解决了这一痛点。\n\n用户只需在计算注意力的函数上添加 `@get_local` 装饰器并指定变量名，即可在非侵入式的前提下，自动捕获嵌套深层的中间结果。其核心亮点在于“训练 - 测试一致性”：可视化时激活装饰器即可提取数据，而正常训练时无需删除或修改任何代码，因为未激活状态下装饰器不生效，零性能损耗。此外，它能一键提取 Transformer 多层结构中的所有注意力图，避免了繁琐的逐层注册操作。\n\n这款工具非常适合从事计算机视觉、自然语言处理等领域的算法工程师与科研人员，尤其是需要频繁分析模型内部注意力分布的研究者。通过 Visualizer，你可以更专注于模型解读本身，而非被工程实现细节所困扰，让深度学习的可解释性探索变得更加高效便捷。","# Visualizer\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fvisualizer-v0.0.1-brightgreen)\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-v3.6-blue)\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpytorch-v%3E0.0.0-blue)\n\nVisualizer是一个辅助深度学习模型中Attention模块可视化的小工具，主要功能是帮助取出嵌套在模型深处的Attention Map\n\n## 为什么需要Visualizer?\n为了可视化Attention Map，你是否有以下苦恼\n* Return大法好：通过return将嵌套在模型深处的Attention Map一层层地返回回来，然后训练模型的时候又不得不还原\n* 全局大法好：使用全局变量在Attention函数中直接记录Attention Map，结果训练的时候忘改回来导致OOM\n\n不管你有没有，反正我有\n\n咨询了专业人士的意见后，发现pytorch有个hook可以取出中间结果，大概查了一下，发现确实可以取出中间变量，但需要进行如下类似的hook注册\n```python\nhandle = net.conv2.register_forward_hook(hook)\n```\n进行这样操作的前提是我们知道要取出来的模块名，但是Transformer类模型一般是这样定义的(以Vit为例)\n```python\nclass VisionTransformer(nn.Module):\n    def __init__(self, *args, **kwargs):\n        ...\n        self.blocks = nn.Sequential(*[Block(...) for i in range(depth)])\n        ...\n```\n然后每个`Block`中都有一个Attention\n```python\nclass Block(nn.Module):\n    def __init__(self, *args, **kwargs):\n        ...\n        self.attn = Attention(...)\n        ...\n```\n如果要使用hooks其中的问题就是\n1. 嵌套太深，模块名不清晰，我们根本不知道我们要取的attention map怎么以model.bla.bla.bla这样一直点出来！\n2. 一般来说，Transformer中attention map每层都有一个，一个个注册实在太麻烦了\n\n所以我就思考并查找能否通过更简洁的方法来得到Attention Map（尤其是Transformer的）,而visualizer就是其中的一种，它具有以下特点\n* 精准直接，你可以取出任何变量名的模型中间结果\n* 快捷方便，同时取出Transformer类模型中的所有attention map\n* 非侵入式，你无须修改函数内的任何一行代码\n* 训练-测试一致，可视化完成后，你无须在训练时再将代码改回来\n\n## 用法\n### 安装\n```shell\npip install bytecode\npython setup.py install\n```\n\n安装完成后，只需要用get_local装饰一下Attention的函数，forward之后就可以拿到函数内与装饰器参数同名的局部变量啦~\n### Usage1\n比如说，我想要函数里的`attention_map`变量：\n在模型文件里，我们这么写\n```python\nfrom visualizer import get_local\n@get_local('attention_map')\ndef your_attention_function(*args, **kwargs):\n    ...\n    attention_map = ... \n    ...\n    return ...\n```\n然后在可视化代码里，我们这么写\n```python\nfrom visualizer import get_local\nget_local.activate() # 激活装饰器\nfrom ... import model # 被装饰的模型一定要在装饰器激活之后导入！！\n\n# load model and data\n...\nout = model(data)\n\ncache = get_local.cache # ->  {'your_attention_function': [attention_map]}\n```\n最终就会以字典形式存在`get_local.cache`里，其中key是你的函数名,value就是一个存储attention_map的列表\n\n### Usage2\n使用Pytorch时我们往往会将模块定义成一个类，此时也是一样只要装饰类内计算出attention_map的函数即可\n```python\nfrom visualizer import get_local\n\nclass Attention(nn.Module):\n    def __init__(self):\n        ...\n    \n    @get_local('attn_map')\n    def forward(self, x):\n        ...\n        attn_map = ...\n        ...\n        return ...\n```\n其他细节请参考[demo.ipynb](https:\u002F\u002Fnbviewer.jupyter.org\u002Fgithub\u002Fluo3300612\u002FVisualizer\u002Fblob\u002Fmain\u002Fdemo.ipynb)文件\n## 可视化结果\n这里是部分可视化vit_small的结果，全部内容在[demo.ipynb](https:\u002F\u002Fnbviewer.jupyter.org\u002Fgithub\u002Fluo3300612\u002FVisualizer\u002Fblob\u002Fmain\u002Fdemo.ipynb)文件里\n\n因为普通Vit所有Attention map都是在Attention.forward中计算出来的，所以只要简单地装饰一下这个函数，我们就可以同时取出vit中12层Transformer的所有Attention Map！\n\n一个Head的结果\n\n![a head](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_6962a49daef1.png)\n\n一层所有Heads的结果\n\n![heads](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_7f5e1589e175.png)\n\n某个grid的Attention Map\n\n![grid2grid](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_548e35fcbb9f.png)\n\n## 注意\n* 想要可视化的变量在函数内部不能被后续的同名变量覆盖了，因为get_local取的是对应名称变量在函数中的**最终值**\n* 进行可视化时，get_local.activate()一定要在导入模型**前**完成，因为python装饰器是在导入时执行的\n* 训练时你不需要修改\u002F删除任何代码，即不用删掉装饰函数的代码，因为在get_local.activate()没有执行的情况下，attention函数不会被装饰，故没有任何性能损失(同上一点，因为python装饰器是在导入时执行的)\n\n## 其他\n当然，其实get_local本身可以取出任何一个函数中某个局部变量的最终值，所以它应该还有其他更有趣的用途\n\n## references\n* [bytecode](https:\u002F\u002Fblog.csdn.net\u002Fqfcy_\u002Farticle\u002Fdetails\u002F118890362)\n* [local track1](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F52313851\u002Fhow-can-i-track-the-values-of-a-local-variable-in-python)\n* [local track2](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F19326004\u002Faccess-a-function-variable-outside-the-function-without-using-global)\n* [decorator1](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F1367514\u002Fhow-to-decorate-a-method-inside-a-class)\n* [decorator2](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F6676015\u002Fclass-decorators-vs-function-decorators)\n","# Visualizer\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fvisualizer-v0.0.1-brightgreen)\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-v3.6-blue)\n![](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpytorch-v%3E0.0.0-blue)\n\nVisualizer 是一个辅助深度学习模型中 Attention 模块可视化的工具，主要功能是帮助提取嵌套在模型深处的 Attention Map。\n\n## 为什么需要 Visualizer？\n为了可视化 Attention Map，你是否有以下困扰：\n* “Return 大法好”：通过 return 将嵌套在模型深处的 Attention Map 一层层地返回回来，然后训练模型的时候又不得不还原。\n* “全局大法好”：使用全局变量在 Attention 函数中直接记录 Attention Map，结果训练的时候忘改回来导致 OOM。\n\n不管你有没有，反正我有。\n\n咨询了专业人士的意见后，发现 PyTorch 有个 hook 可以取出中间结果。大概查了一下，发现确实可以取出中间变量，但需要进行如下类似的 hook 注册：\n```python\nhandle = net.conv2.register_forward_hook(hook)\n```\n进行这样操作的前提是我们知道要取出来的模块名。然而，Transformer 类模型一般是这样定义的（以 ViT 为例）：\n```python\nclass VisionTransformer(nn.Module):\n    def __init__(self, *args, **kwargs):\n        ...\n        self.blocks = nn.Sequential(*[Block(...) for i in range(depth)])\n        ...\n```\n然后每个 `Block` 中都有一个 Attention：\n```python\nclass Block(nn.Module):\n    def __init__(self, *args, **kwargs):\n        ...\n        self.attn = Attention(...)\n        ...\n```\n如果要使用 hooks，其中的问题就是：\n1. 嵌套太深，模块名不清晰，我们根本不知道我们要取的 attention map 怎么以 `model.bla.bla.bla` 这样一直点出来！\n2. 一般来说，Transformer 中 attention map 每层都有一个，一个个注册实在太麻烦了。\n\n所以我就思考并查找能否通过更简洁的方法来得到 Attention Map（尤其是 Transformer 的），而 Visualizer 就是其中的一种。它具有以下特点：\n* 精准直接，你可以取出任何变量名的模型中间结果。\n* 快捷方便，同时取出 Transformer 类模型中的所有 attention map。\n* 非侵入式，你无须修改函数内的任何一行代码。\n* 训练-测试一致，可视化完成后，你无须在训练时再将代码改回来。\n\n## 使用方法\n### 安装\n```shell\npip install bytecode\npython setup.py install\n```\n\n安装完成后，只需要用 `get_local` 装饰一下 Attention 的函数，forward 之后就可以拿到函数内与装饰器参数同名的局部变量啦~\n### Usage1\n比如说，我想要函数里的 `attention_map` 变量：\n在模型文件里，我们这么写：\n```python\nfrom visualizer import get_local\n@get_local('attention_map')\ndef your_attention_function(*args, **kwargs):\n    ...\n    attention_map = ... \n    ...\n    return ...\n```\n然后在可视化代码里，我们这么写：\n```python\nfrom visualizer import get_local\nget_local.activate() # 激活装饰器\nfrom ... import model # 被装饰的模型一定要在装饰器激活之后导入！！\n\n# load model and data\n...\nout = model(data)\n\ncache = get_local.cache # ->  {'your_attention_function': [attention_map]}\n```\n最终就会以字典形式存在 `get_local.cache` 里，其中 key 是你的函数名，value 是一个存储 attention_map 的列表。\n\n### Usage2\n使用 PyTorch 时我们往往会将模块定义成一个类，此时也是一样只要装饰类内计算出 attention_map 的函数即可：\n```python\nfrom visualizer import get_local\n\nclass Attention(nn.Module):\n    def __init__(self):\n        ...\n    \n    @get_local('attn_map')\n    def forward(self, x):\n        ...\n        attn_map = ...\n        ...\n        return ...\n```\n其他细节请参考 [demo.ipynb](https:\u002F\u002Fnbviewer.jupyter.org\u002Fgithub\u002Fluo3300612\u002FVisualizer\u002Fblob\u002Fmain\u002Fdemo.ipynb) 文件。\n\n## 可视化结果\n这里是部分可视化 vit_small 的结果，全部内容在 [demo.ipynb](https:\u002F\u002Fnbviewer.jupyter.org\u002Fgithub\u002Fluo3300612\u002FVisualizer\u002Fblob\u002Fmain\u002Fdemo.ipynb) 文件里。\n\n因为普通 ViT 所有 Attention Map 都是在 Attention.forward 中计算出来的，所以只要简单地装饰一下这个函数，我们就可以同时取出 ViT 中 12 层 Transformer 的所有 Attention Map！\n\n一个 Head 的结果：\n\n![a head](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_6962a49daef1.png)\n\n一层所有 Heads 的结果：\n\n![heads](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_7f5e1589e175.png)\n\n某个 grid 的 Attention Map：\n\n![grid2grid](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_readme_548e35fcbb9f.png)\n\n## 注意事项\n* 想要可视化的变量在函数内部不能被后续的同名变量覆盖了，因为 `get_local` 取的是对应名称变量在函数中的**最终值**。\n* 进行可视化时，`get_local.activate()` 一定要在导入模型**前**完成，因为 Python 装饰器是在导入时执行的。\n* 训练时你不需要修改\u002F删除任何代码，即不用删掉装饰函数的代码，因为在 `get_local.activate()` 没有执行的情况下，attention 函数不会被装饰，故没有任何性能损失（同上一点，因为 Python 装饰器是在导入时执行的）。\n\n## 其他\n当然，其实 `get_local` 本身可以取出任何一个函数中某个局部变量的最终值，所以它应该还有其他更有趣的用途。\n\n## 参考文献\n* [bytecode](https:\u002F\u002Fblog.csdn.net\u002Fqfcy_\u002Farticle\u002Fdetails\u002F118890362)\n* [local track1](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F52313851\u002Fhow-can-i-track-the-values-of-a-local-variable-in-python)\n* [local track2](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F19326004\u002Faccess-a-function-variable-outside-the-function-without-using-global)\n* [decorator1](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F1367514\u002Fhow-to-decorate-a-method-inside-a-class)\n* [decorator2](https:\u002F\u002Fstackoverflow.com\u002Fquestions\u002F6676015\u002Fclass-decorators-vs-function-decorators)","# Visualizer 快速上手指南\n\nVisualizer 是一个专为深度学习设计的轻量级工具，旨在非侵入式地提取模型内部（特别是 Transformer 架构中）嵌套深层的 Attention Map。无需修改模型训练逻辑，即可在推理或可视化阶段轻松获取中间变量。\n\n## 环境准备\n\n在使用前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**：Linux \u002F macOS \u002F Windows\n*   **Python 版本**：>= 3.6\n*   **核心依赖**：\n    *   PyTorch (版本 > 0.0.0)\n    *   bytecode\n\n## 安装步骤\n\n建议先安装底层依赖 `bytecode`，然后安装本工具。\n\n```shell\npip install bytecode\npython setup.py install\n```\n\n> **提示**：如果下载速度较慢，可使用国内镜像源加速安装：\n> ```shell\n> pip install bytecode -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n> python setup.py install\n> ```\n\n## 基本使用\n\nVisualizer 的核心是通过 `@get_local` 装饰器标记需要提取的变量，并在导入模型前激活该功能。\n\n### 1. 修改模型代码（仅需添加装饰器）\n\n在你的模型文件中，找到计算 Attention Map 的函数（可以是独立函数或类中的 `forward` 方法），使用 `@get_local('变量名')` 进行装饰。\n\n**示例：装饰类中的 forward 方法**\n\n```python\nfrom visualizer import get_local\nimport torch.nn as nn\n\nclass Attention(nn.Module):\n    def __init__(self):\n        super().__init__()\n        # ... 初始化代码 ...\n    \n    @get_local('attn_map')  # 标记需要提取的局部变量名为 'attn_map'\n    def forward(self, x):\n        # ... 计算逻辑 ...\n        attn_map = ...  # 确保函数内存在此变量且未被后续同名变量覆盖\n        # ... 其余逻辑 ...\n        return output\n```\n\n### 2. 执行可视化脚本\n\n在运行推理或可视化的脚本中，**务必在导入模型之前**调用 `get_local.activate()`。\n\n```python\nfrom visualizer import get_local\n\n# 第一步：激活装饰器（必须在导入模型前执行）\nget_local.activate()\n\n# 第二步：导入已修饰的模型\nfrom your_model_file import VisionTransformer \n\n# 第三步：加载模型与数据并运行\nmodel = VisionTransformer()\ndata = ... # 准备输入数据\nout = model(data)\n\n# 第四步：获取结果\n# cache 是一个字典：{ '函数名': [变量值列表] }\ncache = get_local.cache \n\n# 提取特定函数的 attention map\nattention_maps = cache['forward'] \nprint(f\"提取到的 Attention Map 数量：{len(attention_maps)}\")\n```\n\n### 关键注意事项\n*   **导入顺序**：`get_local.activate()` 必须在 `import model` 之前执行，因为 Python 装饰器在模块导入时即生效。\n*   **变量命名**：确保装饰器参数中的名称（如 `'attn_map'`）与函数内部最终想要获取的变量名完全一致，且该变量在函数结束前未被重新赋值覆盖。\n*   **训练无影响**：若不执行 `activate()`，装饰器不生效，原模型代码无任何性能损耗，可直接用于正常训练。","某计算机视觉算法工程师正在调试一个基于 Vision Transformer (ViT) 的图像分类模型，急需观察深层注意力机制以定位模型为何无法识别细小目标。\n\n### 没有 Visualizer 时\n- **代码侵入性强**：为了获取嵌套在 12 层 Block 深处的 Attention Map，不得不修改模型源码，通过层层 `return` 传递中间变量或滥用全局变量记录数据。\n- **维护成本高昂**：训练阶段必须手动还原被修改的代码，若忘记移除全局变量记录逻辑，极易导致显存溢出（OOM）甚至训练崩溃。\n- **注册过程繁琐**：若尝试使用 PyTorch 原生 Hook，需逐个解析复杂的模块命名路径（如 `model.blocks.5.attn`），对深层嵌套结构进行重复且易错的注册操作。\n- **环境不一致风险**：训练与推理阶段的代码逻辑不一致，容易因疏忽导致线上部署版本包含调试残留代码，影响生产稳定性。\n\n### 使用 Visualizer 后\n- **零代码侵入**：仅需在计算 Attention 的函数上添加 `@get_local('attn_map')` 装饰器，无需改动函数内部任何一行逻辑即可提取变量。\n- **训练测试无缝切换**：可视化时调用 `activate()` 激活装饰器，正常训练时无需删除代码，装饰器自动失效，彻底杜绝性能损耗与显存泄漏风险。\n- **批量自动化提取**：针对 Transformer 架构，一次性自动捕获所有层级的注意力图，省去了手动逐层注册 Hook 的繁琐步骤。\n- **开发流程统一**：保持训练与推理代码完全一致，消除了因环境差异导致的潜在 Bug，让调试工作更加安全可控。\n\nVisualizer 通过非侵入式的字节码修饰技术，将原本复杂脆弱的注意力可视化流程简化为“一行装饰、即时获取”，极大提升了深度学习模型的可解释性分析效率。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fluo3300612_Visualizer_6962a49d.png","luo3300612","lyricpoem","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fluo3300612_816967d8.jpg",null,"https:\u002F\u002Fgithub.com\u002Fluo3300612",[79,83],{"name":80,"color":81,"percentage":82},"Jupyter Notebook","#DA5B0B",72.2,{"name":84,"color":85,"percentage":86},"Python","#3572A5",27.8,1264,94,"2026-04-06T09:23:59","Apache-2.0","","未说明",{"notes":94,"python":95,"dependencies":96},"该工具通过字节码注入技术非侵入式地提取模型中间变量。安装需先执行 'pip install bytecode' 再运行 'python setup.py install'。使用时必须在导入被装饰的模型文件之前调用 'get_local.activate()'，否则装饰器无法生效。训练时无需移除装饰代码，只要不激活即可避免性能损失。注意被提取的变量名在函数内不能被后续同名变量覆盖，否则获取的是最终值。","3.6+",[97,98],"pytorch>0.0.0","bytecode",[14,100],"其他","2026-03-27T02:49:30.150509","2026-04-07T11:42:36.323004",[104,109,114,119,124,129,134],{"id":105,"question_zh":106,"answer_zh":107,"source_url":108},21839,"运行时报错 'ModuleNotFoundError: No module named bytecode' 如何解决？","缺少依赖库 'bytecode'。请在终端或命令行中运行以下命令安装：pip install bytecode","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F1",{"id":110,"question_zh":111,"answer_zh":112,"source_url":113},21840,"如何从不同函数中提取同名变量？","工具会自动按照函数调用的顺序，将同名变量保存为一个列表（List）。你可以通过索引访问不同函数调用产生的同名变量值。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F17",{"id":115,"question_zh":116,"answer_zh":117,"source_url":118},21834,"为什么打印 cache.keys() 结果为空列表 []？","这通常是因为被装饰的函数未被正确调用，或者在多个文件中导入模型时未在所有文件中激活装饰器。解决方法：1. 确保被装饰的函数确实被导入的模型调用；2. 如果在多个文件中导入了模型，需要在每个文件中都激活一下装饰器；3. 尝试重启 Notebook 并重新运行代码。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F3",{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},21835,"报错 'res, values = func(*args, **kwargs)' 无法解包返回值怎么办？","原因是如果追踪的函数包含条件分支（if-else），解释器可能在字节码末尾自动插入 'return None'，导致返回值数量不匹配。解决方法：确保被追踪函数的最后一行代码显式地执行 return 语句，避免解释器自动补充 None。例如，无论条件如何，都要保证所有分支都有明确的 return 返回值。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F23",{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},21836,"如何处理不同批次数据调用时 cache 结果累积变大的问题？","需要在每次调用完成后手动清理 cache。不要使用 'del'，而是直接调用 'cache.clear()' 方法即可清空缓存，从而不影响下一个 batch 的数据。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F26",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},21837,"Demo 中直接从 timm 引入 ViT 模型，没有看到对 attention 部分添加装饰器，这是如何实现的？","Demo 中使用的 timm 库是作者修改过的版本，已经内置了装饰器逻辑（具体是在 Attention 类的 forward 方法中添加了装饰器）。如果你使用官方原版 timm，需要手动对相应代码添加装饰器。此外，对训练好的模型代码加入 Visualizer 装饰器后，仍然可以正常加载模型权重。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F2",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},21838,"Demo 中得到 attention map 后，为什么要使用 cls_padding 函数进行填充？","因为 ViT 模型中的 cls token 也会产生 attention map。使用 cls_padding 是为了同时可视化 cls token 的 attention map，确保输出维度与包含 cls token 的完整序列一致。","https:\u002F\u002Fgithub.com\u002Fluo3300612\u002FVisualizer\u002Fissues\u002F5",[]]