[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-wyf3--llm_related":3,"tool-wyf3--llm_related":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",157379,2,"2026-04-15T23:32:42",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":68,"owner_avatar_url":73,"owner_bio":68,"owner_company":68,"owner_location":68,"owner_email":68,"owner_twitter":68,"owner_website":68,"owner_url":74,"languages":75,"stars":92,"forks":93,"last_commit_at":94,"license":68,"difficulty_score":95,"env_os":96,"env_gpu":97,"env_ram":97,"env_deps":98,"category_tags":101,"github_topics":68,"view_count":32,"oss_zip_url":68,"oss_zip_packed_at":68,"status":102,"created_at":103,"updated_at":104,"faqs":105,"releases":141},8056,"wyf3\u002Fllm_related","llm_related","复现大模型相关算法及一些学习记录","llm_related 是一个专注于大语言模型算法复现与学习沉淀的开源项目。它致力于将学术界和工业界前沿的大模型算法从理论转化为可运行的代码，帮助使用者深入理解模型背后的运作机制。\n\n在大模型技术飞速迭代的今天，许多论文仅提供了理论公式而缺乏完整的工程实现，导致学习者难以跨越从“读懂论文”到“跑通代码”的鸿沟。llm_related 正是为了解决这一痛点而生，它通过提供清晰的算法复现代码和详尽的学习记录，降低了大模型技术的入门门槛，让复杂的算法逻辑变得有迹可循。\n\n这个项目非常适合 AI 开发者、算法研究人员以及希望深入掌握大模型原理的学生使用。对于想要动手实践而非仅仅停留在理论层面的技术人员，这里提供了宝贵的参考范本。其独特的亮点在于不仅关注算法的最终效果，更重视复现过程中的细节记录与经验总结，相当于一份伴随代码成长的实战笔记。无论是用于教学演示、算法验证，还是作为个人技术成长的路线图，llm_related 都能提供扎实的支持，助力用户在人工智能领域稳步前行。","# 复现各种大模型相关算法\n",null,"# llm_related 快速上手指南\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n- **操作系统**：Linux (推荐 Ubuntu 20.04+) 或 macOS\n- **Python 版本**：Python 3.8 或更高版本\n- **硬件要求**：建议配备 NVIDIA GPU (显存 >= 16GB) 以运行大型模型；若仅复现轻量级算法，CPU 亦可\n- **前置依赖**：\n  - `git`\n  - `pip` (建议升级至最新版)\n  - `CUDA Toolkit` (如需 GPU 加速，版本需与 PyTorch 匹配)\n\n> **国内开发者提示**：建议配置 pip 使用清华或阿里镜像源，以加速依赖下载。\n> ```bash\n> pip config set global.index-url https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n> ```\n\n## 安装步骤\n\n1. **克隆项目仓库**\n   ```bash\n   git clone https:\u002F\u002Fgithub.com\u002Fyour-repo\u002Fllm_related.git\n   cd llm_related\n   ```\n\n2. **创建虚拟环境（推荐）**\n   ```bash\n   python -m venv venv\n   source venv\u002Fbin\u002Factivate  # Windows 用户使用: venv\\Scripts\\activate\n   ```\n\n3. **安装依赖包**\n   ```bash\n   pip install -r requirements.txt\n   ```\n   *注：若项目中包含特定大模型依赖（如 transformers, accelerate），上述命令将自动安装。如有单独的 `setup.py`，也可运行 `pip install -e .` 进行可编辑安装。*\n\n## 基本使用\n\n本项目旨在复现各类大模型相关算法。以下是一个最简单的调用示例，展示如何加载并运行一个基础的复现脚本：\n\n1. **查看可用脚本**\n   进入 `scripts` 或 `examples` 目录查看具体算法实现：\n   ```bash\n   ls examples\u002F\n   ```\n\n2. **运行示例代码**\n   假设我们要复现一个简单的 LoRA 微调流程，运行以下命令：\n   ```bash\n   python examples\u002Frun_lora_finetuning.py \\\n       --model_name_or_path meta-llama\u002FLlama-2-7b-hf \\\n       --dataset_path data\u002Falpaca_data.json \\\n       --output_dir .\u002Foutput\u002Flora_result\n   ```\n\n3. **验证结果**\n   运行完成后，检查 `.\u002Foutput\u002Flora_result` 目录下的日志和模型权重文件，确认算法复现成功。\n\n> **提示**：具体参数请参考各脚本内部的 `argparse` 定义或对应算法的文档说明。","某 AI 初创公司的算法工程师团队正致力于复现一篇最新的稀疏注意力机制论文，以优化其垂直领域大模型的推理速度。\n\n### 没有 llm_related 时\n- 团队成员需从零搭建实验环境，花费数天时间调试依赖库版本冲突，导致项目启动严重滞后。\n- 缺乏标准的基线代码参考，大家在实现核心算法时各自为战，代码风格混乱且难以互相审查。\n- 遇到训练发散或效果不达标时，只能盲目调整超参数，缺少系统的错误排查记录和复现笔记作为指引。\n- 新加入的实习生无法快速上手，需要资深员工手把手教学，极大浪费了团队的高级人力资源。\n\n### 使用 llm_related 后\n- 直接复用 llm_related 中预置的环境配置和基础架构，将环境搭建时间从三天缩短至两小时。\n- 参照 llm_related 提供的标准算法实现模板，统一了代码规范，使得模块间协作与代码合并变得顺畅高效。\n- 利用 llm_related 中详尽的学习记录和常见坑点总结，迅速定位了梯度爆炸问题，避免了无效的试错循环。\n- 新人通过阅读 llm_related 中的结构化文档和注释代码，两天内即可独立承担子模块的开发任务。\n\nllm_related 通过将分散的算法复现经验转化为标准化的资产，显著降低了大模型研发的门槛与试错成本。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fwyf3_llm_related_01e7cb23.png","wyf3","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fwyf3_dbf57f18.png","https:\u002F\u002Fgithub.com\u002Fwyf3",[76,80,84,88],{"name":77,"color":78,"percentage":79},"Python","#3572A5",84.4,{"name":81,"color":82,"percentage":83},"Shell","#89e051",9,{"name":85,"color":86,"percentage":87},"Jupyter Notebook","#DA5B0B",6.6,{"name":89,"color":90,"percentage":91},"Makefile","#427819",0,3261,439,"2026-04-15T15:13:23",5,"","未说明",{"notes":99,"python":97,"dependencies":100},"README 内容仅包含项目标题“复现各种大模型相关算法”，未提供具体的运行环境需求、依赖库或安装说明。建议查看项目源码中的 requirements.txt 或进一步文档以获取详细信息。",[],[35,14],"ready_partial","2026-03-27T02:49:30.150509","2026-04-16T16:13:09.416347",[106,111,116,121,126,131,136],{"id":107,"question_zh":108,"answer_zh":109,"source_url":110},36072,"PPO 实现中计算 Reward 时，如果 EOS 位置被 action_mask 屏蔽，会导致 Reward 丢失吗？","是的，原代码逻辑中 `ends = action_mask.sum(1) + 1` 可能导致 Reward 被加在 mask 为 0 的位置，从而在 Loss 计算中被忽略。维护者已确认该问题并对代码逻辑进行了调整，确保 Reward 正确添加到有效位置。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F37",{"id":112,"question_zh":113,"answer_zh":114,"source_url":115},36069,"PPO 算法中 Value Model 的取值位置是否应该偏移一位以匹配 Reward 序列？","是的，应该偏移一位。在计算 Value 时，应选取 `seq[:, :-1][:, -num_action:]` 的特征通过 value head，否则会与 Reward 对应的序列错开一个位置。代码修正为：`values = value_model_output.squeeze(-1)[:, :-1][:, -num_actions:]`。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F36",{"id":117,"question_zh":118,"answer_zh":119,"source_url":120},36070,"训练多模态模型时报错 'RuntimeError: shape is invalid for input of size...'，图片 Embedding 维度不匹配怎么办？","这是因为使用的视觉编码器输出的 token 数量或维度与代码预期不符（例如预期 196 个 token，实际输出 729 个）。解决方案是将视觉模型更换为 `google\u002Fsiglip-base-patch16-224`，该模型能输出符合代码预期的形状。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F25",{"id":122,"question_zh":123,"answer_zh":124,"source_url":125},36071,"多模态模型预训练后测试输出全是感叹号（!）或乱码，是什么原因？","这通常不是模型训练问题，而是服务器终端的编码设置问题导致特殊字符显示异常。请检查并调整服务器终端的编码格式（如设置为 UTF-8）来解决显示问题。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F22",{"id":127,"question_zh":128,"answer_zh":129,"source_url":130},36073,"从头训练 LLM (train_llm_from_scratch) 时，Attention Mask 的设备不一致或变量引用错误如何解决？","代码中应使用局部变量 `mask` 而不是 `self.mask`，并确保 mask 初始化在与查询向量 `q` 相同的设备上。修正代码如下：\n`mask = torch.full((1, 1, self.config.max_seq_len, self.config.max_seq_len), float(\"-inf\"), device=q.device)`\n随后生成上三角掩码并应用到注意力分数上。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F35",{"id":132,"question_zh":133,"answer_zh":134,"source_url":135},36074,"使用 DeepSeek MLA 结构训练时，第二次反向传播报错 'Trying to backward through the graph a second time' 怎么办？","原因是 KV Cache 以 `self.kv_cache` 形式保存了中间变量，阻碍了计算图的释放。解决方法是在 KV Cache 的缓存操作周围加上 `with torch.no_grad():`，防止梯度追踪这些缓存张量。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F7",{"id":137,"question_zh":138,"answer_zh":139,"source_url":140},36075,"DPO 训练数据处理中，Labels 是否需要相对于 Input IDs 进行移位？","是的，需要移位。在构建 DPO 数据集时，Label 的第 k 个位置应对应 Input ID 的第 k+1 个 token。原代码未移位会导致对齐错误。修正方法是将 Prompt 部分的 Label 掩码长度减 1，即：`labels.append([0]*(len(feature[0]) - 1) + feature[1])`。","https:\u002F\u002Fgithub.com\u002Fwyf3\u002Fllm_related\u002Fissues\u002F33",[]]