[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-seungeunrho--minimalRL":3,"tool-seungeunrho--minimalRL":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",159267,2,"2026-04-17T11:29:14",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":78,"owner_twitter":79,"owner_website":80,"owner_url":81,"languages":82,"stars":87,"forks":88,"last_commit_at":89,"license":90,"difficulty_score":32,"env_os":91,"env_gpu":92,"env_ram":91,"env_deps":93,"category_tags":99,"github_topics":100,"view_count":32,"oss_zip_url":79,"oss_zip_packed_at":79,"status":17,"created_at":116,"updated_at":117,"faqs":118,"releases":159},8633,"seungeunrho\u002FminimalRL","minimalRL","Implementations of basic RL algorithms with minimal lines of codes! (pytorch based)","minimalRL 是一个基于 PyTorch 的强化学习开源项目，旨在用最精简的代码实现主流的基础强化学习算法。它主要解决了初学者和研究者在面对庞大复杂的官方代码库时难以快速理解核心逻辑的痛点。通过将每个算法（如 REINFORCE、DQN、PPO、SAC 等）浓缩在单个文件中，且代码行数严格控制在 100 至 150 行左右，minimalRL 让开发者能够轻松通读并掌握算法全貌。\n\n该项目特别适合强化学习领域的入门开发者、高校学生以及希望快速验证想法的研究人员使用。其独特的技术亮点在于极致的轻量化与高效性：所有算法均针对标准的\"CartPole-v1\"环境优化，无需 GPU 支持，仅需 CPU 即可在 30 秒内完成训练演示。这种设计让用户可以跳过繁琐的环境配置与工程化细节，直接聚焦于算法原理本身。无论是用于教学演示、代码复现还是作为自定义算法的开发模板，minimalRL 都提供了一个清晰、透明且易于扩展的代码基准。","# minimalRL-pytorch\n\nImplementations of basic RL algorithms with minimal lines of codes! (PyTorch based)\n\n* Each algorithm is complete within a single file.\n\n* Length of each file is up to 100~150 lines of codes.\n\n* Every algorithm can be trained within 30 seconds, even without GPU.\n\n* Envs are fixed to \"CartPole-v1\". You can just focus on the implementations.\n\n\n\n## Algorithms\n1. [REINFORCE](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002FREINFORCE.py) (67 lines)\n2. [Vanilla Actor-Critic](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Factor_critic.py) (98 lines)\n3. [DQN](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fdqn.py) (112 lines,  including replay memory and target network)\n4. [PPO](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fppo.py) (119 lines,  including GAE)\n5. [DDPG](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fddpg.py) (145 lines, including OU noise and soft target update)\n6. [A3C](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fa3c.py) (129 lines)\n7. [ACER](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Facer.py) (149 lines)\n8. [A2C](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fa2c.py) (188 lines)\n9. [SAC](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fsac.py) (171 lines) added!! \n10. [PPO-Continuous](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fppo-continuous.py) (161 lines) added!!\n11. [Vtrace](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fvtrace.py) (137 lines) added!!\n12. Any suggestion ...? \n\n\n## Dependencies\n1. PyTorch\n2. OpenAI GYM ( > 0.26.2 IMPORTANT!! No longer support for the previous versions)\n\n## Usage\n```bash\n# Works only with Python 3.\n# e.g.\npython3 REINFORCE.py\npython3 actor_critic.py\npython3 dqn.py\npython3 ppo.py\npython3 ddpg.py\npython3 a3c.py\npython3 a2c.py\npython3 acer.py\npython3 sac.py\n```\n","# minimalRL-pytorch\n\n用极简代码实现的基本强化学习算法！（基于 PyTorch）\n\n* 每个算法都封装在一个单独的文件中。\n* 每个文件的代码长度不超过 100~150 行。\n* 即使没有 GPU，每个算法也能在 30 秒内完成训练。\n* 环境固定为 “CartPole-v1”。你可以专注于算法的实现。\n\n## 算法\n1. [REINFORCE](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002FREINFORCE.py) （67 行）\n2. [Vanilla Actor-Critic](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Factor_critic.py) （98 行）\n3. [DQN](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fdqn.py) （112 行，包含经验回放和目标网络）\n4. [PPO](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fppo.py) （119 行，包含 GAE）\n5. [DDPG](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fddpg.py) （145 行，包含 OU 噪声和软目标更新）\n6. [A3C](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fa3c.py) （129 行）\n7. [ACER](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Facer.py) （149 行）\n8. [A2C](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fa2c.py) （188 行）\n9. [SAC](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fsac.py) （171 行）已添加！！\n10. [PPO-Continuous](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fppo-continuous.py) （161 行）已添加！！\n11. [Vtrace](https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fblob\u002Fmaster\u002Fvtrace.py) （137 行）已添加！！\n12. 还有其他建议吗……？\n\n## 依赖\n1. PyTorch\n2. OpenAI Gym（> 0.26.2，重要！！不再支持旧版本）\n\n## 使用方法\n```bash\n# 仅支持 Python 3。\n# 示例：\npython3 REINFORCE.py\npython3 actor_critic.py\npython3 dqn.py\npython3 ppo.py\npython3 ddpg.py\npython3 a3c.py\npython3 a2c.py\npython3 acer.py\npython3 sac.py\n```","# minimalRL 快速上手指南\n\nminimalRL 是一个基于 PyTorch 的强化学习开源项目，旨在用最少的代码行数（每个算法约 100~150 行）实现经典的 RL 算法。所有算法均在单文件中完成，无需 GPU 即可在 30 秒内完成训练，非常适合初学者阅读源码和学习算法核心逻辑。默认环境固定为 `CartPole-v1`。\n\n## 环境准备\n\n在开始之前，请确保你的系统满足以下要求：\n\n*   **操作系统**：Linux \u002F macOS \u002F Windows\n*   **Python 版本**：必须使用 **Python 3**\n*   **核心依赖**：\n    *   PyTorch\n    *   OpenAI Gym (**注意**：版本必须 **> 0.26.2**，旧版本已不再支持)\n\n## 安装步骤\n\n建议使用国内镜像源加速依赖包的安装。\n\n1.  **克隆项目代码**\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL.git\n    cd minimalRL\n    ```\n\n2.  **安装依赖库**\n    使用 pip 并指定清华镜像源安装 PyTorch 和 Gym：\n    ```bash\n    pip install torch gymnasium -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n    *注：由于原项目要求 Gym > 0.26.2，新版 Gym 通常以 `gymnasium` 包名发布或需指定高版本 `gym`。若运行报错，请尝试显式安装高版本 gym：*\n    ```bash\n    pip install \"gym>0.26.2\" -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n\n## 基本使用\n\n该项目无需复杂的配置文件，直接运行对应的 Python 脚本即可开始训练。以下是最简单的使用示例：\n\n**运行 REINFORCE 算法：**\n```bash\npython3 REINFORCE.py\n```\n\n**运行其他算法示例：**\n```bash\npython3 actor_critic.py\npython3 dqn.py\npython3 ppo.py\npython3 ddpg.py\npython3 a3c.py\npython3 sac.py\n```\n\n运行后，程序将自动在 `CartPole-v1` 环境中开始训练，你可以在终端实时观察训练进度和结果。每个脚本独立运行，互不干扰。","某高校强化学习课程讲师正筹备实验课，希望学生在有限课时内快速理解并复现主流 RL 算法的核心逻辑。\n\n### 没有 minimalRL 时\n- 学生需从 GitHub 下载动辄数千行的复杂开源项目，被繁琐的工程配置和依赖环境劝退，难以聚焦算法原理。\n- 单个算法文件代码量巨大且逻辑分散，初学者很难在单文件中理清从数据收集到网络更新的完整闭环。\n- 训练过程耗时漫长，往往需要 GPU 支持且运行数分钟甚至更久，导致课堂调试效率极低，无法即时验证想法。\n- 不同算法的代码风格迥异，缺乏统一的标准参考，增加了横向对比学习和修改实验的难度。\n\n### 使用 minimalRL 后\n- 直接运行仅百余行的单文件脚本（如 DQN 或 PPO），无需复杂配置，学生能迅速在本地 CPU 上启动实验。\n- 每个算法被浓缩在 100~150 行代码内，逻辑高度紧凑，学习者可以逐行阅读并彻底掌握从策略构建到梯度更新的全流程。\n- 依托固定的 CartPole 环境和极简实现，模型训练可在 30 秒内完成，极大提升了课堂互动频率和试错效率。\n- 所有算法保持统一的代码风格与结构，方便学生通过微调参数或替换模块，直观对比 REINFORCE、A2C 与 SAC 等算法的差异。\n\nminimalRL 通过将复杂的强化学习算法“微缩”为可读性极强的单文件脚本，让教育者和研究者能从繁重的工程负担中解脱，真正专注于算法核心的探索与创新。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fseungeunrho_minimalRL_5b465d82.png","seungeunrho","Seungeun Rho","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fseungeunrho_c25a5ea0.jpg","Georgia Tech\r\nCS PhD Student \r\n","@georgiatech","Atlanta","seungeun@gatech.edu",null,"https:\u002F\u002Fseungeunrho.github.io\u002F","https:\u002F\u002Fgithub.com\u002Fseungeunrho",[83],{"name":84,"color":85,"percentage":86},"Python","#3572A5",100,3184,494,"2026-04-16T21:45:39","MIT","未说明","非必需（明确说明即使没有 GPU 也可在 30 秒内完成训练）",{"notes":94,"python":95,"dependencies":96},"环境固定为 'CartPole-v1'，无需配置其他复杂环境。每个算法实现均在单个文件中，代码行数控制在 100-150 行左右。OpenAI Gym 版本必须大于 0.26.2，不再支持旧版本。","3.x (仅支持 Python 3)",[97,98],"PyTorch","gym>0.26.2",[14],[101,102,103,104,105,106,107,108,109,110,111,112,113,114,115],"deep-reinforcement-learning","pytorch","simple","deep-learning","a3c","ppo","a2c","reinforce","acer","dqn","ddpg","policy-gradients","reinforcement-learning","machine-learning","sac","2026-03-27T02:49:30.150509","2026-04-18T02:26:05.908666",[119,124,129,134,139,144,149,154],{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},38663,"PPO 算法中的 ratio 是否需要使用 detach()？","不需要对 ratio 进行 detach()。PPO 的目标是更新策略网络，ratio 的作用是同时更新策略网络并防止策略更新幅度过大。如果将 ratio detach，会导致策略网络无法正确接收梯度更新。价值网络（Value Network）是通过 Smooth L1 Loss 单独更新的，不应与策略网络的更新混淆。请确保在计算目标函数时保留 ratio 的梯度。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F33",{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},38664,"REINFORCE 算法中是否应该在每个时间步更新策略，而不是等到整个回合结束？","理论上策略应在完整回合（或一批回合）结束后更新，但在该实现中，由于概率（prob）和奖励（r）已存储在列表中作为静态值，因此在每一步进行更新不会影响状态分布，代码逻辑依然符合 REINFORCE 的伪代码规范。不过，维护者承认这可能导致收敛速度变慢，并建议为了更清晰地理解算法，最好采用一次性更新所有数据的写法。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F26",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},38665,"如何在多离散动作空间（MultiDiscrete Action Space）的环境中应用此项目代码？","对于自定义的多离散动作空间环境（如修改版的 CartPole），建议参考项目中其他处理复杂动作空间的实现案例。维护者推荐查看 'Transportation-Routes-Optimization-by-RL' 或 'Mujoco-Pytorch' 仓库以获取灵感。核心在于需要修改网络输出层以匹配 MultiDiscrete 的空间维度，并相应调整概率分布的计算方式（例如使用多个 Categorical 分布）。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F47",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},38666,"DDPG 算法的 Critic 目标计算中是否遗漏了 done mask？","是的，这是一个已确认的问题。在计算 Critic 的目标值（Target）时，必须乘以 done mask（即终端状态掩码），以便在回合结束时正确截断回报值的传播。维护者已确认该疏忽并在后续代码中进行了修复。确保在类似 `target = reward + gamma * next_q * (1 - done)` 的逻辑中包含 done 掩码。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F32",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},38667,"运行 DDPG.py 时遇到 'Expected object of scalar type Float but got scalar type Double' 错误怎么办？","这是由张量数据类型不匹配引起的（通常是输入数据为 Double 而模型权重为 Float，或反之）。维护者已修复此问题。如果遇到相同错误，请检查数据加载部分，确保所有输入到神经网络的张量（如 state, action, reward）都统一转换为 `torch.float` 类型，或者在模型定义时明确指定数据类型一致性。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F34",{"id":145,"question_zh":146,"answer_zh":147,"source_url":148},38668,"如何将 PPO 算法应用于连续动作空间环境（如 Pendulum-v0）？","需要将动作输出的概率分布从离散分布（Categorical）改为连续分布（如 Gaussian\u002FNormal 分布）。具体修改包括：1. 网络输出层需输出均值（mean）和标准差（std）；2. 使用 `torch.distributions.Normal` 采样动作；3. 计算对数概率时使用连续分布的公式。维护者已添加了支持连续动作空间的 PPO 版本代码供参考。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F12",{"id":150,"question_zh":151,"answer_zh":152,"source_url":153},38669,"项目中是否包含 IMPALA 算法的实现？","项目核心已添加了 IMPALA 的关键更新算法 `vtrace.py`。IMPALA 本质上是在 A3C 基础上引入了 V-trace 校正。如果要完整实现 IMPALA，用户需要在 `vtrace.py` 的基础上增加异步执行（Asynchronous Executions）的框架逻辑。目前的代码提供了核心的数学实现，便于用户自行构建异步架构。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F51",{"id":155,"question_zh":156,"answer_zh":157,"source_url":158},38670,"为什么代码中有些变量只用单个字母表示，难以理解？","这是为了保持代码的极简风格（Minimal），以便读者能更专注于强化学习算法的核心逻辑而非工程细节。但维护者也接受反馈，建议在阅读时结合算法论文对照理解。对于初学者，如果变量名造成困扰，可以自行重构代码将单字母变量（如 'R', 'L', 'pi'）重命名为更具描述性的名称（如 'return', 'loss', 'policy'）以辅助学习。","https:\u002F\u002Fgithub.com\u002Fseungeunrho\u002FminimalRL\u002Fissues\u002F6",[]]