[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-ShangtongZhang--DeepRL":3,"tool-ShangtongZhang--DeepRL":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":80,"owner_email":81,"owner_twitter":75,"owner_website":82,"owner_url":83,"languages":84,"stars":97,"forks":98,"last_commit_at":99,"license":100,"difficulty_score":10,"env_os":101,"env_gpu":102,"env_ram":101,"env_deps":103,"category_tags":108,"github_topics":109,"view_count":23,"oss_zip_url":126,"oss_zip_packed_at":126,"status":16,"created_at":127,"updated_at":128,"faqs":129,"releases":130},3949,"ShangtongZhang\u002FDeepRL","DeepRL","Modularized Implementation of Deep RL Algorithms in PyTorch","DeepRL 是一个基于 PyTorch 构建的模块化深度强化学习算法库，旨在为研究人员和开发者提供一套高效、灵活的实验工具。它解决了复现经典强化学习论文时代码分散、架构不统一以及环境切换繁琐的痛点，让用户能轻松在简单的玩具任务与高难度的游戏场景（如 Atari 或 Mujoco）之间切换。\n\n该工具非常适合从事人工智能算法研究的研究员、需要快速验证想法的工程师，以及希望深入学习强化学习实现细节的学生。DeepRL 不仅涵盖了 DQN、PPO、DDPG、TD3 等主流算法，还集成了多项前沿研究成果。其独特的技术亮点在于高度模块化的设计，使得算法组件易于替换和扩展；同时，针对 DQN 等算法实现了异步数据生成与异步回放缓冲区机制，显著提升了训练效率。实测显示，在单张 RTX 2080 Ti 显卡上，仅需数小时即可完成大规模步骤的训练任务。无论是用于学术探索还是工程原型开发，DeepRL 都能提供稳定且高性能的代码基础。","# DeepRL\n\n> If you have any question or want to report a bug, please open an issue instead of emailing me directly.  \n\nModularized implementation of popular deep RL algorithms in PyTorch.  \nEasy switch between toy tasks and challenging games.\n\nImplemented algorithms:\n* (Double\u002FDueling\u002FPrioritized) Deep Q-Learning (DQN)\n* Categorical DQN (C51)\n* Quantile Regression DQN (QR-DQN)\n* (Continuous\u002FDiscrete) Synchronous Advantage Actor Critic (A2C)\n* Synchronous N-Step Q-Learning (N-Step DQN)\n* Deep Deterministic Policy Gradient (DDPG)\n* Proximal Policy Optimization (PPO)\n* The Option-Critic Architecture (OC)\n* Twined Delayed DDPG (TD3)\n* [Off-PAC-KL\u002FTruncatedETD\u002FDifferentialGQ\u002FMVPI\u002FReverseRL\u002FCOF-PAC\u002FGradientDICE\u002FBi-Res-DDPG\u002FDAC\u002FGeoff-PAC\u002FQUOTA\u002FACE](#code-of-my-papers)\n\nThe DQN agent, as well as C51 and QR-DQN, has an asynchronous actor for data generation and an asynchronous replay buffer for transferring data to GPU.\nUsing 1 RTX 2080 Ti and 3 threads, the DQN agent runs for 10M steps (40M frames, 2.5M gradient updates) for Breakout within 6 hours.\n\n# Dependency\n* PyTorch v1.5.1\n* See ```Dockerfile``` and ```requirements.txt``` for more details\n\n# Usage\n\n```examples.py``` contains examples for all the implemented algorithms.  \n```Dockerfile``` contains the environment for generating the curves below.  \nPlease use this bibtex if you want to cite this repo\n```\n@misc{deeprl,\n  author = {Zhang, Shangtong},\n  title = {Modularized Implementation of Deep RL Algorithms in PyTorch},\n  year = {2018},\n  publisher = {GitHub},\n  journal = {GitHub Repository},\n  howpublished = {\\url{https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL}},\n}\n```\n\n# Curves (commit ```9e811e```)\n\n## BreakoutNoFrameskip-v4 (1 run)\n\n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_304146d4920d.png)\n\n## Mujoco \n\n* DDPG\u002FTD3 evaluation performance.\n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_c20359fd793e.png)\n(5 runs, mean + standard error)\n\n* PPO online performance. \n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_c496f5053810.png)\n(5 runs, mean + standard error, smoothed by a window of size 10)\n\n\n# References\n* [Human Level Control through Deep Reinforcement Learning](https:\u002F\u002Fwww.nature.com\u002Fnature\u002Fjournal\u002Fv518\u002Fn7540\u002Ffull\u002Fnature14236.html)\n* [Asynchronous Methods for Deep Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1602.01783)\n* [Deep Reinforcement Learning with Double Q-learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1509.06461)\n* [Dueling Network Architectures for Deep Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1511.06581)\n* [Playing Atari with Deep Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1312.5602)\n* [HOGWILD!: A Lock-Free Approach to Parallelizing Stochastic Gradient Descent](https:\u002F\u002Farxiv.org\u002Fabs\u002F1106.5730)\n* [Deterministic Policy Gradient Algorithms](http:\u002F\u002Fproceedings.mlr.press\u002Fv32\u002Fsilver14.pdf)\n* [Continuous control with deep reinforcement learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1509.02971)\n* [High-Dimensional Continuous Control Using Generalized Advantage Estimation](https:\u002F\u002Farxiv.org\u002Fabs\u002F1506.02438)\n* [Hybrid Reward Architecture for Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1706.04208)\n* [Trust Region Policy Optimization](https:\u002F\u002Farxiv.org\u002Fabs\u002F1502.05477)\n* [Proximal Policy Optimization Algorithms](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.06347)\n* [Emergence of Locomotion Behaviours in Rich Environments](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.02286)\n* [Action-Conditional Video Prediction using Deep Networks in Atari Games](https:\u002F\u002Farxiv.org\u002Fabs\u002F1507.08750)\n* [A Distributional Perspective on Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.06887)\n* [Distributional Reinforcement Learning with Quantile Regression](https:\u002F\u002Farxiv.org\u002Fabs\u002F1710.10044)\n* [The Option-Critic Architecture](https:\u002F\u002Farxiv.org\u002Fabs\u002F1609.05140)\n* [Addressing Function Approximation Error in Actor-Critic Methods](https:\u002F\u002Farxiv.org\u002Fabs\u002F1802.09477)\n* Some hyper-parameters are from [DeepMind Control Suite](https:\u002F\u002Farxiv.org\u002Fabs\u002F1801.00690), [OpenAI Baselines](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fbaselines) and [Ilya Kostrikov](https:\u002F\u002Fgithub.com\u002Fikostrikov\u002Fpytorch-a2c-ppo-acktr)\n\n# Code of My Papers\n> They are located in other branches of this repo and seem to be good examples for using this codebase.\n* [Global Optimality and Finite Sample Analysis of Softmax Off-Policy Actor Critic under State Distribution Mismatch](https:\u002F\u002Farxiv.org\u002Fabs\u002F2111.02997) [[Off-PAC-KL](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FOff-PAC-KL)]\n* [Truncated Emphatic Temporal Difference Methods for Prediction and Control](https:\u002F\u002Farxiv.org\u002Fabs\u002F2108.05338) [[TruncatedETD](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTruncatedETD)]\n* [A Deeper Look at Discounting Mismatch in Actor-Critic Algorithms](https:\u002F\u002Farxiv.org\u002Fabs\u002F2010.01069) [[Discounting](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002Fdiscounting)]\n* [Breaking the Deadly Triad with a Target Network](https:\u002F\u002Farxiv.org\u002Fabs\u002F2101.08862) [[TargetNetwork](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTargetNetwork)]\n* [Average-Reward Off-Policy Policy Evaluation with Function Approximation](https:\u002F\u002Farxiv.org\u002Fabs\u002F2101.02808) [[DifferentialGQ](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FDifferentialGQ)]\n* [Mean-Variance Policy Iteration for Risk-Averse Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F2004.10888) [[MVPI](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FMVPI)]\n* [Learning Retrospective Knowledge with Reverse Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F2007.06703) [[ReverseRL](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FReverseRL)]\n* [Provably Convergent Two-Timescale Off-Policy Actor-Critic with Function Approximation](https:\u002F\u002Farxiv.org\u002Fabs\u002F1911.04384) [[COF-PAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FCOF-PAC), [TD3-random](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTD3-random)]\n* [GradientDICE: Rethinking Generalized Offline Estimation of Stationary Values](https:\u002F\u002Farxiv.org\u002Fabs\u002F2001.11113) [[GradientDICE](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FGradientDICE)]\n* [Deep Residual Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1905.01072) [[Bi-Res-DDPG](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FBi-Res-DDPG)]\n* [Generalized Off-Policy Actor-Critic](https:\u002F\u002Farxiv.org\u002Fabs\u002F1903.11329) [[Geoff-PAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FGeoff-PAC), [TD3-random](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTD3-random)]\n* [DAC: The Double Actor-Critic Architecture for Learning Options](https:\u002F\u002Farxiv.org\u002Fabs\u002F1904.12691) [[DAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FDAC)]\n* [QUOTA: The Quantile Option Architecture for Reinforcement Learning](https:\u002F\u002Farxiv.org\u002Fabs\u002F1811.02073) [[QUOTA-discrete](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FQUOTA-discrete), [QUOTA-continuous](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FQUOTA-continuous)]\n* [ACE: An Actor Ensemble Algorithm for Continuous Control with Tree Search](https:\u002F\u002Farxiv.org\u002Fabs\u002F1811.02696) [[ACE](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FACE)]\n","# DeepRL\n\n> 如果您有任何问题或想报告错误，请直接提交 issue，而不是给我发邮件。\n\n使用 PyTorch 实现的模块化深度强化学习算法库。可在简单任务和复杂游戏之间轻松切换。\n\n已实现的算法包括：\n* （双\u002F Dueling\u002F 优先级）深度 Q 学习 (DQN)\n* 分类 DQN (C51)\n* 分位数回归 DQN (QR-DQN)\n* （连续\u002F离散）同步优势演员评论家 (A2C)\n* 同步 N 步 Q 学习 (N-Step DQN)\n* 深度确定性策略梯度 (DDPG)\n* 近端策略优化 (PPO)\n* 选项评论家架构 (OC)\n* 双延迟 DDPG (TD3)\n* [Off-PAC-KL\u002F截断ETD\u002F差分GQ\u002FMVPI\u002FReverseRL\u002FCOF-PAC\u002FGradientDICE\u002FBi-Res-DDPG\u002FDAC\u002FGeoff-PAC\u002FQUOTA\u002FACE](#code-of-my-papers)\n\nDQN 智能体以及 C51 和 QR-DQN 都配备异步执行器用于数据生成，并使用异步回放缓冲区将数据传输到 GPU。  \n在一台 RTX 2080 Ti 显卡和 3 个线程的配置下，DQN 智能体在 6 小时内即可完成 Breakout 游戏中的 1000 万步（4000 万帧，250 万次梯度更新）训练。\n\n# 依赖\n* PyTorch v1.5.1\n* 更多详情请参阅 ```Dockerfile``` 和 ```requirements.txt```\n\n# 使用方法\n\n```examples.py``` 包含所有已实现算法的示例。  \n```Dockerfile``` 提供了用于生成下方曲线的环境。  \n如果您希望引用本仓库，请使用以下 BibTeX 格式：\n```\n@misc{deeprl,\n  author = {Zhang, Shangtong},\n  title = {Modularized Implementation of Deep RL Algorithms in PyTorch},\n  year = {2018},\n  publisher = {GitHub},\n  journal = {GitHub Repository},\n  howpublished = {\\url{https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL}},\n}\n```\n\n# 曲线（commit ```9e811e```）\n\n## BreakoutNoFrameskip-v4（1 次运行）\n\n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_304146d4920d.png)\n\n## Mujoco\n\n* DDPG\u002FTD3 的评估性能。\n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_c20359fd793e.png)\n（5 次运行，平均值 ± 标准误差）\n\n* PPO 的在线性能。\n![Loading...](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_readme_c496f5053810.png)\n（5 次运行，平均值 ± 标准误差，采用窗口大小为 10 的平滑处理）\n\n\n# 参考文献\n* [通过深度强化学习实现人类水平控制](https:\u002F\u002Fwww.nature.com\u002Fnature\u002Fjournal\u002Fv518\u002Fn7540\u002Ffull\u002Fnature14236.html)\n* [深度强化学习的异步方法](https:\u002F\u002Farxiv.org\u002Fabs\u002F1602.01783)\n* [带有双 Q 学习的深度强化学习](https:\u002F\u002Farxiv.org\u002Fabs\u002F1509.06461)\n* [用于深度强化学习的 Dueling 网络架构](https:\u002F\u002Farxiv.org\u002Fabs\u002F1511.06581)\n* [使用深度强化学习玩 Atari 游戏](https:\u002F\u002Farxiv.org\u002Fabs\u002F1312.5602)\n* [HOGWILD!: 一种无锁并行化随机梯度下降的方法](https:\u002F\u002Farxiv.org\u002Fabs\u002F1106.5730)\n* [确定性策略梯度算法](http:\u002F\u002Fproceedings.mlr.press\u002Fv32\u002Fsilver14.pdf)\n* [深度强化学习中的连续控制](https:\u002F\u002Farxiv.org\u002Fabs\u002F1509.02971)\n* [使用广义优势估计进行高维连续控制](https:\u002F\u002Farxiv.org\u002Fabs\u002F1506.02438)\n* [强化学习中的混合奖励架构](https:\u002F\u002Farxiv.org\u002Fabs\u002F1706.04208)\n* [信任区域策略优化](https:\u002F\u002Farxiv.org\u002Fabs\u002F1502.05477)\n* [近端策略优化算法](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.06347)\n* [丰富环境中运动行为的涌现](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.02286)\n* [使用深度网络对 Atar i 游戏中的动作条件视频进行预测](https:\u002F\u002Farxiv.org\u002Fabs\u002F1507.08750)\n* [强化学习的分布视角](https:\u002F\u002Farxiv.org\u002Fabs\u002F1707.06887)\n* [基于分位数回归的分布强化学习](https:\u002F\u002Farxiv.org\u002Fabs\u002F1710.10044)\n* [选项评论家架构](https:\u002F\u002Farxiv.org\u002Fabs\u002F1609.05140)\n* [解决演员评论家方法中的函数逼近误差](https:\u002F\u002Farxiv.org\u002Fabs\u002F1802.09477)\n* 部分超参数来自 [DeepMind Control Suite](https:\u002F\u002Farxiv.org\u002Fabs\u002F1801.00690)、[OpenAI Baselines](https:\u002F\u002Fgithub.com\u002Fopenai\u002Fbaselines) 以及 [Ilya Kostrikov](https:\u002F\u002Fgithub.com\u002Fikostrikov\u002Fpytorch-a2c-ppo-acktr)\n\n# 我论文中的代码\n> 它们位于本仓库的其他分支中，可以作为使用此代码库的良好示例。\n* [状态分布不匹配下的 Softmax 离策略演员评论家的全局最优性和有限样本分析](https:\u002F\u002Farxiv.org\u002Fabs\u002F2111.02997) [[Off-PAC-KL](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FOff-PAC-KL)]\n* [用于预测和控制的截断强调时序差分方法](https:\u002F\u002Farxiv.org\u002Fabs\u002F2108.05338) [[TruncatedETD](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTruncatedETD)]\n* [深入探讨演员评论家算法中的折扣率不匹配问题](https:\u002F\u002Farxiv.org\u002Fabs\u002F2010.01069) [[Discounting](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002Fdiscounting)]\n* [用目标网络打破致命三联症](https:\u002F\u002Farxiv.org\u002Fabs\u002F2101.08862) [[TargetNetwork](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTargetNetwork)]\n* [带有函数逼近的平均奖励离策略策略评估](https:\u002F\u002Farxiv.org\u002Fabs\u002F2101.02808) [[DifferentialGQ](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FDifferentialGQ)]\n* [面向风险规避型强化学习的均值-方差策略迭代](https:\u002F\u002Farxiv.org\u002Fabs\u002F2004.10888) [[MVPI](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FMVPI)]\n* [利用逆向强化学习学习回顾性知识](https:\u002F\u002Farxiv.org\u002Fabs\u002F2007.06703) [[ReverseRL](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FReverseRL)]\n* [可证明收敛的双时间尺度离策略演员评论家与函数逼近](https:\u002F\u002Farxiv.org\u002Fabs\u002F1911.04384) [[COF-PAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FCOF-PAC), [TD3-random](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTD3-random)]\n* [GradientDICE：重新思考平稳值的广义离线估计](https:\u002F\u002Farxiv.org\u002Fabs\u002F2001.11113) [[GradientDICE](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FGradientDICE)]\n* [深度残差强化学习](https:\u002F\u002Farxiv.org\u002Fabs\u002F1905.01072) [[Bi-Res-DDPG](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FBi-Res-DDPG)]\n* [广义离策略演员评论家](https:\u002F\u002Farxiv.org\u002Fabs\u002F1903.11329) [[Geoff-PAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FGeoff-PAC), [TD3-random](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FTD3-random)]\n* [DAC：用于学习选项的双演员评论家架构](https:\u002F\u002Farxiv.org\u002Fabs\u002F1904.12691) [[DAC](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FDAC)]\n* [QUOTA：用于强化学习的分位数选项架构](https:\u002F\u002Farxiv.org\u002Fabs\u002F1811.02073) [[QUOTA-离散](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FQUOTA-discrete), [QUOTA-连续](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FQUOTA-continuous)]\n* [ACE：一种结合树搜索的连续控制演员集成算法](https:\u002F\u002Farxiv.org\u002Fabs\u002F1811.02696) [[ACE](https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL\u002Ftree\u002FACE)]","# DeepRL 快速上手指南\n\nDeepRL 是一个基于 PyTorch 的模块化深度强化学习算法库，支持从简单的玩具任务到复杂的游戏环境（如 Atari、Mujoco）。它实现了 DQN、A2C、PPO、TD3 等主流算法，并针对数据生成和 GPU 传输进行了异步优化。\n\n## 环境准备\n\n在开始之前，请确保您的系统满足以下要求：\n\n*   **操作系统**: Linux (推荐) 或 macOS\n*   **Python**: 建议 Python 3.6+\n*   **GPU**: 可选，但推荐使用 NVIDIA GPU 以加速训练（如 RTX 2080 Ti）\n*   **核心依赖**:\n    *   PyTorch v1.5.1 (或兼容版本)\n    *   其他依赖请参考项目根目录下的 `requirements.txt`\n\n> **国内加速建议**：\n> 安装 PyTorch 时，建议使用清华或中科大镜像源以提升下载速度。\n> 例如：`pip install torch==1.5.1 -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple`\n\n## 安装步骤\n\n你可以通过克隆仓库并安装依赖来完成设置。\n\n1.  **克隆项目代码**\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL.git\n    cd DeepRL\n    ```\n\n2.  **安装依赖包**\n    推荐使用虚拟环境（如 conda 或 venv），然后安装所需库：\n    ```bash\n    pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n\n3.  **(可选) 使用 Docker**\n    如果你希望环境完全隔离且复现文中的实验曲线，可以直接构建 Docker 镜像：\n    ```bash\n    docker build -t deeprl .\n    ```\n\n## 基本使用\n\nDeepRL 的设计非常直观，所有已实现算法的使用示例都包含在 `examples.py` 文件中。\n\n### 运行示例\n\n要查看如何运行特定算法（例如在 Breakout 游戏中运行 DQN），请直接参考并修改 `examples.py`。通常的使用模式如下：\n\n```python\n# 伪代码示例，具体参数请参阅 examples.py\nfrom deep_rl import *\n\n# 选择算法和环境\nagent = DQNAgent()\nagent.train(game='BreakoutNoFrameskip-v4')\n```\n\n你可以直接运行该脚本测试默认配置：\n```bash\npython examples.py\n```\n\n### 关键特性说明\n*   **异步加速**：DQN、C51 和 QR-DQN 代理内置了异步数据生成器和异步回放缓冲区，能够高效地将数据传输至 GPU。\n*   **性能参考**：在单张 RTX 2080 Ti 和 3 个线程的配置下，DQN 代理可在 6 小时内完成 Breakout 游戏的 1000 万步训练（4000 万帧，250 万次梯度更新）。\n\n### 引用本项目\n如果在研究或项目中使用了此代码，请使用以下 BibTeX 进行引用：\n```bibtex\n@misc{deeprl,\n  author = {Zhang, Shangtong},\n  title = {Modularized Implementation of Deep RL Algorithms in PyTorch},\n  year = {2018},\n  publisher = {GitHub},\n  journal = {GitHub Repository},\n  howpublished = {\\url{https:\u002F\u002Fgithub.com\u002FShangtongZhang\u002FDeepRL}},\n}\n```","某自动驾驶初创公司的算法团队正致力于训练一个能在复杂城市路况中自主决策的车辆控制模型，需要快速验证多种深度强化学习算法的效果。\n\n### 没有 DeepRL 时\n- **重复造轮子耗时严重**：团队成员需从零编写 DQN、PPO 或 TD3 等算法的基础架构，大量时间浪费在调试神经网络模块和数据管道上，而非优化策略本身。\n- **算法切换成本极高**：每当想对比不同算法（如从 DDPG 切换到 SAC）在相同环境下的表现时，必须重构整个代码库，导致实验周期长达数周。\n- **训练效率低下且不稳定**：缺乏异步数据生成和高效的回放缓冲区机制，单卡训练 Breakout 类游戏或 Mujoco 连续控制任务往往需要数天，且难以复现论文中的收敛曲线。\n- **前沿算法落地困难**：对于 Off-PAC、GradientDICE 等较新的研究算法，团队因缺乏参考实现而不敢轻易尝试，限制了技术方案的探索边界。\n\n### 使用 DeepRL 后\n- **模块化开发加速迭代**：直接调用 DeepRL 中预置的标准化算法模块，团队将原本数周的算法搭建工作缩短至几天，专注于奖励函数设计与场景建模。\n- **一键切换算法对比**：借助其统一的接口设计，研究人员可在 `examples.py` 中轻松切换 DQN、C51、QR-DQN 等多种算法，在同一天内完成多组对照实验。\n- **高性能训练显著提升**：利用其内置的异步 Actor 和 GPU 加速回放缓冲区，在单张 RTX 2080 Ti 上即可在 6 小时内完成 Breakout 任务的千万级步数训练，效率提升数倍。\n- **前沿技术即时可用**：直接集成库中包含的 Option-Critic、TD3 及多项最新论文算法，团队得以迅速验证高阶策略在自动驾驶仿真中的潜力，保持技术领先性。\n\nDeepRL 通过高度模块化与高性能的底层实现，将深度强化学习算法的研发门槛从“构建引擎”降低为“驾驶赛车”，极大释放了算法团队的创新生产力。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FShangtongZhang_DeepRL_304146d4.png","ShangtongZhang","Shangtong Zhang","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FShangtongZhang_4624e267.jpg","Assistant Professor at UVA","University of Virginia","Charlottesville, VA, United States","shangtong.zhang.cs@gmail.com","https:\u002F\u002Fshangtongzhang.github.io\u002F","https:\u002F\u002Fgithub.com\u002FShangtongZhang",[85,89,93],{"name":86,"color":87,"percentage":88},"Python","#3572A5",97.5,{"name":90,"color":91,"percentage":92},"Dockerfile","#384d54",1.4,{"name":94,"color":95,"percentage":96},"Shell","#89e051",1,3420,697,"2026-03-31T00:39:49","MIT","未说明","非绝对必需（支持 CPU 运行），但推荐 NVIDIA GPU。文中测试环境使用 1 块 RTX 2080 Ti (11GB 显存) 以实现高性能训练；需安装与 PyTorch v1.5.1 兼容的 CUDA 版本。",{"notes":104,"python":105,"dependencies":106},"具体依赖请查看项目中的 requirements.txt 和 Dockerfile。DQN、C51 和 QR-DQN 算法包含异步数据生成器和异步回放缓冲区以加速 GPU 数据传输。在 1 块 RTX 2080 Ti 和 3 个线程的配置下，DQN 智能体可在 6 小时内完成 Breakout 游戏的 1000 万步训练。部分作者论文对应的算法代码位于仓库的其他分支中。","未说明 (需兼容 PyTorch v1.5.1)",[107],"torch==1.5.1",[13],[110,111,112,113,114,115,116,117,118,119,120,121,122,123,124,125],"pytorch","deep-reinforcement-learning","dqn","dueling-network-architecture","double-dqn","deeprl","ddpg","ppo","categorical-dqn","option-critic","quantile-regression","td3","a2c","option-critic-architecture","prioritized-experience-replay","rainbow",null,"2026-03-27T02:49:30.150509","2026-04-06T08:45:22.110584",[],[131,135,139,144,148,153,158],{"id":132,"version":133,"summary_zh":126,"released_at":134},108461,"v1.4","2020-03-23T16:06:48",{"id":136,"version":137,"summary_zh":126,"released_at":138},108462,"v1.1","2019-05-02T08:01:01",{"id":140,"version":141,"summary_zh":142,"released_at":143},108463,"v1.0","主要的更新是使用 TensorBoard 完全替代 OpenAI Baselines 中的绘图系统。事实证明，后者并不是一个理想的选择。\n\n此前，我有一个内部版本，用于在服务器上运行实验，其中包含许多辅助脚本。但最近我发现同时维护两个版本变得越来越困难。因此，从现在起，这两个版本将被合并为一个。\n\n我个人并不喜欢 Shell 脚本，我的原则是尽可能多地使用 Python。我不太喜欢那种通过向脚本传递一长串参数来指定超参数的做法。\n\n目前，我还无法升级到 PyTorch 1.0.1，因为我的许多正在进行的项目仍然基于 0.4.0 版本。我会尽快完成升级。","2019-03-19T09:32:00",{"id":145,"version":146,"summary_zh":126,"released_at":147},108464,"v0.4","2018-10-31T14:54:34",{"id":149,"version":150,"summary_zh":151,"released_at":152},108465,"v0.3","在本次发布之后，Python 2 将不再获得官方支持，不过我预计大多数代码在 Python 2 环境中仍能正常运行。","2018-06-30T03:25:07",{"id":154,"version":155,"summary_zh":156,"released_at":157},108466,"v0.2","本次发布后，所有代码均与 PyTorch 0.3.x 版本不兼容。","2018-04-25T05:19:20",{"id":159,"version":160,"summary_zh":161,"released_at":162},108467,"v0.1","我发现目前我使用的Atari封装与OpenAI Baselines中的实现并不完全兼容，这导致大多数游戏的性能都有所下降（只有Pong例外）。因此，我计划进行一次重大更新来修复这个问题。（具体来说，OpenAI Baselines会跟踪原始剧集的回报，而原始剧集通常包含多条生命；但我跟踪的则是仅剩一条生命的那条剧集的回报。）\n\n此外，异步方法如今已逐渐被弃用，所以在下一个版本中，我会移除这些方法，并改用A2C风格的算法。\n\n我特意打上了这个标签，以防有人仍然需要一些旧的功能。\n\n更具体地讲，本次发布中实现了以下算法：\n* 深度Q网络（DQN）\n* 双重DQN\n* 对弈DQN\n* （异步）优势演员-评论家（A3C \u002F A2C）\n* 异步单步Q学习\n* 异步单步Sarsa\n* 异步N步Q学习\n* 连续A3C\n* 分布式深度确定性策略梯度（分布式DDPG，即D3PG）\n* 并行化近端策略优化（P3O，类似于DPPO）\n* 动作条件视频预测\n* 分类DQN（C51，基于KL散度的分布型DQN）\n* 分位数回归DQN（基于Wasserstein距离的分布型DQN）\n* N步DQN（类似于A2C）\n\n其中大多数算法同时兼容Python 2和Python 3，但几乎所有的异步方法都只能在Python 2环境下运行。","2018-04-04T21:05:55"]