[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-Nebius-Academy--LLM-Engineering-Essentials":3,"tool-Nebius-Academy--LLM-Engineering-Essentials":62},[4,18,28,37,45,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":24,"last_commit_at":25,"category_tags":26,"status":17},9989,"n8n","n8n-io\u002Fn8n","n8n 是一款面向技术团队的公平代码（fair-code）工作流自动化平台，旨在让用户在享受低代码快速构建便利的同时，保留编写自定义代码的灵活性。它主要解决了传统自动化工具要么过于封闭难以扩展、要么完全依赖手写代码效率低下的痛点，帮助用户轻松连接 400 多种应用与服务，实现复杂业务流程的自动化。\n\nn8n 特别适合开发者、工程师以及具备一定技术背景的业务人员使用。其核心亮点在于“按需编码”：既可以通过直观的可视化界面拖拽节点搭建流程，也能随时插入 JavaScript 或 Python 代码、调用 npm 包来处理复杂逻辑。此外，n8n 原生集成了基于 LangChain 的 AI 能力，支持用户利用自有数据和模型构建智能体工作流。在部署方面，n8n 提供极高的自由度，支持完全自托管以保障数据隐私和控制权，也提供云端服务选项。凭借活跃的社区生态和数百个现成模板，n8n 让构建强大且可控的自动化系统变得简单高效。",184740,2,"2026-04-19T23:22:26",[16,14,13,15,27],"插件",{"id":29,"name":30,"github_repo":31,"description_zh":32,"stars":33,"difficulty_score":10,"last_commit_at":34,"category_tags":35,"status":17},10095,"AutoGPT","Significant-Gravitas\u002FAutoGPT","AutoGPT 是一个旨在让每个人都能轻松使用和构建 AI 的强大平台，核心功能是帮助用户创建、部署和管理能够自动执行复杂任务的连续型 AI 智能体。它解决了传统 AI 应用中需要频繁人工干预、难以自动化长流程工作的痛点，让用户只需设定目标，AI 即可自主规划步骤、调用工具并持续运行直至完成任务。\n\n无论是开发者、研究人员，还是希望提升工作效率的普通用户，都能从 AutoGPT 中受益。开发者可利用其低代码界面快速定制专属智能体；研究人员能基于开源架构探索多智能体协作机制；而非技术背景用户也可直接选用预置的智能体模板，立即投入实际工作场景。\n\nAutoGPT 的技术亮点在于其模块化“积木式”工作流设计——用户通过连接功能块即可构建复杂逻辑，每个块负责单一动作，灵活且易于调试。同时，平台支持本地自托管与云端部署两种模式，兼顾数据隐私与使用便捷性。配合完善的文档和一键安装脚本，即使是初次接触的用户也能在几分钟内启动自己的第一个 AI 智能体。AutoGPT 正致力于降低 AI 应用门槛，让人人都能成为 AI 的创造者与受益者。",183572,"2026-04-20T04:47:55",[13,36,27,14,15],"语言模型",{"id":38,"name":39,"github_repo":40,"description_zh":41,"stars":42,"difficulty_score":10,"last_commit_at":43,"category_tags":44,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":46,"name":47,"github_repo":48,"description_zh":49,"stars":50,"difficulty_score":24,"last_commit_at":51,"category_tags":52,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",161692,"2026-04-20T11:33:57",[14,13,36],{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":59,"last_commit_at":60,"category_tags":61,"status":17},8272,"opencode","anomalyco\u002Fopencode","OpenCode 是一款开源的 AI 编程助手（Coding Agent），旨在像一位智能搭档一样融入您的开发流程。它不仅仅是一个代码补全插件，而是一个能够理解项目上下文、自主规划任务并执行复杂编码操作的智能体。无论是生成全新功能、重构现有代码，还是排查难以定位的 Bug，OpenCode 都能通过自然语言交互高效完成，显著减少开发者在重复性劳动和上下文切换上的时间消耗。\n\n这款工具专为软件开发者、工程师及技术研究人员设计，特别适合希望利用大模型能力来提升编码效率、加速原型开发或处理遗留代码维护的专业人群。其核心亮点在于完全开源的架构，这意味着用户可以审查代码逻辑、自定义行为策略，甚至私有化部署以保障数据安全，彻底打破了传统闭源 AI 助手的“黑盒”限制。\n\n在技术体验上，OpenCode 提供了灵活的终端界面（Terminal UI）和正在测试中的桌面应用程序，支持 macOS、Windows 及 Linux 全平台。它兼容多种包管理工具，安装便捷，并能无缝集成到现有的开发环境中。无论您是追求极致控制权的资深极客，还是渴望提升产出的独立开发者，OpenCode 都提供了一个透明、可信",144296,1,"2026-04-16T14:50:03",[13,27],{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":68,"readme_en":69,"readme_zh":70,"quickstart_zh":71,"use_case_zh":72,"hero_image_url":73,"owner_login":74,"owner_name":75,"owner_avatar_url":76,"owner_bio":77,"owner_company":78,"owner_location":78,"owner_email":78,"owner_twitter":78,"owner_website":79,"owner_url":80,"languages":81,"stars":90,"forks":91,"last_commit_at":92,"license":93,"difficulty_score":94,"env_os":95,"env_gpu":96,"env_ram":97,"env_deps":98,"category_tags":102,"github_topics":78,"view_count":24,"oss_zip_url":78,"oss_zip_packed_at":78,"status":17,"created_at":103,"updated_at":104,"faqs":105,"releases":116},10199,"Nebius-Academy\u002FLLM-Engineering-Essentials","LLM-Engineering-Essentials","Materials for the LLM Engineering Essentials course","LLM-Engineering-Essentials 是一套由 Nebius Academy 推出的开源课程资料，旨在帮助开发者系统掌握大语言模型（LLM）的工程化落地技能。它解决了从理论认知到实际生产部署之间的鸿沟，让学习者不仅能调用 API，更能独立构建、优化并监控自定义的 AI 应用平台。\n\n这套资源特别适合具有一定编程基础的软件工程师和 AI 开发者。通过为期 12 周的实战路径，用户将深入理解 LLM 工作流、RAG 检索增强生成、自托管模型部署、推理优化及微调等核心议题。其独特的技术亮点在于贯穿始终的\"NPC Factory\"综合项目：学员需亲手打造一个服务于游戏场景的智能非玩家角色平台，涵盖从云端部署、智能体规划、记忆总结到性能监控的全链路实践。\n\n课程内容不仅覆盖 Prompt 策略与多模态应用基础，更进阶探讨了量化加速、LoRA 高效微调以及 RLHF 等前沿技术，并指导如何搭建基于 Prometheus 和 Grafana 的生产级监控体系。无论是希望转型 AI 工程的后端开发，还是寻求提升模型落地能力的从业者，都能在此获得来自学术界与工业界专家的专业指引，从而具备","LLM-Engineering-Essentials 是一套由 Nebius Academy 推出的开源课程资料，旨在帮助开发者系统掌握大语言模型（LLM）的工程化落地技能。它解决了从理论认知到实际生产部署之间的鸿沟，让学习者不仅能调用 API，更能独立构建、优化并监控自定义的 AI 应用平台。\n\n这套资源特别适合具有一定编程基础的软件工程师和 AI 开发者。通过为期 12 周的实战路径，用户将深入理解 LLM 工作流、RAG 检索增强生成、自托管模型部署、推理优化及微调等核心议题。其独特的技术亮点在于贯穿始终的\"NPC Factory\"综合项目：学员需亲手打造一个服务于游戏场景的智能非玩家角色平台，涵盖从云端部署、智能体规划、记忆总结到性能监控的全链路实践。\n\n课程内容不仅覆盖 Prompt 策略与多模态应用基础，更进阶探讨了量化加速、LoRA 高效微调以及 RLHF 等前沿技术，并指导如何搭建基于 Prometheus 和 Grafana 的生产级监控体系。无论是希望转型 AI 工程的后端开发，还是寻求提升模型落地能力的从业者，都能在此获得来自学术界与工业界专家的专业指引，从而具备构建高可用、可扩展 AI 系统的实战能力。","# LLM Engineering Essentials course by Nebius Academy\n\n## 📹 Our event calendar — join Q&A sessions and webinars\n\nWant to stay updated on future events?\n\n👉[Subscribe to our calendar](https:\u002F\u002Fqrco.de\u002Fnagoocal)\n\n \n\n# 🎓 What is this course about?\n\n## 📌 Quick start\n\nGet hands-on with LLM APIs and self-hosted models as you code, experiment, and build your own platform for custom AI-powered NPCs.\n\nThis 12-week course, created by experts from academia and industry, is designed specifically for developers and engineers. You’ll have a chance to get guidance from experienced pros, join regular Q&A sessions to stay on track, and connect with peers along the way.\n\nMaterials for each topic can be found in the .\u002Ftopic* folders. See README.md for further details and instructions.\n\nAny technical issues, ideas, bugs in course materials, contribution ideas - add an issue.\n\n## 📖 Course roadmap\n\nStudy advanced concepts and apply your new knowledge right away.\n\nJoin live sessions to connect with peers and course experts, reinforcing your learning.\n\n### [Topic 1️⃣ LLM API Basics](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic1)\n\nBasics of LLM and Multimodal LLM API usage and prompt strategies, typical problems arising with LLMs, creativity-vs-reproducibility control.\n\n**Project**: Creating a chatbot and deploying it in a cloud.\n\n### [Topic 2️⃣ LLM Workflows](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic2)\n\nLLM Workflows and beyond: from Chaining to AI Agents. LLM Reasoning.\n\n**Project**: Planning and memory summarization; Automating evaluation.\n\t\n### [Topic 3️⃣ Context](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic3)\n\nRAG and its technicalities; vector stores, databases in production. RAG evaluation.\n\n**Project**: Adding RAG to the NPC Factory service.\n\n### [Topic 4️⃣ Self-Deployed LLMs](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic4)\n\t\nWorking with open source LLMs and practical LLM inference in production. Computational and memory bottlenecks of LLM inference.\n\n**Project**: Deploying a chat service based on a self-served LLM. Serving text encoders and rerankers. Making a cost-to-value choice between API and self-served LLMs.\n\t\n### [Topic 5️⃣ Optimization and Monitoring](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic5)\n\nOptimizing LLM inference, quantization and beyond. Production monitoring and observability.\n\t\n**Project**: Optimizing open source LLM inference. Establishing monitoring with Evidently AI, Prometeus and Grafana.\n\t\n### [Topic 6️⃣ Fine-Tuning](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic6)\n\nFine-tuning of LLMs and embeddings. Parameter-Efficient Fine-Tuning and LoRA. RLHF and DPO\n\t\n**Project**: Making your characters even more alive through fine-tuning\n\n## 🏗️ NPC Factory Project\n\nDuring the course, you'll build a platform that serves intelligent, believable, reactive, and autonomous NPCs — non-player characters at the heart of immersive games, driving engaging interactions and making worlds feel rich and dynamic.\n\n- Deploy models on real servers and integrate them into game environments.\n- Implement agentic capabilities, enabling NPCs to set goals and adapt dynamically.\n- Build scalable APIs to support complex game interactions.\n- Optimize performance, monitor behavior, and fine-tune models for smooth, responsive gameplay.\n\n## 💬 Join the community\n\nConnect with experts, engage in discussions, ask questions, and share insights, experiences, and feedback with fellow learners [on Discord](https:\u002F\u002Fdiscord.com\u002Finvite\u002FWJ2DUQRz4m). Stay in the loop — live session announcements will be posted there, too!\n\nFor updates, you can also subscribe to our newsletter.\n\n## 👨‍🏫 Meet our team\n\nLed by AI expert **Stanislav Fedotov**, this course was created by a team of AI practitioners dedicated to making AI education accessible and keeping professionals ahead in the field:\n\n**Alexey Bukhtiyarov**\n\n**Nikita Pavlichenko**\n\n**Sergei Petrov**\n\n**Sergei Skvortsov**\n\n**Alex Umnov**\n","# Nebius Academy 的 LLM 工程基础课程\n\n## 📹 我们的活动日历 — 参与问答环节和网络研讨会\n\n想及时了解未来的活动吗？\n\n👉[订阅我们的日历](https:\u002F\u002Fqrco.de\u002Fnagoocal)\n\n \n\n# 🎓 本课程讲什么？\n\n## 📌 快速入门\n\n通过编写代码、进行实验并构建属于你自己的自定义 AI 驱动 NPC 平台，亲身体验 LLM API 和自托管模型的使用。\n\n这门由学术界和业界专家共同打造的 12 周课程，专为开发者和工程师设计。你将有机会获得资深专业人士的指导，参加定期的问答环节以保持学习进度，并在此过程中结识志同道合的伙伴。\n\n每个主题的相关资料都位于 .\u002Ftopic* 文件夹中。更多详情和操作说明请参阅 README.md 文件。\n\n如遇任何技术问题、建议、课程材料中的错误或贡献想法，请提交 Issue。\n\n## 📖 课程路线图\n\n深入学习高级概念，并立即应用所学知识。\n\n参与直播课程，与同学及课程专家交流互动，巩固学习成果。\n\n### [主题 1️⃣ LLM API 基础](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic1)\n\nLLM 和多模态 LLM API 的基本用法与提示策略、LLM 使用中常见的问题、创造力与可复现性之间的权衡控制。\n\n**项目**: 创建一个聊天机器人，并将其部署到云端。\n\n### [主题 2️⃣ LLM 工作流](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic2)\n\nLLM 工作流及其扩展：从链式调用到 AI 代理；LLM 推理能力。\n\n**项目**: 计划制定与记忆摘要；自动化评估流程。\n\n### [主题 3️⃣ 上下文](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic3)\n\nRAG 技术及其细节；向量存储与生产环境中的数据库；RAG 评估。\n\n**项目**: 将 RAG 集成到 NPC Factory 服务中。\n\n### [主题 4️⃣ 自部署 LLM](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic4)\n\n开源 LLM 的使用以及 LLM 推理在生产环境中的实际应用。LLM 推理过程中的计算与内存瓶颈。\n\n**项目**: 部署基于自托管 LLM 的聊天服务。同时部署文本编码器和重排序器，权衡 API 与自托管 LLM 在成本与价值之间的取舍。\n\n### [主题 5️⃣ 优化与监控](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic5)\n\nLLM 推理的优化方法，包括量化等技术。生产环境下的监控与可观ability。\n\n**项目**: 优化开源 LLM 的推理性能。使用 Evidently AI、Prometheus 和 Grafana 建立监控体系。\n\n### [主题 6️⃣ 微调](https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Ftree\u002Fmain\u002Ftopic6)\n\nLLM 和嵌入向量的微调。参数高效微调与 LoRA 技术。RLHF 和 DPO 方法。\n\n**项目**: 通过微调让角色更加鲜活生动。\n\n## 🏗️ NPC Factory 项目\n\n在课程期间，你将构建一个平台，用于提供智能、可信、反应灵敏且自主的 NPC — 即非玩家角色。这些 NPC 是沉浸式游戏的核心，能够推动引人入胜的互动，使游戏世界更加丰富而充满活力。\n\n- 将模型部署到真实服务器上，并集成到游戏环境中。\n- 实现代理能力，使 NPC 能够设定目标并动态调整行为。\n- 构建可扩展的 API，支持复杂的游戏交互。\n- 优化性能、监控行为，并对模型进行微调，以确保流畅、响应迅速的游戏体验。\n\n## 💬 加入社区\n\n与专家交流、参与讨论、提问，并与其他学员分享见解、经验和反馈，请加入我们的 [Discord 社区](https:\u002F\u002Fdiscord.com\u002Finvite\u002FWJ2DUQRz4m)。直播课程的通知也会在此发布！\n\n此外，你还可以订阅我们的邮件列表以获取最新资讯。\n\n## 👨‍🏫 认识我们的团队\n\n本课程由 AI 领域专家 **Stanislav Fedotov** 领衔，由一支致力于让 AI 教育更易获取、帮助从业者保持行业领先地位的 AI 实践者团队共同打造：\n\n**Alexey Bukhtiyarov**\n\n**Nikita Pavlichenko**\n\n**Sergei Petrov**\n\n**Sergei Skvortsov**\n\n**Alex Umnov**","# LLM-Engineering-Essentials 快速上手指南\n\n本指南旨在帮助开发者快速进入 **LLM Engineering Essentials** 课程的学习路径，通过动手实践掌握 LLM API、自托管模型及构建自定义 AI NPC 平台的核心技能。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**：Linux (推荐 Ubuntu 20.04+), macOS, 或 Windows (需配合 WSL2)。\n*   **Python 版本**：Python 3.9 或更高版本。\n*   **包管理工具**：`pip` 或 `conda`。\n*   **代码编辑器**：VS Code 或 PyCharm（推荐安装 Python 和 Markdown 插件）。\n*   **账号准备**：\n    *   GitHub 账号（用于克隆代码库）。\n    *   LLM API 密钥（如 OpenAI, Anthropic 等，用于 Topic 1）。\n    *   Discord 账号（可选，用于加入社区讨论）。\n*   **硬件建议**：\n    *   基础学习：任意现代 CPU，8GB+ 内存。\n    *   自托管模型与微调（Topic 4-6）：建议配备 NVIDIA GPU (显存 16GB+ 为佳)，或使用云端 GPU 实例。\n\n> **国内加速建议**：\n> *   克隆仓库时若速度慢，可使用镜像站：\n>     ```bash\n>     git clone https:\u002F\u002Fghp.ci\u002Fhttps:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials.git\n>     ```\n> *   安装 Python 依赖时，推荐使用清华或阿里镜像源：\n>     ```bash\n>     pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n>     ```\n\n## 安装步骤\n\n1.  **克隆项目仓库**\n    将课程代码下载到本地：\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials.git\n    cd LLM-Engineering-Essentials\n    ```\n\n2.  **创建虚拟环境**\n    建议使用 `venv` 或 `conda` 隔离环境：\n    ```bash\n    python -m venv venv\n    # Linux\u002FmacOS 激活环境\n    source venv\u002Fbin\u002Factivate\n    # Windows 激活环境\n    # venv\\Scripts\\activate\n    ```\n\n3.  **安装基础依赖**\n    进入具体主题文件夹（以 Topic 1 为例）并安装所需库。每个 `topic*` 文件夹下通常包含独立的 `requirements.txt`。\n    ```bash\n    cd topic1\n    pip install -r requirements.txt\n    ```\n    *注：后续每个主题请进入对应文件夹重复此步骤，因为不同阶段所需的库可能不同。*\n\n4.  **配置环境变量**\n    在项目根目录或对应主题目录下创建 `.env` 文件，填入您的 API Key：\n    ```bash\n    echo \"OPENAI_API_KEY=your_api_key_here\" > .env\n    ```\n\n## 基本使用\n\n本课程采用“边学边做”的模式，每个主题包含理论材料和实战项目。以下以 **Topic 1: LLM API Basics** 为例，展示如何运行第一个示例。\n\n1.  **查看主题详情**\n    阅读当前主题的说明文档以了解具体目标：\n    ```bash\n    cat README.md\n    ```\n\n2.  **运行示例代码**\n    通常在主题文件夹的 `src` 或 `notebooks` 目录下包含示例脚本。假设存在一个名为 `chatbot_basic.py` 的入口文件：\n    ```bash\n    python src\u002Fchatbot_basic.py\n    ```\n    如果该主题提供 Jupyter Notebook，可启动服务并在浏览器中交互：\n    ```bash\n    jupyter notebook\n    ```\n\n3.  **构建首个项目：云端聊天机器人**\n    按照 `topic1` 中的指令，修改配置文件中的提示词策略（Prompt Strategies），运行部署脚本将简单的 Chatbot 部署到云端环境（如本地测试或云服务器）：\n    ```bash\n    # 示例命令，具体文件名请参考 topic1 目录下的实际脚本\n    python deploy_cloud_bot.py --config config.yaml\n    ```\n\n4.  **进阶探索**\n    完成 Topic 1 后，依次进入 `topic2` 至 `topic6`，逐步实现从工作流编排、RAG 检索增强、自托管模型部署到模型微调的完整 **NPC Factory** 平台构建。\n\n    *   **Topic 2**: 实现具有记忆功能的 Agent。\n    *   **Topic 3**: 为 NPC 工厂添加向量数据库支持。\n    *   **Topic 4**: 部署开源模型替代 API 调用。\n    *   **Topic 5**: 集成 Prometheus\u002FGrafana 进行监控。\n    *   **Topic 6**: 使用 LoRA 对角色进行微调。\n\n开始您的 LLM 工程之旅吧！遇到问题欢迎在 GitHub 提交 Issue 或加入 Discord 社区交流。","某游戏工作室的开发团队正致力于构建一个拥有智能、自主且能动态适应玩家行为的 NPC（非玩家角色）平台，以增强游戏的沉浸感。\n\n### 没有 LLM-Engineering-Essentials 时\n- **架构混乱**：开发者在调用 LLM API 与自建模型之间犹豫不决，缺乏对成本与性能权衡的系统指导，导致初期架构设计反复推倒重来。\n- **记忆缺失**：NPC 无法有效总结长期对话或规划复杂目标，简单的提示词工程无法解决“遗忘”问题，角色行为显得割裂且呆板。\n- **检索失效**：尝试引入 RAG（检索增强生成）时，因不懂向量数据库选型及评估方法，导致 NPC 经常胡编乱造背景故事，破坏游戏世界观。\n- **部署瓶颈**：自托管开源模型时遭遇显存溢出和推理延迟过高，缺乏量化优化和监控手段，服务上线即崩溃。\n- **调优盲目**：想让 NPC 具备独特性格，但不懂 LoRA 微调或 DPO 技术，只能依赖昂贵的通用大模型，效果却难以定制。\n\n### 使用 LLM-Engineering-Essentials 后\n- **路径清晰**：通过课程中的实战项目，团队迅速掌握了从 API 原型到自托管服务的演进路线，做出了最具性价比的技术选型。\n- **智能升级**：利用工作流编排技术，成功为 NPC 实现了长期记忆摘要与自动目标规划，角色能像真人一样连贯地推进剧情。\n- **知识精准**：基于标准的 RAG 实施指南，构建了稳定的向量检索系统，确保 NPC 的回答严格符合游戏设定，杜绝幻觉。\n- **性能达标**：应用量化技术与监控栈（如 Prometheus + Grafana），将开源模型推理速度提升数倍，并实现了生产环境的可观测性。\n- **个性定制**：通过参数高效微调（PEFT）实战，低成本训练出具有独特说话风格和情感反应的专属角色模型，大幅提升了玩家体验。\n\nLLM-Engineering-Essentials 将零散的 AI 技术点串联成一套可落地的工程化体系，帮助开发者从“玩具原型”快速跨越到“生产级智能应用”。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNebius-Academy_LLM-Engineering-Essentials_9f7f5f3c.png","Nebius-Academy","Nebius Academy","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FNebius-Academy_05cde82b.png","Online and in-person programs that strengthen the tech and AI landscape by fostering the emergence of new leaders.",null,"https:\u002F\u002Facademy.nebius.com","https:\u002F\u002Fgithub.com\u002FNebius-Academy",[82,86],{"name":83,"color":84,"percentage":85},"Jupyter Notebook","#DA5B0B",99.3,{"name":87,"color":88,"percentage":89},"Python","#3572A5",0.7,810,179,"2026-04-19T17:14:19","MIT",4,"未说明","Topic 4 和 Topic 5 涉及自部署 LLM 及推理优化，隐含需要 NVIDIA GPU 以解决计算和内存瓶颈，但具体型号、显存大小及 CUDA 版本未在文中明确说明","未说明（文中仅提及 LLM 推理存在内存瓶颈）",{"notes":99,"python":95,"dependencies":100},"这是一个为期 12 周的课程项目，旨在构建自定义 AI NPC 平台。内容涵盖 LLM API、工作流、RAG、自部署模型、监控及微调。部分主题（如 Topic 4 自部署模型、Topic 5 量化与监控）通常需要 GPU 资源和支持生产级部署的环境。具体技术栈需参考各主题文件夹（.\u002Ftopic*）内的详细 README 文件。",[101],"未说明（文中提及将使用 Evidently AI, Prometheus, Grafana 进行监控，以及涉及向量存储和 RAG 技术，但未列出具体 Python 库及版本）",[36,14,13],"2026-03-27T02:49:30.150509","2026-04-20T21:04:34.376975",[106,111],{"id":107,"question_zh":108,"answer_zh":109,"source_url":110},45770,"在 LLM API 示例中，\"finishing_reason\" 显示为 \"length\" 而不是 \"stop\"，这是指达到了 max_length 还是 max_tokens？","这确实是一个笔误，应该是指 `max_tokens` 而不是 `max_length`。此处机制是控制生成的确切 token 数量。例如，如果您设置 `max_tokens=1`，模型将恰好生成一个 token，不会更多。当达到此限制时，生成原因会显示为 \"length\"。","https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Fissues\u002F26",{"id":112,"question_zh":113,"answer_zh":114,"source_url":115},45771,"打开 topic1\u002F1.6_llm_inference_parameters.ipynb 笔记本时出现 \"Invalid Notebook\" 错误，提示缺少 'state' 键，如何解决？","这是一个已知的 widgets 兼容性问题。虽然 GitHub 预览可能无法正常工作，但您可以直接使用 Colab 链接来运行该笔记本，这样可以避开渲染错误。维护者已修复了仓库中的文件，但在本地或旧缓存中遇到此问题时，优先推荐使用 Colab 环境。","https:\u002F\u002Fgithub.com\u002FNebius-Academy\u002FLLM-Engineering-Essentials\u002Fissues\u002F15",[]]