[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-datawhalechina--llm-universe":3,"tool-datawhalechina--llm-universe":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",138956,2,"2026-04-05T11:33:21",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":79,"owner_twitter":79,"owner_website":80,"owner_url":81,"languages":82,"stars":91,"forks":92,"last_commit_at":93,"license":79,"difficulty_score":23,"env_os":94,"env_gpu":95,"env_ram":95,"env_deps":96,"category_tags":110,"github_topics":111,"view_count":113,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":114,"updated_at":115,"faqs":116,"releases":157},187,"datawhalechina\u002Fllm-universe","llm-universe","本项目是一个面向小白开发者的大模型应用开发教程，在线阅读地址：https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F","llm-universe 是一个面向初学者的大模型应用开发入门教程，通过动手实践的方式，帮助具备基础 Python 能力的开发者快速掌握大模型应用的核心开发流程。项目以“个人知识库助手”为案例，系统讲解如何调用主流大模型 API（如 GPT、文心一言、讯飞星火、智谱 GLM 等）、搭建向量数据库、构建 RAG 检索增强问答系统，并使用 Streamlit 部署应用。它解决了新手面对零散资料、高学习门槛和复杂环境配置时难以入门的问题，无需 GPU 或算法背景，甚至提供阿里云学生服务器支持。教程内容简洁聚焦，强调实用技能而非底层理论，适合希望快速上手 LLM 应用开发的开发者。其亮点在于对多厂商 API 进行统一封装，简化调用逻辑，并通过开源 Notebook 和在线文档提供清晰的学习路径。","# LLM Universe | 动手学大模型应用开发\n\n\n\u003Cdiv align=center>\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_e3230102c2f3.png\" width = \"1000\">\n\u003C\u002Fdiv>\n\n## 项目简介\n\n[![Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fdatawhalechina\u002Fllm-universe?style=social)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fstargazers)\n![GitHub forks](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fdatawhalechina\u002Fllm-universe)\n[![Contributors](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FContributors-21-brightgreen)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fgraphs\u002Fcontributors)\n[![Python](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPython-3.8+-blue)](https:\u002F\u002Fwww.python.org\u002F)\n[![Jupyter Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FJupyter%20Notebook-1.0-orange)](https:\u002F\u002Fjupyter.org\u002F)\n[![Online Reading](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FOnline%20Reading-Click%20Here-blue)](https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F)\n[![Download PDF](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDownload%20PDF-Click%20Here-red)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1)\n\n本项目是一个面向小白开发者的大模型应用开发教程，旨在基于阿里云服务器，结合个人知识库助手项目，通过一个课程完成大模型开发的重点入门，主要内容包括：\n\n1. **大模型简介**，何为大模型、大模型特点是什么、LangChain 是什么，如何开发一个 LLM 应用，针对小白开发者的简单介绍；\n2. **如何调用大模型 API**，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；\n3. **知识库搭建**，不同类型知识库文档的加载、处理，向量数据库的搭建；\n4. **构建 RAG 应用**，包括将 LLM 接入到 LangChain 构建检索问答链，使用 Streamlit 进行应用部署\n5. **验证迭代**，大模型开发如何实现验证迭代，一般的评估方法有什么；\n\n本项目主要包括三部分内容：\n\n1. **LLM 开发入门**。V1 版本的简化版，旨在帮助初学者最快、最便捷地入门 LLM 开发，理解 LLM 开发的一般流程，可以搭建出一个简单的 Demo。\n2. **LLM 开发技巧**。LLM 开发更进阶的技巧，包括但不限于：Prompt Engineering、多类型源数据的处理、优化检索、召回精排、Agent 框架等\n3. **LLM 应用实例**。引入一些成功的开源案例，从本课程的角度出发，解析这些应用范例的 Idea、核心思路、实现框架，帮助初学者明白其可以通过 LLM 开发什么样的应用。\n\n目前，第一部分已经完稿，欢迎大家阅读学习；第二、三部分正在创作中。\n\n**目录结构说明：**\n\n      requirements.txt：官方环境下的安装依赖\n      notebook：Notebook 源代码文件\n      docs：Markdown 文档文件\n      figures：图片\n      data_base：所使用的知识库源文件\n\n## 项目意义\n\nLLM 正逐步成为信息世界的新革命力量，其通过强大的自然语言理解、自然语言生成能力，为开发者提供了新的、更强大的应用开发选择。随着国内外井喷式的 LLM API 服务开放，如何基于 LLM API 快速、便捷地开发具备更强能力、集成 LLM 的应用，开始成为开发者的一项重要技能。\n\n目前，关于 LLM 的介绍以及零散的 LLM 开发技能课程已有不少，但质量参差不齐，且没有很好地整合，开发者需要搜索大量教程并阅读大量相关性不强、必要性较低的内容，才能初步掌握大模型开发的必备技能，学习效率低，学习门槛也较高。\n\n本项目从实践出发，结合最常见、通用的个人知识库助手项目，深入浅出逐步拆解 LLM 开发的一般流程、步骤，旨在帮助没有算法基础的小白通过一个课程完成大模型开发的基础入门。同时，我们也会加入 RAG 开发的进阶技巧以及一些成功的 LLM 应用案例的解读，帮助完成第一部分学习的读者进一步掌握更高阶的 RAG 开发技巧，并能够通过对已有成功项目的借鉴开发自己的、好玩的应用。\n\n## 项目受众\n\n所有具备基础 Python 能力，想要掌握 LLM 应用开发技能的开发者。\n\n**本项目对学习者的人工智能基础、算法基础没有任何要求，仅需要掌握基本 Python 语法、掌握初级 Python 开发技能即可。**\n\n考虑到环境搭建问题，本项目提供了阿里云服务器学生免费领取方式，学生读者可以免费领取阿里云服务器，并通过阿里云服务器完成本课程的学习；本项目同时也提供了个人电脑及非阿里云服务器的环境搭建指南；本项目对本地硬件基本没有要求，不需要 GPU 环境，个人电脑及服务器均可用于学习。\n\n**注：本项目主要使用各大模型厂商提供的 API 来进行应用开发，如果你想要学习部署应用本地开源 LLM，欢迎学习同样由 Datawhale 出品的 [Self LLM ｜ 开源大模型食用指南](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fself-llm)，该项目将手把手教你如何速通开源 LLM 部署微调全链路！**\n\n**注：考虑到学习难度，本项目主要面向初学者，介绍如何使用 LLM 来搭建应用。如果你想要进一步深入学习 LLM 的理论基础，并在理论的基础上进一步认识、应用 LLM，欢迎学习同样由 Datawhale 出品的 [So Large LM | 大模型基础](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fso-large-lm)，该项目将为你提供全面而深入的 LLM 理论知识及实践方法！**\n\n## 项目亮点\n\n1. 充分面向实践，动手学习大模型开发。相较于其他从理论入手、与实践代差较大的类似教程，本教程基于具有通用性的个人知识库助手项目打造，将普适的大模型开发理念融合在项目实践中，帮助学习者通过动手搭建个人项目来掌握大模型开发技能。\n\n2. 从零开始，全面又简短的大模型教程。本项目针对个人知识库助手项目，对相关大模型开发理论、概念和基本技能进行了项目主导的重构，删去不需要理解的底层原理和算法细节，涵盖所有大模型开发的核心技能。教程整体时长在数小时之内，但学习完本教程，可以掌握基础大模型开发的所有核心技能。\n\n3. 兼具统一性与拓展性。本项目对 GPT、百度文心、讯飞星火、智谱GLM 等国内外主要 LLM API 进行了统一封装，支持一键调用不同的 LLM，帮助开发者将更多的精力放在学习应用与模型本身的优化上，而不需要花时间在繁琐的调用细节上；同时，本教程拟上线 [奇想星球 | AIGC共创社区平台](https:\u002F\u002F1aigc.cn\u002F)，支持学习者自定义项目为本教程增加拓展内容，具备充分的拓展性。\n\n## 在线阅读地址\n\n[https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F](https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F)\n\n## PDF 地址\n\n[https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1)\n\n## 内容大纲\n\n### 第一部分 LLM 开发入门\n\n负责人：邹雨衡\n\n1. [LLM 介绍](.\u002Fnotebook\u002FC1%20大型语言模型%20LLM%20介绍\u002F) @高立业\n   1. [x] [LLM 的理论介绍](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#11-%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bllm%E7%AE%80%E4%BB%8B)\n   2. [x] [什么是 RAG](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#12-%E4%BB%80%E4%B9%88%E6%98%AF-rag)\n   3. [x] [什么是 LangChain](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#13-langchain)\n   4. [x] [开发 LLM 应用的整体流程](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#14-%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%BC%80%E5%8F%91)\n   5. [x] [阿里云服务器的基本使用](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#15-%E9%98%BF%E9%87%8C%E4%BA%91%E6%9C%8D%E5%8A%A1%E5%99%A8%E7%9A%84%E5%9F%BA%E6%9C%AC%E4%BD%BF%E7%94%A8)\n   6. [x] [GitHub Codespaces 的基本使用（选修）](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#16-github-codespaces-%E6%A6%82%E8%BF%B0%E7%8E%AF%E5%A2%83%E9%85%8D%E7%BD%AE%E9%80%89%E4%BF%AE)\n   7. [x] [环境配置](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#17-%E7%8E%AF%E5%A2%83%E9%85%8D%E7%BD%AE)\n2. [使用 LLM API 开发应用](.\u002Fnotebook\u002FC2%20使用%20LLM%20API%20开发应用\u002F) @毛雨\n   1. [x] 基本概念\n   2. [x] 使用 LLM API\n        - ChatGPT\n        - 文心一言\n        - 讯飞星火\n        - 智谱 GLM\n   3. [x] Prompt Engineering\n3. [搭建知识库](.\u002Fnotebook\u002FC3%20搭建知识库\u002F) @娄天奥\n   1. [x] 词向量及向量知识库介绍\n   2. [x] 使用 Embedding API\n   3. [x] 数据处理：读取、清洗与切片\n   4. [x] 搭建并使用向量数据库\n4. [构建 RAG 应用](.\u002Fnotebook\u002FC4%20构建%20RAG%20应用\u002F) @徐虎\n   1. [x] 将 LLM 接入 LangChain\n        - ChatGPT\n        - 文心一言\n        - 讯飞星火\n        - 智谱 GLM\n   2. [x] 基于 LangChain 搭建检索问答链\n   3. [x] 基于 Streamlit 部署知识库助手\n5. [系统评估与优化](.\u002Fnotebook\u002FC5%20系统评估与优化\u002F) @邹雨衡\n   1. [x] 如何评估 LLM 应用\n   2. [x] 评估并优化生成部分\n   3. [x] 评估并优化检索部分\n\n### 第二部分 进阶 RAG 技巧（正在创作）\n\n负责人：高立业\n\n1. 背景\n   1. [ ] 架构概览\n   2. [ ] 存在的问题\n   3. [ ] 解决方法\n2. [数据处理](.\u002Fnotebook\u002FC7%20高级%20RAG%20技巧\u002F2.%20数据处理\u002F)\n   1. [x] 多类型文档处理\n   2. [x] 分块优化\n   3. [x] 向量模型的选择\n   4. [x] 微调向量模型（进阶）\n3. 索引层面\n   1. [ ] 索引结构\n   2. [ ] 混合检索\n   3. [ ] 假设性问题\n4. 检索阶段\n   1. [ ] query 过滤\n   2. [ ] 对齐 query 和 文档\n   3. [ ] 对齐检索和 LLM\n5. 生成阶段\n   1. [ ] 后处理\n   2. [ ] 微调 LLM（进阶）\n   3. [ ] 参考引用\n6. 增强阶段\n   1. [ ] 上下文增强\n   2. [ ] 增强流程\n7. RAG 工程化评估\n\n### 第三部分 开源 LLM 应用解读\n\n负责人：徐虎\n\n1. ChatWithDatawhale——个人知识库助手解读\n2. 天机——人情世故大模型解读\n\n## 致谢\n\n**核心贡献者**\n- [娄天奥-项目负责人](https:\u002F\u002Fgithub.com\u002Flta155)（Datawhale成员-中国科学院大学研究生）\n- [邹雨衡-项目负责人](https:\u002F\u002Fgithub.com\u002Flogan-zou)（Datawhale成员-对外经济贸易大学研究生）\n- [高立业-第二部分负责人](https:\u002F\u002Fgithub.com\u002F0-yy-0)（DataWhale成员-算法工程师）\n- [徐虎-第三部分负责人](https:\u002F\u002Fgithub.com\u002Fxuhu0115)（Datawhale成员-算法工程师）\n\n**主要贡献者**\n\n- [毛雨-内容创作者](https:\u002F\u002Fgithub.com\u002FMyoungs )（后端开发工程师）\n- [崔腾松-项目支持者](https:\u002F\u002Fgithub.com\u002F2951121599)（Datawhale成员-奇想星球联合发起人）\n- [June-项目支持者](https:\u002F\u002Fgithub.com\u002FJuneYaooo)（Datawhale成员-奇想星球联合发起人）\n\n**其他**\n\n1. 特别感谢 [@Sm1les](https:\u002F\u002Fgithub.com\u002FSm1les)、[@LSGOMYP](https:\u002F\u002Fgithub.com\u002FLSGOMYP) 对本项目的帮助与支持；\n2. 特别感谢[奇想星球 | AIGC共创社区平台](https:\u002F\u002F1aigc.cn\u002F)提供的支持，欢迎大家关注；\n3. 如果有任何想法可以联系我们 DataWhale 也欢迎大家多多提出 issue；\n4. 特别感谢以下为教程做出贡献的同学！\n\n\u003Ca href=\"https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fgraphs\u002Fcontributors\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_bd1825a763f6.png\" \u002F>\n\u003C\u002Fa>\n\nMade with [contrib.rocks](https:\u002F\u002Fcontrib.rocks).\n\n## Star History\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_1507f9d2ad5d.png)](https:\u002F\u002Fstar-history.com\u002F#datawhalechina\u002Fllm-universe&Date)\n","# LLM Universe | 动手学大模型应用开发\n\n\n\u003Cdiv align=center>\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_e3230102c2f3.png\" width = \"1000\">\n\u003C\u002Fdiv>\n\n## 项目简介\n\n[![Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fdatawhalechina\u002Fllm-universe?style=social)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fstargazers)\n![GitHub forks](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fdatawhalechina\u002Fllm-universe)\n[![Contributors](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FContributors-21-brightgreen)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fgraphs\u002Fcontributors)\n[![Python](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPython-3.8+-blue)](https:\u002F\u002Fwww.python.org\u002F)\n[![Jupyter Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FJupyter%20Notebook-1.0-orange)](https:\u002F\u002Fjupyter.org\u002F)\n[![Online Reading](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FOnline%20Reading-Click%20Here-blue)](https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F)\n[![Download PDF](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDownload%20PDF-Click%20Here-red)](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1)\n\n本项目是一个面向小白开发者的大模型（Large Language Model, LLM）应用开发教程，旨在基于阿里云服务器，结合个人知识库助手项目，通过一个课程完成大模型开发的重点入门，主要内容包括：\n\n1. **大模型简介**，何为大模型、大模型特点是什么、LangChain 是什么，如何开发一个 LLM 应用，针对小白开发者的简单介绍；\n2. **如何调用大模型 API**，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；\n3. **知识库搭建**，不同类型知识库文档的加载、处理，向量数据库的搭建；\n4. **构建 RAG 应用**，包括将 LLM 接入到 LangChain 构建检索问答链，使用 Streamlit 进行应用部署\n5. **验证迭代**，大模型开发如何实现验证迭代，一般的评估方法有什么；\n\n本项目主要包括三部分内容：\n\n1. **LLM 开发入门**。V1 版本的简化版，旨在帮助初学者最快、最便捷地入门 LLM 开发，理解 LLM 开发的一般流程，可以搭建出一个简单的 Demo。\n2. **LLM 开发技巧**。LLM 开发更进阶的技巧，包括但不限于：Prompt Engineering（提示工程）、多类型源数据的处理、优化检索、召回精排、Agent 框架等\n3. **LLM 应用实例**。引入一些成功的开源案例，从本课程的角度出发，解析这些应用范例的 Idea、核心思路、实现框架，帮助初学者明白其可以通过 LLM 开发什么样的应用。\n\n目前，第一部分已经完稿，欢迎大家阅读学习；第二、三部分正在创作中。\n\n**目录结构说明：**\n\n      requirements.txt：官方环境下的安装依赖\n      notebook：Notebook 源代码文件\n      docs：Markdown 文档文件\n      figures：图片\n      data_base：所使用的知识库源文件\n\n## 项目意义\n\nLLM 正逐步成为信息世界的新革命力量，其通过强大的自然语言理解、自然语言生成能力，为开发者提供了新的、更强大的应用开发选择。随着国内外井喷式的 LLM API 服务开放，如何基于 LLM API 快速、便捷地开发具备更强能力、集成 LLM 的应用，开始成为开发者的一项重要技能。\n\n目前，关于 LLM 的介绍以及零散的 LLM 开发技能课程已有不少，但质量参差不齐，且没有很好地整合，开发者需要搜索大量教程并阅读大量相关性不强、必要性较低的内容，才能初步掌握大模型开发的必备技能，学习效率低，学习门槛也较高。\n\n本项目从实践出发，结合最常见、通用的个人知识库助手项目，深入浅出逐步拆解 LLM 开发的一般流程、步骤，旨在帮助没有算法基础的小白通过一个课程完成大模型开发的基础入门。同时，我们也会加入 RAG（Retrieval-Augmented Generation，检索增强生成）开发的进阶技巧以及一些成功的 LLM 应用案例的解读，帮助完成第一部分学习的读者进一步掌握更高阶的 RAG 开发技巧，并能够通过对已有成功项目的借鉴开发自己的、好玩的应用。\n\n## 项目受众\n\n所有具备基础 Python 能力，想要掌握 LLM 应用开发技能的开发者。\n\n**本项目对学习者的人工智能基础、算法基础没有任何要求，仅需要掌握基本 Python 语法、掌握初级 Python 开发技能即可。**\n\n考虑到环境搭建问题，本项目提供了阿里云服务器学生免费领取方式，学生读者可以免费领取阿里云服务器，并通过阿里云服务器完成本课程的学习；本项目同时也提供了个人电脑及非阿里云服务器的环境搭建指南；本项目对本地硬件基本没有要求，不需要 GPU 环境，个人电脑及服务器均可用于学习。\n\n**注：本项目主要使用各大模型厂商提供的 API 来进行应用开发，如果你想要学习部署应用本地开源 LLM，欢迎学习同样由 Datawhale 出品的 [Self LLM ｜ 开源大模型食用指南](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fself-llm)，该项目将手把手教你如何速通开源 LLM 部署微调全链路！**\n\n**注：考虑到学习难度，本项目主要面向初学者，介绍如何使用 LLM 来搭建应用。如果你想要进一步深入学习 LLM 的理论基础，并在理论的基础上进一步认识、应用 LLM，欢迎学习同样由 Datawhale 出品的 [So Large LM | 大模型基础](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fso-large-lm)，该项目将为你提供全面而深入的 LLM 理论知识及实践方法！**\n\n## 项目亮点\n\n1. 充分面向实践，动手学习大模型开发。相较于其他从理论入手、与实践代差较大的类似教程，本教程基于具有通用性的个人知识库助手项目打造，将普适的大模型开发理念融合在项目实践中，帮助学习者通过动手搭建个人项目来掌握大模型开发技能。\n\n2. 从零开始，全面又简短的大模型教程。本项目针对个人知识库助手项目，对相关大模型开发理论、概念和基本技能进行了项目主导的重构，删去不需要理解的底层原理和算法细节，涵盖所有大模型开发的核心技能。教程整体时长在数小时之内，但学习完本教程，可以掌握基础大模型开发的所有核心技能。\n\n3. 兼具统一性与拓展性。本项目对 GPT、百度文心、讯飞星火、智谱GLM 等国内外主要 LLM API 进行了统一封装，支持一键调用不同的 LLM，帮助开发者将更多的精力放在学习应用与模型本身的优化上，而不需要花时间在繁琐的调用细节上；同时，本教程拟上线 [奇想星球 | AIGC共创社区平台](https:\u002F\u002F1aigc.cn\u002F)，支持学习者自定义项目为本教程增加拓展内容，具备充分的拓展性。\n\n## 在线阅读地址\n\n[https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F](https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F)\n\n## PDF 地址\n\n[https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Freleases\u002Ftag\u002Fv1)\n\n## 内容大纲\n\n### 第一部分 LLM 开发入门\n\n负责人：邹雨衡\n\n1. [LLM 介绍](.\u002Fnotebook\u002FC1%20大型语言模型%20LLM%20介绍\u002F) @高立业\n   1. [x] [LLM 的理论介绍](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#11-%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bllm%E7%AE%80%E4%BB%8B)\n   2. [x] [什么是 RAG](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#12-%E4%BB%80%E4%B9%88%E6%98%AF-rag)\n   3. [x] [什么是 LangChain](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#13-langchain)\n   4. [x] [开发 LLM 应用的整体流程](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#14-%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%BC%80%E5%8F%91)\n   5. [x] [阿里云服务器的基本使用](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#15-%E9%98%BF%E9%87%8C%E4%BA%91%E6%9C%8D%E5%8A%A1%E5%99%A8%E7%9A%84%E5%9F%BA%E6%9C%AC%E4%BD%BF%E7%94%A8)\n   6. [x] [GitHub Codespaces 的基本使用（选修）](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#16-github-codespaces-%E6%A6%82%E8%BF%B0%E7%8E%AF%E5%A2%83%E9%85%8D%E7%BD%AE%E9%80%89%E4%BF%AE)\n   7. [x] [环境配置](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fblob\u002Fmain\u002Fnotebook\u002FC1%20%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%20LLM%20%E4%BB%8B%E7%BB%8D\u002FC1.md#17-%E7%8E%AF%E5%A2%83%E9%85%8D%E7%BD%AE)\n2. [使用 LLM API 开发应用](.\u002Fnotebook\u002FC2%20使用%20LLM%20API%20开发应用\u002F) @毛雨\n   1. [x] 基本概念\n   2. [x] 使用 LLM API\n        - ChatGPT\n        - 文心一言\n        - 讯飞星火\n        - 智谱 GLM\n   3. [x] Prompt Engineering\n3. [搭建知识库](.\u002Fnotebook\u002FC3%20搭建知识库\u002F) @娄天奥\n   1. [x] 词向量及向量知识库介绍\n   2. [x] 使用 Embedding API\n   3. [x] 数据处理：读取、清洗与切片\n   4. [x] 搭建并使用向量数据库\n4. [构建 RAG 应用](.\u002Fnotebook\u002FC4%20构建%20RAG%20应用\u002F) @徐虎\n   1. [x] 将 LLM 接入 LangChain\n        - ChatGPT\n        - 文心一言\n        - 讯飞星火\n        - 智谱 GLM\n   2. [x] 基于 LangChain 搭建检索问答链\n   3. [x] 基于 Streamlit 部署知识库助手\n5. [系统评估与优化](.\u002Fnotebook\u002FC5%20系统评估与优化\u002F) @邹雨衡\n   1. [x] 如何评估 LLM 应用\n   2. [x] 评估并优化生成部分\n   3. [x] 评估并优化检索部分\n\n### 第二部分 进阶 RAG 技巧（正在创作）\n\n负责人：高立业\n\n1. 背景\n   1. [ ] 架构概览\n   2. [ ] 存在的问题\n   3. [ ] 解决方法\n2. [数据处理](.\u002Fnotebook\u002FC7%20高级%20RAG%20技巧\u002F2.%20数据处理\u002F)\n   1. [x] 多类型文档处理\n   2. [x] 分块优化\n   3. [x] 向量模型的选择\n   4. [x] 微调向量模型（进阶）\n3. 索引层面\n   1. [ ] 索引结构\n   2. [ ] 混合检索\n   3. [ ] 假设性问题\n4. 检索阶段\n   1. [ ] query 过滤\n   2. [ ] 对齐 query 和 文档\n   3. [ ] 对齐检索和 LLM\n5. 生成阶段\n   1. [ ] 后处理\n   2. [ ] 微调 LLM（进阶）\n   3. [ ] 参考引用\n6. 增强阶段\n   1. [ ] 上下文增强\n   2. [ ] 增强流程\n7. RAG 工程化评估\n\n### 第三部分 开源 LLM 应用解读\n\n负责人：徐虎\n\n1. ChatWithDatawhale——个人知识库助手解读\n2. 天机——人情世故大模型解读\n\n## 致谢\n\n**核心贡献者**\n- [娄天奥 - 项目负责人](https:\u002F\u002Fgithub.com\u002Flta155)（Datawhale 成员 - 中国科学院大学研究生）\n- [邹雨衡 - 项目负责人](https:\u002F\u002Fgithub.com\u002Flogan-zou)（Datawhale 成员 - 对外经济贸易大学研究生）\n- [高立业 - 第二部分负责人](https:\u002F\u002Fgithub.com\u002F0-yy-0)（DataWhale 成员 - 算法工程师）\n- [徐虎 - 第三部分负责人](https:\u002F\u002Fgithub.com\u002Fxuhu0115)（Datawhale 成员 - 算法工程师）\n\n**主要贡献者**\n\n- [毛雨 - 内容创作者](https:\u002F\u002Fgithub.com\u002FMyoungs )（后端开发工程师）\n- [崔腾松 - 项目支持者](https:\u002F\u002Fgithub.com\u002F2951121599)（Datawhale 成员 - 奇想星球联合发起人）\n- [June - 项目支持者](https:\u002F\u002Fgithub.com\u002FJuneYaooo)（Datawhale 成员 - 奇想星球联合发起人）\n\n**其他**\n\n1. 特别感谢 [@Sm1les](https:\u002F\u002Fgithub.com\u002FSm1les)、[@LSGOMYP](https:\u002F\u002Fgithub.com\u002FLSGOMYP) 对本项目的帮助与支持；\n2. 特别感谢 [奇想星球 | AIGC 共创社区平台](https:\u002F\u002F1aigc.cn\u002F) 提供的支持，欢迎大家关注；\n3. 如果有任何想法可以联系我们 DataWhale，也欢迎大家多多提出 issue；\n4. 特别感谢以下为教程做出贡献的同学！\n\n\u003Ca href=\"https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fgraphs\u002Fcontributors\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_bd1825a763f6.png\" \u002F>\n\u003C\u002Fa>\n\nMade with [contrib.rocks](https:\u002F\u002Fcontrib.rocks).\n\n## Star History\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_readme_1507f9d2ad5d.png)](https:\u002F\u002Fstar-history.com\u002F#datawhalechina\u002Fllm-universe&Date)","# llm-universe 快速上手指南\n\n## 环境准备\n\n- **操作系统**：Windows \u002F macOS \u002F Linux 均可，推荐使用阿里云服务器（学生可免费领取）\n- **Python 版本**：3.8 及以上\n- **硬件要求**：无需 GPU，普通电脑或云服务器即可\n- **网络要求**：需能访问国内大模型 API（如文心一言、讯飞星火、智谱 AI 等）或 OpenAI（如使用 ChatGPT）\n\n> 💡 提示：本项目主要调用各大厂商的 LLM API，不涉及本地大模型部署。若需本地部署开源模型，请参考 [Self LLM](https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fself-llm)。\n\n## 安装步骤\n\n1. 克隆项目代码：\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe.git\ncd llm-universe\n```\n\n2. 安装依赖（推荐使用国内镜像加速）：\n```bash\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n3. 配置 API 密钥（以 `.env` 文件形式）：\n```bash\ncp .env.example .env\n```\n然后编辑 `.env` 文件，填入你所使用的大模型 API 密钥，例如：\n```env\nOPENAI_API_KEY=your_openai_key\nERNIE_CLIENT_ID=your_baidu_client_id\nERNIE_CLIENT_SECRET=your_baidu_client_secret\nSPARK_APPID=your_xunfei_appid\nSPARK_API_SECRET=your_xunfei_api_secret\nSPARK_API_KEY=your_xunfei_api_key\nZHIPU_API_KEY=your_zhipu_key\n```\n\n> 🔑 注意：各 API 的申请方式详见项目文档 [C2 使用 LLM API 开发应用](.\u002Fnotebook\u002FC2%20使用%20LLM%20API%20开发应用\u002F)。\n\n## 基本使用\n\n最简单的使用方式是运行 Jupyter Notebook 示例：\n\n1. 启动 Jupyter：\n```bash\njupyter notebook\n```\n\n2. 打开 `notebook\u002FC4 构建 RAG 应用\u002F` 目录下的 `demo.ipynb`，按顺序执行单元格。\n\n3. 或直接运行 Streamlit 应用（需先完成知识库构建）：\n```bash\nstreamlit run app.py\n```\n该命令将启动一个本地 Web 应用，默认地址为 `http:\u002F\u002Flocalhost:8501`，可与你的个人知识库进行问答交互。\n\n> 🚀 示例流程：加载文档 → 生成向量 → 存入向量数据库 → 调用 LLM + 检索 → 返回答案。\n\n完整学习路径请参考在线教程：[https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F](https:\u002F\u002Fdatawhalechina.github.io\u002Fllm-universe\u002F)","某高校计算机专业大三学生小李，希望在毕业设计中开发一个基于个人论文资料库的智能问答助手，但此前从未接触过大模型开发。\n\n### 没有 llm-universe 时\n- 面对 LangChain、RAG、向量数据库等陌生概念无从下手，网上教程零散且术语密集，学习路径混乱  \n- 不同大模型（如文心一言、讯飞星火）API 调用方式各异，需反复查阅文档、调试格式，耗费大量时间  \n- 缺乏完整项目引导，不知道如何将文档加载、文本切分、向量检索与大模型生成串联成端到端应用  \n- 尝试部署本地 Demo 时因环境依赖复杂频频报错，又无 GPU 资源，进展缓慢甚至放弃  \n\n### 使用 llm-universe 后\n- 通过教程中“个人知识库助手”实战项目，按步骤理解并复现了从文档处理到问答生成的完整流程  \n- 直接使用项目封装好的统一 API 接口，一行代码即可切换不同大模型，无需重复处理认证与请求格式  \n- 借助提供的 Jupyter Notebook 和阿里云学生服务器指南，快速搭建无 GPU 依赖的开发环境  \n- 利用教程中的 Streamlit 部署示例，三天内就上线了一个可交互的 Web 版论文问答 Demo  \n\nllm-universe 让零基础开发者也能高效构建真实可用的大模型应用，大幅降低入门门槛与试错成本。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_llm-universe_e3230102.png","datawhalechina","Datawhale","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fdatawhalechina_f57a6118.png","for the learner，和学习者一起成长",null,"https:\u002F\u002Fdatawhale.cn","https:\u002F\u002Fgithub.com\u002Fdatawhalechina",[83,87],{"name":84,"color":85,"percentage":86},"Jupyter Notebook","#DA5B0B",95.9,{"name":88,"color":89,"percentage":90},"Python","#3572A5",4.1,12449,1277,"2026-04-05T17:34:24","Linux, macOS, Windows","未说明",{"notes":97,"python":98,"dependencies":99},"本项目主要使用各大模型厂商提供的 API 进行应用开发，无需本地部署大模型，因此不需要 GPU 环境；个人电脑及服务器均可用于学习；环境配置可参考项目提供的阿里云服务器或 GitHub Codespaces 指南。","3.8+",[100,101,102,103,104,105,106,107,108,109],"langchain","streamlit","jupyter","tiktoken","openai","sentence-transformers","faiss-cpu","unstructured","pdfminer.six","python-dotenv",[13],[100,112],"rag",22,"2026-03-27T02:49:30.150509","2026-04-06T07:22:57.918282",[117,122,127,132,137,142,147,152],{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},453,"使用智谱AI的 ZhipuaiLLM 报错“ZhipuaiLLM is not fully defined”怎么办？","请确保传入参数时使用 model_name，并参考项目中的最新改动。错误通常是因为参数名不正确或未按要求初始化模型。正确的调用方式应为：zhipuai_model = ZhipuaiLLM(model_name=\"glm-4-plus\", temperature=0.1, api_key=api_key)。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F193",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},454,"使用 LangChain 调用 ChatGPT 时返回内容为空，但有 token 消耗，如何排查？","检查返回结果中的 'finish_reason' 字段。如果值为 'content_filter'，说明输出内容被 OpenAI 的内容过滤器拦截了。建议更换输入文本为简单内容测试，或确认是否使用的是官方 API。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F110",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},455,"调用 glm-4-plus 时出现 SSL 证书验证失败（CERTIFICATE_VERIFY_FAILED）错误怎么办？","该错误通常由网络环境限制引起（如公司防火墙拦截外部 API 请求）。可尝试联系网络管理员确认是否允许访问智谱 API。临时绕过 SSL 验证的方法（如设置 ssl._create_unverified_context）可能无效，根本解决需确保网络可正常访问外部服务。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F205",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},456,"自定义下载 nltk_data 后加载 Markdown 文件时报错“file is not in zip”如何解决？","不要手动下载并解压 nltk_data。应删除自定义的 nltk_data 目录，让代码在运行时自动下载所需资源（例如通过 UnstructuredMarkdownLoader.load() 触发下载），以避免路径或格式错误。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F183",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},457,"如何在 LLM 应用中实现流式输出（逐字显示回答）？","可通过 LangChain Expression Language (LCEL) 链结合支持流式的后端框架（如 Streamlit）实现。具体可参考 Streamlit 官方教程中的 “Build a simple chatbot GUI with streaming” 示例。项目未来也会在示例中加入流式输出功能。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F165",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},458,"高级 RAG 中的 train_dataset.json 是如何生成的？","该文件是通过运行 generate_qa_pairs.py 脚本自动生成的，脚本调用 glm-4-plus 模型根据文段生成问答对。为确保输出格式稳定，可在 prompt 中加入“严格按照以下格式回答”等约束语句。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F145",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},459,"LangChain 升级后 PDF 加载代码报错，如何修正？","由于 LangChain 拆分为多个包，需安装 langchain-community 和 PyMuPDF，并将导入语句改为：from langchain_community.document_loaders import PyMuPDFLoader。也可继续使用旧路径 from langchain.document_loaders.pdf import PyMuPDFLoader（在安装 requirements.txt 后仍兼容）。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F123",{"id":153,"question_zh":154,"answer_zh":155,"source_url":156},460,"项目中的 Gradio 应用如何启动？","直接运行项目根目录下的 run_gradio.py 文件即可同时启动前端和后端服务。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fllm-universe\u002Fissues\u002F38",[158],{"id":159,"version":160,"summary_zh":161,"released_at":162},109802,"v1","LLM Universe（动手学大模型应用开发）教程 PDF V1 版本发布！","2024-04-14T14:37:32"]