[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"tool-datawhalechina--handy-ollama":3,"similar-datawhalechina--handy-ollama":121},{"id":4,"github_repo":5,"name":6,"description_en":7,"description_zh":8,"ai_summary_zh":8,"readme_en":9,"readme_zh":10,"quickstart_zh":11,"use_case_zh":12,"hero_image_url":13,"owner_login":14,"owner_name":15,"owner_avatar_url":16,"owner_bio":17,"owner_company":18,"owner_location":18,"owner_email":18,"owner_twitter":18,"owner_website":19,"owner_url":20,"languages":21,"stars":49,"forks":50,"last_commit_at":51,"license":52,"difficulty_score":53,"env_os":54,"env_gpu":55,"env_ram":56,"env_deps":57,"category_tags":67,"github_topics":71,"view_count":53,"oss_zip_url":18,"oss_zip_packed_at":18,"status":81,"created_at":82,"updated_at":83,"faqs":84,"releases":120},4883,"datawhalechina\u002Fhandy-ollama","handy-ollama","动手学Ollama，CPU玩转大模型部署，在线阅读地址：https:\u002F\u002Fdatawhalechina.github.io\u002Fhandy-ollama\u002F","handy-ollama 是一本由 Datawhale 社区打造的开源教程，旨在帮助用户轻松实现大语言模型（LLM）的本地化部署与运行。它核心解决了大模型应用门槛高、依赖昂贵 GPU 资源的痛点，让普通用户仅凭个人电脑的 CPU 即可流畅体验和管理大模型，真正打破了硬件壁垒。\n\n这份教程非常适合希望探索大模型技术但受限于计算资源的开发者、学生及 AI 爱好者。无论你是想在不联网环境下安全地管理模型，还是希望在消费级硬件上开发 RAG（检索增强生成）、Agent 等实际应用，handy-ollama 都能提供从零开始的指导。\n\n其独特亮点在于全面覆盖了 macOS、Windows、Linux 及 Docker 等多平台安装配置，并深入讲解了自定义模型导入、REST API 调用（支持 Python\u002FJava\u002FC++ 等）、LangChain 集成以及可视化界面搭建等进阶内容。作为目前唯一被 Ollama 官方仓库收录的教程，它以清晰的步骤和丰富的实战案例，助力每一位学习者快速上手，让大模型技术普惠大众。","\u003Cdiv align='center'>\n    \u003Cimg src=\".\u002Fimages\u002Fheader.svg\" alt=\"alt text\" width=\"100%\">\n    \u003Ch1>💻 handy-ollama 🦙 (🧪Beta公测版)\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub stars\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub forks\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fissues\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub issues\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flicense-CC%20BY--NC--SA%204.0-brighgreen?style=flat&logo=github\" alt=\"GitHub license\"\u002F>\n\u003Ca href=\"https:\u002F\u002Fdatawhalechina.github.io\u002Fhandy-ollama\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F在线阅读-Online%20Reading-green?style=flat&logo=gitbook\" alt=\"Online Reading\">\u003C\u002Fa>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n  \u003Ch3>📚 从零开始实现 CPU 玩转大模型部署！\u003C\u002Fh3>\n  \u003Cp>\u003Cem>动手学 Ollama，快速实现大模型本地部署\u003C\u002Fem>\u003C\u002Fp>\n\u003C\u002Fdiv>\n\n简体中文 | [English](README_en.md) \n\n> [!WARNING]\n> 🧪 Beta 公测版本提示：教程主体已完成，正在优化细节，欢迎大家提 Issue 反馈问题或建议。\n\n## 🎉官方收录\n\n**2025.11.06，本项目被 Ollama 官方仓库收录，且是目前唯一的 Tutorial：https:\u002F\u002Fgithub.com\u002Follama\u002Follama#tutorial**\n\n## 🚀 项目简介\n动手学 Ollama 教程，轻松上手实现大模型本地化部署，快速在本地管理以及运行大模型，让 CPU 也可以玩转大模型推理部署！\n\n本教程涵盖从基础入门到进阶使用的全方位内容，并通过实际应用案例深入理解和掌握大模型部署以及应用技术。我们的教程提供清晰的步骤和实用的技巧，无论是刚刚接触大模型部署的小白，还是有一定经验的开发者，都可以从零开始学习 Ollama ，实现本地部署大模型以及相关应用。\n\n本项目主要内容：\n\n1. Ollama 介绍、安装和配置，包括在 macOS、Windows、Linux 和 Docker 下的安装与配置；\n2. Ollama 自定义导入模型，包括从 GGUF 导入、从 Pytorch 或 Safetensors 导入、由模型直接导入、自定义 Prompt；\n3. Ollama REST API，包括 Ollama API 使用指南、在 Python、Java、JavaScript 和 C++ 等语言中使用 Ollama API；\n4. Ollama 在 LangChain 中的使用，包括在 Python 和 JavaScript 中的集成；\n5. Ollama 可视化界面部署和应用案例，包括使用 FastAPI 和 WebUI 部署可视化对话界面，以及本地 RAG 应用、Agent 应用等。\n\n**热忱欢迎感兴趣的同学或者开发者们 提出 issue 或者 提交 pull request，让我们一起完善这个项目！**\n\n**我们坚信：每一位对大模型充满热情的学习者，都应该有机会探索和实践。无论你的编程语言背景如何，无论你的计算资源如何，我们都希望能帮助你使用个人 PC 实现大模型部署。 让我们携手打破技术壁垒，共同开启 LLM 探索之旅！**\n\n\n目录结构说明：\n\n      docs ---------------------- Markdown 文档文件\n      notebook ------------------ Notebook 源代码文件以及部分 Python、Java 和 JavaScript 源文件 \n      images -------------------- 图片\n\n📖 在线阅读：https:\u002F\u002Fdatawhalechina.github.io\u002Fhandy-ollama\u002F\n\n\n## 💡 立项理由\n随着大模型的飞速发展，市面上出现了越来越多的开源大模型，但是许多模型的部署需要利用 GPU 资源，如何让大模型时代的红利普惠到每一个人，让每一个人都可以部署属于自己的大模型。Ollama 是一个开源的大语言部署服务工具，只需 CPU 即可部署大模型。我们希望通过动手学 Ollama 这一开源教程，帮助学习者快速上手 Ollama ，让每一位大模型爱好者、学习者以及开发者都能在本地部署自己的大模型，进而开发一些大模型应用，让大模型赋能千行百业！\n\n## 🎯 项目受众\n- 希望不受 GPU 资源限制，在本地运行大模型；\n- 希望在消费级硬件上进行大模型有效的推理；\n- 希望在本地部署大模型，开发大模型应用；\n- 希望在本地管理大模型，让本地模型安全可靠。\n\n## ✨ 项目亮点\n本项目旨在使用 CPU 部署本地大模型，虽然目前已经有很多 LLM 相关的教程，但是这些教程中模型基本上都需要 GPU 资源，这对于很多资源受限的学习者不是很友好。因此，本项目通过动手学 Ollama ，帮助学习者快速上手本地 CPU 部署大模型。\n\n\n## 📖 内容导航\n| 章节                                                                                                   | 关键内容                      | 状态  |\n|------------------------------------------------------------------------------------------------------|---------------------------|-----|\n| \u003Cstrong>第一章 Ollama 介绍\u003C\u002Fstrong>                                                                       |                           |     |\n| [1.1 Ollama 介绍](docs\u002FC1\u002F1.%20Ollama%20介绍.md)                                                         | 基础概念、核心特性                 | ✅   |\n| \u003Cstrong>第二章 Ollama 安装与配置\u003C\u002Fstrong>                                                                    |                           | ✅   |\n| [2.1 macOS 安装与配置](docs\u002FC2\u002F1.%20Ollama%20在%20macOS%20下的安装与配置.md)                                      | macOS 安装、配置               | ✅   |\n| [2.2 Windows 安装与配置](docs\u002FC2\u002F2.%20Ollama%20在%20Windows%20下的安装与配置.md)                                  | Windows 安装、配置             | ✅   |\n| [2.3 Linux 安装与配置](docs\u002FC2\u002F3.%20Ollama%20在%20Linux%20下的安装与配置.md)                                      | Linux 安装、配置               | ✅   |\n| [2.4 Docker 安装与配置](docs\u002FC2\u002F4.%20Ollama%20在%20Docker%20下的安装与配置.md)                                    | Docker 安装、配置              | ✅   |\n| \u003Cstrong>第三章 自定义使用 Ollama\u003C\u002Fstrong>                                                                    | 个性化使用                     | ✅   |\n| [3.1 自定义导入模型](docs\u002FC3\u002F1.%20自定义导入模型.md)                                                               | 外部模型导入                    | ✅   |\n| [3.2 自定义模型存储位置](docs\u002FC3\u002F2.%20自定义模型存储位置.md)                                                           | 存储路径更改                    | ✅   |\n| [3.3 自定义在 GPU 中运行](docs\u002FC3\u002F3.%20自定义在%20GPU%20中运行.md)                                                 | GPU 加速配置                  | ✅   |\n| \u003Cstrong>第四章 Ollama REST API\u003C\u002Fstrong>                                                                 |                           |     |\n| [4.1 Ollama API 使用指南](docs\u002FC4\u002F1.%20Ollama%20API%20使用指南.md)                                           | 调用规则、参数说明                 | ✅   |\n| [4.2 Python 中使用 Ollama API](docs\u002FC4\u002F2.%20在%20Python%20中使用%20Ollama%20API.md)                         | Python 调用                 | ✅   |\n| [4.3 Java 中使用 Ollama API](docs\u002FC4\u002F3.%20在%20Java%20中使用%20Ollama%20API.md)                             | Java 调用                   | ✅   |\n| [4.4 JavaScript 中使用 Ollama API](docs\u002FC4\u002F4.%20在%20JavaScript%20中使用%20Ollama%20API.md)                 | JavaScript 调用             | ✅   |\n| [4.5 C++ 中使用 Ollama API](docs\u002FC4\u002F5.%20在%20C++%20中使用%20Ollama%20API.md)                               | C++ 调用                    | ✅   |\n| [4.6 Golang 中使用 Ollama API](docs\u002FC4\u002F6.%20在%20Golang%20中使用%20Ollama%20API.md)                         | Golang 调用                 | ✅   |\n| C# 中使用 Ollama API                                                                                    | C# 调用（待更）                 | 🚧  |\n| Rust 中使用 Ollama API                                                                                  | Rust 调用（待更）               | 🚧  |\n| Ruby 中使用 Ollama API                                                                                  | Ruby 调用（待更）               | 🚧  |\n| R 中使用 Ollama API                                                                                     | R 调用（待更）                  | 🚧  |\n| \u003Cstrong>第五章 Ollama 在 LangChain 中的使用\u003C\u002Fstrong>                                                         |                           |     |\n| [5.1 Python 中的集成](docs\u002FC5\u002F1.%20Ollama%20在%20LangChain%20中的使用%20-%20Python%20集成.md)                   | Python + LangChain 集成     | ✅   |\n| [5.2 JavaScript 中的集成](docs\u002FC5\u002F2.%20Ollama%20在%20LangChain%20中的使用%20-%20JavaScript%20集成.md)           | JavaScript + LangChain 集成 | ✅   |\n| \u003Cstrong>第六章 Ollama 可视化界面部署\u003C\u002Fstrong>                                                                  |                           |     |\n| [6.1 FastAPI 部署可视化界面](docs\u002FC6\u002F1.%20使用%20FastAPI%20部署%20Ollama%20可视化对话界面.md)                          | FastAPI 部署                | ✅   |\n| [6.2 WebUI 部署可视化界面](docs\u002FC6\u002F2.%20使用%20WebUI%20部署%20Ollama%20可视化对话界面.md)                              | WebUI 部署                  | ✅   |\n| \u003Cstrong>第七章 应用案例\u003C\u002Fstrong>                                                                            |                           |     |\n| [7.1 搭建本地 AI Copilot 编程助手](docs\u002FC7\u002F1.%20搭建本地的%20AI%20Copilot%20编程助手.md)                              | 本地编程助手                    | ✅   |\n| [7.2 Dify 接入本地模型](docs\u002FC7\u002F2.%20Dify%20接入%20Ollama%20部署的本地模型.md)                                      | Dify 集成本地模型               | ✅   |\n| [7.3 LangChain 搭建本地 RAG 应用](docs\u002FC7\u002F3.%20使用%20LangChain%20搭建本地%20RAG%20应用.md)                        | LangChain + 本地 RAG        | ✅   |\n| [7.4 LlamaIndex 搭建本地 RAG 应用](docs\u002FC7\u002F4.%20使用%20LlamaIndex%20搭建本地%20RAG%20应用.md)                      | LlamaIndex + 本地 RAG       | ✅   |\n| [7.5 LangChain 实现本地 Agent](docs\u002FC7\u002F5.%20使用%20LangChain%20实现本地%20Agent.md)                            | LangChain + 本地 Agent      | ✅   |\n| [7.6 LlamaIndex 实现本地 Agent](docs\u002FC7\u002F6.%20使用%20LlamaIndex%20实现本地%20Agent.md)                          | LlamaIndex + 本地 Agent     | ✅   |\n| [7.7 DeepSeek R1 + Ollama 本地 RAG](docs\u002FC7\u002F7.%20使用%20DeepSeek%20R1%20和%20Ollama%20实现本地%20RAG%20应用.md) | DeepSeek R1 + 本地 RAG      | ✅   |\n| ...                                                                                                  | ...                       | ... |\n\n**_注：所有标记（待更新）的内容，以及其他相关的内容，热忱欢迎感兴趣的开发者们 提出 issue 或者 提交 pull request，让我们一起完善这个项目！_**\n\n**想要深度参与的同学可以联系我们，我们会将你加入到项目的维护者中。**\n\n\n## 🙏 致谢\n\n### 核心贡献者\n\n- [张友东](https:\u002F\u002Fgithub.com\u002FAXYZdong)（Datawhale成员）\n- [林通](https:\u002F\u002Fgithub.com\u002Fkjlintong)（Datawhale成员）\n- [柴春阳](https:\u002F\u002Fgithub.com\u002FSpringff)（内容创作者）\n- [王莹莹](https:\u002F\u002Fgithub.com\u002Ffuyueagain)（Datawhale成员）\n- [曾鑫民](https:\u002F\u002Fgithub.com\u002Ffancyboi999)（内容创作者）\n- [娄天奥](https:\u002F\u002Fgithub.com\u002Flta155)（Datawhale成员）\n- [杨卓](https:\u002F\u002Fgithub.com\u002Flittle1d)（内容创作者）\n- [姜舒凡](https:\u002F\u002Fgithub.com\u002FTsumugii24)（Datawhale成员）\n- [曹越](https:\u002F\u002Fgithub.com\u002Frainsubtime)（内容创作者）\n- [王晓亮](https:\u002F\u002Fgithub.com\u002Ftomowang)（Datawhale成员）\n\n\n### 特别感谢\n- Ollama 官方仓库：https:\u002F\u002Fgithub.com\u002Follama\u002Follama\n- 感谢  [@Sm1les](https:\u002F\u002Fgithub.com\u002FSm1les) 对本项目的帮助与支持\n- 感谢所有为本项目做出贡献的开发者们 ❤️\n\n\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FAXYZdong\u002Fhandy-ollama\u002Fgraphs\u002Fcontributors\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_handy-ollama_readme_8087e8348097.png\" \u002F>\n\u003C\u002Fa>\n\n## Star History\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_handy-ollama_readme_78bfcb19a8d7.png)](https:\u002F\u002Fstar-history.com\u002F#datawhalechina\u002Fhandy-ollama&Date)\n\n## LICENSE\n\n\u003Ca rel=\"license\" href=\"http:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F\">\u003Cimg alt=\"知识共享许可协议\" style=\"border-width:0\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flicense-CC%20BY--NC--SA%204.0-lightgrey\" \u002F>\u003C\u002Fa>\u003Cbr \u002F>本作品采用\u003Ca rel=\"license\" href=\"http:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F\">知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议\u003C\u002Fa>进行许可。\n","\u003Cdiv align='center'>\n    \u003Cimg src=\".\u002Fimages\u002Fheader.svg\" alt=\"alt text\" width=\"100%\">\n    \u003Ch1>💻 handy-ollama 🦙 (🧪Beta公测版)\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub stars\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub forks\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fissues\u002Fdatawhalechina\u002Fhandy-ollama?style=flat&logo=github\" alt=\"GitHub issues\"\u002F>\n  \u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flicense-CC%20BY--NC--SA%204.0-brighgreen?style=flat&logo=github\" alt=\"GitHub license\"\u002F>\n\u003Ca href=\"https:\u002F\u002Fdatawhalechina.github.io\u002Fhandy-ollama\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F在线阅读-Online%20Reading-green?style=flat&logo=gitbook\" alt=\"Online Reading\">\u003C\u002Fa>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\">\n  \u003Ch3>📚 从零开始实现 CPU 玩转大模型部署！\u003C\u002Fh3>\n  \u003Cp>\u003Cem>动手学 Ollama，快速实现大模型本地部署\u003C\u002Fem>\u003C\u002Fp>\n\u003C\u002Fdiv>\n\n简体中文 | [English](README_en.md) \n\n> [!WARNING]\n> 🧪 Beta 公测版本提示：教程主体已完成，正在优化细节，欢迎大家提 Issue 反馈问题或建议。\n\n## 🎉官方收录\n\n**2025.11.06，本项目被 Ollama 官方仓库收录，且是目前唯一的 Tutorial：https:\u002F\u002Fgithub.com\u002Follama\u002Follama#tutorial**\n\n## 🚀 项目简介\n动手学 Ollama 教程，轻松上手实现大模型本地化部署，快速在本地管理以及运行大模型，让 CPU 也可以玩转大模型推理部署！\n\n本教程涵盖从基础入门到进阶使用的全方位内容，并通过实际应用案例深入理解和掌握大模型部署以及应用技术。我们的教程提供清晰的步骤和实用的技巧，无论是刚刚接触大模型部署的小白，还是有一定经验的开发者，都可以从零开始学习 Ollama ，实现本地部署大模型以及相关应用。\n\n本项目主要内容：\n\n1. Ollama 介绍、安装和配置，包括在 macOS、Windows、Linux 和 Docker 下的安装与配置；\n2. Ollama 自定义导入模型，包括从 GGUF 导入、从 Pytorch 或 Safetensors 导入、由模型直接导入、自定义 Prompt；\n3. Ollama REST API，包括 Ollama API 使用指南、在 Python、Java、JavaScript 和 C++ 等语言中使用 Ollama API；\n4. Ollama 在 LangChain 中的使用，包括在 Python 和 JavaScript 中的集成；\n5. Ollama 可视化界面部署和应用案例，包括使用 FastAPI 和 WebUI 部署可视化对话界面，以及本地 RAG 应用、Agent 应用等。\n\n**热忱欢迎感兴趣的同学或者开发者们 提出 issue 或者 提交 pull request，让我们一起完善这个项目！**\n\n**我们坚信：每一位对大模型充满热情的学习者，都应该有机会探索和实践。无论你的编程语言背景如何，无论你的计算资源如何，我们都希望能帮助你使用个人 PC 实现大模型部署。 让我们携手打破技术壁垒，共同开启 LLM 探索之旅！**\n\n\n目录结构说明：\n\n      docs ---------------------- Markdown 文档文件\n      notebook ------------------ Notebook 源代码文件以及部分 Python、Java 和 JavaScript 源文件 \n      images -------------------- 图片\n\n📖 在线阅读：https:\u002F\u002Fdatawhalechina.github.io\u002Fhandy-ollama\u002F\n\n\n## 💡 立项理由\n随着大模型的飞速发展，市面上出现了越来越多的开源大模型，但是许多模型的部署需要利用 GPU 资源，如何让大模型时代的红利普惠到每一个人，让每一个人都可以部署属于自己的大模型。Ollama 是一个开源的大语言部署服务工具，只需 CPU 即可部署大模型。我们希望通过动手学 Ollama 这一开源教程，帮助学习者快速上手 Ollama ，让每一位大模型爱好者、学习者以及开发者都能在本地部署自己的大模型，进而开发一些大模型应用，让大模型赋能千行百业！\n\n## 🎯 项目受众\n- 希望不受 GPU 资源限制，在本地运行大模型；\n- 希望在消费级硬件上进行大模型有效的推理；\n- 希望在本地部署大模型，开发大模型应用；\n- 希望在本地管理大模型，让本地模型安全可靠。\n\n## ✨ 项目亮点\n本项目旨在使用 CPU 部署本地大模型，虽然目前已经有很多 LLM 相关的教程，但是这些教程中模型基本上都需要 GPU 资源，这对于很多资源受限的学习者不是很友好。因此，本项目通过动手学 Ollama ，帮助学习者快速上手本地 CPU 部署大模型。\n\n## 📖 内容导航\n| 章节                                                                                                   | 关键内容                      | 状态  |\n|------------------------------------------------------------------------------------------------------|---------------------------|-----|\n| \u003Cstrong>第一章 Ollama 介绍\u003C\u002Fstrong>                                                                       |                           |     |\n| [1.1 Ollama 介绍](docs\u002FC1\u002F1.%20Ollama%20介绍.md)                                                         | 基础概念、核心特性                 | ✅   |\n| \u003Cstrong>第二章 Ollama 安装与配置\u003C\u002Fstrong>                                                                    |                           | ✅   |\n| [2.1 macOS 安装与配置](docs\u002FC2\u002F1.%20Ollama%20在%20macOS%20下的安装与配置.md)                                      | macOS 安装、配置               | ✅   |\n| [2.2 Windows 安装与配置](docs\u002FC2\u002F2.%20Ollama%20在%20Windows%20下的安装与配置.md)                                  | Windows 安装、配置             | ✅   |\n| [2.3 Linux 安装与配置](docs\u002FC2\u002F3.%20Ollama%20在%20Linux%20下的安装与配置.md)                                      | Linux 安装、配置               | ✅   |\n| [2.4 Docker 安装与配置](docs\u002FC2\u002F4.%20Ollama%20在%20Docker%20下的安装与配置.md)                                    | Docker 安装、配置              | ✅   |\n| \u003Cstrong>第三章 自定义使用 Ollama\u003C\u002Fstrong>                                                                    | 个性化使用                     | ✅   |\n| [3.1 自定义导入模型](docs\u002FC3\u002F1.%20自定义导入模型.md)                                                               | 外部模型导入                    | ✅   |\n| [3.2 自定义模型存储位置](docs\u002FC3\u002F2.%20自定义模型存储位置.md)                                                           | 存储路径更改                    | ✅   |\n| [3.3 自定义在 GPU 中运行](docs\u002FC3\u002F3.%20自定义在%20GPU%20中运行.md)                                                 | GPU 加速配置                  | ✅   |\n| \u003Cstrong>第四章 Ollama REST API\u003C\u002Fstrong>                                                                 |                           |     |\n| [4.1 Ollama API 使用指南](docs\u002FC4\u002F1.%20Ollama%20API%20使用指南.md)                                           | 调用规则、参数说明                 | ✅   |\n| [4.2 Python 中使用 Ollama API](docs\u002FC4\u002F2.%20在%20Python%20中使用%20Ollama%20API.md)                         | Python 调用                 | ✅   |\n| [4.3 Java 中使用 Ollama API](docs\u002FC4\u002F3.%20在%20Java%20中使用%20Ollama%20API.md)                             | Java 调用                   | ✅   |\n| [4.4 JavaScript 中使用 Ollama API](docs\u002FC4\u002F4.%20在%20JavaScript%20中使用%20Ollama%20API.md)                 | JavaScript 调用             | ✅   |\n| [4.5 C++ 中使用 Ollama API](docs\u002FC4\u002F5.%20在%20C++%20中使用%20Ollama%20API.md)                               | C++ 调用                    | ✅   |\n| [4.6 Golang 中使用 Ollama API](docs\u002FC4\u002F6.%20在%20Golang%20中使用%20Ollama%20API.md)                         | Golang 调用                 | ✅   |\n| C# 中使用 Ollama API                                                                                    | C# 调用（待更）                 | 🚧  |\n| Rust 中使用 Ollama API                                                                                  | Rust 调用（待更）               | 🚧  |\n| Ruby 中使用 Ollama API                                                                                  | Ruby 调用（待更）               | 🚧  |\n| R 中使用 Ollama API                                                                                     | R 调用（待更）                  | 🚧  |\n| \u003Cstrong>第五章 Ollama 在 LangChain 中的使用\u003C\u002Fstrong>                                                         |                           |     |\n| [5.1 Python 中的集成](docs\u002FC5\u002F1.%20Ollama%20在%20LangChain%20中的使用%20-%20Python%20集成.md)                   | Python + LangChain 集成     | ✅   |\n| [5.2 JavaScript 中的集成](docs\u002FC5\u002F2.%20Ollama%20在%20LangChain%20中的使用%20-%20JavaScript%20集成.md)           | JavaScript + LangChain 集成 | ✅   |\n| \u003Cstrong>第六章 Ollama 可视化界面部署\u003C\u002Fstrong>                                                                  |                           |     |\n| [6.1 FastAPI 部署可视化界面](docs\u002FC6\u002F1.%20使用%20FastAPI%20部署%20Ollama%20可视化对话界面.md)                          | FastAPI 部署                | ✅   |\n| [6.2 WebUI 部署可视化界面](docs\u002FC6\u002F2.%20使用%20WebUI%20部署%20Ollama%20可视化对话界面.md)                              | WebUI 部署                  | ✅   |\n| \u003Cstrong>第七章 应用案例\u003C\u002Fstrong>                                                                            |                           |     |\n| [7.1 搭建本地 AI Copilot 编程助手](docs\u002FC7\u002F1.%20搭建本地的%20AI%20Copilot%20编程助手.md)                              | 本地编程助手                    | ✅   |\n| [7.2 Dify 接入本地模型](docs\u002FC7\u002F2.%20Dify%20接入%20Ollama%20部署的本地模型.md)                                      | Dify 集成本地模型               | ✅   |\n| [7.3 LangChain 搭建本地 RAG 应用](docs\u002FC7\u002F3.%20使用%20LangChain%20搭建本地%20RAG%20应用.md)                        | LangChain + 本地 RAG        | ✅   |\n| [7.4 LlamaIndex 搭建本地 RAG 应用](docs\u002FC7\u002F4.%20使用%20LlamaIndex%20搭建本地%20RAG%20应用.md)                      | LlamaIndex + 本地 RAG       | ✅   |\n| [7.5 LangChain 实现本地 Agent](docs\u002FC7\u002F5.%20使用%20LangChain%20实现本地%20Agent.md)                            | LangChain + 本地 Agent      | ✅   |\n| [7.6 LlamaIndex 实现本地 Agent](docs\u002FC7\u002F6.%20使用%20LlamaIndex%20实现本地%20Agent.md)                          | LlamaIndex + 本地 Agent     | ✅   |\n| [7.7 DeepSeek R1 + Ollama 本地 RAG](docs\u002FC7\u002F7.%20使用%20DeepSeek%20R1%20和%20Ollama%20实现本地%20RAG%20应用.md) | DeepSeek R1 + 本地 RAG      | ✅   |\n| ...                                                                                                  | ...                       | ... |\n\n**_注：所有标记（待更新）的内容，以及其他相关的内容，热忱欢迎感兴趣的开发者们 提出 issue 或者 提交 pull request，让我们一起完善这个项目！_**\n\n**想要深度参与的同学可以联系我们，我们会将你加入到项目的维护者中。**\n\n\n## 🙏 致谢\n\n### 核心贡献者\n\n- [张友东](https:\u002F\u002Fgithub.com\u002FAXYZdong)（Datawhale成员）\n- [林通](https:\u002F\u002Fgithub.com\u002Fkjlintong)（Datawhale成员）\n- [柴春阳](https:\u002F\u002Fgithub.com\u002FSpringff)（内容创作者）\n- [王莹莹](https:\u002F\u002Fgithub.com\u002Ffuyueagain)（Datawhale成员）\n- [曾鑫民](https:\u002F\u002Fgithub.com\u002Ffancyboi999)（内容创作者）\n- [娄天奥](https:\u002F\u002Fgithub.com\u002Flta155)（Datawhale成员）\n- [杨卓](https:\u002F\u002Fgithub.com\u002Flittle1d)（内容创作者）\n- [姜舒凡](https:\u002F\u002Fgithub.com\u002FTsumugii24)（Datawhale成员）\n- [曹越](https:\u002F\u002Fgithub.com\u002Frainsubtime)（内容创作者）\n- [王晓亮](https:\u002F\u002Fgithub.com\u002Ftomowang)（Datawhale成员）\n\n\n### 特别感谢\n- Ollama 官方仓库：https:\u002F\u002Fgithub.com\u002Follama\u002Follama\n- 感谢  [@Sm1les](https:\u002F\u002Fgithub.com\u002FSm1les) 对本项目的帮助与支持\n- 感谢所有为本项目做出贡献的开发者们 ❤️\n\n\u003Ca href=\"https:\u002F\u002Fgithub.com\u002FAXYZdong\u002Fhandy-ollama\u002Fgraphs\u002Fcontributors\">\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_handy-ollama_readme_8087e8348097.png\" \u002F>\n\u003C\u002Fa>\n\n## Star History\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_handy-ollama_readme_78bfcb19a8d7.png)](https:\u002F\u002Fstar-history.com\u002F#datawhalechina\u002Fhandy-ollama&Date)\n\n## LICENSE\n\n\u003Ca rel=\"license\" href=\"http:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F\">\u003Cimg alt=\"知识共享许可协议\" style=\"border-width:0\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flicense-CC%20BY--NC--SA%204.0-lightgrey\" \u002F>\u003C\u002Fa>\u003Cbr \u002F>本作品采用\u003Ca rel=\"license\" href=\"http:\u002F\u002Fcreativecommons.org\u002Flicenses\u002Fby-nc-sa\u002F4.0\u002F\">知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议\u003C\u002Fa>进行许可。","# handy-ollama 快速上手指南\n\n## 📋 环境准备\n\n**系统要求：**\n- **操作系统**：macOS、Windows 10\u002F11、Linux (Ubuntu\u002FDebian\u002FCentOS 等) 或 Docker 环境\n- **硬件配置**：仅需 CPU 即可运行（支持 GPU 加速可选），推荐内存 8GB 以上\n- **网络环境**：需能访问 Hugging Face 或 ModelScope（魔搭社区）下载模型\n\n**前置依赖：**\n- 无需复杂的 Python 环境或 CUDA 驱动（基础运行）\n- 若使用 Docker，请预先安装 Docker Desktop 或 Docker Engine\n\n---\n\n## 🚀 安装步骤\n\n根据你的操作系统选择以下一种安装方式：\n\n### 方案一：macOS \u002F Windows \u002F Linux 原生安装\n\n访问官网或 GitHub Release 页面下载对应系统的安装包：\n- **macOS**: 下载 `.dmg` 文件并拖拽安装\n- **Windows**: 下载 `.exe` 安装包一键安装\n- **Linux**: 执行官方一键安装脚本\n\n```bash\ncurl -fsSL https:\u002F\u002Follama.com\u002Finstall.sh | sh\n```\n\n> 💡 **国内加速建议**：若下载速度慢，可尝试配置代理或使用国内镜像源拉取模型。\n\n### 方案二：Docker 部署（推荐跨平台用户）\n\n拉取镜像并启动容器：\n\n```bash\ndocker run -d -v ollama:\u002Froot\u002F.ollama -p 11434:11434 --name ollama ollama\u002Follama\n```\n\n验证安装是否成功：\n\n```bash\ndocker exec -it ollama ollama -v\n```\n\n---\n\n## 🛠️ 基本使用\n\n### 1. 拉取并运行模型\n\n以最流行的 `Llama 3` 模型为例，在终端执行以下命令即可自动下载并运行：\n\n```bash\nollama run llama3\n```\n\n*注：首次运行会自动下载模型文件，后续启动将秒开。*\n\n### 2. 交互式对话\n\n命令执行后进入交互模式，直接输入问题即可：\n\n```text\n>>> 你好，请介绍一下你自己\n>>> 如何用 Python 实现快速排序？\n>>> \u002Fbye  (退出对话)\n```\n\n### 3. 常用管理命令\n\n在另一个终端窗口中，你可以管理本地模型：\n\n```bash\n# 查看已下载的模型列表\nollama list\n\n# 删除指定模型\nollama rm llama3\n\n# 查看正在运行的模型服务状态\nollama ps\n```\n\n### 4. 通过 API 调用（开发者必备）\n\nOllama 默认在 `http:\u002F\u002Flocalhost:11434` 启动服务。使用 `curl` 测试 API：\n\n```bash\ncurl http:\u002F\u002Flocalhost:11434\u002Fapi\u002Fgenerate -d '{\n  \"model\": \"llama3\",\n  \"prompt\":\"Hello!\",\n  \"stream\": false\n}'\n```\n\n现在你已经成功在本地 CPU 上部署并运行了大模型！接下来可以探索自定义导入模型、LangChain 集成或搭建 RAG 应用等进阶功能。","某初创团队的数据分析师需要在无 GPU 资源的普通办公笔记本上，快速搭建一个基于本地私有文档的智能问答原型，以验证内部知识库检索的可行性。\n\n### 没有 handy-ollama 时\n- **硬件门槛高**：传统大模型部署强依赖昂贵显卡，普通 CPU 笔记本无法运行，导致团队成员只能租用云端算力，成本高昂且配置环境繁琐。\n- **学习曲线陡峭**：缺乏系统化的中文教程，开发者需自行摸索 GGUF 格式转换、量化参数调整及底层推理引擎配置，极易因环境报错而放弃。\n- **应用集成困难**：不清楚如何通过 REST API 将模型接入现有 Python 或 LangChain 项目，更难以在本地快速构建可视化的 Web 对话界面进行演示。\n- **数据安全隐患**：为测试效果被迫将敏感文档上传至第三方在线模型，存在核心数据泄露风险，无法满足企业级隐私合规要求。\n\n### 使用 handy-ollama 后\n- **零成本本地运行**：跟随教程在 Windows\u002FmacOS 上一键安装，直接利用 CPU 即可流畅运行量化后的大模型，无需任何 GPU 资源，彻底打破硬件限制。\n- **全流程指引清晰**：从自定义导入 GGUF 模型到编写 Modelfile，步骤详尽的实战文档让新手也能在半小时内完成从安装到首条指令交互的全过程。\n- **开发效率倍增**：通过提供的 API 调用示例和 FastAPI\u002FWebUI 部署案例，迅速将模型集成至本地 RAG 应用中，当天即可产出可交互的原型系统。\n- **数据完全可控**：所有推理过程均在本地闭环完成，敏感业务数据无需出域，既保障了信息安全，又实现了低延迟的实时响应。\n\nhandy-ollama 让每一位开发者都能凭借普通电脑轻松跨越大模型部署的技术鸿沟，真正实现“人人可拥有”的本地化 AI 应用开发。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fdatawhalechina_handy-ollama_458055fd.png","datawhalechina","Datawhale","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fdatawhalechina_f57a6118.png","for the learner，和学习者一起成长",null,"https:\u002F\u002Fdatawhale.cn","https:\u002F\u002Fgithub.com\u002Fdatawhalechina",[22,26,30,34,38,42,45],{"name":23,"color":24,"percentage":25},"Jupyter Notebook","#DA5B0B",92.8,{"name":27,"color":28,"percentage":29},"Python","#3572A5",3,{"name":31,"color":32,"percentage":33},"JavaScript","#f1e05a",1.4,{"name":35,"color":36,"percentage":37},"HTML","#e34c26",1.3,{"name":39,"color":40,"percentage":41},"Java","#b07219",0.7,{"name":43,"color":44,"percentage":41},"Go","#00ADD8",{"name":46,"color":47,"percentage":48},"C++","#f34b7d",0,2321,294,"2026-04-06T11:53:38","NOASSERTION",2,"Linux, macOS, Windows","非必需（项目核心亮点为支持纯 CPU 部署）；若需加速可配置 GPU（文档提及“自定义在 GPU 中运行”章节，但未指定具体型号、显存或 CUDA 版本要求）","未说明（取决于所部署的大模型大小，消费级硬件即可运行）",{"notes":58,"python":59,"dependencies":60},"本项目核心目标是让用户在无需 GPU 的情况下，仅使用 CPU 和个人 PC 即可部署和运行大模型。支持通过 Docker 容器化部署。教程包含从 GGUF、Pytorch 或 Safetensors 导入模型的指南。部分高级应用（如 RAG、Agent）需额外安装 LangChain 或 LlamaIndex 等库。","未说明（教程涵盖 Python 调用示例，但未指定解释器版本要求）",[61,62,63,64,65,66],"Ollama","LangChain","FastAPI","WebUI","LlamaIndex","Dify",[68,69,70],"Agent","开发框架","语言模型",[72,73,74,75,76,77,78,79,80],"large-language-models","llm","ollama","tutorial","agent","gguf","langchain","llamaindex","rag","ready","2026-03-27T02:49:30.150509","2026-04-07T13:32:04.313571",[85,90,95,100,105,110,115],{"id":86,"question_zh":87,"answer_zh":88,"source_url":89},22193,"在 Linux ARM64 系统解压后执行 ollama 命令报错 \"cannot execute binary file\" 是什么原因？","通常是因为下载了与操作系统架构不符的安装包（例如在 x86_64 系统下载了 arm64 包，或反之）。\n解决方案：\n1. 执行 `uname -m` 查看当前系统架构。\n2. 使用官方安装脚本自动匹配架构安装：`curl -fsSL https:\u002F\u002Follama.com\u002Finstall.sh | sh`\n3. 如果手动安装，请确保下载的 tar 包架构与 `uname -m` 输出一致。\n4. 若确认无误仍报错，尝试重启或新建终端会话。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F30",{"id":91,"question_zh":92,"answer_zh":93,"source_url":94},22194,"运行命令时提示模型 \"nomic-embed-textO does not exist\" 怎么办？","这是因为文档或命令中模型名称拼写错误，多了一个字母 'O'。\n正确的模型名称是 `nomic-embed-text`。\n请使用以下正确命令拉取模型：\n```bash\nollama pull nomic-embed-text\n```","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F35",{"id":96,"question_zh":97,"answer_zh":98,"source_url":99},22195,"在 Python 中使用 Ollama API 调用 Client 时报错 \"ResponseError: status code:503\" 如何解决？","该问题常见于 Windows 和部分 Linux 系统。原因是 Ollama 默认监听 IPv4，而代码中的 `localhost` 默认解析为 IPv6，导致连接失败。\n解决方案（任选其一）：\n1. 【推荐】代码中将 host 的 `localhost` 手动修改为 `127.0.0.1`。\n2. 修改系统 hosts 文件，将 `localhost` 强制解析为 `127.0.0.1`。\n3. 配置 Ollama 使其监听 IPv6 地址。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F40",{"id":101,"question_zh":102,"answer_zh":103,"source_url":104},22196,"Ollama 支持批量处理（Batch Inference）吗？如何实现？","支持。Ollama 自 v0.2.0 版本起原生支持批处理功能。\n实现方式：可以通过结合 `ollama` 和 `litellm` 库来实现批量推理（batch inference）。\n参考文档：https:\u002F\u002Fdocs.litellm.ai\u002Fdocs\u002Fcompletion\u002Fbatching","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F19",{"id":106,"question_zh":107,"answer_zh":108,"source_url":109},22197,"运行 LangChain 代码 `chain.invoke(docs)` 时没有任何输出，也没有报错，是怎么回事？","这通常不是代码错误，而是运行环境导致的显示问题。\n如果在 PyCharm 等 IDE 中运行 `.py` 文件而不是 Jupyter Notebook，LangChain 的返回对象不会自动打印到控制台。\n解决方法：需要使用 `print()` 函数显式输出结果，例如：\n```python\nprint(chain.invoke(docs))\n```","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F22",{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},22198,"如何在拥有多块显卡的服务器上，指定特定显卡运行特定的大模型？","目前 Issue 中用户提出了该需求（例如想让第一块卡跑 Qwen，第二块卡跑 DeepSeek），但该项目下的讨论区暂未提供具体的官方配置命令或代码示例。建议查阅 Ollama 官方关于 `OLLAMA_GPU_LAYERS` 或 Docker 设备映射的高级文档，或通过设置 `CUDA_VISIBLE_DEVICES` 环境变量在启动不同 Ollama 实例时隔离显卡资源。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F38",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},22199,"在内网环境中，如何单独获取大模型的 Modelfile 文件？","当服务器处于内网，只能通过外部下载模型文件再导入时，确实需要单独获取 Modelfile。目前该 Issue 下暂无直接回复。通常的变通方法是：在有网的机器上使用 `ollama show --modelfile \u003C模型名>` 命令查看并复制内容，或者在 Ollama 官方 GitHub 仓库的 library 目录中找到对应模型的 Modelfile 源码进行下载。","https:\u002F\u002Fgithub.com\u002Fdatawhalechina\u002Fhandy-ollama\u002Fissues\u002F37",[],[122,132,140,148,156,165],{"id":123,"name":124,"github_repo":125,"description_zh":126,"stars":127,"difficulty_score":29,"last_commit_at":128,"category_tags":129,"status":81},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,"2026-04-06T06:32:30",[68,69,130,131],"图像","数据工具",{"id":133,"name":134,"github_repo":135,"description_zh":136,"stars":137,"difficulty_score":29,"last_commit_at":138,"category_tags":139,"status":81},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[69,130,68],{"id":141,"name":142,"github_repo":143,"description_zh":144,"stars":145,"difficulty_score":53,"last_commit_at":146,"category_tags":147,"status":81},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",142651,"2026-04-06T23:34:12",[69,68,70],{"id":149,"name":150,"github_repo":151,"description_zh":152,"stars":153,"difficulty_score":53,"last_commit_at":154,"category_tags":155,"status":81},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,"2026-04-06T11:32:50",[69,130,68],{"id":157,"name":158,"github_repo":159,"description_zh":160,"stars":161,"difficulty_score":53,"last_commit_at":162,"category_tags":163,"status":81},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[164,69],"插件",{"id":166,"name":167,"github_repo":168,"description_zh":169,"stars":170,"difficulty_score":29,"last_commit_at":171,"category_tags":172,"status":81},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[70,130,68,69]]