[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-bbruceyuan--Hands-On-Large-Language-Models-CN":3,"tool-bbruceyuan--Hands-On-Large-Language-Models-CN":65},[4,17,27,35,48,57],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",151918,2,"2026-04-12T11:33:05",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,3,"2026-04-06T11:19:32",[15,26,14,13],"图像",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":10,"last_commit_at":33,"category_tags":34,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":10,"last_commit_at":41,"category_tags":42,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",85092,"2026-04-10T11:13:16",[26,43,44,45,14,46,15,13,47],"数据工具","视频","插件","其他","音频",{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":54,"last_commit_at":55,"category_tags":56,"status":16},5784,"funNLP","fighting41love\u002FfunNLP","funNLP 是一个专为中文自然语言处理（NLP）打造的超级资源库，被誉为\"NLP 民工的乐园”。它并非单一的软件工具，而是一个汇集了海量开源项目、数据集、预训练模型和实用代码的综合性平台。\n\n面对中文 NLP 领域资源分散、入门门槛高以及特定场景数据匮乏的痛点，funNLP 提供了“一站式”解决方案。这里不仅涵盖了分词、命名实体识别、情感分析、文本摘要等基础任务的标准工具，还独特地收录了丰富的垂直领域资源，如法律、医疗、金融行业的专用词库与数据集，甚至包含古诗词生成、歌词创作等趣味应用。其核心亮点在于极高的全面性与实用性，从基础的字典词典到前沿的 BERT、GPT-2 模型代码，再到高质量的标注数据和竞赛方案，应有尽有。\n\n无论是刚刚踏入 NLP 领域的学生、需要快速验证想法的算法工程师，还是从事人工智能研究的学者，都能在这里找到急需的“武器弹药”。对于开发者而言，它能大幅减少寻找数据和复现模型的时间；对于研究者，它提供了丰富的基准测试资源和前沿技术参考。funNLP 以开放共享的精神，极大地降低了中文自然语言处理的开发与研究成本，是中文 AI 社区不可或缺的宝藏仓库。",79857,1,"2026-04-08T20:11:31",[15,43,46],{"id":58,"name":59,"github_repo":60,"description_zh":61,"stars":62,"difficulty_score":54,"last_commit_at":63,"category_tags":64,"status":16},6590,"gpt4all","nomic-ai\u002Fgpt4all","GPT4All 是一款让普通电脑也能轻松运行大型语言模型（LLM）的开源工具。它的核心目标是打破算力壁垒，让用户无需依赖昂贵的显卡（GPU）或云端 API，即可在普通的笔记本电脑和台式机上私密、离线地部署和使用大模型。\n\n对于担心数据隐私、希望完全掌控本地数据的企业用户、研究人员以及技术爱好者来说，GPT4All 提供了理想的解决方案。它解决了传统大模型必须联网调用或需要高端硬件才能运行的痛点，让日常设备也能成为强大的 AI 助手。无论是希望构建本地知识库的开发者，还是单纯想体验私有化 AI 聊天的普通用户，都能从中受益。\n\n技术上，GPT4All 基于高效的 `llama.cpp` 后端，支持多种主流模型架构（包括最新的 DeepSeek R1 蒸馏模型），并采用 GGUF 格式优化推理速度。它不仅提供界面友好的桌面客户端，支持 Windows、macOS 和 Linux 等多平台一键安装，还为开发者提供了便捷的 Python 库，可轻松集成到 LangChain 等生态中。通过简单的下载和配置，用户即可立即开始探索本地大模型的无限可能。",77307,"2026-04-11T06:52:37",[15,13],{"id":66,"github_repo":67,"name":68,"description_en":69,"description_zh":70,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":81,"owner_email":82,"owner_twitter":76,"owner_website":83,"owner_url":84,"languages":85,"stars":98,"forks":99,"last_commit_at":100,"license":101,"difficulty_score":10,"env_os":102,"env_gpu":103,"env_ram":104,"env_deps":105,"category_tags":115,"github_topics":116,"view_count":10,"oss_zip_url":121,"oss_zip_packed_at":121,"status":16,"created_at":122,"updated_at":123,"faqs":124,"releases":125},6871,"bbruceyuan\u002FHands-On-Large-Language-Models-CN","Hands-On-Large-Language-Models-CN","中文翻译的 Hands-On-Large-Language-Models (hands-on-llms)，动手学习大模型","Hands-On-Large-Language-Models-CN 是热门英文教程《Hands-On Large Language Models》的官方授权中文翻译与增强版，旨在帮助中文用户轻松入门大语言模型。它系统性地讲解了从基础概念（如 Token、嵌入）到 Transformer 内部机制的核心知识，有效解决了国内学习者面临的语言障碍、代码理解困难以及网络环境限制导致无法访问 Google Colab 等痛点。\n\n本项目特别适合希望从零开始掌握大模型技术的开发者、学生及研究人员。相较于原版，它不仅提供了详尽的中文代码注释和译者独到的技术见解，还针对国内网络环境进行了深度优化：预置了可在 OpenBayes 等平台直接运行的 Notebook 实例，无需特殊网络设置即可快速上手实践。此外，项目还配套了完整的中文视频讲解，覆盖 B 站与 YouTube 双平台，形成“图文 + 代码 + 视频”的立体学习体验。通过理论与实践相结合的方式，Hands-On-Large-Language-Models-CN 让复杂的大模型原理变得通俗易懂，是中文社区不可多得的优质学习资源。","# Hands-On Large Language Models CN(ZH)  -- 动手学大模型\r\n\r\n这本书（Hands-On Large Language Models）原作者是 [Jay Alammar](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fjalammar\u002F)，[Maarten Grootendorst](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fmgrootendorst\u002F)。 英文好的同学强烈推荐支持原书，访问 [原书地址](https:\u002F\u002Fgithub.com\u002FHandsOnLLM\u002FHands-On-Large-Language-Models) 。\r\n\r\n\r\n> 这是[中文版本的 hands-on LLMs](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN)，推荐大家访问原书。\r\n> \r\n> 也非常欢迎大家感兴趣可以关注公众号【[chaofa用代码打点酱油](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FWxLbKvW4_9g0ajQ0wGRruQ)】获得文字更新推送~ 或者加群来吹水聊天（🤣）\r\n\r\n\r\n## 中文版有什么特点\r\n- 对代码进行了更详细的注释，并且在**部分内容加上自己的理解**。\r\n- 有更适合国内网络环境使用的 Notebook 版本，不需要翻墙可以使用（主要是更快）\r\n  - 这里我也是为了免费用了 [openbayes](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) 的 GPU，注册可以送 5 小时 CPU 和 3 小时 4090 GPU，如果用[我的链接注册](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b)，我们都能多一个小时。能薅一点牛毛是一点是一点，目标是免费录完这次教程。\r\n  - 如果你不太喜欢 notebook 类型，更喜欢实验室这种 Linux 类型的环境，那么推荐你使用  [AIStackDC](https:\u002F\u002Faistackdc.com\u002Fphone-register?invite_code=D872A9) 算力平台，可以直接 ssh，配置好之后就是一个独立的开发机，如果使用[我的邀请链接](https:\u002F\u002Faistackdc.com\u002Fphone-register?invite_code=D872A9)，可以额外获得 2 张 1 折优惠券（5 小时）和 3 张 5 折优惠券（36 小时），这样前一百个小时基本免费吧。\r\n- **配套的中文视频讲解**。\r\n  - [YouTube 视频](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=BvdAH38BCe8) \r\n  - [B站视频-chaofa用代码打点酱油](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV16Am3Y4ES3\u002F)\r\n\r\n\r\n## 目录\r\n\r\n建议海外用户通过 Google Colab 运行所有示例，以获得最简单的设置。Google Colab 允许您免费使用具有 16GB 显存的 T4 GPU。所有示例主要使用 Google Colab 构建和测试，因此它应该是更稳定的平台。然而，任何其他云提供商都应该可以工作。 \r\n\r\n国内用户如果想要运行，最好还是用[中文可运行 Notebook](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FRhWOr6vTLN4)，你可以复制我的容器直接运行这些代码，[注册链接](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b)，这样不需要翻墙，国内网络环境访问 Google Colab 可能比较慢。\r\n\r\n\r\n| 章节 | Google Colab | 中文 Notebook\u003Cbr\u002F>复制后可直接运行| 视频讲解 \u003Cbr\u002F> (可点击)|\r\n|---|---|------|------|\r\n| 第一章: 介绍大模型  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter01\u002FChapter%201%20-%20Introduction%20to%20Language%20Models.ipynb)   | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FpfiQnfIjPo6) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV16Am3Y4ES3)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV16Am3Y4ES3\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FBvdAH38BCe8?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=BvdAH38BCe8) |\r\n| 第二章: Tokens and Embeddings  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter02\u002FChapter%202%20-%20Tokens%20and%20Token%20Embeddings.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FLkZZVWNf0F4) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1yRB8YwEBt)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1yRB8YwEBt\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FcC9W0Yv2p_k?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=cC9W0Yv2p_k)|\r\n| 第三章: Looking Inside Transformer LLMs  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter03\u002FChapter%203%20-%20Looking%20Inside%20LLMs.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FN8TSxf4B7ux) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1ZDqfYYEyB)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1ZDqfYYEyB\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FYbE-kQOaHoM?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=YbE-kQOaHoM) |  \r\n| 第四章: Text Classification  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter04\u002FChapter%204%20-%20Text%20Classification.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FjeIPTPLojfo) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1Zx6hYoEDe)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1Zx6hYoEDe\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FClsD01EqnLY)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=ClsD01EqnLY)|\r\n| 第五章: Text Clustering and Topic Modeling  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter05\u002FChapter%205%20-%20Text%20Clustering%20and%20Topic%20Modeling.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FQnc6Zlkkc5A) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1nLcVePEJV)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1nLcVePEJV\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FMFKkwIwGRcA)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=MFKkwIwGRcA)|\r\n| 第六章: Prompt Engineering  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter06\u002FChapter%206%20-%20Prompt%20Engineering.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1btTRzMEwe)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1btTRzMEwe\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002F5FzJCQEKW-o)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=5FzJCQEKW-o)|\r\n| 第七章: Advanced Text Generation Techniques and Tools  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter07\u002FChapter%207%20-%20Advanced%20Text%20Generation%20Techniques%20and%20Tools.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1DKM8zuEWc)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1DKM8zuEWc\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FdSJ6-yOala8)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=dSJ6-yOala8) |  \r\n| 第八章: Semantic Search and Retrieval-Augmented Generation  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter08\u002FChapter%208%20-%20Semantic%20Search.ipynb) \u003Cbr \u002F> [RAG 进化之路：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG](https:\u002F\u002Fyuanchaofa.com\u002Fpost\u002Ffrom-native-rag-to-agentic-rag.html) | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-code%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN\u002Ftree\u002Fmaster\u002Fchapter08) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1iLx6zRETu)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1iLx6zRETu\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002F6cuiF4Lodrs)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=6cuiF4Lodrs)  |\r\n| 第九章: Multimodal Large Language Models  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter09\u002FChapter%209%20-%20Multimodal%20Large%20Language%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\r\n| 第十章: Creating Text Embedding Models  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter10\u002FChapter%2010%20-%20Creating%20Text%20Embedding%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\r\n| 第十一章: Fine-tuning Representation Models for Classification  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter11\u002FChapter%2011%20-%20Fine-Tuning%20BERT.ipynb)  |[![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\r\n| 第 12.1 章: 大模型 SFT  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter12\u002FChapter%2012%20-%20Fine-tuning%20Generation%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FOPg9Oo99ET6) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1NM1tY3Eu5)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1NM1tY3Eu5\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FZN_tfSTTBho?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=ZN_tfSTTBho) |\r\n| bonous1 - 动手实现 LoRA（非import peft） | [LoRA 原理和 PyTorch 代码实现](https:\u002F\u002Fyuanchaofa.com\u002Fhands-on-code\u002Fhands-on-lora.html) | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FdqZ35wOdmzh) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1fHmkYyE2w)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1fHmkYyE2w\u002F)\u003Cbr \u002F> | \r\n| bonus2 从零实现 GRPO (Agent RL），用于 Agentic RAG 训练 | [RAG 进化之路：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG](https:\u002F\u002Fyuanchaofa.com\u002Fpost\u002Ffrom-native-rag-to-agentic-rag.html) |[![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-code%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN\u002Ftree\u002Fmaster\u002Fchapter08) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1yX4aznE9s)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1yX4aznE9s\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FTLDj0Cob_jk?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=TLDj0Cob_jk) |\r\n\r\n> [!TIP]\r\n> You can check the [setup](.setup\u002F) folder for a quick-start guide to install all packages locally and you can check the [conda](.setup\u002Fconda\u002F) folder for a complete guide on how to setup your environment, including conda and PyTorch installation.\r\n> Note that the depending on your OS, Python version, and dependencies your results might be slightly differ. However, they\r\n> should this be similar to the examples in the book. \r\n\r\n## 其他资源\r\n\r\nWe attempted to put as much information into the book without it being overwhelming. However, even with a 400-page book there is still much to discover! If you are interested in similar illustrated\u002Fvisual guides we created, these might be of interest to you:\r\n\r\n| [A Visual Guide to Mamba](https:\u002F\u002Fnewsletter.maartengrootendorst.com\u002Fp\u002Fa-visual-guide-to-mamba-and-state)             |  [A Visual Guide to Quantization](https:\u002F\u002Fnewsletter.maartengrootendorst.com\u002Fp\u002Fa-visual-guide-to-quantization) | [The Illustrated Stable Diffusion](https:\u002F\u002Fjalammar.github.io\u002Fillustrated-stable-diffusion\u002F) |\r\n:-------------------------:|:-------------------------:|:-------------------------:\r\n![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_e4af7546b8f8.png)  |  ![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_7968a1a71b29.png) |  ![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_9432b0ca9f0e.png)\r\n\r\n\r\n## Citation\r\n\r\nPlease consider citing the book if you consider it useful for your research:\r\n\r\n```\r\n@book{hands-on-llms-book,\r\n  author       = {Jay Alammar and Maarten Grootendorst},\r\n  title        = {Hands-On Large Language Models},\r\n  publisher    = {O'Reilly},\r\n  year         = {2024},\r\n  isbn         = {978-1098150969},\r\n  url          = {https:\u002F\u002Fwww.oreilly.com\u002Flibrary\u002Fview\u002Fhands-on-large-language\u002F9781098150952\u002F},\r\n  github       = {https:\u002F\u002Fgithub.com\u002FHandsOnLLM\u002FHands-On-Large-Language-Models}\r\n}\r\n```\r\n","# 动手学大模型 CN(ZH)  -- 动手学大模型\n\n本书（Hands-On Large Language Models）的原作者是 [Jay Alammar](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fjalammar\u002F) 和 [Maarten Grootendorst](https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fmgrootendorst\u002F)。英语较好的同学强烈推荐支持原书，访问 [原书地址](https:\u002F\u002Fgithub.com\u002FHandsOnLLM\u002FHands-On-Large-Language-Models)。\n\n> 这是[中文版本的 hands-on LLMs](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN)，推荐大家访问原书。\n>\n> 也非常欢迎大家感兴趣可以关注公众号【[chaofa用代码打点酱油](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FWxLbKvW4_9g0ajQ0wGRruQ)】获得文字更新推送~ 或者加群来吹水聊天（🤣）\n\n\n## 中文版有什么特点\n- 对代码进行了更详细的注释，并且在**部分内容加上自己的理解**。\n- 有更适合国内网络环境使用的 Notebook 版本，不需要翻墙可以使用（主要是更快）\n  - 这里我也是为了免费用了 [openbayes](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) 的 GPU，注册可以送 5 小时 CPU 和 3 小时 4090 GPU，如果用[我的链接注册](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b)，我们都能多一个小时。能薅一点牛毛是一点是一点，目标是免费录完这次教程。\n  - 如果你不太喜欢 notebook 类型，更喜欢实验室这种 Linux 类型的环境，那么推荐你使用  [AIStackDC](https:\u002F\u002Faistackdc.com\u002Fphone-register?invite_code=D872A9) 算力平台，可以直接 ssh，配置好之后就是一个独立的开发机，如果使用[我的邀请链接](https:\u002F\u002Faistackdc.com\u002Fphone-register?invite_code=D872A9)，可以额外获得 2 张 1 折优惠券（5 小时）和 3 张 5 折优惠券（36 小时），这样前一百个小时基本免费吧。\n- **配套的中文视频讲解**。\n  - [YouTube 视频](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=BvdAH38BCe8) \n  - [B站视频-chaofa用代码打点酱油](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV16Am3Y4ES3\u002F)\n\n## 目录\n\n建议海外用户通过 Google Colab 运行所有示例，以获得最简单的设置。Google Colab 允许您免费使用具有 16GB 显存的 T4 GPU。所有示例主要使用 Google Colab 构建和测试，因此它应该是更稳定的平台。然而，任何其他云提供商都应该可以工作。 \n\n国内用户如果想要运行，最好还是用[中文可运行 Notebook](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FRhWOr6vTLN4)，你可以复制我的容器直接运行这些代码，[注册链接](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b)，这样不需要翻墙，国内网络环境访问 Google Colab 可能比较慢。\n\n\n| 章节 | Google Colab | 中文 Notebook\u003Cbr\u002F>复制后可直接运行| 视频讲解 \u003Cbr\u002F> (可点击)|\n|---|---|------|------|\n| 第一章: 介绍大模型  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter01\u002FChapter%201%20-%20Introduction%20to%20Language%20Models.ipynb)   | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FpfiQnfIjPo6) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV16Am3Y4ES3)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV16Am3Y4ES3\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FBvdAH38BCe8?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=BvdAH38BCe8) |\n| 第二章: Tokens and Embeddings  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter02\u002FChapter%202%20-%20Tokens%20and%20Token%20Embeddings.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FLkZZVWNf0F4) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1yRB8YwEBt)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1yRB8YwEBt\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FcC9W0Yv2p_k?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=cC9W0Yv2p_k)|\n| 第三章: Looking Inside Transformer LLMs  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter03\u002FChapter%203%20-%20Looking%20Inside%20LLMs.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FN8TSxf4B7ux) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1ZDqfYYEyB)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1ZDqfYYEyB\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FYbE-kQOaHoM?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=YbE-kQOaHoM) |  \n| 第四章: Text Classification  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter04\u002FChapter%204%20-%20Text%20Classification.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FjeIPTPLojfo) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1Zx6hYoEDe)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1Zx6hYoEDe\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FClsD01EqnLY)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=ClsD01EqnLY)|\n| 第五章: Text Clustering and Topic Modeling  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter05\u002FChapter%205%20-%20Text%20Clustering%20and%20Topic%20Modeling.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FQnc6Zlkkc5A) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1nLcVePEJV)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1nLcVePEJV\u002F)\u003Cbr \u002F> [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FMFKkwIwGRcA)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=MFKkwIwGRcA)|\n| 第六章: Prompt Engineering  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter06\u002FChapter%206%20-%20Prompt%20Engineering.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1btTRzMEwe)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1btTRzMEwe\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002F5FzJCQEKW-o)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=5FzJCQEKW-o)|\n| 第七章: Advanced Text Generation Techniques and Tools  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter07\u002FChapter%207%20-%20Advanced%20Text%20Generation%20Techniques%20and%20Tools.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1DKM8zuEWc)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1DKM8zuEWc\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FdSJ6-yOala8)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=dSJ6-yOala8) |  \n| 第八章: Semantic Search and Retrieval-Augmented Generation  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter08\u002FChapter%208%20-%20Semantic%20Search.ipynb) \u003Cbr \u002F> [RAG 进化之路：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG](https:\u002F\u002Fyuanchaofa.com\u002Fpost\u002Ffrom-native-rag-to-agentic-rag.html) | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-code%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN\u002Ftree\u002Fmaster\u002Fchapter08) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1iLx6zRETu)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1iLx6zRETu\u002F)\u003Cbr \u002F>  [![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002F6cuiF4Lodrs)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=6cuiF4Lodrs)  |\n| 第九章: Multimodal Large Language Models  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter09\u002FChapter%209%20-%20Multimodal%20Large%20Language%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\n| 第十章: Creating Text Embedding Models  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter10\u002FChapter%2010%20-%20Creating%20Text%20Embedding%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\n| 第十一章: Fine-tuning Representation Models for Classification  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter11\u002FChapter%2011%20-%20Fine-Tuning%20BERT.ipynb)  |[![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b) | 在录了~ |\n| 第 12.1 章: 大模型 SFT  | [![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002FHandsOnLLM\u002FHands-On-Large-Language-Models\u002Fblob\u002Fmain\u002Fchapter12\u002FChapter%2012%20-%20Fine-tuning%20Generation%20Models.ipynb)  | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FOPg9Oo99ET6) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1NM1tY3Eu5)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1NM1tY3Eu5\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FZN_tfSTTBho?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=ZN_tfSTTBho) |\n| bonous1 - 动手实现 LoRA（非import peft） | [LoRA 原理和 PyTorch 代码实现](https:\u002F\u002Fyuanchaofa.com\u002Fhands-on-code\u002Fhands-on-lora.html) | [![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fnotebook-openbayes%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FdqZ35wOdmzh) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1fHmkYyE2w)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1fHmkYyE2w\u002F)\u003Cbr \u002F> | \n| bonus2 从零实现 GRPO (Agent RL），用于 Agentic RAG 训练 | [RAG 进化之路：传统 RAG 到工具与强化学习双轮驱动的 Agentic RAG](https:\u002F\u002Fyuanchaofa.com\u002Fpost\u002Ffrom-native-rag-to-agentic-rag.html) |[![中文可运行 Notebook](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fpython-code%E5%B9%B3%E5%8F%B0-pink)](https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN\u002Ftree\u002Fmaster\u002Fchapter08) | [![bilibili](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdynamic\u002Fjson?label=views&style=social&logo=bilibili&query=data.stat.view&url=https%3A%2F%2Fapi.bilibili.com%2Fx%2Fweb-interface%2Fview%3Fbvid%3DBV1yX4aznE9s)](https:\u002F\u002Fwww.bilibili.com\u002Fvideo\u002FBV1yX4aznE9s\u002F)\u003Cbr \u002F>[![Youtube](https:\u002F\u002Fimg.shields.io\u002Fyoutube\u002Fviews\u002FTLDj0Cob_jk?style=social)](https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=TLDj0Cob_jk) |\n\n> [!TIP]\n> You can check the [setup](.setup\u002F) folder for a quick-start guide to install all packages locally and you can check the [conda](.setup\u002Fconda\u002F) folder for a complete guide on how to setup your environment, including conda and PyTorch installation.\n> Note that the depending on your OS, Python version, and dependencies your results might be slightly differ. However, they\r\n> should this be similar to the examples in the book.\n\n## 其他资源\n\n我们尽力在书中尽可能多地包含信息，同时又避免内容过于冗杂。然而，即便是一本400页的书，仍然有许多值得探索的内容！如果您对我们创作的类似图文并茂的视觉指南感兴趣，以下几本可能会吸引您：\n\n| [Mamba 的视觉指南](https:\u002F\u002Fnewsletter.maartengrootendorst.com\u002Fp\u002Fa-visual-guide-to-mamba-and-state)             |  [量化技术的视觉指南](https:\u002F\u002Fnewsletter.maartengrootendorst.com\u002Fp\u002Fa-visual-guide-to-quantization) | [稳定扩散的图解](https:\u002F\u002Fjalammar.github.io\u002Fillustrated-stable-diffusion\u002F) |\r\n:-------------------------:|:-------------------------:|:-------------------------:\r\n![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_e4af7546b8f8.png)  |  ![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_7968a1a71b29.png) |  ![](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_readme_9432b0ca9f0e.png)\r\n\r\n\r\n## 引用\r\n\r\n如果您认为本书对您的研究有所帮助，请考虑引用它：\n\n```\r\n@book{hands-on-llms-book,\r\n  author       = {Jay Alammar 和 Maarten Grootendorst},\r\n  title        = {动手实践大型语言模型},\r\n  publisher    = {O'Reilly},\r\n  year         = {2024},\r\n  isbn         = {978-1098150969},\r\n  url          = {https:\u002F\u002Fwww.oreilly.com\u002Flibrary\u002Fview\u002Fhands-on-large-language\u002F9781098150952\u002F},\r\n  github       = {https:\u002F\u002Fgithub.com\u002FHandsOnLLM\u002FHands-On-Large-Language-Models}\r\n}\r\n```","# Hands-On-Large-Language-Models-CN 快速上手指南\n\n本指南旨在帮助中国开发者快速运行《动手学大模型》中文版的代码示例。本项目针对国内网络环境进行了优化，提供了可直接运行的 Notebook 环境和详细的中文视频讲解。\n\n## 1. 环境准备\n\n### 系统要求\n- **操作系统**：Linux, macOS, 或 Windows (WSL2 推荐)\n- **GPU**：推荐拥有至少 16GB 显存的 GPU（如 NVIDIA T4, A10, 4090 等）以流畅运行大部分示例。部分轻量级示例可在 CPU 上运行。\n- **Python**：版本 3.8 或更高\n\n### 前置依赖\n核心依赖包括 `PyTorch`, `Transformers`, `Datasets`, `Accelerate` 等深度学习库。\n\n> **💡 国内开发者特别推荐方案**\n>\n> 为避免配置环境和下载模型的繁琐过程，以及解决 Google Colab 在国内访问慢的问题，强烈建议直接使用云端算力平台：\n> *   **OpenBayes (贝式计算)**：项目作者已预置好所有环境和代码容器。\n>     *   **优势**：无需本地安装，注册即送免费 GPU 时长，一键复制容器即可运行。\n>     *   **入口**：[点击此处注册并获取免费时长](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fsignup?r=bbruceyuan_1o6b)\n> *   **AIStackDC**：适合偏好独立 Linux 开发机（SSH 连接）的用户。\n>     *   **优势**：提供专属开发机环境，通过邀请码可获得大量免费试用时长。\n\n如果你坚持在**本地环境**部署，请继续阅读下方的安装步骤。\n\n## 2. 安装步骤\n\n### 方案 A：使用 Conda 推荐环境（本地部署）\n\n项目提供了完整的 Conda 环境配置脚本，位于 `.setup\u002Fconda\u002F` 目录下。\n\n1.  **克隆项目代码**\n    ```bash\n    git clone https:\u002F\u002Fgithub.com\u002Fbbruceyuan\u002FHands-On-Large-Language-Models-CN.git\n    cd Hands-On-Large-Language-Models-CN\n    ```\n\n2.  **创建并激活 Conda 环境**\n    进入设置目录并执行安装脚本（确保已安装 Miniconda 或 Anaconda）：\n    ```bash\n    cd .setup\u002Fconda\n    bash create_env.sh\n    ```\n    *注：若脚本执行失败，可手动创建环境：*\n    ```bash\n    conda create -n hands-on-llm python=3.10 -y\n    conda activate hands-on-llm\n    ```\n\n3.  **安装 PyTorch 和依赖**\n    建议使用国内镜像源加速下载。以下命令基于 PyTorch 官方推荐的 CUDA 11.8 版本，并使用清华源加速：\n\n    ```bash\n    # 安装 PyTorch (使用清华镜像)\n    pip install torch torchvision torchaudio --index-url https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n\n    # 安装项目核心依赖\n    pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n\n    *如果根目录下没有 `requirements.txt`，请安装以下核心库：*\n    ```bash\n    pip install transformers datasets accelerate sentencepiece protobuf scikit-learn matplotlib seaborn -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n    ```\n\n### 方案 B：直接使用 Docker (可选)\n\n如果本地有 Docker 环境，可以构建包含所有依赖的镜像：\n```bash\ndocker build -t hands-on-llm-cn .\ndocker run --gpus all -it -v $(pwd):\u002Fworkspace hands-on-llm-cn\n```\n\n## 3. 基本使用\n\n本项目按章节组织，每一章对应一个独立的 Jupyter Notebook。\n\n### 启动 Jupyter Lab\n在激活环境后，启动交互式编程环境：\n```bash\njupyter lab\n```\n\n### 运行第一个示例\n1.  在浏览器中打开 `chapter01` 文件夹。\n2.  选择对应的 Notebook 文件，例如：\n    *   `Chapter 1 - Introduction to Language Models.ipynb`\n3.  点击单元格依次运行代码。\n\n**最简单的代码示例（测试环境）：**\n你可以在任意 Python 环境中运行以下代码验证基础库是否安装成功：\n\n```python\nfrom transformers import pipeline\n\n# 加载一个小型的中文文本生成模型进行测试\ngenerator = pipeline('text-generation', model='distilgpt2')\n\n# 简单的生成测试\nresult = generator(\"你好，我是人工智能，\", max_length=20, num_return_sequences=1)\nprint(result[0]['generated_text'])\n```\n\n### 进阶学习路径\n建议按照目录顺序学习，配合 B 站或 YouTube 的视频讲解：\n\n| 章节 | 主题 | 快速入口 (OpenBayes 容器) |\n| :--- | :--- | :--- |\n| 第一章 | 介绍大模型 | [直接运行容器](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FpfiQnfIjPo6) |\n| 第二章 | Tokens and Embeddings | [直接运行容器](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FLkZZVWNf0F4) |\n| 第三章 | 深入 Transformer 内部 | [直接运行容器](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FN8TSxf4B7ux) |\n| ... | ... | ... |\n| Bonus | 动手实现 LoRA | [直接运行容器](https:\u002F\u002Fopenbayes.com\u002Fconsole\u002Fbbruceyuan\u002Fcontainers\u002FdqZ35wOdmzh) |\n\n> **提示**：运行涉及大模型下载的代码时，国内用户建议在代码开头设置 Hugging Face 镜像，以避免下载超时：\n> ```python\n> import os\n> os.environ['HF_ENDPOINT'] = 'https:\u002F\u002Fhf-mirror.com'\n> ```","某国内高校 AI 实验室的研究生团队正试图从零开始复现大模型核心原理，以完成课程项目并深入理解 Transformer 架构。\n\n### 没有 Hands-On-Large-Language-Models-CN 时\n- **环境配置受阻**：团队依赖原版 Google Colab 示例，但受限于国内网络环境，加载代码和下载预训练模型极其缓慢甚至频繁中断，导致实验无法启动。\n- **语言与理解门槛高**：成员英语阅读能力参差不齐，面对原版英文教材中晦涩的技术术语和简略的代码注释，往往需要花费大量时间查词典仍难以吃透逻辑。\n- **缺乏本地化指导**：遇到报错时，由于没有中文视频讲解和针对性的社区讨论，排查问题只能盲目搜索英文资料，学习曲线陡峭且效率低下。\n- **算力资源浪费**：自行搭建本地 GPU 环境成本高昂，而寻找稳定的免费云端替代方案耗时耗力，严重拖慢了项目进度。\n\n### 使用 Hands-On-Large-Language-Models-CN 后\n- **一键运行无障碍**：直接复制项目中适配国内网络的 OpenBayes Notebook 容器，无需翻墙即可秒级启动实验，内置环境已预配置好所有依赖。\n- **深度中文解析**：代码中增加了详细的中文注释及作者的个人理解，配合配套的 B 站视频讲解，团队成员能快速掌握 Token 嵌入、注意力机制等核心概念。\n- **高效调试与互动**：遇到难题可参考中文视频中的分步演示，或通过公众号加入社群交流，大幅缩短了从理论到代码实现的转化时间。\n- **低成本算力支持**：利用项目推荐的注册福利，团队免费获得了充足的 4090 GPU 算力时长，零成本完成了原本昂贵的模型训练任务。\n\nHands-On-Large-Language-Models-CN 通过消除语言障碍和网络限制，让国内开发者能以最低成本、最高效率真正“动手”掌握大模型核心技术。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fbbruceyuan_Hands-On-Large-Language-Models-CN_905294f6.png","bbruceyuan","Chaofa Yuan","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fbbruceyuan_27c92cc6.jpg","博客：https:\u002F\u002Fyuanchaofa.com\r\n\r\n公众号👏：chaofa用代码打点酱油\r\n\r\nProduct: @ApeCodeAI ","Tencent","Shenzhen","bruceyuan123@gmail.com","https:\u002F\u002Fyuanchaofa.com","https:\u002F\u002Fgithub.com\u002Fbbruceyuan",[86,90,94],{"name":87,"color":88,"percentage":89},"Jupyter Notebook","#DA5B0B",99.8,{"name":91,"color":92,"percentage":93},"Python","#3572A5",0.2,{"name":95,"color":96,"percentage":97},"Shell","#89e051",0,2398,256,"2026-04-12T07:31:05","Apache-2.0","Linux, macOS, Windows","推荐 NVIDIA GPU (Google Colab T4 16GB 显存); 国内平台提供 4090 GPU; 本地安装需参考 .setup\u002Fconda 文件夹配置 PyTorch\u002FCUDA","未说明 (Colab 环境通常配备 12GB+ 系统内存)",{"notes":106,"python":107,"dependencies":108},"本项目主要基于 Jupyter Notebook 运行。海外用户推荐使用 Google Colab (免费 T4 GPU, 16GB 显存); 国内用户推荐使用 OpenBayes 或 AIStackDC 等云平台以避免网络问题并获取免费 GPU 算力。详细的本地环境配置指南（包括 Conda 和 PyTorch 安装）位于项目根目录的 .setup\u002F 和 .setup\u002Fconda\u002F 文件夹中。部分章节涉及大模型微调或多模态任务，对显存要求较高。","未说明 (需通过 conda 环境配置)",[109,110,111,112,113,114],"torch","transformers","accelerate","datasets","peft","bitsandbytes",[15],[117,118,119,120],"hands-on-llm","llms","hands-on-transformers","hans-on-llms",null,"2026-03-27T02:49:30.150509","2026-04-12T21:13:01.309608",[],[]]