AI 工程书籍及其他资源

本仓库将在接下来的几周内持续更新更多资源。

• 关于《AI 工程》一书

  • 目录
  • 各章概要
  • 学习笔记

• AI 工程资源

• 提示词示例

• 案例研究

• 对齐问题与 AI

• 附录

• 有趣工具：

  • ChatGPT 和 Claude 对话热力图生成器

• 还有更多……

关于本书

基础模型的出现，使 AI 从一门专业学科转变为人人都能使用的强大开发工具。本书涵盖了将基础模型应用于解决现实世界问题的端到端流程，既包括来自其他工程领域的成熟技术，也涵盖了随着基础模型兴起而出现的新方法。

本书可在以下平台购买：

• 亚马逊
• O'Reilly
• Kindle

以及大多数销售技术类书籍的渠道。

本书并非教程类书籍，因此不包含大量代码片段。

本书内容概述

本书提供了一套框架，用于将包括大型语言模型（LLM）和大型多模态模型（LMM）在内的基础模型适配到具体应用场景中。它不仅概述了构建 AI 应用的各种方案，还提出了可以帮助您评估最适合自身需求的解决方案的问题。以下是本书能够帮助您解答的部分问题：

1. 我是否应该构建这个 AI 应用？
2. 如何评估我的应用？能否使用 AI 来评估 AI 的输出？
3. 幻觉现象由什么引起？如何检测并缓解幻觉？
4. 提示工程的最佳实践是什么？
5. RAG 为何有效？实施 RAG 的策略有哪些？
6. 什么是智能体？如何构建并评估一个智能体？
7. 何时需要对模型进行微调？何时不需要？
8. 我需要多少数据？如何验证数据的质量？
9. 如何让我的模型更快、更便宜且更安全？
10. 如何建立反馈循环以持续改进我的应用？

此外，本书还将帮助您理清纷繁复杂的 AI 领域：模型类型、评估基准，以及数量看似无穷无尽的应用场景和模式。

书中内容通过实际案例加以说明，其中许多是我亲自参与过的项目，并辅以丰富的参考文献，同时经过来自不同背景的专家广泛审阅。尽管本书耗时两年完成，但它基于我在过去十年中使用语言模型和机器学习系统的工作经验。

与我之前的著作《设计机器学习系统》（DMLS）一样，本书聚焦于 AI 工程的基础知识，而非特定的工具或 API。工具会迅速过时，而基础原理则更为持久。

结合阅读《AI 工程》（AIE）与《设计机器学习系统》（DMLS）

AIE 可以作为 DMLS 的补充读物。DMLS 主要关注在传统机器学习模型之上构建应用，涉及更多的表格型数据标注、特征工程和模型训练；而 AIE 则侧重于在基础模型之上构建应用，涉及更多的提示工程、上下文构建和参数高效的微调。两本书均为独立且模块化的结构，您可以单独阅读其中任何一本。

由于基础模型本质上也是机器学习模型，因此部分概念在两者中都适用。如果某个主题虽然与 AIE 相关，但在 DMLS 中已有详尽讨论，则本书仍会提及该主题，但篇幅会相对较少，并提供相关资源的链接。

需要注意的是，许多主题仅在 DMLS 或 AIE 中有所涉及，反之亦然。本书的第一章还详细探讨了传统机器学习工程与 AI 工程之间的区别。

在实际系统中，往往同时涉及传统机器学习模型和基础模型，因此掌握两者的相关知识通常是必要的。

本书适合哪些读者

本书面向所有希望利用基础模型解决现实世界问题的人士。这是一本技术类书籍，因此其语言风格主要针对技术岗位，包括 AI 工程师、机器学习工程师、数据科学家、工程经理和技术产品经理等。如果您符合以下任一情况，本书都将对您有所帮助：

• 您正在构建或优化 AI 应用，无论是从零开始，还是希望从演示阶段进入生产就绪状态。您可能还面临幻觉、安全性、延迟或成本等问题，亟需针对性的解决方案。
• 您希望简化团队的 AI 开发流程，使其更加系统化、高效化和可靠化。
• 您希望了解组织如何利用基础模型提升业务效益，以及如何组建相应的团队来实现这一目标。

此外，以下群体也能从本书中受益：

• 工具开发者：希望识别 AI 工程领域中尚未被充分覆盖的空白点，从而更好地定位您的产品在生态系统中的位置。
• 研究人员：希望更深入地理解 AI 的各种应用场景。
• 求职者：希望明确从事 AI 工程师职业所需的技能。
• 任何希望更好地理解 AI 的能力与局限性，以及它可能对不同角色产生的影响的人士。

我喜欢深入探究事物的本质，因此书中某些章节会更深入地剖析技术细节。尽管许多早期读者喜欢这种细致入微的描述，但我明白这并不一定适合所有人。当内容变得过于技术化时，我会提前告知您，请随时跳过那些感觉过于复杂的部分！

书评

• “本书为构建生成式AI系统的关键环节提供了一套全面且结构清晰的指南。对于任何希望在企业范围内规模化应用AI的专业人士而言，这都是一本必读之作。” —— 维托里奥·克雷特拉，宝洁与玛氏前全球首席信息官

• “希普·休恩深谙生成式AI之道。她是一位杰出的导师与作家，其著作对帮助团队将AI落地生产发挥了至关重要的作用。凭借其深厚的专业积累，《AI工程》是一部全面而系统性的指南，指导如何在生产环境中构建生成式AI应用。” —— 卢克·梅茨，ChatGPT联合开发者、前OpenAI研究经理

• “每一位构建真实世界应用的AI工程师都应当阅读此书。它是一本关于端到端AI系统设计的重要指南，涵盖从模型开发与评估，到大规模部署与运维的全流程。” —— 安德烈·洛帕滕科，Neuron7搜索与AI总监

• “本书是构建可规模化AI产品的必备指南。不同于那些聚焦于工具或瞬息万变的最新趋势的书籍，希普提供了历久弥新的基础性知识。无论你是产品经理还是工程师，这本书都能有效弥合跨职能团队之间的协作鸿沟，因此对于所有参与AI开发的人来说，都堪称必读之作。” —— 艾琳·布依，谷歌AI产品运营经理

• “这是机器学习工程领域大师向AI工程领域过渡的权威之作！希普在其职业生涯中亲历了公司各个发展阶段的成功项目，并首次将她的丰富经验浓缩成册，献给刚入行的新一代AI工程师。” —— swyx，AI.Engineer策展人

• “《AI工程》是一本实用指南，提供了最前沿的AI开发资讯，既适合初学者，也便于资深领导者理解。对于任何希望构建稳健且可扩展的AI系统的人来说，这本书都是不可或缺的资源。” —— 维姬·雷兹尔曼，Mave Sparks首席AI解决方案架构师

• “《AI工程》是一部内容全面的指南，既是理解AI系统的关键参考，也是将其付诸实践的实用手册。” —— 韩·李，穆迪公司数据科学总监

• “《AI工程》是所有使用生成式AI进行软件开发人员的必备指南！它揭开了这项技术的神秘面纱，强调了评估的重要性，并分享了在开始代价高昂的微调之前，应当采取哪些措施来确保质量。” —— 拉法尔·卡瓦拉，高级AI工程总监，拥有16年财富500强企业工作经验

快来Twitter上看看大家对这本书的讨论吧@aisysbooks！

致谢

如果没有众多杰出人士在写作过程中给予的帮助，这本书的完成将会耗费更长的时间，并且会遗漏许多重要内容。

由于项目时间紧迫——仅用两年时间就要完成一部涵盖广泛内容、字数达15万字的书籍——我非常感激那些技术审稿人，他们不惜牺牲宝贵时间，迅速完成了本书的审阅工作。

Luke Metz 是一位极好的“思想伙伴”，他帮助我检验假设，避免我走入误区。Han-chung Lee 始终紧跟人工智能领域的最新动态和社区发展，为我指出了许多被我忽略的重要资源。Luke 和 Han 是在我将稿件递交给下一轮技术审稿人之前，最早审阅我的初稿的人，我永远感激他们对我种种失误与不足的包容。

曾在世界500强企业领导人工智能创新的 Vittorio Cretella 和 Andrei Lopatenko 提供了极具价值的反馈，他们的意见既深入技术细节，又兼具高管视角。Vicki Reyzelman 则帮助我确保内容扎实可靠，并使其对具备软件工程背景的读者更具相关性。

Eugene Yan 是一位挚友兼杰出的应用科学家，他不仅在技术上给予了我支持，也在情感上给了我莫大的鼓励。Shawn Wang（swyx）则为我提供了重要的方向性建议，让我对整本书的信心倍增。Sanyam Bhutani 是我所认识的最佳学习者之一，也是一位极为谦逊的人。他不仅撰写了细致入微的文字反馈，还录制视频来进一步阐释自己的意见。

Kyle Krannen 是一位卓越的深度学习负责人，他采访了自己的同事，并与我分享了一份关于他们微调流程的精彩报告，这为微调章节的撰写提供了重要指导。Mark Saroufim，这位充满求知欲、时刻关注最前沿问题的人，向我推荐了许多关于效率优化的优质资源。Kyle 和 Mark 的反馈对于第7章和第9章的写作至关重要。

Kittipat “Bot” Kampa 除了耐心解答我提出的诸多问题外，还与我分享了他对人工智能平台的独特思考方式及其详细可视化呈现。我同样感谢 Denys Linkov 在评估与平台开发方面所展现出的系统化方法。Chetan Tekur 则提供了许多精彩的案例，帮助我梳理了人工智能应用模式。此外，我还想感谢 Alex (Shengzhi Li) Li 和 Hien Luu 对我关于人工智能架构的草稿所提出的深刻见解。

Aileen Bui 是一位难得的宝藏，她从产品经理的角度出发，提供了独到的反馈和实例。感谢 Todor Markov 对 RAG 和 Agent 章节提出的切实可行的建议。同时也要感谢 Tal Kachman 在最后关头挺身而出，推动微调章节顺利完成。

还有许许多多令人敬佩的朋友，他们的陪伴与交流为本书的内容提供了源源不断的灵感。我已尽力在此列出所有曾给予我帮助的人士姓名，但由于人类记忆难免有疏漏，我肯定遗漏了不少名字。如果我的名单中遗漏了您的大名，请您谅解，这绝非我不重视您的贡献；请您不吝提醒我，我会尽快予以补正！

Andrew Francis、Anish Nag、Anthony Galczak、Anton Bacaj、Balázs Galambosi、Charles Frye、Charles Packer、Chris Brousseau、Eric Hartford、Goku Mohandas、Hamel Husain、Harpreet Sahota、Hassan El Mghari、Huu Nguyen、Jeremy Howard、Jesse Silver、John Cook、Juan Pablo Bottaro、Kyle Gallatin、Lance Martin、Lucio Dery、Matt Ross、Maxime Labonne、Miles Brundage、Nathan Lambert、Omar Khattab、Phong Nguyen、Purnendu Mukherjee、Sam Reiswig、Sebastian Raschka、Shahul ES、Sharif Shameem、Soumith Chintala、Teknium、Tim Dettmers、Undi5、Val Andrei Fajardo、Vern Liang、Victor Sanh、Wing Lian、Xiquan Cui、Ying Sheng，以及 Kristofer。

我也要感谢所有早期读者，他们纷纷主动提出宝贵意见。Douglas Bailley 是一位超级热心的读者，他分享了大量富有洞见的反馈。Nutan Sahoo 则提出了一个优雅的方式来解释困惑度这一概念。

在与各位在线交流的过程中，我也受益匪浅。感谢每一位曾经回答过我问题、评论过我的帖子，或通过邮件与我分享想法的朋友。

当然，没有 O'Reilly 团队的支持，尤其是我的编辑团队（Melissa Potter、Corbin Collins、Jill Leonard）以及制作编辑团队（Kristen Brown 和 Elizabeth Kelly），这本书根本无法问世。Liz Wheeler 是我合作过的最具洞察力的编辑。Nicole Butterfield 则是整个项目的幕后推手，她全程主导了本书从构思到最终成品的每一个环节。

归根结底，这本书是我职业生涯中所积累的宝贵经验的结晶。这些经验离不开我那些能力出众且耐心十足的同事及前同事们。与我共事过的每一个人，都教会了我如何将机器学习真正落地并造福社会。

---

Chip Huyen，《AI 工程》。O'Reilly Media 出版社，2025年。

@book{aiebook2025,  
    address = {美国},  
    author = {Chip Huyen},  
    isbn = {978-1801819312},   
    publisher = {O'Reilly Media},  
    title = {{AI 工程}},  
    year = {2025}  
}

aie-book 快速上手指南

aie-book 并非一个需要安装运行的软件库或框架，而是 Chip Huyen 所著《AI Engineering》一书的开源配套资源仓库。它提供了书籍目录、章节摘要、学习笔记、提示词（Prompt）示例、案例研究以及实用的辅助脚本。开发者主要通过阅读文档和运行提供的示例脚本来获取知识。

环境准备

由于本仓库主要包含 Markdown 文档、Jupyter Notebook 脚本及相关资源链接，对环境要求极低。

• 操作系统：Windows, macOS, 或 Linux 均可。
• 前置依赖：
  • Git：用于克隆仓库。
  • 浏览器：用于直接在线阅读 GitHub 上的 Markdown 文件。
  • Python (可选)：仅当你需要运行仓库中的 scripts/ai-heatmap.ipynb 等交互式脚本时需要安装。建议版本 Python 3.8+。
  • Jupyter Lab / Notebook (可选)：用于运行和编辑 .ipynb 脚本文件。

安装步骤

你无需通过包管理器（如 pip 或 npm）安装此工具，只需将代码仓库克隆到本地即可。

1. 克隆仓库 打开终端或命令行工具，执行以下命令：

   git clone https://github.com/chiphuyen/aie-book.git
   

   国内加速方案：如果访问 GitHub 速度较慢，可以使用国内镜像源（如 Gitee 镜像，若有）或通过代理加速。若无特定镜像，可尝试使用 gitclone.com 服务：

   git clone https://gitclone.com/github.com/chiphuyen/aie-book.git
   

2. 进入目录

   cd aie-book
   

3. 安装 Python 依赖（仅针对运行脚本） 如果你打算运行 scripts 目录下的 Notebook 脚本（如热力图生成器），请安装基础数据科学栈：

   pip install jupyter pandas matplotlib seaborn
   

   注：建议使用国内镜像源加速安装

   pip install -i https://pypi.tuna.tsinghua.edu.cn/simple jupyter pandas matplotlib seaborn
   

基本使用

1. 在线阅读与学习（推荐）

最直接的使用方式是直接在 GitHub 或本地编辑器中阅读核心资源文件：

• 查看目录结构：打开 ToC.md 了解全书架构。
• 学习核心概念：阅读 chapter-summaries.md 获取章节精华总结。
• 获取 Prompt 灵感：查阅 prompt-examples.md 获取实际的提示词工程案例。
• 研究真实案例：参考 case-studies.md 了解端到端的 AI 应用构建过程。

2. 运行趣味工具示例

仓库提供了一个生成 ChatGPT 和 Claude 对话热力图的脚本。以下是运行该示例的步骤：

1. 启动 Jupyter Notebook：

   jupyter notebook scripts/ai-heatmap.ipynb
   

2. 在浏览器打开的界面中，依次运行单元格（Cell）。
   • 该脚本通常用于可视化对话数据中的模式（需确保你有相应的对话数据文件或按照脚本内的说明生成模拟数据）。
   • 脚本将输出对话互动的热力图，帮助分析模型行为。

3. 获取实体书资源

本仓库是书籍《AI Engineering》的补充材料。若需深入学习系统性知识，建议结合实体书阅读：

• 购买渠道：可通过 Amazon 或 O'Reilly 获取。
• 核心理念：本书侧重于基础模型（LLMs/LMMs）的工程化落地，涵盖评估、幻觉处理、RAG 策略、Agent 构建及微调时机等关键问题，而非单纯的代码教程。