Phi 烹饪书：使用微软 Phi 模型的实战示例

Phi 是由微软开发的一系列开源 AI 模型。

Phi 目前是最强大且最具成本效益的小型语言模型 (SLM)，在多语言、推理、文本/聊天生成、编码、图像、音频等场景中均表现出色。

您可以将 Phi 部署到云端或边缘设备上，并且只需有限的计算资源即可轻松构建生成式 AI 应用程序。

请按照以下步骤开始使用这些资源：

1. 分叉仓库：点击
2. 克隆仓库：git clone https://github.com/microsoft/PhiCookBook.git
3. 加入 Microsoft AI Discord 社区，与专家和开发者交流

🌐 多语言支持

通过 GitHub Action 支持（自动化且始终保持最新）

阿拉伯语 (Arabic) | 孟加拉语 (Bengali) | 保加利亚语 (Bulgarian) | 缅甸语 (Burmese) | 简体中文 (Chinese, Simplified) | 繁体中文（香港）(Chinese, Traditional, Hong Kong) | 繁体中文（澳门）(Chinese, Traditional, Macau) | 繁体中文（台湾）(Chinese, Traditional, Taiwan) | 克罗地亚语 (Croatian) | 捷克语 (Czech) | 丹麦语 (Danish) | 荷兰语 (Dutch) | 爱沙尼亚语 (Estonian) | 芬兰语 (Finnish) | 法语 (French) | 德语 (German) | 希腊语 (Greek) | 希伯来语 (Hebrew) | 印地语 (Hindi) | 匈牙利语 (Hungarian) | 印度尼西亚语 (Indonesian) | 意大利语 (Italian) | 日语 (Japanese) | 卡纳达语 (Kannada) | 韩语 (Korean) | 立陶宛语 (Lithuanian) | 马来语 (Malay) | 马拉雅拉姆语 (Malayalam) | 马拉地语 (Marathi) | 尼泊尔语 (Nepali) | 尼日利亚皮钦语 (Nigerian Pidgin) | 挪威语 (Norwegian) | 波斯语 (Persian, Farsi) | 波兰语 (Polish) | 巴西葡萄牙语 (Portuguese, Brazil) | 葡萄牙语 (Portugal) | 旁遮普语 (Gurmukhi) | 罗马尼亚语 (Romanian) | 俄语 (Russian) | 塞尔维亚语（西里尔字母）(Serbian, Cyrillic) | 斯洛伐克语 (Slovak) | 斯洛文尼亚语 (Slovenian) | 西班牙语 (Spanish) | 斯瓦希里语 (Swahili) | 瑞典语 (Swedish) | 他加禄语 (Tagalog, Filipino) | 泰米尔语 (Tamil) | 泰卢固语 (Telugu) | 泰语 (Thai) | 土耳其语 (Turkish) | 乌克兰语 (Ukrainian) | 乌尔都语 (Urdu) | 越南语 (Vietnamese)

更倾向于本地克隆吗？

此仓库包含 50 多种语言的翻译，这会显著增加下载大小。若想不包含翻译进行克隆，请使用稀疏检出功能：

Bash / macOS / Linux：

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD（Windows）：

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

这样可以快速下载所需内容，完成课程学习。

目录

• 引言

  • 欢迎来到 Phi 家族
  • 设置您的环境
  • 理解关键技术
  • Phi 模型的 AI 安全性
  • Phi 的硬件支持
  • Phi 模型及跨平台可用性
  • 使用 Guidance-ai 和 Phi
  • GitHub Marketplace 模型
  • Azure AI 模型目录

• 不同环境下的 Phi 推理

  • Hugging Face
  • GitHub Models
  • Microsoft Foundry 模型目录
  • Ollama
  • AI 工具包 VSCode (AITK)
  • NVIDIA NIM
  • Foundry 本地

• Phi 系列的推理

  • iOS 上的 Phi 推理
  • Android 上的 Phi 推理
  • Jetson 上的 Phi 推理
  • AI PC 上的 Phi 推理
  • 使用 Apple MLX 框架的 Phi 推理
  • 本地服务器上的 Phi 推理
  • 使用 AI 工具包在远程服务器上进行 Phi 推理
  • 使用 Rust 进行 Phi 推理
  • 本地视觉任务中的 Phi 推理
  • 使用 Kaito AKS 和 Azure 容器（官方支持）的 Phi 推理

• Phi 系列的量化

  • 使用 llama.cpp 对 Phi-3.5 / 4 进行量化
  • 使用 ONNX Runtime 的生成式 AI 扩展对 Phi-3.5 / 4 进行量化
  • 使用 Intel OpenVINO 对 Phi-3.5 / 4 进行量化
  • 使用 Apple MLX 框架对 Phi-3.5 / 4 进行量化

• Phi 的评估

  • 负责任的人工智能
  • 用于评估的 Microsoft Foundry
  • 使用 Promptflow 进行评估

• 使用 Azure AI Search 的 RAG

  • 如何将 Phi-4-mini 和 Phi-4 多模态（RAG）与 Azure AI Search 结合使用

• Phi 应用开发示例

  • 文本与聊天应用

    • Phi-4 示例
    • [📓] 使用 Phi-4-mini ONNX 模型进行聊天
    • .NET 中使用本地 Phi-4 ONNX 模型进行聊天
    • 使用语义核构建 .NET 控制台应用程序，与 Phi-4 ONNX 进行聊天
    • Phi-3 / 3.5 示例
    • 使用 Phi3、ONNX Runtime Web 和 WebGPU 在浏览器中实现本地聊天机器人
    • OpenVino 聊天
    • 多模型交互：Phi-3-mini 与 OpenAI Whisper
    • MLFlow — 构建封装并使用 Phi-3 与 MLFlow
    • 模型优化 — 如何使用 Olive 为 ONNX Runtime Web 优化 Phi-3-min 模型
    • WinUI3 应用程序，搭载 Phi-3 mini-4k-instruct-onnx
    • WinUI3 多模型 AI 驱动笔记应用示例
    • 使用 Prompt flow 微调并集成自定义 Phi-3 模型
    • 在 Microsoft Foundry 中使用 Prompt flow 微调并集成自定义 Phi-3 模型
    • 在 Microsoft Foundry 中评估微调后的 Phi-3 / Phi-3.5 模型，重点关注微软的负责任 AI 原则
    • [📓] Phi-3.5-mini-instruct 语言预测示例（中文/英文）
    • Phi-3.5-Instruct WebGPU RAG 聊天机器人
    • 利用 Windows GPU 创建基于 Prompt flow 的解决方案，结合 Phi-3.5-Instruct ONNX
    • 使用 Microsoft Phi-3.5 tflite 开发 Android 应用程序
    • 使用本地 ONNX Phi-3 模型的 Q&A .NET 示例，借助 Microsoft.ML.OnnxRuntime
    • 使用语义核和 Phi-3 构建 .NET 控制台聊天应用程序

  • 基于 Azure AI 推理 SDK 的代码示例

    • Phi-4 示例
    • [📓] 使用 Phi-4 多模态生成项目代码
    • Phi-3 / 3.5 示例
    • 使用 Microsoft Phi-3 系列打造属于自己的 Visual Studio Code GitHub Copilot 聊天功能
    • 通过 GitHub Models 创建基于 Phi-3.5 的 Visual Studio Code Chat Copilot Agent

• 高级推理样本

  • Phi-4 样本

    • [📓] Phi-4-mini-reasoning 或 Phi-4-reasoning 样本
    • [📓] 使用 Microsoft Olive 微调 Phi-4-mini-reasoning
    • [] 使用 Apple MLX 微调 Phi-4-mini-reasoning
    • [] 使用 GitHub Models 的 Phi-4-mini-reasoning
    • [] 使用 Microsoft Foundry Models 的 Phi-4-mini-reasoning

  • 演示

    • 托管在 Hugging Face Spaces 上的 Phi-4-mini 演示
    • 托管在 Hugging Face Spaces 上的 Phi-4 多模态演示

  • 视觉样本

    • Phi-4 样本
      • [] 使用 Phi-4 多模态模型读取图像并生成代码
    • Phi-3 / 3.5 样本
      • []Phi-3-vision 图像文本到文本
      • Phi-3-vision-ONNX
      • []Phi-3-vision CLIP 嵌入
      • 演示：Phi-3 回收
      • Phi-3-vision - 视觉语言助手 - 使用 Phi3-Vision 和 OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • []Phi-3.5 Vision 多帧或多图像样本
      • 使用 Microsoft.ML.OnnxRuntime .NET 的本地 ONNX 模型
      • 基于菜单的本地 ONNX 模型，使用 Microsoft.ML.OnnxRuntime .NET

  • 推理-视觉样本

    • Phi-4-Reasoning-Vision-15B
      • [] 使用 Phi-4-Reasoning-Vision-15B 检测乱穿马路行为
      • [] 使用 Phi-4-Reasoning-Vision-15B 进行数学计算
      • [] 使用 Phi-4-Reasoning-Vision-15B 检测用户界面问题

  • 数学样本

    • Phi-4-Mini-Flash-Reasoning-Instruct 样本 使用 Phi-4-Mini-Flash-Reasoning-Instruct 的数学演示

  • 音频样本

    • Phi-4 样本
      • [] 使用 Phi-4 多模态模型提取音频转录本
      • [] Phi-4 多模态音频样本
      • [] Phi-4 多模态语音翻译样本
      • .NET 控制台应用程序，使用 Phi-4 多模态音频分析音频文件并生成转录本

  • MOE 样本

    • Phi-3 / 3.5 样本
      • [] Phi-3.5 混合专家模型 (MoEs) 社交媒体样本
      • [] 使用 NVIDIA NIM Phi-3 MOE、Azure AI Search 和 LlamaIndex 构建检索增强生成 (RAG) 流程

  • 函数调用样本

    • Phi-4 样本 🆕
      • [] 使用 Phi-4-mini 进行函数调用
      • [] 使用 Phi-4-mini 创建多智能体系统
      • [] 使用 Ollama 进行函数调用
      • [] 使用 ONNX 进行函数调用

  • 多模态混合样本

    • Phi-4 样本 🆕
      • [] 将 Phi-4 多模态模型用作科技记者
      • .NET 控制台应用程序，使用 Phi-4 多模态模型分析图像

• 微调 Phi 样本

  • 微调场景
  • 微调与 RAG
  • 让 Phi-3 成为行业专家的微调
  • 使用 VS Code 的 AI 工具包微调 Phi-3
  • 使用 Azure Machine Learning Service 微调 Phi-3
  • 使用 Lora 微调 Phi-3
  • 使用 QLora 微调 Phi-3
  • 使用 Microsoft Foundry 微调 Phi-3
  • 使用 Azure ML CLI/SDK 微调 Phi-3
  • 使用 Microsoft Olive 微调
  • 使用 Microsoft Olive 的实践实验室
  • 使用 Weights and Bias 微调 Phi-3-vision
  • 使用 Apple MLX 框架微调 Phi-3
  • 官方支持下的 Phi-3-vision 微调
  • 使用 Kaito AKS 和 Azure Containers（官方支持）微调 Phi-3
  • Phi-3 和 3.5 Vision 的微调

• 实践实验室

  • 探索前沿模型：LLM、SLM、本地开发等
  • 释放 NLP 潜力：使用 Microsoft Olive 进行微调

• 学术研究论文和出版物

  • 教科书就是全部所需 II：phi-1.5 技术报告
  • Phi-3 技术报告：一款可在您手机上本地运行的强大语言模型
  • Phi-4 技术报告
  • Phi-4-Mini 技术报告：通过 LoRA 混合实现紧凑而强大的多模态语言模型
  • 优化小型语言模型以用于车载函数调用
  • (WhyPHI) 针对多项选择题回答微调 PHI-3：方法、结果与挑战
  • Phi-4-reasoning 技术报告
  • Phi-4-mini-reasoning 技术报告

使用 Phi 模型

Phi 在 Microsoft Foundry 上

您可以学习如何使用 Microsoft Phi，并在不同的硬件设备上构建端到端解决方案。要亲自体验 Phi，可以从试用这些模型开始，并使用 Microsoft Foundry Azure AI 模型目录，根据您的场景自定义 Phi。更多信息请参阅《Microsoft Foundry 入门》(/md/02.QuickStart/AzureAIFoundry_QuickStart.md)。

游乐场 每个模型都有一个专门的游乐场来测试该模型 Azure AI Playground。

Phi 在 GitHub Models 上

您可以学习如何使用 Microsoft Phi，并在不同的硬件设备上构建端到端解决方案。要亲自体验 Phi，可以从试用该模型开始，并使用 GitHub 模型目录，根据您的场景自定义 Phi。更多信息请参阅《GitHub 模型目录入门》(/md/02.QuickStart/GitHubModel_QuickStart.md)。

游乐场 每个模型都有一个专门的 游乐场来测试模型。

Phi 在 Hugging Face 上

您也可以在 Hugging Face 上找到该模型。

游乐场 Hugging Chat 游乐场

🎒 其他课程

我们的团队还制作了其他课程！请查看：

LangChain

Azure / Edge / MCP / Agents

---

生成式 AI 系列

---

核心学习

---

Copilot 系列

负责任的人工智能

微软致力于帮助客户负责任地使用我们的 AI 产品，分享我们的经验教训，并通过透明度说明和影响评估等工具建立基于信任的合作关系。这些资源中的许多都可以在 https://aka.ms/RAI 上找到。 微软在负责任的人工智能方面的做法以我们的 AI 原则为基础，即公平性、可靠性和安全性、隐私与安全性、包容性、透明度以及问责制。

像本示例中使用的大型自然语言、图像和语音模型一样，它们可能会以不公平、不可靠或冒犯性的方式运行，从而造成危害。请查阅 Azure OpenAI 服务透明度说明，以了解相关风险和限制。

缓解这些风险的推荐方法是在您的架构中加入一个安全系统，该系统能够检测并阻止有害行为。Azure AI 内容安全 提供了一个独立的保护层，能够在应用程序和服务中检测用户生成和 AI 生成的有害内容。Azure AI 内容安全包括文本和图像 API，使您能够检测有害内容。在 Microsoft Foundry 中，内容安全服务允许您查看、探索并试用用于检测不同模态下有害内容的示例代码。以下 快速入门文档 将指导您如何向该服务发出请求。

另一个需要考虑的方面是整体应用程序性能。对于多模态和多模型的应用程序，我们认为性能是指系统能够按照您和用户的期望运行，包括不产生有害输出。使用 性能、质量、风险和安全评估器 来评估整个应用程序的性能非常重要。您还可以使用 自定义评估器 创建并进行评估。

您可以在开发环境中使用 Azure AI 评估 SDK 对您的 AI 应用程序进行评估。无论您使用测试数据集还是目标，您的生成式 AI 应用程序生成的内容都将通过内置评估器或您选择的自定义评估器进行定量测量。要开始使用 Azure AI 评估 SDK 来评估您的系统，您可以按照 快速入门指南 操作。执行评估后，您可以在 Microsoft Foundry 中可视化结果。

商标

该项目可能包含项目、产品或服务的商标或徽标。微软商标或徽标的授权使用须遵守并遵循 微软商标与品牌指南。 在该项目的修改版本中使用微软商标或徽标时，不得引起混淆或暗示微软的赞助。任何第三方商标或徽标的使用均应遵守该第三方的相关政策。

获取帮助

如果您在构建 AI 应用程序时遇到困难或有任何疑问，请加入：

如果您在构建过程中遇到产品反馈或错误，请访问：

PhiCookBook 快速上手指南

PhiCookBook 是微软官方提供的开源项目，旨在通过丰富的实战示例，帮助开发者在云端、边缘设备及本地环境中部署和使用 Microsoft Phi 系列小型语言模型（SLM）。Phi 模型以高性价比著称，在多语言处理、逻辑推理、代码生成及多模态任务中表现优异。

1. 环境准备

在开始之前，请确保您的开发环境满足以下基本要求：

• 操作系统：Windows 10/11, macOS (Intel/Apple Silicon), 或主流 Linux 发行版。
• 基础工具：
  • Git (用于克隆仓库)
  • Python 3.8+ (大部分示例基于 Python)
  • VS Code (推荐安装 Dev Containers 扩展以获得一致环境)
• 硬件要求：
  • 本地运行：建议至少 8GB 内存（运行量化模型），16GB+ 内存体验更佳。若需运行未量化大模型或进行微调，建议使用具备 CUDA 支持的 NVIDIA GPU 或 Apple M 系列芯片。
  • 边缘设备：支持 iOS, Android, NVIDIA Jetson, 或 AI PC (NPU)。
• 账号准备：
  • GitHub 账号（用于 Fork 和访问 Codespaces）
  • （可选）Azure 账号（用于访问 Azure AI Foundry 或云端资源）

提示：本项目支持多种推理后端，如 Ollama, ONNX Runtime, Hugging Face Transformers, MLX 等，具体依赖将在各示例章节中单独说明。

2. 安装步骤

方法一：使用 GitHub Codespaces（推荐，零配置）

这是最快速的启动方式，无需在本地安装任何依赖，直接在浏览器中运行。

1. 访问 PhiCookBook GitHub 仓库。
2. 点击页面顶部的 "Code" 按钮，选择 "Codespaces" 标签页。
3. 点击 "Create codespace on main"。
4. 等待环境构建完成后，即可在浏览器内的 VS Code 界面直接运行示例。

方法二：本地克隆仓库

如果您希望在本地开发，请使用以下命令。由于仓库包含 50 多种语言的翻译文件，体积较大，推荐使用 稀疏检出 (Sparse Checkout) 仅下载核心代码和中文文档，以加快下载速度。

Linux / macOS / Git Bash (Windows):

# 1. 浅层克隆并过滤大文件
git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git

# 2. 进入目录
cd PhiCookBook

# 3. 设置稀疏检出：只获取根目录文件，排除 translations 和 translated_images 文件夹
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

Windows CMD:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

安装 Python 依赖

进入具体的示例目录后（例如 md/01.Introduction/02/01.HF.md 对应的代码目录），通常需要先安装依赖。通用安装命令如下：

pip install -r requirements.txt

注：部分特定示例（如 ONNX 或 MLX）可能需要额外的特定库，请参考对应示例文件夹下的 README。

3. 基本使用

PhiCookBook 提供了多种推理方式的示例。以下是最简单的两种入门方式：使用 Ollama 进行本地快速对话，或使用 Hugging Face 进行代码调用。

场景 A：使用 Ollama 快速体验（最简单）

如果您已安装 Ollama，这是运行 Phi 模型最便捷的方式。

1. 拉取模型：

   ollama pull phi3.5
   

   (注：也可尝试 phi4 或其他版本，视 Ollama 库更新情况而定)

2. 运行对话：

   ollama run phi3.5 "你好，请介绍一下你自己。"
   

3. 在代码中调用 (Python 示例)：

   import ollama
   
   response = ollama.chat(model='phi3.5', messages=[
     {
       'role': 'user',
       'content': '为什么天空是蓝色的？',
     },
   ])
   print(response['message']['content'])
   

场景 B：使用 Hugging Face Transformers 进行推理

适合需要深度定制或使用最新模型权重的开发者。

1. 安装依赖：

   pip install transformers torch accelerate
   

2. Python 推理示例： 创建一个 test_phi.py 文件：

   from transformers import AutoModelForCausalLM, AutoTokenizer
   
   # 加载模型和分词器 (以 Phi-3.5-mini 为例)
   model_id = "microsoft/Phi-3.5-mini-instruct"
   tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
   model = AutoModelForCausalLM.from_pretrained(
       model_id, 
       device_map="auto", 
       trust_remote_code=True,
       torch_dtype="auto" 
   )
   
   # 准备输入
   messages = [
       {"role": "user", "content": "用一句话解释量子纠缠。"}
   ]
   
   # 生成回复
   input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
   output_ids = model.generate(input_ids, max_new_tokens=100)
   
   # 解码输出
   response = tokenizer.decode(output_ids[0], skip_special_tokens=True)
   print(response)
   

下一步探索

完成上述基础步骤后，您可以查阅仓库中的 md 目录，探索更多高级主题：

• 多平台部署：参考 Inference Phi in iOS/Android/Jetson 章节。
• 模型量化：学习如何使用 llama.cpp 或 ONNX 压缩模型以适应低显存设备。
• 应用开发：查看 Phi application development samples 中的 RAG 检索增强生成、.NET 集成及 WebGPU 浏览器端运行示例。