AI-in-a-Box

AI-in-a-Box 借助全球微软客户工程师和架构师的集体智慧，为技术社区开发并提供人工智能和机器学习解决方案。

我们的目标是呈现一套精心挑选的解决方案加速器，帮助工程师快速、顺畅地搭建其 AI/ML 环境与解决方案，同时保持最高水准的质量与效率。

随着我们不断从市场中汲取经验，贡献者们将继续为社区提供在日新月异的 AI 和 ML 领域取得成功所需的工具与资源。

为什么选择 AI-in-a-Box？

• 加速部署：通过我们经过验证、开箱即用的模式，加快您的解决方案落地。
• 成本节约：通过复用现有代码和模式，最大化预算效益。
• 更高品质与可靠性：信赖我们经过真实场景验证的解决方案。
• 竞争优势：通过加速解决方案部署，领先于竞争对手。

可用指南

主题	描述
负责任的人工智能	提供关于负责任地使用 AI 和 LLM 技术的重要指导。
生成式 AI 应用程序的安全性	本文档为生成式 AI (GenAI) 应用程序提供了具体的安全指导。
扩展 OpenAI 应用程序	本文档包含在 Azure 中扩展 OpenAI 应用程序的最佳实践。

可用的“-in-a-Box”加速器

模式	描述	支持的用例与功能
Azure ML 运营化 in-a-box	从模型开发到部署和监控的样板数据科学项目	端到端 MLOps 项目模板 外层循环（基础设施搭建） 内层循环（模型创建和部署生命周期）
边缘 AI in-a-box	从模型创建到在边缘设备上部署的边缘 AI	创建模型并部署到边缘设备。 外层循环：基础设施搭建（IoT 中心、IoT Edge、边缘虚拟机、容器注册表、Azure ML） 内层循环（模型创建和部署）
AML 边缘 in-a-box	从模型创建到在边缘设备上部署的边缘 AI	利用 Azure ML、IoT Edge 和 IoT 中心编排整个边缘 AI 模型生命周期——从创建到部署——同时借助 Azure ML CLI V2 实现简化管理。
Custom Vision 边缘 in-a-box	从模型创建到在边缘设备上部署的边缘 AI	边缘 AI 通过将分析移至数据源附近来降低云端延迟，从而实现更快的响应。该加速器演示如何使用 Custom Vision 训练模型，并将其导出为 ONNX 或 Dockerfile 格式以便在边缘部署。
文档智能 in-a-box	此加速器使企业能够自动化 PDF 表单处理，实现运营现代化，节省时间并降低成本，助力数字化转型之旅。	接收 PDF 表单 用于编排的函数应用和逻辑应用 文档智能模型用于表单处理和内容提取 将 PDF 数据保存到 Azure Cosmos DB
图像与视频分析 in-a-box	使用 Azure AI Vision 从图像和视频中提取信息，并将结果连同提示和系统消息一起发送给具有视觉功能的 Azure GPT-4 Turbo。	通过 Azure 数据工厂进行编排 低代码解决方案，可通过 ADF 参数轻松扩展以适应您自己的用例 可将同一解决方案和已部署资源用于多种不同场景 将 GPT4-V 的结果保存到 Azure CosmosDB
认知服务着陆区 in-a-box	最小化的企业级网络和 AI 服务设置，可在安全环境中支持大多数认知服务场景	中心辐射型 Vnet 架构及对等互连 认知服务部署 专用终结点设置 与 PaaS DNS 解析器集成的专用 DNS
语义核 bot in-a-box	面向高级 Azure OpenAI Bot 的可扩展解决方案加速器	将 Azure OpenAI bot 部署到多个渠道（Web、Teams、Slack 等） 内置检索增强生成 (RAG) 支持 实施自定义 AI 插件
NLP 转 SQL in-a-box	借助 Azure OpenAI、语义核和 Azure 语音服务，释放尖端语音驱动的 SQL 查询系统的强大功能。只需用自然语言说出您的数据请求，剩下的就交给它吧。	允许用户以口头方式表达自然语言查询 使用 Azure 语音和 AOAI 将其转换为 SQL 语句 在 Azure SQL 数据库上执行
助手 API 笔记本	借助助手 API 的简洁性，开发者可以无缝地将助手与各种功能集成，从执行代码到检索数据，从而为用户提供灵活且动态的数字助手，满足他们的个性化需求。	提供三大核心能力：代码解释器（技术任务）、检索（查找信息）和函数调用（执行任务） 这些能力结合在一起，形成一个多功能超级助手，可处理各种任务
助手 API bot in-a-box	此示例提供了逐步指南，说明如何部署一个基于 Azure OpenAI 助手 API 的虚拟助手。内容涵盖基础设施部署、在 AI Studio 和 Azure 门户上的配置，以及端到端测试示例。	部署必要的基础设施以支持 Azure OpenAI 助手 配置为具备所需工具的助手。 将 Bot Framework 应用程序连接到您的助手，以便将聊天部署到多个渠道

主要联系人及贡献者

如果您有任何问题或希望参与贡献，请联系：aibox@microsoft.com

联系人	GitHub ID	邮箱
Alex Morales	@msalemor	alemor@microsoft.com
Andre Dewes	@andredewes	andredewes@microsoft.com
Andrés Padilla	@AndresPad	andres.padilla@microsoft.com
Chris Ayers	@codebytes	chrisayers@microsoft.com
Eduardo Noriega	@EduardoN	ednorieg@microsoft.com
Franklin Guimaraes	@franklinlindemberg	fguimaraes@microsoft.com
Jean Hayes	@jehayesms	jean.hayes@microsoft.com
Marco Aurélio Bigélli Cardoso	@MarcoABCardoso	macardoso@microsoft.com
Maria Vrabie	@MariaVrabie	mavrabie@microsoft.com
Neeraj Jhaveri	@neerajjhaveri	neeraj.jhaveri@microsoft.com
Thiago Rotta	@rottathiago	thiago.rotta@microsoft.com
Victor Santana	@Welasco	vsantana@microsoft.com
Sabyasachi Samaddar	@ssamadda	ssamadda@microsoft.com

AI-in-a-Box 快速上手指南

AI-in-a-Box 是由微软全球客户工程师和架构师共同打造的解决方案加速器集合。它旨在帮助开发者以最小的摩擦快速建立高质量的 AI/ML 环境和解决方案，涵盖从负责任 AI 指南到具体的边缘计算、文档智能及生成式 AI 应用模板。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Windows 10/11, macOS, 或 Linux (Ubuntu 20.04+)
• 核心依赖:
  • Git
  • Python 3.8+
  • Azure CLI (用于资源部署)
  • Docker (部分边缘计算和容器化方案需要)
• 云环境:
  • 有效的 Microsoft Azure 订阅账号。
  • 已安装并登录 Azure CLI:

    az login
    az account set --subscription "<您的订阅 ID>"
    

• 网络建议:
  • 由于部分依赖包托管在 GitHub 和 PyPI，国内开发者建议使用镜像源加速：
    • Git 克隆加速: 可使用 https://ghproxy.com/https://github.com/... 前缀（如需）。
    • Python pip 加速: 配置国内源 (如阿里云或清华源)：

      pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
      

安装步骤

AI-in-a-Box 不是一个单一的单体软件，而是一系列独立的项目模板（Accelerators）。您需要根据具体需求选择对应的模块进行克隆和部署。

1. 克隆仓库

首先克隆主仓库或直接克隆您感兴趣的具体加速器项目。

# 克隆主仓库查看整体结构
git clone https://github.com/Azure-Samples/AI-in-a-Box.git
cd AI-in-a-Box

# 或者直接克隆特定加速器（以 Semantic Kernel Bot 为例）
git clone https://github.com/Azure-Samples/gen-ai-bot-in-a-box.git
cd gen-ai-bot-in-a-box

2. 创建虚拟环境并安装依赖

进入具体项目目录后，按照该项目 README.md 中的指示操作。通常步骤如下：

# 创建 Python 虚拟环境
python -m venv .venv

# 激活虚拟环境
# Windows:
.venv\Scripts\activate
# macOS/Linux:
source .venv/bin/activate

# 安装项目依赖
pip install -r requirements.txt

3. 部署基础设施

大多数加速器提供 Bicep 或 Terraform 脚本来自动部署 Azure 资源。使用 Azure CLI 进行部署：

# 示例：部署资源组和相关服务（具体参数请参考各子项目文档）
az deployment sub create \
  --location <region> \
  --template-file infra/main.bicep \
  --parameters projectName=<your-project-name>

基本使用

以下以 Semantic Kernel Bot in-a-box (生成式 AI 机器人) 为例，展示最简使用流程。其他模块（如 Edge AI 或 Doc Intelligence）逻辑类似，均需先部署资源再运行代码。

1. 配置环境变量

在项目根目录下创建 .env 文件，填入部署后生成的密钥和端点信息：

AZURE_OPENAI_ENDPOINT=<your-endpoint>
AZURE_OPENAI_API_KEY=<your-key>
AZURE_OPENAI_DEPLOYMENT_NAME=<your-deployment-name>
COSMOS_DB_CONNECTION_STRING=<your-connection-string>

2. 运行机器人

启动本地服务以测试机器人功能：

# 运行主程序（通常是 bot.py 或 app.py，视具体项目而定）
python bot.py

3. 验证功能

• 本地测试: 终端将显示机器人已启动，您可以直接输入自然语言问题进行对话。
• 多通道部署: 该模板支持一键部署到 Web、Teams 或 Slack。配置好渠道凭证后，运行部署脚本即可将机器人发布到生产环境：

  # 示例：部署到 Teams 渠道
  python deploy_to_teams.py
  

提示: 每个具体的 "-in-a-box" 项目在其独立的 GitHub 仓库中都有详细的 README.md，包含针对该场景特有的配置项和高级用法，请在克隆后优先阅读对应子项目的文档。