create-llama
create-llama 是快速启动 LlamaIndex 应用的命令行工具,旨在让开发者无需繁琐配置即可一键生成完整的 AI 项目骨架。它解决了从零搭建检索增强生成(RAG)或智能体应用时环境复杂、代码重复的问题,将原本耗时的初始化过程简化为几次交互式问答。
这款工具特别适合希望快速验证想法的 AI 开发者、全栈工程师以及需要构建数据问答系统的研究人员。运行后,用户可根据需求选择 Next.js(TypeScript)或 Python FastAPI 技术栈,自动生成包含前端聊天界面和后端逻辑的全栈应用。其独特亮点在于内置了多种预设场景(如代理式 RAG、数据分析、报告生成),并集成了现代化的 shadcn/ui 组件库,确保生成的应用既美观又实用。
此外,create-llama 支持灵活的数据索引功能,用户只需将 PDF、文档或多媒体文件放入指定目录,即可轻松让 AI“读懂”私有数据。虽然默认配置兼容 OpenAI 模型,但它也开放了数十种大语言模型的切换选项,允许开发者根据实际需求深度定制。无论是想快速原型开发,还是构建可部署的生产级应用,create-llama 都能提供高效、标准化的起步体验。
使用场景
某初创团队的技术负责人需要在两天内为内部知识库构建一个支持多格式文档问答的 AI 助手原型,以向投资人演示核心能力。
没有 create-llama 时
- 环境搭建繁琐:需手动配置 Next.js 或 FastAPI 项目结构,逐一安装 LlamaIndex 核心库、向量数据库驱动及 UI 组件库,耗时数小时且易出现版本冲突。
- 前端开发重复造轮子:必须从零编写聊天界面代码,包括消息气泡、加载状态和文件上传组件,难以快速呈现专业的交互效果。
- 数据管道实现困难:需要自行编写脚本解析 PDF、Word 等多种格式文件,并手动实现分块(Chunking)与向量化索引逻辑,调试成本高。
- 模型集成复杂:配置 OpenAI API 密钥及切换不同大模型参数需要深入阅读文档修改底层代码,缺乏直观的预设模板。
使用 create-llama 后
- 一键生成全栈应用:运行
npx create-llama@latest并在交互式菜单中选择"Agentic RAG"和"Python FastAPI",秒级生成包含完整依赖的可运行项目。 - 内置专业 UI 界面:直接获得基于 shadcn/ui 构建的精美聊天前端,支持流式输出和文件上传,无需编写任何前端代码即可展示。
- 开箱即用的数据处理:只需将公司文档放入
data文件夹,执行uv run generate即可自动完成多格式文件的解析、分块与索引构建。 - 灵活模型配置:默认集成 OpenAI 主流模型,若需更换其他支持的几十种 LLM,仅需修改简单的配置文件或通过命令行参数即可快速切换。
create-llama 将原本需要数天的原型开发工作压缩至几分钟,让开发者能专注于业务逻辑验证而非基础设施搭建。
运行环境要求
- 未说明
未说明
未说明

快速开始
创建 Llama
开始使用 LlamaIndex 的最简单方式是使用 create-llama。这个 CLI 工具可以帮助你快速搭建一个新的 LlamaIndex 应用,并为你预先配置好所有内容。
开始使用
只需运行以下命令即可开始:
npx create-llama@latest
或者观看此视频以获取演示:
应用生成完成后,运行以下命令启动开发服务器:
npm run dev
随后访问 http://localhost:3000,即可看到你的应用。
你将获得的内容
- 一组预配置的用例,帮助你快速上手,例如 Agentic RAG、数据分析、报告生成等。
- 前端采用 shadcn/ui 中的组件。应用被设置为一个聊天界面,可以回答关于你数据的问题或与你的代理进行交互。
- 两种框架供你选择:
- Next.js:如果你选择此选项,你将获得一个全栈 Next.js 应用程序,只需点击几下即可部署到像 Vercel 这样的平台上。该应用使用我们的 TypeScript 库 LlamaIndex.TS,并结合 LlamaIndex Server for TS。
- Python FastAPI:如果你选择此选项,你将得到一个由 llama-index Python 包 和 LlamaIndex Server for Python 提供支持的全栈 Python 应用程序。
- 应用默认使用 OpenAI,因此你需要一个 OpenAI API 密钥;当然,你也可以自定义配置,使用我们支持的数十种其他大模型。
以下是应用的外观示例:
https://github.com/user-attachments/assets/d57af1a1-d99b-4e9c-98d9-4cbd1327eff8
使用你的数据
你可以选择性地提供自己的数据;应用会对其进行索引并加以利用,例如用于回答问题。生成的应用中会有一个名为 data 的文件夹。
应用会自动导入放置在该目录中的任何受支持的文件。对于 Next.js 应用,它们使用 LlamaIndex.TS,因此能够导入 PDF、文本、CSV、Markdown、Word 和 HTML 文件。而 Python 后端则能读取更多类型的文件,包括视频和音频文件。
在使用数据之前,你需要先对数据进行索引。如果你使用的是 Next.js 应用,请运行以下命令:
npm run generate
然后重新启动应用。请记住,如果向 data 文件夹中添加了新文件,你需要再次运行 generate。
如果你使用的是 Python 后端,则可以通过调用以下命令来触发数据索引:
uv run generate
自定义 AI 模型
应用默认使用 OpenAI 的 gpt-4.1 大模型和 text-embedding-3-large 嵌入模型。
如果你想使用不同的模型,只需添加 --ask-models CLI 参数即可。
你还可以将默认模型替换为我们支持的数十种其他大模型之一。为此,你需要手动修改生成的代码(对于 TypeScript 项目,编辑 settings.ts 文件;对于 Python 项目,编辑 settings.py 文件)。
示例
最简单的操作是在交互模式下运行 create-llama:
npx create-llama@latest
# 或
npm create llama@latest
# 或
yarn create llama
# 或
pnpm create llama@latest
系统会提示你输入项目名称以及其他配置选项,如下所示:
>> npm create llama@latest
需要安装以下包:
create-llama@latest
是否继续?(y) y
✔ 你的项目名称是什么?… my-app
✔ 你想构建哪种用例?› Agentic RAG
✔ 你想使用哪种语言?› Python (FastAPI)
✔ 你是否希望使用 LlamaCloud 服务?… 否 / 是
✔ 请提供你的 LlamaCloud API 密钥(留空以跳过):…
? 你希望如何继续?› - 使用方向键。按回车键提交。
直接生成代码 (~1 秒)
❯ 在 VSCode 中开始 (~1 秒)
生成代码并安装依赖项 (~2 分钟)
非交互式运行
你也可以通过命令行参数非交互式地设置新项目。要查看最新选项列表,请运行 create-llama --help。
LlamaIndex 文档
LlamaIndex 服务器
生成的代码使用了 LlamaIndex 服务器,它通过 API 服务器提供 LlamaIndex 工作流和代理工作流服务。更多信息请参阅以下文档:
灵感来源于并改编自 create-next-app。
版本历史
@llamaindex/server@0.3.02025/07/15create-llama@0.6.32025/07/15create-llama@0.6.22025/07/11@llamaindex/server@0.2.102025/07/10create-llama@0.6.12025/07/01@llamaindex/server@0.2.92025/07/01create-llama@0.6.02025/06/19@llamaindex/server@0.2.82025/06/12create-llama@0.5.222025/06/12create-llama@0.5.212025/06/06@llamaindex/server@0.2.72025/06/06@llamaindex/server@0.2.62025/06/02create-llama@0.5.202025/06/02@llamaindex/server@0.2.52025/05/29create-llama@0.5.192025/05/29@llamaindex/server@0.2.42025/05/29@llamaindex/server@0.2.22025/05/22create-llama@0.5.162025/05/22create-llama@0.5.152025/05/16llama-index-server-v0.1.162025/05/16常见问题
相似工具推荐
openclaw
OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
markitdown
MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器
LLMs-from-scratch
LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备