AIChat：一体化LLM命令行工具

AIChat是一款一体化LLM命令行工具，具备Shell助手、CMD与REPL模式、RAG、AI工具与智能体等功能。

安装

包管理器

• Rust开发者: cargo install aichat
• Homebrew/Linuxbrew用户: brew install aichat
• Pacman用户: pacman -S aichat
• Windows Scoop用户: scoop install aichat
• Android Termux用户: pkg install aichat

预编译二进制文件

从GitHub Releases下载适用于macOS、Linux和Windows的预编译二进制文件，解压后将aichat二进制文件添加到你的$PATH中即可。

功能特性

多模型支持

通过统一接口无缝集成超过20家领先的LLM提供商。支持的提供商包括OpenAI、Claude、Gemini（Google AI Studio）、Ollama、Groq、Azure-OpenAI、VertexAI、Bedrock、Github Models、Mistral、Deepseek、AI21、XAI Grok、Cohere、Perplexity、Cloudflare、OpenRouter、Ernie、Qianwen、Moonshot、ZhipuAI、MiniMax、Deepinfra、VoyageAI以及任何兼容OpenAI API的提供商。

CMD模式

使用AIChat的CMD模式探索强大的命令行功能。

REPL模式

体验交互式Chat-REPL，支持Tab自动补全、多行输入、历史搜索、可配置快捷键以及自定义REPL提示符。

Shell助手

提升你的命令行效率。用自然语言描述你的任务，让AIChat将其转化为精确的Shell命令。AIChat会智能适配你的操作系统和Shell环境。

多种输入形式

支持多种输入形式，如标准输入、本地文件和目录，以及远程URL，从而提供灵活的数据处理方式。

输入	CMD	REPL
CMD	aichat hello
STDIN	cat data.txt | aichat
上次回复		.file %%
地方文件	aichat -f image.png -f data.txt	.file image.png data.txt
本地目录	aichat -f dir/	.file dir/
远程URL	aichat -f https://example.com	.file https://example.com
外部命令	aichat -f '`git diff`'	.file `git diff`
组合输入	aichat -f dir/ -f data.txt explain	.file dir/ data.txt -- explain

角色

自定义角色以调整LLM的行为，提高交互效率并增强生产力。

角色由提示词和模型配置组成。

会话

通过会话保持上下文感知的对话，确保交互的连贯性。

左侧使用了会话，而右侧未使用会话。

宏

将一系列REPL命令组合成自定义宏，简化重复性任务。

RAG

将外部文档整合到LLM对话中，以获得更准确且更具上下文相关性的响应。

函数调用

函数调用通过将LLM连接到外部工具和数据源，极大地增强了LLM的能力。这开启了无限可能，使LLM能够超越其核心能力，完成更广泛的任务。

我们创建了一个新的仓库https://github.com/sigoden/llm-functions，帮助你充分利用这一功能。

AI工具与MCP

集成外部工具，以自动化任务、检索信息并在工作流中直接执行操作。

AI代理（OpenAI GPTs的CLI版本）

AI代理 = 指令（提示词）+ 工具（函数调用）+ 文档（RAG）。

本地服务器功能

AIChat内置了一个轻量级HTTP服务器，便于部署。

$ aichat --serve
聊天完成API: http://127.0.0.1:8000/v1/chat/completions
嵌入API:       http://127.0.0.1:8000/v1/embeddings
重排序API:     http://127.0.0.1:8000/v1/rerank
LLM游乐场:     http://127.0.0.1:8000/playground
LLM竞技场:     http://127.0.0.1:8000/arena?num=2

代理LLM API

LLM竞技场是一个基于网页的平台，你可以在上面并排比较不同的LLM。

使用curl测试：

curl -X POST -H "Content-Type: application/json" -d '{
  "model":"claude:claude-3-5-sonnet-20240620",
  "messages":[{"role":"user","content":"hello"}], 
  "stream":true
}' http://127.0.0.1:8000/v1/chat/completions

LLM游乐场

一个可以直接在浏览器中与支持的LLM交互的Web应用。

LLM竞技场

一个用于并排比较不同LLM的Web平台。

自定义主题

AIChat支持自定义的深色和浅色主题，可以高亮显示响应文本和代码块。

文档

• Chat-REPL 指南
• 命令行指南
• 角色指南
• 宏指南
• RAG 指南
• 环境变量
• 配置指南
• 自定义主题
• 自定义 REPL 提示符
• 常见问题解答

许可证

版权所有 © 2023–2025 aichat 开发者。

AIChat 根据您的选择，以 MIT 许可证或 Apache 许可证 2.0 的条款提供。

有关许可证的详细信息，请参阅 LICENSE-APACHE 和 LICENSE-MIT 文件。

AIChat 快速上手指南

AIChat 是一款功能强大的全能 LLM 命令行工具，支持 Shell 助手、交互式 REPL、RAG（检索增强生成）、AI 智能体及多模型提供商集成。

环境准备

• 操作系统：macOS, Linux, Windows (包括 WSL), Android (Termux)
• 前置依赖：无特殊依赖，二进制文件可直接运行。若通过 Rust 安装，需预先安装 Rust 工具链。
• 网络要求：需要能够访问配置的 LLM 提供商 API（如 OpenAI, Claude, Ollama 等）。

安装步骤

根据你的系统环境，选择以下任意一种方式安装：

1. 使用包管理器（推荐）

• Rust 用户:

  cargo install aichat
  

• macOS / Linux (Homebrew):

  brew install aichat
  

• Arch Linux (Pacman):

  pacman -S aichat
  

• Windows (Scoop):

  scoop install aichat
  

• Android (Termux):

  pkg install aichat
  

2. 手动安装二进制文件

访问 GitHub Releases 下载对应系统的预编译二进制文件，解压后将 aichat 可执行文件添加到系统的 $PATH 环境变量中即可。

基本使用

1. 初始化配置

首次运行前，需配置 API Key 和首选模型。运行以下命令进入交互向导：

aichat --configure

按提示输入你的 LLM 提供商（如 openai, ollama, claude 等）及对应的 API Key。

2. CMD 模式（单次问答）

直接在终端发送指令并获取回复，适合脚本调用或快速查询：

# 简单对话
aichat "如何用 Rust 编写一个 Hello World？"

# 结合管道使用 (Shell 助手)
git diff | aichat "解释这段代码变更"

# 读取文件内容进行分析
aichat -f README.md "总结这个项目的主要功能"

3. REPL 模式（交互式会话）

启动交互式聊天界面，支持多轮对话、上下文记忆、自动补全和历史记录搜索：

aichat

常用交互命令：

• 直接输入文字即可对话。
• .file <路径>：加载本地文件、目录或远程 URL 到上下文。
• .role <名称>：切换预设角色（如 coder, translator）。
• .session：管理会话历史，保持上下文连续性。
• .exit 或 Ctrl+D：退出 REPL。

4. 高级功能速览

• Shell 助手：在 REPL 中输入自然语言描述任务，AI 将生成并允许你直接执行对应的 Shell 命令。
• 本地服务：运行 aichat --serve 可启动本地 HTTP 服务器，提供兼容 OpenAI 格式的 API 接口及 Web 调试界面（LLM Playground/Arena）。
• 多模型支持：支持 OpenAI, Claude, Gemini, Ollama, Deepseek, Qianwen (通义千问) 等 20+ 主流模型，可在配置中自由切换。