ai-enablement-stack
ai-enablement-stack是一个由社区共建的AI开发工具全景图，它将纷繁复杂的AI生态清晰划分为五个关键层次：面向用户的智能代理、系统可观测性与治理、应用工程开发、核心智能框架和计算基础设施。这个工具帮助开发者快速找到生产级工具，避免在爆炸式增长的AI工具市场中迷失方向；同时为工程领导者提供决策依据，助力企业高效规划AI技术路线。它通过严格筛选标准（确保工具具备生产就绪性、企业级支持和活跃开发），为用户提供可靠、结构化的参考。开发者能加速构建AI应用，工程团队可优化基础设施选型，企业则能系统化布局技术战略。所有内容由全球社区持续更新，保持前沿性和实用性，是探索现代AI开发生态的实用指南。
使用场景
某科技公司的 AI 产品研发团队正在寻找合适的工具，以构建一个能够自主完成代码编写、测试和部署的智能开发助手，用于提升团队整体开发效率。
没有 ai-enablement-stack 时
- 团队需要手动搜索大量 AI 工具，缺乏系统化的分类和评估标准，难以快速筛选出适合项目需求的工具。
- 对于每个候选工具，团队无法快速了解其生产就绪性、企业级功能以及是否具备活跃的社区支持。
- 不同工具之间的兼容性和集成难度不明确，导致选型过程中存在较大的试错成本。
- 缺乏对 AI 开发生态系统整体架构的理解，难以规划合理的技术栈组合。
- 工具信息分散在多个网站和文档中，整合和对比非常困难。
使用 ai-enablement-stack 后
- 团队可以基于清晰的五层架构（如基础设施、智能层等）快速定位到符合需求的工具，并查看其详细描述与链接。
- 工具列表中已包含经过筛选的生产就绪、企业级且具有市场影响力的工具，减少了无效尝试。
- 通过查看工具的分类和所属层级，团队能更高效地评估其与其他工具的兼容性与集成可能性。
- 能够全面理解 AI 开发生态，从而制定更科学的技术选型策略。
- 所有工具信息集中在一个统一的资源库中，便于对比分析和决策。
核心价值：ai-enablement-stack 帮助研发团队高效识别、评估并整合 AI 工具，显著提升了 AI 项目的开发效率与成功率。
运行环境要求
- 未说明
未说明
未说明
快速开始
🤖 AI赋能栈 🚀
构建现代AI开发的全面工具与技术指南
👉 添加你的工具
什么是AI赋能栈？
AI赋能栈是一个精心 curated的集合，包含了由风险投资支持的企业、工具和技术，旨在帮助开发者构建、部署和管理AI应用。它从五个关键层级系统地展示了AI开发生态系统：
代理消费者层：AI通过自主智能体、辅助工具和专用解决方案与最终用户直接交互。这一层展示了即用型AI应用和智能代理工具。
可观测性与治理层：用于监控、保护和管理生产环境中AI系统的工具。对于维持可靠且合规的AI运营至关重要。
工程层：用于构建生产就绪AI应用的开发资源，包括训练工具、测试框架和质量保证解决方案。
智能层：提供AI核心能力的认知基础，包含框架、知识引擎和专用模型。
基础设施层：支撑AI开发与部署的计算基石，涵盖开发环境到模型推理平台等。
为什么使用这个栈？
- 对开发者而言：找到合适的工具，更快更高效地构建AI应用。
- 对工程负责人而言：做出关于AI基础设施和工具的明智决策。
- 对组织而言：理解AI开发生态格局，规划技术采纳路径。
本栈中的每款工具都经过严格筛选，标准包括：
- 生产就绪度
- 企业级功能
- 持续开发与支持
- 风险投资支持或显著的市场影响力
如何贡献
要为本列表贡献力量：
- 阅读 CONTRIBUTING.md
- 克隆仓库并创建分支
- 将Logo文件放置在 ./public/images/ 文件夹下
- 在 ai-enablement-stack.json 文件中将你的工具添加到相应类别
- 提交PR，并附上充分的理由说明其入选价值。
代理消费者层
自主代理
可独立完成复杂任务的自运行人工智能系统
Devin
类别
代理消费层 - 自主代理
描述
Cognition 开发了 Devin，这是全球首位 AI 软件工程师，旨在作为协作伙伴，通过并行任务执行和全面的开发支持，帮助工程团队扩展其能力。
链接
OpenHands
Lovable
Bolt.new
类别
代理消费层 - 自主代理
描述
Bolt.new 是一个基于 Web 的开发平台，可在浏览器中借助 AI 助手（Claude 3.5 Sonnet）进行应用开发，具备实时执行、一键部署至 Netlify 以及无需配置的开发环境等功能，尤其适合快速原型设计和非技术背景的创始人。
链接
Vercel v0
类别
代理消费层 - 自主代理
描述
Vercel v0 是一个由 AI 驱动的 UI 生成平台，允许开发者通过自然语言提示创建 React 组件，集成 Tailwind CSS 和 Shadcn/UI，具备快速原型设计能力，并能生成可定制的生产级代码。
链接
AutoGen
AgentGPT
Superagent
Morph
类别
代理消费层 - 自主代理
描述
Morph AI 提供一款企业级开发者助手，能够跨多种编程语言和框架自动完成工程任务，使开发者专注于高价值工作，同时通过自动化测试和合规性检查确保代码质量。
链接
Coworked
类别
代理消费层 - 自主代理
描述
Coworked 打造了 Harmony，这是一款功能最全面的 AI 项目经理同事，旨在作为团队成员提升项目管理能力、简化执行流程，帮助团队更高效、更有信心地交付复杂项目。
链接
辅助型智能体
增强人类能力与工作流效率的AI工具
Copilot
Continue.dev
Cody
分类
消费者层智能体 - 辅助型智能体
描述
Sourcegraph的Cody是一款AI编码助手，它结合了最新的LLM模型（包括Claude 3和GPT-4）以及全面的代码库上下文信息，帮助开发者在多种IDE中编写、理解和修复代码，同时提供企业级的安全保障和灵活的部署选项。
链接
Cursor
Tabnine
分类
消费者层智能体 - 辅助型智能体
描述
Tabnine提供一款注重隐私的AI代码助手，具备个性化的代码生成、测试和审查功能。它采用基于团队代码库训练的定制化模型，不保留任何数据，并提供企业级的安全保障，支持本地部署。
链接
Supermaven
分类
消费者层智能体 - 辅助型智能体
描述
Supermaven提供超快速的代码补全与辅助功能，拥有100万token的上下文窗口，支持多种IDE（VS Code、JetBrains、Neovim）和LLM（GPT-4、Claude 3.5）。其特点是实时聊天界面、代码库扫描功能，以及比竞争对手快三倍的响应速度。
链接
Windsurf
分类
消费者层智能体 - 辅助型智能体
描述
Windsurf提供一个融合了协作式助手与智能体功能的IDE，通过“Flows”实现这一目标。它具有Cascade功能，可提供深度的上下文感知能力，支持多文件编辑、命令建议以及基于LLM的搜索工具，所有这些都集成在一个基于VS Code的编辑器中，以实现无缝的人工智能与人类协作。
链接
Goose
分类
消费者层智能体 - 辅助型智能体
描述
Goose是一个开源的自主开发智能体，直接在您的机器上运行，能够执行shell命令、调试代码、管理依赖关系，并与GitHub、Jira等开发工具进行交互。它还配备了可扩展的工具包，并支持多家LLM提供商。
链接
Hex
分类
消费者层智能体 - 辅助型智能体
描述
Hex提供一个由AI驱动的分析平台，内置Magic AI功能，用于查询编写、图表构建和调试。该平台将LLM的能力与数据仓库的上下文及语义模型相结合，协助处理SQL、Python和可视化任务，同时保持企业级的安全性。
链接
Bloop
分类
消费者层智能体 - 辅助型智能体
描述
Bloop.ai提供一个代码理解与现代化平台，利用AI技术将遗留语言转换为现代语言。该平台具备自动行为验证、离线运行、持续交付支持等功能，并通过AI辅助提升开发人员的工作效率。
链接
Fabi
Augment Code
分类
消费者层智能体 - 辅助型智能体
描述
Augment Code提供一款由AI驱动的开发助手，能够深入理解代码库，具备上下文感知聊天、引导式多文件编辑和智能补全等功能。它还内置文档集成，并符合SOC 2 Type II标准，确保企业级的安全性。
链接
Trae
分类
消费者层智能体 - 辅助型智能体
描述
来自字节跳动的Trae是一款自适应的AI驱动IDE，集多模态理解、上下文感知的代码补全和项目构建能力于一体。它支持图像转代码功能，并通过集成的聊天界面提供实时协作辅助。
链接
專業代理
專為特定功能打造的人工智慧代理，例如 PR 審查等類似用途。
CodeRabbit
Qodo
Ellipsis
分類
代理消費者層 — 專業代理
描述
Ellipsis 為 GitHub 倉庫提供由 AI 驅動的程式碼審查與自動化錯誤修復服務，具備風格指南強制執行、程式碼生成及自動測試等功能，同時符合 SOC 2 Type 1 合規要求，並在不保留數據的情況下進行安全處理。
鏈接
Codeflash
分類
代理消費者層 — 專業代理
描述
Codeflash 是一款 CI 工具，透過使用 AI 自動尋找最優化的程式碼版本並進行基準測試，同時驗證新程式碼的正確性，從而保持 Python 程式碼的高效能。
鏈接
Superflex
分類
代理消費者層 — 專業代理
描述
Superflex 是一款 VSCode 擴充功能，能夠根據 Figma 設計圖、圖片和文字提示來構建功能，同時維持設計標準、程式碼風格並重複使用 UI 組件。
鏈接
Codemod
分類
代理消費者層 — 專業代理
描述
Codemod 提供由 AI 驅動的程式碼遷移代理，可自動執行框架遷移、API 升級及大規模重構工作，內建社區遷移配方註冊表、AI 協助創建程式碼修改以及全面的遷移管理功能。
鏈接
Codegen
分類
代理消費者層 — 專業代理
描述
Codegen 為大規模程式碼轉換提供企業級靜態分析與程式碼修改功能，具備先進的視覺化工具、自動文檔生成及平台工程模板，並通過 SOC 2 Type II 認證，確保大規模重構的安全性。
鏈接
Keploy
分類
代理消費者層 — 專業代理
描述
Keploy 提供一款由 AI 驅動的單元測試代理，可在您的 GitHub PR 及 VSCode 中直接生成穩定且實用的單元測試，覆蓋關鍵內容。
鏈接
可觀測性與治理層
開發管道
用於管理和監控 AI 應用生命週期的工具
Portkey
分類
可觀測性與治理層 — 開發管道
描述
Portkey 提供全面的 AI 網關與控制面板，使團隊能夠路由至 200 多種 LLM，實施保護機制，管理提示詞，並透過詳細的可觀測性功能監控 AI 應用，同時遵守 SOC2 合規性及 HIPAA/GDPR 標準。
鏈接
Baseten
分類
可觀測性與治理層 — 開發管道
描述
Baseten 提供高性能推理基礎設施，吞吐量高達每秒 1,500 個 token，延遲低於 100 毫秒，並具備 GPU 自動擴縮容量功能。此外，還提供 Truss 開源模型打包、企業級安全性（SOC2、HIPAA）以及支援部署於客戶雲端或自主託管環境。
鏈接
LangServe
Stack AI
分類
可觀測性與治理層 — 開發管道
描述
Stack AI 提供一款企業級生成式 AI 平台，可用於構建和部署 AI 應用，具備無代碼介面、預建模板、工作流程自動化、企業級安全功能（SOC2、HIPAA、GDPR）以及本地部署選項，並支援多種 AI 模型和資料來源。
鏈接
评估与监控
用于跟踪 AI 性能和行为的系统
Pydantic Logfire
Cleanlab
类别
可观测性与治理层 - 评估与监控
描述
Cleanlab 提供一个由 AI 驱动的数据治理平台，帮助企业通过自动检测和修复数据质量问题、减少幻觉现象，从而提升其生成式 AI 和机器学习解决方案的质量，并实现可信的 AI 部署。同时，该平台支持 VPC 集成，以增强安全性。
链接
Patronus
类别
可观测性与治理层 - 评估与监控
描述
Patronus 提供一个基于行业领先研究的全面 AI 评估平台，具备测试幻觉、安全风险、对齐情况及性能监控等功能，既提供预构建的评估工具，也支持针对 RAG 系统和 AI 代理的自定义评估能力。
链接
Log10
类别
可观测性与治理层 - 评估与监控
描述
Log10 提供端到端的 AI 准确性平台，用于评估和监控高风险行业的 LLM 应用程序。该平台具有专家驱动的评估、自动化反馈系统、实时监控以及持续改进工作流，并内置安全与合规功能。
链接
Traceloop
类别
可观测性与治理层 - 评估与监控
描述
Traceloop 通过 OpenLLMetry 提供开源的 LLM 监控解决方案，可在 22 家以上的 LLM 提供商中实现零侵入式集成，提供实时幻觉检测、输出质量监控和提示调试功能。
链接
WhyLabs
类别
可观测性与治理层 - 评估与监控
描述
WhyLabs 提供一个全面的 AI 控制中心，用于监控、保护和优化 AI 应用程序。该平台支持实时 LLM 监控、安全护栏以及隐私保护型可观测性功能，并符合 SOC 2 Type 2 标准，同时支持多种模态。
链接
OpenLLMetry
类别
可观测性与治理层 - 评估与监控
描述
OpenLLMetry 是一个基于 OpenTelemetry 标准构建的开源 LLM 可观测性解决方案，能够轻松集成到 Datadog、New Relic 和 Grafana 等主流可观测性平台中，仅需两行代码即可完成部署。
链接
LangWatch
类别
可观测性与治理层 - 评估与监控
描述
LangWatch 提供一个全面的 LLMOps 平台，用于优化和监控 LLM 性能。该平台具备使用 DSPy 进行自动提示优化、质量评估、性能监控以及面向 AI 团队的协作工具等功能，同时提供企业级安全性和自托管选项。
链接
Elastic Observability
类别
可观测性与治理层 - 评估与监控
描述
Elastic Observability 是一套全栈可观测性解决方案，涵盖日志监控与分析、云与基础设施监控、应用性能监控、数字体验监控、持续剖析、AIOps 以及 LLM 观测等功能。
链接
风险与合规
确保负责任地使用人工智能并符合监管要求的框架
Alinia
Guardrails AI
Lakera
Socket
类别
可观测性与治理层 — 风险与合规
描述
Socket 提供以开发者为中心的安全平台，通过扫描依赖项和 AI 模型文件中的恶意代码来防范供应链攻击。该平台具备实时检测 70 多种风险信号的能力，可与主流软件包注册表集成，并已获得包括 OpenAI 和 Anthropic 在内的领先 AI 公司的信任。
链接
安全与访问控制
用于保护 AI 系统以及管理访问权限和用户角色的工具
LiteLLM
类别
可观测性与治理层 — 安全与访问控制
描述
LiteLLM 提供一个统一的 API 网关，用于管理 100 多家与 OpenAI 兼容的大语言模型提供商，支持 OpenAI 格式。其功能包括身份验证、负载均衡、支出跟踪和监控集成等，既提供开源解决方案，也提供企业级服务。
链接
Martian
类别
可观测性与治理层 — 安全与访问控制
描述
Martian 提供智能的大语言模型路由系统，能够动态为每个请求选择最优模型。该系统具备性能预测、自动故障转移、成本优化（最高可节省 98%）以及简化集成等功能，其表现优于单一模型如 GPT-4，同时确保高可用性。
链接
工程层
训练与微调
用于自定义和优化 AI 模型的资源
Lamini
Predibase
Modal
类别
工程层 — 训练与微调
描述
Modal 提供面向 AI 和 ML 应用的无服务器云平台，使开发者能够通过简单的 Python 代码即时部署和扩展工作负载。该平台配备高性能 GPU 基础设施，并采用按使用量付费的定价模式。
链接
Julius
Fine Tuner
Codeanywhere
Lightning AI
类别
工程层 — 训练与微调
描述
Lightning AI 提供一个全面的 AI 产品开发平台，包含 GPU 访问、开发环境、训练能力以及部署工具。该平台支持企业级安全、多云部署和团队协作，已被 NVIDIA 和 Microsoft 等大型机构采用。
链接
工具
用于构建 AI 应用的开发工具、库和服务
CopilotKit
类别
工程层 - 工具
描述
CopilotKit 是一个开源框架，用于将自定义的 AI 助理嵌入到任何应用程序中。其功能包括应用内 AI 聊天机器人、生成式 UI、Copilot 任务以及 RAG 能力，具有易于集成和完全可定制的特点。
链接
Ant Design X
类别
工程层 - 工具
描述
Ant Design X 是 Ant Design 推出的一款全新 AGI 组件库，旨在帮助开发者更轻松地构建 AI 产品的用户界面。基于 Ant Design，Ant Design X 进一步扩展了针对 AI 产品设计规范，为开发者提供了更强大的工具和资源。
链接
Relevance AI
类别
工程层 - 工具
描述
Relevance AI 提供一个无代码 AI 人力资源平台，使企业能够构建、定制并管理用于销售和支持等多种功能的 AI 代理和工具，其中 Bosh 是其 AI 销售代理，同时确保企业级的安全性和合规性。
链接
Greptile
类别
工程层 - 工具
描述
Greptile 提供一个由 AI 驱动的代码分析平台，通过智能代码审查、代码库聊天以及具备完整上下文理解能力的自定义开发工具，帮助软件团队更快地交付代码，同时保持 SOC2 Type II 合规性，并提供可选的自托管功能。
链接
Sourcegraph
类别
工程层 - 工具
描述
Sourcegraph 提供一个代码智能平台，内置 Cody AI 编程助手和先进的代码搜索功能，帮助开发者在企业环境中导航、理解和修改复杂代码库，同时自动化日常任务。
链接
PromptLayer
类别
工程层 - 工具
描述
PromptLayer 提供一个全面的提示词工程平台，使技术与非技术团队能够通过可视化 CMS 协作编辑、评估和部署 LLM 提示词，同时提供版本控制、A/B 测试和监控功能，并符合 SOC 2 Type 2 标准。
链接
Gretel.ai
Mostly.ai
Tonic.ai
Rockfish.ai
JigsawStack
类别
工程层 - 工具
描述
JigsawStack 提供一套全面的 AI API，包括网页抓取、翻译、语音转文本、OCR、预测和提示优化等功能，拥有全球分布式的基础设施，配备类型安全的 SDK 和内置监控功能，覆盖 99 个以上地点。
链接
测试与质量保证
用于验证 AI 性能和可靠性的系统
Adaline
LangSmith
Langfuse
类别
工程层 - 测试与质量保证
描述
Langfuse 是一个开源的 LLM 工程平台，专注于 LLM 可观测性、评估和提示管理。您可以使用自动化评估工具或 Langfuse Playground 来迭代测试并改进 LLM 应用程序。Langfuse 已通过 SOC2/ISO27001 认证，并且可以轻松地大规模自托管。
链接
Galileo
Arize
Weight & Biases
AgentOps
Confident AI
类别
工程层 - 测试与质量保证
描述
Confident AI 提供一个 LLM 评估平台，使组织能够通过自动化回归测试、A/B 测试和合成数据集生成来基准测试、单元测试和监控其 LLM 应用程序，同时提供基于研究的评估指标和全面的可观测性功能。
链接
ContextQA
Braintrust
类别
工程层 - 测试与质量保证
描述
Braintrust 提供一个端到端的平台，用于评估和测试 LLM 应用程序，提供提示测试、自定义评分、数据集管理、实时追踪和生产监控等功能，支持基于 UI 和 SDK 的工作流。
链接
Athina AI
智能层
框架
用于 AI 应用开发的核心库和构建模块
LangChain
LlamaIndex
Haystack
DSPy
Pydantic AI
Letta
类别
智能层 - 框架
描述
提供一个具备先进内存管理功能的LLM代理开发平台，使开发者能够构建、部署和扩展生产就绪的AI代理，同时实现透明的推理过程和模型无关的灵活性。
链接
Langbase
类别
智能层 - 框架
描述
Langbase 提供一个无服务器的AI开发平台，包含 BaseAI（Web AI 框架）、用于代理开发的可组合AI管道、50-100倍更便宜的无服务器RAG、统一的LLM API接入以及协作工具，并具备企业级的安全性和可观ability。
链接
AutoGen
TaskWeaver
Toolhouse
类别
智能层 - 框架
描述
Toolhouse 提供一个云基础设施平台和通用SDK，使开发者能够通过工具商店为LLM赋予行动能力和知识，提供预建优化函数、低延迟执行以及跨LLM兼容性，仅需三行代码即可实现。
链接
Composio
类别
智能层 - 框架
描述
Composio 为AI代理和LLM提供一个集成平台，内置250多种预建工具、托管认证和RPA能力，使开发者能够轻松将AI应用连接到各种服务，同时保持SOC-2合规性并支持多种代理框架。
链接
CrewAI
类别
智能层 - 框架
描述
CrewAI 提供一个全面的平台，用于构建、部署和管理多代理AI系统，既有开源框架也有企业级解决方案，支持任何LLM和云平台，使组织能够在各个行业创建自动化工作流。
链接
AI Suite
类别
智能层 - 框架
描述
AI Suite 为多个LLM提供商（OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral等）提供统一接口，采用与OpenAI兼容的语法标准化API访问，方便切换提供商并实现无缝集成，是一个开源的MIT许可框架。
链接
Promptflow
类别
智能层 - 框架
描述
Promptflow 是微软的开源LLM应用开发框架，提供流程创建、测试、评估和部署工具，支持通过VS Code插件进行可视化流程设计，内置评估指标并具备CI/CD集成能力。
链接
LLMStack
类别
智能层 - 框架
描述
LLMStack 是一个开源平台，用于构建AI代理、工作流和应用程序，支持跨主要提供商的模型链式调用、来自多种来源的数据集成（PDF、URL、音频、云端存储等），以及具有细粒度权限的协作开发功能。
链接
Graphlit
类别
智能层 - 框架
描述
Graphlit 是一个无服务器、开箱即用的RAG即服务平台。Graphlit 负责管理数据摄取、向量嵌入和LLM流程，让团队无需搭建复杂的数据基础设施就能快速构建AI应用和代理。
链接
Griptape
类别
智能层 - 框架
描述
Griptape 提供一个企业级AI开发平台，采用Off-Prompt™技术，结合Python框架实现可预测的AI开发，以及用于ETL、RAG和代理部署的云基础设施，内置监控和策略执行功能。
链接
知识引擎
用于管理和检索信息的数据库及系统
Pinecone
Weaviate
Chroma
Epsilla
Milvus
Qdrant
MongoDB Atlas
Supabase
类别
智能层 - 知识引擎
描述
Supabase Vector 是一个基于 Postgres 和 pgvector 构建的开源向量数据库，提供可扩展的嵌入存储、索引和查询功能，并集成了 OpenAI 和 Hugging Face 的 AI 工具，具备企业级安全性及全球部署选项。
链接
Contextual AI
类别
智能层 - 知识引擎
描述
Contextual AI 提供企业级的 RAG（检索增强生成）解决方案，使受监管行业的组织能够构建并部署用于搜索和分析大量业务关键文档的生产就绪型 AI 应用程序。
链接
Unstructured
Sciphi
类别
智能层 - 知识引擎
描述
SciPhi 提供 R2R，这是一种一体化的 RAG（检索增强生成）解决方案，使开发者能够构建和扩展具有高级功能的 AI 应用程序，包括文档管理、混合向量搜索和知识图谱，同时在数据摄取性能方面优于竞争对手。
链接
pgAI
类别
智能层 - 知识引擎
描述
pgAI 是一个 PostgreSQL 扩展，可在数据库中直接启用 AI 功能，具备自动向量嵌入生成、RAG 实现、语义搜索以及 LLM 集成（OpenAI、Claude、Cohere、Llama）等功能，并通过 pgvector 和 pgvectorscale 支持高性能向量操作。
链接
Zep
类别
智能层 - 知识引擎
描述
Zep 是一个用于 AI 代理的记忆层，能够持续从用户交互和不断变化的业务数据中学习。Zep 确保您的代理对用户拥有完整且全面的视图，从而帮助您构建更加个性化和精准的用户体验。
链接
FalkorDB
类别
智能层 - 知识引擎
描述
FalkorDB 提供一个针对 AI 应用优化的图数据库平台，采用 GraphRAG 技术进行知识图谱构建，支持亚毫秒级查询和高级关系建模，通过基于图的数据关系实现更准确、更具上下文的 LLM 回答。
链接
Superduper
类别
智能层 - 知识引擎
描述
Superduper 提供一个可以直接利用现有数据库构建和部署 AI 应用的平台，支持与多种 AI 框架和数据库的集成，兼容 RAG、向量搜索和 ML 工作流，同时允许在现有基础设施上部署，无需数据迁移或 ETL 流程。
链接
Elasticsearch
分类
智能层 - 知识引擎
描述
Elasticsearch 的开源向量数据库提供了一种高效的方式来创建、存储和搜索向量嵌入。通过结合文本搜索和向量搜索实现混合检索，从而兼具两者的优势，提升相关性和准确性。
链接
Exa
分类
智能层 - 知识引擎
描述
Exa 通过语义搜索提供企业级的搜索和网页爬取功能，包括神经网络搜索 API、内容抓取以及用于创建自定义数据集的 Websets，并可无缝集成到 RAG 应用和 LLM 上下文增强中。
链接
Firebase Data Connect
分类
智能层 - 知识引擎
描述
Firebase Data Connect 利用其底层的 PostgreSQL 数据库和 Google Vertex AI 嵌入技术，实现了向量相似度搜索功能。
链接
专用编码模型
专为软件开发优化的 AI 模型
Codestral
分类
智能层 - 专用编码模型
描述
Codestral 是 Mistral AI 推出的一款 220 亿参数的专用代码生成模型，支持 80 多种编程语言。它拥有 3.2 万 token 的上下文窗口，具备“填空式”生成能力，在各类编码基准测试中表现卓越。该模型可通过 API 接口及 IDE 插件使用。
链接
Claude 3.5 Sonnet
分类
智能层 - 专用编码模型
描述
Claude 3.5 Sonnet 是 Anthropic 公司推出的前沿 AI 模型，可在推理、编码和视觉任务中提供最先进的性能。它拥有 20 万 token 的上下文窗口，具备计算机使用能力，并采用了更严格的安全措施。用户可以通过 Claude.ai 平台及各大云服务商获取该模型。
链接
Qwen2.5-Coder-32B
分类
智能层 - 专用编码模型
描述
Qwen2.5-Coder 是一款专注于代码生成的模型，其编码能力与 GPT-4 相当。该模型拥有 320 亿参数，12.8 万 token 的上下文窗口，支持 80 多种编程语言，并在各类编码基准测试中表现出色。它是一款采用 Apache 2.0 许可证的开源模型。
链接
Poolside Malibu
分类
智能层 - 专用编码模型
描述
Poolside Malibu 是一款面向企业的代码生成模型，基于代码执行反馈强化学习（RLCEF）进行训练。它拥有 10 万 token 的上下文窗口，支持自定义微调，并能深度集成到开发环境中。该模型可通过 Amazon Bedrock 平台安全部署。
链接
基础设施层
AI 沙箱
用于隔离和构建 AI 应用的开发环境
Daytona
类别
基础设施层 - AI 沙箱
描述
Daytona 是一个安全、可扩展的运行时环境，用于执行 AI 生成的代码以及代理工作流。我们的开源平台提供闪电般的快速基础设施（200 毫秒启动），并具备完全隔离能力，为开发者和 AI 系统提供了一个安全的沙箱，可以在其中无风险地运行生成的代码。
链接
Runloop
类别
基础设施层 - AI 沙箱
描述
Runloop 提供一个安全、高性能的基础设施平台，使开发者能够构建、扩展和部署由 AI 驱动的编码解决方案，并具备无缝集成和实时监控功能。
链接
E2B
类别
基础设施层 - AI 沙箱
描述
E2B 提供一个开源的运行时平台，使开发者能够在云端沙箱中安全地执行 AI 生成的代码，支持多种语言和框架，适用于 AI 驱动的开发用例。
链接
Morph Labs
类别
基础设施层 - AI 沙箱
描述
Morph Labs 提供用于大规模开发和部署自主软件工程师的基础设施，推出 Infinibranch 用于 Morph Cloud，并专注于为 AI 驱动的开发提供先进的基础设施，背后有 Together AI、Nomic AI 等领先 AI 公司的支持。
链接
YepCode
类别
基础设施层 - AI 沙箱
描述
YepCode 是一个以开发者为中心的平台，用于 AI 代理的开发和执行，提供无缝的沙箱环境，具有简单的依赖管理、团队变量和密钥处理、计划执行、全面的结果分析以及企业级审计功能。
链接
数据摄取与转换
为 AI 应用和训练准备数据的服务
Confluent
类别
基础设施层 - 数据摄取与转换
描述
Confluent 是一个云原生的数据流平台，帮助企业访问、存储和管理数据，从而将实时、情境化、高度治理且可信的数据引入您的 AI 系统和应用中。
链接
模型访问与部署
用于部署和运行 AI 模型的服务
OpenAI
类别
基础设施层 - 模型访问与部署
描述
OpenAI 开发了像 ChatGPT、GPT-4 和 Sora 这样的先进人工智能系统，专注于通过语言模型、图像生成和视频创作等产品，打造有益于人类的安全 AGI，同时在 AI 研究和安全性方面保持领先地位。
链接
Deepseek
类别
基础设施层 - 模型访问与部署
描述
Deepseek 开发了能够以接近或超越人类智能水平完成各种任务的先进 AI 系统。超越狭义 AI 的范畴，Deepseek 致力于创建可泛化、自主学习、适应性强并能在不同领域应用知识的系统。凭借在机器学习、深度学习、自然语言处理和机器人技术等领域的前沿研究，Deepseek 旨在推动 AI 创新的边界。其应用遍及多个行业，为复杂挑战提供智能化解决方案。
链接
Anthropic
类别
基础设施层 - 模型访问与部署
描述
Anthropic 通过 Claude 系列提供前沿 AI 模型，强调安全性和可靠性，产品包括 Claude 3.5 Sonnet 和 Haiku。这些模型具备强大的推理、编码和计算机使用能力，同时通过宪法式 AI 和全面测试维持严格的安全标准。
链接
Mistral AI
类别
基础设施层 - 模型访问与部署
描述
Mistral AI 提供前沿 AI 模型，注重开放性和可移植性，既有开放权重模型（Mistral 7B、Mixtral 8x7B），也有商业模型（Mistral Large 2），可通过多种部署方式获取，包括无服务器 API、云服务和本地部署。
链接
Groq
类别
基础设施层 - 模型访问与部署
描述
Groq 为 Llama 3.1、Mixtral 和 Gemma 等公开可用的模型提供超高速 AI 推理基础设施，提供与 OpenAI 兼容的 API 端点，具有行业领先的速度，并且只需三行代码即可轻松集成到现有应用中。
链接
AI21labs
类别
基础设施层 - 模型访问与部署
描述
AI21 Labs 通过其 Jamba 基础模型和 RAG 引擎，提供企业级生成式 AI 解决方案，使组织能够构建安全、可投入生产的 AI 应用程序，并提供灵活的部署选项和专属集成支持。
链接
Cohere
类别
基础设施层 - 模型访问与部署
描述
Cohere 提供一个企业级 AI 平台，具备先进的语言模型、嵌入和检索功能，使企业能够在云端或本地环境中，通过灵活的部署选项构建生产就绪的 AI 应用程序。
链接
Hugging Face
类别
基础设施层 - 模型访问与部署
描述
Hugging Face 为机器学习模型提供完全托管的推理基础设施，支持多种硬件选项（CPU、GPU、TPU），覆盖各大云服务商，提供自动扩展和专用部署，并具备企业级安全性。
链接
Cartesia
类别
基础设施层 - 模型访问与部署
描述
Cartesia AI 通过状态空间模型提供实时多模态智能，支持跨设备的快速、私密且离线推理能力，提供以流媒体为核心的解决方案，具有恒定内存使用和低延迟的特点。
链接
Fireworks
Together.AI
Google Vertex AI
Amazon Bedrock
类别
基础设施层 - 模型访问与部署
描述
Amazon Bedrock 是一项完全托管的服务，通过统一的 API 提供对领先基础模型的访问，具备通过微调和 RAG 进行定制的能力，以及用于工作流自动化的托管 AI 代理，并符合 HIPAA 和 GDPR 标准的企业级安全性。
链接
Replicate
SambaNova
类别
基础设施层 - 模型访问与部署
描述
SambaNova 提供定制化 AI 基础设施，配备其 SN40L 可重构数据流单元 (RDU)，为大型语言模型提供创世界纪录的推理速度，并集成微调能力和企业级安全性，可通过云端和本地解决方案交付。
链接
BentoML
类别
基础设施层 - 模型访问与部署
描述
BentoML 提供一个开源的统一推理平台，使组织能够在任何云环境中以高性能和灵活性构建、部署和扩展 AI 系统，同时提供自动扩展、快速迭代和 SOC II 合规性等企业级功能。
链接
OpenRouter
类别
基础设施层 - 模型访问与部署
描述
OpenRouter 提供一个兼容 OpenAI 的统一 API，用于访问来自多个提供商的 282 多种模型，提供标准化访问、提供商路由和模型排名等功能，并支持多种 SDK 和框架集成。
链接
云服务提供商
为 AI 系统及其工作空间提供支持的计算基础设施
AWS
Azure
GCP
Koyeb
类别
基础设施层 - 云服务提供商
描述
Koyeb 提供高性能的无服务器平台，专为 AI 工作负载优化，配备 GPU/NPU 基础设施，在全球 50 多个地区实现部署，并具备无缝扩展能力，适用于机器学习模型的推理与训练，同时内置可观测性功能。
链接
Hyperbolic
类别
基础设施层 - 云服务提供商
描述
Hyperbolic 提供去中心化的 GPU 市场，用于 AI 计算和推理，相比传统提供商可降低高达 80% 的成本。该平台提供高吞吐量的推理服务、按需付费的 GPU 使用权限，以及硬件无关的计算资源变现能力。
链接
Prime Intellect
类别
基础设施层 - 云服务提供商
描述
Prime Intellect 提供一个统一的 GPU 市场，聚合了多家云服务提供商，针对不同型号的 GPU（H100、A100、RTX 系列）提供具有竞争力的价格，并支持在分布式集群上进行去中心化训练，同时还提供面向开源创新的协作式 AI 模型开发工具。
链接
CoreWeave
类别
基础设施层 - 云服务提供商
描述
CoreWeave 是一家专注于 AI 的云服务提供商，提供基于 Kubernetes 的原生基础设施，专为 GPU 工作负载优化。该平台支持 11 种以上的 NVIDIA GPU 类型，性能比传统提供商快 35 倍，成本可降低 80%，并为大规模的机器学习、人工智能、视觉特效及推理任务提供专业解决方案。
链接
Nebius
类别
基础设施层 - 云服务提供商
描述
Nebius 提供经过 AI 优化的云平台，配备最新的 NVIDIA GPU（H200、H100、L40S）以及 InfiniBand 网络，支持托管的 Kubernetes 和 Slurm 集群，集成 MLflow，并为 AI 训练、微调和推理工作loads提供专门的基础设施。
链接
贡献
请在提交拉取请求之前阅读贡献指南。
许可证
本项目采用 Apache 2.0 许可证授权 - 详情请参阅LICENSE文件。
常见问题
相似工具推荐
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。
ragflow
RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。
OpenHands
OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。 无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。 其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。