pipeless
Pipeless 是一个开源计算机视觉框架,旨在帮助开发者在几分钟内构建并部署实时视频分析应用。传统开发中,处理多路视频流往往需要耗费数周时间来解决代码并行化、内存管理、模型推理及流水线编排等复杂工程问题,而 Pipeless 通过类似 Serverless 的架构将这些底层难题一站式解决。
用户只需定义具体的业务逻辑函数,Pipeless 即可自动负责视频帧的调度与执行。其核心亮点在于独特的“阶段(Stage)”概念:每个阶段是一个独立的微流水线,包含预处理、模型推理和后处理步骤。用户可以灵活组合这些阶段,甚至在不重启程序的情况下,通过 CLI 或 API 动态调整不同视频流的处理流程。此外,Pipeless 原生支持 YOLO 等行业标准模型及自定义模型,内置 ONNX Runtime 等高性能推理引擎,可轻松运行于 CPU 或 GPU,并兼容从边缘 IoT 设备到云端的各种部署环境。
这款工具特别适合需要快速原型验证的 AI 研究人员、希望降低工程复杂度的软件开发者,以及需要管理多路摄像头实时分析的系统架构师。使用 Pipeless,团队能将原本漫长的开发周期缩短至分钟级,专注于核心算法创新而非基础设施搭建。
使用场景
某智慧零售团队需要为连锁超市开发一套实时客流分析系统,通过监控摄像头统计进店人数并识别顾客动线。
没有 pipeless 时
- 开发周期漫长:工程师需手动编写复杂的视频流拉取、解码及多线程管理代码,仅搭建基础框架就耗时数周。
- 多路并发困难:当摄像头数量从 1 路增加到 50 路时,原有架构内存溢出频发,难以动态调整资源分配。
- 模型部署僵化:更换或升级 YOLO 检测模型时,必须停止服务、重新编译代码并重启整个应用,导致业务中断。
- 异常处理繁琐:需自行编写大量逻辑来处理摄像头断连、帧丢失等边缘情况,系统稳定性难以保障。
使用 pipeless 后
- 分钟级应用构建:只需定义预处理、模型推理和后处理三个“阶段”函数,pipeless 自动接管流水线编排,将开发时间压缩至几分钟。
- 弹性多流支持:利用内置的多流管理机制,可动态通过 API 添加或移除摄像头流,无需修改代码即可轻松支撑百路并发。
- 热更新与动态配置:支持按流动态切换处理逻辑,更新行业标准模型(如 ONNX 格式)时无需重启服务,实现无缝迭代。
- 内置高可用策略:pipeless 自带的重启策略自动处理连接失败和设备异常,大幅降低了运维复杂度。
pipeless 让开发者从繁琐的底层音视频工程中解放出来,专注于核心视觉算法,真正实现计算机视觉应用的敏捷开发与实时落地。
运行环境要求
- Linux
- macOS
- 非必需
- 支持 CPU 运行
- 若使用 GPU,支持 NVIDIA (CUDA, TensorRT), Intel (OpenVINO), Apple (CoreML)
- 具体显存和 CUDA 版本未说明,取决于所选推理后端和模型
未说明

快速开始
Pipeless 是一个开源框架,可在短短几分钟内完成开发和部署计算机视觉应用所需的一切工作。 这包括代码并行化、多媒体管道、内存管理、模型推理、多流管理等。借助 Pipeless,您可以 在几分钟内交付实时运行的应用程序,而无需耗费数周或数月的时间。
Pipeless 的设计理念源自现代无服务器技术。您只需提供一些函数,Pipeless 就会负责为新的视频帧及其相关任务执行这些函数。
使用 Pipeless,您可以创建称为“阶段”的自包含模块。每个阶段都是一个执行特定任务的微型管道。随后,您可以根据不同的流动态组合这些阶段,从而无需更改代码或重启程序即可用不同的管道处理每条流。要创建一个阶段,您只需提供预处理函数、模型和后处理函数即可。
您可以通过提供 URL,加载 行业标准模型(如 YOLO)或 自定义模型,这些模型将运行在支持的推理运行时中。Pipeless 自带一些最流行的推理运行时,例如 ONNX Runtime,使您能够开箱即用地在 CPU 或 GPU 上以高性能进行推理。
您可以将 Pipeless 及其应用程序部署到边缘设备、物联网设备或云端。为此提供了多种工具,包括容器镜像。
以下是 Pipeless 包含的部分相关功能(并不全面):
- 多流支持:同时处理多个数据流。
- 动态流配置:通过 CLI 或 REST API 动态添加、编辑和移除流(未来还将推出更多适配器)。
- 多语言支持:您可以用多种语言编写钩子函数,包括 Python。
- 动态处理步骤:您可以为流处理添加任意数量的步骤,甚至可以根据每个流的需求动态修改这些步骤。
- 内置重启策略:无需再担心连接错误、摄像头故障等问题。您可以为每个流轻松指定自动处理这些问题的重启策略。
- 高度并行化:无需操心多线程或多进程问题,Pipeless 会为您妥善处理。
- 支持多种推理运行时:只需提供模型并选择支持的推理运行时,即可在 CPU 或 GPU 上直接运行该模型。我们支持 CUDA、TensorRT、OpenVINO、CoreML 等,并将继续增加支持的运行时。
- 清晰的项目结构与高度可重用的代码:Pipeless 使用文件系统结构来加载处理阶段和钩子函数,帮助您将代码组织成高度可重用的模块。每个阶段就是一个目录,每个钩子函数都单独存放在一个文件中。
加入我们的 社区,一起让计算机视觉开发者的工作更轻松!
需求 ☝️
- Python。预编译的二进制文件已链接到 Linux amd64 上的 Python 3.10、Linux arm64 上的 Python 3.8 以及 macOS 上的 Python 3.12。如果您使用的是其他版本的 Python,请在安装脚本中添加
--build标志以从源码构建,这样 Pipeless 就会链接到您已安装的 Python 版本(或者更新您的 Python 版本并使用预编译的二进制文件,后者更为简单)。 - GStreamer 1.20.3。可通过运行
gst-launch-1.0 --gst-version进行验证。安装说明请参见 这里。
安装 🛠️
curl https://raw.githubusercontent.com/pipeless-ai/pipeless/main/install.sh | bash
更多信息及安装选项请参见 这里。
使用 Docker
您也可以选择使用 Docker 而不是本地安装,从而节省依赖项的安装时间:
docker run miguelaeh/pipeless --help
若需使用 CUDA:
docker run miguelaeh/pipeless:latest-cuda --help
若需使用 TensorRT:
docker run miguelaeh/pipeless:latest-tensorrt --help
完整的容器文档请参见 这里。
开始使用 🚀
初始化一个项目:
pipeless init my_project --template scaffold
cd my_project
启动 Pipeless:
pipeless start --stages-dir .
提供一个流:
pipeless add stream --input-uri "https://pipeless-public.s3.eu-west-3.amazonaws.com/cats.mp4" --output-uri "screen" --frame-path "my-stage"
生成的代码是一个空模板,用于搭建一个阶段,因此目前不会执行任何操作。请前往 示例 完成该阶段。
你也可以使用交互式 Shell 来创建项目:
示例 🌟
你可以在 examples 目录下找到一些示例。只需将这些文件夹复制到你的项目中,即可进行尝试。
完整的示例列表和逐步指南请参见这里。
基准测试 📈
我们已将 Pipeless 部署到多种不同的设备上,以便你对其性能有一个大致的了解。测试结果可在文档的基准测试部分中找到。
重要变更
重要变更指版本之间的重大更新。请查看所有重要变更列表。
贡献 🤝
感谢你对贡献的兴趣!我们欢迎并鼓励大家参与贡献。虽然我们正在制定详细的贡献指南,但以下是一些入门的通用步骤:
- 克隆本仓库。
- 创建新分支:
git checkout -b feature-branch。 - 进行修改并提交:
git commit -m '添加新功能'。 - 将更改推送到你的分支:
git push origin feature-branch。 - 在 GitHub 上打开一个描述你更改的拉取请求。
我们非常感谢你为改进该项目所做的努力!
请注意,对于重大更改或新功能,建议先在问题中讨论,以便我们协调工作。
许可证 📄
本项目采用Apache License 2.0 许可证。
Apache License 2.0 摘要
Apache License 2.0 是一种宽松的开源许可证,允许你出于个人或商业目的使用、修改和分发本软件。它附带一些义务,包括向原始作者致谢,并在你的分发版本中包含原始许可证文本。
如需完整的许可证文本,请参阅Apache License 2.0。
版本历史
v1.11.02024/02/23v1.10.02024/02/20v1.9.02024/02/02v1.8.02024/01/31v1.7.02024/01/29v1.6.32024/01/22v1.6.22024/01/19v1.6.12024/01/17v1.6.02024/01/16v1.5.42024/01/12v1.5.32024/01/12v1.5.22024/01/07v1.5.12024/01/05v1.5.02023/12/20v1.4.02023/12/17v1.3.02023/12/08v1.2.12023/12/05v1.2.02023/11/29v1.1.42023/11/25v1.1.32023/11/23常见问题
相似工具推荐
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
NextChat
NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。
ragflow
RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。