tfx

GitHub
2.2k 729 较难 1 次阅读 6天前Apache-2.0开发框架
AI 解读 由 AI 自动生成,仅供参考

TFX(TensorFlow Extended)是谷歌基于 TensorFlow 打造的生产级机器学习端到端平台,旨在帮助团队构建、验证并部署标准化的 ML 流水线。它主要解决了机器学习从实验阶段走向生产环境时面临的流程碎片化、版本管理混乱及复现困难等痛点,让模型上线过程更加稳健可靠。

TFX 特别适合需要处理大规模数据、追求工程化落地的机器学习工程师、数据科学家及后端开发者。对于希望将零散的模型训练脚本转化为可维护、可监控的工业级系统的团队,TFX 提供了理想的解决方案。

其核心技术亮点在于模块化的组件设计,用户可通过配置灵活组合数据处理、模型训练、评估及服务等环节。TFX 原生支持 Apache Airflow 和 Kubeflow Pipelines 进行任务编排,并内置了强大的 ML Metadata 元数据管理系统。该系统能自动记录每次运行的输入输出及配置细节,不仅实现了完整的实验追踪,还支持利用历史状态进行模型热启动或断点续跑,极大提升了迭代效率与系统可靠性。

使用场景

某电商公司的数据科学团队正致力于构建一个每日自动更新的商品推荐模型,以应对用户行为数据的快速变化。

没有 tfx 时

  • 流程割裂且脆弱:数据预处理、训练和评估脚本由不同成员独立编写,依赖手动串联,一旦中间环节报错,整个流水线难以定位和恢复。
  • 实验追踪混乱:缺乏统一的元数据管理,团队成员无法准确追溯某个线上模型是由哪版数据、何种参数训练而成,复现历史实验极其困难。
  • 部署风险高:模型从开发环境迁移到生产环境时,常因环境差异或数据分布漂移(Data Drift)导致线上效果骤降,且缺乏自动化的验证机制拦截劣质模型。
  • 扩展性差:当需要引入新的特征工程逻辑或切换调度系统(如从 Cron 转至 Airflow)时,往往需要重构大量胶水代码,维护成本高昂。

使用 tfx 后

  • 标准化流水线:利用 TFX 组件构建端到端的 ML 流水线,将数据校验、转换、训练和推送封装为标准节点,支持断点续跑和自动化编排,大幅降低运维复杂度。
  • 全链路可追溯:通过集成的 ML Metadata 后端,自动记录每次运行的输入输出 artifact 及配置,团队可随时回溯任意模型版本的“血缘”信息,轻松复现实验。
  • 安全可靠的发布:内置的 TensorFlow Model Analysis 和数据验证组件能在部署前自动检测数据异常和模型性能回归,只有经过严格验证的模型才会被推送到生产服务。
  • 灵活可扩展:基于 TFX 的配置框架,团队可轻松自定义组件逻辑或无缝切换到底层的 Apache Airflow/Kubeflow 调度器,无需重写核心业务代码。

TFX 将原本松散易错的脚本集合转化为可监控、可复现且具备生产级鲁棒性的自动化机器学习平台。

运行环境要求

操作系统
  • 未说明
GPU

未说明

内存

未说明

依赖
notesTFX 是谷歌生产级的机器学习平台,支持通过 Apache Airflow 和 Kubeflow Pipelines 进行编排。不同 TFX 版本对 Python 及依赖库(如 TensorFlow, Beam, PyArrow 等)有严格的版本对应关系,安装时请务必参考兼容性表格选择匹配的版本组合,否则可能导致运行错误。
python>=3.9, <3.11 (针对最新版本 1.17.x)
tensorflow>=2.17
apache-beam[gcp]>=2.59.0
ml-metadata>=1.17.1
pyarrow>=10.0.1
tensorflow-data-validation>=1.17.0
tensorflow-metadata>=1.17.1
tensorflow-model-analysis>=0.48.0
tensorflow-serving-api>=2.17.1
tensorflow-transform>=1.17.0
tfx-bsl>=1.17.1
tfx hero image

快速开始

TFX

Python PyPI TensorFlow

TensorFlow Extended (TFX) 是一个基于 TensorFlow 的、面向 Google 生产环境的机器学习平台。它提供了一个配置框架,用于定义由 TFX 组件组成的机器学习流水线。TFX 流水线可以使用 Apache AirflowKubeflow Pipelines 进行编排。无论是组件本身,还是与编排系统的集成,都可以进行扩展。

TFX 组件会与一个 ML Metadata 后端交互,该后端会记录组件的运行情况、输入输出工件以及运行时配置。这一元数据后端支持诸如实验跟踪、从先前运行中热启动或恢复机器学习模型等高级功能。

TFX 组件

文档

用户文档

请参阅 TFX 用户指南

开发参考

路线图

TFX 的 路线图,每季度更新一次。

发布详情

有关详细的历史和即将发布的变更,请 查看此处

意见征集请求

TFX 是一个开源项目,我们强烈鼓励机器学习社区积极参与,共同塑造 TFX,以满足甚至超越他们的需求。其中一个重要环节就是 RFC 流程。请参阅 当前及过往的 TFX RFC 列表。有关社区成员如何贡献的信息,请访问 TensorFlow 意见征集请求 (TF-RFC) 流程页面。

示例

兼容版本

下表描述了 tfx 包的版本与其主要依赖 PyPI 包之间的兼容性。这些兼容性关系由我们的测试框架确定,但其他未经测试的组合也可能正常工作。

tfx Python apache-beam[gcp] ml-metadata pyarrow tensorflow tensorflow-data-validation tensorflow-metadata tensorflow-model-analysis tensorflow-serving-api tensorflow-transform tfx-bsl
GitHub master >=3.9,<3.11 2.59.0 1.17.1 10.0.1 夜间版 (2.x) 1.17.0 1.17.1 0.48.0 2.17.1 1.17.0 1.17.1
1.17.2 >=3.9,<3.11 2.59.0 1.17.1 10.0.1 2.17 1.17.0 1.17.1 0.48.0 2.17.1 1.17.0 1.17.1
1.17.1 >=3.9,<3.11 2.59.0 1.17.1 10.0.1 2.17 1.17.0 1.17.1 0.48.0 2.17.1 1.17.0 1.17.1
1.17.0 >=3.9,<3.11 2.59.0 1.17.1 10.0.1 2.17 1.17.0 1.17.1 0.48.0 2.17.1 1.17.0 1.17.1
1.16.0 >=3.9,<3.11 2.59.0 1.16.0 10.0.1 2.16 1.16.1 1.16.1 0.47.0 2.16.1 1.16.0 1.16.1
1.15.0 >=3.9,<3.11 2.47.0 1.15.0 10.0.0 2.15 1.15.1 1.15.0 0.46.0 2.15.1 1.15.0 1.15.1
1.14.0 >=3.8,<3.11 2.47.0 1.14.0 10.0.0 2.13 1.14.0 1.14.0 0.45.0 2.9.0 1.14.0 1.14.0
1.13.0 >=3.8,<3.10 2.40.0 1.13.1 6.0.0 2.12 1.13.0 1.13.1 0.44.0 2.9.0 1.13.0 1.13.0
1.12.0 >=3.7,<3.10 2.40.0 1.12.0 6.0.0 2.11 1.12.0 1.12.0 0.43.0 2.9.0 1.12.0 1.12.0
1.11.0 >=3.7,<3.10 2.40.0 1.11.0 6.0.0 1.15.5 / 2.10.0 1.11.0 1.11.0 0.42.0 2.9.0 1.11.0 1.11.0
1.10.0 >=3.7,<3.10 2.40.0 1.10.0 6.0.0 1.15.5 / 2.9.0 1.10.0 1.10.0 0.41.0 2.9.0 1.10.0 1.10.0
1.9.0 >=3.7,<3.10 2.38.0 1.9.0 5.0.0 1.15.5 / 2.9.0 1.9.0 1.9.0 0.40.0 2.9.0 1.9.0 1.9.0
1.8.0 >=3.7,<3.10 2.38.0 1.8.0 5.0.0 1.15.5 / 2.8.0 1.8.0 1.8.0 0.39.0 2.8.0 1.8.0 1.8.0
1.7.0 >=3.7,<3.9 2.36.0 1.7.0 5.0.0 1.15.5 / 2.8.0 1.7.0 1.7.0 0.38.0 2.8.0 1.7.0 1.7.0
1.6.2 >=3.7,<3.9 2.35.0 1.6.0 5.0.0 1.15.5 / 2.8.0 1.6.0 1.6.0 0.37.0 2.7.0 1.6.0 1.6.0
1.6.0 >=3.7,<3.9 2.35.0 1.6.0 5.0.0 1.15.5 / 2.7.0 1.6.0 1.6.0 0.37.0 2.7.0 1.6.0 1.6.0
1.5.0 >=3.7,<3.9 2.34.0 1.5.0 5.0.0 1.15.2 / 2.7.0 1.5.0 1.5.0 0.36.0 2.7.0 1.5.0 1.5.0
1.4.0 >=3.7,<3.9 2.33.0 1.4.0 5.0.0 1.15.0 / 2.6.0 1.4.0 1.4.0 0.35.0 2.6.0 1.4.0 1.4.0
1.3.4 >=3.6,<3.9 2.32.0 1.3.0 2.0.0 1.15.0 / 2.6.0 1.3.0 1.2.0 0.34.1 2.6.0 1.3.0 1.3.0
1.3.3 >=3.6,<3.9 2.32.0 1.3.0 2.0.0 1.15.0 / 2.6.0 1.3.0 1.2.0 0.34.1 2.6.0 1.3.0 1.3.0
1.3.2 >=3.6,<3.9 2.32.0 1.3.0 2.0.0 1.15.0 / 2.6.0 1.3.0 1.2.0 0.34.1 2.6.0 1.3.0 1.3.0
1.3.1 >=3.6,<3.9 2.32.0 1.3.0 2.0.0 1.15.0 / 2.6.0 1.3.0 1.2.0 0.34.1 2.6.0 1.3.0 1.3.0
1.3.0 >=3.6,<3.9 2.32.0 1.3.0 2.0.0 1.15.0 / 2.6.0 1.3.0 1.2.0 0.34.1 2.6.0 1.3.0 1.3.0
1.2.1 >=3.6,<3.9 2.31.0 1.2.0 2.0.0 1.15.0 / 2.5.0 1.2.0 1.2.0 0.33.0 2.5.1 1.2.0 1.2.0
1.2.0 >=3.6,<3.9 2.31.0 1.2.0 2.0.0 1.15.0 / 2.5.0 1.2.0 1.2.0 0.33.0 2.5.1 1.2.0 1.2.0
1.0.0 >=3.6,<3.9 2.29.0 1.0.0 2.0.0 1.15.0 / 2.5.0 1.0.0 1.0.0 0.31.0 2.5.1 1.0.0 1.0.0
0.30.0 >=3.6,<3.9 2.28.0 0.30.0 2.0.0 1.15.0 / 2.4.0 0.30.0 0.30.0 0.30.0 2.4.0 0.30.0 0.30.0
0.29.0 >=3.6,<3.9 2.28.0 0.29.0 2.0.0 1.15.0 / 2.4.0 0.29.0 0.29.0 0.29.0 2.4.0 0.29.0 0.29.0
0.28.0 >=3.6,<3.9 2.28.0 0.28.0 2.0.0 1.15.0 / 2.4.0 0.28.0 0.28.0 0.28.0 2.4.0 0.28.0 0.28.1
0.27.0 >=3.6,<3.9 2.27.0 0.27.0 2.0.0 1.15.0 / 2.4.0 0.27.0 0.27.0 0.27.0 2.4.0 0.27.0 0.27.0
0.26.4 >=3.6,<3.9 2.28.0 0.26.0 0.17.0 1.15.0 / 2.3.0 0.26.1 0.26.0 0.26.0 2.3.0 0.26.0 0.26.0
0.26.3 >=3.6,<3.9 2.25.0 0.26.0 0.17.0 1.15.0 / 2.3.0 0.26.0 0.26.0 0.26.0 2.3.0 0.26.0 0.26.0
0.26.1 >=3.6,<3.9 2.25.0 0.26.0 0.17.0 1.15.0 / 2.3.0 0.26.0 0.26.0 0.26.0 2.3.0 0.26.0 0.26.0
0.26.0 >=3.6,<3.9 2.25.0 0.26.0 0.17.0 1.15.0 / 2.3.0 0.26.0 0.26.0 0.26.0 2.3.0 0.26.0 0.26.0
0.25.0 >=3.6,<3.9 2.25.0 0.24.0 0.17.0 1.15.0 / 2.3.0 0.25.0 0.25.0 0.25.0 2.3.0 0.25.0 0.25.0
0.24.1 >=3.6,<3.9 2.24.0 0.24.0 0.17.0 1.15.0 / 2.3.0 0.24.1 0.24.0 0.24.3 2.3.0 0.24.1 0.24.1
0.24.0 >=3.6,<3.9 2.24.0 0.24.0 0.17.0 1.15.0 / 2.3.0 0.24.1 0.24.0 0.24.3 2.3.0 0.24.1 0.24.1
0.23.1 >=3.5,<4 2.24.0 0.23.0 0.17.0 1.15.0 / 2.3.0 0.23.1 0.23.0 0.23.0 2.3.0 0.23.0 0.23.0
0.23.0 >=3.5,<4 2.23.0 0.23.0 0.17.0 1.15.0 / 2.3.0 0.23.0 0.23.0 0.23.0 2.3.0 0.23.0 0.23.0
0.22.2 >=3.5,<4 2.21.0 0.22.1 0.16.0 1.15.0 / 2.2.0 0.22.2 0.22.2 0.22.2 2.2.0 0.22.0 0.22.1
0.22.1 >=3.5,<4 2.21.0 0.22.1 0.16.0 1.15.0 / 2.2.0 0.22.2 0.22.2 0.22.2 2.2.0 0.22.0 0.22.1
0.22.0 >=3.5,<4 2.21.0 0.22.0 0.16.0 1.15.0 / 2.2.0 0.22.0 0.22.0 0.22.1 2.2.0 0.22.0 0.22.0
0.21.5 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.2 0.15.0 1.15.0 / 2.1.0 0.21.5 0.21.1 0.21.5 2.1.0 0.21.2 0.21.4
0.21.4 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.2 0.15.0 1.15.0 / 2.1.0 0.21.5 0.21.1 0.21.5 2.1.0 0.21.2 0.21.4
0.21.3 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.2 0.15.0 1.15.0 / 2.1.0 0.21.5 0.21.1 0.21.5 2.1.0 0.21.2 0.21.4
0.21.2 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.2 0.15.0 1.15.0 / 2.1.0 0.21.5 0.21.1 0.21.5 2.1.0 0.21.2 0.21.4
0.21.1 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.2 0.15.0 1.15.0 / 2.1.0 0.21.4 0.21.1 0.21.4 2.1.0 0.21.2 0.21.3
0.21.0 >=2.7,<3 或 >=3.5,<4 2.17.0 0.21.0 0.15.0 1.15.0 / 2.1.0 0.21.0 0.21.0 0.21.1 2.1.0 0.21.0 0.21.0
0.15.0 >=2.7,<3 或 >=3.5,<4 2.16.0 0.15.0 0.15.0 1.15.0 0.15.0 0.15.0 0.15.2 1.15.0 0.15.0 0.15.1
0.14.0 >=2.7,<3 或 >=3.5,<4 2.14.0 0.14.0 0.14.0 1.14.0 0.14.1 0.14.0 0.14.0 1.14.0 0.14.0 n/a
0.13.0 >=2.7,<3 或 >=3.5,<4 2.12.0 0.13.2 n/a 1.13.1 0.13.1 0.13.0 0.13.2 1.13.0 0.13.0 n/a
0.12.0 >=2.7,<3 2.10.0 0.13.2 n/a 1.12.0 0.12.0 0.12.1 0.12.1 1.12.0 0.12.0 n/a

资源

版本历史

v1.17.32026/04/10
v1.17.22026/03/03
v1.17.12026/03/03
v1.17.02026/03/03
v1.16.02024/12/11
v1.16.0-rc02024/12/06
v1.15.12024/05/13
v1.15.02024/04/29
v1.15.0-rc02024/04/25
v1.14.02023/09/06
v1.14.0-rc02023/08/28
v1.13.02023/05/03
v1.13.0-rc02023/04/14
v1.12.02022/12/19
v1.12.0-rc02022/12/13
v1.11.02022/11/23
v1.11.0-rc02022/11/17
v1.10.02022/09/30
v1.10.0-rc02022/09/23
v1.9.12022/08/02

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

156.8k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|5天前
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|6天前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|1周前
插件开发框架