📦Kubetorch🔥

在 Kubernetes 上运行机器学习（ML）工作负载的快速、符合 Python 风格、“无服务器”接口

Kubetorch 让你能够直接从 Python 编程构建、迭代和部署任意规模的 Kubernetes 机器学习（ML）应用程序。

它将集群的计算能力引入到你的本地开发环境中，实现极快的迭代速度（1-2 秒）。日志、异常和硬件故障会自动实时回传给你。

由于 Kubetorch 没有本地运行时或代码序列化，你可以从任何 Python 环境访问大规模集群计算——无论是你的集成开发环境（IDE）、笔记本、CI 流水线还是生产代码——就像使用本地进程池一样。

你好世界

import kubetorch as kt

def hello_world():
    return "Hello from Kubetorch!"

if __name__ == "__main__":
    # Define your compute
    compute = kt.Compute(cpus=".1")

    # Send local function to freshly launched remote compute
    remote_hello = kt.fn(hello_world).to(compute)

    # Runs remotely on your Kubernetes cluster
    result = remote_hello()
    print(result)  # "Hello from Kubetorch!"

Kubetorch 带来的优势

• 100 倍更快的迭代速度，将复杂机器学习（ML）应用（如强化学习（RL）和分布式训练）的迭代时间从 10 多分钟缩短至 1-3 秒
• 50%+ 的计算成本节省，通过智能资源分配、装箱（bin-packing）和动态扩展实现
• 95% 的生产故障减少，内置故障处理功能，支持程序化错误恢复和资源调整

安装

1. Python 客户端

pip install "kubetorch[client]"

2. Kubernetes 部署 (Helm)

# Option 1: Install directly from OCI registry
helm upgrade --install kubetorch oci://ghcr.io/run-house/charts/kubetorch \
  --version 0.5.0 -n kubetorch --create-namespace

# Option 2: Download chart locally first
helm pull oci://ghcr.io/run-house/charts/kubetorch --version 0.5.0 --untar
helm upgrade --install kubetorch ./kubetorch -n kubetorch --create-namespace

有关详细设置说明，请参阅我们的 安装指南。

源代码布局

此仓库现在包含了之前分散在内部和开源软件（OSS）仓库中的面向客户的开源部署组件：

• python_client/ 用于软件开发工具包（SDK）
• charts/kubetorch/ 用于 Helm 图表
• services/ 用于控制器和数据存储源
• release/default_images/ 用于工作负载基础镜像
• release/ 用于发布脚本和版本同步

Kubetorch 无服务器

联系我们（邮箱, Slack）在我们的完全托管的无服务器平台上试用 Kubetorch。

了解更多

• 文档 - API 参考、概念和指南
• 示例 - 实际使用模式和教程
• 加入我们的 Slack - 与社区联系并获得支持

---

Apache 2.0 许可证

🏃‍♀️ 由 Runhouse 打造 🏠

kubetorch 快速上手指南

Kubetorch 是一个面向 Kubernetes 的 Pythonic、无服务器接口，用于以任意规模构建、迭代和部署机器学习工作负载。它允许您直接从 Python 编程调用集群算力，实现极速迭代（1-2 秒）和自动故障恢复。

环境准备

在使用 Kubetorch 之前，请确保您的开发环境满足以下要求：

• Python 环境：支持 Python 3.x 的开发机器或容器。
• Kubernetes 集群：已配置好可用的 K8s 集群及访问权限。
• Helm 工具：用于部署 Kubetorch 服务端组件。
• 网络连通性：能够访问 GitHub Container Registry (ghcr.io)。

安装步骤

1. 安装 Python 客户端

通过 pip 安装 Kubetorch 客户端库：

pip install "kubetorch[client]"

2. 部署 Kubernetes 服务端 (Helm)

使用 Helm 将 Kubetorch 部署到您的集群中。以下命令将在 kubetorch 命名空间下安装版本 0.5.0：

helm upgrade --install kubetorch oci://ghcr.io/run-house/charts/kubetorch \
  --version 0.5.0 -n kubetorch --create-namespace

如需本地下载 Chart 包后再安装，可先执行 helm pull 获取文件，再使用 helm upgrade --install kubetorch ./kubetorch ...。

基本使用

安装完成后，您可以直接在 Python 脚本中定义计算资源并远程运行函数。以下是最简单的 Hello World 示例：

import kubetorch as kt

def hello_world():
    return "Hello from Kubetorch!"

if __name__ == "__main__":
    # Define your compute
    compute = kt.Compute(cpus=".1")

    # Send local function to freshly launched remote compute
    remote_hello = kt.fn(hello_world).to(compute)

    # Runs remotely on your Kubernetes cluster
    result = remote_hello()
    print(result)  # "Hello from Kubetorch!"

更多信息

• 官方文档：API 参考、概念与指南
• 代码示例：真实场景用法与教程
• Slack 社区：加入社区获取支持与交流