Runpod 是什么？
Runpod 是一个用于开发和运行 AI 工作负载的云平台，提供名为 Pods 的独享 GPU 实例、可自动扩缩的 Serverless 推理端点，以及用于分布式任务的多节点 Clusters。开发者可以在同一账户下进行模型实验、微调并部署推理服务。
用户可以使用自己的容器、框架和代码启动 GPU 环境，也可以通过 Runpod Hub 部署开源模型和模板。部署 Serverless 服务时，开发者需要编写 handler，并通过 API 端点提供服务。Runpod 负责管理请求队列、工作进程分配、自动扩缩、日志和指标。Public Endpoints 还提供预部署的图像、视频、语言和音频模型 API，无需自行配置基础设施。
平台在 31 个区域提供超过 30 种 GPU 选项，并支持持久化存储。费用按工作负载类型计算：独享 GPU 实例、推理工作进程、模型请求和存储各有独立的用量费率。对于需要保障资源供应或进行更大规模部署的团队，平台提供预留容量和企业合同。
Runpod 能做什么？
按需 GPU Pods
启动独享 GPU 环境，用于模型开发、训练、微调和长时间运行的工作负载。
Serverless 推理
部署 API 端点，由平台管理请求队列，并根据需求自动扩缩工作进程。
多节点 GPU 集群
在配备共享存储的 GPU 集群上运行分布式工作负载，并可选择预留容量。
预部署模型 API
调用托管的图像、视频、音频和语言模型，无需自行配置 GPU 基础设施。
模型与部署模板
通过 Runpod Hub 部署开源模型和模板，也可以使用自己的容器和代码。
监控与持久化存储
为已部署的 AI 工作负载提供运行日志、指标和持久化网络存储。
Runpod 适合谁？
- AI 开发者
- 使用 GPU 环境和推理 API 构建、测试、微调模型，并提供模型服务。
- 机器学习团队
- 选择合适的 GPU 硬件和集群配置，运行训练任务和分布式工作负载。
- AI 应用团队
- 利用托管工作进程和按用量计费，扩展生产环境中的推理服务。
Runpod 多少钱？
官方价格B300
US$8.99
H200
US$5.29
B200
US$7.99
RTX Pro 6000
US$2.49
H100 NVL
US$3.19
H100 PCIe
US$2.89
H100 SXM
US$3.99
A100 PCIe
US$1.79
A100 SXM
US$1.79
Pro 6000 MIG 48GB
US$1.29
L40S
US$1.09
RTX 6000 Ada
US$0.99
免费版: resembleai / Chatterbox Turbo 公共端点免费开放，价格为每 1,000 字符 $0.00。
常见问题
Runpod 如何收取 GPU 计算费用？
价格因 GPU 和部署类型而异。Pods 按独享实例费率计费，Serverless 按推理工作进程的用量计费，Clusters 则有单独的费率；页面列出的 GPU 价格为每小时费率，并非包月订阅价格。
可以部署自己的模型和容器吗？
可以。Runpod 支持使用自己的容器、框架和代码，也支持通过 Runpod Hub 部署开源模型和部署模板。
可以不管理 GPU 基础设施，直接调用模型吗？
可以。Public Endpoints 提供预部署模型的 API，费用取决于所用模型及其计费单位。
Serverless 端点空闲时会收费吗？
Serverless 端点可以缩容至零，未运行时不收取端点计算费用。存储单独计费。
可以预留 GPU 吗？
可以。Runpod 通过企业销售团队提供预留集群和合同定价。
Runpod 的替代品
比较替代品
更多 AI 模型 API 工具
查看更多
fal
AI 模型 API
通过统一 API 调用生成式媒体模型，并在无服务器 GPU 上部署模型。
Stability AI
AI 模型
用于生成图像、音频、视频和 3D 素材的生成式 AI 模型与工具。
ZenMux
AI API 网关
通过一个 API 访问 100+ 个 AI 模型，支持自动路由和用量追踪。
APIQIK
AI API 网关
通过兼容 OpenAI 的 API 接入多个 AI 模型，支持自动故障切换。
Bluesminds
AI Agent
连接企业数据，用 AI 分析数据并构建自主智能体。