无服务器 GPU 平台对比：RunPod、Modal 和 Beam

更新于 2025 年 12 月 11 日

2025 年 12 月更新： Modal Labs 于 2025 年 9 月完成 8700 万美元 B 轮融资，估值达 11 亿美元。RunPod 筹集 2000 万美元用于欧洲和亚洲扩张。Baseten 完成 1.5 亿美元 D 轮融资。通过容器缓存技术，冷启动时间从 30-60 秒缩短至亚秒级。对于不需要专用基础设施的突发性推理任务，无服务器 GPU 正在成为默认选择。

Modal Labs 于 2025 年 9 月完成 8700 万美元 B 轮融资，公司估值达 11 亿美元。¹ 三个月前，RunPod 筹集 2000 万美元用于扩展其在欧洲和亚洲的全球数据中心。² 这些融资验证了开发者早已认识到的事实：对于不需要专用基础设施的 AI 推理工作负载，无服务器 GPU 平台已成为默认选择。了解 RunPod、Modal、Beam 及其竞争对手之间的权衡，有助于企业选择与其工作负载特征相匹配的平台。

无服务器 GPU 定价消除了专用计算的根本矛盾——为闲置的 GPU 付费。这种模式非常适合流量峰值不可预测的突发性推理工作负载，但在持续高利用率场景下，经济性会发生逆转。选择合适的平台需要将工作负载模式与定价模型、冷启动容忍度和功能需求相匹配。

无服务器 GPU 市场格局

无服务器 GPU 平台抽象了基础设施管理，同时提供按需访问加速计算的能力。这种模式与传统云 GPU 实例有本质区别：

传统云 GPU： 按小时预留实例。无论利用率如何都需付费。需要自行管理容器、扩展和基础设施。

无服务器 GPU： 按实际执行秒数付费。平台处理容器编排、自动扩展和基础设施。空闲时资源缩减至零。

权衡的核心在于控制与便利。无服务器平台收取较高的按秒费率，但消除了基础设施开销和空闲成本。运行持续高利用率工作负载的企业支付更多；需求变化大的企业则支付更少。

市场演变

无服务器 GPU 市场在 2025 年显著成熟：

融资活动： Modal 的 11 亿美元估值、RunPod 的扩张融资以及 Baseten 的 1.5 亿美元 D 轮融资，展示了投资者对这一模式的信心。³

冷启动改进： 通过容器缓存和预热策略，各平台将冷启动时间从 30-60 秒缩短至亚秒级。

GPU 多样性： 供应商现在提供从 T4（0.40 美元/小时）到 H100（4.50 美元/小时）再到 B200（6.25 美元/小时）的无服务器定价。⁴

企业采用： VPC 对等连接、SOC 2 合规性和专用容量合同等功能吸引了企业客户，超越了开发者实验阶段。

平台深度分析

RunPod：价格领导者

RunPod 凭借激进的定价和 GPU 多样性建立了声誉。该平台提供无服务器端点和传统 pod 租赁，让用户根据工作负载特征选择部署模型。

定价结构：

RunPod 的无服务器定价基于两种 worker 类型：⁵

Flex Workers： 按需 worker，可缩减至零。仅在活动请求处理期间付费。适合变化的工作负载和成本优化。

Active Workers： 始终在线的 worker，比 flex 定价优惠 20-30%。无论利用率如何都持续计费。最适合需要即时响应的稳定工作负载。

代表性无服务器费率（2025 年 12 月）： - T4：0.40 美元/小时 - A100 40GB：1.89 美元/小时 - A100 80GB：2.17 美元/小时 - H100 80GB：4.47 美元/小时 - H200 SXM：3.99 美元/小时

冷启动性能：

RunPod 声称通过 FlashBoot 技术，48% 的无服务器冷启动在 200ms 内完成。⁶ 预热实例完全消除了延迟敏感应用的冷启动。然而，未经优化的自定义模型部署可能会在大型容器上经历超过 60 秒的冷启动。

主要特性：

• 覆盖北美、欧洲和亚洲的 31 个全球区域
• 无入站/出站流量费用（在云供应商中罕见）
• GitHub 部署集成，支持一键启动
• 即时回滚到之前的容器版本
• 用于跨 worker 共享存储的网络卷

最适合： 注重预算的部署、变化的工作负载、优先考虑成本而非延迟一致性的团队。

Modal：开发者体验领导者

Modal Labs 围绕 Python 原生工作流设计其平台，消除了传统 ML 部署中的 YAML 配置和 REST API 复杂性。

编程模型：

Modal 通过装饰器将 Python 函数转换为云工作负载：

import modal

app = modal.App()

@app.function(gpu="A100")
def run_inference(prompt: str) -> str:
    # 你的推理代码
    return result

# 远程执行
result = run_inference.remote("Hello world")

这种方法消除了大多数用例的容器配置。Modal 自动从本地环境构建容器，在指定硬件上调度执行，并实时传输日志。⁷

定价结构：

Modal 按 CPU 周期收费，GPU 时间按秒计费。代表性费率： - A10G：约 1.10 美元/小时 - A100 40GB：约 2.78 美元/小时 - A100 80GB：约 3.72 美元/小时 - H100：约 4.76 美元/小时 - B200：6.25 美元/小时⁸

该平台在 GPU 费用之外还包含 CPU 和内存成本，而竞争对手有时会单独计费。

冷启动性能：

Modal 专门为快速冷启动用 Rust 从头构建了其容器系统。该平台对大多数工作负载实现亚秒级启动，能在几秒内从零扩展到数千个 GPU。⁹

主要特性：

• 通过基于 Rust 的容器系统实现亚秒级冷启动
• 纯 Python 部署——无需 YAML 或 Dockerfile
• 内置密钥管理、定时任务调度和 Web 端点
• 与 Oracle Cloud Infrastructure 合作提供有竞争力的 GPU 定价
• AWS Marketplace 集成，用于应用承诺消费

最适合： 以 Python 为中心的团队、快速迭代周期、优先考虑开发体验而非最大化成本优化的开发者。

Beam：开源替代方案

Beam 通过开源灵活性实现差异化。该平台开源了其核心运行时（beta9），允许自托管，同时提供托管云作为便捷选项。

架构：

Beam 提供专为生成式 AI 设计的无服务器基础设施：¹⁰

• 无服务器 REST API 部署
• 定时 cron 任务
• 用于异步处理的任务队列
• 训练工作负载支持

该平台强调开发者体验，提供 Python SDK、开发期间的热重载，以及从 GitHub Actions 部署的能力。

定价结构：

Beam 使用按秒付费定价，无需预付费或承诺。具体 GPU 费率需要直接咨询，因为该平台专注于定制配置而非公开费率。

冷启动性能：

Beam 对大多数函数实现 2-3 秒的冷启动，热启动最快可达 50ms。¹¹ 该平台声称为需要快速扩展的工作负载提供"无限水平扩展"。

主要特性：

• 开源运行时（beta9）可用于自托管
• 跨云端、本地和混合部署的一致 CLI 体验
• 可移植的工作负载——无供应商锁定
• 快速云存储集成
• 本地调试与云端部署

最适合： 需要自托管选项的团队、混合云部署、优先考虑可移植性而非托管便利的企业。

Baseten：企业级推理平台

Baseten 将自己定位为生产级推理平台，而非通用无服务器计算。专注于模型服务使其能够进行专业优化。

架构：

Baseten 将模型部署抽象为具有内置自动扩展、仪表板和告警的 HTTP 端点。用户上传模型，平台处理服务基础设施。¹²

定价结构：

Baseten 按分钟计费，空闲期间停止收费。计划从免费层（5 个副本）到 Pro 和 Enterprise（无限扩展）。¹³

GPU 选项涵盖 T4 到 A100、H100，以及通过 Google Cloud 合作提供的新款 NVIDIA HGX B200。具体的每 GPU 费率需要创建账户查看。

冷启动性能：

Baseten 通过容器缓存实现 5-10 秒的冷启动——据该公司称，比之前的解决方案改进了 30-60 倍。¹⁴ 通过预热策略可实现亚秒级冷启动。

主要特性：

• 99.99% 正常运行时间 SLA
• 前置工程支持
• 在 A4 VM 上实现 225% 的高吞吐量推理性价比提升¹⁵
• 训练积分（专用部署返还 20%）
• 大额消费的批量折扣

最适合： 需要企业级 SLA 的生产推理、希望模型服务抽象的团队、已在 Google Cloud 上的企业。

Replicate：模型市场

Replicate 采用不同的方法——用户无需部署自定义基础设施，而是通过简单的 API 调用访问预托管的开源模型。

编程模型：

Replicate 完全抽象了托管模型的 GPU 选择：

import replicate

output = replicate.run(
    "stability-ai/sdxl:39ed52f2...",
    input={"prompt": "An astronaut riding a horse"}
)

用户按名称指定模型；平台处理 GPU 分配、扩展和优化。¹⁶

定价结构：

Replicate 根据硬件需求按秒计量计费： - T4（免费层）：可用于实验 - A100：约 8.28 美元/小时 - 多 GPU 配置：通过承诺消费合同提供¹⁷

某些模型按输入/输出 token 计费而非按时间计费，简化了语言模型的成本预测。

冷启动性能：

预托管模型受益于 Replicate 的优化和预热，无需担心冷启动问题即可提供低延迟推理。自定义模型部署面临标准容器启动时间。

主要特性：

• 丰富的预训练模型库，即用即得
• 模型微调支持
• 内置版本控制和异步处理
• 2025 年被 Cloudflare 收购，扩展边缘能力¹⁸
• 强大的开发者 SDK 和 API 设计

最适合： 使用现有模型快速原型开发、MVP 和演示、优先考虑便利性而非定制化的团队。

对比矩阵

工作负载选择指南

高变化性推理

特征： 流量峰值不可预测。平均利用率低于 30%。成本敏感度高。

推荐： RunPod Flex Workers 或 Modal

无服务器非常适合变化的工作负载。按秒计费意味着安静期间零成本。RunPod 激进的定价使其对成本敏感的部署具有吸引力；Modal 的开发者体验加速迭代。

示例： 客服聊天机器人，工作时间流量高峰，夜间几乎为零。

延迟关键型生产

*特征：

[内容因翻译而截断]