
Cerebrium 为实时 AI 和 GPU 应用提供部署平台。项目可按容器或项目说明配置模型依赖,再用应用样本测量扩缩容和响应。

| 功能 | 实际用法 |
|---|---|
| 推理部署 | 从官网示例验证容器和运行入口。 |
| 硬件和伸缩 | 选择适合的资源、运行配置及并发。 |
| 调试与费用 | 通过运行日志记录启动、等待和请求时间。 |
| 产品 | 适用情形 |
|---|---|
| Cerebrium | 要运行实时、多模态或自定义模型服务。 |
| Runpod | 偏向 GPU 工作站或 GPU Serverless 资源。 |
| Modal | 偏好用 Python 描述模型推理和批处理。 |
官方定价列出按运行时间和 GPU、CPU 等资源收费的规则,按服务类型与配置计算,每个项目应核对正式计划。
先对一个语音转写服务跑短录音和一组并发,记录初始化、吞吐和失败。
结合模型显存、并发和启动时间做样本对比。
参考官方运行和资源计量方式后用账单核对。