数据 / MLOps / 博客
How our AI Research team uses AI Runtime
- 产品
- Databricks AI Runtime（AIR）
- 使用方
- Databricks AI Research 研究团队
- GPU 型号
- NVIDIA H100 / B300
- 训练方法
- SFT、offline RL、online RL
- 实验量
- 数万次训练与评估运行
| 对比项 | 之前 / 基线 | 现在 / 本方案 | |
|---|---|---|---|
| 实验发起 | 研究员逐个手动启动与评估 | agent 并发提交数百作业任务量增长 8x | |
| 环境搭建 | 反复申请算力、重建环境 | 本地 Docker 镜像直接复用，数秒启动 | |
| 故障处理 | 单节点或 RDMA 故障导致数百卡空转、回滚检查点 | 检测后隔离节点，后续作业不再调度到该机器 |
方法、结果与局限
1 / 5
要点
发布了什么
Databricks AI Research 以客户零号身份使用 AI Runtime（AIR）开发、训练和测试模型
- Databricks AI Research 以客户零号身份使用 AI Runtime（AIR）开发、训练和测试模型
- 工作负载从单机小实验扩展到数百 GPU 连跑数天或数周，最大训练需高带宽网络
- 支撑 Genie、Smart Routing、AI Functions（含 ai_parse_document、ai_extract）背后的模型研究