aws.amazon.com·2026/10/23·Pooja Karadgi
AWS 宣布 SageMaker AI 无服务器模型定制新增 training sessions 并正式可用:用户可在自有训练循环中自定义损失或奖励信号,无需管理 GPU 集群,由 SageMaker 负责 GPU 分配、分布式执行、故障恢复与检查点。它支持 SFT、DPO、RLVR、RLAIF、多轮 RL,可选 LoRA 或全量微调;通过 cookbook 和定制 agent skills 在 Studio 等环境自动完成数据准备、训练、评估与部署。运行时采样器生成响应、训练器计算梯度并更新权重,如 GRPO 的采样—评分—前向/反向—优化步循环;按 token 计费,评分阶段停表且无需预留容量。数据与检查点留在自有 S3 桶,支持 IAM、KMS、VPC,不用来训练其他模型,部署前评估准确性/偏见/安全,部署后接 CloudWatch 和护栏。首批支持 gpt-oss-20b、gemma-4-31B-it、Qwen3 系列 27B,用 SDK 克隆 cookbook 或在 Studio 启动即可。
为什么重要 对做智能体多轮 RL 的团队,可直接写损失/奖励函数,省掉 GPU 集群与分布式训练运维。适合 做模型 post-training、智能体多轮 RL 的工程负责人;想省 GPU 运维但保留训练循环控制权。
Amazon SageMaker AI 无服务器模型定制现在加入 training sessions,现已正式可用。你可以编写并协调自己的后训练循环(如自定义损失函数、奖励信号或多轮强化学习),而 SageMaker AI 负责 GPU 分配、分布式执行、故障恢复和 checkpoint 存储。
Amazon SageMaker AI serverless model customization now includes training sessions, generally available today.
You write and coordinate your own post-training loop (custom loss functions, reward signals, or multi-turn reinforcement learning) while SageMaker AI handles GPU allocation, distributed execution, fault recovery, and checkpoint storage.
EVIDENCE / METHODS
流程
采样→评分→更新→刷新:你的代码编排循环,SageMaker 做 GPU 重活。
训练循环让 sampler 用当前模型为每个 prompt 生成多个响应。
奖励函数在客户环境用 verifier、reward model 或 test harness 给每个响应打分。
分数送回 trainer;forward_backward() 计算梯度,optim_step() 应用权重更新。
会话用更新后的权重刷新 sampler,进入下一批,直到训练完成。
注释 · 示例展示 术语解释Group Relative Policy Optimization:对同一 prompt 生成多个响应,按相对分数更新模型;其他算法也可在训练会话内自定义。出自 How it works