博客数据 / MLOpsMLOps 与部署平台2 天前
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
SageMaker 部署 Kokoro-82M,用 实测自动扩缩
用 与 替代猜测,帮助 GPU 推理服务平衡成本与延迟 SLO。

共 39 条 · 按质量与时效综合排序 · 仅收录近 3 个月内容最近同步 1 小时前
已折叠 · 展开查看该领域的技术路线图、最新技术与成果、发展态势与前景趋势(含表格与 Mermaid 路线图)。
SageMaker 部署 Kokoro-82M,用 实测自动扩缩
用 与 替代猜测,帮助 GPU 推理服务平衡成本与延迟 SLO。

Amazon Bedrock AgentCore + Quick 打造供应链对话智能,提供自助部署指南
展示如何用 MCP 将 ERP 等系统抽象为受治理工具层,供业务用户自然语言查询,有参考价值

AWS CDK + CloudFormation 自定义资源自动解除/重注册 SageMaker AI 缩放
解决 CloudFormation/CDK 更新已注册 Application Auto Scaling 的 SageMaker AI 端点时部署失败的问题,提供可复用 construct,避免手动干预。

AWS 公开九阶段 Agent 评测框架,捕捉生产环境的静默退化
Agent 上线后质量会悄悄下滑而延迟不变,说明评测应作为持续运行的质量环节,而非上线前的一次性 QA
AWS加拿大区域通过跨区域推理接入GPT-5.6/6/6.1
为加拿大区域用户提供最新OpenAI模型访问路径,并详述权限与调用配置
