How Octave built a secure multi-tenant AI foundation on Amazon Bedrock

Octave 在 Bedrock 上建多租户 AI 基础，嵌入 20 亿份受监管文档

Octave 的云原生质量管理平台 Reliance 服务医疗器械、制药等受监管行业客户，投诉、CAPA 与审计记录里埋着解决问题的关键知识，但租户数据严禁越界，团队因此不先做单点功能，而在 Amazon Bedrock 上搭建通用基础：数据准备层用 Cohere Embed v4 向量化 20 亿文档并写入按租户隔离的 OpenSearch 索引，安全执行层由 AgentCore Gateway 鉴权后在独立 microVM 会话中运行 Claude 代理，内容防护层用 Bedrock Guardrails 在输入与输出处过滤以对抗附件中的提示注入；Embed v4 凭多模态、多语言与区域驻留胜出，自测 512 维保持精度并大幅省存储；摄取管道经 SNS/SQS 与 Step Functions 编排，最大租户当日完成上架；其上的 Complaint Triage Assistant 用 Strands Agents SDK 分阶段抽取、检索、合成简报，并以 OpenTelemetry 追踪与 AgentCore Evals 回归评测支撑审计取证，Octave 自报投产后每起调查省 4–6 小时、单用例部署时间缩短 50%，语义检索提前半年上线，后续将扩展审计就绪监控等用例，最终裁决仍留给质量人员。

1. 1三层基础嵌入 20亿 份文档，租户数据不得跨界
2. 2先建横向平台再切功能，官方称部署省 50%
3. 3Embed v4 图文同向量空间，免翻译免多管线

为什么重要　给多租户受监管 RAG 一套完整参考：按租户向量库、按用户授权 agent、双向 Guardrails 与亿级回填管线。适合　做多租户 SaaS AI、受监管行业 RAG 与数据管线的工程师

来源

aws.amazon.com

发布

2026/10/21

作者

Urvish Saraiya