together.ai·2026/10/06
Together AI 宣布与 IBM、NVIDIA 扩大企业推理容量，核心是在 IBM Cloud 上启用专用 NVIDIA B300 GPU 集群，并配备 Spectrum-X Ethernet 网络；官方称这是该云上首个同类专用大规模推理集群，也是其首个运行客户。博客将事件概括为基础设施、分工与未来容量规划：Together AI 负责推理平台与运营，IBM 提供企业级云基础设施，NVIDIA 提供 GPU 与网络，目标是在 token 需求急剧增长时扩展开放模型的生产级推理。官方称平台已服务大量开发者，每月承载海量 token，并重申未来 AI 不应由少数闭源实验室垄断；企业选择开放模型是因数据主权与更低成本，此次合作要输出更多生产级 token，并加上可靠性、安全和护栏，使开源 AI 能在大规模场景中像闭源服务一样快且可靠。
为什么重要 对需要开放模型企业托管的人，显示 IBM Cloud 进入大规模 B300 推理，但文章无容量、价格与 SLA。适合 评估开放模型企业推理托管与 GPU 云容量的基础设施负责人。
EVIDENCE / METHODS
风险提示
这是 容量扩张公告，不是可复现工程规格
文章确认 Together AI 将在 IBM Cloud 上运营 术语解释Together AI 与 IBM Cloud 集群中使用的 NVIDIA GPU 型号。 推理层，但没有集群节点数、区域、价格、SLA、吞吐或安全合规细节；若评估企业推理供应商，需要后续规格文档。
注释 · 营销公告中的能力宣称应视为厂商口径；评估时需索要节点数、区域和 SLA。出自 全文