Microsoft Azure AI Foundry重要能力增强2025-08-01
预置吞吐量溢出功能正式 GA
Provisioned Throughput Spillover Feature Officially General Available (GA)
SLA多租户
EVENT SUMMARY
事件摘要
Microsoft Azure AI Foundry 的预置吞吐量溢出(Spillover)功能现已正式商用(GA)。该功能允许企业在配置预置部署(Provisioned Throughput)时,自动将超出预置容量上限的超额流量无缝路由至标准的按需部署(Pay-as-you-go)环境中。这一特性有效解决了企业在面对突发流量波动时的 SLA 保障问题,避免了因吞吐量耗尽导致的服务拒绝或请求排队,帮助企业在控制固定成本的同时获得极致的弹性扩展能力。
ANALYST VIEW
中立分析
为什么重要
预置吞吐量溢出功能的商用完善了云平台的弹性流量调度机制,解决了固定算力部署在突发流量下的SLA保障难题,提升了企业级AI基础设施在成本控制和弹性扩展之间的平衡能力。
影响对象
企业用户和IT管理员在面临突发流量波动时,无需手动扩容即可通过自动路由超额流量至按需部署来避免请求排队或服务拒绝,从而在控制固定成本的同时保障业务连续性。
证据说明
原文证明了「Spillover」功能已正式可用,其核心机制是将预置部署的超额流量自动路由至指定的标准部署以管理流量波动。
不确定性
原文未说明流量溢出切换时的具体延迟、标准部署的按需计费费率,以及该功能是否支持所有类型的模型部署。
SOURCES