火山方舟批量推理价格全面下调至在线推理 50%

为什么重要

批量推理价格腰斩凸显了云服务商在非实时计算场景下的成本优势，旨在通过价格杠杆引导用户将离线或低实时性要求的任务转移至批量推理通道，从而优化平台整体的算力资源利用率和峰谷调度。

影响对象

进行大规模数据处理、模型评测、离线内容生成等对实时性要求不高的开发者和企业用户，可以大幅降低API调用成本。支持透明前缀缓存进一步减少了重复计算的费用。

证据说明

原文直接证明了火山方舟的「批量推理」服务覆盖了seed系列多个版本模型，价格相比在线推理「低至50%」，给出了具体模型的价格对比，并指出部分模型已支持「透明前缀缓存能力」。

不确定性

原文未说明批量推理任务的具体排队等待时间、最大支持的并发批次限制，以及未明确列出哪些具体模型支持「透明前缀缓存能力」。