ニュース
OpenRouter推出Batch API,支持70余款模型异步批处理
OpenRouter新Batch API覆盖70余款模型,允许在24小时窗口内异步处理请求;按模型和供应商不同,Token单价通常约为实时调用的一半。
OpenRouter上线Batch API,面向可容忍延迟的批量标注、评测和数据回填等任务,目前覆盖70余款模型。供应商可在24小时窗口内完成请求,Token价格通常约为实时调用的一半,但具体折扣随模型变化;网页搜索等部分项目仍按常规价格计费。官方称,测试期间超过23万批次的中位完成时间为7分钟,不能据此保证每批都在数分钟内完成。
来源:OpenRouter。