OpenRouter升级推理路由:多花6%的钱,响应速度提升约17%
contact@theblockbeats.org (律动BlockBeats)
动察 Beating AI 快讯,OpenRouter 宣布升级默认推理路由算法。过去主要根据价格选择推理服务商,现在会综合考虑速度、稳定性和实际调用成本,不再一味选择最便宜的服务商。
官方测试了超过 2400 万次请求。结果显示,首字响应时间缩短 16.9%,完整请求耗时缩短 19%,遭遇限流错误的请求比例从 7.1% 降至 3.8%。代价是每千次请求成本增加约 6%。
新算法已上线,用户无需调整配置。此次优化针对的是同一模型背后的推理服务商选择,而非模型本身的能力。