MarkTechPost· Michal Sutter·· 3 小时前AI 评分63
Architect 推出 Liquid Inference，用实时竞价路由 LLM 推理请求
Architect Launches Liquid Inference, a Real-Time Auction for LLM Inference
AI 导读
Architect Financial Technologies 推出 Liquid Inference，这是一个为每个 LLM 推理请求运行实时竞价的 LLM 路由器。
来源：MarkTechPost · marktechpost.com