SGLang 与 Miles 为前沿多模态模型 Inkling 提供 Day-0 支持,推理吞吐达 71.7k tok/sSGLang 与 Miles 为 Thinking Machines Lab 的 975B 参数多模态模型 Inkling 提供 Day-0 支持,其上下文窗口达 1M token。摘要SGLang 与 Miles 为 Thinking Machines Lab 的 975B 参数多模态模型 Inkling 提供 Day-0 支持,其上下文窗口达 1M token。原文链接LMSYS:Blog(Chatbot Arena 团队)AI HOT 详情页