蚂蚁集团开源高性能大模型推理框架 SGLang蚂蚁集团通过 GitHub 新仓库 inclusionAI/sglang 开源了 SGLang,这是一个面向大语言模型和多模态模型的高性能推理服务框架。摘要蚂蚁集团通过 GitHub 新仓库 inclusionAI/sglang 开源了 SGLang,这是一个面向大语言模型和多模态模型的高性能推理服务框架。原文链接蚂蚁 inclusionAI:GitHub 新仓库AI HOT 详情页