开源大梳理
← 人工智能与智能体

项目详情

SGLang

结构化生成与高吞吐推理运行时。

打开 GitHub 原始仓库 ↗

适合什么时候使用

自托管推理且在意结构化解码/吞吐

不适合什么时候使用

只要最简单本地聊天

筛选信息

领域
人工智能与智能体
语言
Python
许可证
未标注
状态
active
核验
unverified
llm-apilocal-llm

相关、替代与配套项目