LMSYS Org
lmsys.org又名 lmsysorg、LMSYS、Large Model Systems Organization
研究大型模型与系统的开源组织，产出 SGLang 推理引擎、FastChat 训练框架和 Chatbot Arena 匿名对战榜，适合要自己部署模型、比较推理框架的开发者与研究者。
社区免费网页英文开源
LMSYS Org 全称 Large Model Systems Organization，是一个做大型模型与系统研究的组织，主张把模型和工具做成开放、可获取、可扩展的。它本身不卖产品，产出的是开源项目和公开评测平台，开发者、研究者可以拿去跑模型、做实验、看排名。
主要项目
最常被提起的是三个。SGLang 是面向大语言模型和多模态模型的高性能推理引擎，GitHub 上有 38.6k 星；FastChat 用来训练、微调、部署和评估基于 LLM 的聊天机器人，星数 39.5k；Chatbot Arena 是一个模型评测平台，让用户以匿名随机对战的方式给模型投票，页面上标注为 Graduated。此外还有 RouteLLM 等路由框架，以及 Vicuna 这类早期开源聊天模型。
适合谁
如果你要自己部署模型、比较推理框架，或者想了解某个新模型在群众投票里的位置，这个站点值得翻一翻。它的博客会写技术细节，比如稀疏注意力、KV 缓存复用、用强化学习训练软件工程智能体，偏工程和研究向，不是给普通用户看的产品说明。
费用与限制
项目以开源为主，站点上列了 Voltage Park、NVIDIA、Google Cloud、a16z、AMD、HuggingFace 等赞助方。界面是英文，内容更新以博客形式发布，页面显示 15+ 个项目、89K+ GitHub 星、1000+ 贡献者。具体每个项目怎么用、要不要注册，得进对应项目页看。
常见问题
LMSYS Org 收费吗？
LMSYS Org 免费使用。
LMSYS Org 有哪些平台 / App？
支持 网页。
LMSYS Org 的替代品有哪些？
本站整理了 3 个替代品，例如 Runpod、Kiln AI、vLLM。
替代品 全部 3 个 →
Runpod
面向 AI 开发者的 GPU 云平台，提供分钟级启动的独占实例、自动扩缩的 Serverless 推理端点和多节点集群，适合手头没有卡、又要反复跑训练和推理的开发者与小团队。替代自部署算力这一块：GPU 云上起实例跑 SGLang、FastChat，省去自建机器，但按量付费且不含评测平台
Kiln AI
Chesterfield Laboratories 出品的开源桌面工具，把零代码微调、评测、提示词优化和合成数据生成放进同一界面，数据集带类 Git 版本控制，适合技术团队与标注人员在同一份数据上分工调模型。替代微调与评测这一块：桌面端零代码做微调、评测和合成数据，省去 FastChat 命令行，但没有推理引擎和公开榜单
vLLM
开源的大语言模型推理与服务引擎，用 PagedAttention 管理 KV 缓存显存，支持连续批处理与多种量化格式，并提供兼容 OpenAI 的 API 服务端，适合手里有显卡、想把开源模型部署成接口服务的人。替代推理引擎这一块：vLLM 与 SGLang 同属高性能 LLM 推理服务，PagedAttention 管显存，但无