Langfuse
面向 AI 应用的开发平台,通过 SDK 或 OpenTelemetry 记录每次模型调用的层级 trace,并支持提示词版本管理与数据集实验,适合开发聊天机器人或 RAG 问答的工程团队上线后定位问题、比较改动效果。
Langfuse 是一个面向 AI 应用的开发平台,核心是把「每一次模型调用」记录下来。你在代码里接入它的 SDK 或任意 OpenTelemetry 导出器,或者把 OpenAI、Anthropic 的请求经它的 AI Gateway 转发,调用就会落到 Langfuse 里,形成带层级的 trace:哪一步调了模型、哪一步调了工具、检索了什么、花了多少 token 和钱、延迟多少,都能按用户、会话、成本或自定义元数据筛出来。
主要功能
观测之外,它把开发和上线串成一个循环。生产环境里看 trace、看仪表盘、配告警;开发阶段把真实请求整理成数据集,改提示词、换模型、调代码,跑实验对比结果;评测环节可以用 LLM-as-a-judge、规则函数或人工标注打分。提示词可以单独管理,和代码分离,支持一键部署和回滚,也能在 Playground 里拿真实的生产输入试不同模型。
- 追踪:层级 trace、会话、用户、成本与延迟筛选
- 评测:LLM 打分、启发式函数、人工标注队列
- 提示词:版本管理、部署与回滚
- 实验:数据集、并排对比、结果分析
- 接入:SDK、OpenTelemetry、AI Gateway、MCP、CLI、REST API
适合谁
主要给写 AI 应用的工程团队:做聊天机器人、编码助手、RAG 问答、工作流自动化的开发者,需要弄清线上表现、定位问题、比较改动效果时用得上。页面称有 10 万以上工程师在用,21 家财富 50 强公司在用,每月处理 900 亿条观测。它也提供内置助手 Halo,可以基于这些数据做分析。
费用与限制
云端有免费 Hobby 计划,不需要信用卡,含每月 5 万 units、30 天数据、2 个用户;Core 每月 29 美元,含 10 万 units、90 天数据、不限用户;Pro 每月 199 美元,数据保留 3 年、高频率限制、SOC2 与 ISO27001 报告。超出部分按每 10 万 units 8 美元计。也可以自托管,企业版走单独报价。项目本身以 MIT 协议开源,GitHub 上有 3.7 万星。界面是英文,文档和社区问答也以英文为主。