Arize Phoenix
开源的大模型与 AI 智能体可观测性工具,追踪每一步调用、跑评测、做实验对比,给开发和调试 AI 应用的工程师用。
Phoenix 是 Arize 开源的一套 AI 可观测性与评测工具,用来回答一个很具体的问题:我的智能体为什么这样回答?它把一次请求经过的每一步——提示词、检索到的内容、工具调用、最终输出——都记录下来,摊开给你看。没有这层追踪,调试大模型应用基本靠猜。
主要功能
核心是追踪(tracing)。接入之后,Phoenix 展示智能体执行的完整路径,出错时能定位到是哪一步、哪次检索或哪个工具调用出了问题。在此之上可以给结果打标注,人工审或让另一个模型当裁判,标出哪些对、哪些错。
有了标注就能做实验:从追踪记录里整理出数据集,改一版提示词或换个模型,在相同条件下重跑,比较成本、延迟和效果,只把确实变好的改动发出去。评测部分可以自己写评分逻辑,在问题到达用户之前拦住。
页面还提到一个叫 PXI 的智能体入口,可以对着追踪记录提问、加标注、跑实验;也支持用编码智能体接入,把重复操作写成自动化。
部署与接入
Phoenix 可以本地跑,一条命令起服务,也可以自托管在自己的环境里,Docker、Kubernetes 都有部署文档。追踪数据留在自己的基础设施上,这对处理敏感数据或有合规要求的团队是主要卖点。它遵循 OpenTelemetry,配合 OpenInference 规范采集遥测数据,LlamaIndex 等框架有一键集成。
费用与限制
开源版以 ELv2 协议发布,GitHub 上万星。同门的 Arize AX 是托管平台,免费档每月 25k spans、1 GB 数据、保留 15 天;Pro 版每月 50 美元,50k spans、10 GB、保留 30 天;企业版可自托管,价格另议。界面为英文,主要面向写代码的 AI 工程师,不写代码的人上手会吃力。