Helicone
面向 AI 应用的 LLM 可观测与网关平台,记录每次模型调用并支持日志查询、缓存限流与提示词评测,适合已在线上跑大模型调用、需要定位报错和控制 token 成本的团队。

Helicone 是一个给 AI 应用做监控和网关的服务。你在代码里把模型请求指向它,之后每次调用都会被记录下来,可以在面板里按请求、会话、用户、自定义属性去翻查,看哪一步慢、哪次报错、花了多少 token。它同时充当网关,能加缓存、设限流、配自动回退,把不同厂商的模型统一到一条链路上。
主要功能
面板里能看请求量、会话和用户维度的统计,用 HQL 查询语言自己写条件筛日志。提示词和测试部分提供 Playground、Prompts、Scores、Datasets,可以在平台上改提示词、跑评测、存数据集。告警和报表可以按规则推送,Webhooks 把事件发到外部系统。
- 请求日志与用户分析,支持自定义属性
- 缓存、限流、自动回退等网关能力
- 提示词实验与数据集评测
- 告警、报表、Webhook 通知
接入与适合谁
页面列出的集成包括 OpenAI、Anthropic、Azure、LiteLLM、Anyscale、Together AI、OpenRouter 等,走的是改 base URL 或代理的方式接入。适合已经在线上跑大模型调用、需要定位问题和控制成本的团队,个人做小项目也能用免费档起步。
费用与限制
Hobby 免费,含每月 10,000 次请求、1 GB 存储、1 个席位和 1 个组织,日志保留 7 天。Pro 每月 79 美元,席位不限,加告警、报表和 HQL,日志留 1 个月;Team 每月 799 美元,5 个组织,带 SOC-2 与 HIPAA 合规和专属 Slack 频道;Enterprise 需联系销售,支持 SAML SSO 和本地部署。付费档都有 7 天试用,超出额度按用量计费。页面顶部提示 Helicone 已不再属于 Mintlify,具体安排待公布,选型时值得留意。