Helicone

Helicone 是开源的 LLM 可观测与代理平台，通过一个代理端点统一接入各大模型，为 AI 应用提供请求日志、成本分析与性能优化能力。

核心特性

统一代理

• OpenAI 兼容端点，一行代码接入
• 支持 OpenAI、Anthropic、Gemini 等主流模型
• 无需修改业务代码即可启用

可观测性

• 全量请求日志与追踪
• 成本、Token、延迟多维分析
• 错误率与失败排查

优化能力

• 缓存机制，降低重复请求成本
• 限流与速率控制
• 自定义评分与反馈收集

部署方式

• 开源版自托管（Docker）
• 云服务托管

应用场景

• LLM 应用生产监控
• AI 成本优化与审计
• 模型质量评估