Are you an LLM? Read llms.txt for a summary of the docs, or llms-full.txt for the full context.
Skip to content

Lazu 與 Helicone

Helicone 是給 LLM 應用用的觀測平台,同時也當閘道:換掉 base URL,加一把 Helicone Key,每個請求就連同費用、延遲和 token 一起記下來。Lazu 首先是一個閘道:帳戶、預算和每個請求一筆用量紀錄,主控台和文件在同一個產品裡。兩者在「每個請求一筆紀錄」上重合,在這筆紀錄是用來做什麼上分開。事實於 2026 年 11 月 2 日核對。

各自給誰用

Helicone 給的是想看自己的應用在做什麼的 AI 工程師:儀表板、工作階段和追蹤、每個請求的費用、付費方案裡的預警和報表。它預設是託管服務;自建映像檔打包了網頁應用、API、物件儲存和資料庫,閘道另外部署,Helm chart 要聯絡公司才拿得到。

Lazu 給的是把 Key 交給人和 Agent、需要回答誰花了多少的團隊、實驗室和公司:每把 Key 有呼叫前就預留的預算,每個請求留下一筆主人自己能讀的紀錄,營運者在一台伺服器上跑完整套。

並排看

HeliconeLazu
形態帶代理的觀測平台(TypeScript);另一個 Rust 閘道儲存庫自 2025 年 11 月起沒有提交Go 閘道和 worker、React 主控台、Vocs 文件站;一套 Docker Compose
部署預設託管;自建用 helicone-all-in-one Docker 映像檔,不含閘道;Helm 透過企業版聯絡一套 Docker Compose 加 PostgreSQL 和 Redis
設定Helicone-* 請求標頭上游、價格、使用者、公告都在主控台
帳戶組織和按方案計的席次使用者、團隊和專案、成員預算、API Key
預算文件沒有寫按 Key 的預算;按時間窗按請求數或費用限流,到了回傳 429預付餘額;按 Key 上限、專案和支出預算;呼叫前預留,按上游計數結算,失敗釋放
用量紀錄每個請求的費用、延遲和 token;工作階段和追蹤;保留期按方案每個請求一筆紀錄,含用量、測量來源和計費明細,發起請求的 Key 可讀;Agent 工作階段;核對腳本
路由託管閘道裡的路由和自動回退每個模型按優先級和權重選通道,健康視窗,同模型重試;公開的線路健康頁
協定OpenAI 風格語法轉到 OpenAI、Anthropic、Google 和 Bedrock原生 OpenAI、Anthropic Messages 和 Gemini;只在無損時轉換
付費版Hobby(免費)、Pro、Team、企業版:預警和報表、HQL、SOC 2 和 HIPAA、SAML SSO、地端沒有
授權Apache-2.0(平台)AGPL-3.0-or-later

錢

Helicone 量的是支出,不持有餘額。自訂的限流策略可以按時間窗限制請求數或美分數,回傳 429,但沒有能讓一把 Key 徹底停下來的按 Key 預算,而且限制跑在 Cloudflare KV 上,自建時能不能用沒有文件說明。Lazu 持有錢:呼叫上游之前從預付餘額裡預留一個估算值,按上游回報的用量結算費用,每個維度都記錄為上游測量、本機估算或不可用,帳戶付不起的請求到不了上游(計費合約)。

一個請求留下什麼

這是兩者最接近的地方。Helicone 的紀錄是為除錯和分析做的:工作階段、追蹤、屬性、付費方案裡的查詢語言。Lazu 的紀錄是為結算做的:標準化用量、哪些數字是上游測量的、哪些是估算的、計費明細和公開的耗時,發起請求的 Key 可以取回(請求詳情)。Agent 的請求按工作階段歸組,一個腳本可以離線核對匯出的工作階段。兩個都要的話,Lazu 可以放在觀測工具後面;兩者不是替代品。

Helicone 有而 Lazu 沒有的

  • 為除錯應用做的儀表板、工作階段和追蹤,以及跑在上面的查詢語言。
  • 預警和排程報表。
  • OpenTelemetry 匯出和一個給日誌用的 MCP 伺服器。
  • 一個什麼都不用跑的託管服務。

什麼時候選哪個

  • 你要看的是自己已經在跑的應用,Key 和帳單在別人手上,選 Helicone。
  • 你是發 Key、持有餘額的那個人,每個請求的紀錄得好到能拿來結算,選 Lazu。

另見 Lazu 與 Bifrost 和其他閘道概覽。