Are you an LLM? Read llms.txt for a summary of the docs, or llms-full.txt for the full context.
Skip to content

Lazu 與 Portkey

Portkey AI Gateway 是一個 TypeScript 閘道,路由到非常多的模型,重試、回退、負載平衡和護欄都按請求設定。Key、預算、RBAC 和觀測屬於 Portkey 的託管平台。Lazu 是一個 Go 閘道,帳戶、帳本和主控台隨身帶著。事實於 2026 年 11 月 2 日核對。

Portkey 現在走到哪

開源儲存庫最後一次發布是 2026 年 1 月的 v1.15.2,最後一次提交是 2026 年 5 月;有一個 2.0.0 分支,但沒有合併。Palo Alto Networks 於 2026 年 5 月 29 日完成了對 Portkey 的收購。閘道還能跑,但今天選它的人,選的是一個未來由別處決定的程式碼庫。

各自給誰用

Portkey 給的是呼叫很多模型的應用開發者:要把重試、回退、加權負載平衡和護欄寫成每個請求上的一個設定物件,並且願意在本機主控台之外,把 Key、預算和日誌的一切交給託管平台。

Lazu 給的是把 Key 交給人和 Agent、並想把帳戶層放在自己伺服器上的團隊、實驗室和公司:呼叫前就預留的預算,每個請求一筆 Key 主人自己能讀的用量紀錄,一個帶價格的目錄,一個給營運者的主控台。

並排看

Portkey GatewayLazu
執行環境TypeScript;npx、Docker、Node、Cloudflare WorkersGo 閘道和 worker、React 主控台、Vocs 文件站;一套 Docker Compose
設定按請求的設定物件或標頭:重試、回退、負載平衡、護欄上游、價格、使用者、公告都在主控台
帳戶託管平台裡的虛擬 Key;開源閘道的文件沒有寫 Key 的儲存使用者、團隊和專案、成員預算、API Key
預算讓 Key 過期的費用和 token 上限,帶預警和重置,在託管企業版方案和部分 Pro 客戶預付餘額;按 Key 上限、專案和支出預算;呼叫前預留,按上游計數結算,失敗釋放
用量紀錄本機主控台看本機日誌;日誌、追蹤和保留期是託管方案功能(Dev 3 天,Pro 30 天)每個請求一筆紀錄,含用量、測量來源和計費明細,發起請求的 Key 可讀;Agent 工作階段;核對腳本
路由帶錯誤觸發條件的回退,最多五次帶退避的重試,加權和條件路由每個模型按優先級和權重選通道,健康視窗,同模型重試;公開的線路健康頁
協定跨供應商的 OpenAI 簽名原生 OpenAI、Anthropic Messages 和 Gemini;只在無損時轉換
擴充plugins/ 裡的護欄整合編譯進建置的 Go 和前端擴充點
付費版Dev(免費)、Pro、企業版:快取、提示詞管理、觀測、預算、PII 遮蔽、RBAC、SSO、私有部署沒有
授權MIT;儲存庫自 2026 年 5 月起停更AGPL-3.0-or-later

錢

在 Portkey,預算是託管平台的功能:供應商整合上的一個費用或 token 上限,到了就讓 Key 過期,帶預警門檻和每週或每月重置,在企業版和部分 Pro 客戶可用。開源閘道自己沒有預算。在 Lazu,預算是自建產品的一部分:呼叫上游之前從預付餘額裡預留一個估算值,按上游回報的用量結算費用,每個維度都記錄為上游測量、本機估算或不可用,失敗且沒有可計費輸出的請求退回預留(計費合約)。

協定

Portkey 的 README 寫的是跨供應商一套熟悉的 OpenAI 簽名。Lazu 原生接受 OpenAI、Anthropic Messages 和 Gemini 請求,只沿著驗證過無損的邊轉換;請求用到上游承載不了的功能時,在呼叫上游之前就回傳點名該功能的 400(設計說明)。

Portkey 有而 Lazu 沒有的

  • 覆蓋遠超過一千個模型和多種模態。
  • 按請求表達的路由,包括條件路由和可設定的回退觸發條件。
  • 一組來自第三方廠商的護欄外掛。
  • 部署到 Cloudflare Workers。

什麼時候選哪個

  • 你是應用開發者、你要把路由策略放在請求本身、Key、預算和日誌交給託管平台也沒關係,選 Portkey,但要記得上面關於儲存庫的提醒。
  • 你需要帳戶層放在自己的伺服器上,帶預算、餘額和 Key 主人自己能讀的用量紀錄,選 Lazu。

另見 Lazu 與 LiteLLM 和其他閘道概覽。