Lazu と他の LLM ゲートウェイの比較
このページの各プロジェクトは、複数のモデルプロバイダーの前に 1 つのエンドポイントを置くものです。違いは、誰のために作られているか、そしてお金をどう扱うかにあります。ここでは各プロジェクトが何のためのものかを述べるだけで、順位は付けません。事実は 2026 年 11 月 2 日に各プロジェクトのリポジトリとドキュメントで確認したもので、今後ずれていきます。
Lazu は何のためのものか
Lazu はチーム、研究室、企業のためのモデルアカウントです。人とエージェントの一人ひとりが自分の予算を持つキーを受け取り、すべてのリクエストが利用記録を残し、キーの持ち主がそれを読み返せます。ゲートウェイ、台帳、コンソール、このドキュメントサイトが 1 つのデプロイ可能な製品としてまとまり、AGPL-3.0 で公開されています。New API から派生し、New API は one-api から派生しています。ルーティング、課金、利用記録の 3 層は、文書化された契約に沿って書き直されました。
答えたい問いが「誰がどのモデルにいくら使ったか、それを証明できるか」なら Lazu を選んでください。自分のサービスに組み込むライブラリ、サーバーを運用しないホスト型のキー、すでに運用しているゲートウェイ用のプラグインが必要なら、別のものを選んでください。
並べて見る
| 形態 | 誰向け | キーと予算 | 利用記録 | ライセンス | |
|---|---|---|---|---|---|
| Lazu | Go ゲートウェイ + 台帳 + コンソール + ドキュメント、1 つの Docker スタック | 人とエージェントにモデルアカウントを渡すチーム | ユーザー、チーム、プロジェクト。キー別・メンバー別の予算。前払いで予約し、プロバイダーのカウンターで精算 | リクエストごとに 1 件、各数値の出所と課金明細付き。エージェントセッション。オフライン照合スクリプト | AGPL-3.0 |
| LiteLLM | Python プロキシ + SDK、YAML 設定、管理 UI | 社内サービスの共有ゲートウェイを運用するプラットフォームチーム | 仮想キー、ユーザー、チーム、組織。スコープ別予算とリセット周期 | 支出追跡とログ。一部のレポートは Enterprise | MIT。enterprise/ は別ライセンス |
| New API | Go ゲートウェイ + コンソール | 1 つのデプロイで多数のユーザーに提供する運営者 | ユーザー、グループ、トークン枠、サブスクリプション、チャージ | 利用・監査ログ、コスト計算 | AGPL-3.0 + 表示条件 |
| one-api | Go ゲートウェイ + コンソール | OpenAI 形式の入口が 1 つ欲しいセルフホスト派 | ユーザー、グループ、トークン枠、引換コード | 枠の明細 | MIT + フッター表示。最終リリースは 2025 年 2 月 |
| Bifrost | Go ゲートウェイ + UI | プラットフォームチーム。Enterprise 版あり | 仮想キー、チーム、顧客。ドル建て予算とリセット | ログ、Prometheus メトリクス、トレース | Apache-2.0 |
| Portkey Gateway | TypeScript ゲートウェイ、リクエスト単位の設定 | アプリ開発者。予算、RBAC、観測はホスト型プラットフォーム側 | ホスト型プランに予算 | ローカルコンソールでログ。保持期間はプラン次第 | MIT。リポジトリは 2026 年 5 月以降更新なし |
| Helicone | 観測プラットフォームとその前段のゲートウェイ | ログとトレースを最優先する AI エンジニア | リクエスト数または金額でレート制限。キー別予算は未記載 | 全リクエストのコスト、レイテンシ、トークン | Apache-2.0（プラットフォーム） |
| Kong AI Gateway | Kong のプラグイン | すでに Kong を運用する企業 | コンシューマーグループ別のトークン枠とコスト予算。Enterprise | Kong 経由の計量 | コアは Apache-2.0、Enterprise プラグインは非公開 |
| OpenRouter | ホスト型のみ | キー 1 つで済ませたい、サーバーを持ちたくない開発者 | 発行キーにクレジット上限 | アクティビティページとリクエスト別コスト API | 非オープンソース |
予算を使い切るとどうなるか
予算の価値は、リクエストを止めるその瞬間で決まります。原則は共通で、仕組みが違います。
- Lazu は上流を呼ぶ前に前払い残高から資金を予約し、呼んだ後にプロバイダー自身の利用カウンターで精算します。キー、プロジェクト、アカウントが賄えないリクエストは、プロバイダーに届く前に拒否されます。課金対象の出力がない失敗は予約を解放します。プロバイダーがカウンターを返さなかった場合は記録にそう書かれます。数字を作らず、こっそり赤字にもしません（課金、課金契約）。
- LiteLLM はキー、ユーザー、チーム、顧客が
max_budgetを超えるとブロックし、周期的にリセットできます。予算の事前警告は Enterprise です。 - New API と one-api はトークンまたはユーザーの枠が尽きると
403 insufficient_user_quotaを返します。 - Bifrost は
402 budget_exceededを返し、一時的な上乗せができます。 - Kong はコスト上限を超えたリクエストの次のリクエストをブロックします。
- Portkey はホスト型 Enterprise プランでキーを失効させ、Helicone は時間窓ごとに金額でレート制限しますがキー予算はありません。
リクエストが残すもの
Lazu は完了した各リクエストについて、正規化されたトークン次元、そのうちプロバイダーが計測したものとローカルで推定したもの、課金明細、公開タイミングを保存し、リクエストを送ったキーがリクエスト ID で取り出せます（リクエスト詳細）。コーディングエージェントからのリクエストはセッションにまとめられ、リポジトリには、プロンプトを出力せずにエクスポートしたセッションを照合するスクリプトが同梱されています。他のプロジェクトもリクエストとコストを記録します。違いは、Lazu の記録が文書化された契約の一部であり、運営者だけでなく支払った本人が読めることです。
プロトコル
Lazu、LiteLLM、New API、Bifrost は OpenAI、Anthropic Messages、Gemini のリクエストをネイティブに受け付け、プロバイダーが別の形式を話す場合は変換します。one-api は OpenAI 形式のみです。Kong のオープンソース ai-proxy は OpenAI 形式から変換するか、ネイティブ形式をそのまま通します。Lazu には他が明言しない規則が 1 つあります。変換は無損失のときだけ行い、上流が運べない機能を必要とするリクエストは、上流を呼ぶ前に機能名を示す 400 で拒否します（設計ノート）。
新しいプロジェクト
2025〜2026 年に登場したセルフホスト可能なゲートウェイで知っておく価値があるものが 3 つあります。gpt-load（Go、MIT。1 つの管理キーの背後にチャネルグループとキープール、個人別アカウントはなし）、AxonHub（Go。任意の SDK から任意のプロバイダーへ、リクエスト別コスト追跡、RBAC）、mozilla-ai の otari（Python。仮想キー、予算、利用追跡）。このページでは README 以上は確認していません。