介面 / OpenAI-compatible

POSThttps://api.lazu.ai/v1/chat/completions

Chat completions

透過 Lazu 發送 OpenAI-compatible chat 請求。Base URL、認證、必要 body 欄位、stream、tools、response usage 和排障入口都在這一頁。

計費依所選模型與線路的價格計算 token 用量；可能包含其他計費維度。價格與線路 ↗

基本設定

Base URL

使用 https://api.lazu.ai/v1 搭配 OpenAI SDK，或直接呼叫完整 path https://api.lazu.ai/v1/chat/completions。

模型發現

執行時讀取 GET /api/models/catalog，並篩選 supported_endpoint_types 包含 chat 的模型。

請求 Body

modelstringrequired

模型 ID、route alias 或未來的 route policy 名稱。建議從 GET /api/models/catalog 讀取。

messagesobject[]required

有序對話訊息。角色遵循 OpenAI shape。

rolestring

system、user、assistant 或 tool。

contentstring | content_part[]

純文字，或多模態 content parts。

tool_call_idstring

tool message 用於關聯先前的 tool call。

streambooleannullable

為 true 時返回 Server-Sent Events stream，最後以 data: [DONE] 結束。

toolsobject[]nullable

Function/tool 定義。送出前先檢查模型 catalog 中的 parameters.tools。

type"function"

目前支援 function tools。

function.namestring

模型可呼叫的工具名稱。

function.parametersobject

描述參數的 JSON Schema。

tool_choicestring | objectnullable

OpenAI-compatible tool choice 控制，例如 auto、 none 或指定工具物件。

response_formatobjectnullable

Structured output 控制，例如 {"type":"json_object"}。

temperaturenumbernullable

取樣溫度，多數模型接受 0 到 2。

max_tokensintegernullable

產生 token 上限，仍受模型 context 和 output limit 限制。

Vision input

圖片輸入使用 OpenAI-compatible content parts。可以傳 HTTPS 圖片 URL 或 data URL：

Image inputjson

{
"model": "gpt-6-luna",
"messages": [
  {
    "role": "user",
    "content": [
      {"type": "text", "text": "What's in this image?"},
      {
        "type": "image_url",
        "image_url": {"url": "data:image/png;base64,..."}
      }
    ]
  }
]
}

PDF 和大型文件請透過 Files 上傳，並使用 Responses。Chat completions 不會自動解引用

file_id。

Response

idstring

Lazu 或 provider response ID。

choicesobject[]

Assistant output choices。Streaming response 會送出增量 delta。

usage.prompt_tokensinteger

輸入 token 數。

usage.completion_tokensinteger

輸出 token 數。

usage.prompt_tokens_details.cached_tokensintegernullable

上游回報時的 cache read token。

完整對帳請使用請求詳情。