BAAI bge-m3 向量 API:100+ 语言,每百万 token 0.02 美元
Lazu 现已通过兼容 OpenAI 的 /v1/embeddings 接口提供 BAAI/bge-m3,价格为每百万输入 token 0.02 美元。它输出 1024 维向量,单条输入最长 8,192 token,100 多种语言共用同一个向量空间。为 1 万篇、每篇 500 token 的文档生成向量,费用约 0.10 美元。
bge-m3 是什么 #
bge-m3 是北京智源人工智能研究院(BAAI)于 2024 年 1 月发布的开放权重向量模型,采用 MIT 许可。"M3" 指多语言(100+ 种语言)、多粒度(从一句话到 8,192 token 的长文档)和多功能(稠密、稀疏、多向量三种检索方式)。Lazu 的 /v1/embeddings 返回其中的稠密向量,也就是向量数据库和 RAG 框架通用的格式。细节见模型卡和论文。
一览 #
Lazu 上的 BAAI/bge-m3 |
|
|---|---|
| 接口 | POST /v1/embeddings,兼容 OpenAI |
| 价格 | 每百万输入 token 0.02 美元;向量模型没有输出 token |
| 向量维度 | 1024,固定 |
| 单条输入上限 | 8,192 token |
| 语言 | 100+ 种,共用一个向量空间 |
dimensions、encoding_format: base64 |
不生效:始终返回 1024 个浮点数 |
| 批量 | 一次请求可传入一个数组(我们测过 50 条) |
调用方式 #
任何 OpenAI SDK 都可以直接用:把 base_url 指向 Lazu,模型 ID 填 BAAI/bge-m3。
curl https://api.lazu.ai/v1/embeddings \
-H "Authorization: Bearer $LAZU_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "BAAI/bge-m3", "input": ["How do I reset my password?", "如何重置密码?"]}'
from openai import OpenAI
client = OpenAI(base_url="https://api.lazu.ai/v1", api_key="YOUR_LAZU_KEY")
resp = client.embeddings.create(
model="BAAI/bge-m3",
input=["How do I reset my password?", "如何重置密码?"],
)
print(len(resp.data[0].embedding), resp.usage.prompt_tokens, resp.usage.cost)
响应中每条输入对应一个向量,顺序与输入一致;model 为 BAAI/bge-m3;usage 包含 prompt_tokens、total_tokens 和以美元计的 cost。
跨语言检索 #
所有语言都落在同一个向量空间里,所以用英文提问可以直接检索到中文或日文的答案,不需要先翻译:
import numpy as np
docs = [
"Reset your password from Settings → Security.",
"账单每月 1 日生成,可在控制台下载发票。",
"API キーはプロジェクトごとに発行できます。",
]
def embed(texts):
resp = client.embeddings.create(model="BAAI/bge-m3", input=texts)
vectors = np.array([item.embedding for item in resp.data])
return vectors / np.linalg.norm(vectors, axis=1, keepdims=True)
scores = embed(docs) @ embed(["Where can I download my invoice?"])[0]
print(docs[int(scores.argmax())]) # 命中中文的发票说明
限制与错误 #
- 单条输入超过 8,192 token 会被拒绝,返回
400 context_length_exceeded(LZ-1005),不扣费。长文档请先切块;几百到一千 token 的块通常检索效果也更好。 - 空字符串会返回 400。发送前先去掉空块。
dimensions和encoding_format: base64不生效,始终返回 1024 个浮点数。模型目录里该模型的unsupported_params列出了这两项。
计费方式 #
只对输入 token 计费,失败的请求不扣费。这个模型的服务方不返回 token 数,Lazu 用一个通用分词器统计输入。统计结果与 bge-m3 自带分词器大约相差 20%–25%:英文偏少,中文偏多。按每百万 token 0.02 美元计算,每处理一百万 token,这个差额最多约 0.005 美元。
每个响应都在 usage.cost 和 x-lazu-cost-usd 响应头里写明本次费用。以下是 2026 年 10 月 29 日的实测:
| 请求 | 计费 token | 费用 |
|---|---|---|
| 一句简短英文 | 7 | 0.000001 美元(单次请求最低费用) |
| 英文文本,10,500 字符 | 1,948 | 0.000039 美元 |
| 中文文本,2,880 字 | 3,053 | 0.000061 美元 |
| 20 条短文档批量 | 260 | 0.000005 美元 |
选 bge-m3 还是 text-embedding-3-small? #
BAAI/bge-m3 |
text-embedding-3-small |
|
|---|---|---|
| Lazu 价格 | 0.02 美元 / 百万 token | 0.02 美元 / 百万 token |
| 向量维度 | 1024 | 1536,可缩短 |
| 单条输入上限 | 8,192 token | 8,191 token |
| 权重 | 开放,MIT 许可 | 闭源 |
内容以中文、日文或多语言混合为主,或者在意索引体积时,选 bge-m3:1024 维比 1536 维少占三分之一存储。如果索引里已经是 text-embedding-3-small 的向量,就继续用它。不同模型的向量不能互相比较,换模型意味着整个语料都要重新生成向量。
完整的请求和响应说明见向量接口文档。