AI Cost Save
AICostSave

嵌入(Embeddings)

嵌入把文本转化为向量用于搜索与检索。按 token 计,它们通常远比生成便宜。

定义

嵌入是表示文本含义的数值向量。它们驱动语义搜索与检索。

为何关乎成本

嵌入模型通常比聊天或生成模型便宜得多。用嵌入做检索——然后只在匹配的片段上生成——能让生成 token 数保持很低。

实用建议

为稳定文档缓存嵌入,这样就不会在每次请求时重新嵌入相同内容。

Related reading