嵌入(Embeddings)
嵌入把文本转化为向量用于搜索与检索。按 token 计,它们通常远比生成便宜。
定义
嵌入是表示文本含义的数值向量。它们驱动语义搜索与检索。
为何关乎成本
嵌入模型通常比聊天或生成模型便宜得多。用嵌入做检索——然后只在匹配的片段上生成——能让生成 token 数保持很低。
实用建议
为稳定文档缓存嵌入,这样就不会在每次请求时重新嵌入相同内容。
下一步
比较服务商计价嵌入把文本转化为向量用于搜索与检索。按 token 计,它们通常远比生成便宜。
嵌入是表示文本含义的数值向量。它们驱动语义搜索与检索。
嵌入模型通常比聊天或生成模型便宜得多。用嵌入做检索——然后只在匹配的片段上生成——能让生成 token 数保持很低。
为稳定文档缓存嵌入,这样就不会在每次请求时重新嵌入相同内容。