怎么考「Embedding 模型怎么选?看哪些指标?维度越大越好吗?」
谁在问:一二面必问;「维度越大越好吗」是常设陷阱
开场怎么问
你们用的什么 embedding 模型?为什么选它?
换个问法
- MTEB 榜第一的那个不是最好吗?
- 1536 维和 768 维差在哪,是不是维度越高越准?
五层追问链
左边照着问,右边对着听。最后一层是压力面,不必每个候选人都问到。
你说要用自己的评测集,具体怎么建?
- 期望
- 从真实提问日志抽 100–200 条 → 人工标注每条对应的正确 chunk → 按问题类型分桶(口语化 / 专有名词 / 长问题)→ 用 recall@k、MRR、NDCG 对比候选 → 同时记录编码耗时和存储成本,效果与成本一起决策。
- 信号
- 说不出标注对象是「chunk 级别」的,可能没真做过检索评测。
维度从 1536 降到 512,你怎么知道掉了多少?
- 期望
- 用评测集直接测各档位的 recall@k / NDCG,画出精度-维度曲线找拐点;常见结论是降到某档位精度只掉 1–2%,而存储和查询速度提升数倍。
- 信号
- 能说出「有拐点、要画曲线」的,是量化思维;只说「降维会掉一点」的属于泛泛而谈。
你们领域有很多内部代号和型号,embedding 对这些词效果怎么样?
- 期望
- 效果通常差——低频专有名词在向量空间里区分度低。解法:靠 BM25 那一路补齐(混合检索);或用支持稀疏向量的模型(如 BGE-M3 三合一);必要时做领域微调。这题实际是在把话题引向混合检索。
- 信号
- 答「embedding 都能理解」的,没在专业语料上测过。
换 embedding 模型的成本是什么?
- 期望
- 全量重新编码 + 重建索引,百万级向量是小时到天级的作业,还要考虑切换期间的双写或停机;所以选型要早定,且要留意模型是否会被下线。
- 信号
- 意识不到「换模型要重建全量索引」的,没经历过模型迭代。
有个模型分数最高,但许可证是 CC-BY-NC,你怎么办?
- 期望
- 不能商用,直接排除(或走商业授权/托管 API);企业场景合规优先于分数。加分:把许可证检查前置到选型清单第一步,而不是选完才发现。
- 信号
- 说「先用着再说」的,是能让整个项目返工的风险认知缺失。
危险信号
听到这些话,基本可以判定是背题而不是做过。
「用榜单第一的」——三个陷阱全踩。
认为维度越高越好。
完全不提评测方法,选型全凭博客推荐。
不知道 query 和 doc 必须用同一模型(这个错会让系统整体失效却不报错)。
从没考虑过许可证和数据出境合规。
评分卡
- 提到 MTEB / C-MTEB 但明确说要看 Retrieval 子榜
- 强调自建评测集才是最终依据
- 明确否定「维度越大越好」,能说出成本精度权衡
- 提到自托管 vs API 的成本与数据合规差异
- 知道 query 与 document 必须用同一模型编码
- 加分:知道许可证风险(CC-BY-NC 不可商用)
- 加分:知道换模型需要全量重建索引
- 加分:知道部分模型 query 侧需要指令前缀,漏加会掉点
参考答案与考察意图面试中途别看这一段
考察意图
三个陷阱依次埋着:① 只看综合分——MTEB 综合分含大量与 RAG 无关的任务,做检索应该只看 Retrieval 子榜;② 唯榜单论——榜单是通用语料,你的领域可能完全不同,最终依据只能是自建评测集;③ 维度崇拜——维度是成本精度旋钮,不是越大越好。三个都能绕开的候选人不多。
参考答案
60 分答案(及格线)
主要看三方面:效果——参考 MTEB / C-MTEB 榜单,但要看 Retrieval 子榜而不是综合分,最终还要用自己的数据验证;成本与部署——API 免运维但量大了很贵,开源模型可自托管、数据不出内网;适配性——中文场景、领域词汇、最大输入长度是否够。维度不是越大越好,维度高意味着存储更大、检索更慢,很多场景降维后召回率只掉一两个点而速度和存储收益明显。
90 分答案(有生产经验的回答)
补四层:
- 为什么只看 Retrieval 子榜:综合分包含分类、聚类等任务,一个模型可能靠这些拉高综合分而检索平平。做 RAG 只关心检索。
- 自建评测集才是决定性依据:哪怕只有 100 条人工标注的「问题 → 正确 chunk」对,也比榜单可信,因为榜单是通用语料,你的语料可能全是内部代号、专业术语。
- 维度当成本旋钮:现代模型普遍支持维度截断(MRL,训练时就让前 N 维承载主要信息,所以能直接截断而不必重训)。实践是测几个档位的 recall@k,取拐点,而不是默认用最大维度。
- 两个能踩雷的工程点:① 许可证——部分高分开源模型是 CC-BY-NC,不允许商用,企业场景必须确认;② 换模型 = 全量重建索引,几百万向量重跑成本不小,所以选型要在项目早期定下来。
再补一个 2026 年的判断:开源模型在主流基准上已追平甚至反超闭源 API,且成本差距可达一个数量级以上。所以「用 OpenAI 更保险」这个默认假设在 2026 年需要重新论证,尤其在中文和大数据量场景。
攒够了去组卷页一键生成可打印的面试题单