pplx-embed
Perplexity 采用 MIT 许可证的嵌入模型家族:稠密、上下文和后期交互三种,0.6B 到 9B,v2 支持图像。
一句话概括. pplx-embed 把文本(较新的版本还包括文档图像)转换成数字,让搜索系统能找到最相关的段落。Perplexity 提供好几种:稠密模型给每段文本一个向量,上下文模型在看到整篇文档的前提下嵌入其中一块,后期交互模型则为每个 token 保留一个小向量,用来做更精细的匹配。
概述
Perplexity 在 2026 年 1 月于 Hugging Face 上发布了 pplx-embed-v1,这是 0.6B 和 4B 参数的文本嵌入模型,另有一个上下文变体 pplx-embed-context-v1,用于检索增强生成中的文档分块。它们基于 Perplexity 用扩散目标继续预训练的 Qwen3 模型。输出维度为 1024 或 2560,最多接受 32K token,支持 Matryoshka 截断,也不需要指令前缀。它们原生输出未归一化的 int8 向量,另有二值选项,所以请用余弦相似度比较。模型卡称它们是面向网络规模检索的最先进模型,但没有给出基准数字。也可以通过 Perplexity 的嵌入 API 使用。
2026 年 7 月到 10 月发布的 v2 模型加入了图像。pplx-embed-v2-late 是 0.6B 和 9B 两个尺寸的多模态后期交互模型家族,基于带双向注意力的 Qwen3.5。它们为每个 token 给出一个 128 维向量,并用 MaxSim 打分,因此文档可以是图像形式的页面,小模型也可以查询大模型建立的索引。Perplexity 自己的 ViDoRe v3 图像得分(nDCG@10)是 0.6B 为 62.3%,9B 为 65.2%。pplx-embed-v2-context 在看到周围文档的前提下嵌入文本或图像的分块,训练了 1024 和 2048 两个 Matryoshka 维度,论文是 arXiv 2610.38854,称它是从一个查询感知的上下文压缩模型蒸馏而来。权重每个参数约占四个字节,所以仓库大小分别是 2.4 GB、16.1 GB 和 33.6 GB。
我们查看过的仓库在模型卡中使用 MIT 许可证,但 pplx-embed-v2-context-0.6b 的模型卡没有写明许可证。v2 上下文模型要求查询和文档使用不同的编码方法,分块不能重叠,需要自定义代码、Transformers 5.4 或更高版本,要提速还要装 flash-linear-attention。截至 2026 年 11 月 11 日的 30 天内,Hugging Face 统计 pplx-embed-v1-0.6B 约有 64,700 次下载,4B 约有 7,400 次,上下文版 v1 0.6B 和 v2 late 0.6B 各约 2,800 次。
适合做什么
- 网络规模的语义搜索和检索增强生成,不用维护指令前缀
- 在看到周围上下文的前提下嵌入文档分块,文本或页面图像都可以
- 用后期交互打分检索扫描页和幻灯片这类视觉文档
- 用原生 int8 或二值向量和 Matryoshka 截断实现低成本存储和快速搜索
需要注意
- v1 的模型卡声称最先进但没有给出数字,我们引用的 v2 分数来自 Perplexity 自己
- 嵌入是未归一化的 int8 向量,请用余弦相似度,v2 上下文模型对查询和文档要用不同的调用
- 后期交互模型为每个 token 存一个 128 维向量,所以索引比稠密模型大得多
- v2 模型需要自定义代码和较新的 Transformers,pplx-embed-v2-context-0.6b 的模型卡没有写明许可证
- 权重每个参数约占四个字节,相对于参数规模下载很大
性能数据来自开发方,未经独立验证。
需要多少内存?
以下是 pplx-embed 各版本的内存数据。图像、视频、语音和音乐管线还要加载文本编码器和解码器,所以所需内存可能比主检查点更大。
| 版本 | 参数量 | 下载大小 | 所需内存 | 可运行于 |
|---|---|---|---|---|
| pplx-embed-v2-late-0.6B (multimodal ColBERT) FP32 | 590M | 2.4 GB | 2.76 GB | 笔记本或手机 |
| pplx-embed-v1-0.6B (dense text, 1024 dimensions) FP32 | 600M | 2.4 GB | 2.76 GB | 笔记本或手机 |
| pplx-embed-context-v1-0.6B (contextual chunks) FP32 | 600M | 2.4 GB | 2.76 GB | 笔记本或手机 |
| pplx-embed-v1-4B (dense text, 2560 dimensions) FP32 | 4.02B | 16 GB | 19 GB | 游戏显卡 |
| pplx-embed-v2-late-9B (multimodal ColBERT) FP32 | 8.39B | 34 GB | 39 GB | 工作站 |
| pplx-embed-v2-context-9B (multimodal contextual) FP32 | 8.4B | 34 GB | 39 GB | 工作站 |
下载大小包含运行模型所需的全部组件,例如生成器、文本编码器和解码器。所需内存优先采用开发方声明或已公开的实测最低值;没有时按下载大小加约 15% 估算。更大的图像、更长的片段和更高的分辨率需要更多内存。
许可证,用大白话说
最简短、最宽松的许可证。只要保留版权和许可声明,你几乎可以对模型做任何事。
延伸阅读
常见问题
- pplx-embed 是什么?
- pplx-embed 把文本(较新的版本还包括文档图像)转换成数字,让搜索系统能找到最相关的段落。Perplexity 提供好几种:稠密模型给每段文本一个向量,上下文模型在看到整篇文档的前提下嵌入其中一块,后期交互模型则为每个 token 保留一个小向量,用来做更精细的匹配。
- pplx-embed 可以商用吗?
- 可以。pplx-embed 采用 MIT 发布,这是一种宽松许可证。只要遵守常规条件(例如保留许可证声明),就可以商用。
- pplx-embed 是开源的吗?
- pplx-embed 采用 MIT 发布,该许可证经开源促进会(OSI)认可。训练数据和训练代码不一定公开,因此更准确的说法是“采用开源许可证的开放权重模型”。
- 我能在自己的电脑上运行 pplx-embed 吗?
- 可以。最小版本 pplx-embed-v2-late-0.6B (multimodal ColBERT) 在 4 位精度下约需 2.76 GB 内存,现代笔记本或中端显卡即可胜任。
- pplx-embed 是什么时候发布的?
- pplx-embed 由 Perplexity 于 2026年1月14日 发布。
- pplx-embed 的上下文窗口有多长?
- pplx-embed 支持最长 32K token 的上下文窗口。
官方链接
来源
规格数据来自以下一手资料。文中提到的基准测试结果由开发方自报。
- pplx-embed-v1-0.6b model card (Hugging Face) huggingface.co
- pplx-embed-v2-late-9b model card (Hugging Face) huggingface.co
- pplx-embed-v2-context-9b model card (Hugging Face) huggingface.co
- pplx-embed-v2-context-0.6b model card (Hugging Face) huggingface.co
- Contextual Embeddings Beyond the Gold Chunk (arXiv 2610.38854) arxiv.org
发布时间等信息最近核实于 2026年11月11日。
相关模型
| 模型 | 发布时间 | 参数量 | 上下文 | 许可证 | 最小版本所需内存 |
|---|---|---|---|---|---|
| Qwen3-Embedding Alibaba Qwen | 600M – 7.57B | 32K | Apache 2.0 (宽松) | 1.38 GB 笔记本或手机 | |
| EmbeddingGemma 2 Google DeepMind | 270M – 740M | 8K | Apache 2.0 (宽松) | 0.621 GB 笔记本或手机 | |
| BGE-M3 BAAI | 568M | 8K | MIT (宽松) | 2.61 GB 笔记本或手机 | |
| Jina Embeddings v5 Jina AI | 239M – 677M | 32K | CC BY-NC (非商用) | 0.552 GB 笔记本或手机 |