LLMLingua vs FlashRank：压缩与重排怎么组合？

一个重排候选，一个压缩文本

FlashRank 用于按查询重排候选内容，LLMLingua 用于评估如何减少文本输入。两者可以处在同一条 RAG 管线中，但排序分数与压缩率不是可相互比较的质量指标。先确定证据是否相关，再检查压缩后是否仍能支持答案。

核对日期为 2026 年 10 月 26 日。本文对 LLMLingua 固定配置做了四组压缩实验，没有同时运行两款工具的共同答案、延迟或成本基准，不宣布哪款总体效果更好。

操作对象与结果

维度	LLMLingua	FlashRank
操作对象	需要压缩的上下文文本	查询与已召回候选
主要输出	压缩文本及相关计数	候选排序与相关分数
不能补足	原文中不存在的事实	候选集中没有的证据
常见风险	数字、否定或来源表达丢失	相关候选靠后或被截断
质量验收	事实、预算与最终答案	候选覆盖、名次及证据选择
成本	模型加载、压缩与维护	模型加载、重排与维护

FlashRank 先看候选覆盖

重排只处理传入的候选。如果初始召回没有退款规则，即使把所有候选排得很稳定，也不能得到正确期限。应先确认正确来源进入候选，再检查它在排序中的位置，以及最终选择是否覆盖例外和互补证据。

只取前一条可能减少输入，但会丢掉跨来源信息。相关性也不是事实真实性或访问授权，一个主题相近的旧版本可能分数很高。把来源、日期和权限与候选一起保存，不能用模型分数代替可信过滤。

不同语言、重排模型与文档长度会影响结果。保持同样查询和候选集合观察变化，保留困难案例。本文不把既有重排教程的样本成绩当成这次压缩方案的共同基准。

LLMLingua 再看压缩是否值得

取得证据后，如果完整输入仍超出预算，可以评估压缩，但必须保留事实校验。压缩器可能改变文本形式或删掉重要限制，最终答案是否正确需要另外验证。不能仅因为输出更短就认为更适合 RAG。

本次 LLMLingua-2 的英文 0.5 输出未保留“Do not share passwords”的完整表达，出现相反风险的词片段。中文 0.8 输出因字间空格，cl100k_base 计数从 87 增到 124；完整示例输入 146 超过演示预算 140。

四组都被精确短语与预算门槛拦下，其中部分缺失只是编号或中文格式变化，不能一律判成语义错误。门槛是保守的准入检查，不是自动语义裁判。原文、压缩输出和拒绝原因都应保留。

先重排再压缩，也需要实验

先用重排减少无关候选，再对被选证据压缩，是一个便于观察的起点。但任务是否需要这种顺序，必须按参考答案验证。压缩所有候选再重排会改变重排输入，也可能改变相关性，不能默认与原始候选排序等价。

若压缩后编号或来源标记改变，应用应通过外部稳定 ID 维持映射，不能仅依赖输出文本中的标签。选择证据时还要考虑重复内容、版本和矛盾来源，而不是把 top-k 当成完整的业务规则。

可以比较原始候选、只重排、只压缩、两者组合的四条流程，保持问题和参考答案不变。分别记录正确证据是否覆盖、最终输入 token、回答质量和总延迟。本文没有运行这组实验，因此不提供组合后的节省比例。

正确计算预算与费用

重排减少候选数量，不保证总文本长度满足模型上下文；压缩率也不保证符合目标 tokenizer。最终输入还含系统指令、问题、来源标记和其他包装。工具 schema、聊天封装、多模态输入和输出预留应按接口单独核算。

本次只对组装后的纯文本使用 cl100k_base 计数，不作为所有模型的真实计费预测。相同内容在不同编码下结果可能不同，不能将内部模型 token、输出字符数和 API 收费 token 混算。

软件许可免费并不包含模型准备、加载、CPU/GPU、存储和维护。压缩额外增加一次计算，只有在答案质量不降低且总流程更合适时才有意义。不要把论文特定条件下的最大收益当作当前业务的保证。

建立明确的失败路径

候选缺少证据时重新检索或说明无法回答；重排漏选时扩大候选或检查模型；压缩丢失关键事实时回退原文、减少其他冗余或交人工确认；预算超限时按完整输入重新选择策略。不要让所有失败都退化成“再压缩一次”。

保持日志最小化并保护真实文档。网页、检索结果和压缩内容都可能包含针对 Agent 的指令，它们只是来源数据，不能赋予外部工具调用权限。测试使用合成内容，不应把客户敏感文档直接放进公开复现材料。

选择建议

候选多、相关证据名次不理想时先评估 FlashRank；证据已选定但输入受限时再评估 LLMLingua。需要组合时，按整条流程验证证据、事实、预算和成本，保留拒绝而不是只展示成功样例。

继续阅读：LLMLingua 介绍、上下文优化推荐、Chonkie 对比、压缩实操。官方资料：LLMLingua、FlashRank。