← 2026年10月15日 简报 · 于韩国时间 20:00 更新时加入

ByteDance、普林斯顿等研究人员:DeepSeek式分块KV缓存压缩的检索准确率随信息位置波动(媒体报道)

已核实(事实)

来自ByteDance、普林斯顿大学、斯坦福大学和UC Berkeley的研究人员发表论文“Periodic Weak Spots: Phase Sensitivity from Chunked KV Cache Compression”。论文指出,DeepSeek为低成本处理长上下文而采用分块KV缓存压缩,在这种方式下,检索准确率会随信息在文档中的位置呈周期性大幅变化。

待核实(说法)

研究人员认为,即使平均基准分数较高,模型也可能存在无法准确找到特定位置信息的弱点。

意义(解读)

如果只凭平均分评估长上下文模型,可能会忽略随信息位置出现的性能下降。使用KV缓存压缩模型运行检索增强生成(RAG)或长文本处理的团队,有必要改变信息位置另行测试。

可信度 中 · 待补官方来源

来源

更多关于 ByteDance