要闻 内容预览
上下文压缩研究:任务得分稳定,未必代表用户约束被保留
来源:arXiv预印本
AI 辅助整理
内容配图 Jeanne Salle、Hardik Bhatnagar、Matthias Bethge、Sahar Abdelnabi、Maksym Andriushchenko 原论文图1:压缩后约束丢失的流程与研究观察示意;由原SVG等比例栅格化。 图片来源一篇10月22日提交的arXiv预印本,在固定OpenCode框架中比较多种上下文压缩方式,测试论文复现、软件开发和模型训练等任务。主要实验显示,部分长上下文模型在所测压缩阈值下的得分变化较小,替代策略也未稳定优于默认自摘要;较短上下文模型在部分任务中更易退化。 研究另检查44段真实开发会话中的2…