星淬登录 / 注册

要闻 内容预览

上下文压缩研究:任务得分稳定,未必代表用户约束被保留

来源:arXiv预印本

AI 辅助整理

上下文压缩研究:任务得分稳定,未必代表用户约束被保留的配图
内容配图 Jeanne Salle、Hardik Bhatnagar、Matthias Bethge、Sahar Abdelnabi、Maksym Andriushchenko 原论文图1:压缩后约束丢失的流程与研究观察示意;由原SVG等比例栅格化。 图片来源

一篇10月22日提交的arXiv预印本,在固定OpenCode框架中比较多种上下文压缩方式,测试论文复现、软件开发和模型训练等任务。主要实验显示,部分长上下文模型在所测压缩阈值下的得分变化较小,替代策略也未稳定优于默认自摘要;较短上下文模型在部分任务中更易退化。 研究另检查44段真实开发会话中的2…

登录后,继续看完整内容

加入开放、共创的AI社区,收藏发现、参与交流。

登录 / 注册,继续阅读