Context Compression

长上下文压缩（Context Compression）是什么？为什么模型上下文越来越长，它反而更重要

长上下文压缩说的不是简单删字，而是把长材料里的关键信息尽量保留下来，用更短、更可喂给模型的形式重新组织。这个概念会越来越重要，恰恰是因为上下文窗口越来越长了。窗口变大不代表你就该什么都往里塞，真正的问题变成：哪些内容值得保留，哪些只是占位置。 为什么“窗口更长”反而让压缩更关键 - 长材料一旦全塞进...