前面的联想面经中提到过扩展大模型上下文窗口有多种方法。 🐬其中，插值法通过缩放位置索引，可以将未见过的长位置映射到预训练阶段见过的短位置，从而扩展上下文长度。 🐬这种方法的好处是，能够在不牺牲太多性能的情况下，显著扩展上下文窗口。 一起来看看这种方法有哪些具体实现方法吧！