降低Transformer的秩，移除特定层90%以上组件仍保持LLM性能不减
麻省理工学院和微软进行了联合研究，发现不需要额外的训练即可提升大型语言模型的任务性能，并减小其大小在大型模型时代，Transformer以其独特的能力支撑起整个科研领域。自推出以来，基于Transformer的语言模型(LLM)在各种任务中展现出卓越的性能。Transformer的底层架构已成为自然语言建模和推理的最先进技术，并在计算机视觉和强化学习等领域展现出强大的前景然而，当前Transformer架构非常庞大，通常需要大量计算资源来进行训练和推理。这样重写：这样做是有意义的，因为经过更多参数或数据训
麻省理工学院和微软进行了联合研究，发现不需要额外的训练即可提升大型语言模型的任务性能，并减小其大小
在大型模型时代，Transformer以其独特的能力支撑起整个科研领域。自推出以来，基于Transformer的语言模型(LLM)在各种任务中展现出卓越的性能。Transformer的底层架构已成为自然语言建模和推理的最先进技术，并在计算机视觉和强化学习等领域展现出强大的前景
然而，当前 Transformer 架构非常庞大，通常需要大量计算资源来进行训练和推理。
这样重写：这样做是有意义的，因为经过更多参数或数据训练的Transformer显然比其他模型更有能力。然而，越来越多的研究表明，基于Transformer的模型和神经网络不需要保留所有适应参数来保持其学习到的假设
一般而言，在训练模型时，过度参数化似乎很有帮助，但这些模型在推理之前可以进行大幅剪枝。有研究表明，神经网络通常可以去除90%以上的权重，而性能不会有任何显著下降。这一现象引发了研究者对于有助于模型推理的剪枝策略的研究兴趣
来自 MIT、微软的研究者在论文《 The Truth is in There: Improving Reasoning in Language Models with Layer-Selective Rank Reduction 》中提出了一个令人惊讶的发现，即在 Transformer 模型的特定层上进行仔细的剪枝可以显著提高模型在某些任务的性能。
请点击以下链接查看论文：https://arxiv.org/pdf/2312.13558.pdf
论文主页：https://pratyushasharma.github.io/laser/
该研究将这种简单的干预措施称为LASER（层选择性降秩），通过奇异值分解有选择地减少Transformer模型中特定层的学习权重矩阵的高阶分量，从而显著提高LLM的性能。这种操作可以在模型训练完成后进行，无需额外的参数或数据
在操作过程中，权重的减少是在模型特定的权重矩阵和层中进行的。这项研究还发现，许多类似的矩阵都可以显著减少权重，并且通常在删除超过90%的组件之前不会观察到性能下降
该研究还发现这些减少可以显著提高准确率，这一发现似乎不仅限于自然语言，在强化学习中也发现了性能提升。
此外，该研究尝试推断出高阶组件中存储的内容是什么，以便进行删除从而提高性能。该研究发现经过 LASER 回答正确的问题，但在干预之前，原始模型主要用高频词 (如 “the”、“of” 等) 来回应，这些词甚至与正确答案的语义类型都不相同，也就是说这些成分在未经干预的情况下会导致模型生成一些不相干的高频词汇。
然而，通过进行一定程度的降秩后，模型的回答可以转变为正确的。
为了理解这一点，该研究还探索了其余组件各自编码的内容，他们仅使用其高阶奇异向量来近似权重矩阵。结果发现这些组件描述了与正确答案相同语义类别的不同响应或通用高频词。
这些结果表明，当嘈杂的高阶分量与低阶分量组合时，它们相互冲突的响应会产生一种平均答案，这可能是不正确的。图 1 直观地展示了 Transformer 架构和 LASER 遵循的程序。在这里，特定层的多层感知器（MLP）的权重矩阵被替换为其低秩近似。
激光概览
对LASER干预进行了详细介绍。单步LASER干预通过三元组(τ, ℓ, ρ)来定义，其中包含参数τ、层数ℓ和降秩ρ。这些值共同描述了要被它们的低秩近似所替代的矩阵，以及近似的程度。研究者根据参数类型对他们将要干预的矩阵类型进行分类
研究者重点关注 W = {W_q, W_k, W_v, W_o, U_in, U_out} 中的矩阵，它由 MLP 和注意力层中的矩阵组成。层数表示了研究者干预的层（第一层从 0 开始索引）。例如 Llama-2 有 32 层，因此 ℓ ∈ {0, 1, 2,・・・31}。
最终，ρ ∈ [0, 1) 描述了在做低秩近似时应该保留最大秩的哪一部分。例如设
，则该矩阵的最大秩为 d。研究者将它替换为⌊ρ・d⌋- 近似。
下图 1 为 LASER 示例，该图中，τ = U_in 和ℓ = L 表示在 L^th 层的 Transformer 块中来更新 MLP 第一层的权重矩阵。另一个参数控制 rank-k 近似中的 k。
LASER 可以限制网络中某些信息的流动，并出乎意料地产生显著的性能优势。这些干预也可以很容易组合起来，比如以任何顺序来应用一组干预
。
LASER 方法只是对这类干预进行简单的搜索，并修改以带来最大收益。不过，还有很多其他方法可以将这些干预组合起来，这是研究者未来工作的方向。
为了保持原意不变，需要将内容重新写成中文。而不需要出现原句
在实验部分，研究者使用了在 PILE 数据集上预训练的 GPT-J 模型，该模型的层数为 27，参数为 60 亿。然后在 CounterFact 数据集上评估模型的行为，该数据集包含（主题、关系和答案）三元组的样本，每个问题提供了三个释义 prompt。
首先是 CounterFact 数据集上对 GPT-J 模型的分析。下图 2 展示了在 Transformer 架构中为每个矩阵应用不同数量降秩的结果对数据集分类损失的影响。其中每个 Transformer 层都由一个两层的小型 MLP 组成，输入和输出矩阵分别显示。不同的颜色表示移除组件的不同百分比。
关于提升释义的准确度和稳健性，如上图 2 和下表 1 所示，研究者发现，当在单层上进行降秩时，GPT-J 模型在 CounterFact 数据集上的事实准确度从 13.1% 增加到了 24.0%。需要注意一点，这些改进只是降秩的结果，并不涉及对模型的任何进一步训练或微调。
哪些事实会通过降秩恢复在数据集中成为研究者关注的问题。研究者发现，通过降秩恢复的事实在数据中很少出现，如图 3 所示
高阶组件存储了什么？研究者使用高阶组件来近似最终的权重矩阵，与LASER不同，它们不使用低阶组件来进行近似，如图5(a)所示。在使用不同数量的高阶组件来近似矩阵时，他们测量了真实答案与预测答案之间的平均余弦相似度，如图5(b)所示
最后，研究者评估了自身发现对 3 种不同的 LLM 在多项语言理解任务上的普遍性。对于每项任务，他们通过生成准确度、分类准确度和损失三种指标来评估模型的性能。如上表 1 所示，即使降秩很大也不会导致模型准确度下降，却可以提升模型性能。
WPS Office是一款面向macOS用户的综合办公套件，将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式，支持Intel及Apple芯片Mac，基础功能可免费使用，
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件，可将原始照片保存在本地硬盘，通过目录、关键词、评分和收藏夹高效整理图库，并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具，可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权，由 Creative Cloud 管理安装、更新与许
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Adobe Bridge 是 Adobe 推出的创意资产管理工具，可集中预览、分类和查找照片、视频、PDF及多种设计文件，并支持元数据、关键词、评级、批量重命名和格式导出。它可与 Photoshop、Illustrator 等应用衔接，
Affinity Photo 是一款面向摄影师、修图师和视觉设计人员的桌面图像编辑工具，提供 RAW 显影、多图层合成、蒙版、实时滤镜、批处理和色彩管理等功能。原独立产品已停止销售，其照片编辑能力已延续至免费的新 Affinity 应用；
Adobe Lightroom Classic 是面向 Windows 桌面摄影工作流的照片管理与无损编辑工具，可通过目录集中整理大型图库，并完成 RAW 显影、局部蒙版、批量调整、打印和多格式导出。它强调本地文件管理与精细控制，
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Capture One Pro 是面向摄影师和影像团队的专业桌面照片处理工具，提供相机定制色彩配置、RAW转换、图层与蒙版、联机拍摄、目录及会话管理等功能。它适合棚拍、人像、商业产品、婚礼和风光摄影，
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Adobe After Effects 是面向动态图形、动画与影视视觉特效制作的专业工具，可完成关键帧动画、图层合成、遮罩跟踪、抠像、文字动画和二维三维元素整合。Windows 版通过 Adobe Creative Cloud 安装及更新，
DaVinci Resolve是Blackmagic Design推出的一体化影视后期工具，将素材管理、非线性剪辑、专业调色、Fusion视觉特效、Fairlight音频处理和成片交付整合在统一工程中。免费版已覆盖多数个人创作需求，