解析大型模型的可解释性：综述揭示真相，解答疑惑
大规模语言模型在自然语言处理方面展现出令人惊讶的推理能力，但其内在机理尚不清晰。随着大规模语言模型的广泛应用，阐明模型的运行机制对应用安全性、性能局限性和可控的社会影响至关重要。近期，中美多家研究机构（新泽西理工学院、约翰斯・霍普金斯大学、维克森林大学、佐治亚大学、上海交大、百度等）联合发布了大模型可解释性技术的综述，分别对传统的fine-tuning模型和基于prompting的超大模型的可解释性技术进行了全面的梳理，并探讨了模型解释的评估标准和未来的研究挑战。论文链接：https://arxiv.or
论文链接：https://arxiv.org/abs/2309.01029 Github 链接：https://github.com/hy-zhao23/Explainability-for-Large-Language-Models
模型复杂性高。区别于 LLM 时代之前的深度学习模型或者传统的统计机器学习模型，LLMs 模型规模巨大，包含数十亿个参数，其内部表示和推理过程非常复杂，很难针对其具体的输出给出解释。 数据依赖性强。LLMs 在训练过程中依赖大规模文本语料，这些训练数据中的偏见、错误等都可能影响模型，但很难完整判断训练数据的质量对模型的影响。 黑箱性质。我们通常把 LLMs 看做黑箱模型，即使是对于开源的模型来说，比如 Llama-2。我们很难显式地判断它的内部推理链和决策过程，只能根据输入输出进行分析，这给可解释性带来困难。 输出不确定性。LLMs 的输出常常存在不确定性，对同一输入可能产生不同输出，这也增加了可解释性的难度。 评估指标不足。目前对话系统的自动评估指标还不足以完整反映模型的可解释性，需要更多考虑人类理解的评估指标。
1. 特征归因的目的是衡量每个输入特征（例如单词、短语、文本范围）与模型预测之间的相关性。特征归因的方法可以分为：
基于扰动的解释，通过修改特定的输入特征来观察对输出结果的影响
根据梯度的解释，将输出对输入的偏微分作为相应输入的重要性指标
替代模型，使用简单的人类可理解的模型去拟合复杂模型的单个输出，从而获取各输入的重要性；
基于分解的技术，旨在将特征相关性得分进行线性分解。
注意力可视化技术，直观地观察注意力分数在不同尺度上的变化； 基于函数的解释，如输出对注意力的偏微分。然而，学术界对于将注意力作为一个研究角度依然充满争议。
对抗样本是针对模型对微小变动非常敏感的特性而生成的数据，自然语言处理中通常通过修改文本得到，人类难以区别的文本变换通常会导致模型产生不同的预测。 反事实样本则是通过将文本进行如否定的变形，通常也是对模型因果推断能力的检测。
基于探针的解释 探针解释技术主要基于分类器进行探测，通过在预训练模型或者微调模型上训练一个浅层分类器，然后在一个 holdout 数据集上进行评估，使得分类器能够识别语言特征或推理能力。 神经元激活 传统神经元激活分析只考虑一部分重要的神经元，再学习神经元与语义特性之间的关系。近来，GPT-4 也被用于解释神经元，不同于选取部分神经元进行解释，GPT-4 可以用于解释所有的神经元。 基于概念的解释 将输入先映射到一组概念中，再通过测量概念对预测的重要性来对模型进行解释。
解释对模型学习的好处 探究在 few-shot learning 的情况下解释是否对模型学习有帮助。 情境学习 探究情境学习在大模型中的作用机制，以及区分情境学习在大模型中和中等模型中的区别。 思维链 prompting 探究思维链 prompting 提高模型的表现的原因。
Fine-tuning 的角色 助手模型通常先经过预训练获得通用语义知识，在通过监督学习和强化学习获取领域内知识。而助手模型的知识主要来源于哪个阶段依然有待研究。 幻觉与不确定性 大模型预测的准确性和可信度依然是目前研究的重要课题。尽管大模型的推理能力强大，但其结果常常出现错误信息和幻觉。这种预测的不确定性为其广泛应用带来了巨大的挑战。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端，适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端，并可同时接收和智能排列多个镜像会话。