关于多元时间序列中的公平性问题
今天给大家介绍一篇2023.1发在arixv的多元时序预测文章，出发点比较有趣：如何提升多变量时间序列的公平性。文中采用的建模方法都是之前在时空预测、DomainAdaptation等中使用过的常规操作，但是对于多变量公平性这个点的提出比较新颖。论文标题：LearningInformativeRepresentationforFairness-awareMultivariateTime-seriesForecasting:AGroup-basedPerspective下载地址：ht
今天给大家介绍一篇2023.1发在arixv的多元时序预测文章，出发点比较有趣：如何提升多变量时间序列的公平性。文中采用的建模方法都是之前在时空预测、Domain Adaptation等中使用过的常规操作，但是对于多变量公平性这个点的提出比较新颖。
- 论文标题：Learning Informative Representation for Fairness-aware Multivariate Time-series Forecasting: A Group-based Perspective
- 下载地址：https://arxiv.org/pdf/2301.11535.pdf
1.多元时间序列的公平性
公平性问题，在机器学习领域中是一个宏观的概念。机器学习中公平性的一种理解是，一个模型对于不同的样本的拟合效果的一致程度。如果一个模型在某些样本上效果很好，另一些样本上效果不好，那么这个模型的公平性就比较差。例如，一个常见的场景是推荐系统中，模型对于头部样本的预测效果优于尾部样本，这就体现了模型对于不同样本的预测效果存在不公平性。
回到多元时间序列预测问题中，公平性指的是模型是否对各个变量的预测效果都比较好。如果模型对于不同变量的预测效果差异很大，那么这个多元时间序列预测模型是不公平的。例如下图中的例子，第一行表格是各种模型在各个变量上预测效果MAE的方差，可以看到不同模型多存在一定程度的不公平性。下图的序列是一个例子，一些序列的预测效果比较好，而另一些序列的预测效果较差。
2.不公平现象的成因和解法
为什么会造成不公平性呢？无论是在多元时间序列中，还是在其他机器学习领域，造成不同样本预测效果差异较大的一大原因是，不同样本的特点不同，模型在训练过程中可能被某些样本的特点主导，导致模型对主导训练的样本预测效果好，而对于非主导样本的预测效果差。
在多元时间序列中，不同的变量，其序列pattern可能存在很大的差异。例如上面图的例子，大部分序列都是平稳的，主导了模型的训练过程。而少数序列呈现出了和其他序列不同的波动性，导致模型在这部分序列上预测效果较差。
如何解决多元时间序列中的不公平现象呢？一种思路是，既然造成不公平现象的原因是不同序列的特点不同，如果能将各个序列之间的共性，以及各个序列之间的差异性分解开，独立进行建模，就能缓解上述问题。
这篇文章就建立在这个思路之上，整体架构是利用聚类的方法将多变量序列分组，并得到每组的共性特征；进一步使用对抗学习的方法，从原始表示中剥离掉各个组特有的信息，得到公共的信息。通过上述过程，实现来了公共信息和序列特有信息的剥离，再基于这两个部分信息进行最终预测。
3、实现细节
整体的模型结构主要包括4个模块：多变量序列关系学习、时空关系网络、序列聚类、分解学习。
多变量序列关系学习
多元时间序列的一个重点是学习各个序列之间的关系。本文采用的是Spatial-Temporal的方法学习这个关系。由于多元时间序列不像很多时空预测任务，各个变量之间的关系可以预先定义好，因此这里使用了邻接矩阵的自动学习方法。具体的计算逻辑为，为每个变量生成一个随机初始化的embedding，然后使用embedding的内积，以及一些后处理，计算两两变量之间的关系，作为邻接矩阵对应位置上的元素，公式如下：
这种自动学习邻接矩阵的方法，在时空预测中很常用，在Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks（KDD 2020）、REST: Reciprocal Framework for Spatiotemporal-coupled Prediction（WWW 2021）等文章中，都采用了这种方式。我在星球文章KDD2020经典时空预测模型MTGNN代码解析中详细介绍过相关模型的原理实现，感兴趣的同学可以进一步阅读。
时空关系网络
有了邻接矩阵后，文中采用了图时序预测模型，对多变量时间序列进行时空编码，得到每个变量序列的表示。具体的模型结构很类似于DCRNN，在GRU基础上，每个单元的计算引入了GCN模块。可以理解为，在正常GRU的每个单元的计算过程中，引入了邻居节点的向量做一次GCN，得到更新后的表示。关于DCRNN的实现代码原理，可以参考DCRNN模型源码解析这篇文章。
序列聚类
在得到每个变量时间序列的表示后，下一步是将这些表示聚类，以此得到各个变量序列的分组，进而提取每组变量特有的信息。文中引入下面的损失函数来指导聚类过程，其中H表示每个变量序列的表示，F表示每个变量的序列跟K个类别的从属关系。
这个损失函数的更新过程需要采用EM算法，即固定序列表示H，优化F，以及固定F，优化H。文中采用的方法是，训练几轮模型得到表示H后，使用SVD更新一次矩阵F。
分解学习
分解学习模块的核心是将各个类别变量的公共表示和私有表示区分开，公共表示指的是各个类簇变量的序列共有的特点，私有表示指的是每个类簇内变量序列独有的特点。为了实现这个目的，文中采用了分解学习和对抗学习的思路，将各个类簇的表示，从原始的序列表示中剥离开。类簇表示代表每个类的特性，剥离后的表示代表所有序列的共性，利用这个共性的表示进行预测，可以实现对各个变量预测的公平性。
文中利用对抗学习的思路，直接计算公共表示和私有表示（也就是聚类得到的每个类簇的表示）的L2距离，以此作为loss反向优化，让公共部分表示和私有表示的差距尽可能拉大。此外，还会增加一个正交约束，让公共表示和私有表示的内积接近0。
4、实验结果
文中的实验主要从公平性和预测效果两个方面进行了对比，对比的模型包括基础时序预测模型（LSTNet、Informer）、图时序预测模型等。在公平性上，采用的是不同变量预测结果的方差，通过对比，本文的方法公平性相比其他模型要有比较明显的提升（如下表）。
在预测效果上，本文提出的模型也基本能够取得和SOTA相当的效果：
5、总结
如何保证模型的公平性，是机器学习很多场景都面临的问题。本文将这一维度的问题引入到了多元时间序列预测中，并利用时空预测、对抗学习的方法进行了比较好的解决。
WPS Office是一款面向macOS用户的综合办公套件，将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式，支持Intel及Apple芯片Mac，基础功能可免费使用，
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件，可将原始照片保存在本地硬盘，通过目录、关键词、评分和收藏夹高效整理图库，并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理工具，可在 Windows 上完成照片修饰、选区抠图、图层合成、文字排版、绘画及生成式编辑。软件采用订阅授权，由 Creative Cloud 管理安装、更新与许
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Adobe Bridge 是 Adobe 推出的创意资产管理工具，可集中预览、分类和查找照片、视频、PDF及多种设计文件，并支持元数据、关键词、评级、批量重命名和格式导出。它可与 Photoshop、Illustrator 等应用衔接，
Affinity Photo 是一款面向摄影师、修图师和视觉设计人员的桌面图像编辑工具，提供 RAW 显影、多图层合成、蒙版、实时滤镜、批处理和色彩管理等功能。原独立产品已停止销售，其照片编辑能力已延续至免费的新 Affinity 应用；
Adobe Lightroom Classic 是面向 Windows 桌面摄影工作流的照片管理与无损编辑工具，可通过目录集中整理大型图库，并完成 RAW 显影、局部蒙版、批量调整、打印和多格式导出。它强调本地文件管理与精细控制，
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Capture One Pro 是面向摄影师和影像团队的专业桌面照片处理工具，提供相机定制色彩配置、RAW转换、图层与蒙版、联机拍摄、目录及会话管理等功能。它适合棚拍、人像、商业产品、婚礼和风光摄影，
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Adobe After Effects 是面向动态图形、动画与影视视觉特效制作的专业工具，可完成关键帧动画、图层合成、遮罩跟踪、抠像、文字动画和二维三维元素整合。Windows 版通过 Adobe Creative Cloud 安装及更新，
DaVinci Resolve是Blackmagic Design推出的一体化影视后期工具，将素材管理、非线性剪辑、专业调色、Fusion视觉特效、Fairlight音频处理和成片交付整合在统一工程中。免费版已覆盖多数个人创作需求，