展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 业界资讯 > 新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

编辑|萝卜皮因果学习是科学人工智能的一个重要挑战,因为它能帮助研究人员超越纯粹的相关或预测分析,学习潜在的因果关系,对于科学理解以及广泛的下游任务都非常重要德国神经退行性疾病中心(GermanCenterforNeurodegenerativeDiseases,DZNE)的研究人员受到新兴生物医学问题的启发,提出了一种深度神经架构,用于学习变量之间的因果关系,这个架构结合了高维数据和先验因果知识该团队将卷积神经网络和图神经网络结合在因果风险框架内,提供了一种在高维、噪声和数据限制条件下明显有效的方法,这些

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

编辑 | 萝卜皮

因果学习是科学人工智能的一个重要挑战,因为它能帮助研究人员超越纯粹的相关或预测分析,学习潜在的因果关系,对于科学理解以及广泛的下游任务都非常重要

德国神经退行性疾病中心(German Center for Neurodegenerative Diseases,DZNE)的研究人员受到新兴生物医学问题的启发,提出了一种深度神经架构,用于学习变量之间的因果关系,这个架构结合了高维数据和先验因果知识

该团队将卷积神经网络和图神经网络结合在因果风险框架内,提供了一种在高维、噪声和数据限制条件下明显有效的方法,这些条件是许多应用(包括大规模生物学)的特征。

在研究中,研究人员发现所提出的方法能够有效地识别数千个变量中的新因果关系。研究结果包括广泛的模拟实验(包括线性和非线性模拟),其中基本事实是已知的并且可以直接进行比较,以及真实的生物学示例,其中模型应用于高维分子数据,并将其输出与完全看不见的验证实验进行比较。这些结果支持了深度学习方法可用于大规模学习因果网络的观点

该研究以「Deep learning of causal structures in high dimensions under data limitations」为题,于 2023 年 10 月 26 日发布在《Nature Machine Intelligence》。

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

在人工智能(AI)研究中,因果关系仍然是一个重要的开放领域。许多科学领域都需要识别变量之间的因果关系。在学习因果结构方面,已经有了许多丰富的工作,包括PC、LiNGAM、IDA、GIES、RFCI、ICP和MRCL等方法

通过将因果结构学习重新表述为连续优化问题,促进了将因果结构学习扩展到更大的问题,并且最近的神经方法(例如 SDI、DCDI、DCD-FG 和 ENCO)已经展示了最先进的性能。

尽管如此,学习因果结构仍然是非常关键的,尤其是在应对许多现实世界问题时。例如,面对高维度、有限的数据大小和隐藏变量等条件,我们仍然需要从数据中学习因果结构,虽然这可能带来一些挑战

在生物医学中,代表基因或蛋白质等实体之间相互作用的因果网络发挥着核心概念和实践作用。人们越来越多地认识到这种网络是依赖于环境的,并且被认为是疾病异质性和治疗反应变化的基础。

表征这种异质性的一个关键瓶颈在于大规模学习因果结构的挑战性,因为一般的方法论问题以及生物领域的相关方面,例如高维度、复杂的潜在事件、隐藏/未测量变量、有限数据和噪音水平的存在。

在最新的研究中,DZNE 的研究人员提出了一种因果学习的深层架构,该架构特别受高维生物医学问题的推动。该方法在新兴的因果风险范式中运作,使研究人员能够利用人工智能工具并扩展到涉及数千个变量的非常高维度的问题。

重写后的内容:学习者希望能够整合有关因果关系子集的部分知识,并且进一步探索超越已知知识的范围,以了解所有变量之间的关系。这种情况常见于科学研究,研究者在开始时可能已经获得了一些先验知识(来自之前的实验或科学背景),但他们希望通过学习涵盖所有可用变量的模型来拓展已知知识

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

图示:新的学习方案概念概述及其在大规模生物实验中的应用。(来源:论文)

大部分有关因果结构的学术文献都涉及学习模型。这些模型能够明确描述相关数据的生成模型,包括观察分布和干预分布,并且在这个意义上是“生成的”。最近的一系列研究采用了不同的方法,考虑了变量之间因果关系的学习指标,这可以被看作与因果风险的概念相关。举例来说,这样的指标可以编码变量A对B是否有因果影响,变量B对A是否有因果影响,或者两者都没有

DZNE 团队提出的方法称为「深度判别因果学习」(deep discriminative causal learning,D2CL),属于后一种风格。该团队考虑因果结构学习问题的一个版本,其中期望的输出由观察变量之间因果关系的二元指标组成,即具有用变量标识的节点的有向图。可用的多元数据 X 被转换以向神经网络 (NN) 提供输入,其输出是因果指标的估计。D2CL 在底层框架(基于因果风险而不是生成因果模型)和利用神经网络方面都不同于经典的因果结构学习方法。

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

图示:D2CL 架构、训练和推理概述。(来源:论文)

该方法的假设本质上也不同于经典因果结构学习中的假设,并且涉及数据生成过程(方法)中的更高级别的规律性。最近的许多研究也利用神经方法来学习因果结构,并引入基于有向无环图(DAG)框架的连续优化框架的基础。

相比之下,D2CL 使用不基于 DAG 的基于风险的方法。DZNE 团队利用因果风险的概念来提出新的学习者。与 D2CL 一样,近期其他团队提出的 CSIvA 方法寻求将输入数据直接映射到图形输出。

从某种意义上说,这两种方法都追求数据输入到图形输出的「直接」映射,关键区别在于 CSIvA 使用元学习并寻求跨系统泛化,而 D2CL 使用监督学习来推广给定系统的新干预措施 (例如,感兴趣的生物系统)。

未来工作的一个重要方向可能是结合这两种方法,例如使用 CSIvA 为 D2CL 提供初始输入;这将结合一般的、基于模拟的学习和数据高效、针对特定系统的训练。

研究人员证明,特定情境的训练使 D2CL 能够成功学习一系列场景中的结构,包括具有挑战性的现实世界实验数据。此外,D2CL 显然可以扩展到大量变量(该团队展示了高达 p = 50,000 个节点的示例),并且适用于无法使用非常大的样本数据或强大的模拟引擎的情况。

新标题:德国DZNE团队提出一种深度神经架构,能够在有数据限制的情况下训练高维因果结构

图示:大规模模拟数据的结果。(来源:论文)

目前,对于该研究中方法的理论特性仍然缺乏严格的理解。未来理论工作的一个重要方向是要了解底层系统的精确条件,以确保直接映射方法能够有效地恢复特定的因果结构

一个有趣的现象是,所提出的方法可能会受益于「维度的祝福」,因为随着维度 p 的增长,学习问题通常会享受到更多的例子。相反,与已建立的统计因果模型相反,DZNE 团队的方法(在当前阶段)不能在小 p 体系中使用,因为示例的数量对于深度学习来说太少了。

论文链接:https://www.nature.com/articles/s42256-023-00744-z

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
业界资讯 深度学习 理论
相关文章 更多
精品专题 更多
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

Mac软件 更多
WPS Office macOS版
WPS Office macOS版

WPS Office是一款面向macOS用户的综合办公套件,将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式,支持Intel及Apple芯片Mac,基础功能可免费使用,

Shapr3D macOS版
Shapr3D macOS版

Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核,支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换,并可通过账户在多台设备之间同步项目。

REAPER macOS版
REAPER macOS版

REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

Ableton Live macOS版
Ableton Live macOS版

Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站,提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片,并可连接音频接口、MIDI控制器和第三方插件。

Adobe After Effects macOS版
Adobe After Effects macOS版

Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具,并可与 Premiere Pro、Photoshop、Illustrator

Adobe Audition macOS版
Adobe Audition macOS版

Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站,提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具,并可与 Adobe Premiere 协同完成视频声音制作。

Adobe Bridge macOS版
Adobe Bridge macOS版

Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具,可集中预览照片、视频和 Adobe 项目文件,并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera

Adobe Illustrator macOS版
Adobe Illustrator macOS版

Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件,适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形,并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。

Adobe InDesign macOS版
Adobe InDesign macOS版

Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件,可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。

Adobe Lightroom Classic macOS版
Adobe Lightroom Classic macOS版

Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件,可将原始照片保存在本地硬盘,通过目录、关键词、评分和收藏夹高效整理图库,并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。

Adobe Media Encoder macOS版
Adobe Media Encoder macOS版

Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具,可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出,并与 Premiere Pro、After Effects 等软件紧密协作。

Adobe Photoshop macOS版
Adobe Photoshop macOS版

Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件,提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。

WINDOWS 更多
AutoCAD Windows版
AutoCAD Windows版

AutoCAD 是 Autodesk 推出的专业计算机辅助设计软件,Windows 版支持精确二维绘图、三维实体与曲面建模、图纸标注、布局发布和任务自动化,并包含多套行业专业化工具组合,适用于建筑、机械、电气、工程建设及制造设计人员。

SketchUp Pro Windows版
SketchUp Pro Windows版

SketchUp Pro 是面向建筑、室内、景观、施工和产品设计等专业场景的三维建模工具,提供桌面建模、LayOut 二维文档、模型资源库、扩展程序及云端协作能力。其操作逻辑直观,适合从概念推敲、空间规划到图纸表达和方案汇报的完整工作流程。

AutoCAD LT Windows版
AutoCAD LT Windows版

AutoCAD LT 是 Autodesk 推出的专业二维 CAD 软件,适合建筑师、工程师、施工人员和设计师完成精确绘图、标注及文档编制。它支持 DWG 工作流、智能块、图形比较、计数、表格和 AutoLISP 自动化,

Rhino 3D Windows版
Rhino 3D Windows版

Rhino 3D 是 McNeel 推出的专业三维建模工具,可创建、编辑和分析 NURBS 曲线曲面、实体、网格、SubD 与点云。Windows 版支持精确造型、工程制图、渲染、文件转换及 Grasshopper 参数化设计,

Autodesk Fusion Windows版
Autodesk Fusion Windows版

Autodesk Fusion 是面向产品设计与制造的云连接开发平台,在统一环境中整合三维 CAD、CAM、CAE、PCB、工程图、数据管理和团队协作功能,适合产品设计师、机械工程师、电子工程师及加工制造团队完成从概念建模、验证分析到生产交

Archicad Windows版
Archicad Windows版

Archicad 是 Graphisoft 面向建筑师、设计师、工程师及 BIM 团队开发的建筑信息模型平台。它把三维建筑建模、施工文档、数据管理、专业协调、实时协作和可视化集中在统一项目环境中,适合从概念方案到施工交付的完整建筑设计流程。

Vectorworks Architect Windows版
Vectorworks Architect Windows版

Vectorworks Architect 是面向建筑师、室内设计师和建筑顾问的综合设计与BIM平台,覆盖概念草图、二维制图、三维建模、施工文档、数据报表、可视化及开放式协作。它强调自由造型与数据化建筑对象并存,

Shapr3D Windows版
Shapr3D Windows版

Shapr3D 是一款基于 Siemens Parasolid 几何内核的专业三维CAD软件,可在 Windows 电脑和平板设备上完成草图绘制、实体建模、参数化修改、模型可视化及技术图纸制作。软件提供免费基础方案,

FreeCAD Windows版
FreeCAD Windows版

FreeCAD 是面向机械设计、产品开发、建筑建模和创客项目的免费开源参数化三维 CAD 工具。它可在 Windows 上完成约束草图、实体零件、装配、工程图、BIM、有限元分析及 CAM 等任务,

Twinmotion Windows版
Twinmotion Windows版

Twinmotion 是 Epic Games 推出的实时三维可视化工具,可导入常见 CAD、BIM 与三维模型,通过材质、环境、植被、灯光及动画资源快速构建场景,并输出图片、视频、全景图和交互演示。

BricsCAD Windows版
BricsCAD Windows版

BricsCAD 是以 DWG 为核心格式的专业 CAD 平台,可用于二维制图、三维建模、工程文档与设计协作。产品按 Lite、Pro、BIM、Mechanical 和 Ultimate 等层级提供不同工具,

Ableton Live Windows版
Ableton Live Windows版

Ableton Live 是面向音乐创作、录音、编曲、声音设计、混音与现场演出的数字音频工作站。它将适合即兴触发素材的 Session 视图与传统时间线编曲结合,并提供音频变速、MIDI工具、软件乐器、效果器和声音资源,