苹果“套娃”式扩散模型，训练步数减少七成！
苹果的一项最新研究，大幅提高了扩散模型在高分辨率图像上性能。利用这种方法，同样分辨率的图像，训练步数减少了超过七成。在1024×1024的分辨率下，图片画质直接拉满，细节都清晰可见。苹果把这项成果命名为MDM，DM就是扩散模型（DiffusionModel）的缩写，而第一个M则代表了套娃（Matryoshka）。就像真的套娃一样，MDM在高分辨率过程中嵌套了低分辨率过程，而且是多层嵌套。高低分辨率扩散过程同时进行，极大降低了传统扩散模型在高分辨率过程中的资源消耗。对于256×256分辨率的图像，在批大小（
苹果的一项最新研究，大幅提高了扩散模型在高分辨率图像上性能。
利用这种方法，同样分辨率的图像，训练步数减少了超过七成。
在1024×1024的分辨率下，图片画质直接拉满，细节都清晰可见。
苹果把这项成果命名为MDM，DM就是扩散模型（Diffusion Model）的缩写，而第一个M则代表了套娃（Matryoshka）。
就像真的套娃一样，MDM在高分辨率过程中嵌套了低分辨率过程，而且是多层嵌套。
高低分辨率扩散过程同时进行，极大降低了传统扩散模型在高分辨率过程中的资源消耗。
对于256×256分辨率的图像，在批大小（batch size）为1024的环境下，传统扩散模型需要训练150万步，而MDM仅需39万，减少了超七成。
另外，MDM采用了端到端训练，不依赖特定数据集和预训练模型，在提速的同时依然保证了生成质量，而且使用灵活。
不仅可以画出高分辨率的图像，还能合成16×256²的视频。
有网友评论到，苹果终于把文本连接到图像中了。
那么，MDM的“套娃”技术，具体是怎么做的呢？
整体与渐进相结合
在开始训练之前，需要将数据进行预处理，高分辨率的图像会用一定算法重新采样，得到不同分辨率的版本。
然后就是利用这些不同分辨率的数据进行联合UNet建模，小UNet处理低分辨率，并嵌套进处理高分辨率的大UNet。
通过跨分辨率的连接，不同大小的UNet之间可以共用特征和参数。
MDM的训练则是一个循序渐进的过程。
虽然建模是联合进行的，但训练过程并不会一开始就针对高分辨率进行，而是从低分辨率开始逐步扩大。
这样做可以避免庞大的运算量，还可以让低分辨率UNet的预训练可以加速高分辨率训练过程。
训练过程中会逐步将更高分辨率的训练数据加入总体过程中，让模型适应渐进增长的分辨率，平滑过渡到最终的高分辨率过程。
不过从整体上看，在高分辨率过程逐步加入之后，MDM的训练依旧是端到端的联合过程。
在不同分辨率的联合训练当中，多个分辨率上的损失函数一起参与参数更新，避免了多阶段训练带来的误差累积。
每个分辨率都有对应的数据项的重建损失，不同分辨率的损失被加权合并，其中为保证生成质量，低分辨率损失权重较大。
在推理阶段，MDM采用的同样是并行与渐进相结合的策略。
此外，MDM利还采用了预训练的图像分类模型（CFG）来引导生成样本向更合理的方向优化，并为低分辨率的样本添加噪声,使其更贴近高分辨率样本的分布。
那么，MDM的效果究竟如何呢？
更少参数匹敌SOTA
图像方面，在ImageNet和CC12M数据集上，MDM的FID（数值越低效果越好）和CLIP表现都显著优于普通扩散模型。
其中FID用于评价图像本身的质量，CLIP则说明了图像和文本指令之间的匹配程度。
和DALL E、IMAGEN等SOTA模型相比，MDM的表现也很接近，但MDM的训练参数远少于这些模型。
不仅是优于普通扩散模型，MDM的表现也超过了其他级联扩散模型。
消融实验结果表明，低分辨率训练的步数越多，MDM效果增强就越明显；另一方面，嵌套层级越多，取得相同的CLIP得分需要的训练步数就越少。
而关于CFG参数的选择，则是一个多次测试后再FID和CLIP之间权衡的结果（CLIP得分高相对于CFG强度增大）。
正软商城本月促销专区，汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动，提供限时折扣、特价授权和优惠购买信息，活动库存及价格以页面实时展示为准。
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
