MIT研究人员创新地将Transformer与图神经网络相融合，实现了全新蛋白质设计
Air Explorer Pro是一款跨平台多网盘管理工具，可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
蛋白质凭借其复杂的排列和动态功能，通过采用简单构建块的独特排列（其中几何形状是关键）来执行各种生物任务。将这个几乎无限的排列库转化为具有特定功能的蛋白质，可以方便研究人员设计定制蛋白质，用于特定的应用麻省理工学院（MIT）的MarkusBuehler提出了一种新的深度学习策略，该策略基于语言模型并结合了Transformer和图神经网络，旨在更好地理解和设计蛋白质Buehler表示，通过这种新方法，我们可以对基本原理进行建模，并利用大自然创造的一切作为知识基础。他指出，这个模型重新组合了自然构建块，以实现
蛋白质凭借其复杂的排列和动态功能，通过采用简单构建块的独特排列（其中几何形状是关键）来执行各种生物任务。将这个几乎无限的排列库转化为具有特定功能的蛋白质，可以方便研究人员设计定制蛋白质，用于特定的应用
麻省理工学院（MIT）的 Markus Buehler 提出了一种新的深度学习策略，该策略基于语言模型并结合了Transformer和图神经网络，旨在更好地理解和设计蛋白质
Buehler表示，通过这种新方法，我们可以对基本原理进行建模，并利用大自然创造的一切作为知识基础。他指出，这个模型重新组合了自然构建块，以实现新功能并解决相关任务
这个模型被用来预测二级结构含量（每个残基水平和总体含量）、蛋白质溶解度和测序任务。通过进一步的逆向任务训练，该模型可以设计具有这些特性作为目标特征的蛋白质。这个模型被设计成一个通用框架，完全基于提示，并且可以适应各种下游任务
该研究于2023年8月29日在《应用物理学杂志》上发表，题为「应用生成预训练自回归变压器图神经网络分析和发现新蛋白质」
多尺度建模为分层生物材料的分析和设计提供了强大的基础。特别关注构成众多生物和生物衍生材料基础的蛋白质材料。在该分析领域，使用机器学习和相关方法的数据驱动建模已成为一种强大的策略，其中包括分析任务（例如从序列预测属性）和逆向设计任务（设计蛋白质或其他生物材料以满足一组目标特性）。
生成生物材料科学是材料发现的新兴前沿，已应用于蛋白质、有机分子、无机物（包括药物设计）、生物活性材料和建筑材料等。最近，语言模型的使用促进了生物蛋白质材料多尺度建模的发展
开发了一种深度语言模型，可以解决正向和逆向蛋白质建模问题。这项研究成果来源于一篇论文
麻省理工学院的研究人员开发了一种灵活的基于语言模型的深度学习策略，用于解决蛋白质建模中的复杂正向和逆向问题。他们将注意力神经网络、Transformer和图卷积架构集成到因果多头图机制中，创建了生成预训练模型MaterioFormer。该模型能够在端到端的序列到特性预测范围内分析蛋白质序列，并生成分子蛋白质结构以满足各种目标特性，所有这些功能都集成在一个模型中
该团队证明了生成语言方法对于蛋白质材料的发现和设计提供了一个灵活的平台。研究人员可以轻松地将这些模型整合到各种应用程序中，解决多个复杂的任务
MaterioFormer 模型概述：这是一种基于文本提示输入构建的自回归变换图卷积模型，适用于各种任务。（来源：论文）
虽然该模型总体上很好地解决了多个任务，但使用一次专注于一项任务的专用模型仍然有一定的优势（例如，序列到属性的预测或使用扩散模型的生成任务）。例如，在创建满足特定每个残基二级结构的蛋白质序列的设计任务中，MaterioFormer 有时无法准确反映预测中所需的长度。当从输入蛋白质序列进行二级结构预测时，会看到类似的情况。
相比之下，仅针对一项生成任务训练的扩散模型在序列长度方面可以更准确地解决该问题。值得关注的是，已有的从整体二级结构内容生成序列的模型，很难识别新的蛋白质设计，而 MaterioFormer 可以非常好地解决这项任务，具有非常高程度的新颖蛋白质序列设计。
MaterioFormer 模型的一个吸引人的方面是其灵活的迭代工作流程，可以融合人类智能和人工智能。用户可以输入提示，进行蛋白质设计，并检查其是否符合设计标准（如果不符合，则重新采样或调整设计参数），然后将输出用于辅助任务。这种迭代过程还可以轻松结合自主实验，为数据生成、收集和进一步训练模型提供额外来源
根据论文提供的示例，我们展示了如何根据给定的二级结构内容比例生成新的蛋白质
从更理论的角度来看，这里解决的问题是一个复杂的拼图问题——拼图不仅是氨基酸残基、二级结构，而且是组合这些众多组合空间的数字和各种任务。值得注意的是，这里使用的策略学习了基础和可转移的见解。这产生了大量的条件蛋白质设计以及正向和反向任务解决方案。通过更多的数据，预计可以捕获高度复杂的现象
虽然二级结构预测通常很好，尤其是总体二级结构比率，但与专用溶解度模型相比，溶解度预测的准确性仍然相对较低。然而，对于 <64 个残基的短序列，准确率达到 0.77。这项任务仅在一小部分~4,000个序列溶解度对（蛋白质长度<128）上进行训练（相对于整个序列数据集中的 40 000 个序列，所有长度高达~1700）。通过更深的模型和更多的预训练，对于长达 512 个氨基酸的序列，溶解度准确度高达 78%，显示出这里开发的方法在扩展可用性、准确性和通用性方面的巨大潜力。未来的工作可以扩展模型的训练任务，从而考虑更长序列的任务和预测。
重写后的内容：这个训练策略采用基于文本的提示，非常灵活，可以轻松适应各种任务。此外，由于团队训练和预测时将数字编码为文本，研究人员无需专门对数值进行编码。这对任务和预测的开发都有帮助，并且允许在架构中封装高维数据。还有机会引入交叉注意力机制，从而更复杂地合并注意力层和图层中处理的信息
未来的探索可以在正向和反向方向上纳入额外的预测任务，并扩展训练集以纳入更多序列（例如，在预训练阶段）。探索与不同生物分子（例如 mRNA 或 DNA）的相互作用也很有趣，由于灵活的字节级分词器，这些分子可以添加到任务训练中。
此类训练任务可能还会面临多尺度问题，例如不仅编码蛋白质或生物分子的结构，还编码其他特征，如相对浓度、pH值或盐浓度等。这将最终用于构建多模态多尺度模型，该模型可以将从不同的模拟和实验范式中获得的知识融入到从预训练到任务训练的所有阶段
这项研究采用了多尺度方案，以捕获物质的基本构建块与其属性之间复杂的新关系。因此，该研究提供了一种协同学习的能力，可以表达嵌入基础知识中的一组潜力，用于训练模型以利用未知或鲜为人知的交叉关系。从机制上来说，采用一组以复杂分层模式排列的通用构建块来创建紧急功能的方法的基本设计促进了这一点
「一个很大的惊喜是，尽管该模型是为了能够解决多个任务而开发的，但它的表现却异常出色。这可能是因为该模型通过考虑不同的任务学到了更多东西。」他说，「这一变化意味着，研究人员现在可以广泛地思考多任务和多模式模型，而不是为特定任务创建专门的模型。」
尽管我们目前的重点是蛋白质，但这种方法在材料科学中具有巨大的潜力。Buehler表示，我们特别热衷于探索材料失效行为，旨在设计具有特定失效模式的材料
论文链接：https://pubs.aip.org/aip/jap/article/134/8/084902/2908328/生成预训练自回归变换器
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
Beamer 4是面向macOS的本地视频投屏工具，可将Mac中的影片投放到Apple TV、Chromecast及兼容设备，支持常见格式、多类字幕、环绕声、播放列表和电视遥控操作。
Boom 3D macOS版是一款系统级音效增强工具，可为音乐、电影、游戏和流媒体提供3D虚拟环绕声、31段均衡器、音量增强及应用独立音量控制，并支持本地播放器与多种音频输出设备。
Boris FX macOS版是一套面向剪辑、合成、调色及动态图形工作的专业后期工具，涵盖视觉特效、平面与三维跟踪、转描、画面修复、粒子动画和音频清理，可配合多种主流宿主软件使用。
Capto 是面向 macOS 的屏幕截图、高清录屏与媒体编辑工具，支持区域及整屏捕获、网页长截图、双音轨处理、图片和视频标注、素材分类与多渠道分享，适合教师、学生、内容创作者及需要制作演示教程的用户。
Cursor Crane 是一款仅面向 macOS 的键盘操控效率工具，可通过提示标签、网格、文字查找和窗口模式完成点击、滚动、定位与切换，并支持屏幕内容提取、脚本及工作流扩展。
Deep Freeze 冰点还原 macOS版通过冻结系统配置，让受保护的Mac在重新启动后回到预设状态，并提供解冻空间、维护计划、密码保护及Apple Remote Desktop管理能力。
Focusky macOS版是一款面向教学课件、商务汇报、产品展示和动画宣传内容的演示制作工具。它通过无限画布、路径编排、缩放旋转转场及多媒体编辑，将传统逐页幻灯片转化为更具空间感的动态演示。
Folder Colorizer 2 macOS版是一款直观的文件夹外观定制工具，可更换颜色，添加表情、贴纸及图片背景，并支持批量处理、智能推荐和恢复默认样式，帮助用户更快辨认工作、学习与生活资料。
AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端，适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端，并可同时接收和智能排列多个镜像会话。
AlwaysUp是一款面向Windows的系统服务注册与程序托管工具，可让普通应用、脚本及批处理在无人登录时随系统启动，并通过状态检测、异常重启、资源监控和邮件通知保障关键任务持续运行。
AnyDesk Windows版是一款轻量化远程桌面与技术支持工具，可用于控制异地电脑、传输文件、远程打印及无人值守访问。它兼顾连接响应、安全权限和部署灵活性，适合个人远程办公、企业设备维护与客服支持。
Boom 3D Windows版是一款面向音乐、电影和游戏场景的系统级音效增强工具，支持虚拟3D环绕声、31段均衡器、预设音效、应用音量控制及本地音乐播放，可配合耳机、扬声器和蓝牙耳机使用。
Boris FX Windows版是一套服务于影视剪辑、视觉特效、运动跟踪、转描、图像修饰及音频修复的专业创作工具集合，可作为插件接入多种主流后期宿主，也包含可独立运行的应用，适合剪辑师、特效师与内容创作者使用。
ChemDraw Windows版是一款面向化学研究、药物研发、材料科学和教学工作的专业结构绘图工具，可快速绘制分子、反应式及生物聚合物，并提供结构整理、格式转换、性质计算和科研文档协作能力。
CODESOFT Windows版是一套企业级条码与RFID标签设计打印工具，可连接Excel、Access、SQL及云端数据源，支持变量、表单、GS1条码、数据库记录和多种工业打印机，适合制造、仓储、物流及合规标识场景。
Deep Freeze 冰点还原 Windows版通过重启恢复技术保护系统盘及指定分区，自动撤销恶意程序、误操作和配置漂移造成的改动，并支持密码保护、解冻空间与多硬盘管理，适合学校机房、公共电脑、办公终端及家庭电脑使用。
EDIUS 11 Windows版是一款面向影视制作、广播电视、纪录片、短视频及教育机构的专业非线性编辑工具，支持4K/8K、多格式混编、HDR调色、字幕、音频处理和后台渲染，并提供素材管理及丰富的导出预设。
FastStone Capture Windows版是一款轻量级屏幕捕捉、录屏与图像编辑工具，可截取窗口、区域、菜单和滚动页面，并提供标注、模糊、取色、OCR、录音录像及多格式导出能力，适合办公说明、教程制作和问题反馈。
Focusky Windows版是一款动画演示与交互课件制作工具，通过无限画布、缩放旋转镜头、模板素材和对象动画组织内容，可导入PPTX，并输出视频、EXE、PDF、网页等格式，适用于课堂教学、微课、商务汇报及产品展示。