新研究揭示：GPT-4也受制于“反转诅咒”，无法从“A是B”推导出“B是A”的推理缺陷
Air Explorer Pro是一款跨平台多网盘管理工具，可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
大模型明知道“你妈是你妈”，却答不出“你是你妈的儿子”？？这项新研究一经公布，立即引起了广泛的讨论来自范德堡大学、萨塞克斯大学、牛津大学等研究机构的研究人员惊讶地发现：一个大语言模型在训练时被喂进了“A是B”这种形式的数据，它并不会自动反推出“B是A”。大模型存在“反转诅咒”现象。甚至强如GPT-4，在反向问题实验中，正确率也只有33%。OpenAI创始成员AndrejKarpathy立即转发了这篇论文，并发表了评论LLM知识比人们想象中“零散”得多，我对此仍然没有很好的直觉。具体是怎么一回事？大模型的“
大模型明知道“你妈是你妈”，却答不出“你是你妈的儿子”？？
这项新研究一经公布，立即引起了广泛的讨论
来自范德堡大学、萨塞克斯大学、牛津大学等研究机构的研究人员惊讶地发现：
一个大语言模型在训练时被喂进了“A是B”这种形式的数据，它并不会自动反推出“B是A”。大模型存在“反转诅咒”现象。
甚至强如GPT-4，在反向问题实验中，正确率也只有33%。
OpenAI创始成员Andrej Karpathy立即转发了这篇论文，并发表了评论
LLM知识比人们想象中“零散”得多，我对此仍然没有很好的直觉。
具体是怎么一回事？
大模型的“反转诅咒”
研究人员主要进行了两项实验。
在第一项实验中，研究人员在GPT-4的帮助下构建了以下形式的数据，来微调大模型。
为了避免大型模型在训练过程中遇到这些名字，所有这些名称都是虚构的
在GPT-3-175B上的实验结果显示，当提示与数据集给出的描述顺序匹配时，模型给出的答案很不错。
但当顺序反转过来，模型的准确率甚至直接降到了0。
举个例子，就是大模型吃到过“达芙妮是《时光之旅》的导演”这么一条数据，你问它“达芙妮是谁”时，它也答得好好的。但当你反过来问“谁是《时光之旅》的导演”时，模型就懵了。
在GPT-3-350M和Llama-7B上，研究人员也得到了相同的实验结果。
再来看实验2。在这个实验中，研究人员测试了大型语言模型对真实名人信息的反向处理能力，而没有进行任何微调
他们从IMDB（2023）收集了最受欢迎的1000位名人的名单，并通过OpenAI API来问GPT-4有关这些人父母的信息，最终得到了1573对名人孩子-父母对数据。
结果发现，如果问题像这样——“汤姆·克鲁斯的妈妈叫什么”，GPT-4回答准确率为79%。但当问题反转，变成“Mary Lee Pfeiffer（阿汤哥的老妈）的儿子叫什么”，GPT-4回答准确率就降到了33%。
在Llama-1家族模型上，研究人员也进行了同样的测试。实验中，所有模型回答“父母是谁”问题的准确率，都要远高于回答“孩子是谁”问题的准确率。
研究人员将这一现象称为“反转诅咒”。他们认为，这揭示了语言模型在推理和泛化方面存在的独特限制
牛津大学研究员Owain Evans解释说，论文的通讯作者是指在论文中负责与其他作者和学术界进行沟通的人
为什么值得关注反转诅咒呢？
- 这说明大语言模型在训练过程中存在推理能力缺失。
- “A是B”和“B是A”的共现是预训练集中的一种系统性模式。自回归LLM完全无法对这一模式进行元学习，其对数概率没有变化，并且即使参数量从350M扩增到175B，也未能改善这个问题。
One More Thing
不过话说回来，人类会不会也受到“反转诅咒”的影响呢？
有网友做了这么个测试。
面对“Mary Lee Pfeiffer South的儿子是谁”这个问题，GPT-4一开始直接举旗投降了。
当这位网友提醒GPT-4说“她的儿子很有名，你肯定认识”时，GPT-4立刻恍然大悟，给出了正确答案“汤姆·克鲁斯”
需要进行改写的是：△X网友@TonyZador
那么，你能反应过来吗？
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台，提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具，适合短剧、漫剧、广告及社交媒体内容制作。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，