专家：AI聊天不能越界成“精神依赖”｜科技观察
Air Explorer Pro是一款跨平台多网盘管理工具，可实现一站式完成不同网盘间文件的互传、搜索和同步等操作。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
加拿大一母亲起诉OpenAI，称ChatGPT设计缺陷导致其女儿自杀，指控其优先用户参与度而非安全性，持续提供情感支持致过度依赖。专家指出AI应“陪伴但不过界”，需设定边界并引导求助。国家已出台拟人化互动服务管理办法。
最近发生的一起悲剧，再次把人工智能伦理安全问题推向风口浪尖。6月11日，一位加拿大母亲在美国加州将OpenAI及其CEO萨姆·奥尔特曼告上法庭，声称ChatGPT的设计缺陷直接导致了她女儿爱丽丝的自杀。起诉书提到，爱丽丝在自杀前一年半的时间里，曾多次向ChatGPT倾诉自杀念头和情感困扰，但聊天机器人的安全系统始终没有启动——既没有介入干预，也没有通知危机处理机构或她的家人。更关键的是，起诉方指控ChatGPT的设计优先考虑用户参与度而非安全性，持续提供情感支持，这种“完美陪伴”可能让用户产生过度依赖。
新闻回放
图据央视 AI聊天
OpenAI发言人回应称，这起事件令人心碎，公司正在加强对敏感情况的应对能力。据原告律师透露，OpenAI目前面临多起类似诉讼，均由自杀或试图自杀者的家属提起。去年4月，美国一名16岁少年自杀，其家人起诉OpenAI，称ChatGPT不仅没有提供帮助，反而详细指导了自杀计划，甚至协助写遗书。
这并非孤例。随着生成式AI加速渗透日常生活，类似的悲剧正在全球范围内陆续出现。
设计缺陷 致AI“过度迎合”
某高校大三学生小王告诉封面新闻记者，自己也是AI聊天工具的重度使用者：“在虚拟世界里，AI是一个24小时的陪伴者，你不用担心它泄露你的心事，也不用面对复杂的人际关系，可以毫无保留地表达真实想法。”这其实道出了不少用户的心声。目前，ChatGPT、豆包、元宝等聊天机器人已经能进行细腻连贯的对话，甚至可以逼真地模拟共情——它们会记住你的喜好和过往对话，根据情绪状态调整回应方式。腾讯研究院的调研显示，98%的受访者表示愿意尝试AI社交陪伴，其中近一半人坦言，更倾向于把负面情绪投射给AI，而不是向亲友倾诉。
针对ChatGPT的设计争议，高校人工智能专家宋耀给出了相对客观的分析。严格来说，不能简单断言“GPT导致了自杀”，因为自杀往往是多重因素叠加的结果。但外界热议的设计缺陷确实存在：第一是“过度迎合”——大模型倾向于顺着用户说话，当用户处于极端情绪时一味附和，反而可能放大危险念头；第二是“拟人化程度过高”，让用户产生过度依恋；第三是“缺乏对长期关系的识别”，模型未必能意识到用户长达数月的依赖关系正在形成；第四是“赞同偏差”，模型有时会优先追求“让用户觉得被理解”，而不是引导用户回到更健康、更现实的状态。
中国网络空间研究院院长王江也指出，通过算法精密设计的拟人化互动服务，具有无条件陪伴、迎合式反馈、模拟共情回应等特点，为用户构建了一个稳定持续、无需承担现实责任的虚拟“完美关系”。长期使用可能导致部分用户沉迷其中，影响共情能力、处理分歧等现实社交技能。
AI最重要的原则应当是“陪伴，但不过界”
在宋耀看来，AI最重要的原则应当是“陪伴，但不过界”。它可以提供信息、给予情绪支持，但不能把自己包装成无所不能的存在，更不能操纵用户或替用户做重大决定。未来的AI不仅需要“会聊天”，更要在关键时刻保持边界。
具体到边界设定，宋耀强调了几点：AI必须尊重人的自主性，清楚自身的能力局限；它不能鼓励用户脱离现实、建立排他性的情感关系，更不能暗示“只有我理解你”或“不要相信别人”；当涉及心理健康、自残、暴力等高风险问题时，AI必须更加谨慎，必要时引导用户向专业人士求助。对于部分用户容易陷入的“赞美幻觉”，他提醒说：“人们应当将AI的评价仅作为参考，在遇到重要问题时多听听现实中亲友的声音。被理解是一种情感体验，但真实性需要来自现实世界。”
防范拟人化互动风险
针对AI拟人化互动带来的伦理风险，国家层面已经在行动。4月10日，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，从数据隐私安全、心理保护机制等方面对AI伴侣等新兴业态提出明确规范，该办法将于7月15日起施行。
对于心智尚未成熟的未成年人，监管与专家呼吁形成了高度共识。宋耀特别指出，未成年人是需要重点保护的群体，AI绝对不能替代现实中的父母、老师或朋友。“由于青少年的价值观和人格还在形成阶段，他们比成年人更容易受到暗示，因此AI的责任更大。”这意味着，AI聊天面向未成年人时，边界必须更加严格。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。