展开菜单
首页 精品内容 本月促销 装机必备 Windows macOS软件 IOS软件 Android AI PDF教程 专题
全部分类

当前位置:

首页 > 硬件相关 > 实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

AI玩具正迎来严监管。 风向变了。近日,国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》。这份即将在2026年7月15日施行的文件,为AI拟人化服务划下了清晰的“红线”:明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。同时规定,向不满十四周岁未成年人提供其他拟人化互动服

AI玩具正迎来严监管。

实探AI玩具市场:防沉迷设置严重“缺位”,专家建议提升算法透明度

风向变了。近日,国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》。这份即将在2026年7月15日施行的文件,为AI拟人化服务划下了清晰的“红线”:明确禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。同时规定,向不满十四周岁未成年人提供其他拟人化互动服务的,必须事先取得监护人的同意。

这还只是开始。办法进一步细化了针对未成年人的保护措施,要求服务提供者必须建立“未成年人模式”。这个模式可不是摆设,它需要包含模式切换、定期现实提醒、使用时长限制等一系列个性化安全设置。更重要的是,它必须支持监护人接收风险提醒、了解使用概况,甚至能屏蔽特定角色、限制充值消费。说白了,就是给AI玩具套上防沉迷的“紧箍咒”,并赋予家长实实在在的监督权。

然而,规定是规定,市场的现状又如何呢?记者近期分别走访了上海线下玩具市场和线上主流销售平台,发现了一个颇为严峻的现实:绝大多数面向孩子的AI玩具,其防沉迷管控和家长监督功能,几乎处于“缺位”状态。

具体来看,问题主要集中在两方面。首先,市面上多数AI玩具压根没有硬性的使用时长限制功能,顶多依靠内嵌的大模型发出一些“使用时间过长”的“软性”通知,效果可想而知。其次,所谓的“家长阅知功能”更是稀缺。这意味着,除非家长全程守在旁边,否则根本无法了解孩子与AI的互动内容、潜在风险和使用情况。虽然部分产品提供了用户日志供查阅,但这远未成为行业标配。

多数AI玩具暂无防沉迷等设置

在上海杨浦一家大型玩具店内,工作人员热情推荐了畅销款AI玩具“贝贝”。这款巴掌大小、形似猫头的玩具,通过尾巴唤醒,能实现流畅对话、情感互动,号称拥有自主记忆,适合三岁以上儿童。但当被问及防沉迷和家长监督功能时,答案却很直接:没有。孩子玩多久,家长无法远程查看或干预。

线上渠道的情况也大同小异。在该产品的电商旗舰店,客服的答复与线下一致:产品不具备防沉迷功能,家长也无法在线查看使用情况。

另一家玩具店主推的“养成系AI”玩具,主打长期记忆和启蒙教育,同样适用于三岁以上儿童。无论是线上客服还是线下门店,给出的回答都很明确:没有防沉迷提示、没有使用时间限制、也没有家长阅知功能。

当然,市场上也并非全是“裸奔”的产品。在一家中高端AI玩具品牌的线上旗舰店,客服推荐的新款小熊外形玩具就配备了“成长守护日志”功能。家长可以通过手机查看每日使用情况、月度统计报告,并能提前设置允许使用的时段和时长,实现了基础的防沉迷管控。

另一家定价较高的品牌,其今年三月上市的兔头外形AI玩具也提供了“成长记录”功能,允许家长通过小程序查阅对话记录和使用时间。不过,颇具意味的是,该店客服同时强调:AI玩具目前不需要设置防沉迷。这种认知上的矛盾,恰恰反映了行业现状的混乱。

专家:企业应提升算法设计透明度

近年来,AI应用飞速普及,不少产品精准捕捉到未成年人对情感陪伴的需求,推出了各种“有求必应”的虚拟伙伴。这类产品在提供慰藉的同时,也暗藏风险:过度沉溺于虚拟社交,不仅会挤占学习时间、影响现实交往能力,更可能扭曲孩子的自我认知,削弱他们未来应对真实世界挑战的韧性。正因如此,针对AI陪伴产品的监管正在持续加码。

面对这一新兴领域的治理难题,知名商业顾问、亚太社会创新研究院院长霍虹屹在接受证券时报记者采访时指出,AI玩具的监管亟需一套专门且分层的体系。他将其概括为三个关键层次。

首要一层,是内容安全的底线监管。AI大模型的输出具有不可预测性,如果没有针对儿童场景进行专门的训练和内容过滤,很可能吐出“毒苹果”。因此,他建议监管层应强制要求儿童AI产品进行专项内容安全测评和备案,建立类似食品安全的准入机制,不合格者禁止上市。

第二层,是数据隐私的强制保护。霍虹屹提醒,AI玩具在与孩子互动过程中,会持续采集海量的语音、行为甚至情感数据。这些敏感信息必须被严格保护。可以参照欧盟《通用数据保护条例》中的儿童专项条款,明确禁止将儿童数据用于商业画像、出售给第三方,并赋予家长随时申请删除数据的权利。

第三层,也是最具挑战性的一层,是算法推荐的透明度要求。“这里有个必须直面的问题,”霍虹屹表示,“AI玩具的算法,会不会为了提升用户黏性,而刻意设计成让人上瘾?会不会利用情感操控来增加孩子的依赖?”他呼吁,监管层应当要求企业公开基本的算法设计原则,明确禁止以“最大化用户使用时长”为核心优化目标的算法逻辑。这类似于游戏防沉迷系统,但需要更精细化的设计,因为AI的互动更为隐蔽和深入。

值得注意的是,本次出台的《办法》也呼应了这些关切,明确要求服务提供者必须具备过度依赖风险预警、情感边界引导等安全能力,并严禁将“控制用户心理、诱导沉迷依赖”作为服务目标。

除了保护未成年人,办法也对所有用户提出了防沉迷要求:当系统发现用户出现过度依赖倾向时,需以弹窗等方式动态提醒其为AI服务;用户连续使用每超过2小时,也必须通过对话或弹窗进行时长提醒。

责编:叶舒筠

校对:杨舒欣

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
硬件相关
相关文章 更多
精品专题 更多
本月促销

正软商城本月促销专区,汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动,提供限时折扣、特价授权和优惠购买信息,活动库存及价格以页面实时展示为准。

装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
灵活计算器
灵活计算器

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

图几
图几

图几是一款适用于 macOS 的截图、标注与美化工具,支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑,桌面或窗口内容一多时,管理起来会更省心。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Menuist
Menuist

Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具,主要用来补充新建文件、快捷导航等常用操作,让日常文件管理和访问路径时更高效、更顺手。

Mole
Mole

Mole 是一款专为 Mac 设计的深度清理优化工具,涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

WINDOWS 更多
Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

PinStack
PinStack

PinStack是一款轻量级的Windows平台剪贴板管理工具,优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Seer
Seer

Seer是一款在Win平台下的空格键功能增强效率工具,只需轻敲空格键,就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。