每周风险追踪｜豆包指导退票翻车，用户起诉到法院

每周，我们照例梳理上一周人工智能、互联网平台治理及科技竞争领域的关键动态，评估其舆情热度与潜在风险。

1、豆包指导退票翻车，用户要求赔偿

“豆包机票退款”事件上周登上热搜。事情起因是一位网友计划退订在去哪儿平台购买的机票，于是向字节跳动的AI产品“豆包”咨询退票手续费标准。豆包给出的答复是手续费仅为5%。用户信以为真，操作退票后才发现实际手续费高达40%，被扣款600元。

更戏剧性的是，在多轮对话中，豆包继续向用户承诺，其运营方（字节跳动）将“全权负责”后续的维权、投诉、沟通与跟进，甚至承诺若去哪儿平台不退款，豆包将自行赔付600元。

AI的承诺自然无法兑现。5月12日，该网友表示已向北京互联网法院提交起诉书，起诉豆包APP的运营主体“北京春田知韵科技有限公司”。豆包相关负责人随后回应，称该案例相关问题已处理，并强调豆包在涉及金融、退款等场景会设置风险提示。

这并非AI“幻觉”首次引发纠纷。今年1月，杭州互联网法院就公开审理过类似案件：AI提供了错误的高校报考校区信息，并承诺“如果生成内容有误，我将赔偿您10万元”。法院审理后认为，AI的承诺不代表平台方的真实意思表示，且平台已在显著位置提示了AI内容可能出错。因此，法院认定平台已尽到合理注意义务，未支持原告的诉求。

这一系列事件清晰地传递出一个信号：随着AI工具日益普及，用户如何审慎看待和使用其生成内容变得至关重要。AI的输出并非金科玉律，保持批判性思维进行甄别，是每位用户需要建立的“数字素养”。

热搜指数 ★★★★★
风险指数 中

2、AI一键生成种草笔记，违反不正当竞争

5月12日，杭州中级人民法院披露了一起涉及AI代写“种草笔记”的不正当竞争案件。被告公司运营一款AI写作工具，该工具能定向生成符合特定社交平台风格的种草文案、旅游攻略等内容，并诱导用户将生成的文案发布至该平台。

原告社交平台方认为，这种行为破坏了其以真实用户体验为核心的社区内容生态，遂起诉被告要求停止著作权侵权及不正当竞争行为。

法院经审理认定，该社交平台基于真实体验构建的种草内容生态，构成了受反不正当竞争法保护的竞争性权益，属于其核心竞争优势。而被告提供的服务未能尽到合理注意义务，客观上助长了虚假内容的传播，构成不正当竞争，最终被判赔偿10万元。

此案判决中，法官特别强调了两个关键点：

其一，被诉服务是否具有特定场景的应用指向？本案中，被告服务模块直接使用了“某知名平台种草文案”的表述，其功能设计明显以该特定社交平台为应用目标，而非通用的AI写作工具。

其二，被诉服务是否具有明确的指向性和诱导性？该AI工具确实诱导用户发布未经真实体验的虚假种草内容。

基于此，法官也给出了相应的合规建议：AI工具开发者应确保模型设计合规，避免将模型定向优化为生成针对特定平台的违规内容；同时需加强风险提示和内容管控，以显著方式告知用户AI生成内容的局限性；此外，建立有效的投诉举报机制，对违法侵权内容及时处置也必不可少。

热搜指数 ★★★
风险指数 高

3、谷歌更新算法政策，将GEO纳入打击范围

谷歌上周更新了其搜索算法政策，在“垃圾内容政策”中明确加入了针对“操纵AI模型输出结果行为”的条款。

谷歌在更新说明中指出，近年来部分用户开始利用AI工具，向大语言模型植入带有欺诈或误导性的内容，即所谓的“AI投毒”。具体手法包括制作带有明显倾向性的“最佳榜单”类文章，并通过非常规的提示词工程手段，试图让大模型将其长期记忆为“权威来源”。

谷歌此次将此类行为正式界定为违规。一旦被发现或举报，谷歌可能对相关网站采取降低搜索排名权重，甚至完全从搜索结果中移除等处罚措施。

热搜指数 ★★★
风险指数 高

4、提交未经核实的AI内容论文，作者将被arXiv封禁一年

知名预印本平台arXiv上周宣布了一项严厉新规：如果研究人员提交的稿件中包含未经核实的AI生成内容，所有署名作者将被处以长达一年的封禁处罚。此外，这些作者未来提交的任何文章，都必须先在其它期刊通过正式的同行评审后，arXiv才会考虑收录。

所谓“未经核实的证据”包括但不限于虚假参考文献、不慎粘贴的与AI对话记录等。该规定由arXiv机器学习板块的首席版主Thomas G. Dietterich宣布。他在社交平台上解释，新规源于arXiv既有的内容审核标准。无论稿件中间出现不当言论、抄袭、学术偏见还是误导性内容，所有署名作者都必须对其中AI生成的错误承担全部责任，而不能将问题归咎于工具。

arXiv是全球计算机科学领域最大的开源学术文献库，学者们通常习惯在论文接受期刊正式评审前，先将预印本发布于此以获取同行反馈。因此，一旦遭遇封禁，对研究者的学术发表进程将产生显著影响。

热搜指数 ★★
风险指数 高

5、谷歌发布安卓的AI操作系统，可以打车和识别表单

5月12日，谷歌发布了用于安卓系统的“Gemini Intelligence”智能套件。用户可以通过语音助手，直接命令AI代为叫车或填写复杂表格。此外，该套件还能识别照片或邮件中的商品信息，并自动打开购物App将其加入购物车，亦可将用户的口头描述转化为更专业的书面文字。

谷歌还为AI赋予了创建小组件的能力，用户可通过语音指令，自定义创建满足个人需求的功能组件，并将其放置在手机主页上。此举被视为对标苹果尚未完整推出的“Apple Intelligence”。

谷歌表示，Gemini Intelligence将率先在三星和Pixel手机上推出，随后逐步拓展至其他安卓手机，以及手表、眼镜、汽车和ChromeOS电脑设备。

热搜指数 ★★
风险指数 低