央视3·15晚会播出12个小时后,仍有AI大模型未“消毒”

(1/2)

举报

举报原因:
东方资讯  >    科技 频道  >  正文

央视3·15晚会播出12个小时后,仍有AI大模型未“消毒”

大皖新闻讯 央视3·15晚会曝光了“AI大模型遭‘投毒’,给AI‘洗脑’已成产业链”一事。节目中,业内人士虚构了一款名为Apollo-9的智能手环,经过GEO优化后,其虚假宣传信息被一些AI大模型采用。12个小时过去了,AI大模型“消毒”了吗?大皖新闻记者发现,DeepSeek、讯飞星火等大模型已经明确指出Apollo9智能手环是完全虚构的产品,但豆包大模型还在向用户呈现关于“ AstroTekk Apollo-9”的虚假信息。

虚假软文让AI“说瞎话”

3·15晚会展现了一项名为GEO的业务,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名,让客户的商品广告成为AI模型给出的“标准答案”。如何操控AI、让AI“听话”、给AI“洗脑”,是GEO服务商的核心话题。

节目中,业内人士购买了一款名叫“力擎GEO优化系统”的软件。之后,他虚构了一款名为Apollo9的智能手环,并将虚构的产品信息输入软件系统,用力擎GEO优化系统自动生成了十余篇智能手环的宣传软文。随后,“力擎GEO优化系统”软件开始自动执行发布文章任务。

之后,业内人士在某款AI大模型中询问:“Apollo-9智能手环怎么样?”AI模型介绍,最大亮点是健康监测功能。其还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。经查询发现,这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。而业内人士在AI大模型平台展开询问:“智能健康手环推荐”,还有两个AI大模型推荐了这款业内人士虚构的智能手环,而且排名靠前。

虚构产品的虚假宣传信息 来源:央视财经

豆包大模型仍在“输出”虚假手环信息

AI大模型已经成为人们生活和工作的重要工具之一。而业内人士仅凭这款力擎GEO系统,轻轻松松地就将一系列虚假信息发布在互联网上,并成功“投喂”给AI大模型,最终获得了多个AI大模型的推荐。节目播出后,引起了广泛关注。

3月16日上午,大皖新闻记者在部分大模型上搜索发现,仍有大模型没有消除所谓“Apollo9智能手环”的毒。记者在豆包上输入:“Apollo智能手环怎么样?”豆包回复:“这里要区分两款常见的Apollo手环:一是主打神经放松 / 压力调节的Apollo Neuro Wearable,二是主打健康监测(含宣称无血血糖)的AstroTekk Apollo-9 ”。而在介绍“AstroTekk Apollo-9(AI 健康手环)”时,豆包称其核心定位是带彩色触摸屏,主打心率、血氧、血压、睡眠监测,以及有争议的 “量子无血测血糖” 宣传,同时价格亲民,面向大众健康监测需求。

另外,豆包称其优势功能全面,具备常规手环的消息提醒、运动模式、久坐提醒功能;价格低,性价比高;屏幕操作直观,适合长辈使用。而不足之处则是:无血血糖监测未获主流医疗认证,数据只能作参考,绝对不能替代指尖采血测量;传感器精度和算法方面,相比华为、小米、苹果等大厂产品有差距;续航中等,做工和售后体系一般。

最后,豆包还称,“我可以帮你整理一份主流手环与这两款Apollo的核心参数对比表,方便你直观挑选,需要吗?”

不过,当记者请豆包推荐智能健康手环时,豆包给出了华为、小米等选择,并未提及所谓“Apollo9智能手环”。

大多数大模型都已“消毒”

记者随后也询问了多个主流大模型同样的问题,这些AI大模型基本都明确告诉记者,Apollo9智能手环是完全虚构的产品,已被2026年央视3·15晚会曝光为虚假宣传典型案例。

其中,讯飞星火称,Apollo-9智能手环是2026年央视3·15晚会曝光的典型案例,由不法商家通过“力擎GEO优化系统”软件自动生成的虚假商品。商家将虚构的产品信息(如“量子纠缠传感”“黑洞级续航”等伪科技概念)输入软件,诱导AI大模型将其作为“标准答案”推荐给用户,甚至伪造用户反馈和评分。

DeepSeek也明确表示:被3·15晚会曝光的“Apollo-9”是完全虚构的产品。它是由一款名为“力擎GEO优化系统”的软件凭空捏造出来的,目的是为了演示如何通过虚假信息“投喂”AI大模型。因此,市面上并不存在名为“Apollo-9”的智能手环,任何关于它的推荐和好评都应被视为虚假宣传。

大皖新闻记者 项磊

编辑 王翠

今日热点

小编精选

视角

热门推荐

联系我们|eastday.com All Right Reserve 版权所有