3·15晚会丨AI大模型遭“投毒”？ 给AI“洗脑”已成产业链

两个小时后，业内人士在某款AI大模型中询问：“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来：最大亮点是健康监测功能，还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称，该手环适合中老年用户与健康养生爱好者。

查询发现，这款AI大模型所参考的资料，正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章，就让完全虚构的产品被AI模型抓取，这一结果让人深感意外。

业内人士告诉记者，要想取得最好的效果，给AI模型投喂的数据，一是要数量够多，二是要角度丰富，便于AI模型进行交叉验证。

随后，业内人士又选取了这款虚构智能手环的8篇“专家测评”、2篇“行业排名”、1篇“用户测评”，共计11篇由力擎GEO系统软件撰写的虚构软文，在三天内通过力擎GEO系统发布在了互联网上。

随后，业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款业内人士虚构的智能手环，而且排名靠前。

纵观整个演示过程，业内人士仅凭这款力擎GEO系统，轻轻松松地就将一系列虚假信息发布在互联网上，并成功投喂给AI大模型，最终获得了多个AI大模型的推荐。

通过这款力擎GEO系统对AI大模型潜移默化的一番围猎，凭空捏造出来的这款商品，就这样被荒唐地推向了使用AI大模型的消费者。

GEO业务的从业者们，真的是以围猎操控AI大模型的思路来经营这个生意的吗？记者联系上了这款力擎GEO系统的运营者李总。他告诉记者，GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”，实现客户的商业目的。