长城网·冀云客户端特约评论员 熊志

给AI大模型“投毒”已成产业链。截图自央视财经

　　据央视财经消息，记者在多个网络平台查询搜索到了一项名为GEO的业务，这些从事该项业务的服务商号称，用户只需支付相应的费用，它就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。

　　批量炮制内容，在内容中夹带“私货”，再向大模型集中投喂，等用户搜索相关内容时，优先展示这些精心炮制的“私货”……万万没想到，给AI大模型“投毒”，竟然成了一门猖獗的地下生意。

　　如今，随着AI大模型日益普及，它已成为人们获取信息、辅助决策的重要工具。用定制化的虚假内容去投喂大模型，人为干扰输出结果，如此混淆视听，不仅污染了信息生态，也会动摇人们对于技术的信任。

　　对用户来说，大模型之所以高效有用，是因为它有强大的学习能力，能够基于网上的公开信息，进行训练推理。如果训练素材中，掺杂着大量带有商业意图的虚假内容，其输出结果的客观性和可信度，无疑会大打折扣。

　　例如报道提到的一款虚构的智能手环，将凭空捏造的产品信息投喂给大模型后，大模型直接照搬相关宣传话术，言之凿凿，极具迷惑性，普通用户如果没有仔细验证核实，很容易被误导。

　　当前，越来越多的用户依靠AI辅助决策，甚至会向大模型“求医问药”，在此背景下，“投毒”行为的危害会不断放大。如果所获取的信息，已经被严重污染，不仅会误导用户，造成经济损失，还可能影响到健康安全。

　　而且，大模型“吸收”这类定制化的假信息后，生成的带有误导性的内容，又会重新流入互联网，成为各个大模型的训练素材，这会形成“劣币驱逐良币”的恶性循环，污染整个互联网的信息生态。

　　这类灰色产业链的浮现，揭示出一个严峻现实：技术飞速发展，相应的漏洞也在不断涌现，这无疑给监管和治理提出了更高的要求。

　　对此，监管部门应果断出手，严打此类制造信息污染的灰色产业链，形成震慑效应。从长远来看，还应该进一步完善法律法规，对此类“投毒”行为作出更明确的定性，让法律法规、行业监管跟上技术高速发展的步伐。

　　另一方面，AI大模型的开发企业，也应该主动作为，建立更加灵敏的“反投毒”机制。

　　尤其是要提高对训练素材的甄别能力，通过多个信源交叉对比验证，过滤虚假可疑信息。在涉及商业内容时，还可以增加风险提示，提醒用户注意识别，避免上当踩坑。