AI谣言的特征、危害与综合治理路径

　　近年来，Al谣言借助生成式Al技术的便利频繁滋生，其中还包括利用Al技术催生的黑灰产，这些不仅严重扰乱了公共信息秩序，更对社会信任与稳定构成现实威胁。

　　知微数据联合中国传媒大学媒介与公共事务研究院与法码象发布《Al谣言的特征、危害与综合治理路径》报告（以下简称“报告“），分析Al谣言的生成源头、目的，以及传播态势与社会影响等内容，并从技术、事件、法律等多维度探讨治理策略。

　　谣言如同假货；平台放纵谣言传播，如同商场贩卖假货。谣言虽能在短期内吸引眼球、增加点击、嫌取流量；但从长远看，谣言破坏诚信，愚弄受众，扰乱秩序，最终必将影响平台声誉和用户黏性，造成反噬。因此，平台对谣言不能“睁一只眼闭一只眼“，而应该像良心商场打击假货一样，抵制谣言、屏蔽谣言、清除谣言。——杨宇军 中国传媒大学媒介与公共事务研究院院长

　　在数智时代，Al谣言正以空前速度侵蚀信息生态：其成本更低、生成更快、内容更逼真、传播更精准、扩散更广泛，极易形成“遍在效应“，诱发公众盲目跟从。应对此类新型风险，仅靠传统治理远远不够——公众亟需提升媒介素养，以批判性思维与逻辑能力筑牢认知防线。与此同时，也需法律规制与技术反制双管齐下，构建系统性治理框架。《Al谣言的特征、危害与综合治理路径》尝试揭示谣言生成与扩散机制，并提出多维度应对策略。推荐每一位关注声誉风险、公共沟通、数字伦理与社会治理的读者阅读，共同抵御Al时代的信息失序。————王晓乐 中央财经大学金融品牌研究所所长、声誉风险研究中心主任

　　法律面对Al的核心原则是“人类主体性不可让渡“，Al本身不是风险，人类放弃思考和判断才是。从本质上，Al与人手中的纸笔、相机并无区别，无论技术如何放大治理难点、新增技术盲区，“人” 永远是违法责任的核心主体，“谁违法、谁担责“ “风险控制能力决定责任大小”的逻辑从未改变。——丁岚 法码象首席法律专家

　　Al技术重塑信息生态的同时，也催生了新型虚假信息形态一一Al谣言。这类谣言依托生成式Al的“超真实伪造“ 能力，结合算法推荐，进行情绪化传播，形成“热点寄生” “情绪驱动“ “圈层定制”等内容特征，其危害性和影响力远超传统谣言。应对这一威胁，可构建“技术+法治+共治“ 的综合治理体系，以法律刚性约束震慑造谣者，溯源鉴伪技术筑牢防线。

　　Al谣言的核心特征与规律性

　　报告通过分析近期典型案例发现，目前Al谣言已在技术实现、内容设计和传播机制方面呈现出明显区另刂于传统谣言的特征。这些特征使得Al谣言的迷惑性、隐蔽性、破坏力更大。

　　从技术特征上看，Al谣言具有“超真实伪造“ “个性化投喂”以及“低成本量产“三大特征；从内容特征上看，Al 谣言具有“热点寄生性” “情绪优先性“以及“圈层化叙事” 三大特征。热点事件、公众情绪以及不同群体的情感共鸣和身份认同是谣言的内容基础。

　　而从传播特征上看，Al谣言具有“跨平台裂变“ “人机协同化” “进化与迭代“三大特征。“跨平台裂变”表现出 Al谣言会利用各平台内容审核规则的差异，在微博、微信、短视频、贴吧论坛等之间进行链式跳转与传播，从而有效规避单一平台的封禁措施。“人机协同化“指的是Al谣言由水军账号等账号完成初期的规模化扩散和热度营造后，再将真实的人类用户卷入并进一步放大讨论热度，使信息的真假更加难辨。“进化与迭代”则是指针对出现的辟谣信息，Al可快速生成新版本谣言进行反驳或迭代，形成“打地鼠“式的动态对抗。目前Al谣言不仅能够快速适应辟谣内容，还会针对辟谣策略进行针对性进化。

　　Al谣言的典型危害与应对建议

　　Al谣言肆虐，对政府公信力构成了严重威胁，也影响到了企业的正常运营。此外，Al谣言的传播侵蚀社会信任基础，甚至可能引发公众恐慌。

　　针对Al谣言的特殊性和危害性，需要从政策、平台和技术等多个层面构建综合治理体系，形成有效应对机制。

　　首先政策层面，执法需快速跟进。今年以来，Al生成谣言的现象迎来了强监管。先是四部门发布《人工智能生成合成内容标识办法》，后网信办针对Al内容标识缺失误导公众、利用Al技术制作发布谣言等问题开展专项行动。但Al 谣言仍存在诸多法律治理难点，包括人机创作边界模糊、责任主体溯源难、算法不可解释等。对于Al谣言治理，法律既要保障Al技术创新应用，又要守住信息真实、传播有序的法律与道德底线。

　　平台层面上，内容平台需加强治理。超大型内容平台，作为信息分发枢纽，不能仅依赖“通知．删除“的避风港规则，更需承担主动防控、算法透明义务。

　　技术层面上，可由国家有关部门牵头，支持和部署Al 溯源占鉴伪工具（如深度伪造检测、数字水印） ，并将其集成至主流内容平台，实现“魔高一尺，道高一丈“的技术对抗。平台和相关部门可以开发用户端等便捷工具，辅助公众识别Al生成的虚假信息。例如，提供图片、视频真实性核验功能，用户上传可疑内容后系统自动进行初步鉴定。此外，还可以通过浏览器插件、小程序等形式，为用户提供一键验证信息真实性的便捷工具，降低公众辨另刂谣言的门槛。

　　信息发布层面，要加强主动发布，以真实、客观、准确信息挤占虚假信息空间。金媒体时代，当政府部门或企事业单位面临重大舆情危机时，往往也是各类虚假信息的活跃期，不论虚假信息是人工编造还是Al生成，及时公布还原事件真相都是打击谣言的最有效手段。