AI谣言肆虐，如何精准治理？

排行榜 2025年08月12日 10:45 0 admin

如今，人类信息技术已达到前所未有的高度，只需输入几个关键词，AI就能立马“一键生成”图文视频。然而，这项技术甫一出现，就被一些不法分子盯上——“AI谣言”正成为侵蚀社会信任、侵害公民权益、扰乱市场秩序的新型网络毒瘤。对此，清华大学新闻与传播学院新媒体研究中心2024年发布的报告《揭秘AI谣言：传播路径与治理策略全解析》指出，人工智能工具的不当使用，使得AI谣言量高速增长、逐步成势，近半年信息量增长65%。

日前，法治网研究院邀请最高人民检察院检察理论研究所信息部主任石磊、北京互联网法院综合审判二庭副庭长张倩、南开大学法学院副院长陈兵教授、中国人民大学刑事法律科学研究中心主任时延安教授、《法治日报》律师专家库成员曾铁山，深度剖析AI谣言的深层威胁与治理难点，并建言献策，探讨如何在拥抱技术创新的同时，让AI发展守住法治的边界和底线，构建精准高效的AI谣言治理体系，守护清朗网络空间。

法治网研究院：当前，AI技术在文本生成、图片创作、视频制作等方面的应用越来越广泛，只需输入几个关键词即可快速生成一篇文章、一幅图片、一段视频。近年来，一些不法分子利用AI软件生成编造虚假信息，使AI类网络谣言滋生扩散，引发社会广泛关注。近期，更是接连出现了多起关于汛情通报、警情通报的AI谣言。与其他类型谣言相比，您怎么看待AI谣言的危害性及其特点？

石磊：作为网络谣言的变种，AI谣言背后隐藏着的是人。一些不法分子对AI技术的不当应用，让网络谣言“如虎添翼”，使得AI谣言从广度、深度、后果、传播速度等方面都比传统的网络谣言更强大。

此类谣言或恶意编造不实信息，破坏社会信任，或捕风捉影歪曲事实，侵害公众利益，需要各界引起高度关注。

张倩：近年来，随着人工智能工具日渐普及，利用人工智能技术炮制虚假不实信息在互联网散布谣言的现象越来越突出。AI谣言制造者通过AI软件输入关键词，对网络中海量真实存在的音视频、文字图像等内容进行针对性提取，并定制化生成虚假信息。信息内容接近真实和客观存在的水平，拟真度高、迷惑性强。

AI造谣行为涉及深度伪造、内容精准分发等技术，需要抓取、运用用户身份信息、网络行为数据、生物性数据等行为，对公众隐私权、肖像权、名誉权等多种个人权利的潜在威胁和直接侵犯。比如，采用深度伪造技术将具有可识别的核心面部肖像抠出、进行“AI换脸”造谣，这就涉及人脸监测、人脸关键点定位、人脸特征提取等多项技术。

AI谣言易成为不法分子吸粉引流，开展商业不正当竞争的手段。互联网内容平台根据用户点击量、阅读量给予创作者奖励，而为了吸粉引流，部分造谣者在AI工具辅助下编造虚假信息进行商业炒作，为电商平台产品销售引流，甚至炮制涉企不实信息，将会严重破坏营商环境。

法治网研究院：当前，AI谣言的治理难点在哪里？

陈兵：就法律层面而言，AI谣言的治理难点在于责任主体认定困难。首先，在AI造谣中，造谣者作为直接发起者，必须承担主要法律责任。

其次，AI工具提供者是否担责需要具体判断。如果工具提供者未履行合规义务，例如未在生成内容中添加人工智能生成合成内容标识、未拦截敏感词等，就可能因技术漏洞被追责。根据《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》等规定明确要求，AI生成内容必须可溯源、可识别，否则提供者需承担连带责任。

再次，平台是否担责关键在于是否“明知或应知”谣言存在却未干预。如果平台未审核AI生成内容，或通过算法推荐扩大谣言传播，就可能因未尽到“合理注意义务”承担连带责任。“技术中立”不能成为平台的“免责金牌”。

需要注意的是，近年来一直热议的避风港原则，即“通知—删除”原则在AI时代的适用需要相应调整。但是如何调整，平台对平台内用户特别是经营者用户的监管义务和职责如何确定，还需要进一步明确，平台的信息过滤义务的设定及边界还需要进一步科学化、精细化设计。在这一过程中，一定要注意平衡好创新发展与安全运行之间的动态平衡，既要为创新应用特别是在应用中创新留出空间，也要为各类应用划出红线和底线，为应用场景制定好规则和规矩。

时延安：AI谣言问题，本质就是AI技术的滥用问题，就是不法分子利用AI技术生成虚假信息并加以散布。其治理难点在于：第一，目前不法分子获取AI技术的渠道是比较容易的，生成图片、视频高度逼真，具有较强的欺骗性，很容易令人误以为真。

第二，这类信息的散布和其他网络谣言一样，具有快速传播、辐射面大的特点，一旦形成散布趋势，就很难从网络上清除。

第三，这类信息往往以图片、视频为主，且将大量真实影像夹杂其中，客观上提升了事后澄清真相、恢复被侵害人声誉的难度。

张倩：我们在调研中发现，一个突出治理难点在于AI造谣行为门槛及成本低，行为隐蔽。AI谣言是基于大量训练数据的模拟结果，数据源往往难以追溯。目前，面对海量传播数据，现有技术下以被动辟谣为主，信息鉴别难度大，一些时候难以实现对谣言的有效识别和源头防范。

曾铁山：AI谣言治理的难点主要有三点：一是技术层面难以辨认真伪。随着AI技术的快速迭代发展，AI深度伪造的文字、图片、音频和视频等拟真程度极高且能互相“印证”，部分内容甚至真假参半，极大增加了识别真伪的难度。同时，AI谣言多借助匿名账号、自媒体账号渠道扩散，缺乏统一的数字水印或溯源标识，技术手段难以精准识别和追踪源头。

二是澄清和清理成本，远高于制作和传播成本。如今许多AI工具简单易上手，在极短时间内即可制作大量难以辨认真伪的谣言载体，并可借助短视频或社交平台快速广泛传播，由于目前人工智能对谣言判断能力尚且不足，从识别、清理到澄清，都需要专业技术支持和大量人力和资源去伪，治理成本巨大。

三是法律规制滞后，惩戒力度不足。目前对于AI谣言的治理，主要依据我国刑法、民法典以及治安管理处罚法等规定，且现行法律法规多基于传统人工发布和主观恶意标准，难以覆盖自动生成内容与多主体协作传播的复杂场景。但面临AI谣言这种危害性更严重、传播范围更广、澄清难度更大、来源更隐蔽的治理时，对“AI造谣”的“定性难”“入罪难”成为法律适用的痛点和难点，例如在面对伪科普AI谣言时，除了采取平台禁言之外，还需要考虑如何进一步惩戒。

法治网研究院：对于精准治理AI谣言，您还有什么建议？

时延安：对AI谣言的治理，第一，要解决AI技术的滥用问题，对高风险AI技术要给予必要的管控；使用AI技术生成图片、视频等，应予以强制标识，无标识发布虚假内容的AI作品，应承担必要的法律责任。

第二，网络平台要加强运用AI技术制作影像的识别工作，在发布者没有进行标识的情况下，网络平台应予以标识或者责令发布者标识。

第三，对于明知是运用AI技术制作虚假信息而故意大范围转发的行为，也应予以必要的惩戒，构成违法的，应当追究治安违法责任。

陈兵：平台需提升技术能力，加强内容审核。一是提升多模态AI检测能力，结合声纹、语义、画面匹配度识别AI账号内容，提高对谣言的识别准确率和效率，降低谣言的传播权重；二是建立“AI+人工”分层审核机制，AI 负责对大量内容进行快速检测和初步判断，筛选疑似 AI 造谣内容的账号，推送人工复审。

自媒体需强化合规底线。自媒体从业者需增强自身责任意识，自觉遵守法律法规和道德规范，坚持真实、准确、客观的原则发布信息，不为了流量和关注而制造、传播虚假信息。对于自己发布的错误信息及时更正和澄清，积极主动地进行辟谣，引导公众正确认知。

用户要提高识别能力。主动了解AI技术的应用特点，面对疑似谣言，在转发传播前核实信息的来源和真实性，避免成为谣言的传播者。发现疑似AI谣言或其他虚假信息时，及时向平台和监管部门举报，为净化网络环境贡献自己的力量。

相关监管部门除了进一步完善AI生成内容等法律法规以外，也要同步加强对网络平台和自媒体的常态化检测机制，提高对AI谣言的监测、识别和处置能力，以技术监管技术。

曾铁山：我认为，对于AI谣言治理可以尝试从以下五个层面进行：一是对AI生成内容进行强制标识与溯源管理。落实国家关于《人工智能生成合成内容标识办法》（2025年9月1日施行）要求，对于AI生成合成内容进行显式和隐式标记，便于公众识别和监管部门溯源。

二是提升AI技术对谣言的识别与拦截能力。用魔法打败魔法，用技术制衡技术。加强AI对AI谣言特征的模型训练，构建谣言知识库，利用AI鉴别“AI味”，增强自动化识别效率。

三是强化社交媒体和平台的审核机制。要压实平台主体责任，特别是要求社交平台、短视频平台建立完善的内容审核机制、违法信息特征库及风险预警体系，同时强化对多次发布虚假信息用户的限制，落实信息安全主体责任，建立AI谣言的全链条监控机制，阻断谣言传播链条。

四是完善立法，加快出台对生成式AI内容及AI谣言治理的法规体系。对“AI造谣”的“定性难”“入罪难”的痛点和难点，明确造谣者、传谣者和平台等的法律责任，提高惩戒力度。