AI助长谣言肆虐，科学佐证真假难辨

**AI造谣乱象** 近日，天津市民李萌与母亲因一篇“科普文章”争吵。李萌母亲坚定地相信文章中的信息，但李萌查证后发现，该文章由AI生成，平台已辟谣。由于文章中一位抱着猫的女生被认为患有“毛病”，李萌母亲强烈反对女儿养猫。 近期，多地公安机关破获多起利用AI造谣的案件。例如，传播虚假新闻“西安突发爆炸”的机构每天可生成4000-7000篇假新闻，收入超过万元。 专家指出，AI工具降低了造谣成本，提高了谣言数量和传播速度。AI造谣门槛低、可批量化、识别难，亟需加强监管和斩断利益链条。 **AI编造虚假信息迅速传播** 6月20日，上海警方发布通报，两名营销人员为蹭热度，利用AI软件生成了虚假的地铁行凶视频。 近年来，利用AI造谣现象频发，传播速度极快，造成社会恐慌和危害。在上海女童走失事件中，造谣团伙利用AI工具捏造“女孩父亲是继父”等谣言，通过多个账号矩阵传播，造成恶劣影响。 **离谱谣言充斥网络** 近期，济南市网上流传多条离谱谣言，如“高层住宅楼起火，多人跳楼逃生”“晨练大爷发现坟中活人”。尽管相关部门及时辟谣，仍有不少人被“有图有真相”的表象迷惑。 **经济领域AI谣言猖獗** 报告显示，AI谣言中经济与企业类占43.71%，且增速高达99.91%。餐饮外卖和快递配送等行业尤为严重。

利用人工智能（AI）制造假新闻轻而易举。

记者使用市面上流行的 AI 软件进行测试，发现只需提供关键词，即可在几秒内生成一篇“新闻报道”。该报道包含事件详细经过、评论观点和后续行动等内容。再加上时间、地点、图片和背景音乐，一篇以假乱真的新闻报道便诞生了。

记者发现，许多 AI 生成的谣言中都包含“据报道”等内容，这会让网络上发布的谣言难以辨别真伪。

除了 AI 新闻，科普文章、图片、配音视频，以及换脸后模仿声音的内容都可以用 AI 生成。经过人工微调并融入一些真实内容，这些内容很难被识别出来。

中国人民大学新闻与社会发展中心研究员曾持表示，“生成式 AI”的拼接本质与谣言高度相似，两者都属于“凭空捏造”合理信息。AI 让造谣变得更简单、更“科学”。AI 可以根据热点事件总结规律、拼接情节，迅速制造出符合人们“期待”的谣言，传播速度更快。

曾持说：“网络平台可以使用 AI 技术反向检测图像和视频拼接，但难以对内容进行审查。目前，人们无法完全拦截谣言，更何况还有许多未经证实或无法证实、模棱两可的信息。”

为获利制造假新闻

有些 AI 软件的“造谣效率”惊人，例如一款“一天能生成 19 万篇文章”的软件。

据查获该软件的西安警方介绍，警方提取了该软件 7 天保存的文章，发现总量超过 100 万篇，涉及时事新闻、社会热点等各方面。账号使用者有组织地将这些“新闻”发布到相关平台，再利用平台的流量奖励制度获利。目前，该案涉及的账号已被平台查封，有关软件和服务器也被关闭，警方还在对案件进行深挖。

在多起 AI 造谣事件背后，造谣者的主要动机是引流和牟利。

记者检索发现，许多社交平台上都有类似“致富”文章流传。今年 2 月，上海公安机关发现一家电商平台上出现了某艺人“命运多舛、含恨离世”等短视频，引发大量点赞和转发。经查，该视频内容系伪造。视频发布者交代，他通过编造夺人眼球的虚假新闻给网店账号吸引流量。

北京瀛和律师事务所合伙人张强表示，使用人工智能编造网络谣言，特别是虚构或故意传播虚假灾情、疫情、警情等，可能涉嫌刑法规定的编造和故意传播虚假信息罪。

如果损害个人或企业声誉，则可能涉嫌刑法规定的诽谤罪和损害商业信誉、商业名誉罪。如果影响到股票证券和期货交易并扰乱交易市场，还可能涉嫌刑法规定的编造和传播证券、期货交易虚假信息罪。

为治理人工智能造假乱象，近年来，有关部门和平台采取了多项措施。

2022年，中央网信办等发布《互联网信息服务深度合成管理规定》，明确要求任何组织和个人不得利用深度合成服务制造、传播违法信息，也不得从事危害国家安全和利益、损害国家形象、侵犯他人合法权益等违法活动。深度合成服务提供者和使用者不得制作、传播虚假新闻信息。

今年4月，中央网信办秘书局发布《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》，要求加强信息来源标注。使用人工智能等技术生成的信息，必须明确标注系技术生成。发布含有虚构、演绎内容的，必须加注虚构标签。

对疑似使用人工智能技术生成的内容，一些平台会标记“内容疑似AI生成，请谨慎甄别”，并为虚构或演绎内容添加虚构标签。对于违规账号，则采取“封号”等措施。部分大模型开发者也采取后台设置的方式，为大模型生成的内容加水印，提醒用户。

张强认为，目前人们对生成式人工智能仍缺乏了解和应对经验。通过媒体提醒人们谨慎甄别人工智能信息非常必要。需要加大执法力度，及时查处利用人工智能造谣、诈骗等行为。

中国传媒大学文化产业管理学院法律系主任郑宁表示，应完善辟谣机制。一旦某条信息被认定为谣言，应立即标注并向浏览过该谣言的用户推送辟谣信息，防止谣言进一步传播造成更大伤害。

值得注意的是，有些人可能无意造谣，只是发布了人工智能合成内容，却因被大量转发而产生危害。