首页科技快讯不法之徒用AI批量制造谣言AI谣言形成产业链

不法之徒用AI批量制造谣言AI谣言形成产业链

来源：晰数塔互联网快讯时间：2024年07月11日 21:47

【#不法之徒用AI批量制造谣言##AI谣言形成产业链#】AI技术在被用于处理繁复劳动的同时，也被不法之徒用于批量制造谣言，甚至已形成了谣言产业链。

近期，多地公安机关发布了多起利用AI工具实施造谣的相关案件。6月20日，上海市公安局城市轨道和公交总队发布警情通报：有营销人员使用AI软件技术，编造了“地铁行凶”的虚假视频发布到网上。早些时候，“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”等耸动的“消息”，竟然也是一些MCN机构利用AI软件炮制的谣言。某家MCN机构在最高峰时，一天能生成4000至7000篇AI假消息，最高的一条收入700元，初步估算每天的收入在1万元以上。

看到AI批量制造谣言的“产能”，看到AI谣言可怕的变现效率，想想我们日常读到的“消息”中有多少是贡献给了“毒流量”，真是细思恐极。

过去，我们常说“有图有真相”，但如今图可能是AI伪造的；我们强调“人人都有麦克风”，但是有人拿到麦克风之后，却用AI制造的谣言骗取流量。AI带来了信息生产的“千年未有之变局”，输入关键词就能生产光怪陆离的内容，批发煞有介事的谣言。

当下，AI工具大大降低了造谣的成本，提升了谣言的数量级和传播力。AI造谣呈现出门槛低、批量化、识别难等特点。AI海量的制造信息的能力，正在被一些别有用心者用来制造谣言，以迎合一些人的低级趣味、猎奇形态和刻板印象，结果就是，子虚乌有的爆炸、匪夷所思的凶案、以假乱真的“官方公告”大行其道。

在去年的上海一女童走失事件中，有犯罪团伙利用AI工具等生成谣言内容，通过114个账号矩阵，在6天内发布268篇文章，多篇文章点击量超过100万次，恶意编造炒作“女孩父亲系继父”“女孩被带往温州”等系列谣言，严重破坏了传播秩序，加深了社会性别对立。

技术以人为本，流量也应当向上向善。当下，网络谣言具有“定制化”生成、“精准化”传播、“智能化”扩散的特点，正在快速、广泛地“劣化”我们的舆论场、毒害我们的价值观，必须采取坚决行动，保卫舆论场。

首先，要斩断AI造谣的产业链， MCN机构乃至心术不正者从事AI造谣，其实还是觉得AI造谣无本万利。事实上，“图文创作，AI自动写文章，单号轻松日产500+，可多号操作，小白轻松上手”“无需洗稿，AI一天100篇原创”之类的广告文章，在互联网上铺天盖地。必须让这些灰产从业者无利可图，乃至受到法律的惩罚，才能彻底斩断这个产业链。

其次，平台要履行内容生态监管的责任，不能揣着明白装糊涂，放纵乃至推荐AI批量制造的不良内容、虚假内容大行其道。有的平台搞“量大取胜”“只看流量，不看真假”，结果等于教唆他人通过AI技术批量地制造信息垃圾、占领舆论空间。

其三，职能部门以及司法机关要依法亮剑，坚决严惩AI造谣的产业。今年4月，中央网信办秘书局发布《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》明确，使用AI等技术生成信息的，必须明确标注系技术生成；同时，也要求资讯类平台着重清理标题党、要素欠缺、不具公共价值的“新黄色新闻”。多地公安机关也严肃处理了多个MCN机构利用AI造谣的个案。希望能保持高压的打击态势，在舆论场里竖起禁止AI造假的高压线。

AI技术能力惊人，AI批量造假正在加速舆论场的“劣化”。一旦打开了潘多拉的魔盒，在由AI编造的泛滥浩渺的信息海洋里，我们可能死于信息的饥馑。必须保卫我们的舆论场，必须保卫新闻！（via澎湃新闻）