首页科技快讯微信出手！这种仿冒名人带货的AI，就该被下架

微信出手！这种仿冒名人带货的AI，就该被下架

来源：晰数塔互联网快讯时间：2024年12月16日 20:28

近几年AI的高速发展，让许多科幻电影里才能发生的事变成现实。最近，AI仿冒知名人士进行虚假宣传一事登上热搜，微信也马上跟进进行了处理。

就在昨日，“微信珊瑚安全”公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》。

公告显示，微信平台近期发现了一些不法分子利用AI技术，通过合成视频、模拟声音等手段，仿冒知名人士进行带货、传播谣言等不当营销、恶意博取流量的活动。微信已经宣布从速从严打击了一批此类违规行为，并累计处置相关内容532条，关闭账号209个。

图源：公众号@微信珊瑚安全

目前仿冒名人进行营销宣传是仍然最常见的手段之一。不法分子通过AI技术合成知名人士的视频或音频，进行虚假宣传，诱导消费者购买相关产品或服务。

比如近期，知名医生张文宏的面部信息就被盗用，不法分子将其换脸并放置在卖货视频中带货某蛋白类产品以此牟利。张文宏也表示，这样的卖货账号不止一个且经常变动，他也多次向平台投诉。

另外AI生成知名人士用于搞怪或带货也常有发生。前段时间雷军的AI合成声音在短视频平台爆红，许多不了解情况的中老年用户信以为真，最后雷军本人都出面发声，他已经觉得困扰，希望大家都不要再玩“雷军语音包”了。

图源：微博@央视财经

今天的AI技术无疑已经成为一把双刃剑。一方面，它丰富了人们的娱乐生活。极大地提高了工作效率；另一方面，它也被一些不法分子用来进行欺诈和侵犯他人权益。就AI发展的现状来看，想要让AI技术得到合理利用，还需要平台方和个人用户双方共同努力。

首先，平台利用人工智能、大数据统计等技术手段加强对平台内容的监测和识别，合理控制AI内容的生成数量和趋势，做好对AI内容的提醒。小雷注意到，已经有许多平台会为AI内容启用相应明显的“AI生成”提醒。而对于违规AI内容，平台需要及时下架并对发布账号进行处罚。

其次，个人用户也需要遵守相关法律法规和道德规范，避免利用AI技术生成违规或不当内容。同时，个人也可以了解相关AI案例，避免被引导和诈骗。

图源：网络

总之，微信平台对AI仿冒名人营销行为的打击，不仅是对违规行为的惩罚，更是对技术滥用的警示。在享受AI技术带来便利的同时，我们也应该警惕AI的滥用。

发布于：广东