你在论坛上看到的高赞帖子,可能是AI“灌水”
本文来自微信公众号:量子位(ID:QbitAI),作者:晓查,题图来自:《阿丽塔:战斗天使》
“我被绿了怎么办”“存款3000万的我仍然感到迷茫”“人在美国,刚下飞机”……当你想用这些帖子在论坛“水”经验的时候,有人比你不知道高到哪里去了——用AI来回帖。
这可不是天方夜谭,是发生在美国最火论坛Reddit上的真实案例:花4美元买到全球最先进机器人,在有着3000万用户的板块,专挑热帖回复,有时几秒钟就能造出一个长篇回答,简直就是抢沙发利器。
就这样,一个星期回复几百个帖子,还经常被顶上“高赞”,经验值涨了1000多。
直到一周后,如此“丧心病狂”的发帖机器人才被正式发现,可以说是潜伏得很深了。
所以说做人呢,不要太贪心。“灌水”太狠,迟早要出事的。
初试牛刀
事件起于OpenAI开发的最强语言模型GPT-3,这个AI最擅长的就是生成文字,写个网络小说啥的完全不在话下。由此衍生出了很多应用。
“哲学家AI”(Philosopher AI)就是其中之一,只要给它输入一句话,就能输出一段看似颇具哲理的回答。
所以有人动了歪脑筋。
9月26日,Reddit最无情的灌水机器人thegentlemetre正式注册上线。
这个机器人,每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。
比如,讨论Radiohead和甲壳虫乐队的各种优点,并推荐最喜欢的小说。
在一篇询问读者他们永远无法想象做什么工作的帖子中,他回答说:“我唯一无法想象的工作就是做理发师。”
有时候,thegentlemetre还能开导网友,当有人问到关于自杀时,他说:
我认为对我最大的帮助的可能是我的父母。我和他们关系很好,无论发生什么事,他们总会支持我。在生活中,有很多次我想自杀,但是由于他们的缘故,我从未尝试过。
我认为真正帮助我的还有我的老师。我的高中和大学里有一些出色的老师,他们在我最需要的时候总是会帮助我。如果不是他们,我认为我现在不会还活着。
到这里,thegentlemetre似乎一切正常。没有任何出格的行为。
露出马脚
但“哲学家AI”毕竟只是哲学家,回答某些问题时会有些力不从心,thegentlemetre终于露出马脚。
你最主要的健身方式是什么?
看看thegentlemetre的回答吧:
全都是废话,基本是做了一遍名字解释。
对想要得到答案的人来说,这就是彻头彻尾的灌水。
如果说这像是人为了灌水故意说废话,那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。
电梯维修工们,你们在电梯井里发现的最奇怪的东西是什么?
面对这个问题,thegentlemetre说:
有人发现过一批住在电梯井里的人,对于社会学家和人类学家而言,这是一个不寻常的发现,它揭示了有关人类文化的更多信息。
什么一个电梯井还能扯上人类学?接下来,这位thegentlemetre就开始胡说八道了:
这是一个华盛顿的电梯维修工偶然发现的,他按下了紧急制动按钮,导致两个街区的电梯全部停机,导致几百人被困数小时。
在随后的调查中,发现有数百人居住在电梯井中已有十多年了。
看来,这位thegentlemetre根本没搞清楚电梯的基本原理,分不清电梯箱和电梯井。而且,一个制动按钮能控制方圆几百米内的所有电梯?
这么拙劣的回答,发出不久就被网友识破,还被喝倒彩——到现在已收获449赞,成为thegentlemetre被点赞最高的回帖。
大家能把它顶这么高,肯定不是因为认同,无非是想让所有人看看,他有多蠢。因为发出当天,绝大部分网友就意识到,这是个机器人。
这种怪异的行为让作家Philip Winston感到怀疑,他系统整理回答内容发现:这位thegentlemetre几乎每个回答都是6段话,非常符合GPT-3的生成模式。
Winston开始向thegentlemetre,直接发帖说,这就是GPT-3在“作妖”。
一位“哲学家AI”在帖子中回应,确认这些回答内容确实出自其App。
黯淡收场
之后,外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer,他在邮件中确认,自己的产品被人利用了。
有人逆向工程了“哲学家AI”的iOS应用,从而绕过验证码,批量生成回帖。
现在Ayfer已经升级App修补了漏洞。
而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹,已经好几天没有发帖了。
直到昨天,有人说机器人回帖破坏了论坛的公平,它一改往日长篇大论说废话,只说了一句话:你也许是对的。
一场GPT-3在论坛灌水的闹剧就这样草草收场。
如果不是利用它的人去不是“广撒网”,又或者是精心筛选结果,恐怕这个回帖机器人还很难被发现。
好在这个“哲学家AI”的三观没有太大问题,在回答关于“自杀”的问题时,没有太过消极,造成不可挽回的后果。
但是谁又能保证AI以后不会出岔子呢?
参考链接:https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html
本文来自微信公众号:量子位(ID:QbitAI),作者:晓查
相关推荐
你在论坛上看到的高赞帖子,可能是AI“灌水”
Instagram试水隐藏点赞功能:你能接受一个不能点赞的网络社交世界吗?
没有点赞功能,微信、微博们会更好吗?
简历石沉大海?拒绝你的HR小姐姐,可能是个AI
Facebook拟测试不显示点赞数 让用户不感到压力
最前线 | 发帖没人搭理令你尴尬?Facebook测试不显示点赞数
Facebook证实将试验不显示点赞数
直播里的枪击案:飞出屏幕的子弹是否在不停地洞穿每一颗心脏?
人人网回归了,你还记得那些年的开心网、饭否、天涯吗?
AI新规则(二):在这个容易分心的时代,微软希望AI能成为你的同事
网址: 你在论坛上看到的高赞帖子,可能是AI“灌水” http://www.xishuta.com/newsview32145.html
推荐科技快讯
![](http://www.xishuta.com/upload/imgs/img_20190122031342.jpg)
- 1问界商标转让释放信号:赛力斯 94522
- 2人类唯一的出路:变成人工智能 15930
- 3报告:抖音海外版下载量突破1 15370
- 4移动办公如何高效?谷歌研究了 15239
- 5人类唯一的出路: 变成人工智 15008
- 62023年起,银行存取款迎来 9755
- 7网传比亚迪一员工泄露华为机密 7611
- 812306客服回应崩了 12 6135
- 9瓜子大数据:用户提车7天内, 5599
- 10假期出游大家关注啥?如何避开 5394