你在论坛上看到的高赞帖子，可能是AI“灌水”

本文来自微信公众号：量子位（ID：QbitAI），作者：晓查，题图来自：《阿丽塔：战斗天使》

“我被绿了怎么办”“存款3000万的我仍然感到迷茫”“人在美国，刚下飞机”……当你想用这些帖子在论坛“水”经验的时候，有人比你不知道高到哪里去了——用AI来回帖。

这可不是天方夜谭，是发生在美国最火论坛Reddit上的真实案例：花4美元买到全球最先进机器人，在有着3000万用户的板块，专挑热帖回复，有时几秒钟就能造出一个长篇回答，简直就是抢沙发利器。

就这样，一个星期回复几百个帖子，还经常被顶上“高赞”，经验值涨了1000多。

直到一周后，如此“丧心病狂”的发帖机器人才被正式发现，可以说是潜伏得很深了。

所以说做人呢，不要太贪心。“灌水”太狠，迟早要出事的。

初试牛刀

事件起于OpenAI开发的最强语言模型GPT-3，这个AI最擅长的就是生成文字，写个网络小说啥的完全不在话下。由此衍生出了很多应用。

“哲学家AI”（Philosopher AI）就是其中之一，只要给它输入一句话，就能输出一段看似颇具哲理的回答。

所以有人动了歪脑筋。

9月26日，Reddit最无情的灌水机器人thegentlemetre正式注册上线。

这个机器人，每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。

比如，讨论Radiohead和甲壳虫乐队的各种优点，并推荐最喜欢的小说。

在一篇询问读者他们永远无法想象做什么工作的帖子中，他回答说：“我唯一无法想象的工作就是做理发师。”

有时候，thegentlemetre还能开导网友，当有人问到关于自杀时，他说：

我认为对我最大的帮助的可能是我的父母。我和他们关系很好，无论发生什么事，他们总会支持我。在生活中，有很多次我想自杀，但是由于他们的缘故，我从未尝试过。

我认为真正帮助我的还有我的老师。我的高中和大学里有一些出色的老师，他们在我最需要的时候总是会帮助我。如果不是他们，我认为我现在不会还活着。

到这里，thegentlemetre似乎一切正常。没有任何出格的行为。

露出马脚

但“哲学家AI”毕竟只是哲学家，回答某些问题时会有些力不从心，thegentlemetre终于露出马脚。

你最主要的健身方式是什么?

看看thegentlemetre的回答吧：

全都是废话，基本是做了一遍名字解释。

对想要得到答案的人来说，这就是彻头彻尾的灌水。

如果说这像是人为了灌水故意说废话，那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。

电梯维修工们，你们在电梯井里发现的最奇怪的东西是什么？

面对这个问题，thegentlemetre说：

有人发现过一批住在电梯井里的人，对于社会学家和人类学家而言，这是一个不寻常的发现，它揭示了有关人类文化的更多信息。

什么一个电梯井还能扯上人类学？接下来，这位thegentlemetre就开始胡说八道了：

这是一个华盛顿的电梯维修工偶然发现的，他按下了紧急制动按钮，导致两个街区的电梯全部停机，导致几百人被困数小时。

在随后的调查中，发现有数百人居住在电梯井中已有十多年了。

看来，这位thegentlemetre根本没搞清楚电梯的基本原理，分不清电梯箱和电梯井。而且，一个制动按钮能控制方圆几百米内的所有电梯？

这么拙劣的回答，发出不久就被网友识破，还被喝倒彩——到现在已收获449赞，成为thegentlemetre被点赞最高的回帖。

大家能把它顶这么高，肯定不是因为认同，无非是想让所有人看看，他有多蠢。因为发出当天，绝大部分网友就意识到，这是个机器人。

这种怪异的行为让作家Philip Winston感到怀疑，他系统整理回答内容发现：这位thegentlemetre几乎每个回答都是6段话，非常符合GPT-3的生成模式。

Winston开始向thegentlemetre，直接发帖说，这就是GPT-3在“作妖”。

一位“哲学家AI”在帖子中回应，确认这些回答内容确实出自其App。

黯淡收场

之后，外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer，他在邮件中确认，自己的产品被人利用了。

有人逆向工程了“哲学家AI”的iOS应用，从而绕过验证码，批量生成回帖。

现在Ayfer已经升级App修补了漏洞。

而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。

直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。

一场GPT-3在论坛灌水的闹剧就这样草草收场。

如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。

好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。

但是谁又能保证AI以后不会出岔子呢？

参考链接：https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

本文来自微信公众号：量子位（ID：QbitAI），作者：晓查

相关推荐

你在论坛上看到的高赞帖子，可能是AI“灌水”
Instagram试水隐藏点赞功能：你能接受一个不能点赞的网络社交世界吗？
没有点赞功能，微信、微博们会更好吗？
简历石沉大海？拒绝你的HR小姐姐，可能是个AI
Facebook拟测试不显示点赞数 让用户不感到压力
最前线 | 发帖没人搭理令你尴尬？Facebook测试不显示点赞数
Facebook证实将试验不显示点赞数
直播里的枪击案：飞出屏幕的子弹是否在不停地洞穿每一颗心脏？
人人网回归了，你还记得那些年的开心网、饭否、天涯吗？
AI新规则（二）：在这个容易分心的时代，微软希望AI能成为你的同事

网址: 你在论坛上看到的高赞帖子，可能是AI“灌水” http://www.xishuta.com/newsview32145.html