晓查 只想说 凹非寺量子位 报导 | 微信公众号 QbitAI

“我被绿了该怎么办”、“储蓄三千万的我依然觉得茫然”、“人到英国，刚下飞机”……

如果你想要这种贴子在社区论坛“水”工作经验的情况下，有些人比你永远不知道高到哪里来到：

用AI来回帖。

这并不是天方夜谈，是产生在国外最红社区论坛Reddit上的真实案例：

花4美元购到全世界最优秀智能机器人，在拥有三千万客户的版块，专挑帖子回应，有时候几秒就能造出一个长篇小说回答，真是便是抢沙发神器。

就是这样，一个星期回应几十个贴子，还常常被顶部“高赞”，经验涨了1000多。

直至一周后，这般“丧尽天良”的发帖子设备优秀人才被宣布发现，能够 说成埋伏得很深了。

所以说为人处事呢，不必太贪婪。“注水”太过分，早晚要出事了的。

考研初试牛刀

恶性事件源于OpenAI开发设计的最強语言模型GPT-3，这一AI最善于的便是转化成文本，写个网文啥的彻底轻轻松松。从而衍化出了许多 运用。

“哲学家AI”（Philosopher AI）便是在其中之一，要是给它键入一句话，就能輸出一段看起来极具生活哲理的回答。

因此有些人动了歪脑筋。

9月26日，Reddit最绝情的注水智能机器人thegentlemetre宣布申请注册发布。

这一智能机器人，每数分钟便会在Reddit网站最火爆的版面上发布一条评价。

例如，探讨Radiohead和甲壳虫乐队的各种各样优势，并强烈推荐最爱的小说集。

在一篇了解阅读者她们始终无法想象干什么工作的贴子中，他回答说：“我唯一无法想象的工作中便是做美发师。”

有时，thegentlemetre还能疏导网民，当有些人问起有关自尽时，他说道：

我觉得一件事较大的协助的可能是我的爸爸妈妈。我与她们关联非常好，不管发生了什么，她们都会支持我。在日常生活中，有很数次我想自杀，可是因为她们的原因，我从未试着过。我觉得真实协助我的也有亲爱的老师。我的高中生活和大学有一些优异的教师，她们在我非常必须的情况下一直会协助我。要不是她们，我觉得现在我不容易还活着。

到这儿，thegentlemetre好像一切正常。沒有一切放码的个人行为。

做贼心虚

但“哲学家AI”终究仅仅哲学家，回答一些难题的时候会一些心有余而力不足，thegentlemetre总算做贼心虚。

你最关键的运动健身方法是啥?

看一下thegentlemetre的回答吧：

统统是空话，基础是干了一遍名字的含义。

对要想获得回答的人而言，这就是荒诞不经的注水。

假如说这好像人为了更好地注水有意说空话，那麼thegentlemetre接下去的实际操作就完全曝露了自身压根不是。

电梯轿厢设备维修工们，大家在电梯井里发现的最怪异的物品是啥？

应对这个问题，thegentlemetre说：

有些人发现过一批住在电梯井里的人，针对教育学家和人类学家来讲，这是一个不寻常的发现，它表明了相关人们文化艺术的其他信息。

哪些一个电梯井还能扯上社会学？接下去，这名thegentlemetre就刚开始胡说八道了：

这是一个美国华盛顿的电梯轿厢设备维修工不经意发现的，他按住了紧急停车按键，造成2个商业街的电梯轿厢所有关机，造成上百人受困数钟头。在接着的调研中，发现有百余人定居在电梯井中现有十多年了。

来看，这名thegentlemetre压根没弄清楚电梯轿厢的基本概念，分不清楚电梯轿厢箱和电梯井。并且，一个制动系统按键能操纵周围五百米内的全部电梯轿厢？

那么荒缪的回答，传出没多久就被网民揭穿，还被嘘声——到现在已获得449赞，变成thegentlemetre被关注最大的回帖。

大伙儿可以把它顶那么高，毫无疑问并不是由于认可，只不过是想让任何人看一下，他有多蠢。由于传出当日，绝大多数网民就意识到，它是个智能机器人。

这类古怪的个人行为让文学家Philip Winston觉得猜疑，他系统软件梳理回答內容发现：这名thegentlemetre基本上每一个回答全是6段话，十分合乎GPT-3的转化成方式。

Winston刚开始向thegentlemetre，立即发帖子说，这就是GPT-3在“搞事”。

一位“哲学家AI”在贴子中答复，确定这种回答內容的确源于其App。

暗淡收尾

以后，外国媒体Gizmodo联络来到“哲学家AI”的开发人员Murat Ayfer，他在电子邮件中确定，自身的商品被别人运用了。

有些人反向工程了“哲学家AI”的iOS运用，进而绕开短信验证码，大批量转化成回帖。

如今Ayfer早已升級App修复了系统漏洞。

而Reddit官方网也刚开始封禁thegentlemetre的一部分回帖。thegentlemetre几近消声匿迹，早已好几天沒有发帖子了。

直至昨日，有些人说智能机器人回帖毁坏了社区论坛的公平公正，它一改以往废话连篇说空话，只讲过一句话：你或许是对的。

一场GPT-3在论坛灌水的风波就是这样草草收场。

要不是运用它的人去并不是“放长线钓大鱼”，又或是是用心挑选結果，也许这一回帖智能机器人还难以被发现。

好在这个“哲学家AI”的三观沒有很大难题，在回答有关“自尽”的难题时，沒有太过消沉，导致不能挽留的不良影响。

可是谁又能确保AI之后不容易出岔子呢？

参照连接：https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html