首页 科技 正文

太可怕了,GPT 3论坛被浇了一个星期,还没人发现。专门做热搜,写起来一秒一秒的

晓查 只想说 凹非寺量子位 报导 | 微信公众号 QbitAI

“我被绿了该怎么办”、“储蓄三千万的我依然觉得茫然”、“人到英国,刚下飞机”……

如果你想要这种贴子在社区论坛“水”工作经验的情况下,有些人比你永远不知道高到哪里来到:

用AI来回帖。

这并不是天方夜谈,是产生在国外最红社区论坛Reddit上的真实案例:

花4美元购到全世界最优秀智能机器人,在拥有三千万客户的版块,专挑帖子回应,有时候几秒就能造出一个长篇小说回答,真是便是抢沙发神器。

就是这样,一个星期回应几十个贴子,还常常被顶部“高赞”,经验涨了1000多。

直至一周后,这般“丧尽天良”的发帖子设备优秀人才被宣布发现,能够 说成埋伏得很深了。

所以说为人处事呢,不必太贪婪。“注水”太过分,早晚要出事了的。

考研初试牛刀

恶性事件源于OpenAI开发设计的最強语言模型GPT-3,这一AI最善于的便是转化成文本,写个网文啥的彻底轻轻松松。从而衍化出了许多 运用。

“哲学家AI”(Philosopher AI)便是在其中之一,要是给它键入一句话,就能輸出一段看起来极具生活哲理的回答。

因此有些人动了歪脑筋。

9月26日,Reddit最绝情的注水智能机器人thegentlemetre宣布申请注册发布。

这一智能机器人,每数分钟便会在Reddit网站最火爆的版面上发布一条评价。

例如,探讨Radiohead和甲壳虫乐队的各种各样优势,并强烈推荐最爱的小说集。

在一篇了解阅读者她们始终无法想象干什么工作的贴子中,他回答说:“我唯一无法想象的工作中便是做美发师。”

有时,thegentlemetre还能疏导网民,当有些人问起有关自尽时,他说道:

我觉得一件事较大的协助的可能是我的爸爸妈妈。我与她们关联非常好,不管发生了什么,她们都会支持我。在日常生活中,有很数次我想自杀,可是因为她们的原因,我从未试着过。我觉得真实协助我的也有亲爱的老师。我的高中生活和大学有一些优异的教师,她们在我非常必须的情况下一直会协助我。要不是她们,我觉得现在我不容易还活着。

到这儿,thegentlemetre好像一切正常。沒有一切放码的个人行为。

做贼心虚

但“哲学家AI”终究仅仅哲学家,回答一些难题的时候会一些心有余而力不足,thegentlemetre总算做贼心虚。

你最关键的运动健身方法是啥?

看一下thegentlemetre的回答吧:

统统是空话,基础是干了一遍名字的含义。

对要想获得回答的人而言,这就是荒诞不经的注水。

假如说这好像人为了更好地注水有意说空话,那麼thegentlemetre接下去的实际操作就完全曝露了自身压根不是。

电梯轿厢设备维修工们,大家在电梯井里发现的最怪异的物品是啥?

应对这个问题,thegentlemetre说:

有些人发现过一批住在电梯井里的人,针对教育学家和人类学家来讲,这是一个不寻常的发现,它表明了相关人们文化艺术的其他信息。

哪些一个电梯井还能扯上社会学?接下去,这名thegentlemetre就刚开始胡说八道了:

这是一个美国华盛顿的电梯轿厢设备维修工不经意发现的,他按住了紧急停车按键,造成2个商业街的电梯轿厢所有关机,造成上百人受困数钟头。在接着的调研中,发现有百余人定居在电梯井中现有十多年了。

来看,这名thegentlemetre压根没弄清楚电梯轿厢的基本概念,分不清楚电梯轿厢箱和电梯井。并且,一个制动系统按键能操纵周围五百米内的全部电梯轿厢?

那么荒缪的回答,传出没多久就被网民揭穿,还被嘘声——到现在已获得449赞,变成thegentlemetre被关注最大的回帖。

大伙儿可以把它顶那么高,毫无疑问并不是由于认可,只不过是想让任何人看一下,他有多蠢。由于传出当日,绝大多数网民就意识到,它是个智能机器人。

这类古怪的个人行为让文学家Philip Winston觉得猜疑,他系统软件梳理回答內容发现:这名thegentlemetre基本上每一个回答全是6段话,十分合乎GPT-3的转化成方式。

Winston刚开始向thegentlemetre,立即发帖子说,这就是GPT-3在“搞事”。

一位“哲学家AI”在贴子中答复,确定这种回答內容的确源于其App。

暗淡收尾

以后,外国媒体Gizmodo联络来到“哲学家AI”的开发人员Murat Ayfer,他在电子邮件中确定,自身的商品被别人运用了。

有些人反向工程了“哲学家AI”的iOS运用,进而绕开短信验证码,大批量转化成回帖。

如今Ayfer早已升級App修复了系统漏洞。

而Reddit官方网也刚开始封禁thegentlemetre的一部分回帖。thegentlemetre几近消声匿迹,早已好几天沒有发帖子了。

直至昨日,有些人说智能机器人回帖毁坏了社区论坛的公平公正,它一改以往废话连篇说空话,只讲过一句话:你或许是对的。

一场GPT-3在论坛灌水的风波就是这样草草收场。

要不是运用它的人去并不是“放长线钓大鱼”,又或是是用心挑选結果,也许这一回帖智能机器人还难以被发现。

好在这个“哲学家AI”的三观沒有很大难题,在回答有关“自尽”的难题时,沒有太过消沉,导致不能挽留的不良影响。

可是谁又能确保AI之后不容易出岔子呢?

参照连接:https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

非特殊说明,本文由原创资讯网原创或收集发布。

转载请注明本文地址:http://www.acewise.org/kj/1484.html