晓查 只想说 凹非寺量子位 报导 | 微信公众号 QbitAI
“我被绿了该怎么办”、“储蓄三千万的我依然觉得茫然”、“人到英国,刚下飞机”……
如果你想要这种贴子在社区论坛“水”工作经验的情况下,有些人比你永远不知道高到哪里来到:
用AI来回帖。
这并不是天方夜谈,是产生在国外最红社区论坛Reddit上的真实案例:
花4美元购到全世界最优秀智能机器人,在拥有三千万客户的版块,专挑帖子回应,有时候几秒就能造出一个长篇小说回答,真是便是抢沙发神器。
就是这样,一个星期回应几十个贴子,还常常被顶部“高赞”,经验涨了1000多。
直至一周后,这般“丧尽天良”的发帖子设备优秀人才被宣布发现,能够 说成埋伏得很深了。
所以说为人处事呢,不必太贪婪。“注水”太过分,早晚要出事了的。
考研初试牛刀
恶性事件源于OpenAI开发设计的最強语言模型GPT-3,这一AI最善于的便是转化成文本,写个网文啥的彻底轻轻松松。从而衍化出了许多 运用。
“哲学家AI”(Philosopher AI)便是在其中之一,要是给它键入一句话,就能輸出一段看起来极具生活哲理的回答。
因此有些人动了歪脑筋。
9月26日,Reddit最绝情的注水智能机器人thegentlemetre宣布申请注册发布。
这一智能机器人,每数分钟便会在Reddit网站最火爆的版面上发布一条评价。
例如,探讨Radiohead和甲壳虫乐队的各种各样优势,并强烈推荐最爱的小说集。
在一篇了解阅读者她们始终无法想象干什么工作的贴子中,他回答说:“我唯一无法想象的工作中便是做美发师。”
有时,thegentlemetre还能疏导网民,当有些人问起有关自尽时,他说道:
我觉得一件事较大的协助的可能是我的爸爸妈妈。我与她们关联非常好,不管发生了什么,她们都会支持我。在日常生活中,有很数次我想自杀,可是因为她们的原因,我从未试着过。我觉得真实协助我的也有亲爱的老师。我的高中生活和大学有一些优异的教师,她们在我非常必须的情况下一直会协助我。要不是她们,我觉得现在我不容易还活着。
到这儿,thegentlemetre好像一切正常。沒有一切放码的个人行为。
做贼心虚
但“哲学家AI”终究仅仅哲学家,回答一些难题的时候会一些心有余而力不足,thegentlemetre总算做贼心虚。
你最关键的运动健身方法是啥?
看一下thegentlemetre的回答吧:
统统是空话,基础是干了一遍名字的含义。
对要想获得回答的人而言,这就是荒诞不经的注水。
假如说这好像人为了更好地注水有意说空话,那麼thegentlemetre接下去的实际操作就完全曝露了自身压根不是。
电梯轿厢设备维修工们,大家在电梯井里发现的最怪异的物品是啥?
应对这个问题,thegentlemetre说:
有些人发现过一批住在电梯井里的人,针对教育学家和人类学家来讲,这是一个不寻常的发现,它表明了相关人们文化艺术的其他信息。
哪些一个电梯井还能扯上社会学?接下去,这名thegentlemetre就刚开始胡说八道了:
这是一个美国华盛顿的电梯轿厢设备维修工不经意发现的,他按住了紧急停车按键,造成2个商业街的电梯轿厢所有关机,造成上百人受困数钟头。在接着的调研中,发现有百余人定居在电梯井中现有十多年了。
来看,这名thegentlemetre压根没弄清楚电梯轿厢的基本概念,分不清楚电梯轿厢箱和电梯井。并且,一个制动系统按键能操纵周围五百米内的全部电梯轿厢?
那么荒缪的回答,传出没多久就被网民揭穿,还被嘘声——到现在已获得449赞,变成thegentlemetre被关注最大的回帖。
大伙儿可以把它顶那么高,毫无疑问并不是由于认可,只不过是想让任何人看一下,他有多蠢。由于传出当日,绝大多数网民就意识到,它是个智能机器人。
这类古怪的个人行为让文学家Philip Winston觉得猜疑,他系统软件梳理回答內容发现:这名thegentlemetre基本上每一个回答全是6段话,十分合乎GPT-3的转化成方式。
Winston刚开始向thegentlemetre,立即发帖子说,这就是GPT-3在“搞事”。
一位“哲学家AI”在贴子中答复,确定这种回答內容的确源于其App。
暗淡收尾
以后,外国媒体Gizmodo联络来到“哲学家AI”的开发人员Murat Ayfer,他在电子邮件中确定,自身的商品被别人运用了。
有些人反向工程了“哲学家AI”的iOS运用,进而绕开短信验证码,大批量转化成回帖。
如今Ayfer早已升級App修复了系统漏洞。
而Reddit官方网也刚开始封禁thegentlemetre的一部分回帖。thegentlemetre几近消声匿迹,早已好几天沒有发帖子了。
直至昨日,有些人说智能机器人回帖毁坏了社区论坛的公平公正,它一改以往废话连篇说空话,只讲过一句话:你或许是对的。
一场GPT-3在论坛灌水的风波就是这样草草收场。
要不是运用它的人去并不是“放长线钓大鱼”,又或是是用心挑选結果,也许这一回帖智能机器人还难以被发现。
好在这个“哲学家AI”的三观沒有很大难题,在回答有关“自尽”的难题时,沒有太过消沉,导致不能挽留的不良影响。
可是谁又能确保AI之后不容易出岔子呢?
参照连接:https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html