首页 科技 正文

北航成为AAAI 2021的最大赢家,并因两部作品获得最佳论文和提名。

杨净 发自 凹非寺量子位 报道 | 公众号 QbitAI

本地时候2月4日,AAAI 2021最好论文奖出炉!

由AAAI 2021轨范委员会主席Mausam在开幕式上公布,共有3篇论文获得了最好论文奖。

和3篇获得最好论文提名(Runners Up奖)。

值得留意的是,在这6篇获奖论文中,有两篇均是北航学子担负第一作者,单从标题问题即可看出,研究均与Transformer相干。

△Best Papers

△Best Papers Runners Up

北航成最大年夜赢家

起首,获得最好论文奖的是“Informer: Beyond Efficient Transformer for Long SequenceTime-Series Forecasting”。

第一作者来自北航的Haoyi Zhou,由北航、UC伯克利、罗格斯大年夜学和北京国网富达公司配合协作完成。

本文设计了一种专为LSTF(长序列时候序列猜测)设计的基于Transformer模子Informer,来解决Transformer在利用于LSTF时存在一些严重的问题。

好比二次时候复杂度、较高的内存利用量和编解码器布局的固有限制等。

Informer具有三个显著特点:接纳ProbSparse自存眷机制、自留意力提炼、生成式解码器。

△Informer模子

除此之外,还有两篇论文获得了最好论文奖。

个中一篇是来自华人团队,名为“Mitigating Political Bias in Language Models Through Reinforced Calibration”。

第一作者是来自达特茅斯学院较量争论机科学系的Ruibo Liu,主要研究是颠末历程强化校准来减轻措辞模子中政治成见问题。

和来改过加坡科技设计大年夜学的论文,叫做Exploration-Exploitation in Multi-Agent Learning: Catastrophe Theory Meets Game Theory。

研究了一个Q-learning的光滑模拟,以灾害理论与博弈理论相连络,增强Exploration-Exploitation这一东西在多署理进修(MAL)中的理解。

而获得最好论文Runners Up奖的三篇论文中,“Self-Attention Attribution:Interpreting Information interactions inside transformer”的一作Yaru Hao一样来自北航 。

二作是来自微软亚洲研究院的董力。

本文提出了自留意力归因算法,来诠释Transformer内部的信息交互,并以BERT为例进行了普遍的研究。

起首,提取各层中最突出的依托关系,构建归因图,揭露Transformer内部的层次交互关系。

别的,还利用自留意力归因法来辨认主要的留意力头,而其他的留意力头被修剪,而性能唯一边际下落。

最后,归因后果作为匹敌性模式来实现对BERT的非方针抨击打击。

别的,还有来自加州大年夜学伯克利分校、德克萨斯大年夜学奥斯汀分校等团队的“Learning From Extreme Bandit Feedback”论文,研究了在极端大年夜的动作空间环境下,从Bandit Feedback中进行批量进修的问题。

和,来自哈佛大年夜学、卡内基梅隆大年夜学的团队的论文“Dual-Mandate Patrols: Multi-Armed Bandits for Green Security”。

第一作者是来自哈佛大年夜学的Lily Xu,切磋了若何行使强化进修的Multi-armed Bandit算法,来避免偷猎者危险野活跃物。

AAAI 2021开幕

本届AAAI大年夜会以线上会议的形式召开,大年夜会主席由微众银行首席人工智能官、喷香港科技大年夜学传授、迁徙进修带头人杨强担负。

杨强传授是 AAAI 大年夜会汗青上第二位大年夜会主席,也是担负此职位的首位华人。

本次会议共领受了1696篇,领受率近21.4%,个中有70.6%是学生论文。

中国大年夜陆论文总数依然占有榜首,共提交了3319篇论文,个中627篇论文被领受,领受率为19.0% 。

在各个奖项上,华人显露超卓,斩获四项大年夜奖。

包孕北航的两篇在内,共有4个华人团队的论文获得了最好论文、最好论文亚军的奖项。

还有来自深圳市较量争论机视觉与模式辨认重点尝试室、南方科技大年夜学等团队的论文获得了卓异论文奖。

别的,还有来自微软亚洲研究院的两位学者Xiting Wang和吴方照获得了卓异SPC奖。

大年夜会将一向延续到2月9日结束,想体会更多细节可戳下方链接哦~

大年夜会链接:https://aaai.org/Conferences/AAAI-21/最好论文/亚军链接:https://arxiv.org/pdf/2012.03083.pdfhttps://arxiv.org/pdf/2009.12947.pdfhttps://arxiv.org/pdf/2004.11207.pdfhttps://arxiv.org/pdf/2012.07436.pdfhttps://arxiv.org/abs/2009.06560https://www.aaai.org/AAAI21Papers/AISI-8076.LiuR.pdf

非特殊说明,本文由原创资讯网原创或收集发布。

转载请注明本文地址:http://www.acewise.org/kj/2209.html