学霸从谈恋爱开始 第七十九章 论文之争
美国,旧金山,斯坦福大学,一座安静的公寓内。
曼宁正疑惑地看着他眼前西装革履的男人。
“皮埃尔,你作为ACL的领域主席之一,不好好干你的工作,跑到我这来干什么?”曼宁问道。
“曼宁教授,我是想让您帮我过目一篇论文。”皮埃尔如实说道。
“皮埃尔,我想你应该明白,我虽然是ACL的会员,但我并不是很在意这个身份。”曼宁头也不回地说道:“而且你并没有和我预约时间,今天是我和我夫人难得的周末,我不希望任何事情打扰到我和她的约会。”
皮埃尔只得尴尬地笑着,曼宁这话不但有些指责他的突然登门,而且还有些轻视ACL的意思。
然而,皮埃尔一点脾气都没有,如曼宁刚刚所说,曼宁是真的一点不在乎ACL会员的身份,毕竟曼宁不但是ACL最高荣誉会员,还是AAAI和ACM等多个人工智能顶会或者国际组织的最高荣誉会员,在别人眼中抢破头才能拿到的最高荣誉会员,在曼宁眼里,也就那么回事。
反而是ACL非常在意曼宁这位大佬,这位大佬的名字挂在ACL的官网上,都能让ACL含金量提高不少。
再说了,要是惹曼宁这位大佬不高兴了,甚至曼宁都不需要特地做什么,只要论文投稿的倾向稍微往其他会议倾斜一下,那都够ACL喝一壶了,要知道,每年曼宁实验室的论文是多少顶会顶刊都求之不得的。
总之,不能惹这位大佬不开心。
一切为了ACL!
皮埃尔觉得自己真的是个尽忠职守的领域主席。
“曼宁教授,拜托了,这篇论文事关重大,很可能会轰动整个人工智能领域,如果有您的认定,ACL那边也更放心不是么。在看到这篇论文的时候,我第一时间就想起了您,因为您在自然语言处理中对注意力机制的运用非常巧妙,您或许能给这篇论文下一个中肯的评价。”皮埃尔哀求道。
“很遗憾,皮埃尔,这些称赞对我可没什么用,而且我和夫人马上就要出发了,或许你可以下周来找我。”曼宁摇了摇头,再度拒绝。
皮埃尔一阵苦笑,这位大佬一向是非常温和的,而且很好说话,平常甚至都不太会拒绝别人的要求,但只要涉及到他夫人的事情的时候,总像变了一个人一样。
深情的男人真难对付啊。
“我搞不明白有什么需要我评价的,难道你们审稿人吵起来了?”曼宁正把衣服一件件塞到行李箱里,开玩笑般地说道。
想不到这句话正好戳中皮埃尔的痛处:“快打起来了。”
“这么夸张?”曼宁诧异道。
ACL虽然也是采用盲审制度,但毕竟不是像AAAI那样两轮盲审,还有个领域主席这种润滑剂一样的存在和审稿人们一起讨论,怎么会到这种地步。
“不过就算天塌下来了,也不能阻止我和我夫人的约会。”曼宁继续收拾着行李。
“曼宁教授,我向您保证,不会耽误您和您夫人的约会,您只要看上两眼,五分钟就好,这篇论文的意义重大,很可能会影响人工智能领域的走向啊。先生,我还记得您在前年的学术会议上说的,人工智能是人类科技的一个皇冠,而注意力机制是皇冠上的一颗璀璨的宝石,然而至今为止还无人能鉴赏这颗宝石的美……但现在这颗宝石就在这里,就在您手里啊。”
皮埃尔不死心的话让曼宁的动作一顿,他早听说ACL的领域主席一个个能说会道,今天总算是体会到了。
皮埃尔充满期待地看着曼宁,而曼宁则一脸纠结。
“曼宁教授,写这篇论文的是ELMo的作者,Fei Su。”皮埃尔看曼宁仍然犹豫不决,又添了一把火。
曼宁听到这个名字,眉头一挑,盯着皮埃尔的眼睛,他沉默了好一会儿,最终长叹一口气,道:“就五分钟。”
“我向您保证,先生!”皮埃尔笑着把论文递了过去。
“Attention is all you need?”
看到这个标题,曼宁就是一惊。
他在看到这个题目的瞬间便被吸引住了,这种有些狂妄的态度,不愧是那个构建出ELMo的天才。
曼宁一点也不觉得这个有些高傲的论文题目有什么问题,相反,他觉得天才就该如此,不趁着年轻的时候狂妄,难道等老了以后悲春伤秋?
“构建新的模型单元?”
“仅用注意力机制?”
曼宁刚读完论文概要,便开始惊呼,这是多少人尝试过或正在尝试却无法成功的事情。
这个本科生……步子是否迈的太大了?
曼宁不禁有些为苏飞担忧,天才且狂妄是好事,但狂妄不代表鲁莽,学术还是要一步一步来的。
但很快,他就再也没有这种想法了。
越往下看他越心惊,大概过了十分钟,曼宁把行李箱放到一旁,眉头紧锁着,一动不动地盯着这篇论文。
用位置向量引入位置信息以此解决无序问题?
多头注意力机制解决信息单一问题?
十分大胆而巧妙的想法!
曼宁发现他根本找不出什么可以改进的地方,硬要说的话,那就是这次的论文,读起来不是很顺畅,有一些语法瑕疵,比起上次的ELMo那篇论文,感觉英文写作水平下降了一些。
当然,这些都是可以忽略的小问题。
曼宁继续往下看,作者给出了这个模型在机器翻译上的评分和所用时间,性能上远远超出了现在所有的主流模型。
再下面一部分还有作者附带的理论证明,企图通过数学的角度,来解释这样构建模型的依据。
在深度学习中,大多数人都讲不清原理,毕竟深度学习是个黑盒。
但这篇论文却能大概讲清楚原理,虽然在很多地方还是存在经验性的判断,但比起深度学习这个领域的其他论文,已经好很多了。
上次的ELMo也是,这个小小的本科生好像总是很较真,给人一种非得把道理讲清楚不可的感觉。
而且更有趣的是,上次把模型取名为埃蒙,这次取名为变形金刚……
有意思,这个作者真的很有意思。
曼宁不禁会心一笑。
“曼宁教授,如何?”
皮埃尔从刚才开始就一动不敢动地站着,脚都有些僵硬了。
“完美。”曼宁夸赞道,但随即他又有些疑惑:“我想ACL的审稿人们不会连这种水平的论文都看不出来吧,这有什么可争论的?”
皮埃尔叹了一口气,道:“这次的审稿人里有埃德温教授。”
“呵呵,又是这些无聊的蝇营狗苟。”
曼宁冷笑一声,他差不多猜出了事情的全貌。
埃德温他是知道的,这人本事是有,在ACL里也有不小话语权,但太注重利益,一门心思根本不在学术上。
而且碰巧的是,埃德温也是研究注意力机制的,但苏飞这篇论文已经把注意力机制连根拔走了,如果Transformer一旦过稿,埃德温手里的论文可能就刊登不出去了。
所以,八成就是埃德温拼命找茬不给过稿,想拖延时间,等自己手里的论文入库,再松口。
这也是AAAI和ACL等审稿制度的弊端,虽然宁缺毋滥的筛选方法保证了论文的高含金量,但是只要审稿人里有人存心想搞事情,那这次审稿就别想安宁了。
“皮埃尔,也是辛苦你了。”
曼宁悠悠地叹了口气,看来这次皮埃尔来,就是想寻求自己的帮助。
“一切都是为了ACL吧。”
毕竟如果到时候这种打压论文的丑闻传出去,埃德温肯定名誉尽失,但ACL的名誉也好不到哪去。
皮埃尔觉得自己为了ACL真是操碎了心。
不过,最重要的是,没人希望这种划时代的论文因为一己之私受到这种不公平的待遇。这种能推动整个人工智能领域前进的成果要是真的被成功打压,皮埃尔只会觉得人工智能玩完了,学术界也玩完了。
这也是另外两个审稿人和皮埃尔达成的共识,既然埃德温死不松口,一定要找茬,那就偷偷找曼宁这个在ACL中地位超然的人,让曼宁大佬来做个公正的评判。
“让ACL那边重新分配下审稿人吧,就说这篇论文我亲自来审,替换掉埃德温。如果埃德温有意见让他亲自来跟我谈。”
皮埃尔听到曼宁的这句话,内心的一块石头终于落地。
至于埃德温敢来找曼宁吗?他敢个p!
曼宁这种学阀头头,身上挂的终身荣誉数都数不清,埃德温也就敢在自己这个领域主席面前横一横,在曼宁面前敢说个不么。
“感谢曼宁教授,那么我就不打扰了,祝您和您的夫人玩的开心。”皮埃尔道谢后便直接离开了。
曼宁看了看时钟,叹了口气,现在该考虑的是该怎么哄夫人了。
…
…
远在大洋彼岸另一端的苏飞可完全不知道这场因为他的这篇论文而引发的斗争。
在这天,他被叫到了老赵办公室,一是因为接到了华大的保研录取通知,二则是因为收到了一封邀请函。
而这次被赵文兵叫来办公室的主要原因就是这封邀请函。
这是AAAI2022年论文发表会的邀请函。
在AAAI2022年收录的论文中,挑选其中的优质论文,合并为论文集,并邀请作者们前来进行论文发表,不只是AAAI,这算是各大顶会每年的传统节目。
“苏飞,你可是江大至今第一个被AAAI邀请的本科生啊。”
老赵一脸自豪地拍了拍苏飞的肩膀,周围的老师们也是颇为钦佩地看着苏飞。
多少人都盼着被AAAI这种顶尖学术会议邀请,他们江大这几年除了那一批知名的教授和零星几个特别优秀的博士生,哪有人有这种殊荣。
“还是赵哥你培养的好!”苏飞拍了拍老赵的马屁。
“害,从你入学开始我就一直关注着你,一看你就不是普通人,打小看你行!”老赵听到苏飞的句话,乐得眉开眼笑,配上那微胖的身材,活像个弥勒佛。
“那你小子准备啥时候动身?”赵文兵问道。
“我没准备去啊。”苏飞说道。
???
“这么好的机会你不准备去?万一能夺得AAAI年度最佳论文呢?而且今年AAAI会议地址被定在京城,要是往年还得出国,多难得。”赵文兵不解。
“没机会的,今年有SSD那篇论文,我没啥希望。”苏飞如实说道。
“SSD……但你不试着争一争么?”
赵文兵有些替苏飞感到惋惜。
如果说苏飞的ELMo是自然语言处理领域的新时代,那么SSD就是计算机视觉目标检测领域的新时代,而且好巧不巧的是,无论ELMo还是SSD都投在了今年的AAAI上,这两个新时代的造物自然是今年AAAI年度最佳论文的最大竞争者,其他论文都得往边上靠。
其实论两者的模型结构和性能,ELMo完全不输于SSD,甚至在创新性上还要优于SSD,但很可惜的是SSD是计算机视觉领域的论文,而ELMo是自然语言处理领域,在如今的人工智能界,后者要比前者弱势很多。
因为自然语言处理领域的很多算法都是抄袭计算机视觉的,就像是跟着计算机视觉屁股后面吃饭,给人一种拾人牙慧的感觉。
所以,与其说是ELMo输给了SSD,倒不如说是自然语言处理输给了计算机视觉。
这其实也算是苏飞不想研究自然语言处理的一个原因,在别人后面总结归纳再创新当然也是一个很不错的选择,但他想要走在最前面。
“太可惜了啊。”赵文兵叹了口气:“要是你投今年的ACL,肯定能拿下最佳论文。”
额,我还真投了ACL,只不过不是这篇……
但话又说回来了,要是当时想投ACL,那就赶不上保研,所以说,这就是个死结。
苏飞早就看开了,他今年和AAAI的年度最佳论文没有缘分,但凡希望大点他都会去争取一下,毕竟顶会的最佳论文,含金量是很高的,对未来的学术发展用处不小。
不过就算是今年的ACL,竞争也不小啊,姜大小姐的那个JGAN,也是一个强有力的竞争对手,当然,苏飞完全不觉得自己会输。
“今年还真是藏龙卧虎啊。”
他不禁感叹道。
曼宁正疑惑地看着他眼前西装革履的男人。
“皮埃尔,你作为ACL的领域主席之一,不好好干你的工作,跑到我这来干什么?”曼宁问道。
“曼宁教授,我是想让您帮我过目一篇论文。”皮埃尔如实说道。
“皮埃尔,我想你应该明白,我虽然是ACL的会员,但我并不是很在意这个身份。”曼宁头也不回地说道:“而且你并没有和我预约时间,今天是我和我夫人难得的周末,我不希望任何事情打扰到我和她的约会。”
皮埃尔只得尴尬地笑着,曼宁这话不但有些指责他的突然登门,而且还有些轻视ACL的意思。
然而,皮埃尔一点脾气都没有,如曼宁刚刚所说,曼宁是真的一点不在乎ACL会员的身份,毕竟曼宁不但是ACL最高荣誉会员,还是AAAI和ACM等多个人工智能顶会或者国际组织的最高荣誉会员,在别人眼中抢破头才能拿到的最高荣誉会员,在曼宁眼里,也就那么回事。
反而是ACL非常在意曼宁这位大佬,这位大佬的名字挂在ACL的官网上,都能让ACL含金量提高不少。
再说了,要是惹曼宁这位大佬不高兴了,甚至曼宁都不需要特地做什么,只要论文投稿的倾向稍微往其他会议倾斜一下,那都够ACL喝一壶了,要知道,每年曼宁实验室的论文是多少顶会顶刊都求之不得的。
总之,不能惹这位大佬不开心。
一切为了ACL!
皮埃尔觉得自己真的是个尽忠职守的领域主席。
“曼宁教授,拜托了,这篇论文事关重大,很可能会轰动整个人工智能领域,如果有您的认定,ACL那边也更放心不是么。在看到这篇论文的时候,我第一时间就想起了您,因为您在自然语言处理中对注意力机制的运用非常巧妙,您或许能给这篇论文下一个中肯的评价。”皮埃尔哀求道。
“很遗憾,皮埃尔,这些称赞对我可没什么用,而且我和夫人马上就要出发了,或许你可以下周来找我。”曼宁摇了摇头,再度拒绝。
皮埃尔一阵苦笑,这位大佬一向是非常温和的,而且很好说话,平常甚至都不太会拒绝别人的要求,但只要涉及到他夫人的事情的时候,总像变了一个人一样。
深情的男人真难对付啊。
“我搞不明白有什么需要我评价的,难道你们审稿人吵起来了?”曼宁正把衣服一件件塞到行李箱里,开玩笑般地说道。
想不到这句话正好戳中皮埃尔的痛处:“快打起来了。”
“这么夸张?”曼宁诧异道。
ACL虽然也是采用盲审制度,但毕竟不是像AAAI那样两轮盲审,还有个领域主席这种润滑剂一样的存在和审稿人们一起讨论,怎么会到这种地步。
“不过就算天塌下来了,也不能阻止我和我夫人的约会。”曼宁继续收拾着行李。
“曼宁教授,我向您保证,不会耽误您和您夫人的约会,您只要看上两眼,五分钟就好,这篇论文的意义重大,很可能会影响人工智能领域的走向啊。先生,我还记得您在前年的学术会议上说的,人工智能是人类科技的一个皇冠,而注意力机制是皇冠上的一颗璀璨的宝石,然而至今为止还无人能鉴赏这颗宝石的美……但现在这颗宝石就在这里,就在您手里啊。”
皮埃尔不死心的话让曼宁的动作一顿,他早听说ACL的领域主席一个个能说会道,今天总算是体会到了。
皮埃尔充满期待地看着曼宁,而曼宁则一脸纠结。
“曼宁教授,写这篇论文的是ELMo的作者,Fei Su。”皮埃尔看曼宁仍然犹豫不决,又添了一把火。
曼宁听到这个名字,眉头一挑,盯着皮埃尔的眼睛,他沉默了好一会儿,最终长叹一口气,道:“就五分钟。”
“我向您保证,先生!”皮埃尔笑着把论文递了过去。
“Attention is all you need?”
看到这个标题,曼宁就是一惊。
他在看到这个题目的瞬间便被吸引住了,这种有些狂妄的态度,不愧是那个构建出ELMo的天才。
曼宁一点也不觉得这个有些高傲的论文题目有什么问题,相反,他觉得天才就该如此,不趁着年轻的时候狂妄,难道等老了以后悲春伤秋?
“构建新的模型单元?”
“仅用注意力机制?”
曼宁刚读完论文概要,便开始惊呼,这是多少人尝试过或正在尝试却无法成功的事情。
这个本科生……步子是否迈的太大了?
曼宁不禁有些为苏飞担忧,天才且狂妄是好事,但狂妄不代表鲁莽,学术还是要一步一步来的。
但很快,他就再也没有这种想法了。
越往下看他越心惊,大概过了十分钟,曼宁把行李箱放到一旁,眉头紧锁着,一动不动地盯着这篇论文。
用位置向量引入位置信息以此解决无序问题?
多头注意力机制解决信息单一问题?
十分大胆而巧妙的想法!
曼宁发现他根本找不出什么可以改进的地方,硬要说的话,那就是这次的论文,读起来不是很顺畅,有一些语法瑕疵,比起上次的ELMo那篇论文,感觉英文写作水平下降了一些。
当然,这些都是可以忽略的小问题。
曼宁继续往下看,作者给出了这个模型在机器翻译上的评分和所用时间,性能上远远超出了现在所有的主流模型。
再下面一部分还有作者附带的理论证明,企图通过数学的角度,来解释这样构建模型的依据。
在深度学习中,大多数人都讲不清原理,毕竟深度学习是个黑盒。
但这篇论文却能大概讲清楚原理,虽然在很多地方还是存在经验性的判断,但比起深度学习这个领域的其他论文,已经好很多了。
上次的ELMo也是,这个小小的本科生好像总是很较真,给人一种非得把道理讲清楚不可的感觉。
而且更有趣的是,上次把模型取名为埃蒙,这次取名为变形金刚……
有意思,这个作者真的很有意思。
曼宁不禁会心一笑。
“曼宁教授,如何?”
皮埃尔从刚才开始就一动不敢动地站着,脚都有些僵硬了。
“完美。”曼宁夸赞道,但随即他又有些疑惑:“我想ACL的审稿人们不会连这种水平的论文都看不出来吧,这有什么可争论的?”
皮埃尔叹了一口气,道:“这次的审稿人里有埃德温教授。”
“呵呵,又是这些无聊的蝇营狗苟。”
曼宁冷笑一声,他差不多猜出了事情的全貌。
埃德温他是知道的,这人本事是有,在ACL里也有不小话语权,但太注重利益,一门心思根本不在学术上。
而且碰巧的是,埃德温也是研究注意力机制的,但苏飞这篇论文已经把注意力机制连根拔走了,如果Transformer一旦过稿,埃德温手里的论文可能就刊登不出去了。
所以,八成就是埃德温拼命找茬不给过稿,想拖延时间,等自己手里的论文入库,再松口。
这也是AAAI和ACL等审稿制度的弊端,虽然宁缺毋滥的筛选方法保证了论文的高含金量,但是只要审稿人里有人存心想搞事情,那这次审稿就别想安宁了。
“皮埃尔,也是辛苦你了。”
曼宁悠悠地叹了口气,看来这次皮埃尔来,就是想寻求自己的帮助。
“一切都是为了ACL吧。”
毕竟如果到时候这种打压论文的丑闻传出去,埃德温肯定名誉尽失,但ACL的名誉也好不到哪去。
皮埃尔觉得自己为了ACL真是操碎了心。
不过,最重要的是,没人希望这种划时代的论文因为一己之私受到这种不公平的待遇。这种能推动整个人工智能领域前进的成果要是真的被成功打压,皮埃尔只会觉得人工智能玩完了,学术界也玩完了。
这也是另外两个审稿人和皮埃尔达成的共识,既然埃德温死不松口,一定要找茬,那就偷偷找曼宁这个在ACL中地位超然的人,让曼宁大佬来做个公正的评判。
“让ACL那边重新分配下审稿人吧,就说这篇论文我亲自来审,替换掉埃德温。如果埃德温有意见让他亲自来跟我谈。”
皮埃尔听到曼宁的这句话,内心的一块石头终于落地。
至于埃德温敢来找曼宁吗?他敢个p!
曼宁这种学阀头头,身上挂的终身荣誉数都数不清,埃德温也就敢在自己这个领域主席面前横一横,在曼宁面前敢说个不么。
“感谢曼宁教授,那么我就不打扰了,祝您和您的夫人玩的开心。”皮埃尔道谢后便直接离开了。
曼宁看了看时钟,叹了口气,现在该考虑的是该怎么哄夫人了。
…
…
远在大洋彼岸另一端的苏飞可完全不知道这场因为他的这篇论文而引发的斗争。
在这天,他被叫到了老赵办公室,一是因为接到了华大的保研录取通知,二则是因为收到了一封邀请函。
而这次被赵文兵叫来办公室的主要原因就是这封邀请函。
这是AAAI2022年论文发表会的邀请函。
在AAAI2022年收录的论文中,挑选其中的优质论文,合并为论文集,并邀请作者们前来进行论文发表,不只是AAAI,这算是各大顶会每年的传统节目。
“苏飞,你可是江大至今第一个被AAAI邀请的本科生啊。”
老赵一脸自豪地拍了拍苏飞的肩膀,周围的老师们也是颇为钦佩地看着苏飞。
多少人都盼着被AAAI这种顶尖学术会议邀请,他们江大这几年除了那一批知名的教授和零星几个特别优秀的博士生,哪有人有这种殊荣。
“还是赵哥你培养的好!”苏飞拍了拍老赵的马屁。
“害,从你入学开始我就一直关注着你,一看你就不是普通人,打小看你行!”老赵听到苏飞的句话,乐得眉开眼笑,配上那微胖的身材,活像个弥勒佛。
“那你小子准备啥时候动身?”赵文兵问道。
“我没准备去啊。”苏飞说道。
???
“这么好的机会你不准备去?万一能夺得AAAI年度最佳论文呢?而且今年AAAI会议地址被定在京城,要是往年还得出国,多难得。”赵文兵不解。
“没机会的,今年有SSD那篇论文,我没啥希望。”苏飞如实说道。
“SSD……但你不试着争一争么?”
赵文兵有些替苏飞感到惋惜。
如果说苏飞的ELMo是自然语言处理领域的新时代,那么SSD就是计算机视觉目标检测领域的新时代,而且好巧不巧的是,无论ELMo还是SSD都投在了今年的AAAI上,这两个新时代的造物自然是今年AAAI年度最佳论文的最大竞争者,其他论文都得往边上靠。
其实论两者的模型结构和性能,ELMo完全不输于SSD,甚至在创新性上还要优于SSD,但很可惜的是SSD是计算机视觉领域的论文,而ELMo是自然语言处理领域,在如今的人工智能界,后者要比前者弱势很多。
因为自然语言处理领域的很多算法都是抄袭计算机视觉的,就像是跟着计算机视觉屁股后面吃饭,给人一种拾人牙慧的感觉。
所以,与其说是ELMo输给了SSD,倒不如说是自然语言处理输给了计算机视觉。
这其实也算是苏飞不想研究自然语言处理的一个原因,在别人后面总结归纳再创新当然也是一个很不错的选择,但他想要走在最前面。
“太可惜了啊。”赵文兵叹了口气:“要是你投今年的ACL,肯定能拿下最佳论文。”
额,我还真投了ACL,只不过不是这篇……
但话又说回来了,要是当时想投ACL,那就赶不上保研,所以说,这就是个死结。
苏飞早就看开了,他今年和AAAI的年度最佳论文没有缘分,但凡希望大点他都会去争取一下,毕竟顶会的最佳论文,含金量是很高的,对未来的学术发展用处不小。
不过就算是今年的ACL,竞争也不小啊,姜大小姐的那个JGAN,也是一个强有力的竞争对手,当然,苏飞完全不觉得自己会输。
“今年还真是藏龙卧虎啊。”
他不禁感叹道。