谷歌一直以来都被认为是AI的黄埔军校,很牛逼。
即使谷歌暂时看起来失利,也只是暂时的。
但是最近,GPT-4却狠狠打脸谷歌了。
事情要从谷歌旗下的DeepMind最近发表的一篇Nature论文说起。
我们都知道,能够发Nature是非常有影响力的事情。
最近的这篇Nature 论文被誉为谷歌继AlphaGo之后的神来之笔。
谷歌通过强化学习的办法,发现了神来之笔,让排序算法提高了70%的效率, 被誉为史上最强排序算法。
既然能够在Nature上发出来,这显然是一篇非常牛逼的论文了,至少同行们是这么觉得的。
而且不仅仅如此,这个发现让10年都没有更新的LLVM标准C++库都为此更新了。可见,的确很牛逼。
谷歌表示,这次巨大发现使用的AI名字叫做AlphaDev,和当年的AlphaGo的发明者同根同源,一样牛逼。
这个AlphaDev是从最底层的汇编指令开始摸索,通过强化学习的方法,有了这样伟大的发现。
一时间大家都说谷歌果然是黄埔军校,谷歌AI果然最牛逼。
然后,打脸的事情就来了。
这个发现的人是University of Wisconsin Madison的一个Associate Professor,名字叫Dimitris Papailiopoulos。
他发现,只要给GPT-4合适的prompt,GPT-4就发现了和谷歌Nature论文划时代的sorting里面一样的东西。
Dimitris表示,完全不需要强化学习啊,那“我能发一篇Nature吗?”
这真的是一个良心拷问的问题。
如果一个合适的prompt就可以让GPT-4自动发现谷歌被誉为最牛逼的算法变革的话,而后者则是用强化学习不断实验得出来的,那么到底是谷歌的AI比较垃圾,还是GPT-4太牛逼了呢?
这个问题真的非常考验Nature的编辑委员会了。
按理来说,这个发现绝对值得发一篇Nature啊。但是实际上估计是发不了Nature的。
除非教授能够告诉大家,他是怎么样“系统”的找到合适的prompt,让GPT-4能这么牛逼的找到这个发现的。
所以AI很多时候还是玄学,只不过炼丹现在变成了炼prompt。
能够发现牛逼的prompt,就可以很容易轻松的发Nature的时代,或者至少很快的发现足够在Nature上发论文的成果的时代到来了。
那么谷歌自己家的Bard是不是有同样的牛逼,能够同样自动发现这个东西呢?
我到目前为止没有看到有人在Bard上重现了同样的发现。
所以,我是不是可以下结论说,GPT-4确实非常的牛逼,领先谷歌的Alpha-Zero不知道多少个数量级呢?
也难怪,OpenAI的CEO Sam Altman被问到,OpenAI什么时候开放GPT-4模型的时候,Sam每次都不愿意给出具体的回答。
要知道,GPT-4这个模型,不仅仅是没开放源代码,甚至它的报告里面都没有讲,模型到底什么怎么训练出来的。
但是Sam Altman在一次访谈中给了另外一个回答。他表示,在大模型领域,不开源的私有模型,会始终比开源模型更牛逼。因为就是更牛逼。
即使有人能够复现GPT-4现在用的秘密,那个时候GPT也一定已经有了更多更牛逼的炼丹技巧。
真的不知道他的信心怎么来的。
但是毫无疑问,我觉得GPT-4的模型训练过程的价值,应该值至少10篇Nature论文。
所以我们也不要怪Sam Altman死守商业机密,死活不肯公开了。
所以我们也不要怪Jeff Dean对谷歌的AI研究人员说,你们以后也不要随便公开谷歌的AI研究秘密了。
所以,以后更牛逼的AI的研究,真的成了机密了,不再为所有全人类共享了。这真的是个悲哀。
但是不管怎么样看,GPT-4确实相当的牛逼,谷歌的这篇基于强化学习发现的牛逼的Sorting算法的Nature论文,也的确被证明是一篇傻逼Nature。
毕竟,我GPT-4根本不需要任何强化学习,就直接解决问题了,我还是一个通用的大模型,你AlphaDev却需要强化学习,去解决一个专有的问题。
你说AlphaDev和GPT-4比起来,岂不是和傻逼一样?
那这篇Nature论文,的确也就是一篇傻逼论文了,因为它揭秘的研究方法,在GPT-4面前,毫无价值。
本文首发微信公众号:飞总聊IT