第487章 Transformer架构(3/3)
“搞科研这种事,必须得把人的傲气先给熬没了。”
“伊利亚那帮人,一个个心高气傲,全都是名校出来的天才。”
“他们觉得靠自己的脑子,几个月就能搞定自然语言处理。”
“现在好了,被一个简单的顺序卡得欲仙欲死。”
“语言这东西,太奇妙了。”
“人类读一句话,虽然是一个字一个字看过去的,但人类的大脑会自动联想。”
“看到后面的词,会自动跟前面的词联系起来。”
“但机器不行啊。”
“机器没有直觉。”
“你要想让机器懂,就不能让它一个字一个字地看。”
大卫听得有点懵。
“不一个字一个字看?
那怎么看?”
“一眼全看进去?”
林哲打了个响指。
“对,就是一眼全看进去!”
“不能让机器排队,要让机器同时看到所有的词!”
“让机器自己去算,这句话里,哪个词和哪个词关系最紧密。”
“让词和词之间,自己去产生化学反应。”
这也就是两年后由谷歌团队提出的:
transformer架构。
自注意力机制。
就是这玩意儿,彻底击碎了序列模型的锁链,让GpU的并行算力能够百分之百释放出来。
也让机器第一次拥有了理解长文本的逻辑能力。
不过现在还早,自然看不到。
大卫虽然听不懂具体的技术细节,但他能看懂林哲脸上的表情,他试探着问道:
“老板……您是不是早就知道怎么解决他们那个问题了?”
林哲没有直接回答,而是反问了一句。
“老马最近是不是急得快上吊了?”
大卫连连点头:“可不是嘛,听说天天在办公室里骂人。”
“现在谷歌那边已经开始预热了,AlphaGo要挑战人类围棋冠军,全球的热度全在谷歌那边。”
“openAI这边连个能聊天的话搭子都没搞出来,老马急得嘴上全起泡了。”
林哲笑道:
“火候差不多了。”
“肉炖烂了,该下锅去捞了。”
林哲站起身,拿起自己的外套穿上。
“走,大卫。”
“备车。”
“咱们去一趟旧金山。”
本章已完成!