第394章 化繁为简,尽在掌控 (第2/3页)
江倾的话,但很快就放弃了。
太难了,完全听不懂……
章若南笑容灿烂,要不是场合不对,她已经忍不住拿出手机来拍照了。
热芭裹在厚厚的伪装下,眼神却亮得惊人,只觉得台上的男人帅的无以复加!
至于景恬,她想去下洗手间……
台上,江倾已经开始了他的分享,语气随意的像在唠家常。
“大家可能都知道,训练一个大模型,就像教一个特别聪明但有点轴的学生。”
他打了个生动的比方,引来台下一阵会意的轻笑。
“按照传统的方法,可能恨不得把解题的每一步思路都掰开揉碎喂给它,告诉它这一步该这样,下一步该那样。”
江倾模仿着严师的样子,逗得大家又笑了起来。
“但我们无问的团队觉得,有时候管的太细,反而会扼杀创造力。所以呢……”
他话锋一转,眼神变得锐利。
“我们换了个思路。我们用了一种叫做GRPO,嗯,大家可以理解为小组相对策略优化的方法。”
江倾故意放慢了语速,确保即使是非专业人士也能跟上他的思路。
“简单说,我们不太关心它中间是怎么想的,是用了九九乘法表还是列了一堆方程式,我们只在乎最后答案对不对。答案对了,就给糖吃,答案错了,就没糖。”
他摊摊手,语气诙谐。
“就这么简单粗暴。”
台下许多技术专家露出了深思的表情。
这种只以最终结果为导向的强化学习方式,听起来简单,但实际操作起来难度极高,需要对奖励信号的设计与优化有极其深刻的理解。
“我们发现,当你只告诉它目标,而不限制路径时,这个学生为了吃到糖,反而会自己琢磨出各种各样,有时甚至我们都没想到的奇妙解题思路。”
江倾笑着指了指自己的脑袋。
“它自我演化出了更高级的推理能力。这叫……嗯,不管黑猫白猫,抓到老鼠就是好猫。”
一句接地气的俗语,引得全场爆发出大笑声。
无论是听懂的技术宅,还是没完全听懂的普通观众,都被这个巧妙的比喻逗乐,同时也理解了核心思想。
姚启智院士边笑边对旁边的黄铁军低声感叹。
“化繁为简,大道至简啊!这个思路,妙!”
“没错,这个思路太惊艳了!”
黄铁军满脸赞同,说话时眼睛也未曾从台上移开过,令姚启智不禁摇头失笑。
江倾等笑声稍歇,继续分享。
“当然,光有思路还不够,还得有个好身板。我们给万象设计了一个新的大脑结构,名为MLA,即多维层级注意力机制。”
他点了点自己的太阳穴。
“这个新结构,效率更高,相当于用更小的脑容量,即参数,干更多的活儿,表现还更好。我们并没有一味地去堆砌参数,追求那个吓人的数字。”
李彦弘闻言,身体微微前倾,眼神认真。
参数规模一直是衡量大模型能力的关键指标之一,无问科技另辟蹊径,在算法与架构优化上取得突破,这意味着更低的训练推理成本,以及更广阔的应用前景。
他低声对身边的马化藤惊叹。
“如果这是真的,商业化的潜力太大了!”
马化藤面色凝重地点点头,手指无意识地在扶手上敲击,快速计算着这其中的影响。
“还有数据。”
江倾的分享并没有停下。
“大家都知道,训练AI需要海量的数据,但不是所有数据都是优质营养。我们的方法呢,更像是炼数据而不是堆数据。”
他做了一个提炼的动作。
“我们有一套技术,能自动从数据的海洋里,把那些最有价值、最精华的片段像淘金一样筛出来,专门喂给模型。这样训练效率自然就大大提升了。”
张一铭听到这里,忍不住深吸了一口气。
数据清洗与标注一直是AI训练中耗时耗力最大的环节之一,无问科技的方法如果真能高效自动化这个过程,价值不可估量。
“最后是工程实现。”
江倾的语气里透着自豪。
“我们的团队搞了个超级工厂流水线,用了诸如3D并行、INT4量化这些技术……”
他看到台下有不少人露出迷茫的表情,立刻笑着摆手。
“好吧,说人话就是,我们想办法让成千上万的显卡更高效地协同工作,减少浪费,让计算速度更快,同时还能省电省成本。这样最终出来的产品,大家用起来才会觉得又快又便宜嘛。”
他用最朴素的语言解释了极其复杂的工程优化,让非专业观众也能理解其带来的好处。
更低的延迟,更低的成本。
台下,来自全球顶尖科技公司与研究机构的工程师、专家学者,已经听得如痴如醉,不时发出低声的惊叹。
“只以最终答案正确性作为奖励……这太大胆了!”
“MLA架构?从来没听过,看
(本章未完,请点击下一页继续阅读)