字:
关灯 护眼
优秀小说 > 华娱2021:他不是搞科技的吗 > 第394章 化繁为简,尽在掌控

第394章 化繁为简,尽在掌控

    第394章 化繁为简,尽在掌控 (第2/3页)

江倾的话,但很快就放弃了。

    太难了,完全听不懂……

    章若南笑容灿烂,要不是场合不对,她已经忍不住拿出手机来拍照了。

    热芭裹在厚厚的伪装下,眼神却亮得惊人,只觉得台上的男人帅的无以复加!

    至于景恬,她想去下洗手间……

    台上,江倾已经开始了他的分享,语气随意的像在唠家常。

    “大家可能都知道,训练一个大模型,就像教一个特别聪明但有点轴的学生。”

    他打了个生动的比方,引来台下一阵会意的轻笑。

    “按照传统的方法,可能恨不得把解题的每一步思路都掰开揉碎喂给它,告诉它这一步该这样,下一步该那样。”

    江倾模仿着严师的样子,逗得大家又笑了起来。

    “但我们无问的团队觉得,有时候管的太细,反而会扼杀创造力。所以呢……”

    他话锋一转,眼神变得锐利。

    “我们换了个思路。我们用了一种叫做GRPO,嗯,大家可以理解为小组相对策略优化的方法。”

    江倾故意放慢了语速,确保即使是非专业人士也能跟上他的思路。

    “简单说,我们不太关心它中间是怎么想的,是用了九九乘法表还是列了一堆方程式,我们只在乎最后答案对不对。答案对了,就给糖吃,答案错了,就没糖。”

    他摊摊手,语气诙谐。

    “就这么简单粗暴。”

    台下许多技术专家露出了深思的表情。

    这种只以最终结果为导向的强化学习方式,听起来简单,但实际操作起来难度极高,需要对奖励信号的设计与优化有极其深刻的理解。

    “我们发现,当你只告诉它目标,而不限制路径时,这个学生为了吃到糖,反而会自己琢磨出各种各样,有时甚至我们都没想到的奇妙解题思路。”

    江倾笑着指了指自己的脑袋。

    “它自我演化出了更高级的推理能力。这叫……嗯,不管黑猫白猫,抓到老鼠就是好猫。”

    一句接地气的俗语,引得全场爆发出大笑声。

    无论是听懂的技术宅,还是没完全听懂的普通观众,都被这个巧妙的比喻逗乐,同时也理解了核心思想。

    姚启智院士边笑边对旁边的黄铁军低声感叹。

    “化繁为简,大道至简啊!这个思路,妙!”

    “没错,这个思路太惊艳了!”

    黄铁军满脸赞同,说话时眼睛也未曾从台上移开过,令姚启智不禁摇头失笑。

    江倾等笑声稍歇,继续分享。

    “当然,光有思路还不够,还得有个好身板。我们给万象设计了一个新的大脑结构,名为MLA,即多维层级注意力机制。”

    他点了点自己的太阳穴。

    “这个新结构,效率更高,相当于用更小的脑容量,即参数,干更多的活儿,表现还更好。我们并没有一味地去堆砌参数,追求那个吓人的数字。”

    李彦弘闻言,身体微微前倾,眼神认真。

    参数规模一直是衡量大模型能力的关键指标之一,无问科技另辟蹊径,在算法与架构优化上取得突破,这意味着更低的训练推理成本,以及更广阔的应用前景。

    他低声对身边的马化藤惊叹。

    “如果这是真的,商业化的潜力太大了!”

    马化藤面色凝重地点点头,手指无意识地在扶手上敲击,快速计算着这其中的影响。

    “还有数据。”

    江倾的分享并没有停下。

    “大家都知道,训练AI需要海量的数据,但不是所有数据都是优质营养。我们的方法呢,更像是炼数据而不是堆数据。”

    他做了一个提炼的动作。

    “我们有一套技术,能自动从数据的海洋里,把那些最有价值、最精华的片段像淘金一样筛出来,专门喂给模型。这样训练效率自然就大大提升了。”

    张一铭听到这里,忍不住深吸了一口气。

    数据清洗与标注一直是AI训练中耗时耗力最大的环节之一,无问科技的方法如果真能高效自动化这个过程,价值不可估量。

    “最后是工程实现。”

    江倾的语气里透着自豪。

    “我们的团队搞了个超级工厂流水线,用了诸如3D并行、INT4量化这些技术……”

    他看到台下有不少人露出迷茫的表情,立刻笑着摆手。

    “好吧,说人话就是,我们想办法让成千上万的显卡更高效地协同工作,减少浪费,让计算速度更快,同时还能省电省成本。这样最终出来的产品,大家用起来才会觉得又快又便宜嘛。”

    他用最朴素的语言解释了极其复杂的工程优化,让非专业观众也能理解其带来的好处。

    更低的延迟,更低的成本。

    台下,来自全球顶尖科技公司与研究机构的工程师、专家学者,已经听得如痴如醉,不时发出低声的惊叹。

    “只以最终答案正确性作为奖励……这太大胆了!”

    “MLA架构?从来没听过,看

    (本章未完,请点击下一页继续阅读)
『加入书签,方便阅读』