返回

第一百九十九章 五百卡?起步

首页
关灯
护眼
字:
上一章 回目录 下一页 进书架
    第一百九十九章 五百卡?起步 (第1/2页)

    下午,韩路一终於见到了第一天入职的江松然。

    两人在十三楼找了一个空会议室。

    简单的客套了两句,江松然就忍不住问起了工作:「韩总,今天上午赵总带我看了一遍进度,说实话,我很震惊,比你在医院给我看的那些成果更惊人。」

    韩路一知道江松然已经看过源智科技藉助智能体能达到什麽效率了。

    这是在短时间之内追赶英伟达的CUDA生态,把不可能变为可能的关键。

    拿出几个算子的适配成果,很牛,但不能改变行业。

    拿出一个能稳定快速完成算子适配的系统,那就不一样了。

    江松然的眼界能看出来这意味着什麽。

    但是同时,韩路一也好奇江松然作为一个AIInfra专家能给源智科技带来什麽。大的方向上他已经想好了,要做到两点。

    一是拥有自己的训练和推理栈数据跑在别人的云上,他不放心。

    二则是使用国产化替代这是一件一举两得的事,首先英伟达的卡因为种种原因,他就根本买不到;其次他有能力也有动力率先完成算力的国产化替代,如果能做到,不仅自己的数据中心的问题解决了,也能打开更广阔的国内政企市场。

    但是方向定好了,具体实施还需要实际在这个行业里做过的人才。

    这也是为什麽江松然对源智科技这麽重要的原因。

    江松然是行业大佬,技术深厚不假,但是他对源智科技最大的价值其实在於另外一点:江松然在之前的那家创业公司是做一号员工、高管的,他有过把数据中心从零到一搭建起来的经历,而且他的经验横跨软体和硬体。

    这样的人才远比一个技术大牛更加稀缺。

    可以说,他对源智的重要性远远高於他对鼎盛、崑仑的重要性。

    那些大云服务供应商都已经有了丰富的数据中心管理经验,江松然去了那里,顶多是带来一些新的视角,在某些方面带来一些提升,但不能有什麽本质上的突破。

    但是江松然来到源智科技,直接把源智科技在硬体管理上的空白给填补上了。

    所以韩路一才会这麽慷慨,直接给了2%的期权奖励。

    这可是视哥认证的金色传说!

    江松然可能赚了,但韩路一绝对不亏。

    既然江松然提起了,韩路一就直接问道:「江博士,我们现在要做的是尽快拥有自己的推理栈和训练栈,我一期计划的是五百张卡,这个采购量在国产卡里不算大,哪家都拿的出来,但是具体从哪买,买来能做到什麽程度,我还想听听你的意见。」

    这个数字韩路一在医院的时候就已经和江松然透露过了,江松然也早就做好了准备他知道入职之後韩路一是一定会问的,他不打无准备之仗。

    「韩总,我回去看过了,现在市面上最先进的国产卡能做到400TFLOPS,如果只是推理的话,五百张支撑十万日活绰绰有余。」江松然说,「基於标注数据的後训练,虽然勉强,但也能做。但是要做预训练,是远远不够的。」

    TFLOPS(TeraFLOPS, Trillion Floating—point Operations Per Second)是衡量计算机算力的单位,中文是「每秒一万亿次浮点运算」。因为GPU的强项就是进行浮点数学运算,如果把每个GPU都比作一辆跑车的话,TFLOPS就是它仪表盘上的最高时速。

    用N卡体系来举例的话,游戏玩家的梦中情卡RTX5090在AI实际用的精度下大概能做到200TFLOPS,而专业用於AI训练的英伟达B200型号显卡,能达到单卡2250

    TFLOPS的恐怖算力。

    韩路一点了点头,这和他设想的没有出入。

    「而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但是,非CUDA生态显卡集群的管理难度和CUDA生态是完全不一样的,五百张国产卡,全国能把训练栈跑通的不超过三家。」

    说完,江松然露出略微骄傲的神色:「有我在,我有信心源智科技是其中一家。」

    韩路一对此倒是不怀疑,毕竟他招江松然进来,就是要他干这个的。

    他接着问道:「

    (本章未完,请点击下一页继续阅读)
上一章 回目录 下一页 存书签