重生1996:我教黄老板做显卡 第645章 这套路数,怎么听着这么耳熟呢?
热门推荐:
配角上位,听说你老婆很香
北方黑道往事
财阀小甜妻:老公,乖乖宠我
熊族崛起拖后腿熊熊搞笑日记
异界入侵?一把抓住炼化成游戏!
凡骨逆天:系统助我踏九霄
起手叠加亿万倍,邪神也得乖乖跪
徒儿,下山去祸害你师姐吧
留守村妇的艳阳天
机房正中间摆着一张大长桌。
桌上架着八块二十七寸的大显示器,排成了上下两排。
两个年轻程序员,正坐在电脑前头喝冰红茶呢。
林念一阵风似的跑过去,直接凑到了最中间的两块大屏幕跟前。
那两个程序员吓了一跳。
“哎?这小姑娘谁啊?”
跟在后头走过来的梁文锋摆了摆手:“没事,纪元公司派过来做巡检的,让他们看看吧。”
两个程序员哦了一声,往旁边挪了挪屁股,把位置让了出来。
林念这会儿根本没工夫搭理别人。
她双手撑在桌沿上,把脸凑到离屏幕前,瞪大了眼睛往上瞧。
陈博士也快步跟了上来,站在林念身后,扶着眼镜往屏幕上看。
按理说,现在不管是国内还是国外的AI实验室,跑深度学习模型,用的全都是现成的开源软件框架。
像谷歌搞出来的tensorFlow,或者脸书搞出来的pytorch。
这就好比盖房子,别人已经帮你把砖头和水泥预制板做好了,程序员只需要在上面写几行简单的python指令,就能指挥显卡干活。
林念本来以为,这屏幕上打开的,肯定也是这些常见框架的修改版。
可她往屏幕上只扫了一眼,整个人就傻在了那儿!
啥python语言?
啥现成的开源框架?
这八块大屏幕上,连半行她熟悉的常规框架代码都没有!
左边四块屏幕上,密密麻麻滚动着的,全都是最原始、最底层的c语言指针,还有一行接一行让人看了头皮发麻的机器汇编指令!
什么寄存器地址分配、什么物理内存直接读写、什么时钟周期对齐。
全都是最枯燥的十六进制数字和底层硬件符号!
而右边那四块屏幕上,显示的则是这一万张算力卡的实时运行数据面板。
林念目光顺着面板往下看,最后定格在了右下角那个【集群通信效率】的数字上。
【当前在线板卡总数:9860张(纪元一代NpU 6200张 / 二手GpU 3660张)】
【集群矩阵通信同步率:98.14%】
【硬件算力压榨极限值:98.02%】
百分之九十八!
看到这个数字,林念倒吸了一口凉气,转过头跟身后的陈博士对视了一眼。
俩人的脸上,全都是见了鬼一样的表情!
别人不知道这个百分之九十八有多吓人,林念和陈博士心里头可是再清楚不过了!
要知道,半年前在北京的地下超算中心里,他们为了跑通盘古一号,用的可是清一色最新一代的纪元国产NpU大集群!
当时陈博士带着女娲团队的几十号顶尖数学家,熬了一个多月的通宵,把底层的通信协议全重写了一遍,最后也才把最新款NpU集群的并发效率拉到了百分之八十五而已!
那时候林哲在视频里听了,还夸陈博士他们是神仙下凡呢!
可现在呢?
在杭州这栋写字楼里。
货架上插着的,都是六千多张五年前淘汰的纪元旧款NpU,外加三千多张从网吧和二手贩子手里收来的杂牌旧显卡!
这一万张八竿子打不着的破烂货混插在一块儿,居然被这帮人跑出了百分之九十八的通信效率!
这已经不是什么技术好不好的问题了。
“陈叔叔……我没眼花吧?”
林念拉了拉陈博士的袖子,小声嘀咕道:
“前两天在北京看报告的时候,我还以为他们是在论坛上吹牛呢。”
“一万张混搭的旧卡,真让他们干到百分之九十八的物理极限了?!”
陈博士这会儿也是看得目瞪口呆,连话都说不利索了:“没眼花……是真的!”
“小念,你看他们左边屏幕上的代码!”
“他们根本没用任何操作系统的硬件驱动,也没用咱们纪元官方提供的编译工具包!”
“他们自己拿汇编语言,给每一张卡的底层寄存器写了一套点对点的直通指令,直接用纯数学矩阵把一万张卡的时钟脉冲给锁死了!”
听完陈博士的话,林念猛地转过身,看着站在旁边的梁文锋,仿佛在看一个从精神病院跑出来的怪物:
“梁老板!你们团队的人是不是全疯了?!”
“放着市面上现成好用的开源框架不用,你们居然带着人,一行一行去手写最底层的硬件汇编指令?!”
“你知不知道现在硅谷和国内大厂的程序员,最讨厌干的就是写底层汇编?!”
“因为那玩意儿又臭又长,全跟机器底层的0和1打交道,写错一个标点符号整张卡就得死机,把一万张不同型号的旧卡用汇编语言调通,这得累死多少脑细胞啊?你们图啥呀?!”
面对林念的质问。
梁文锋脸上露出了一个淡定的笑容:
“图啥?就图一个字……快!”
梁文锋走到主控台边上,拍了拍旁边程序员的肩膀,笑着跟林念解释起来:
“小林同学,你可能刚从学校出来,还没在真刀真枪的战场上拼过刺刀。”
“我们这帮人,最早是搞股票高频量化交易的!”
“你知道在股市的高频交易里,大家拼的是什么吗?”
“拼的不是谁看得远,拼的是微秒级的反应速度!”
“一秒钟等于一百万微秒。”
“当交易所放出一个买卖信号的时候,全市场的量化私募基金都在同一时间往里冲着抢单子。”
“如果你的程序比别人慢了一百微秒,等你算明白要买哪只股票的时候,肉早就被别人抢光了,你连口汤都喝不上!”
梁文锋伸手指了指电脑屏幕上的那些底层代码,语气里透着一股子狠劲儿:
“在那个按微秒算生死的战场上,市面上所有现成的软件框架,在我们眼里全都是垃圾!”
“为什么?因为那些现成的框架太臃肿、太啰嗦了!”
“你写一行简单的代码,它要在中间经过好几层翻译,才能传到底层的芯片里去,这一来一回,几千微秒就白白浪费掉了!”
“所以从五年前我们刚开始搞量化的时候,我就给团队立下了规矩:把所有现成的软件外壳全给我扒掉!”
“我们要直接跟芯片底层的晶体管对话!哪怕是为了省下一微秒的时间,我们也得自己动手去写最底层的机器汇编指令!”
“后来我们攒了点钱,买不起最新款的算力卡,只能去二手市场把这近一万张旧卡扫回来搭萤火一号的时候,我们也是用的这个笨办法。”
“既然旧卡的带宽窄,现成的框架跑起来全在摸鱼干等,那我们就干脆把框架扔了,十几个人熬了三个月,自己手搓了一套底层的通信汇编和矩阵调度逻辑,硬拿数学公式把这一万张旧卡的潜力给榨干了!”
听完梁文锋这番话。
林念站在原地,小嘴微张!
剥掉所有臃肿的软件外壳!
直接用最纯粹的数学和底层汇编,去跟芯片晶体管对话,把硬件性能压榨到物理极限!
这套路数,怎么听着这么耳熟呢?!
桌上架着八块二十七寸的大显示器,排成了上下两排。
两个年轻程序员,正坐在电脑前头喝冰红茶呢。
林念一阵风似的跑过去,直接凑到了最中间的两块大屏幕跟前。
那两个程序员吓了一跳。
“哎?这小姑娘谁啊?”
跟在后头走过来的梁文锋摆了摆手:“没事,纪元公司派过来做巡检的,让他们看看吧。”
两个程序员哦了一声,往旁边挪了挪屁股,把位置让了出来。
林念这会儿根本没工夫搭理别人。
她双手撑在桌沿上,把脸凑到离屏幕前,瞪大了眼睛往上瞧。
陈博士也快步跟了上来,站在林念身后,扶着眼镜往屏幕上看。
按理说,现在不管是国内还是国外的AI实验室,跑深度学习模型,用的全都是现成的开源软件框架。
像谷歌搞出来的tensorFlow,或者脸书搞出来的pytorch。
这就好比盖房子,别人已经帮你把砖头和水泥预制板做好了,程序员只需要在上面写几行简单的python指令,就能指挥显卡干活。
林念本来以为,这屏幕上打开的,肯定也是这些常见框架的修改版。
可她往屏幕上只扫了一眼,整个人就傻在了那儿!
啥python语言?
啥现成的开源框架?
这八块大屏幕上,连半行她熟悉的常规框架代码都没有!
左边四块屏幕上,密密麻麻滚动着的,全都是最原始、最底层的c语言指针,还有一行接一行让人看了头皮发麻的机器汇编指令!
什么寄存器地址分配、什么物理内存直接读写、什么时钟周期对齐。
全都是最枯燥的十六进制数字和底层硬件符号!
而右边那四块屏幕上,显示的则是这一万张算力卡的实时运行数据面板。
林念目光顺着面板往下看,最后定格在了右下角那个【集群通信效率】的数字上。
【当前在线板卡总数:9860张(纪元一代NpU 6200张 / 二手GpU 3660张)】
【集群矩阵通信同步率:98.14%】
【硬件算力压榨极限值:98.02%】
百分之九十八!
看到这个数字,林念倒吸了一口凉气,转过头跟身后的陈博士对视了一眼。
俩人的脸上,全都是见了鬼一样的表情!
别人不知道这个百分之九十八有多吓人,林念和陈博士心里头可是再清楚不过了!
要知道,半年前在北京的地下超算中心里,他们为了跑通盘古一号,用的可是清一色最新一代的纪元国产NpU大集群!
当时陈博士带着女娲团队的几十号顶尖数学家,熬了一个多月的通宵,把底层的通信协议全重写了一遍,最后也才把最新款NpU集群的并发效率拉到了百分之八十五而已!
那时候林哲在视频里听了,还夸陈博士他们是神仙下凡呢!
可现在呢?
在杭州这栋写字楼里。
货架上插着的,都是六千多张五年前淘汰的纪元旧款NpU,外加三千多张从网吧和二手贩子手里收来的杂牌旧显卡!
这一万张八竿子打不着的破烂货混插在一块儿,居然被这帮人跑出了百分之九十八的通信效率!
这已经不是什么技术好不好的问题了。
“陈叔叔……我没眼花吧?”
林念拉了拉陈博士的袖子,小声嘀咕道:
“前两天在北京看报告的时候,我还以为他们是在论坛上吹牛呢。”
“一万张混搭的旧卡,真让他们干到百分之九十八的物理极限了?!”
陈博士这会儿也是看得目瞪口呆,连话都说不利索了:“没眼花……是真的!”
“小念,你看他们左边屏幕上的代码!”
“他们根本没用任何操作系统的硬件驱动,也没用咱们纪元官方提供的编译工具包!”
“他们自己拿汇编语言,给每一张卡的底层寄存器写了一套点对点的直通指令,直接用纯数学矩阵把一万张卡的时钟脉冲给锁死了!”
听完陈博士的话,林念猛地转过身,看着站在旁边的梁文锋,仿佛在看一个从精神病院跑出来的怪物:
“梁老板!你们团队的人是不是全疯了?!”
“放着市面上现成好用的开源框架不用,你们居然带着人,一行一行去手写最底层的硬件汇编指令?!”
“你知不知道现在硅谷和国内大厂的程序员,最讨厌干的就是写底层汇编?!”
“因为那玩意儿又臭又长,全跟机器底层的0和1打交道,写错一个标点符号整张卡就得死机,把一万张不同型号的旧卡用汇编语言调通,这得累死多少脑细胞啊?你们图啥呀?!”
面对林念的质问。
梁文锋脸上露出了一个淡定的笑容:
“图啥?就图一个字……快!”
梁文锋走到主控台边上,拍了拍旁边程序员的肩膀,笑着跟林念解释起来:
“小林同学,你可能刚从学校出来,还没在真刀真枪的战场上拼过刺刀。”
“我们这帮人,最早是搞股票高频量化交易的!”
“你知道在股市的高频交易里,大家拼的是什么吗?”
“拼的不是谁看得远,拼的是微秒级的反应速度!”
“一秒钟等于一百万微秒。”
“当交易所放出一个买卖信号的时候,全市场的量化私募基金都在同一时间往里冲着抢单子。”
“如果你的程序比别人慢了一百微秒,等你算明白要买哪只股票的时候,肉早就被别人抢光了,你连口汤都喝不上!”
梁文锋伸手指了指电脑屏幕上的那些底层代码,语气里透着一股子狠劲儿:
“在那个按微秒算生死的战场上,市面上所有现成的软件框架,在我们眼里全都是垃圾!”
“为什么?因为那些现成的框架太臃肿、太啰嗦了!”
“你写一行简单的代码,它要在中间经过好几层翻译,才能传到底层的芯片里去,这一来一回,几千微秒就白白浪费掉了!”
“所以从五年前我们刚开始搞量化的时候,我就给团队立下了规矩:把所有现成的软件外壳全给我扒掉!”
“我们要直接跟芯片底层的晶体管对话!哪怕是为了省下一微秒的时间,我们也得自己动手去写最底层的机器汇编指令!”
“后来我们攒了点钱,买不起最新款的算力卡,只能去二手市场把这近一万张旧卡扫回来搭萤火一号的时候,我们也是用的这个笨办法。”
“既然旧卡的带宽窄,现成的框架跑起来全在摸鱼干等,那我们就干脆把框架扔了,十几个人熬了三个月,自己手搓了一套底层的通信汇编和矩阵调度逻辑,硬拿数学公式把这一万张旧卡的潜力给榨干了!”
听完梁文锋这番话。
林念站在原地,小嘴微张!
剥掉所有臃肿的软件外壳!
直接用最纯粹的数学和底层汇编,去跟芯片晶体管对话,把硬件性能压榨到物理极限!
这套路数,怎么听着这么耳熟呢?!