下书看 > 重生1996:我教黄老板做显卡 > 第611章 马上出去给我买显卡!

重生1996:我教黄老板做显卡 第611章 马上出去给我买显卡!

    被当众点名的戴密斯,躲是躲不过去了。

    他叹了一口气,慢吞吞地从椅子上站了起来。

    戴密斯看了一眼暴跳如雷的拉里,又看了看旁边同样脸色铁青的谢尔盖和施密特,脸上露出一丝苦笑,把两只手往外一摊:

    “拉里,你冲我们拍桌子也没用啊。”

    “这件事,真不是我们手底下的研究员偷懒不干活,而是我们从根子上,就走岔了路,而且手里的资源跟人家比,差得太远了!”

    拉里眉头拧成一团,冷声问道:

    “什么叫资源差得太远?我每年给你们批几十亿美金的预算,机房里几十万片自研的tpU芯片随便你们用,你还嫌不够?!”

    “拉里,问题就出在这些tpU芯片和我们的方向上啊!”

    戴密斯苦笑着摇了摇头,干脆把藏在心里好几天的大实话,一股脑儿全倒了出来:

    “咱们先说方向。”

    “前几年,伊利亚还没被马斯克挖走的时候,其实在咱们内部提过,要把模型参数往百亿、千亿级别去堆,搞大力出奇迹的大语言模型。”

    “但是当时咱们管理层是怎么批复的?咱们给直接否了!”

    “为什么否?因为咱们谷歌太有钱了,搜索广告一年赚一千多亿美金,咱们输不起,也丢不起那个人!”

    “大语言模型在没训成熟之前,是会满嘴胡说八道的,高管们担心,万一我们谷歌放出去一个聊天机器人,在往上胡说八道骂脏话,媒体明天就会把我们喷死,广告商立马就会撤资!”

    “所以这几年,谷歌大脑那边只敢搞几亿参数的小模型,拿去悄悄优化一下搜索排名和谷歌翻译;而我们deepmind呢,为了绝对安全、不出公关事故,就把所有的精力全放在了下围棋、打星际争霸游戏、还有算蛋白质结构上面!”

    “说白了,我们在安全区里玩小玩具玩得太舒服了,压根就没人敢去碰千亿参数大模型那个马蜂窝!”

    听到这话,旁边的施密特和谢尔盖脸色都有些尴尬。

    因为前几年否掉大模型提案、要求一切以广告安全为主的,确实就是他们几个高层自己。

    但拉里还是不服气,瞪着眼睛说道:

    “就算以前方向保守了,那你们现在为什么不马上调头?!”

    “我们机房里不是有几十万片自研的tpU吗?你们现在就把数据灌进去,给我用tpU跑一个比他们更大的千亿模型出来啊!”

    “拉里,跑不动的!这就是我要说的最关键的事儿!”

    戴密斯语气里全是无奈和绝望:

    “你老是提我们的自研tpU,可你是不是忘了,当年林哲先生建议我们研发tpU的时候,给我们定的到底是什么路子?!”

    拉里愣了一下:“什么路子?”

    戴密斯一字一句地说道:

    “2013年年底,我们的第一批tpU刚插进机房的时候,林哲先生亲自过来视察过。”

    “当时林哲先生亲口对你们说了一句话:训练用GpU暴力喂模型,推理用tpU低成本应答!”

    “你们当时听完之后,算了一笔经济账,觉得买老黄的英伟达GpU太贵、太费电了,而我们自研的tpU既省电又便宜。”

    “所以这五年来,你们为了省电费,几乎停掉了对英伟达高端训练显卡的大规模采购,把数据中心里全都塞满了我们自研的第一代和第二代tpU!”

    说到这儿,戴密斯摊开双手:

    “拉里,我们机房里的那些tpU,从设计的第一天起,就是专门为了做小模型推理和下围棋算步数而定做的低功耗芯片啊!”

    “它们的精度很低,内存带宽也很窄,就像是一把把切水果的小刀子,拿来给几十亿网民做日常的搜索词匹配、或者下下围棋,确实又快又省电。”

    “可是,想要从零开始,去训练一个像chatGpt那样一千七百五十亿参数的超级巨兽,那不是切水果,那是开山劈石!”

    “拿我们那些低精度的推理tpU去硬跑千亿大模型的训练,通信延迟高得离谱,跑不了一天就会梯度崩溃,根本就喂不出来!”

    拉里、谢尔盖和施密特三个人,全都听傻了!

    他们平时只看财务报表上的芯片数量和电费账单,总觉得自家机房里插着几十万片tpU,算力天下第一。

    直到今天戴密斯把这层窗户纸捅破,他们才猛然惊醒。

    原来自己家里攒的那几十万片芯片,全都是只能干轻活儿的水果刀,根本就不是用来炼大模型的重型大炮!

    “那……那伊利亚他们用的是什么?!”谢尔盖声音发颤地问了一句。

    戴密斯深吸了一口气,伸手指了指圣何塞的方向,眼神里带着掩饰不住的羡慕与忌惮:

    “伊利亚?你们知道那个光头脚底下踩着的是什么吗?!”

    “他脚下踩着的,是林哲的纪元公司总部地下负三层机房!”

    “在那间五个足球场大的地下机房里,整整插着八万张,你们没听错,是整整八万张老黄今年刚流片出来的、最新一代Volta架构的tensor core企业级训练显卡!!”

    “那是老黄和林哲专门为了训练千亿、万亿级大模型而打造的工业级重炮!单卡算力和显存带宽,比我们的tpU强了十倍都不止!”

    “八万张最新一代的顶级训练卡,用超高速液冷管道连成一个整体,一天二十四小时不计成本地暴力训练了整整大半年,这才把那个一千七百五十亿参数的Gpt底座给炼了出来!”

    戴密斯看着脸色惨白的三位老板,苦笑着总结道:“拉里,在人工智能这个新战场上,没有那么多花里胡哨的技巧,拼的就是绝对的算力!”

    “人家伊利亚开着八万匹马力的重型坦克在高速公路上狂飙,而我们手里只有一堆用来买菜的省电自行车!”

    “在这种绝对的算力代差面前,我们谷歌大脑现在手里最大的语言模型,参数量只有区区三亿多,连人家一千七百五十亿参数的零头都比不上!这仗你让我们拿头去打啊?!”

    戴密斯这一番话一出,整个顶楼大会议室里,一片安静。

    三亿参数,对阵人家的一千七百五十亿参数!

    差了五百多倍!

    这就好比别人已经造出航空母舰开到你家大门口架起导弹了,你低头一看自己手里的家伙事儿,居然还是一根削尖了的木头棍子!

    施密特双腿一软,直接跌坐进了旁边的椅子里,嘴里喃喃自语道:

    “怪不得……怪不得2013年的时候,林哲让我们谷歌专心搞低成本的推理tpU,而他自己却在纪元公司的地下三层,偷偷摸摸攒了十几万张老黄的顶级训练显卡……”

    “他早就知道会有今天!他从六年前甚至十年前开始,就把真正能卡死大模型命脉的训练算力底座,全锁在他自己一个人的保险柜里了!”

    拉里·佩奇站在主位前,胸口剧烈起伏。

    作为技术出身的创始人,他完全听懂了戴密斯的话。

    不是手底下的工程师笨,也不是谷歌没数据,而是他们没枪没炮啊!

    没有老黄最新一代的tensor core企业级GpU,没有几万张显卡组成的暴力训练集群,谷歌就算把全世界的博士全招进来,也绝对造不出能跟chatGpt打擂台的千亿大模型!

    而只要造不出自己的大模型,最多再过半年,谷歌搜索的流量就会被chatGpt吸干,他们统治了二十年的搜索广告帝国,就会彻底变成一堆废墟!

    “买卡!!马上出去给我买显卡!!”

    拉里·佩奇彻底慌了神,再也顾不上什么省电费、算成本了,他大声咆哮道:

    “埃里克!从今天起,公司所有的冗余开支全部砍掉!账上不是还有一千多亿美金的现金储备吗?全都给我动起来!”

    “你现在就带人去圣克拉拉的英伟达总部!去找黄仁勋!”

    “我不管一张卡是卖三万美金还是五万美金,给我先买十万张!不,买十五万张老黄最新的训练显卡回来!”

    “只要谁能给我们谷歌弄来现货显卡,哪怕溢价一倍我也认!快去!!”

    看着已经彻底陷入算力恐慌的拉里·佩奇,施密特连眼泪都快急出来了,只能连滚带爬地冲出会议室去调集资金。

    然而,拉里和施密特根本不知道的是。

    被chatGpt吓破了胆、发了疯一样挥舞着支票本冲向英伟达的,可远远不止苹果和谷歌这两家!