下书看 > 重生1996:我教黄老板做显卡 > 第579章 苏念的隐忧

重生1996:我教黄老板做显卡 第579章 苏念的隐忧

    听到闺女这个天真的想法。

    苏念苦笑着摇了摇头,伸手打开了桌上那个黑色文件夹,从里面抽出一沓算满了红色数字的报表,直接拍在了林念的键盘旁边。

    “免费给全国十亿网民日常用?”

    “小念,这就是我要说的第二个大麻烦了。”

    “你是个管训练算法的副总指挥,你光知道把模型训得越聪明越好,可你算过这玩意儿真要放开给十亿人用,咱们得掏多少电费和硬件钱吗?”

    林念低头看了一眼桌上那张报表,满脸疑惑:“电费?能要多少电费啊?”

    “老妈,咱们这五个月训练盘古一号,十万张国产NpU卡日夜不停地转,算上电费和机房折旧,一共也就花了几千万美金而已,咱们家又不是掏不起这笔钱。”

    “训练是训练,日常使用是日常使用,这完全是两码事!”

    苏念指着报表上的加粗红字,耐心地给闺女算起了经济账:

    “你和陈博士搞出来的这个盘古一号,是个一千七百五十亿参数的稠密大模型(dense model)。”

    “什么叫稠密大模型?你自己比谁都清楚。”

    “意思就是,哪怕一个普通用户,在微信对话框里只跟它说一句最简单的早上好,或者让它算一道一加一等于几的小学数学题。”

    “咱们后台机房里的服务器,也必须把这一千七百五十亿个参数,从头到尾、一个不落地全部激活、全部算上一遍,才能蹦出那几个字的回答来!”

    林念点了点头:“对啊,transformer的稠密架构本来就是这么工作的嘛,有什么问题吗?”

    “问题大了去了!”

    苏念拿起桌上的铅笔,敲了敲报表底下的汇总数字,声音都加重了几分:

    “小念,你在机房里搞内测演示,同一时间也就十几个人、几十个人在敲键盘问问题,十万张NpU卡当然轻轻松松就能扛住。”

    “可一旦你把接口放开给微信和淘宝呢?”

    “现在微信和手机淘宝每天的日活用户,加起来差不多有十个亿!”

    “哪怕这十亿人里,每天只有一亿人觉得好奇,每个人只跟盘古聊上十句话,那就是一天十亿次的千亿参数全量推理计算!”

    苏念把陈博士算出来的测算结果翻开,指给林哲和林念看:“前两天,我和陈博士专门在机房里做过极限压力模拟测算。”

    “首先第一点,是硬件根本扛不住!”

    “现在美国人用FdpR规则把台积电的代工路子给堵死了,咱们国内的先进制程芯片,完全是处于封锁状态,高端算力卡是用一张少一张,坏一张就彻底没一张!”

    “咱们北京和贵州两个地下机房里,满打满算也就十万张主力国产NpU加速卡,外加之前方舟计划偷偷运回来的那几万张老黄的显卡。”

    “要是真敢对十亿网民全量开放,哪怕只开放三天,那海啸一样的并发请求涌进来,咱们现有的这十万张卡,当场就会被活活挤瘫痪、烧报废!”

    听到显卡会被烧报废,林念脸色顿时变了,赶紧护住自己的电脑,小声说道:

    “那……那要是限制一下人数,慢慢扩容呢?”

    “就算硬件能抗住,电费和成本账也根本算不过来!”

    苏念翻到下一页报表,指着上面的单次成本数字说道:“陈博士算得很清楚,因为这一千七百五十亿参数的模型太笨重了,它每在屏幕上蹦出一个字,后台都要有几十张算力卡同时满负荷狂转。”

    “折算下来,网友每跟盘古聊一句话,光是我们机房烧掉的工业电费、液冷散热水费、还有昂贵的芯片寿命折旧费,成本就高达好几毛钱人民币!”

    “回答一句话几毛钱,看着好像不多是吧?”

    “可你乘以十亿人、乘以每天几百亿次的日常闲聊试试?!”

    “普通老百姓在网上搜个菜谱、聊个八卦、问个天气,本来就是图个免费乐呵,你根本不可能向他们收钱。”

    “如果全部免费开放,光是每天给全国网民陪聊烧掉的电费和算力成本,就是一个高达几个亿的天文数字!”

    “这么烧下去,别说赚钱了,不出一年时间,能把阿里、腾讯、百度、京东这四家巨头一整年的净利润,连同裤衩子一块儿给烧得干干净净!”

    书房里一下子安静了下来。

    林念彻底听傻了。

    她张着小嘴,低头看着报表上那一串串用红笔圈出来的恐怖数字,半天没回过神来。

    她从小在林哲的宠爱下长大,零花钱都是几千万美金起步,搞科研要显卡,老爸直接把整个机房权限给她打开,她从来就没为钱和电费这种俗事儿发过愁。

    在她脑子里,只要把世界上最聪明的模型写出来,那就万事大吉了。

    直到今天老妈把这笔实打实的柴米油盐账拍在桌子上,她才第一次意识到:

    原来自己辛辛苦苦喂出来的这个盘古一号,居然是个连bAtJ四大巨头加在一块儿都养不起的超级败家子!

    “一……一句话就要几毛钱电费?一年能把马化腾和马云他们全烧破产?!”

    林念咽了口唾沫,伸手抓了抓自己的头发,一脸苦相地说道:

    “这可咋整啊老妈?!”

    “底座明明已经跑通了,聪明得一塌糊涂,结果既不能拿出去开发布会打老外的脸,又因为太贵太重,连给自己家老百姓日常聊天都用不起!”

    “那我这大半年带着几百号博士熬夜脱发,岂不是白忙活了吗?总不能把这么厉害的盘古一号锁在地下机房里吃灰吧?!”

    林念越想越郁闷,撅着嘴转过头,可怜巴巴地看向坐在太师椅上的林哲:

    “老爸!你最聪明了,你快拿个主意啊!咱们总不能真让盘古在机房里当宅男吧?”

    苏念也合上了文件夹,转头看向林哲,眼神里带着几分询问:“是啊老林,现在国内的情况就是这么个情况。”

    “对外不能高调露头,怕招来华盛顿疯狗一样的极限制裁;对内受限于先进芯片封锁和天价的推理电费,没办法像以前的移动App那样搞免费全网普及。”

    “这下一步的棋到底该怎么走,你这个当家的大老板,今天晚上可得给我们娘俩拿个准章程出来。”

    面对老婆和闺女的目光。

    林哲却没有半点发愁的样子,他慢条斯理地端起手边的大麦茶,美滋滋地喝了一大口。

    他放下茶杯,看着一脸焦急的林念,又看了看神色凝重的苏念,扑哧一声笑了出来:

    “我当是多大的事儿呢,把你们娘俩愁成这样。”

    “老婆,你刚才那两条分析,算是说到点子上了,一针见血!”

    “这恰恰证明了一件事:幸亏咱们家小念把盘古跑通得早,提前帮咱们把大模型太贵、太烧电、容易招恨这几个大坑给踩出来了!”

    林念一愣:“啊?踩坑了你还高兴?”

    “那当然得高兴了!”

    林哲站起身,双手背在身后,在温暖的书房里慢悠悠地踱了两步,嘴角露出一抹老狐狸般的坏笑:

    “既然咱们已经知道了,千亿参数的稠密大模型是个谁用谁破产的无底洞,还是个容易招惹疯狗的活靶子……”

    “那咱们干嘛要自己扛着这个大雷去硬上呢?”

    林哲停下脚步,转过身,手指头往西边大洋彼岸的方向轻轻一点,笑眯眯地说道:

    “你们是不是忘了,在太平洋对岸的旧金山,我还养着一个叫萨姆·奥尔特曼和伊利亚的团队呢?”

    “咱们国内缺先进显卡、心疼电费、还怕华盛顿查水表。”

    “可人家硅谷和华尔街那边,有的是印钞机印出来的美金,有的是人傻钱多、哭着喊着想往AI风口里冲的金融大鳄啊!”

    “既然这出头鸟这么危险,这电费账单这么贵,那咱们就干脆来一招明修栈道,暗度陈仓,让大洋彼岸的美国人,去帮咱们当这个出头鸟、掏这笔天价电费不就完事了吗?!”