海口软件开发 算力通缩下的“老黄经济学”
雨天周末海口软件开发, 不念念念书不念念学习, 就念念扯淡.
先吐个槽, 最近看到某DPU厂商80亿估值然后因为各式原因玩不下去了的公众号著作, 然后还有一个会还在商议DPU何怎么如的....我还铭刻三四年前和某个机构全部基本上把这些厂家皆调研过, 那时就不时的diss这群东说念主没念念认识, 但似乎几年往时仍是没念念认识.
不外最类似乎念念认识了少许为啥叫DPU了, 从Pradeep在互联网泡沫期间创建的Juniper, 到后头辞职创建Fungible, 其实DPU的道理是从网络需要处理数据的视角界说的, 关联词到自后冉冉演进的进程中, 老黄把DPU的见地踵事增华后, 发现这词仍是有问题, 这不又SmartNIC和DPU皆无法界说, 又开动造出了一个SuperNIC了么?
倒是Tesla东说念主间澄莹的一个DumbNIC讲的很明晰, 大路至简趁机还把HBM-Disaggragation搞了...
回到正题, 在算力通缩情况下, 老黄怎么看守或者进一步冲高到五万亿市值是一个很意旨的话题,是以今天从经济学的角度扯个淡...渣B也没谨慎的读过经济学的书, 另一方面关于建模的量化数据因为合规原因, 没独特据也没特地愿去了解数据, 因此也不作念过多的分析了, 仅仅单纯的扯个淡汉典.
1. 什么是算力通缩上周一篇《把GPU当成一个金融居品怎么加杠杆?》谈到了算力通缩(computility deflation,以下简称CD), 开头咱们来给CD一个界说:
算力通缩(computility deflation,CD):在经济学中, 通货紧缩是指商品和就业总体价钱水平的下跌. 从算力的角度来看, 咱们也不错界说平均1GFLOPS的价钱四肢GPU和算力就业的总体价钱水平.
就算力就业价钱(以租用H100等GPU)的价钱来看, 总体价钱是不才降的. 举例H100的房钱价钱从4好意思元一小时如今降到2好意思元一小时一下. 而从GPU自身的商品价钱来看, 国内一些H100的整机价钱也从早期的300多万降到了220万.
2. 经济学的悖论一般来说, 咱们粗浅的以经济学中的IS-LM模子来看, 也就是说供给增多或者需求下跌或者两者同期发生引起的. 粗浅来说就是供给过量(过量坐褥),需求低迷(消费减少), 或者是信贷紧缩等带来的货币供应减少而产生的.
天然有另一种不雅点是, 通缩和经济中的本事最初联系, 跟着全成分坐褥率的晋升, 商品本钱会下跌. 也就是老黄期待的需要一年一代新卡来诽谤算力架构.
有一个悖论的场地是H100售价3万好意思金,而物料本钱能够唯有3000好意思金, HBM本钱占了2000. 在算力通缩配景下, 怎么能够抓续性的看守高Margin, 同期还能通过不时的迭代增多营收来冲高市值?
归根结底仍是要修起一个问题: 海口软件开发钱从哪儿来, 钱期许的收益率弧线是什么?
从货币供应的角度来看, 针对AI的投资并莫得减缓, OAI这一轮的融资还算通俗, 然后H100/H200的需求还在抓续, 国内各地的“智算中心”模样也还在抓续确凿立中. 然后天下来看Blackwell也供不应求.
关联词反过来看有一个很意旨的不雅点, 到底是谁在为这些投资买单? 钱从哪儿来的?投资酬谢率何如揣摸? 杠杆率是若干?极度是从算力提供方来看, 算力自身由于本事迭代产生贬值额外快(算力就业价钱和算力商品价钱皆在加速下滑), 既然算力通缩配景下, 为什么不延长消费, 再等等新卡? 另一方面关于基础才调参预的杠杆加在什么场地? 使得智算中心确立的ROI怎么诡计?
最近还有一种不雅点是在互联网泡沫期间的基础才调为自后互联网茁壮发展奠定了基础,极度是大宗的海底光纤的本钱在后期是完成收回归了的. 关联词关于智算中心的本钱, 无意要在几年后收回从投资酬谢率的角度是很难, 对此我一直抓比拟负面的格调, 唯有少数几家范围大有可能收回一部分, 关于它们来看, 算力投资的风险并不是太大.
azure, 微软通过OAI投资和更表层的copilot业务收入不错填补, 同期也在布局我方的推理芯片Meta,大宗的H100通过Llama的生态以及里面的保举系统不错摊薄本钱, 同期也有我方的推理芯片AWS Trainium/Google Trillium(TPU)的供应量具体数值不明晰, 关联词至少Google自家的搜索等业务仍是有大宗的算力滥用的.Tesla的自动驾驶, 字节等企业的搜广推以及视频生成等业务上, 大宗的H100的滥用试验上也不会带来很大的赔本.至于各地确立的各式智算中心, 是不是过两年要开动不良财富处置了呢? 不良的界说和订价还分两种情况
1. 不良算力(空格) 财富处置
2. 算力(空格)不良财富处置
即不良算力自身的评估: 先还不要说那些各式以DSA卡确立的算力集群了...粗浅的以NV H系列卡为例, 初期好多东说念主以为买点机器回归插上电给个顾问口IP地址就不错卖了, 然后发现网络确立也需要跟上, 还有就是踏实性和故障运维, 紧接着发现要是要寻推一体, 又要搭一个存储集群, 然后还有互联网带宽...
另一个问题是: 算力通缩和不良算力以及算力不良自身是否有很大的关系, 需要验证一下?
3.算力的杠杆杠杆的产生频频是在时辰维度上带来的, 举例在期货市集上通过保证金来对远期交割物杀青一个左券, 另一方面就是关于大型基础才调确立通过融资租出的格局. 试验上仍是要在近期创造出一个巨大的需求, 然后通过远期相对详情的现款流来完成.
而试验上搞定通缩的措施能够就是: 增多货币供给, 以及扩大总需求.
3.1 Scaling-Law: 需求的创设
最粗浅赫然的需求创设就是老黄经济学中的“The More You Buy, The More You Save”.
从pre-train scaling-law构造了一个繁多叙事: 从千卡的A100到万卡的H100再到10万卡的历练, 但很赫然的是OAI在GPT-5的历练上遭逢了蛮大的拆开. 但在统统这个词杠杆赌局里, 莫得一方会那么容易的平仓认输, 以致于Inference Scaling-law的出现.
另一方面这样的杠杆也在兼并着市集里的玩家, 花一个亿预历练的模子成了贬值最快的商品, 更大的模子有几家跟? 国内所谓6小虎的情况以及前几天刚爆出ST的裁人..
3.2 供应端的流动性紧缩
关于供给过量的问题, 开头来谈一谈存量市集. 其实H100的存量市集中清洗出一多数玩家, 关于H100的估值可能还存在争议, 那么咱们以现阶段对一些A100/A800算力中心的不良财富估值该何如作念? 这些需要探讨算力的时辰价值和资金的时辰价值. 咱们单独放一章来谈.
小程序开发那么咱们来谈另一个话题, 为什么新卡的供应上, 微软等几个巨头要疯抢GB200? 一方面是后一节讲的算力的时辰价值, 新卡出来的前几个月的需求是曲常容或的, 同期带来的流动性溢价会产生更好的短期现款流. 这对算力商品提供方(NV)和算力就业提供方(Azure等)皆是有意的, 关联词前提是要构造出饱和的需求来支付这样的短期现款流,那么也就只可进一步的找一个算力滥用方, 然后通过更远的现款流预期在搞定期限错配的问题.
4.算力的时辰价值既然上了杠杆, 那么资金的本钱和对应的算力通缩下算力的时辰价值就是一个咱们值得探讨的问题.试验上好多机构对大范围投资的短期酬谢冉冉产生质疑和丧失耐烦了, 毕竟ChatGPT也出来快满两年了, 关联词大宗的投资似乎还暂时看不到酬谢.
另一方面跟着时辰的荏苒, 当年抢购的H100冉冉出现商品价钱和就业价钱的快速下滑, 这也让一些算力投资方冉冉感受到了风险, 接下来跟着Blackwell的出现, H100的贬值速率还会进一步加速, 统统这个词H系列的本钱摊销周期似乎和两年前预计的周期也在裁汰.
也就是说试验上算力价钱的TimeDecay速率远高出了当初投资的现款流模子, 这种期限错配产生的不良财富处置, 是一个额外意旨的话题, 关联词就点到截止吧.
5. 谈谈货币投放受限下的算力通缩其实写了这样多并不是说在反对Scaling-Law或者说是看空AIGC, 其实任何新本事的出现皆是丑陋且反直观的, 关联词算力的问题除了基础才调迭代外,更多的仍是需要算法去搞定. 渣B以前的量化算法复杂度从刚开动预计的时候亦然因为诡计复杂度基本上一次全量诡计需要30天控制, 因此从阿谁时候开动就在折腾一些并行诡计的框架, 关联词自后仍是算法上的优化搞定的问题.
而关于这一次AIGC来看, 从根底上我抓有一个怀疑格调是新的数学器用并莫得诈欺于模子之上, 这个径直决定了现时生成式大模子的天花板, 固然现时的天花板饱和高饱和容纳好多念念象空间. 但老是以为那处差别, 举个例子吧, 举例为了网络范围和深度接纳LayerNorm等带来的拜谒内存压力,是否有更好的算法来搞定?
另一方面是基础才调上, 是否有不需要NVLink, 不需要CoWoS, 不需要HBM的基础才调, 哪怕是历练不可, 先撸一下对算力需求相对较低一些的推理场景? 举例苏妈出一个多带少许PCIe接口的多带一些GDDR的家用级显卡, 而且放开GDR, 让一些买不起H100又要作念大模子预计的中小范围团队先用起来,放低一下姿态着实是生态不可, 不谈rocm, 光拿来给NV作念内存池的二奶皆行? 在NV带来的流动性紧缺上绕开CoWoS和HBM, 从而掀开一个打破口, 即即是数据中心卖的不好, 撸掉NV家用卡RTX的市集亦然功德?
能够就瞎扯这样多吧, 其实蛮但愿若干年后, 咱们能对这一场杠杆局作念一些总结和回想, 极度是监管层的视角.历史固然不会粗浅的重叠, 关联词每次皆会押韵.
大小分析：最近5期大号表现活跃，开出了53枚，上期大号走热，开出了11枚，本期适当关注小 号回补，参考大小比10：10。
福彩快乐8第2024175期(上周三)回顾：07 09 12 15 17 19 32 33 40 47 48 49 55 58 62 65 66 69 70 73，其中奖号首尾间距为66，和值为846，最大间距为13，海口软件开发尾数分布为：尾数1、4包含0个号码，尾数6包含1个号码，尾数0、3、8包含2个号码，尾数2、5、7包含3个号码，尾数9包含4个号码。
本文来源：zartbot，原文标题：《算力通缩下的“老黄经济学”》。
风险教唆及免责条目 市集有风险，投资需严慎。本文不组成个东说念主投资提议，也未探讨到个别用户特殊的投资缱绻、财务景况或需要。用户应试虑本文中的任何意见、不雅点或论断是否合乎其特定景况。据此投资，包袱自夸。