CPU VPS 被边缘化？一块 H100 卖 25 万，GPU 云如何重塑数据中心

先看几个让人血压升高的数字：一块英伟达 H100 显卡，2023 年最疯狂的时候在二手市场被炒到超过 4 万美元，相当于一辆入门级汽车；哪怕到了 2026 年，正规渠道买一张新卡也要 2.5 万到 4 万美元，国内现货价更是常年挂在 20 万到 55 万元人民币。更夸张的是，这样一块"显卡"，每天 24 小时在数据中心里烧着 700 瓦的电，一秒钟都停不下来，因为全世界排队等它的人已经从 2022 年排到了今天。

这跟买 VPS 有什么关系？关系大了。过去十年我们聊"租服务器"，默认租的是 CPU 算力——便宜、够用、管够。可 ChatGPT 引爆 AI 热潮之后，全球机房的风向彻底变了：大家开始疯狂抢购的不是 CPU 服务器，而是 GPU。今天这篇文章，就带你看看这场算力大迁徙到底是怎么发生的，以及作为一个预算有限的普通人，你能从中占到什么便宜。

延伸阅读

更多相关攻略推荐：2026 游戏服 VPS 怎么选：高主频 CPU、内存与 DDoS 、2026 高主频 CPU VPS：单核性能、建站与游戏服的隐藏指标、用几台便宜 VPS 组 k3s / Docker Swarm 容器集、2026 存储型/大硬盘 VPS：备份、网盘与冷数据的性价比之选、【VPS 硬件选型指南 (CPU 篇) 01】突发 CPU 与限速：。

为什么 AI 非得用 GPU？一万六千个"流水线工人"吊打十几个"博士生"

要理解 GPU 云为什么这么火，先得搞懂一个核心问题：CPU 和 GPU 到底差在哪。

打个比方。CPU 像一个极其聪明的博士生，擅长干复杂但步骤清晰的事；GPU 更像一整支流水线工人，单个智商不高，但人多到吓人。处理一桌菜时，博士生会一道道精心烹饪，而 GPU 工厂直接上万号人一起切菜、洗菜、颠勺。AI 训练恰恰就是这么个"粗糙但海量"的活：大模型的核心运算说白了就是海量矩阵乘法——把几万亿个数字排成矩阵，然后反复相乘相加。这种计算单个不难，但量大得离谱，靠"博士生"一个个算，得算到天荒地老。

数字最直观。桌面级旗舰 CPU，比如英特尔的酷睿 i9，也就 24 核 32 线程，顶天了算几十个"脑子"；而一块 H100 GPU 里藏着 16896 个 CUDA 核心——你没看错，一万六千八百九十六个。H100 用上了 800 亿个晶体管，2022 年 3 月发布，单卡就能在 1 秒内跑出近 4000 万亿次（FP8 精度）浮点运算。正是因为这种碾压级的并行能力，从 2022 年之后，全世界的 AI 训练几乎清一色绑在了英伟达 GPU 上。

顺带说一句，英伟达早就把"算力"做成了独家生意。CUDA 这套软件生态从 2006 年就开始铺，十几年沉淀下来，主流 AI 框架几乎全部围绕它开发，几千个库、几百万开发者都长在它的土壤上。别家硬件再便宜，想跑通整个生态就得先翻过这堵网络封锁——这就是护城河。

一块 H100 凭什么卖 25 万？显卡荒与市值神话

搞清楚"GPU 值钱"，再来看 GPU 到底有多贵。英伟达这几年数据中心显卡的换代节奏，基本就是一张"价格阶梯表"：

• H100（2022 年发布，Hopper 架构）：80GB 显存，带宽 3.35TB/s，功耗 700 瓦。新卡官方报价 2.5 万到 4 万美元；2023 到 2024 年最紧俏时，二手和黄牛渠道一度喊到 4 万美元往上。
• B200（2024 年发布，Blackwell 架构）：显存翻到 192GB，带宽 8TB/s，功耗直接破千（1000 瓦），单卡约 3 万到 4 万美元。
• GB200 NVL72：把 72 块 B200 加 36 颗 CPU 塞进一个机柜整卖，报价 200 万到 300 万美元——没错，现在算力是按"机柜"卖的。

到了 2026 年，局面依然紧张：H100 二手价从巅峰的 4 万美元回落到 1.2 万到 1.8 万美元，但新卡依旧坚挺；一年期租赁合约的价格在 2025 年 10 月到 2026 年 3 月之间还涨了大约四成，全球按需算力一度售罄。英伟达的股价就是这波需求的缩影：2023 年 5 月市值破 1 万亿美元，2024 年 6 月冲到 3.3 万亿，一度把微软挤下全球市值第一的宝座，2026 年 3 月稳定在 4.4 万亿美元左右——一家卖显卡的公司，比绝大多数国家的股票市场加起来还值钱。

这背后还有一层硬约束：HBM 高带宽内存和台积电的先进封装产能根本供不上。英伟达一家就占掉 CoWoS 先进封装产能的六成，卡造得出来、封装封装不过来，缺货的紧箍咒短期内就摘不掉。微软一家就部署了超过 60 万块 H100 级显卡，大厂把货都囤走了，小团队只能去云上排队。

传统 VPS 商家为什么碰都不碰 GPU？

看到这里你可能会问：便宜 VPS 商家那么多，怎么没见 RackNerd、Contabo 们上架 GPU？答案很简单：这笔账算不过来。

传统 VPS 的生意模式是"超售"。一台 32 核、64GB 内存的物理服务器，切成几十个小 VPS 卖出去，绝大多数用户常年吃灰，CPU 占用率长期在个位数，一份硬件能卖十几份钱，利润就是这么抠出来的。GPU 完全是另一个物种：不能超售、闲置即亏损、耗电吓人、散热苛刻，四个坑每一个都能要了便宜 VPS 商的命。

• 成本：一块 H100 的采购价抵得上十几台 CPU 服务器整机，一台八卡 GPU 服务器动辄几十万美元起步。
• 电力：单卡 700 瓦起步，满载机柜的功率是普通机柜的十几倍，电费账单直接起飞。
• 散热：风冷压不住，得上液冷，改造一间机房的成本每兆瓦就要几百万美元。
• 客户：付得起 GPU 时薪的客户，和买 20 美元年付 VPS 的客户，根本不是一群人，营销和售后体系全得重来。

所以现实就是：便宜的 CPU VPS 市场继续卷价格，GPU 算力则被一群"算力新贵"接管——它们的机房、电力、客户群，从第一天起就是按 AI 设计的。

AI 机房长什么样？10kW 风冷机柜进化成 100kW+ 液冷巨兽

一台 H100 要 700 瓦，一台 B200 直接 1000 瓦——这是什么概念？家用电磁炉最大也就 2000 瓦，等于说一个机柜里塞进去上百台"电磁炉"同时全开。传统机房一个机柜的功率密度大概 5 到 10kW，风冷吹一吹就凉快了；而 GB200 NVL72 这类新机柜，整柜功率飙到 120 到 140kW，短时峰值甚至冲到 155kW，是传统机柜的十几倍。业内有个冷知识：目前全世界大约只有 1% 的数据中心能接得住 100kW 以上的机柜。

风冷在 1000 瓦的单卡面前彻底失灵，液冷成了刚需。英伟达甚至在 2026 年直接推广 45 摄氏度的"温水冷却"方案——热到能泡脚的水直接流进机柜，把 GPU 的热量带走。之所以这么抠，是因为冷却系统最高能吃掉数据中心四成的电，而在 AI 时代，电力本身就成了最稀缺的资源：有券商测算，电力成本已经占到国内数据中心运营成本的一半以上。Google、亚马逊这些巨头甚至开始自建核电站和燃气电厂，就为了喂饱自家 AI 机房。买 GPU 现在是拼钱，租机房现在是拼电。

算力新贵崛起：按小时租，按秒计费

说回我们普通用户最关心的：钱。既然买不起，租就是了。而"租 GPU"这个市场，被一群 2018 年前后冒出来的新玩家彻底玩明白了。

Lambda Labs、RunPod、Vast.ai 这些"算力新贵"的价格打法非常凶残：H100 按需租用，全市场均价大约每小时 2.3 美元，最便宜的 Vast.ai 甚至能压到 1 美元上下；RunPod 的 H100 大约 2.7 到 3.3 美元每小时，还按秒计费——跑 10 秒收 10 秒的钱。对比一下传统云巨头：AWS 的 H100 实例要 6.88 美元每小时，Azure 更夸张，12 美元往上。同样的芯片，价格能差出 4 倍。这就是为什么越来越多人绕开大厂，直接去这些新平台薅羊毛。

最有意思的是 Vast.ai：它是个点对点市场，把全世界手里闲置的 RTX 4090、3090 甚至 A100 都拉出来挂牌出租，你租到的可能是某家公司办公室角落里的一台服务器。想再省钱，还有 spot 实例——算力随时可能被平台回收，但价格能再砍一半。对训练任务来说，只要做好断点续传，性价比极高。

预算有限怎么用 GPU？普通开发者的算力攻略

最后落到实操。作为一个预算有限的个人开发者，你的算力路线图应该是这样的：

• 第一步：白嫖。Google Colab 免费送 T4 显卡（16GB 显存），每周大概能用 15 到 30 个 GPU 小时；Kaggle 每周也有 30 小时免费 GPU 额度。学深度学习、跑小模型，一分钱不用花。
• 第二步：消费卡上云。想微调 7B 左右的小模型，其实用不着 H100。RTX 4090 在 Vast.ai 上低至每小时 0.13 美元，3090 更是只要 8 美分。一个 7B 模型的 LoRA 微调跑 6 个小时，花 7 到 12 美元就搞定了。
• 第三步：真要大算力，再上 H100。按需租、用 spot、跑完就关机。RunPod 新用户送 10 美元体验金，Lambda 送 15 美元，够你试好几个通宵。

但也别被"AI 焦虑"带偏：如果你只是调 API、跑个小模型推理、做批处理，一块 20 美元一年的 CPU VPS 完全够用。什么时候坚持 CPU VPS，什么时候必须租 GPU，判断标准其实很简单——任务能不能在几分钟内算完、模型装不装得进 16GB 显存。装得进，先用免费和便宜方案；装不进、等不起，再考虑按小时烧钱。

尾声：算力格局变了，但省钱逻辑没变

这场算力大迁徙给普通开发者的启示其实很朴素：硬件越贵，越没必要自己拥有。2026 年的你会为了一次模型训练去买一张 4 万美元的 H100 吗？不会，你只会打开 Vast.ai 花 2 美元用一小时，用完就关。同样的逻辑反过来也成立——网站、机器人、定时任务这些"便宜又皮实"的活，继续交给 RackNerd 这类年付十几美元的老牌便宜 VPS 就好。GPU 云负责让你在 AI 时代跟得上趟，便宜的 CPU VPS 负责让你的钱包活下去。两者各司其职，这才是普通人在这场算力变革里最聪明的姿势。

常见问题 FAQ

问：H100 和普通 VPS 的 CPU 算力差在哪？ CPU 像少数极聪明的"博士生"，擅长复杂串行任务；GPU（如 H100，约 1.6 万 CUDA 核心）像上万流水线工人，擅长并行矩阵运算——正是 AI 训练/推理的核心。所以跑大模型、图像生成必用 GPU；跑网站、API、脚本这类常规负载，便宜 CPU VPS 完全够，不必追 GPU。

问：个人开发者怎么便宜用到 H100？ 别买卡（新卡 2.5 万~4 万美元）。用 GPU 云按需租：Lambda Labs、RunPod、Vast.ai 把 H100 打到约 $2/小时起，按秒计费、用完即释放。学生/研究者可关注云厂商免费额度或社区算力（如 Kaggle、Colab），练手阶段基本零成本。

问：什么时候其实便宜 VPS 就够？ 绝大多数 Web 服务、爬虫、数据库、反向代理、Discord 机器人，CPU VPS（如 RackNerd 年付、Contabo）绰绰有余且便宜大碗。只有涉及大模型训练/微调、Stable Diffusion 出图、向量检索这类并行重负载才需要 GPU。先想清任务类型：串行业务用 VPS，并行 AI 用 GPU 云，别为用不上的算力买单。