TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:3 i+ ?0 I( m' J0 i
Q+ J! K3 F. W一、总体分析框架与核心结论2 \4 p* [) ? i! X* j
1.1 分析框架概览. F% h) q H( z
拆分维度* [( z8 E0 r3 [1 M
/ J ]. |: H O+ T. S; f阶段:& C" g( K" H q) G
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施
* ^/ H0 p/ F2 z& w运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等" h j Z s0 _' C3 C2 D& S1 ?4 z
区域:% K% m8 a5 i& v! {! }4 ?; d
中国、美国、欧洲、中东(以海湾地区/UAE 为代表)
3 C, k3 l9 P7 h$ W技术方案:
+ O, R+ h" f+ }$ m2 yNVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
4 k" p9 D1 l# m& K4 uGoogle TPU(v5e/v5p/Trillium 等)
; ]+ M' N# D* T/ C, C N中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
. x# h- B/ j( K9 L, m算例基准8 R% Y J8 F" S' ?4 A# p
7 f# s; u, Q) E4 C, V4 t3 h b
以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:
0 x1 ~& E$ p2 y6 n# n/ S3 C' L. s" M, N其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW! A3 _3 ?) f. h
PUE 假设约 1.11(高效液冷场景)[1][29]
# T% o6 ]" X3 `; n% w B* L, Y时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]
% o: o5 F2 O& t4 x" f2 j- ~4 O关键指标
3 _9 c0 W4 q9 Q( v' c: ~
* I7 W% {8 c, \: ?3 }$/MW 建设成本(含/不含 IT 硬件)6 @1 R8 B' e$ ^+ a& B6 P
$/kWh 电力成本、L/kWh 水耗
}5 y- m6 H6 v e" j; ^( M$/token 或 $/百万 token 的综合成本0 L8 K$ Z4 }2 U' l% d; S
Token-per-watt / Joule-per-token 作为能效基准[17][18][26]/ L4 R7 t7 P% v
项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)
% B( d( ` X' d7 s6 I5 V1.2 高层结论(供决策快速参考)! A. Z! _7 J. `3 c2 P5 m
建设成本:AI 数据中心相对传统云数据中心成本翻倍/ R' t0 K4 C- y& t- t' d
/ |- L& @% p4 u传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
: M* w" T: M) q. JAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
! O- W$ L( Q. p+ ^! |按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。
& y. Z3 T( h) \# m( T! K区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区
) ~9 a0 L: f+ I0 A- }4 [% m4 b1 N# h7 w! ~3 J9 j. o, u* E
中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]8 A- v) J- I7 _! F3 }. C0 y
美国:$8–12M/MW,400 MW 约 $4.0B[1]
0 F) ?+ Q7 G: h7 L欧洲:接近全球平均 $10.7–11.3M/MW[2][41]7 P6 ]" }7 `1 v3 k9 b9 @
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]7 O* @- B6 P& h# }( k
结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
2 y: @+ a. a# q& DOPEX:电价与人工决定区域优势0 A3 f' W _! ^
8 T8 t1 x/ ^: e9 ?; R
电价(2025–2026 工商业大致区间):5 X ~5 a" R6 z( w: v7 ~
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73] l1 o4 u" k; H5 k3 O; S" e2 M
美国:工业用电约 $0.085–0.09/kWh[44]6 O+ a6 H& A5 T0 Q; u S
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
" c! R$ x! \. J( w. U中东/UAE:工业用户 $0.07–0.13/kWh[47]$ k9 x+ F+ L. N! G1 W+ _
人工:+ d" K! Q* R, @! P6 }
中国数据中心运维:约 $22k/人/年
# X% `% i+ C* ^- N9 U7 N美国数据中心运维:约 $120k/人/年[1]5 K! Y' J6 G& e: Q. `+ h+ u+ ^: L: j
结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。
/ J; m, }. F3 E$ h能耗与每 token 能源成本:能效差异远大于电价差异
& F; Q+ j2 N2 X! S& {$ C7 _# N: n: h: @: n! x
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。6 b8 e- \5 H/ Z) \, R/ W0 r
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。
3 j1 G0 x/ z* \7 I将 token 能耗约化为统一口径:
; r2 p4 L% Z. Q6 j9 M粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:; @. ?; O2 j+ w
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
9 `* x8 h' F; U美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token1 ~8 V: i/ z9 [8 K9 a) z
对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。7 g% A2 i2 M- _6 v+ b
不同芯片方案的核心差异
- Y( O' B0 Z% ~+ H1 R9 R H5 o- O* o% A. _) Q% z% I4 v
NVIDIA Blackwell/B200 & GB200 NVL72:
! Z- U, i' c, J单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。$ w+ \4 Z% [7 v q, r5 L6 k
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。7 i5 e! b3 Y9 j- J: E8 x
Google TPU v5e/v5p/Trillium:8 a9 X) [0 h" [! `0 p3 Q9 Z
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。+ V5 f6 e, F' x2 }9 e
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。
0 v% i, S7 _8 H, L- H华为昇腾 910B:
& H! u6 x; z+ ~; P y& R: PFP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。3 n) V+ w: j4 O
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。
4 {9 M2 y* }5 |6 N' Y# ~# L7 r. o @8 V阿里平头哥真武 810E(Zhenwu PPU):6 V: c7 ~' ~/ @* e
96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
# R! r8 y! J5 u" h# ]; [结论:. b2 M- b- O5 x% ?8 j+ U2 U0 |1 `
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。
9 |( m2 i! \: ?# V单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
* y" a, n3 h R对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。9 \2 H! x7 G8 ]$ g' m q2 t- r
自建 vs 云租的 TCO 与 token 成本
; O5 w" F4 ] {$ V" y5 N7 b. v+ f" Q
% I5 d) s) {& |LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:# ^0 S+ X: v3 |( d: d. Q! ?
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;4 ^) p2 w6 k* h( Z
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。
; ?5 t6 F3 ~+ W9 s8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。5 o- O. r9 O3 B" H4 `
Token 成本对比示例(LenovoPress 场景)[28]:2 _/ j9 W1 c1 i; S, d
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token
G) Q9 ~6 |$ h$ v, \, r( Uvs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。9 S+ u" a- h0 U( R+ ]+ r4 T+ ?: i9 ~
同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。
8 X+ G/ z5 }2 [# i8 i q$ u# SLlama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。
- H9 M+ X. y/ [( L! ~结论:# x( n7 ?- c5 I) \2 }
高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
f4 R3 m" _ L" g+ CToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。5 X- k* P5 ^5 r# q7 f9 a! i
二、建设期成本分布:区域对比
/ M2 x1 o- |+ c) _# k4 X1 m以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。& }% G" U) U) A0 f6 a3 M
8 F" ?6 f7 d+ f7 {, t9 f2.1 全球/通用结构(以 1 MW 为单位)
- e7 T9 J- |# Q- X综合 JLL、ConstructElements 等[2][41][40]:
+ F4 [1 ^9 e/ l9 s$ N" X. I3 }* P! v. N
壳体+机电(Shell & Core)
6 R4 Z7 Z3 J% ]# d9 I& r! a4 j
7 v2 f B& N" E4 N, y0 i, f全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
) r6 l0 F! E& ]* r- q4 F8 t其中按成本构成[40]:
% Z! g, J; ^# E+ }" K( H* o' v电力系统(变电、配电、UPS、母线等):40–50%; v& Z. A3 G( l. ~
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%
8 v; t9 b$ R! Y7 _建筑与土地、结构:约 15–20%
) v. ?) t) X8 X; S" f$ y6 D/ v其他(消防、安防、楼宇管理等):约 10–15%3 Y- v/ K6 ~* ^# Z) W
IT 内装与 AI 基础设施(不含芯片)
" G, x2 a8 m9 n! M, Y) Z# ]& C/ W+ c) J
高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。
% A0 B& M/ Z0 G2 UGPU/加速卡硬件 CAPEX
6 x( h N! f/ ]% W( h. H& g6 d- |3 K; Y: {6 |$ K( U
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。
1 T# z: ?, I( V6 n P* R* ~2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX$ v) f" |" @! n) H4 R) c
结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):
7 C. J; g: p4 n' H2 V% o) d& R8 h7 I: H
区域 典型建设成本(壳体+机电,$M/MW) 备注
& a' d8 S& d5 V! h8 |+ A0 ~中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]; l. F, d P G4 z# P
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]( s+ b* p* r( k4 B7 N' e& T* C& ~
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41], x* V C, f4 [: E1 f6 p( J
中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
" d) P6 B0 ]9 ~$ F& d8 U! Z' s4 o$ U结论:" M! ^6 p; S$ Y8 }5 Z$ g
D0 s& G& ]' Y1 @9 X: Q8 o单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。$ E W/ k+ j2 A
若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。
. [: x, j" b8 F2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)
3 l- d* i7 P/ N7 @1 J! y: j+ f以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
" V- @' q( h/ t0 N" @3 L" ^1 l/ X" f% m& W S* d8 y
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;
& t4 B: J" k4 n* R7 qGPU 配置:, W9 e+ y5 t7 C
有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);
& f) Z4 H; l! q$ Z每 rack 成本 ≈ $3.0–3.35M[34][69];0 {0 |( b/ x* } a2 @4 o0 L
GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。0 n1 B4 f+ i( ]- n
与不同区域壳体+机电组合:3 B! L. t2 f+ _: v/ S$ t# p! ?
/ O U8 B+ |4 E0 Q! u/ F1 I
以中值估算:
1 E. W' g! @3 E; G& {
3 \: g1 V" D% @3 o( {8 p" a% g4 |中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B/ [" u; t) p: o
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
9 z2 k* P. O: b7 z: z欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B2 A1 f+ C/ D6 T4 s% P
中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
, ^7 I6 Y0 _( w" j可见:. i/ j3 A/ }) {% S& O& o+ }: F
8 N0 Q8 e1 `2 L! X4 ?2 V+ I
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
$ j' L$ Q/ y' ~相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。1 i& j D( J" r* ]
三、运营期成本结构与区域对比3 q( x7 I4 L& Q1 P2 k
3.1 通用 OPEX 结构(高密 AI DC)
- v. i# Q. D; c1 E3 X( g结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:' \- t E0 [% t, Q& x3 O
- b1 j5 b/ |* ?8 w( R
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。' U& a4 T+ X% D- A
冷却与水资源:
4 K$ R4 W5 _" r: ^& W能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。& ~6 r, y3 S( _. Z/ O X. F2 s0 F
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
4 h# U$ d A `2 J7 {5 Q6 i d人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。/ v: @3 S; b0 V. z! F* o, s; P- Y
托管/物业与维护:- y5 {) `: y5 l7 g0 a. N
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];/ D, ^) J2 n7 I- r E4 R7 b+ _4 \2 c
硬件维护:LenovoPress 模型中按设备价 12%/年[28]。7 W0 k2 V# N2 q9 b# N
3.2 区域差异(以 400MW / 3 年期为例)8 c4 n; y- \" r4 o9 D. f
使用 ChinaTalk 的电费与人工估算[1]:
# P m" [8 D% g( }3 d
2 ^0 F$ h2 ?9 t; E2 ~电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:$ \7 e8 g) V P1 o. y3 _: t
中国:约 $0.06/kWh → 3 年电费 ≈ $350M
, w9 c* M. s& ?& H美国:约 $0.09/kWh → 3 年电费 ≈ $600M2 {! U+ I; \+ U) T% s1 @. \
中东:约 $0.07–0.10/kWh → $400–550M
. w9 A8 v- ^4 I: S% l+ {$ a欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
; D" a& \( L2 z' @' N8 M' c水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
6 f% `8 T4 R$ a. E& `9 n美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]
K D4 K; V2 K0 x1 H% ?3 q2 g6 S三年水费级别:
% b; h% z: R" r3 P7 s0 a美国:$40k+
& a! Q( d6 q* o: ^5 r( c" P中国:$20k+) j* g7 u1 [- u: @0 J$ c/ @* N0 I
结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
/ n9 t% R: a5 j3 H2 ~+ `& f" y' F4 O) C人员成本(3 年) – 假设 500 名全职运维:+ y. ]% W- R: W6 G2 Z1 a
美国:500 × $120k × 3 = $180M+ \! W- ], H7 V, Q n& C; P
中国:500 × $22k × 3 = $33M+ ]( |( E2 g8 V' O
差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。7 |& ~" j2 g- c' M
整体 OPEX 粗算(3 年) – 400MW 场景下:) M: U! u: z, j: }9 G/ o& x! R
' O$ y8 ~3 c/ ?( G
项目 中国 美国
2 K6 [4 l7 k/ u6 a6 F电费 $350M $600M2 g: ? m- {+ ^. k% o2 X
水费 <$0.05M <$0.05M* ^$ b/ v+ p9 E
人员 $33M $184M& t- r- |% `/ w/ E" d& F* L4 E
其他维护/托管 同比例估算,地区差异主要体现在人工与地价
; z# q* T! `( f; o9 m结论:3 ]0 l* W6 t' }7 S! T
2 Z2 a+ ] r5 l# I7 n; E9 N
就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。+ ]; M% }* ~0 S+ a) M3 s$ U7 `7 O
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
' p% ~. K: h! b2 l7 O. i* @; t7 X四、基于 token 的成本与利润推演9 R5 ^% t. F$ Z1 j% P
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)- ^3 {: B" T/ V& s* {8 Y
统一假设:; |2 c P' P, X% m3 f
6 ~ X+ @' f- K) M1 d/ B( d* S
典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18]) \5 F7 E/ f+ e( v& a
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh0 H9 ?$ m J8 y5 I4 ]2 A
1 百万 token:278 Wh = 0.278 kWh
9 h6 g k' @% J4 n, ^# f6 U场景 A:美国电价 $0.30/kWh
& N. B) H; n7 b4 l电费/百万 token = 0.278 kWh × $0.30/kWh
: I- }3 k5 z( B$ r≈ $0.0834 / 百万 token. w. m# y% l6 }+ d& j8 X
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh
. I& Y* d! r. p- X9 ]8 V5 v# m- J电费/百万 token = 0.278 kWh × $0.042
* H8 h+ i6 ^: P( E3 _5 h1 X≈ $0.0117 / 百万 token" W3 k% R7 s' g1 P4 |3 I1 h* s, C
对比当前 API 价格(OpenAI 2026Q1)[62]
( y: j, f' T1 x以输出侧为主(成本最敏感):
4 R! d) n6 v# K9 Q; r+ ~3 S: B+ U" c+ |7 v. a9 S6 u. P& l
模型 输出价 ($/百万 token)- ]: l2 f( v) Z/ @* l
GPT‑5.2 $14% E' Y5 r: i( d9 `" L! K$ [, w. Y8 V
GPT‑5.2 Pro $168* n8 T+ D( v, E+ m
GPT‑4.1 $8
7 ~5 D; G" E9 R S7 d# uGPT‑4o $10& |; B9 o% [ t) o# j o; E5 F
GPT‑4o mini $0.60, V. ~4 K) j k6 u2 O% v
则:
4 C; v$ {9 g2 ]1 E' Z! p4 F- a( q, h) Y( Q
在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。+ [& q% D0 J2 f, Q/ V
在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。+ P' h G( a6 I! l- E
相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
- {) q$ T8 Q M结论:" m) V/ D4 p2 t
即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。! x6 h4 r/ f8 x, K% R/ c; V
) D' L0 {! b8 }, Y& R9 r% j4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
; `5 B1 `" @& d7 a& Y8 h" {" y e以 LenovoPress 的 8×H100 Config A 为例[28]:' u' _, \% G& O. d' r3 `5 H
, D( a: Y: f; L, D: E. @3 r5 ]
5 年摊销下,8×H100 本地推理 70B 模型:) S) w9 `$ R, q8 _2 p8 a7 A
小时综合成本(CapEx摊销+Opex):$12.08/h
7 W( x% M B$ }2 G吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens$ Q) L, W, u9 R$ O8 |7 h8 {# D v
成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token1 t& }) [. {: W9 W2 [& d
电费在其中的占比:
% d% N8 |: U( v' G4 I6 U/ YOpex 6.37$/h 中电力+冷却约 $0.87/h[28] O. T/ m" Q# q. } V
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
1 ]; M# m, W4 B1 `电费占 总 token 成本 ~7% 左右。
& P7 j7 v. _* A若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。& ^ v9 N9 l4 Y+ I1 q7 _! e
若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。; _* Q- c) Y! _6 h! q0 r
* d/ e; g1 ^; {2 a, a6 g" J+ b
因此:
; h$ e( E* D4 X/ w" D, ]/ ^ x
! Z" l I6 a- d. ~1 F6 k5 f- m- w. K在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。5 \* N6 ~2 D, A5 h% J% \1 w+ d
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
3 b' a/ m6 d% f; M/ e五、不同芯片方案的建设与运营成本对比
" [9 c& K p! ?9 u5.1 NVIDIA 方案(H100/H200/B200/GB200)8 L' {4 u6 _' l! l! y9 D
CAPEX:9 i9 J( g% O- b& F3 P) a5 U
5 `$ v- B+ |0 X3 rH100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
7 a! J6 U* n: j8 h' B. G& GH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
; O' |+ D7 a! u+ p' ZB200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。1 H$ ]3 Q. D0 C* P4 D6 p2 M4 e
GB200 NVL72:7 b) a, r! @2 `" p0 w/ ]0 U
每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。5 q- { i8 M5 Q
冷却系统每 rack 额外 $50–56k[35]。
r7 Y1 S" @" v( g4 W% c2 r; u在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。
$ v( m* T) b5 r% YOPEX & 能效:
+ V" b. i- S0 d; A3 W) [6 W3 A3 e, I0 }3 Q9 c
单 GPU 功耗:9 V. x6 ^' }. f( T$ ^
H100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。8 E' @; }# r) a
H200:功耗类似或稍高,但性能/W 提升[9][10]。' @1 F. k$ J0 x1 R, t5 n
B200:标称 1,000W TDP,但实测约 600W 左右[68][69]。! f- t+ x: p. y: K6 P/ ?+ J
Token 性能: U5 u& M; I- w" K$ [9 y
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
1 a+ \4 _" a. kNVIDIA 的优势:8 ]* C* [3 R; I7 y
& D, O$ L; U# V) K9 A
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。) S) _/ |( Q, ~# _+ j: G# P
但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。. g1 k7 \, a8 o0 l* ?
5.2 Google TPU 方案$ e: G( x" |6 ~" m0 e! o8 \- V
CAPEX:
' i6 W& ~/ |8 Q: S5 U& I& K7 C+ i
单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。& d8 F; I* }5 X0 N. Y5 w1 T
GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。9 N! s, k N! c! L* l
8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
2 q. p- p! h' @7 i1 ^3 U能效:
3 k8 G0 f3 Z( O( C* T7 ^" O# n/ f# Z4 \
TPU v5e vs H100:
' v4 T6 u! N, K2 X8 @4 j# {同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。) v) Y! A7 K* s1 g; B) t
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。( _3 X9 {: ^8 F8 c* s
新一代 Trillium/TPU v7:
, c, h: J: \; g) _ f+ P9 a能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。6 l% i2 @/ B2 m& \$ O
Google 方案的特点:7 i" L! r2 x/ u! E
/ y1 X- b8 `( y; {/ ?& ]
自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;6 e% b( Q4 {/ l
对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。# k* F+ u9 r) C8 \% B7 y% G
5.3 华为昇腾 910B / 910C 方案
k3 H4 c' g; k8 |8 C' S) JCAPEX:1 H0 t0 @; m: O: }, t
* l4 \- ^+ l* b
单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。
! o' Y* E7 S' g% N9 U* O p与 A100 对比:
$ W6 [2 R0 l7 CFP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。- ?5 T, q) D1 b' I
市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。
8 c4 O/ v/ y8 ^# o/ S+ Q8 [' x' X J使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。4 L* U9 I s' ^# n9 w
OPEX & 能效:5 r m" ~, E: G0 j
; \( |, k/ P% ?) n+ ]* u' z7 b
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。& E% [7 w* o* ? y' K( m+ U
部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
' n/ M- \6 Z1 {9 w# |# p在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。' ^0 y! O# C6 o! c" `
5.4 平头哥真武 810E(PPU)方案
2 S/ U! ~5 S& m7 ?5 eCAPEX:* ^6 X0 b! C) x0 L; v3 g
" F) h, c) b4 f6 p2 ?' _& G技术参数: {3 I. c; E# [9 W, n! Q" i
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
% \, ^! ?9 o3 g# J& V性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
% g7 r: E1 y' ]. |价格:& y' G- ?4 c) P \5 y
未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。" Q7 d$ T' b8 f# M8 V2 `% J4 N
结合国内报道:) A; k. \* Y* G' _3 ~
2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。( G4 j) t2 i$ m$ I7 Z
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。' _+ g* o. C5 ]) x8 W
OPEX & 能效:
( R9 ^( [3 L" n* @! [% B$ K
9 k! \5 ~- v8 v& I; b$ P4 C400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
) ]+ P5 p. O+ f k/ L在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。" D) k& U4 }' ^5 ?8 I/ |" S* d9 U
六、综合比较与策略建议. e9 T% u$ k9 a" L
6.1 区域维度:在哪里建 AI 数据中心?* @' I, W! X8 S `& J" w1 G
纯经济性(TCO/tokens)排序(假设无政策/合规约束):
- m- g8 O9 L! A* R
# U: v* H8 k, K* H% d1 `中国西部/北部(电价低、人力低、建设成本低)9 P8 [# D# G0 G# \; m
中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)3 u" u5 G# q1 l( x
美国电价低但人工高;东海岸/加州电价上涨压力大
3 a4 B- X2 D* n! m+ K% G- e$ k+ }; k欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求" }- G' Q' c( C
若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:+ D2 I' T5 [. D2 g7 z
8 a& m& A9 c' K纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;! Y, V, t% Q% M/ c2 a2 M. J
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;8 q- }' y8 o7 g5 p
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。4 r5 b4 R3 m4 J) F; b0 l, r! q
6.2 技术栈维度:选哪家芯片/云栈?2 b2 J4 R5 h: n: g6 y! p5 q" b9 c
若目标是全球最优 tokens/$ 且不受出口管制:
3 d$ b- J9 S# Q5 r0 D6 X$ {
6 t/ j- k5 E2 U. S6 @Google TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
* G6 a; x$ Q7 r. V1 _0 ~; D若在美国/欧洲,能自由采购 NVIDIA:
9 ^% x/ s. n- m: |: d6 f" m& U! i5 P0 i3 ]( u O* `
短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
: w, |7 }4 S% N7 G! u% ?成熟的软件栈与生态,极高的 tokens/s/GPU;' L) s J+ y. q! G1 S0 I
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;) m$ u4 b* a1 @5 M/ f
但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。" A" k. f8 m' I1 q+ \- R1 q( N& p9 G
若在中国或存在出口管制约束:7 R& U3 {/ @$ ` [+ U" s
, p/ U9 R* u( W7 E% |5 ^6 k9 q
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:
0 v0 @& c1 C$ G性能上已能覆盖大部分 GPT‑4 类推理需求;4 | D6 z/ ]9 y; G
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;) h7 L* I8 t3 |
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
( E% ~9 y; p% f4 k' \5 k4 ?建议配合:( v, _) e* }- n9 w
高效液冷(PUE~1.1)、( a/ M6 a! `6 E( v! f [
大 batch、路由(浅层任务走小模型/低成本芯片)、
7 c( b* w1 X; c" ]5 z7 T% Q强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
0 e) Q! W3 H9 ~- B' y: z长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:
+ z* ?7 ^& G3 a$ J, |* y) x# x' k9 G% G% K' y
数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
* J+ l$ a) `, @% @7 k9 J- {这意味着:2 e5 ^. y" M' ]. u# m
优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);
! g$ I+ @% ]$ N1 \6 \9 U0 k* t精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。7 N" v! H& Y' d' E. p
6.3 针对你关心的具体问题的简要回答
, q; I! K1 M; |AI 数据中心建设 vs 运营成本的大体比例?! f2 \' |! W: z
2 M+ E1 ]2 b w1 ?% y( g
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
6 Y1 A2 F9 c. L7 L3 [( | T其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。4 v, j$ S" `3 X+ ~1 K3 V
中国、美国、欧洲、中东的成本结构区别?
1 E T. G5 e" J. O. \, A! m1 [7 V: u. o5 V4 T8 t: L" L- x
建设期:; l- H) O4 i$ u9 E% F* V
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。# _3 Q) O# @4 _& [3 C
运营期:
! \) v& d: y* o- A C$ X) ^电价:中东 ≈ 中国西部 < 美国平均 < 欧洲, n- T! `- y$ ?& u
人工:中 国 ≪ 美 欧,中东居中。2 W* P# H" R9 J$ ]( `) K0 T
在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?6 e5 s$ k5 S9 D, i' D+ C. `& q2 G
0 I( P8 g/ K. ^+ V, m7 X5 ^; t
对于典型 1 J/token 推理负载:9 ?; ^4 G, G1 v% u. L
美国 $0.30/kWh:电费约 $0.083/M token
, e3 n; j* T6 v/ D" A中国 0.3 元/kWh:电费约 $0.012/M token
4 K/ i( e6 e& T2 {4 m对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。
5 _3 y$ ^- N! j" p; E. f+ e5 ]7 F( {不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?- p! h( v D8 R# C K
5 E2 M1 Y9 V3 M# s4 N在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;4 {8 d1 H5 d& d4 `" ] F! B9 R8 e
全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
) k( f( i" F3 P; ~中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|