四虎AV成人在线观看|免费免费特黄的欧美大片|人妻丝袜中文字幕一区三区|性爱一级二级三级|日本黄色视频在线观看免费|亚洲午夜天堂超碰大香蕉中出|国产日韩三级黄色AV一区二区三区|a片网站在线观看视频|人人AV播放日韩操在线|国产伦清品一区二区三区

正在閱讀:

AI最燒錢的戰(zhàn)場:數(shù)據(jù)中心的真實賬單

掃一掃下載界面新聞APP

AI最燒錢的戰(zhàn)場:數(shù)據(jù)中心的真實賬單

投資不足比過度投資風(fēng)險更大。

文|硅谷101

5000億美元,是NASA預(yù)估能讓人類完成火星登陸的預(yù)算、能買下1.36個阿里(3670億美元)、3.5個NBA聯(lián)盟(1400億美元)、建設(shè)100座Apple Park(50億美元)、買1400億杯咖啡(3.5美元),卻只夠OpenAI建一座Stargate數(shù)據(jù)中心。

但這,也許只是開始,業(yè)內(nèi)人士認(rèn)為,OpenAI的野心甚至是這個數(shù)據(jù)的十倍。xAI、Meta等科技巨頭,都開始瘋狂在AI數(shù)據(jù)中心砸錢,全球開啟了一波基建狂潮,押注新一輪的萬億級市場。但在狂潮背后,我們不禁想問:這么多錢,都花哪去了?

本篇文章我們就來扒一扒AI數(shù)據(jù)中心背后的資本支出。數(shù)據(jù)中心由哪些部分構(gòu)成?上下游主要公司和玩家有哪些?到底要怎么花錢?有意思的是,我們翻遍了各大報告后,發(fā)現(xiàn)大家給出的預(yù)算各不相同,究竟誰才是對的?更有數(shù)據(jù)中心,被“逼”上了太空,原因是什么?在AI被質(zhì)疑存在泡沫的情況下,又為什么資本依然瘋狂涌入呢?

01 看懂萬億投資,數(shù)據(jù)中心的錢流向哪里?

先來看看今年10月15日,美國銀行對于下一代AI數(shù)據(jù)中心的成本分析。

我們將數(shù)據(jù)中心的支出主要分為4大類,分別是IT類設(shè)備、供電設(shè)備、冷卻設(shè)備和工程建設(shè)。為了便于對比,我們將計算單位統(tǒng)一到每GW的支出。

Chapter 1.1 IT類設(shè)備

首先是與計算直接相關(guān)的IT類設(shè)備,分為服務(wù)器、網(wǎng)絡(luò)、存儲三塊,其中的大頭就在服務(wù)器身上,每GW大概需要375億美元。

服務(wù)器包含了CPU、GPU、內(nèi)存、主板這些重要原件,通常直接由ODM(原始設(shè)計制造商)供貨,比如工業(yè)富聯(lián)等,他們會從英偉達(dá)和AMD這些芯片設(shè)計公司拿到服務(wù)器的設(shè)計標(biāo)準(zhǔn),并制造成整機,直接向Oracle、Meta、亞馬遜這類超大規(guī)模的客戶供貨。

ODM占據(jù)了服務(wù)器市場46%的份額,而其他的中小企業(yè)要購買服務(wù)器,那就得找戴爾(Dell)、超微(Super Micro)、惠普(HP)這類OEM(原始設(shè)備制造商)廠商購買。

在網(wǎng)絡(luò)方面,每GW需要37.5億美元的網(wǎng)絡(luò)設(shè)備,其中的主要玩家分別是Arista、Cisco、華為、英偉達(dá)等等。

值得一提的是,雖然英偉達(dá)在其中的市場占比只有5%,但業(yè)界有觀點會認(rèn)為,盡管英偉達(dá)的InfiniBand(網(wǎng)絡(luò)通信標(biāo)準(zhǔn))更貴,但憑借低延遲、無丟包風(fēng)險的優(yōu)勢,更適用于AI數(shù)據(jù)中心。

最后是存儲,也就是硬盤,每GW則需要19億美元的存儲設(shè)備。大玩家包括了三星、SK、美光 (Micron)、希捷 (Seagate)等玩家。我們將以上三項相加,最終得出IT類設(shè)備每GW支出為431.5億美元。這就是數(shù)據(jù)中心支出的大頭了。

Chapter 1.2 冷卻系統(tǒng)

2018年,亞特蘭大的一個數(shù)據(jù)中心遭受了網(wǎng)絡(luò)攻擊,導(dǎo)致法院、警察局、機場等多個城市服務(wù)機構(gòu)被迫關(guān)閉。攻擊者除了用勒索軟件鎖住了數(shù)據(jù)外,還干了一件事,那就是侵入了冷卻系統(tǒng)。

冷卻系統(tǒng)被入侵后,環(huán)境溫度驟升至100華氏度(約37.8攝氏度)以上,一時間不少芯片受到損壞。黑客甚至還將服務(wù)器和冷卻系統(tǒng)的控制權(quán)作為“人質(zhì)”,要求支付51000美元的比特幣。

后來,攻擊冷卻系統(tǒng)的方式越來越常見,花樣也越來越多。這個故事告訴大家,冷卻系統(tǒng)對于一個數(shù)據(jù)中心的重要性,雖然建造預(yù)算只占總成本的3%。

隨著全球AI算力需求的指數(shù)級提升,傳統(tǒng)的風(fēng)冷技術(shù)已經(jīng)很難滿足高密度算力設(shè)備的散熱需求了,同時對于英偉達(dá)的GPU來說,散熱能力也在一定程度上成為制約算力的核心瓶頸。因此,對于數(shù)據(jù)中心來說,液冷已從數(shù)據(jù)中心散熱備選方案變?yōu)楸匦杵贰?/p>

而對于配備液冷系統(tǒng)的數(shù)據(jù)中心來說,冷卻設(shè)備主要包含冷卻塔、冷水機組、CDU(冷卻分配單元)和CRAH(機房空氣處理機組)。要承擔(dān)1GW的散熱,它們分別需要支出0.9億、3.6億、4.5億、5.75億,總共14.75億美元。

主要供應(yīng)商由于分散在各個環(huán)節(jié),數(shù)量眾多,我們就不一一列舉了,但其中維諦(Vertiv)、江森(Johnson Controls),世圖茲(Stulz)和施耐德(Schneider)等等,都是這個領(lǐng)域的大玩家。

Chapter 1.3 供電設(shè)備

我們再來看看核心基建的電力部分。供電設(shè)備主要分為應(yīng)急供電的備用柴油發(fā)電機、負(fù)責(zé)配電總控的開關(guān)設(shè)備、保障不斷電的UPS(Uninterruptible Power Supply)、給各機柜配電的母線槽及其他配電設(shè)備。

美國銀行認(rèn)為,典型的柴油發(fā)電機每MW的成本為40~55萬美元,燃料箱、燃料泵和安裝費用加起來約為35~50萬美元,因此每MW的發(fā)電機成本大約為80萬美元,要提供1GW的電力,則需要8億美元的應(yīng)急發(fā)電機。

但在我們的嘉賓看來,其實真實成本遠(yuǎn)不止這些,原因就是冗余性。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

如果你的IT設(shè)備的容量功耗是達(dá)到了,比如說1GW的話,往往是需要配不止1GW的柴油發(fā)電機的。有幾方面的原因,其實最重要的原因是要保證冗余性。

像有一些可靠性要求特別高的數(shù)據(jù)中心,它柴油發(fā)電機的量,可能是兩倍于數(shù)據(jù)中心算力的量。比如說數(shù)據(jù)中心如果是1GW的量的話,可能要配備2GW的柴油發(fā)電機。

在柴油發(fā)電機的市場中,最大的玩家是卡特彼勒(Caterpillar),康明斯(Cummins)和羅爾斯·羅伊斯(Rolls Royce)旗鼓相當(dāng)。

除此之外,1GW數(shù)據(jù)中心還需要6.15億的開關(guān)設(shè)備、9.85億的UPS和3億美元的配電設(shè)備。這些電氣設(shè)備的三大玩家分別是施耐德、維諦和伊頓。

所以整個供電設(shè)施的花費,算下來就是每GW27億美元,只有IT設(shè)備的1/13,是不是還顯得挺便宜的?

雖然供電不花錢,但是在美國,供電卻成為了很多數(shù)據(jù)中心的核心瓶頸,這一點我們將在后面的文章中展開。我們先把這個開支的pie chart給畫全,看看最后一項支出:工程建設(shè)。

Chapter 1.4 工程建設(shè)

最后一項的工程建設(shè)費用包含了建筑成本、安裝成本、總承包商費用等等,每GW的工程預(yù)計花費約42.8億美元。

我們合計下,要建成1GW的數(shù)據(jù)中心,最后的總支出大約是516億美元,其中IT設(shè)備占比最高,成本達(dá)到了84%。這么算下來,OpenAI 10GW的Stargate項目就得5160億,與官方宣稱的5000億投資非常接近。

但與此同時,我們在翻各種研報的時候發(fā)現(xiàn)一個很有意思的事情,就是不同機構(gòu)給出的數(shù)據(jù)差距非常大,就拿Stargate為例,不同機構(gòu)估算出的總預(yù)算甚至差出了2000億美元,這是為什么?大家應(yīng)該怎么去看這樣的計算分歧?

02 計算分歧,千億預(yù)算差從何而來?

我們先來看看幾個不同機構(gòu)的預(yù)測:

Bernstein 11月1日的報告:每GW的AI數(shù)據(jù)中心成本約為350億美元。而且各項目的支出占比也與美國銀行的預(yù)測不同。例如IT設(shè)備相關(guān)的GPU、網(wǎng)絡(luò)、CPU、存儲總占比為56%,遠(yuǎn)低于美國銀行計算的84%。

Barclays Bank 10月底的報告:AI數(shù)據(jù)中心每GW對應(yīng)支出為500~600億,其中65%~70%都用在計算與網(wǎng)絡(luò)中。

Morgan Stanley 8月的研究模型:1GW對應(yīng)的成本是335億美元,其中計算設(shè)備占比為41%,而剩下59%用于電力、冷卻等基礎(chǔ)設(shè)施的建設(shè)中。

為什么各家的預(yù)測數(shù)據(jù)相差會如此大呢?主要有兩個原因,第一是,假設(shè)使用的芯片不同。

美國銀行的計算對象,為英偉達(dá)在今年9月初發(fā)布的Rubin架構(gòu)的芯片,將于2026年底上市;而Bernstein和Morgan Stanley的計算對象,是2024年3月發(fā)布的Blackwell架構(gòu)。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

Bernstein的GPU的成本是136.5億美元,BofA(美國銀行)的Future(未來的數(shù)據(jù)中心)成本是375億美元,就光這個就差了200多億每GW,這個是我感覺的最大差別。

所以各家計算的金額,最大的差別就在于芯片價格不同,相差了200億每GW,而像供電、冷卻等其他設(shè)施的成本相差并不大。不過這也側(cè)面說明了,老黃的下一代芯片又要漲價了。

新的“黃氏數(shù)學(xué)”(Jensen’s Math)認(rèn)為一座1GW的AI數(shù)據(jù)中心,總成本是600~800億,甚至還高于了其他機構(gòu)給出的預(yù)測,其中的“計算成本”,也就是英偉達(dá)的潛在收入,是400~500億。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

我會覺得可能老黃應(yīng)該還是說得準(zhǔn)的,就是他自己知道他想定什么價。他自己算過,這個能耗是多少,然后價格他想定多少,他覺得自己能賺多少。

第二個原因,就是計算范圍不同。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

BofA(美國銀行)相當(dāng)于算的是數(shù)據(jù)中心building(建筑),房子里邊的成本。Bernstein算的是,包括房子的成本,還包括了整個數(shù)據(jù)中心園區(qū)的成本,也就是它把園區(qū)里邊的配電系統(tǒng),還有(渦輪)發(fā)電機全部都包括進(jìn)去了。

BofA(美國銀行)里面的發(fā)電機的話,我感覺它更多的是備用電源的(柴油)發(fā)電機,Bernstein里邊的發(fā)電機是Gas turbines(渦輪發(fā)電機),相當(dāng)于是一個自發(fā)電的發(fā)電機。

所以綜合看下來,我們的嘉賓認(rèn)為,對于巨頭們未來建設(shè)的數(shù)據(jù)中心,可能美國銀行給出的預(yù)算會更接近真實情況,所以我們這期的預(yù)估也是根據(jù)美國銀行的報告來整理的。

前面說到,電力會成為數(shù)據(jù)中心的瓶頸,這就是為什么大家會看到在我們的動畫中,數(shù)據(jù)中心里面和外面都有發(fā)電機。其實,在電力這一塊,會有不小的一項隱形支出:電力投資。

03 隱形支出,巨頭親自下場建電廠

我們之前做過一期視頻和播客,講述了AI帶來的用電荒,以及為什么美國如此缺電。而一年半后的今天,情況依然沒有好轉(zhuǎn)。如今巨頭們?yōu)榱双@取電力,不得不自己投資建廠。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

OpenAI或者它的合作伙伴像Oracle,他們需要想辦法去創(chuàng)造新的容量,在電網(wǎng)上?,F(xiàn)在的很多科技公司,他得自己去建發(fā)電機、建發(fā)電站、變電站和一些配(電)網(wǎng)的設(shè)施,甚至建一些稍微短一點的電力傳輸線等等,去滿足自己的需求。

如果要給一個10GW的數(shù)據(jù)中心,配上一個發(fā)電廠的話,它的成本可能會達(dá)到,再加上可能120~200億美元的成本。

所以我們看到,由于AI數(shù)據(jù)中心的大基建,還帶火了被認(rèn)為是“夕陽產(chǎn)業(yè)”的電力股GEV,它的燃?xì)廨啓C訂單甚至都排到了三年后。

谷歌曾斥資30億美元,改造賓夕法尼亞州的兩座水力發(fā)電廠,為的就是換取3000MW的電力,相當(dāng)于獲取1GW得花10億,這還僅僅是改造的費用。還有馬斯克為了Colossus2項目,也收購了一家發(fā)電廠。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

數(shù)據(jù)中心搶電搶得很厲害。然后也有一些分析師,他們覺得像GE這樣公司的話,它是會有溢價能力的。(購買)1GW的(發(fā)電機)可能就是相當(dāng)于25億(美元)。這可能比較高的點,我覺得用20億的話差不多,就CapEx(資本支出)是20億。

到這里就有個問題了,數(shù)據(jù)中心不是本來就有應(yīng)急發(fā)電機了嗎,為什么不直接用這些發(fā)電機來供電呢?

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

應(yīng)急的柴油發(fā)電機和大型的天然氣渦輪發(fā)電機,還是有本質(zhì)的區(qū)別的。柴油發(fā)電機的話,它更多的是作為一個備用電源來使用的。所以它在設(shè)計的時候,它的所有的組件,都是為了高功率、短時爆發(fā)而優(yōu)化的。所以它并不能承載24小時,隨時隨地都在運行的狀態(tài)。

這個天然氣渦輪發(fā)電機,它在設(shè)計的時候就是考慮到了像一年365天,幾乎每一個小時都在運行這樣使用的場景。還有一些其他的原因是,柴油的話它實際上是一種比較貴的燃料,然后相對于天然氣發(fā)電機的話,它用的是天然氣,它可以通過管道去輸送,發(fā)同一度電的成本,柴油發(fā)電機的成本很可能是,天然氣發(fā)電機成本的3~8倍。

所以現(xiàn)在數(shù)據(jù)中心的建設(shè),就卡在了獲取電力上。美國電網(wǎng)又無法提供足夠的功率,想買天然氣渦輪發(fā)電機又買不到,由此也催生了一些其他的方式。比如燃料電池開始變得越來越受歡迎,甚至巨頭們都被“逼”上了太空。

谷歌最近的消息說,計劃在2027年將數(shù)據(jù)中心送上太空。主要原因就在于,在太空中利用太陽能板來發(fā)電,效率可以達(dá)到地球上的8倍,還能解決晚上沒有太陽能的困擾,可以說是免費且無限的能源供應(yīng)。除此之外,在太空的真空,還能利用輻射散熱方式,降低冷卻系統(tǒng)的需求。

除了谷歌,微軟、亞馬遜,還有馬斯克的SpaceX都開啟了這方面的探索。那么建設(shè)太空數(shù)據(jù)中心又得花多少錢呢?在Linkedin有人預(yù)測,目前建設(shè)一座1MW的太空數(shù)據(jù)中心,算上發(fā)射費后,成本約為3550萬美元,如果是1GW,那將是355億。

這好像也沒比地球上貴多少,那關(guān)于太空數(shù)據(jù)中心是否可行、背后的挑戰(zhàn)與機遇,我們之后也會單開一期來好好聊聊。

04 狂潮下的理性,過度投資也有退路

既然建設(shè)AI數(shù)據(jù)中心耗費如此大,而且在市場紛紛懷疑充滿泡沫的情況下,為什么這股基建熱潮只增不減呢?在我們采訪的嘉賓看來,主要原因有兩點,第一是,投資不足比投資過度的風(fēng)險更大。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

大部分公司現(xiàn)在都意識到一點,Under investment is riskier than over investment,就是所謂的投資不夠,給你帶來的風(fēng)險要遠(yuǎn)遠(yuǎn)大于你過度投資帶給你的風(fēng)險。為什么會這樣呢?很有可能誰最先獲得最好的AI模型,或者所謂的AGI的話,這家公司就會占據(jù)比較大的一個市場份額,其他公司的生存空間就會很快地縮小。

那我們再看一下過度投資會有什么樣的風(fēng)險,你無非就是買了更多的地、更多的電、更多的房子,建數(shù)據(jù)中心。最后你發(fā)現(xiàn),可能你買多了,無非就是你可以把它用作自己公司內(nèi)部的一些使用、效率的提升,或者你可以把它租給其他人,或者就把這些地、電賣給其他公司,總體來說就是過度投資的風(fēng)險,它實際上是有一個封頂?shù)摹?/p>

第二個原因就在于,只要有算力,科技公司們總會有辦法用掉。

王辰晟

前特斯拉供應(yīng)鏈總監(jiān):

在硅谷有一句話就是,Bill will always eat Andy。你只要有Infra(基礎(chǔ)設(shè)施),你只要有Hardware(硬件),Server(服務(wù)商)總有辦法,可以想辦法把你運用掉的。這周早些時候OCP Meta的人就在里面說,其實他們目前的GPU,光用來去做他們內(nèi)部一些AI,比如Instagram或者Facebook,然后去篩除一些不合適的內(nèi)容,他們其實也已經(jīng)需要很多算力了,就算有多余閑置的算力,用來做內(nèi)部的降本(cost reduction),他其實也是完全是可以用的,所以我覺得現(xiàn)在主流的這些公司,都不會擔(dān)心說這些會overinvest(過度投資)。

所以我們看到,哪怕現(xiàn)在市場紛紛質(zhì)疑AI存在過度投資的情況,巨頭們依然在瘋狂涌入。那么最后一個問題是,上萬億美元的需求,錢從哪來呢?

Bruce Liu

美國Esoterica Capital(濟容投資)

首席執(zhí)行官兼首席投資官:

其實就是這些hyper scaler(超大規(guī)模云服務(wù)商),它的這些自生的錢,我自己賺的錢我再投回去,我自己欠的錢我再投回去,后面其實就是要靠這些public market(公開市場),就是債券市場,美國的investment grade(投資級)或者h(yuǎn)igh yield grade(高收益級)。

然后還有最近新起來的,我們叫美國的影子銀行,所謂這些private credit(私募信貸),你把它break down(拆分),基本上就是這些大的融資渠道,來撐起這個整個的AI build out(基建熱潮),這在歷史,美國歷史上也不是沒有見過。我覺得AI更像全球的基建的大的周期,只要你(AI)能掙到錢,你是全球的增長的這個driver(驅(qū)動者),真的是不用特別擔(dān)心錢這個事情。

這場看似瘋狂的投入,本質(zhì)上是一場關(guān)于“誰先抵達(dá)未來”的博弈。或許這條路充滿風(fēng)險,但對于巨頭來說,“缺席”的代價比“投資錯誤”的代價更高。你

對這場瘋狂的AI基建投資有什么想法?歡迎在評論區(qū)和我們一起聊聊吧。

 

 
本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

AI最燒錢的戰(zhàn)場:數(shù)據(jù)中心的真實賬單

投資不足比過度投資風(fēng)險更大。

文|硅谷101

5000億美元,是NASA預(yù)估能讓人類完成火星登陸的預(yù)算、能買下1.36個阿里(3670億美元)、3.5個NBA聯(lián)盟(1400億美元)、建設(shè)100座Apple Park(50億美元)、買1400億杯咖啡(3.5美元),卻只夠OpenAI建一座Stargate數(shù)據(jù)中心。

但這,也許只是開始,業(yè)內(nèi)人士認(rèn)為,OpenAI的野心甚至是這個數(shù)據(jù)的十倍。xAI、Meta等科技巨頭,都開始瘋狂在AI數(shù)據(jù)中心砸錢,全球開啟了一波基建狂潮,押注新一輪的萬億級市場。但在狂潮背后,我們不禁想問:這么多錢,都花哪去了?

本篇文章我們就來扒一扒AI數(shù)據(jù)中心背后的資本支出。數(shù)據(jù)中心由哪些部分構(gòu)成?上下游主要公司和玩家有哪些?到底要怎么花錢?有意思的是,我們翻遍了各大報告后,發(fā)現(xiàn)大家給出的預(yù)算各不相同,究竟誰才是對的?更有數(shù)據(jù)中心,被“逼”上了太空,原因是什么?在AI被質(zhì)疑存在泡沫的情況下,又為什么資本依然瘋狂涌入呢?

01 看懂萬億投資,數(shù)據(jù)中心的錢流向哪里?

先來看看今年10月15日,美國銀行對于下一代AI數(shù)據(jù)中心的成本分析。

我們將數(shù)據(jù)中心的支出主要分為4大類,分別是IT類設(shè)備、供電設(shè)備、冷卻設(shè)備和工程建設(shè)。為了便于對比,我們將計算單位統(tǒng)一到每GW的支出。

Chapter 1.1 IT類設(shè)備

首先是與計算直接相關(guān)的IT類設(shè)備,分為服務(wù)器、網(wǎng)絡(luò)、存儲三塊,其中的大頭就在服務(wù)器身上,每GW大概需要375億美元。

服務(wù)器包含了CPU、GPU、內(nèi)存、主板這些重要原件,通常直接由ODM(原始設(shè)計制造商)供貨,比如工業(yè)富聯(lián)等,他們會從英偉達(dá)和AMD這些芯片設(shè)計公司拿到服務(wù)器的設(shè)計標(biāo)準(zhǔn),并制造成整機,直接向Oracle、Meta、亞馬遜這類超大規(guī)模的客戶供貨。

ODM占據(jù)了服務(wù)器市場46%的份額,而其他的中小企業(yè)要購買服務(wù)器,那就得找戴爾(Dell)、超微(Super Micro)、惠普(HP)這類OEM(原始設(shè)備制造商)廠商購買。

在網(wǎng)絡(luò)方面,每GW需要37.5億美元的網(wǎng)絡(luò)設(shè)備,其中的主要玩家分別是Arista、Cisco、華為、英偉達(dá)等等。

值得一提的是,雖然英偉達(dá)在其中的市場占比只有5%,但業(yè)界有觀點會認(rèn)為,盡管英偉達(dá)的InfiniBand(網(wǎng)絡(luò)通信標(biāo)準(zhǔn))更貴,但憑借低延遲、無丟包風(fēng)險的優(yōu)勢,更適用于AI數(shù)據(jù)中心。

最后是存儲,也就是硬盤,每GW則需要19億美元的存儲設(shè)備。大玩家包括了三星、SK、美光 (Micron)、希捷 (Seagate)等玩家。我們將以上三項相加,最終得出IT類設(shè)備每GW支出為431.5億美元。這就是數(shù)據(jù)中心支出的大頭了。

Chapter 1.2 冷卻系統(tǒng)

2018年,亞特蘭大的一個數(shù)據(jù)中心遭受了網(wǎng)絡(luò)攻擊,導(dǎo)致法院、警察局、機場等多個城市服務(wù)機構(gòu)被迫關(guān)閉。攻擊者除了用勒索軟件鎖住了數(shù)據(jù)外,還干了一件事,那就是侵入了冷卻系統(tǒng)。

冷卻系統(tǒng)被入侵后,環(huán)境溫度驟升至100華氏度(約37.8攝氏度)以上,一時間不少芯片受到損壞。黑客甚至還將服務(wù)器和冷卻系統(tǒng)的控制權(quán)作為“人質(zhì)”,要求支付51000美元的比特幣。

后來,攻擊冷卻系統(tǒng)的方式越來越常見,花樣也越來越多。這個故事告訴大家,冷卻系統(tǒng)對于一個數(shù)據(jù)中心的重要性,雖然建造預(yù)算只占總成本的3%。

隨著全球AI算力需求的指數(shù)級提升,傳統(tǒng)的風(fēng)冷技術(shù)已經(jīng)很難滿足高密度算力設(shè)備的散熱需求了,同時對于英偉達(dá)的GPU來說,散熱能力也在一定程度上成為制約算力的核心瓶頸。因此,對于數(shù)據(jù)中心來說,液冷已從數(shù)據(jù)中心散熱備選方案變?yōu)楸匦杵贰?/p>

而對于配備液冷系統(tǒng)的數(shù)據(jù)中心來說,冷卻設(shè)備主要包含冷卻塔、冷水機組、CDU(冷卻分配單元)和CRAH(機房空氣處理機組)。要承擔(dān)1GW的散熱,它們分別需要支出0.9億、3.6億、4.5億、5.75億,總共14.75億美元。

主要供應(yīng)商由于分散在各個環(huán)節(jié),數(shù)量眾多,我們就不一一列舉了,但其中維諦(Vertiv)、江森(Johnson Controls),世圖茲(Stulz)和施耐德(Schneider)等等,都是這個領(lǐng)域的大玩家。

Chapter 1.3 供電設(shè)備

我們再來看看核心基建的電力部分。供電設(shè)備主要分為應(yīng)急供電的備用柴油發(fā)電機、負(fù)責(zé)配電總控的開關(guān)設(shè)備、保障不斷電的UPS(Uninterruptible Power Supply)、給各機柜配電的母線槽及其他配電設(shè)備。

美國銀行認(rèn)為,典型的柴油發(fā)電機每MW的成本為40~55萬美元,燃料箱、燃料泵和安裝費用加起來約為35~50萬美元,因此每MW的發(fā)電機成本大約為80萬美元,要提供1GW的電力,則需要8億美元的應(yīng)急發(fā)電機。

但在我們的嘉賓看來,其實真實成本遠(yuǎn)不止這些,原因就是冗余性。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

如果你的IT設(shè)備的容量功耗是達(dá)到了,比如說1GW的話,往往是需要配不止1GW的柴油發(fā)電機的。有幾方面的原因,其實最重要的原因是要保證冗余性。

像有一些可靠性要求特別高的數(shù)據(jù)中心,它柴油發(fā)電機的量,可能是兩倍于數(shù)據(jù)中心算力的量。比如說數(shù)據(jù)中心如果是1GW的量的話,可能要配備2GW的柴油發(fā)電機。

在柴油發(fā)電機的市場中,最大的玩家是卡特彼勒(Caterpillar),康明斯(Cummins)和羅爾斯·羅伊斯(Rolls Royce)旗鼓相當(dāng)。

除此之外,1GW數(shù)據(jù)中心還需要6.15億的開關(guān)設(shè)備、9.85億的UPS和3億美元的配電設(shè)備。這些電氣設(shè)備的三大玩家分別是施耐德、維諦和伊頓。

所以整個供電設(shè)施的花費,算下來就是每GW27億美元,只有IT設(shè)備的1/13,是不是還顯得挺便宜的?

雖然供電不花錢,但是在美國,供電卻成為了很多數(shù)據(jù)中心的核心瓶頸,這一點我們將在后面的文章中展開。我們先把這個開支的pie chart給畫全,看看最后一項支出:工程建設(shè)。

Chapter 1.4 工程建設(shè)

最后一項的工程建設(shè)費用包含了建筑成本、安裝成本、總承包商費用等等,每GW的工程預(yù)計花費約42.8億美元。

我們合計下,要建成1GW的數(shù)據(jù)中心,最后的總支出大約是516億美元,其中IT設(shè)備占比最高,成本達(dá)到了84%。這么算下來,OpenAI 10GW的Stargate項目就得5160億,與官方宣稱的5000億投資非常接近。

但與此同時,我們在翻各種研報的時候發(fā)現(xiàn)一個很有意思的事情,就是不同機構(gòu)給出的數(shù)據(jù)差距非常大,就拿Stargate為例,不同機構(gòu)估算出的總預(yù)算甚至差出了2000億美元,這是為什么?大家應(yīng)該怎么去看這樣的計算分歧?

02 計算分歧,千億預(yù)算差從何而來?

我們先來看看幾個不同機構(gòu)的預(yù)測:

Bernstein 11月1日的報告:每GW的AI數(shù)據(jù)中心成本約為350億美元。而且各項目的支出占比也與美國銀行的預(yù)測不同。例如IT設(shè)備相關(guān)的GPU、網(wǎng)絡(luò)、CPU、存儲總占比為56%,遠(yuǎn)低于美國銀行計算的84%。

Barclays Bank 10月底的報告:AI數(shù)據(jù)中心每GW對應(yīng)支出為500~600億,其中65%~70%都用在計算與網(wǎng)絡(luò)中。

Morgan Stanley 8月的研究模型:1GW對應(yīng)的成本是335億美元,其中計算設(shè)備占比為41%,而剩下59%用于電力、冷卻等基礎(chǔ)設(shè)施的建設(shè)中。

為什么各家的預(yù)測數(shù)據(jù)相差會如此大呢?主要有兩個原因,第一是,假設(shè)使用的芯片不同。

美國銀行的計算對象,為英偉達(dá)在今年9月初發(fā)布的Rubin架構(gòu)的芯片,將于2026年底上市;而Bernstein和Morgan Stanley的計算對象,是2024年3月發(fā)布的Blackwell架構(gòu)。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

Bernstein的GPU的成本是136.5億美元,BofA(美國銀行)的Future(未來的數(shù)據(jù)中心)成本是375億美元,就光這個就差了200多億每GW,這個是我感覺的最大差別。

所以各家計算的金額,最大的差別就在于芯片價格不同,相差了200億每GW,而像供電、冷卻等其他設(shè)施的成本相差并不大。不過這也側(cè)面說明了,老黃的下一代芯片又要漲價了。

新的“黃氏數(shù)學(xué)”(Jensen’s Math)認(rèn)為一座1GW的AI數(shù)據(jù)中心,總成本是600~800億,甚至還高于了其他機構(gòu)給出的預(yù)測,其中的“計算成本”,也就是英偉達(dá)的潛在收入,是400~500億。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

我會覺得可能老黃應(yīng)該還是說得準(zhǔn)的,就是他自己知道他想定什么價。他自己算過,這個能耗是多少,然后價格他想定多少,他覺得自己能賺多少。

第二個原因,就是計算范圍不同。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

BofA(美國銀行)相當(dāng)于算的是數(shù)據(jù)中心building(建筑),房子里邊的成本。Bernstein算的是,包括房子的成本,還包括了整個數(shù)據(jù)中心園區(qū)的成本,也就是它把園區(qū)里邊的配電系統(tǒng),還有(渦輪)發(fā)電機全部都包括進(jìn)去了。

BofA(美國銀行)里面的發(fā)電機的話,我感覺它更多的是備用電源的(柴油)發(fā)電機,Bernstein里邊的發(fā)電機是Gas turbines(渦輪發(fā)電機),相當(dāng)于是一個自發(fā)電的發(fā)電機。

所以綜合看下來,我們的嘉賓認(rèn)為,對于巨頭們未來建設(shè)的數(shù)據(jù)中心,可能美國銀行給出的預(yù)算會更接近真實情況,所以我們這期的預(yù)估也是根據(jù)美國銀行的報告來整理的。

前面說到,電力會成為數(shù)據(jù)中心的瓶頸,這就是為什么大家會看到在我們的動畫中,數(shù)據(jù)中心里面和外面都有發(fā)電機。其實,在電力這一塊,會有不小的一項隱形支出:電力投資。

03 隱形支出,巨頭親自下場建電廠

我們之前做過一期視頻和播客,講述了AI帶來的用電荒,以及為什么美國如此缺電。而一年半后的今天,情況依然沒有好轉(zhuǎn)。如今巨頭們?yōu)榱双@取電力,不得不自己投資建廠。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

OpenAI或者它的合作伙伴像Oracle,他們需要想辦法去創(chuàng)造新的容量,在電網(wǎng)上?,F(xiàn)在的很多科技公司,他得自己去建發(fā)電機、建發(fā)電站、變電站和一些配(電)網(wǎng)的設(shè)施,甚至建一些稍微短一點的電力傳輸線等等,去滿足自己的需求。

如果要給一個10GW的數(shù)據(jù)中心,配上一個發(fā)電廠的話,它的成本可能會達(dá)到,再加上可能120~200億美元的成本。

所以我們看到,由于AI數(shù)據(jù)中心的大基建,還帶火了被認(rèn)為是“夕陽產(chǎn)業(yè)”的電力股GEV,它的燃?xì)廨啓C訂單甚至都排到了三年后。

谷歌曾斥資30億美元,改造賓夕法尼亞州的兩座水力發(fā)電廠,為的就是換取3000MW的電力,相當(dāng)于獲取1GW得花10億,這還僅僅是改造的費用。還有馬斯克為了Colossus2項目,也收購了一家發(fā)電廠。

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

數(shù)據(jù)中心搶電搶得很厲害。然后也有一些分析師,他們覺得像GE這樣公司的話,它是會有溢價能力的。(購買)1GW的(發(fā)電機)可能就是相當(dāng)于25億(美元)。這可能比較高的點,我覺得用20億的話差不多,就CapEx(資本支出)是20億。

到這里就有個問題了,數(shù)據(jù)中心不是本來就有應(yīng)急發(fā)電機了嗎,為什么不直接用這些發(fā)電機來供電呢?

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

應(yīng)急的柴油發(fā)電機和大型的天然氣渦輪發(fā)電機,還是有本質(zhì)的區(qū)別的。柴油發(fā)電機的話,它更多的是作為一個備用電源來使用的。所以它在設(shè)計的時候,它的所有的組件,都是為了高功率、短時爆發(fā)而優(yōu)化的。所以它并不能承載24小時,隨時隨地都在運行的狀態(tài)。

這個天然氣渦輪發(fā)電機,它在設(shè)計的時候就是考慮到了像一年365天,幾乎每一個小時都在運行這樣使用的場景。還有一些其他的原因是,柴油的話它實際上是一種比較貴的燃料,然后相對于天然氣發(fā)電機的話,它用的是天然氣,它可以通過管道去輸送,發(fā)同一度電的成本,柴油發(fā)電機的成本很可能是,天然氣發(fā)電機成本的3~8倍。

所以現(xiàn)在數(shù)據(jù)中心的建設(shè),就卡在了獲取電力上。美國電網(wǎng)又無法提供足夠的功率,想買天然氣渦輪發(fā)電機又買不到,由此也催生了一些其他的方式。比如燃料電池開始變得越來越受歡迎,甚至巨頭們都被“逼”上了太空。

谷歌最近的消息說,計劃在2027年將數(shù)據(jù)中心送上太空。主要原因就在于,在太空中利用太陽能板來發(fā)電,效率可以達(dá)到地球上的8倍,還能解決晚上沒有太陽能的困擾,可以說是免費且無限的能源供應(yīng)。除此之外,在太空的真空,還能利用輻射散熱方式,降低冷卻系統(tǒng)的需求。

除了谷歌,微軟、亞馬遜,還有馬斯克的SpaceX都開啟了這方面的探索。那么建設(shè)太空數(shù)據(jù)中心又得花多少錢呢?在Linkedin有人預(yù)測,目前建設(shè)一座1MW的太空數(shù)據(jù)中心,算上發(fā)射費后,成本約為3550萬美元,如果是1GW,那將是355億。

這好像也沒比地球上貴多少,那關(guān)于太空數(shù)據(jù)中心是否可行、背后的挑戰(zhàn)與機遇,我們之后也會單開一期來好好聊聊。

04 狂潮下的理性,過度投資也有退路

既然建設(shè)AI數(shù)據(jù)中心耗費如此大,而且在市場紛紛懷疑充滿泡沫的情況下,為什么這股基建熱潮只增不減呢?在我們采訪的嘉賓看來,主要原因有兩點,第一是,投資不足比投資過度的風(fēng)險更大

徐熠興(Ethan Xu)

前微軟能源戰(zhàn)略經(jīng)理,前突破能源科研總監(jiān):

大部分公司現(xiàn)在都意識到一點,Under investment is riskier than over investment,就是所謂的投資不夠,給你帶來的風(fēng)險要遠(yuǎn)遠(yuǎn)大于你過度投資帶給你的風(fēng)險。為什么會這樣呢?很有可能誰最先獲得最好的AI模型,或者所謂的AGI的話,這家公司就會占據(jù)比較大的一個市場份額,其他公司的生存空間就會很快地縮小。

那我們再看一下過度投資會有什么樣的風(fēng)險,你無非就是買了更多的地、更多的電、更多的房子,建數(shù)據(jù)中心。最后你發(fā)現(xiàn),可能你買多了,無非就是你可以把它用作自己公司內(nèi)部的一些使用、效率的提升,或者你可以把它租給其他人,或者就把這些地、電賣給其他公司,總體來說就是過度投資的風(fēng)險,它實際上是有一個封頂?shù)摹?/p>

第二個原因就在于,只要有算力,科技公司們總會有辦法用掉。

王辰晟

前特斯拉供應(yīng)鏈總監(jiān):

在硅谷有一句話就是,Bill will always eat Andy。你只要有Infra(基礎(chǔ)設(shè)施),你只要有Hardware(硬件),Server(服務(wù)商)總有辦法,可以想辦法把你運用掉的。這周早些時候OCP Meta的人就在里面說,其實他們目前的GPU,光用來去做他們內(nèi)部一些AI,比如Instagram或者Facebook,然后去篩除一些不合適的內(nèi)容,他們其實也已經(jīng)需要很多算力了,就算有多余閑置的算力,用來做內(nèi)部的降本(cost reduction),他其實也是完全是可以用的,所以我覺得現(xiàn)在主流的這些公司,都不會擔(dān)心說這些會overinvest(過度投資)。

所以我們看到,哪怕現(xiàn)在市場紛紛質(zhì)疑AI存在過度投資的情況,巨頭們依然在瘋狂涌入。那么最后一個問題是,上萬億美元的需求,錢從哪來呢?

Bruce Liu

美國Esoterica Capital(濟容投資)

首席執(zhí)行官兼首席投資官:

其實就是這些hyper scaler(超大規(guī)模云服務(wù)商),它的這些自生的錢,我自己賺的錢我再投回去,我自己欠的錢我再投回去,后面其實就是要靠這些public market(公開市場),就是債券市場,美國的investment grade(投資級)或者h(yuǎn)igh yield grade(高收益級)。

然后還有最近新起來的,我們叫美國的影子銀行,所謂這些private credit(私募信貸),你把它break down(拆分),基本上就是這些大的融資渠道,來撐起這個整個的AI build out(基建熱潮),這在歷史,美國歷史上也不是沒有見過。我覺得AI更像全球的基建的大的周期,只要你(AI)能掙到錢,你是全球的增長的這個driver(驅(qū)動者),真的是不用特別擔(dān)心錢這個事情。

這場看似瘋狂的投入,本質(zhì)上是一場關(guān)于“誰先抵達(dá)未來”的博弈?;蛟S這條路充滿風(fēng)險,但對于巨頭來說,“缺席”的代價比“投資錯誤”的代價更高。你

對這場瘋狂的AI基建投資有什么想法?歡迎在評論區(qū)和我們一起聊聊吧。

 

 
本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請聯(lián)系原著作權(quán)人。