埃隆·馬斯克在社交平臺公開宣布,由xAI、X和英偉達等合力打造的“Supercluster”已開始投入訓練。它由10萬塊H100組成,是目前世界上最強訓練集群。10萬個英偉達H100,每個就高達3-4萬美元,總價值將達40億美元(折合人民幣超290億)。
2023年7月馬斯克成立了xAI,其核心初創(chuàng)成員來自OpenAI、谷歌DeepMind、微軟研究院、特斯拉等知名企業(yè)。為了讓它能和ChatGPT直接競爭,馬斯克將最近兩年的大部分精力用xAI。
值得一提的是,這個全球最大超級計算中心在今年3月方才動工,計劃是2025年竣工,沒想到僅僅只用了四個月,就提前完成了。超級計算中心所需要的資源非常多,除了英偉達芯片等基礎硬件之外,工廠每小時可能使用高達150兆瓦的電力,相當于10萬戶家庭所需電量,這可能會對當?shù)貋碚f會造成巨大的負擔。除了電力資源之外,超級計算中心的冷卻預計每天需要130萬加侖的水,也就是說每天需要從孟菲斯的主要水源中抽取。
巨額的資金投入就算馬斯克貴為“世界首富”,也很是吃不消,于是他聯(lián)合戴爾和超微一起建設集群,并從甲骨文拿到了24000塊H100的資源。
|