我們知道,從能源和計算供應的角度來看,這在長遠來看是不可行的。 我對@grok 20k H100 GPU需求的粗略計算。 ➤ H100 GPU能耗 ⟶ 20k x 0.7 kW/GPU x 24小時 ⟶ 336 MWh/天 ⟶ 122,640 MWh/年 ➤ 總能源成本 ⟶ $26,880/天 和 $9.81M/年 ➤ 總投資(GPU) ⟶ $600M ➤ 碳足跡 ⟶ 47,216噸CO2/年 或 236,082噸CO2/年 利用去中心化的GPU,利用全球閒置硬體,可以顯著降低成本,特別是在初始投資和間接費用方面。 這一策略還可能導致能源消耗減少、成本效率提高以及碳足跡降低,可能得到供應商或去中心化基礎設施本身的綠色倡議的支持。 然而,去中心化基礎設施仍處於早期階段,必須解決效率和性能差距。 正如@mtorygreen所指出的,一旦這些挑戰得到解決,回歸傳統的集中式基礎設施可能就不再明智。 這是無處不在或無處可去。
Elon Musk
Elon Musk8月16日 12:55
我正在嘗試由 Grok 4 Mini 驅動的新 𝕏 算法。它確實更好。 需要大約 20,000 個 GPU 才能向所有用戶推出,雖然延遲更高,但付出是值得的。
3.68K