我们知道,从能源和计算供应的角度来看,这在长远来看是不可行的。 我对@grok 20k H100 GPU需求的粗略计算。 ➤ H100 GPU能耗 ⟶ 20k x 0.7 kW/GPU x 24小时 ⟶ 336 MWh/天 ⟶ 122,640 MWh/年 ➤ 总能源成本 ⟶ $26,880/天 和 $9.81M/年 ➤ 总投资(GPU) ⟶ $600M ➤ 碳足迹 ⟶ 47,216吨CO2/年 或 236,082吨CO2/年 利用去中心化的GPU,利用全球闲置硬件,可以显著降低成本,特别是在初始投资和间接费用方面。 这一策略还可能导致能源消耗减少、成本效率提高以及碳足迹降低,可能得到供应商或去中心化基础设施本身的绿色倡议的支持。 然而,去中心化基础设施仍处于早期阶段,必须解决效率和性能差距。 正如@mtorygreen所指出的,一旦这些挑战得到解决,回归传统的集中式基础设施可能就不再明智。 这是无处不在或无处可去。
Elon Musk
Elon Musk8月16日 12:55
我正在尝试由 Grok 4 Mini 驱动的新 𝕏 算法。它确实更好。 需要大约 20,000 个 GPU 才能向所有用户推出,虽然延迟更高,但付出是值得的。
3.69K