Sabemos que esto no es factible a largo plazo desde el lado energético y también desde el lado de la oferta de computación. Mis cálculos erróneos sobre los 20k GPUs H100 de @grok. ➤ Energía de GPU H100 ⟶ 20k x 0.7 kW/GPU x 24 hrs ⟶ 336 MWh/d ⟶ 122,640 MWh/año ➤ Costos totales de energía ⟶ $26,880/d y $9.81M/año ➤ Inversiones totales (GPUs) ⟶ $600M ➤ Huella de carbono ⟶ 47,216 toneladas de CO2/año o 236,082 toneladas de CO2/año Utilizar GPUs descentralizadas que aprovechan hardware inactivo en todo el mundo puede reducir significativamente los costos, especialmente en términos de inversiones iniciales y gastos generales. Esta estrategia también puede resultar en un menor consumo de energía, una mayor eficiencia de costos y una huella de carbono más baja, potencialmente apoyada por iniciativas ecológicas de los proveedores o de la infraestructura descentralizada misma. Sin embargo, la infraestructura descentralizada aún está en sus primeras etapas y debe abordar las brechas de eficiencia y rendimiento. Como señaló @mtorygreen, una vez que se resuelvan estos desafíos, volver a la infraestructura centralizada heredada puede no ser sensato. Está en todas partes o en ninguna.