Sappiamo che questo non è fattibile a lungo termine dal punto di vista energetico e anche dal lato dell'offerta di calcolo. La mia matematica approssimativa sui requisiti di @grok per 20k GPU H100. ➤ Energia GPU H100 ⟶ 20k x 0.7 kW/GPU x 24 ore ⟶ 336 MWh/giorno ⟶ 122,640 MWh/anno ➤ Costi energetici totali ⟶ $26,880/giorno e $9.81M/anno ➤ Investimenti totali (GPU) ⟶ $600M ➤ Impronta di carbonio ⟶ 47,216 tonnellate di CO2/anno o 236,082 tonnellate di CO2/anno Utilizzare GPU decentralizzate che sfruttano hardware inattivo in tutto il mondo può ridurre significativamente i costi, specialmente in termini di investimenti iniziali e spese generali. Questa strategia può anche portare a una riduzione del consumo energetico, a una maggiore efficienza dei costi e a una minore impronta di carbonio, potenzialmente supportata da iniziative verdi da parte dei fornitori o dalla stessa infrastruttura decentralizzata. Tuttavia, l'infrastruttura decentralizzata è ancora nelle sue fasi iniziali e deve affrontare lacune in termini di efficienza e prestazioni. Come ha notato @mtorygreen, una volta risolti questi problemi, tornare all'infrastruttura centralizzata legacy potrebbe non avere più senso. È ovunque o da nessuna parte.