We weten dat dit op de lange termijn niet haalbaar is vanuit het energieperspectief en ook vanuit de aanbodzijde van de berekeningen. Mijn gebroken wiskunde over de vereiste 20k H100 GPU's van @grok. ➤ H100 GPU Energie ⟶ 20k x 0,7 kW/GPU x 24 uur ⟶ 336 MWh/d ⟶ 122.640 MWh/jaar ➤ Totale energiekosten ⟶ $26.880/d en $9,81M/jaar ➤ Totale investeringen (GPU's) ⟶ $600M ➤ Koolstofvoetafdruk ⟶ 47.216 ton CO2/jaar of 236.082 ton CO2/jaar Het gebruik van gedecentraliseerde GPU's die ongebruikte hardware wereldwijd benutten, kan de kosten aanzienlijk verlagen, vooral wat betreft initiële investeringen en overhead. Deze strategie kan ook leiden tot een verminderd energieverbruik, verbeterde kostenefficiëntie en een lagere koolstofvoetafdruk, mogelijk ondersteund door groene initiatieven van leveranciers of de gedecentraliseerde infrastructuur zelf. Echter, gedecentraliseerde infrastructuur bevindt zich nog in de beginfase en moet efficiëntie- en prestatiekloof aanpakken. Zoals @mtorygreen opmerkte, kan het, zodra deze uitdagingen zijn opgelost, niet meer verstandig zijn om terug te keren naar legacy, gecentraliseerde infrastructuur. Het is overal of nergens.
Elon Musk
Elon Musk16 aug, 12:55
Ik probeer de nieuwe 𝕏-algoritme aangedreven door Grok 4 Mini. Het is zeker beter. Er zijn ongeveer 20k GPU's nodig om het naar alle gebruikers uit te rollen en er is een hogere latentie, maar de moeite waard.
3,85K