Víme, že to není z dlouhodobého hlediska realizovatelné jak ze strany energie, tak i ze strany výpočetní nabídky. Moje rozbitá matematika na @grok požadavek na 20k H100 GPU. ➤ Energie GPU H100 ⟶ 20k x 0,7 kW/GPU x 24 hodin ⟶ 336 MWh/d ⟶ 122 640 MWh/rok ➤ Celkové náklady na energii ⟶ 26 880 USD/d a 9,81 mil. USD/rok ➤ Celkové investice (GPU) ⟶ 600 milionů USD ➤ Uhlíková stopa ⟶ 47 216 tun CO2/rok nebo 236 082 tun CO2/rok Využití decentralizovaných GPU, které využívají nečinný hardware po celém světě, může výrazně snížit náklady, zejména pokud jde o počáteční investice a režijní náklady. Tato strategie může také vést ke snížení spotřeby energie, zvýšení efektivity nákladů a nižší uhlíkové stopě, což může být podpořeno zelenými iniciativami dodavatelů nebo samotnou decentralizovanou infrastrukturou. Decentralizovaná infrastruktura je však stále v raných fázích a musí řešit nedostatky v efektivitě a výkonu. Jak @mtorygreen poznamenal, jakmile budou tyto výzvy vyřešeny, návrat k zastaralé centralizované infrastruktuře již nemusí být rozumný. Je to všude nebo nikde.