Мы знаем, что это нецелесообразно в долгосрочной перспективе как с точки зрения энергии, так и с точки зрения вычислительных ресурсов. Моя не совсем точная математика по требованию @grok в 20k H100 GPU. ➤ Энергия H100 GPU ⟶ 20k x 0.7 кВт/GPU x 24 часа ⟶ 336 МВтч/д ⟶ 122,640 МВтч/год ➤ Общие затраты на энергию ⟶ $26,880/д и $9.81M/год ➤ Общие инвестиции (GPU) ⟶ $600M ➤ Углеродный след ⟶ 47,216 тонн CO2/год или 236,082 тонн CO2/год Использование децентрализованных GPU, которые используют неиспользуемое оборудование по всему миру, может значительно сократить затраты, особенно в отношении первоначальных инвестиций и накладных расходов. Эта стратегия также может привести к снижению потребления энергии, повышению эффективности затрат и уменьшению углеродного следа, возможно, поддерживаемого зелеными инициативами со стороны поставщиков или самой децентрализованной инфраструктуры. Тем не менее, децентрализованная инфраструктура все еще находится на ранних стадиях и должна решить проблемы с эффективностью и производительностью. Как отметил @mtorygreen, как только эти проблемы будут решены, возвращение к устаревшей централизованной инфраструктуре может больше не иметь смысла. Это повсюду или нигде.