Il dibattito sul Doom con @VitalikButerin è stato pubblicato: "Il 'd/acc' proteggerà l'umanità dall'IA superintelligente?" Vitalik è sia un hardcore techno-ottimista e costruttore, sia qualcuno disposto a considerare seriamente la regolamentazione dell'IA e i meccanismi di coordinamento. Ha coniato il termine "d/acc" – accelerazione difensiva e decentralizzata – come una via di mezzo tra l'accelerazione dell'IA senza critiche e gli scenari di totale pausa. Discutiamo della fattibilità dell'allineamento dell'IA, se approcci come il d/acc funzionerebbero realmente quando arriverà la superintelligenza, e perché pensa che un mondo pluralistico di IA in competizione potrebbe essere più sicuro di una singola superintelligenza allineata. Il nocciolo del nostro disaccordo è che io penso che ci stiamo dirigendo verso uno scenario "piante contro animali" in cui l'IA opererà semplicemente su scale temporali che non possiamo eguagliare, mentre Vitalik crede che possiamo mantenere l'agenzia attraverso la giusta combinazione di tecnologie difensive e design istituzionale. Infine, affrontiamo il discorso stesso – chiedo a Vitalik di smontare i comuni attacchi ad hominem contro i catastrofisti dell'IA, da "è solo una posizione marginale" a "nessun vero costruttore crede nel catastrofismo." Le sue risposte hanno peso data la sua credibilità sia come imprenditore di successo sia come persona che ha mantenuto l'onestà intellettuale per tutta la carriera. Un grande grazie a Vitalik per un dibattito di buona fede!