Se rispetti @VitalikButerin e Vitalik rispetta @ESYudkowsky allora, per la proprietà transitiva...

La settimana di Vitalik ✅ Partecipare ai Doom Debates ✅ Unirsi al club delle tre virgole

Il dibattito sul Doom con @VitalikButerin è stato pubblicato: "Il 'd/acc' proteggerà l'umanità dall'IA superintelligente?" Vitalik è sia un hardcore techno-ottimista e costruttore, sia qualcuno disposto a considerare seriamente la regolamentazione dell'IA e i meccanismi di coordinamento. Ha coniato il termine "d/acc" – accelerazione difensiva e decentralizzata – come una via di mezzo tra l'accelerazione dell'IA senza critiche e gli scenari di totale pausa. Discutiamo della fattibilità dell'allineamento dell'IA, se approcci come il d/acc funzionerebbero realmente quando arriverà la superintelligenza, e perché pensa che un mondo pluralistico di IA in competizione potrebbe essere più sicuro di una singola superintelligenza allineata. Il nocciolo del nostro disaccordo è che io penso che ci stiamo dirigendo verso uno scenario "piante contro animali" in cui l'IA opererà semplicemente su scale temporali che non possiamo eguagliare, mentre Vitalik crede che possiamo mantenere l'agenzia attraverso la giusta combinazione di tecnologie difensive e design istituzionale. Infine, affrontiamo il discorso stesso – chiedo a Vitalik di smontare i comuni attacchi ad hominem contro i catastrofisti dell'IA, da "è solo una posizione marginale" a "nessun vero costruttore crede nel catastrofismo." Le sue risposte hanno peso data la sua credibilità sia come imprenditore di successo sia come persona che ha mantenuto l'onestà intellettuale per tutta la carriera. Un grande grazie a Vitalik per un dibattito di buona fede!

Il perfetto esca @paulg non esiste...

Il fatto che Anthropic valga 170 miliardi di dollari rende ridicolo chiunque continui a dire che nessuno con vere competenze nella costruzione di IA si preoccupi del rischio di estinzione.

Pensi ancora che l'efficacia del cervello umano come "intelligenza generale" derivi semplicemente dall'aggregazione di una collezione diversificata di abilità trasmesse culturalmente @robinhanson

Sento che questa prospettiva si è persa? Il passaggio da GPT-4 a GPT-5 *è stato* un passo della grandezza di quello da GPT-3 a GPT-4, e ha richiesto solo due anni invece di tre.

Domani

Tre domande per @paulg e @amasad: 1. Se Anas Al-Sharif fosse stato un membro di Hamas, sarebbe stato giusto eliminarlo? 2. È probabile che la dichiarazione di Israele secondo cui era un membro di Hamas sia vera? 3. Se #1 e #2 sono entrambi veri, sarebbe appropriato per voi correggere le reazioni del vostro lato?

Nessun singolo organo di informazione ha menzionato l'ampia evidenza open-source, inclusa alcune che ho delineato qui sotto, che dimostra che Anas al-Sharif non è altro che un giornalista. Ritratto con i leader di Hamas? Riempito di elogi per i assassini e stupratori del 7 ottobre? Nah, non è rilevante.