Doom-debat met @VitalikButerin is verschenen: Zal "d/acc" de mensheid beschermen tegen superintelligente AI? Vitalik is zowel een hardcore techno-optimist en bouwer, als iemand die bereid is om serieus na te denken over AI-regulering en coördinatiemechanismen. Hij bedacht de term "d/acc" – defensieve, gedecentraliseerde versnelling – als een middenweg tussen onkritische AI-versnelling en totale pauzescenario's. We debatteren over de haalbaarheid van AI-afstemming, of benaderingen zoals d/acc daadwerkelijk zouden werken wanneer superintelligentie arriveert, en waarom hij denkt dat een pluralistische wereld van concurrerende AIs veiliger kan zijn dan een enkele afgestemde superintelligentie. De kern van onze onenigheid is dat ik denk dat we op weg zijn naar een "planten vs. dieren" scenario waarin AI simpelweg opereert op tijdschalen die we niet kunnen bijbenen, terwijl Vitalik gelooft dat we onze autonomie kunnen behouden door de juiste combinatie van defensieve technologieën en institutioneel ontwerp. Ten slotte bespreken we de discussie zelf – ik vraag Vitalik om de veelvoorkomende ad hominem-aanvallen tegen AI-doemers te ontkrachten, van "het is gewoon een fringe-positie" tot "geen echte bouwers geloven in doom." Zijn antwoorden hebben gewicht gezien zijn geloofwaardigheid als zowel een succesvolle ondernemer als iemand die gedurende zijn carrière intellectuele eerlijkheid heeft behouden. Grote dank aan Vitalik voor een goedbedoeld debat!