O debate sobre o apocalipse com @VitalikButerin foi lançado: "O 'd/acc' protegerá a humanidade da IA superinteligente?" Vitalik é tanto um otimista tecnológico radical e construtor, quanto alguém disposto a considerar seriamente a regulação da IA e os mecanismos de coordenação. Ele cunhou o termo "d/acc" – aceleração defensiva e descentralizada – como um caminho intermediário entre a aceleração da IA sem críticas e os cenários de pausa total. Debatemos a viabilidade do alinhamento da IA, se abordagens como d/acc realmente funcionariam quando a superinteligência chegar, e por que ele acredita que um mundo pluralista de IAs competidoras pode ser mais seguro do que uma única superinteligência alinhada. O cerne da nossa discordância é que eu acho que estamos caminhando para um cenário de "plantas vs. animais", onde a IA simplesmente operará em escalas de tempo que não conseguimos igualar, enquanto Vitalik acredita que podemos manter a agência através da combinação certa de tecnologias defensivas e design institucional. Finalmente, abordamos o próprio discurso – eu pergunto a Vitalik para desmistificar os ataques ad hominem comuns contra os apocalípticos da IA, desde "é apenas uma posição marginal" até "nenhum verdadeiro construtor acredita no apocalipse." Suas respostas têm peso, dada sua credibilidade como um empreendedor de sucesso e alguém que manteve a honestidade intelectual ao longo de sua carreira. Um grande agradecimento a Vitalik por um debate de boa-fé!
138,52K