Outra grande visão de @karpathy, apontando a importância da verificabilidade da IA "Acho que a analogia mais forte é a da IA como um novo paradigma de computação (Software 2.0) ... O Software 1.0 automatiza facilmente o que você pode especificar. O Software 2.0 automatiza facilmente o que você pode verificar. ... Neste novo paradigma de programação, então, a nova característica mais preditiva a se observar é a verificabilidade. Se uma tarefa/emprego é verificável, então é otimizado diretamente ou via aprendizado por reforço, e uma rede neural pode ser treinada para funcionar extremamente bem." A verificabilidade neste contexto gira mais em torno do treinamento/otimização - a avaliação de se a saída de uma IA está correta + permitindo uma melhor automação por causa disso. A verificabilidade em IA + cripto está mais focada no contexto de execução. - Podemos verificar se a entrada, o modelo e a saída estão corretos e não foram adulterados (inferência verificável) - Alguém no mundo pode reexecutar essa inferência e obter o mesmo resultado hoje, amanhã e daqui a 1 ano (inferência determinística) - Podemos verificar o código exato que está executando este agente (tempo de execução verificável) - Podemos verificar que apenas o agente tem acesso e a capacidade de transacionar a partir de sua carteira (tempo de execução verificável) - Podemos verificar a reputação deste agente (ERC-8004)