Outro grande insight de @karpathy, apontando a importância da verificabilidade da IA "Acho que a analogia mais forte é a da IA como um novo paradigma computacional (Software 2.0) ... O Software 1.0 automatiza facilmente o que você pode especificar. O Software 2.0 automatiza facilmente o que você pode verificar. ... Nesse novo paradigma de programação, a nova característica mais preditiva a ser observada é a verificabilidade. Se uma tarefa/tarefa é verificável, então ela é otimizável diretamente ou por meio de aprendizado por reforço, e uma rede neural pode ser treinada para funcionar extremamente bem." A verificabilidade nesse enquadramento gira mais em torno do contexto de treinamento/otimização – a avaliação de se a saída de uma IA está correta + possibilitando uma melhor automação por causa disso. Verificabilidade em IA + cripto é mais focada no contexto da execução. - Podemos verificar se a entrada, modelo e saída estão corretos e não foram adulterados (inferência verificável) - Alguém no mundo pode reexecutar essa inferência e obter o mesmo resultado hoje, amanhã e daqui a 1 ano (inferência determinística) - Podemos verificar o código exato executando esse agente (runtime verificável) - Podemos verificar se apenas o agente tem acesso e a capacidade de transacionar a partir de sua carteira (runtime verificável) - Podemos verificar a reputação deste agente (ERC-8004)