Une autre excellente réflexion de @karpathy, soulignant l'importance de la vérifiabilité de l'IA "Je pense que la meilleure analogie est celle de l'IA comme un nouveau paradigme informatique (Software 2.0) ... Le logiciel 1.0 automatise facilement ce que vous pouvez spécifier. Le logiciel 2.0 automatise facilement ce que vous pouvez vérifier. ... Dans ce nouveau paradigme de programmation, la nouvelle caractéristique la plus prédictive à considérer est la vérifiabilité. Si une tâche/un emploi est vérifiable, alors il est optimisable directement ou via l'apprentissage par renforcement, et un réseau de neurones peut être entraîné pour fonctionner extrêmement bien." La vérifiabilité dans ce cadre tourne davantage autour du contexte d'entraînement / d'optimisation - l'évaluation de la correction de la sortie d'une IA + permettant une meilleure automatisation grâce à cela. La vérifiabilité dans l'IA + la crypto est davantage axée sur le contexte d'exécution. - Pouvons-nous vérifier que l'entrée, le modèle et la sortie sont corrects et n'ont pas été altérés (inférence vérifiable) - Quiconque dans le monde peut-il réexécuter cette inférence et obtenir le même résultat aujourd'hui, demain et dans un an (inférence déterministe) - Pouvons-nous vérifier le code exact exécutant cet agent (runtime vérifiable) - Pouvons-nous vérifier que seul l'agent a accès à, et la capacité de transiger depuis, son portefeuille (runtime vérifiable) - Pouvons-nous vérifier la réputation de cet agent (ERC-8004)