Un altro grande spunto da @karpathy, che sottolinea l'importanza della verificabilità dell'AI "Penso che l'analogia più forte sia quella dell'AI come un nuovo paradigma di calcolo (Software 2.0) ... Il Software 1.0 automatizza facilmente ciò che puoi specificare. Il Software 2.0 automatizza facilmente ciò che puoi verificare. ... In questo nuovo paradigma di programmazione, la nuova caratteristica più predittiva da considerare è la verificabilità. Se un compito/lavoro è verificabile, allora è ottimizzabile direttamente o tramite apprendimento per rinforzo, e una rete neurale può essere addestrata per funzionare estremamente bene." La verificabilità in questo contesto ruota più attorno al contesto di addestramento/ottimizzazione - la valutazione di se l'output di un'AI è corretto + abilitare una migliore automazione grazie a ciò. La verificabilità nell'AI + crypto è focalizzata più attorno al contesto di esecuzione. - Possiamo verificare che l'input, il modello e l'output siano corretti e non siano stati manomessi (inferenza verificabile) - Può chiunque al mondo rieseguire questa inferenza e ottenere lo stesso risultato oggi, domani e tra 1 anno (inferenza deterministica) - Possiamo verificare il codice esatto che esegue questo agente (runtime verificabile) - Possiamo verificare che solo l'agente abbia accesso e la possibilità di transare dal proprio wallet (runtime verificabile) - Possiamo verificare la reputazione di questo agente (ERC-8004)