Toinen erinomainen oivallus @karpathy:lta, joka korostaa tekoälyn todennettavuuden merkitystä "Mielestäni vahvin vertaus on tekoälyn uusi laskentaparadigma (Software 2.0) ... Software 1.0 automatisoi helposti sen, mitä voit määrittää. Software 2.0 automatisoi helposti sen, mitä voit varmistaa. ... Tässä uudessa ohjelmointiparadigmassa uusi ennustavin ominaisuus on todennettavuus. Jos tehtävä/työ on todennettavissa, se on optimoitavissa suoraan tai vahvistusoppimisen avulla, ja neuroverkko voidaan kouluttaa toimimaan erittäin hyvin." Todennettavuus tässä kehyksessä liittyy enemmän koulutus- ja optimointikontekstiin – arviointiin siitä, onko tekoälyn tulos oikea + mahdollistaa parempi automaatio sen ansiosta. Todennettavuus tekoälyssä + kryptossa keskittyy enemmän toteutuskontekstiin. - Voimmeko varmistaa, että syöte, malli ja tulos ovat oikein eivätkä ole manipuloitu (todennettavissa oleva päättely)? - Voiko kukaan maailmassa suorittaa tämän päättelyn uudelleen ja saada saman tuloksen tänään, huomenna ja vuoden kuluttua (deterministinen päättely) - Voimmeko varmistaa tarkan koodin, joka ajaa tätä agenttia (varmennettava ajonaika) - Voimmeko varmistaa, että vain agentilla on pääsy lompakkoon ja mahdollisuus tehdä asioita siitä (todennettavissa ajonaikaisesti)? - Voimmeko varmistaa tämän agentin (ERC-8004) maineen?