Ein weiterer großartiger Einblick von @karpathy, der auf die Bedeutung der Verifizierbarkeit von KI hinweist "Ich denke, die stärkste Analogie ist die von KI als ein neues Rechenparadigma (Software 2.0) ... Software 1.0 automatisiert leicht, was Sie spezifizieren können. Software 2.0 automatisiert leicht, was Sie verifizieren können. ... In diesem neuen Programmierparadigma ist dann das neue, am stärksten prädiktive Merkmal, auf das man achten sollte, die Verifizierbarkeit. Wenn eine Aufgabe/Job verifizierbar ist, dann kann sie direkt oder über verstärkendes Lernen optimiert werden, und ein neuronales Netz kann trainiert werden, um extrem gut zu funktionieren." Verifizierbarkeit in diesem Rahmen dreht sich mehr um den Kontext von Training/Optimierung - die Bewertung, ob die Ausgabe einer KI korrekt ist + die Ermöglichung besserer Automatisierung aufgrund dessen. Verifizierbarkeit in KI + Krypto konzentriert sich mehr auf den Ausführungskontext. - Können wir überprüfen, ob die Eingabe, das Modell und die Ausgabe korrekt sind und nicht manipuliert wurden (verifizierbare Inferenz) - Kann jemand auf der Welt diese Inferenz erneut ausführen und heute, morgen und in einem Jahr dasselbe Ergebnis erhalten (deterministische Inferenz) - Können wir den genauen Code überprüfen, der diesen Agenten ausführt (verifizierbare Laufzeit) - Können wir überprüfen, dass nur der Agent Zugriff hat und die Fähigkeit hat, von seiner Wallet zu transagieren (verifizierbare Laufzeit) - Können wir den Ruf dieses Agenten überprüfen (ERC-8004)