Kolejna świetna uwaga od @karpathy, podkreślająca znaczenie weryfikowalności AI "Myślę, że najsilniejsza analogia to AI jako nowy paradygmat obliczeniowy (Oprogramowanie 2.0) ... Oprogramowanie 1.0 łatwo automatyzuje to, co możesz określić. Oprogramowanie 2.0 łatwo automatyzuje to, co możesz zweryfikować. ... W tym nowym paradygmacie programowania, nową najbardziej przewidywalną cechą, na którą należy zwrócić uwagę, jest weryfikowalność. Jeśli zadanie/praca jest weryfikowalna, to można ją optymalizować bezpośrednio lub za pomocą uczenia przez wzmocnienie, a sieć neuronowa może być trenowana, aby działać niezwykle dobrze." Weryfikowalność w tym ujęciu bardziej koncentruje się na kontekście treningu/optimizacji - ocenie, czy wynik AI jest poprawny + umożliwieniu lepszej automatyzacji dzięki temu. Weryfikowalność w AI + kryptowalutach koncentruje się bardziej na kontekście wykonania. - Czy możemy zweryfikować, że dane wejściowe, model i wynik są poprawne i nie zostały zmanipulowane (weryfikowalna inferencja) - Czy ktokolwiek na świecie może ponownie wykonać tę inferencję i uzyskać ten sam wynik dzisiaj, jutro i za rok (deterministyczna inferencja) - Czy możemy zweryfikować dokładny kod uruchamiający tego agenta (weryfikowalny czas wykonania) - Czy możemy zweryfikować, że tylko agent ma dostęp do swojego portfela i możliwość transakcji z niego (weryfikowalny czas wykonania) - Czy możemy zweryfikować reputację tego agenta (ERC-8004)