Еще одно замечательное замечание от @karpathy, подчеркивающее важность проверяемости ИИ "Я думаю, что самая сильная аналогия заключается в том, что ИИ является новой вычислительной парадигмой (Программное обеспечение 2.0) ... Программное обеспечение 1.0 легко автоматизирует то, что вы можете указать. Программное обеспечение 2.0 легко автоматизирует то, что вы можете проверить. ... В этой новой программной парадигме наиболее предсказуемой характеристикой, на которую стоит обратить внимание, является проверяемость. Если задача/работа проверяема, то ее можно оптимизировать напрямую или с помощью обучения с подкреплением, и нейронная сеть может быть обучена работать чрезвычайно хорошо." Проверяемость в этом контексте больше связана с обучением / оптимизацией - оценка того, является ли вывод ИИ правильным + обеспечение лучшей автоматизации благодаря этому. Проверяемость в ИИ + криптовалюте больше сосредоточена на контексте выполнения. - Можем ли мы проверить, что входные данные, модель и вывод правильные и не были подделаны (проверяемая инференция) - Может ли кто-то в мире повторно выполнить эту инференцию и получить тот же результат сегодня, завтра и через год (детерминированная инференция) - Можем ли мы проверить точный код, запускающий этого агента (проверяемый рабочий процесс) - Можем ли мы проверить, что только агент имеет доступ к своему кошельку и возможность проводить транзакции (проверяемый рабочий процесс) - Можем ли мы проверить репутацию этого агента (ERC-8004)