Compartilhando uma conversa recente interessante sobre o impacto da IA na economia. A IA tem sido comparada a vários precedentes históricos: eletricidade, revolução industrial, etc., acho que a analogia mais forte é a da IA como um novo paradigma de computação (Software 2.0) porque ambos são fundamentalmente sobre a automação do processamento digital de informações. Se você fosse prever o impacto da computação no mercado de trabalho na década de ~ 1980, a característica mais preditiva de uma tarefa / trabalho que você observaria é até que ponto o algoritmo é fixo, ou seja, você está apenas transformando mecanicamente as informações de acordo com regras mecânicas e fáceis de especificar (por exemplo, digitação, contabilidade, calculadoras humanas, etc.)? Naquela época, essa era a classe de programas que a capacidade de computação daquela época nos permitia escrever (à mão, manualmente). Com a IA agora, somos capazes de escrever novos programas que nunca poderíamos esperar escrever à mão antes. Fazemos isso especificando objetivos (por exemplo, precisão de classificação, funções de recompensa) e pesquisamos o espaço do programa por meio de gradiente descendente para encontrar redes neurais que funcionem bem contra esse objetivo. Este é o meu software 2.0 post no blog de um tempo atrás. Nesse novo paradigma de programação, então, o novo recurso mais preditivo a ser observado é a verificabilidade. Se uma tarefa/trabalho for verificável, ela será otimizável diretamente ou por meio de aprendizado por reforço, e uma rede neural pode ser treinada para funcionar extremamente bem. É sobre até que ponto uma IA pode "praticar" algo. O ambiente deve ser reinicializável (você pode iniciar uma nova tentativa), eficiente (muitas tentativas podem ser feitas) e recompensado (há algum processo automatizado para recompensar qualquer tentativa específica que foi feita). Quanto mais uma tarefa/trabalho é verificável, mais passível de automação é no novo paradigma de programação. Se não for verificável, tem que cair da magia da rede neural de generalização com os dedos cruzados, ou por meios mais fracos, como a imitação. Isso é o que está impulsionando a fronteira "irregular" do progresso em LLMs. Tarefas que são verificáveis progridem rapidamente, incluindo possivelmente além da capacidade dos principais especialistas (por exemplo, matemática, código, quantidade de tempo gasto assistindo a vídeos, qualquer coisa que se pareça com quebra-cabeças com respostas corretas), enquanto muitas outras ficam para trás em comparação (tarefas criativas, estratégicas, que combinam conhecimento do mundo real, estado, contexto e bom senso). O Software 1.0 automatiza facilmente o que você pode especificar. O Software 2.0 automatiza facilmente o que você pode verificar.