Compartilhando uma conversa recente interessante sobre o impacto da IA na economia. A IA tem sido comparada a vários precedentes históricos: eletricidade, revolução industrial, etc. Eu acho que a analogia mais forte é a da IA como um novo paradigma de computação (Software 2.0), porque ambos são fundamentalmente sobre a automação do processamento de informações digitais. Se você fosse prever o impacto da computação no mercado de trabalho em ~1980, a característica mais preditiva de uma tarefa/emprego que você analisaria seria até que ponto o algoritmo dela é fixo, ou seja, você está apenas transformando mecanicamente informações de acordo com regras fáceis de especificar (por exemplo, digitação, contabilidade, calculadoras humanas, etc.)? Naquela época, essa era a classe de programas que a capacidade computacional daquela era nos permitia escrever (à mão, manualmente). Com a IA agora, somos capazes de escrever novos programas que nunca poderíamos esperar escrever à mão antes. Fazemos isso especificando objetivos (por exemplo, precisão de classificação, funções de recompensa) e buscamos no espaço do programa via descida de gradiente para encontrar redes neurais que funcionem bem em relação a esse objetivo. Este é o meu post de blog sobre Software 2.0 de um tempo atrás. Nesse novo paradigma de programação, a nova característica mais preditiva a ser observada é a verificabilidade. Se uma tarefa/emprego é verificável, então é otimizado diretamente ou via aprendizado por reforço, e uma rede neural pode ser treinada para funcionar extremamente bem. Trata-se de até que ponto uma IA pode "praticar" algo. O ambiente precisa ser reiniciável (você pode começar uma nova tentativa), eficiente (muitas tentativas podem ser feitas) e recompensável (existe algum processo automatizado para recompensar qualquer tentativa específica que foi feita). Quanto mais uma tarefa/emprego é verificável, mais suscetível é à automação no novo paradigma de programação. Se não for verificável, terá que depender da mágica de generalização da rede neural, dedos cruzados, ou por meios mais fracos, como imitação. Isso é o que está impulsionando a fronteira "irregular" do progresso em LLMs. Tarefas que são verificáveis progridem rapidamente, possivelmente além da capacidade dos melhores especialistas (por exemplo, matemática, código, quantidade de tempo gasto assistindo vídeos, qualquer coisa que se pareça com quebra-cabeças com respostas corretas), enquanto muitas outras ficam para trás em comparação (criativas, estratégicas, tarefas que combinam conhecimento do mundo real, estado, contexto e bom senso). Software 1.0 automatiza facilmente o que você pode especificar. Software 2.0 automatiza facilmente o que você pode verificar.