Principais conclusões
- A mudança: A indústria passou do pensamento do “Sistema 1” (correspondência de padrões rápida e intuitiva) para o pensamento do “Sistema 2” (raciocínio lento e deliberado) em modelos de IA.
- Cálculo em tempo de teste: a nova lei de escalonamento não trata mais apenas do tamanho dos dados de treinamento; trata-se de quanto cálculo o modelo gasta durante a geração da resposta.
- Os jogadores: o o1 da OpenAI e o Gemini 1.5 Pro do Google estão liderando essa investida, mas com abordagens arquitetônicas fundamentalmente diferentes.
Nos últimos cinco anos, a receita para uma IA melhor foi simples: Torná-la maior.
Mais parâmetros, mais dados de treinamento, mais GPUs. Esta abordagem de força bruta produziu o GPT-4 e o Claude 3. Mas em 2025, as “leis de escala” (as curvas matemáticas que previam o quanto a IA se tornaria mais inteligente com mais dados) começaram a diminuir. O campo estava batendo em uma parede. Os modelos eram máquinas de alucinações, excelentes em parecerem confiantes, mas terríveis em lógica.
Então veio a “Revolução do Raciocínio”.
Não se tratava de tornar o modelo maior; tratava-se de mudar como ele responde. Em vez de revelar o primeiro token estatisticamente provável, novos modelos como o o1 da OpenAI e o Gemini 1.5 Pro do Google foram treinados para pausar, “pensar” (gerar cadeias ocultas de pensamento) e se autocorrigir antes de apresentar uma resposta final.
O penhasco da lei de escala
Para entender por que essa mudança aconteceu agora, é preciso olhar para o “Scaling Law Cliff” de 2024.
Por uma década, as Leis de escala de Kaplan (em homenagem ao artigo de Jared Kaplan de 2020) se mantiveram verdadeiras: Desempenho = (tamanho do conjunto de dados)^α * (computação)^β. Basicamente, se você duplicasse os dados e as GPUs, obteria uma queda previsível nas taxas de erro.
No final de 2024, esta curva começou a achatar-se.
- Escassez de dados: os treinamentos ficaram sem internet de alta qualidade. As empresas já haviam eliminado a Wikipedia, o Reddit, o arXiv e todos os livros digitalizados existentes. Os dados restantes (dados sintéticos ou mídias sociais de baixa qualidade) produziram o “colapso do modelo”, onde a IA treinada com base no lixo gerado pela IA tornou-se mais burra.
- Retornos decrescentes: estava custando $1 bilhão treinar um modelo que era apenas 2% melhor que a versão anterior. A economia estava quebrando.
A indústria enfrentou uma crise existencial: se os modelos não podem ser tornados mais inteligentes tornando-os maiores, como é que o campo procede?
A resposta foi parar de otimizar o pré-treinamento (acumular conhecimento) e começar a otimizar o pós-treinamento (raciocinar sobre esse conhecimento). Acontece que modelos pequenos que “pensam” por 10 segundos podem superar modelos enormes que respondem instantaneamente.
A mudança técnica: do treinamento à inferência
Para entender por que isso é um avanço, é necessário falar sobre computação.
Pré-treinamento vs. Inferência
Tradicionalmente, 99,9% do custo computacional acontecia durante o pré-treinamento (ensino do modelo). Inferência (respondendo à sua pergunta) foi barata e rápida.
Os novos modelos do “Sistema 2” invertem essa lógica. Eles introduzem o conceito de “Test-Time Compute”.
- Maneira antiga: Pergunta -> [Suposição estatística instantânea] -> Resposta
- Nova maneira: Pergunta -> [Etapa de raciocínio 1] -> [Crítica] -> [Etapa de raciocínio 2] -> [Verificação] -> Resposta
O o1 da OpenAI, por exemplo, gera milhares de “pensamentos” internos para resolver um problema matemático difícil. Ele pode tentar uma abordagem, perceber que é um beco sem saída, voltar atrás e tentar novamente: tudo isso antes de lhe mostrar uma única palavra. Este monólogo interno (Cadeia de Pensamento) permite que o modelo “raciocine” através de problemas que confundem os LLMs padrão.
Dentro da caixa preta: como funcionam os tokens de “pensamento”
Quando você faz uma pergunta, ela não fica parada em silêncio. Nos bastidores, ele está gerando tokens “Cadeia Oculta de Pensamento” (CoT).
- Geração: O modelo analisa o problema. “Etapa 1: Definir variáveis para esclarecer a intenção do usuário.”
- Crítica: Revisa seu próprio passo. O modelo sinaliza possíveis ambigüidades ou incompatibilidades de intenções do usuário.
- Refinamento: Gera novamente a etapa. “Etapa 1 revisada: use a biblioteca
asynciodo Python.”
Esses tokens ficam ocultos do usuário (principalmente para evitar que os concorrentes roubem os dados de raciocínio), mas são computação real.
Crucialmente, Aprendizado por Reforço (RL) é usado para treinar esse comportamento. Durante o treinamento, o modelo enfrenta um problema matemático difícil. Se obtiver a resposta certa, toda a cadeia de pensamento que o levou até lá será recompensada. Se falhar, a cadeia é penalizada. Ao longo de bilhões de ciclos, o modelo “aprende” quais padrões de pensamento (decompondo problemas, verificando casos extremos) levam a respostas corretas.
Estudos de caso: o1 vs. Gemini 1.5 Pro
Enquanto a OpenAI deu início ao trem do “raciocínio”, o Google vem jogando um jogo diferente, envolvendo um contexto massivo.
OpenAI o1: O pensador profundo
- Estratégia: Aprendizagem por Reforço para Raciocínio. O modelo foi recompensado durante o treinamento especificamente por gerar cadeias de pensamento corretas.
- Força: Matemática, Codificação e Lógica. Domina benchmarks como o AIME (competição de matemática) porque se comporta como um matemático humano, verificando seu trabalho passo a passo.
- Fraqueza: É lento. Esse “tempo de reflexão” cria uma latência geralmente inaceitável para um chatbot, embora necessária para uma tarefa de codificação complexa.
Google Gemini 1.5 Pro: o rei do contexto
- Estratégia: Janela de contexto extensa (mais de 2 milhões de tokens) + Aprendizagem no contexto.
- Força: Síntese da Informação. O Gemini 1.5 Pro não apenas “pensa” profundamente; ele “lê” amplamente. Ele pode carregar uma base de código inteira, um filme ou uma biblioteca de livros em sua memória de curto prazo e raciocinar sobre esses dados específicos.
- A Nuance: Pesquisas recentes mostram que, embora Gêmeos seja excelente em recuperação e síntese, às vezes ele luta com os quebra-cabeças de “lógica pura” que o1 resolve, a menos que seja explicitamente solicitado a usar a Cadeia de Pensamento (CoT).
O custo do pensamento
Esta revolução tem um preço.
Na era GPT-4, o preço era simples: tokens de entrada (baratos) + tokens de saída (caros). Com modelos de raciocínio, há um novo custo oculto: Tokens de Raciocínio.
- Prompt padrão: “Qual é a capital da França?” -> Saída de 5 tokens. Custo: Micro-centavos.
- Prompt de raciocínio: “Planeje uma rota logística para 50 caminhões evitando pedágios.” -> O modelo pode gerar 5.000 fichas de “pensamento” para resolver o quebra-cabeça, mas produzir apenas 100 fichas do plano final.
Você paga pelo pensamento. Isso muda a economia da IA. Isso torna tarefas simples (chatbots, resumos) mais caras se você usar o modelo errado, mas torna possíveis tarefas impossíveis (codificação de aplicativos complexos, descoberta legal) pela primeira vez.
Existe uma bifurcação no mercado:
- Modelos rápidos (GPT-4o mini, Gemini Flash): pensadores “Sistema 1” baratos e instantâneos para interação com a interface do usuário.
- Modelos Profundos (o1, Claude 3.5 Opus): Pensadores caros e lentos do “Sistema 2” para trabalhos de alto valor.
Quebrando a barreira dos 5 minutos
Por que isso é importante para você?
Porque a IA puramente generativa (o tipo “Sistema 1”) tinha um teto. Nunca seria totalmente confiável escrever códigos ou oferecer aconselhamento médico porque não sabia quando estava errado. Foi apenas uma suposição.
Os modelos de raciocínio desbloqueiam a Tarefa de 5 Minutos (e eventualmente a Tarefa de 5 Horas).
- 2023: “Escreva uma função Python para calcular números de Fibonacci.” (Sucesso)
- 2025: “Escreva um back-end Python para esta arquitetura de aplicativo específica, audite-o em busca de falhas de segurança e escreva o conjunto de testes.” (Possível com o1/Gêmeos)
Ao gastar mais computação no momento da inferência, a compensação é a velocidade e a confiabilidade. A mudança é da IA que depende da memorização para a IA que depende da dedução.
O Futuro: Fluxos de Trabalho Agentes
Este é o precursor dos verdadeiros Agentes. Um agente que realiza uma ação (como navegar na web ou escrever um arquivo) precisa raciocinar sobre a consequência dessa ação antes de executá-la.
Os LLMs padrão eram muito impulsivos para isso. Eles excluiriam um arquivo porque a distribuição de probabilidade assim o dizia. Os modelos de raciocínio, com a sua capacidade de “pensar” e autocorrigir-se, são as células cerebrais que faltam, necessárias para agentes seguros e autónomos que podem trabalhar durante horas sem supervisão.
O resultado não são apenas chatbots melhores. São os funcionários digitais que realmente pensam antes de falar.
Fontes (3)
- openai.com OpenAI o1 System Card
- blog.google Google DeepMind: Gemini 1.5 Pro Technical Report
- arxiv.org Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
🦋 Discussão no Bluesky
Discutir no Bluesky