EM POUCAS LINHAS
- Escolha pelo erro que precisa corrigir: resposta fora do esquema ou falha no percurso do agente.
- Recompensas de formato podem ser verificadas por parser e esquema; agentes exigem avaliação do resultado no ambiente.
- Os ganhos relatados em IFStruct e SWE-bench Verified não são uma comparação direta entre métodos.
- Teste esquemas, tarefas e infraestrutura próprios antes de transferir os resultados para o português brasileiro.
Uma resposta em JSON inválido e um agente que toma a decisão errada após usar ferramentas podem parecer problemas semelhantes: ambos terminam em falha. Mas o treinamento precisa observar coisas diferentes. Se a tarefa se encerra na entrega de uma estrutura verificável, ajustar o modelo para respeitar formato e esquema pode ser um caminho. Se o resultado depende de uma sequência de ações, observações e chamadas ao modelo coordenadas por um harness — o sistema que conduz o agente —, treinar apenas a aparência da resposta final pode deixar a causa da falha intacta.
Os dois caminhos aparecem em relatos técnicos publicados em momentos distintos: o guia de ajuste do LFM2.5-350M foi publicado em 3 de setembro de 2026; o relato do Agent Lightning v1.0 traz data de publicação de 7 de outubro de 2026. São datas das publicações consultadas, não evidência de disponibilidade de infraestrutura, condições de uso ou desempenho no Brasil. O segundo relato descreve a apresentação de uma versão do framework; nenhum dos dois estabelece uma data universal para adoção em produção.
Primeiro, identifique onde ocorre o erro
Pergunte o que deve ser considerado sucesso. Se uma aplicação pede campos obrigatórios, tipos específicos e uma lista sem campos extras, é possível verificar cada saída contra regras explícitas. Nesse caso, há um sinal de recompensa diretamente ligado ao defeito: o modelo produziu algo analisável, com a forma solicitada, e que passou na validação? Uma avaliação útil deve ainda separar falhas de sintaxe, campos ausentes e conteúdo semanticamente incorreto: passar no esquema não prova que os valores descrevem corretamente a entrada.
Já um agente pode gerar respostas individualmente bem formatadas e, mesmo assim, escolher a ferramenta errada, interpretar mal uma observação ou encerrar a tarefa cedo. Aí interessa avaliar o resultado da execução e os efeitos das ações, preservando o contexto em que o agente realmente opera. Nosso artigo sobre treinamento do Agent Lightning no ambiente real aprofunda a arquitetura; aqui a questão é decidir se esse grau de integração é necessário.
Quando o ajuste de saídas com GRPO faz sentido
No experimento de conformidade estrutural, os autores ajustaram o LFM2.5-350M com GRPO e a biblioteca TRL usando cerca de 500 amostras e 100 passos de treinamento. Eles combinaram recompensas para verificar se a saída era analisável e respeitava a apresentação pedida, se tinha a quantidade esperada de campos de nível superior e se atendia ao JSON Schema. Isso torna a abordagem especialmente pertinente quando é possível escrever critérios automáticos para o formato desejado, reunir exemplos representativos e medir erros em dados separados dos usados no ajuste.
Os autores também alteraram parte dos exemplos para incluir pedidos de blocos de código e tarefas com listas no nível superior. Esse detalhe importa: uma recompensa correta, mas aplicada a exemplos pouco parecidos com as entradas reais, pode melhorar o comportamento errado para a aplicação. Tampouco basta validar o JSON: é preciso examinar se uma saída formalmente válida omitiu informação importante ou inventou valores.
Na comparação relatada pelos autores, com a mesma pilha de serviço nas duas avaliações, a aprovação geral no IFStruct passou de 22,6% para 29,7%; em JSON, de 18,0% para 31,9%, enquanto em YAML passou de 27,2% para 27,5% (resultados e configuração). O ganho não foi uniforme, e a taxa geral após o ajuste ainda deixa muitas saídas sem aprovação. Os autores avisam, ainda, que esse pipeline não é o usado para treinar outro modelo de RL descrito em publicação sobre o IFStruct: não se deve misturar os experimentos.
O relato dimensiona o treinamento para uma GPU de camada gratuita do Colab ou Kaggle e descreve uma avaliação local em um MacBook específico (requisitos apresentados pelos autores). Isso não garante a mesma execução em qualquer máquina, nem estabelece preço ou disponibilidade desses recursos para uma equipe brasileira.
Quando treinar no harness do agente
No Agent Lightning v1.0 descrito pela Microsoft Research, o harness usado na implantação participa diretamente do treinamento por reforço. Um proxy entre agente e modelo registra as chamadas; a proposta evita reimplementar o loop do agente dentro do treinador. Esse caminho se torna relevante quando ferramentas, gerenciamento de contexto, execução e observações fazem parte do comportamento que precisa melhorar. Não significa que conectar um proxy, por si só, forneça uma recompensa confiável: ainda é preciso definir tarefas, ambiente e critérios de sucesso.
Treinar no harness traz um custo de engenharia diferente do ajuste de formato. Segundo o relato técnico da Microsoft Research, uma execução pode produzir um número variável de amostras; retokenização, cálculo de vantagens, normalização da perda e distribuição da carga entre recursos passam a exigir cuidados específicos. O controlador descrito executa agentes como processos locais ou jobs Kubernetes, separados do treinador. São opções de arquitetura apresentadas pelos autores, não uma exigência de contratar um serviço comercial de sandbox nem uma promessa de baixo custo em qualquer escala.
No exemplo de programação relatado, os pesquisadores usaram SWE-smith, mini-SWE-agent e Qwen3.5-9B, com cerca de 6.000 amostras de treinamento; a taxa Pass@1 no SWE-bench Verified passou de 41,8% para 56,4% (experimento de agentes). É uma evidência sobre aquele agente e aquela avaliação, não uma medida de conformidade a JSON Schema. Compará-la numericamente à aprovação no IFStruct não indica qual treinamento é superior: modelos, tarefas e critérios de acerto são diferentes.
Como tomar a decisão e avaliar no Brasil
Comece com um conjunto de casos que reproduza o defeito observado. Para saídas estruturadas, registre a aprovação no esquema e inspecione a correção dos valores, separando formatos e tipos de entrada. Para agentes, prepare tarefas com resultados verificáveis, registre ações e efeitos indesejados e execute a avaliação com o mesmo harness previsto para uso. Se a falha se resolve antes de qualquer interação com ferramentas, não assuma que montar uma infraestrutura de treinamento de agentes trará benefício adicional.
Exemplo hipotético: uma equipe brasileira extrai dados de pedidos escritos em português e depois aciona um sistema de estoque. Se o erro recorrente é a ausência de um campo obrigatório no objeto extraído, vale começar pela validação dos esquemas e por exemplos da própria tarefa. Se o objeto está correto, mas o agente atualiza o pedido errado após consultar o estoque, a avaliação deve incluir a sequência de ações e o estado final. Essa distinção ajuda a escolher o alvo do treinamento, sem pressupor que os resultados publicados se repetirão em português brasileiro.
Os relatos citados não comprovam desempenho nesse idioma nem determinam, para esse caso hipotético, licença aplicável, custo efetivo ou capacidade de execução local. Antes de decidir, confirme essas condições nas dependências que pretende usar e faça uma comparação controlada com os seus dados. Para entender por que uma nota isolada não resolve essa escolha, veja também nosso guia de interpretação de benchmarks.
Fontes e referências
- Fine-tuning a 350M Model for Better Structured Outputs in 100 GRPO Stepshuggingface.co · Consultado em 11/10/2026
- Agent Lightning v1.0: A 3,500-Line Lightweight Agentic RL Framework for Training Agents with Real Harnesses - Microsoft Researchwww.microsoft.com · Consultado em 11/10/2026