Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
InfraestruturaAnálise · No radarAWS Machine Learning Blog→ original

AWS permite escrever seu próprio ciclo de fine-tuning de modelos sem gerenciar GPUs

Fazer fine-tuning de modelos abertos para o seu negócio é complicado: é preciso escolher a técnica, montar clusters de GPU e conectar o treino à geração de respostas manualmente. A AWS tornou geralmente disponíveis as training sessions no SageMaker AI: você escreve o ciclo de treino, a função de recompensa e a sua própria loss, enquanto o serviço gerencia as GPUs, a execução distribuída e os checkpoints. São suportados gpt-oss-20b, gemma-4-31B-it e dois modelos Qwen de 27B. Para equipes que trabalham com agentes, é uma forma de testar RL sem infraestrutura própria.

Processado por IA de AWS Machine Learning Blog; editado por Hamidun News
AWS permite escrever seu próprio ciclo de fine-tuning de modelos sem gerenciar GPUs
Fonte: AWS Machine Learning Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalAWS Machine Learning Blog ↗
Editor-chefe
Dado-chave #1Você paga pelos tokens; enquanto a recompensa é calculada no seu lado, o contador não corre
Disponíveisgpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B e Qwen3.8-27B
Dado-chave #3Dados e checkpoints ficam no seu S3, e a AWS não treina modelos com eles

Empresas que obtêm resultado real com IA raramente usam o modelo base como ele vem. Elas fazem fine-tuning de modelos abertos com os próprios dados: catálogo de produtos, terminologia médica, processos internos. Um modelo assim resolve melhor uma tarefa específica e custa menos para operar. Mas o processo continua penoso: é preciso escolher o método, alugar e configurar GPUs e, no caso de agentes, ainda montar um ambiente para treino de aprendizado por reforço em múltiplas etapas. A AWS quer aliviar parte dessa dor: o serviço training sessions no Amazon SageMaker AI entrou em disponibilidade geral.

O que foi lançado

Antes, na customização serverless do SageMaker, você escolhia uma técnica pronta, como SFT, DPO, RLVR, RLAIF ou RL em múltiplas etapas. Era possível alterar a fração de pesos atualizados (LoRA ou fine-tuning completo) e encadear métodos. Mas os clientes pediam mais liberdade: funções de perda (loss) próprias, formato de recompensa próprio e várias fases de RL num mesmo ciclo.

As training sessions oferecem essa possibilidade. Você escreve o ciclo de treino e a função de recompensa no seu ambiente e conecta o agente às suas ferramentas ou simuladores. A parte pesada em GPU fica com a AWS: ela aloca capacidade, executa o treino distribuído, se recupera de falhas e guarda os checkpoints. Não é preciso escolher tipos de instância nem configurar clusters.

Como fica o ciclo, usando o GRPO como exemplo

GRPO é um método de RL em que o modelo gera várias respostas para a mesma consulta, cada resposta é avaliada, e a atualização dos pesos se baseia na comparação entre as próprias respostas. Nas training sessions, uma passada tem esta forma:

  1. Seu código pede ao sampler que gere várias respostas para cada consulta, usando o modelo atual.
  2. Sua função de recompensa avalia essas respostas no seu lado, por meio de um verificador, de um modelo de recompensa ou de um conjunto de testes.
  3. As pontuações seguem para o trainer. A chamada forward_backward() calcula os gradientes, e optim_step() aplica a atualização aos pesos.
  4. Você pede à sessão que atualize o sampler com os novos pesos e inicia o próximo lote.

Isso é útil para agentes que reservam viagens, triam tickets de suporte ou conduzem pesquisas em várias etapas. O resultado desse tipo de agente só fica claro após vários rounds de interação, e normalmente treino, geração e avaliação rodam em clusters diferentes. Aqui, tudo está reunido num único ciclo.

A cobrança é feita pelos tokens processados pelo SageMaker AI. Enquanto a sua função de recompensa avalia o lote no seu ambiente, o contador não corre. Não é necessário reservar capacidade.

Quem já testou e o que acontece com os dados

A AWS cita dois depoimentos. A ImagineSoftware desenvolve um modelo para triagem de negativas de sinistros do seguro-saúde e elogia o acesso direto aos passes forward e backward, à amostragem e ao passo do otimizador. A Karini AI fez fine-tuning do gpt-oss-20b para chamar ferramentas em múltiplas etapas sobre um grafo de conhecimento no Amazon Neptune. Sua CEO destacou especialmente a retomada do treino a partir do passo exato. São depoimentos de parceiros do comunicado de imprensa; o material não traz medições independentes de qualidade ou de custo.

Sobre segurança: a sessão roda com a sua role do IAM, é possível conectar a sua chave KMS e as suas configurações de VPC. Dados e checkpoints ficam nos seus buckets S3, na região escolhida. A AWS afirma que não usa os seus dados nem os seus pesos para treinar outros modelos. Antes do lançamento, o modelo pode ser avaliado quanto a precisão, vieses e segurança e, depois, é possível ativar guardrails e monitoramento pelo CloudWatch.

Por onde começar e o que considerar

São suportados gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B e Qwen3.8-27B. Há dois caminhos para começar: instalar o SageMaker Python SDK (Linux ou macOS, Python 3.10 a 3.12) e clonar o cookbook, ou abrir o ambiente pronto no SageMaker Studio, que, segundo a AWS, inicia em menos de 20 segundos. Ali também é possível conectar um agente de código (Kiro, Claude Code, Codex ou Copilot) com um conjunto de skills de customização: ele ajuda a preparar os dados, escolher a técnica, treinar, avaliar e implantar o modelo.

As limitações são evidentes. A lista de modelos ainda é curta e restrita a um tamanho máximo de 31B. Você escreve o ciclo por conta própria, então precisará dominar RL e desenhar as recompensas com cuidado: o serviço elimina as preocupações de infraestrutura, mas não a qualidade da sua função de avaliação. Para equipes que querem testar RL em agentes sem comprar GPUs nem contratar engenheiros de cluster, é um jeito rápido de começar os experimentos.

História

Perguntas frequentes sobre a notícia

O que foi lançado?

Antes, na customização serverless do SageMaker, você escolhia uma técnica pronta, como SFT, DPO, RLVR, RLAIF ou RL em múltiplas etapas. Era possível alterar a fração de pesos atualizados (LoRA ou fine-tuning completo) e encadear métodos. Mas os clientes pediam mais liberdade: funções de perda (loss) próprias, formato de recompensa próprio e várias fases de RL num mesmo ciclo. As training sessions oferecem essa possibilidade.

Como fica o ciclo, usando o GRPO como exemplo?

GRPO é um método de RL em que o modelo gera várias respostas para a mesma consulta, cada resposta é avaliada, e a atualização dos pesos se baseia na comparação entre as próprias respostas. Nas training sessions, uma passada tem esta forma: Seu código pede ao sampler que gere várias respostas para cada consulta, usando o modelo atual. Sua função de recompensa avalia essas respostas no seu lado, por meio de um verificador, de um modelo de recompensa ou de um conjunto de testes. As pontuações seguem para o trainer.

O que se sabe sobre Quem já testou e o que acontece com os dados?

A AWS cita dois depoimentos. A ImagineSoftware desenvolve um modelo para triagem de negativas de sinistros do seguro-saúde e elogia o acesso direto aos passes forward e backward, à amostragem e ao passo do otimizador. A Karini AI fez fine-tuning do gpt-oss-20b para chamar ferramentas em múltiplas etapas sobre um grafo de conhecimento no Amazon Neptune. Sua CEO destacou especialmente a retomada do treino a partir do passo exato.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…