Few-Shot Learning
Few-shot learning é um paradigma de aprendizado de máquina no qual um modelo se adapta a uma nova tarefa usando apenas um pequeno número de exemplos rotulados—tipicamente entre um e vinte—em vez dos grandes conjuntos de dados rotulados exigidos pelo aprendizado supervisionado convencional.
Few-shot learning é um paradigma de aprendizado de máquina no qual um modelo generaliza para novas tarefas ou categorias usando apenas um número muito pequeno de exemplos de treinamento rotulados—tipicamente entre um (one-shot) e aproximadamente vinte—em oposição aos milhares ou milhões de exemplos exigidos pelo aprendizado supervisionado convencional. O desafio central é aprender representações suficientemente gerais para que um punhado de exemplos seja suficiente para guiar previsões precisas em entradas não vistas.
Em aprendizado de máquina clássico, few-shot learning foi abordado através de abordagens de meta-aprendizado: algoritmos como MAML (Model-Agnostic Meta-Learning, Finn et al. 2017) e Prototypical Networks (Snell et al. 2017) treinam um modelo em muitas tarefas distintas para que possa se adaptar rapidamente a novas através de um pequeno número de passos de gradiente ou comparações de vizinho mais próximo em espaço de embedding. Para modelos de linguagem de grande escala, few-shot learning principalmente toma a forma de in-context learning: alguns exemplos rotulados são formatados como demonstrações diretamente no prompt, e o modelo produz previsões para novas entradas sem nenhuma atualização de peso. GPT-3 (Brown et al. 2020) estabeleceu que essa abordagem escala por uma ampla gama de tarefas.
Few-shot learning é importante porque dados rotulados são escassos, caros de produzir ou indisponíveis para tarefas de nicho e que evoluem rapidamente. Aplicações de saúde envolvendo condições raras, processamento de linguagem de baixo recurso, classificação de novos eventos e tarefas de categorização específicas da empresa se beneficiam da adaptação few-shot. No desenvolvimento de produtos, permite prototipagem rápida: um desenvolvedor pode testar uma nova tarefa de extração ou classificação escrevendo alguns exemplos anotados em um prompt antes de se comprometer com um workflow de fine-tuning.
A partir de 2026, modelos de fronteira incluindo GPT-4o, Claude 3.7 Sonnet e Gemini 2.0 Flash demonstram forte desempenho few-shot em raciocínio, codificação e tarefas de saída estruturada com apenas três a cinco exemplos de prompt. A pesquisa se deslocou para entender os mecanismos por trás do in-context learning e para métodos de fine-tuning eficientes em parâmetros como LoRA e QLoRA, que fornecem um meio termo prático entre prompting zero-shot e fine-tuning completo quando dados rotulados modestos estão disponíveis.