Few-shot prompting: o que é e como usar exemplos no prompt

Few-shot prompting é incluir alguns exemplos de entrada e saída no prompt, a instrução enviada a um modelo de linguagem, para orientar a resposta a uma nova entrada. A técnica não treina nem ajusta os parâmetros do modelo: as demonstrações fazem parte do contexto da requisição.

Imagine uma classificação de mensagens que retorna ora uma palavra, ora uma explicação, ora uma categoria fora da lista. Mostrar casos já resolvidos pode tornar o padrão desejado mais explícito. Além da associação entre entrada e resposta, os exemplos orientam formato, rótulos e estilo.

O trabalho está em escolher demonstrações consistentes, representar situações diferentes e comparar o resultado com a versão sem exemplos. Aumentar a quantidade, por si só, não garante melhora.

Em resumo:

• Few-shot inclui exemplos no prompt sem alterar os parâmetros do modelo.
• Os exemplos orientam a resposta, os rótulos, o formato e o estilo; mantenha-os consistentes.
• Não existe número universal de exemplos: comece com poucos e compare com zero-shot.
• Demonstre como tratar casos difíceis e avalie o resultado em entradas novas.
• A escolha e a ordem dos exemplos podem alterar o resultado; teste no modelo usado.

Como os exemplos orientam a resposta sem treinar o modelo

Os exemplos funcionam como demonstrações disponíveis durante a geração da resposta. A documentação do Amazon Nova sobre prompts few-shot descreve o procedimento: fornecer exemplos da tarefa, com entradas e saídas, e solicitar a resposta para uma nova entrada.

Esse mecanismo é chamado de in-context learning, ou aprendizado no contexto. O artigo “Language Models are Few-Shot Learners” (Brown et al., 2020), referência primária da técnica, aplicou o GPT-3 a tarefas com demonstrações fornecidas apenas como texto, sem atualizar os parâmetros do modelo nem fazer fine-tuning. Um modelo de linguagem, sistema que processa e gera texto, identifica padrões no conteúdo apresentado. A janela de contexto é o espaço de informação considerado em uma requisição.

Os pesos do modelo, os parâmetros numéricos que definem seu comportamento, permanecem os mesmos. A adaptação não fica gravada nesses parâmetros: para continuar usando as demonstrações, elas precisam permanecer no contexto. Isso distingue few-shot de fine-tuning, o ajuste do modelo por treinamento com dados.

Zero-shot, one-shot e few-shot: o que muda entre as abordagens

A diferença entre zero-shot, one-shot e few-shot está na quantidade de exemplos no prompt: nenhum, um ou alguns, respectivamente. Nenhuma dessas três abordagens altera os parâmetros do modelo.

A comparação abaixo organiza critérios práticos de uso. Fine-tuning aparece para separar a demonstração no contexto do ajuste por treinamento.

Exemplos no prompt e ajuste do modelo: diferenças práticas

Abordagem	Exemplos no prompt	Altera parâmetros?	Duração da adaptação	Uso a considerar
Zero-shot	Nenhum; apenas a instrução	Não	Sem adaptação por exemplos	Tarefas diretas e linha de base para avaliar exemplos
One-shot	Um	Não	Enquanto o exemplo estiver no contexto	Demonstração de um formato de resposta
Few-shot	Alguns	Não	Enquanto os exemplos estiverem no contexto	Formatos específicos, convenções de domínio e casos difíceis
Fine-tuning	Não depende deles; usa dados de treinamento	Sim	Permanece no modelo ajustado	Tarefa estável e de alto volume, com conjunto de dados rotulados

Os cenários de uso são pontos de partida, não regras de escolha. A decisão exige avaliar a tarefa e o modelo.

Como estruturar um prompt few-shot

Uma forma prática de montar um prompt few-shot é organizá-lo em quatro partes, estrutura descrita no guia da Cognativ:

1. Descrição da tarefa: explique o que fazer, quais categorias ou campos existem e qual formato usar.
2. Exemplos: apresente pares de entrada e saída já resolvidos, com a mesma estrutura.
3. Nova entrada: inclua o caso que você quer resolver agora.
4. Espaço para a saída: indique onde a resposta começa, por exemplo com o nome do campo seguido de dois pontos.

Imagine uma equipe de suporte de uma loja de cursos online. O cenário, as mensagens e as categorias a seguir são fictícios e servem apenas como ilustração.

Classifique a mensagem de suporte em uma destas categorias:
pagamento, acesso, certificado, não classificado.
Responda apenas com o nome da categoria, em minúsculas.

Mensagem: Fui cobrado duas vezes no cartão neste mês.
Categoria: pagamento

Mensagem: Não consigo entrar na plataforma, a senha não é aceita.
Categoria: acesso

Mensagem: Quando o certificado do curso fica disponível para download?
Categoria: certificado

Mensagem: Bom dia!
Categoria: não classificado

Mensagem: O boleto venceu e preciso de uma segunda via.
Categoria:

A instrução fixa os rótulos permitidos e pede uma resposta sem explicação. Os exemplos demonstram cada categoria, inclusive a ausência de informação suficiente para classificar. A última mensagem é a nova entrada; o campo “Categoria:” fica aberto para a resposta.

Pela regra ilustrada, a resposta esperada é “pagamento”. Isso é uma expectativa para o exemplo, não um resultado de teste. Os campos “Mensagem:” e “Categoria:” delimitam as partes e facilitam a leitura do padrão.

Como escolher exemplos que representam a tarefa

Escolha exemplos claros, relevantes e variados, com complexidade compatível com as entradas reais. Revise quatro critérios:

• Diversidade: inclua vocabulário, situações e tamanhos diferentes. Várias mensagens quase idênticas deixam outras situações sem demonstração.
• Clareza: confira se a resposta está correta segundo a regra da tarefa.
• Relevância: use casos da mesma tarefa e com dificuldade semelhante à esperada no uso.
• Consistência: mantenha nomes de campo, formato e grafia dos rótulos em todos os pares.

Se o rótulo escolhido é “não classificado”, use essa grafia em todas as demonstrações, sem alternar com “outros” ou “indefinido”. A instrução e os exemplos precisam apresentar critérios compatíveis.

Revise também vieses: exemplos enviesados podem gerar saídas tendenciosas. Observe se um rótulo aparece associado apenas a um tom ou perfil e se esse recorte realmente faz parte da regra de classificação.

Como demonstrar o tratamento de casos difíceis

Inclua um caso-limite, uma entrada ambígua, incompleta ou próxima da fronteira entre categorias. A demonstração mostra como aplicar a regra justamente onde a classificação exige uma decisão mais cuidadosa.

No mesmo cenário, “Paguei o curso, mas o botão de acesso continua bloqueado” menciona pagamento e acesso. Antes de classificar, a equipe precisa definir o critério. Suponha que pagamento confirmado com acesso bloqueado entre em “acesso”. Explicite isso na instrução e acrescente a demonstração:

Mensagem: Paguei o curso, mas o botão de acesso continua bloqueado.
Categoria: acesso

Depois, teste outras mensagens ambíguas, diferentes dessa. Acrescentar o exemplo não substitui a avaliação. Se a regra mudar, atualize a instrução e as demonstrações para não manter critérios conflitantes.

Quantos exemplos usar

Não existe número universal de exemplos. O guia da Cognativ sobre few-shot prompting reúne orientações diferentes conforme o modelo: de poucos exemplos a começar sem eles em modelos de raciocínio. Essas recomendações relatadas são pontos de partida para teste, não uma quantidade obrigatória.

Comece com um conjunto pequeno, meça o resultado em entradas separadas e acrescente exemplos apenas enquanto houver melhora. Antes de adicionar mais, confira se os atuais estão corretos e cobrem situações distintas.

Cada exemplo acrescenta tokens, unidades de texto processadas pelo modelo. Esse acréscimo pode elevar o custo e o tempo de resposta em cada requisição que inclui as demonstrações. Compare o benefício medido com esse gasto adicional.

Por que testar a ordem dos exemplos

Um estudo de Zhao et al. (2021) mostrou que a ordem dos mesmos exemplos pode fazer a precisão variar de níveis próximos do acaso a níveis próximos dos melhores resultados conhecidos. O guia da Cognativ descreve favorecimento de rótulos mais frequentes e de rótulos próximos do fim da sequência, chamados de viés de rótulo majoritário e viés de recência.

Como cuidados práticos, equilibre os rótulos, evite encerrar as demonstrações com uma sequência da mesma categoria e teste ordens diferentes. Compare essas versões nas mesmas entradas de avaliação, em vez de escolher uma sequência com base em uma única resposta.

Como padronizar JSON, CSV e tabelas

Declare o formato desejado e demonstre-o nas saídas dos exemplos. Em vez de pedir apenas “uma tabela”, especifique tabela Markdown, CSV ou JSON e diga se a resposta deve vir sem texto adicional.

JSON organiza dados em campos e valores; CSV separa campos por delimitadores, como vírgulas; Markdown usa marcações de texto para representar estruturas como tabelas. No cenário fictício, a extração do curso e do motivo do contato em JSON ficaria assim:

Extraia o curso e o motivo do contato.
Responda somente com JSON válido, sem texto antes ou depois.
Se a mensagem não citar um curso, use null.

Mensagem: Não recebi o e-mail de confirmação da matrícula em Estatística Básica.
JSON: {"curso": "Estatística Básica", "motivo": "e-mail de confirmação não recebido"}

Mensagem: Quero a segunda via do boleto do curso de Excel.
JSON: {"curso": "Excel", "motivo": "segunda via do boleto"}

Mensagem: Preciso falar com alguém sobre minha matrícula.
JSON: {"curso": null, "motivo": "falar sobre matrícula"}

Mensagem: Meu certificado de Redação Técnica veio com o nome errado.
JSON:

O terceiro exemplo demonstra a ausência do curso: null representa um valor ausente. Confira tanto a informação extraída quanto a validade do JSON; aparência semelhante ao exemplo não substitui a verificação do formato.

Como saber se os exemplos estão ajudando

Compare a versão few-shot com uma versão zero-shot nas mesmas entradas. O método de avaliação descrito no guia da Cognativ inclui acerto do rótulo, validade do formato, tempo e custo por requisição.

1. Separe entradas de teste parecidas com as reais, incluindo casos difíceis, e defina as respostas esperadas antes de testar.
2. Execute a versão zero-shot, com a instrução e sem demonstrações. Ela será a linha de base.
3. Execute a versão few-shot nas mesmas entradas. Não reutilize no teste as mensagens presentes nas demonstrações.
4. Compare rótulos, campos, formato, tempo e custo. Repita a rodada para conferir a consistência das respostas.
5. Teste conjuntos alternativos e outras ordens, mantendo as entradas de avaliação.
6. Refaça a comparação ao trocar de modelo.

No exemplo de suporte, avalie outras mensagens ambíguas sobre pagamento e acesso, diferentes das demonstradas. Confira se a classificação segue o critério definido e se a saída contém apenas o rótulo permitido. Com ganho pequeno, a decisão de manter os exemplos exige pesar o custo e o tempo adicionais.

Quando few-shot ajuda e quando não compensa

Few-shot pode ajudar em tarefas com formato específico, convenções de domínio ou regras para casos difíceis. Também permite orientar a tarefa sem preparar um conjunto de treinamento para ajustar parâmetros.

As limitações incluem sensibilidade à escolha e à ordem dos exemplos e cópia de detalhes superficiais. A qualidade das demonstrações importa: exemplos incorretos ou conflitantes apresentam padrões inadequados para a tarefa.

Segundo o guia da Cognativ, o benefício pode ser menor em modelos de raciocínio. Isso não dispensa o teste no modelo escolhido. Se zero-shot já atende aos critérios e o ganho adicional não compensa o gasto, mantenha a versão mais simples.

Quando exemplos fixos não representam a variedade das entradas, uma alternativa é manter um repositório e recuperar demonstrações por similaridade de significado com cada nova entrada. Essa seleção dinâmica é uma forma de montar o prompt, não uma exigência do few-shot.

Já RAG, geração aumentada por recuperação, busca informação para compor o contexto da resposta, sendo uma opção para conhecimento volumoso ou que muda com frequência. Fine-tuning merece avaliação em tarefas estáveis e de alto volume com dados rotulados. Essas abordagens atendem necessidades diferentes e não são necessariamente excludentes.

Perguntas frequentes sobre few-shot prompting

Como funciona o few-shot prompting?

O prompt reúne uma instrução, exemplos de entrada e saída e uma nova entrada. O modelo usa os padrões apresentados no contexto para gerar a resposta, sem treinamento adicional nem alteração dos parâmetros.

Qual é a diferença entre zero-shot, one-shot e few-shot?

Zero-shot não inclui exemplos; one-shot inclui um; few-shot inclui alguns. O que muda é o conteúdo do prompt, não os parâmetros do modelo.

Quantos exemplos devo incluir?

Comece com poucos e avalie em entradas separadas. Acrescente exemplos que cubram situações novas e mantenha-os se a comparação mostrar melhora relevante para a tarefa.

A ordem dos exemplos muda o resultado?

Segundo estudos relatados pelo guia da Cognativ, a ordem pode alterar o resultado. Equilibre os rótulos e compare diferentes sequências nas mesmas entradas de teste.

Few-shot prompting é a mesma coisa que fine-tuning?

Não. Fine-tuning atualiza parâmetros com dados de treinamento. Few-shot acrescenta demonstrações ao contexto, sem gravar essa adaptação nos parâmetros do modelo.

Como escolher bons exemplos?

Escolha casos corretos, diversos, relevantes e consistentes no formato e nos rótulos. Inclua um caso-limite para demonstrar como tratar ambiguidades ou informação insuficiente.

Dá para padronizar JSON, CSV ou tabela com few-shot?

Sim. Especifique o formato, demonstre-o nos exemplos e peça uma resposta sem texto extra, se necessário. Depois, valide as saídas: o pedido não garante cumprimento do formato.

Quando o few-shot prompting não ajuda?

Se a versão sem exemplos já atende aos critérios e o ganho medido não compensa o custo adicional, os exemplos deixam de justificar o esforço. Demonstrações enviesadas ou pouco diversas também podem limitar a utilidade da técnica.

Comece por uma tarefa e compare as duas versões

Escolha uma tarefa com formato ou classificação inconsistentes, escreva exemplos corretos e inclua uma situação difícil. Teste a versão com exemplos e a versão sem eles em entradas separadas.

Mantenha as demonstrações que melhorarem o resultado o suficiente para justificar o tempo e o custo adicionais. Se a comparação não mostrar esse benefício, revise as regras e os exemplos antes de aumentar a quantidade.

Para tarefas de várias etapas, few-shot também pode ser combinado com chain of thought prompting, que pede etapas intermediárias antes da resposta. Para aprofundar o uso de modelos de linguagem no trabalho, veja opções de cursos de inteligência artificial.