Afinação

Definição

O ajuste fino é o processo de adaptação de um modelo de aprendizado de máquina pré-treinado a uma nova tarefa usando treinamento adicional em conjuntos de dados menores e específicos do domínio.

Propósito

O objetivo é reutilizar o conhecimento de grandes modelos e melhorar o desempenho em tarefas especializadas com menos recursos.

Importância

• Reduz o custo e o tempo de treinamento em comparação à construção de modelos do zero.
• Melhora o desempenho em tarefas específicas de domínio.
• Risco de overfitting se os dados de treinamento forem muito restritos.
• Relacionado à aprendizagem por transferência.

Como Funciona

1. Selecione um modelo base pré-treinado.
2. Substitua ou ajuste camadas específicas da tarefa.
3. Treine com dados rotulados do novo domínio.
4. Ajuste as taxas de aprendizagem para equilibrar o conhecimento antigo e o novo.
5. Validar e testar para generalização.

Exemplos (mundo real)

• BERT ajustado para análise de sentimentos.
• Modelos GPT ajustados para chatbots de suporte ao cliente.
• Modelos de visão ajustados para classificação de imagens médicas.

Referências/Leituras Adicionais

• Howard & Ruder. “Ajuste fino do modelo de linguagem universal” (ULMFiT). ACL 2018.
• Documentação do Hugging Face Transformers.
• Pan e Yang. “Uma pesquisa sobre aprendizagem por transferência.” IEEE TKDE.
• O que é ajuste fino para grandes modelos de linguagem? – Shaip