Definição
Viés em IA refere-se a erros sistemáticos nos resultados de IA causados por dados distorcidos, design defeituoso ou desigualdades sociais refletidas em conjuntos de dados. Pode levar a resultados injustos ou discriminatórios.
Propósito
O objetivo do estudo de vieses é identificar e mitigar injustiças em sistemas de IA. As organizações buscam construir modelos mais equitativos abordando essas questões.
Importância
- Se não for abordado, pode levar à discriminação na contratação, no empréstimo ou na assistência médica.
- Mina a confiança nos sistemas de IA.
- Exige conformidade regulatória em setores sensíveis.
- Relacionado a práticas justas e responsáveis de IA.
Como Funciona
- Identificar potenciais fontes de viés (coleta de dados, rotulagem, modelagem).
- Analisar conjuntos de dados em busca de desequilíbrio.
- Aplique métodos de treinamento que priorizem a justiça.
- Teste saídas com métricas de imparcialidade.
- Ajuste o design e retreine se necessário.
Exemplos (mundo real)
- Ferramenta de avaliação de risco COMPAS: criticada por preconceito racial.
- Algoritmo de contratação da Amazon: descartado devido a preconceito de gênero.
- Reconhecimento facial: conhecido por classificar incorretamente certos grupos demográficos.
Referências/Leituras Adicionais
- Viés de IA — NIST.
- Justiça e aprendizado de máquina — Barocas, Hardt e Narayanan (livro).
- Viés Algorítmico — Anais da Conferência ACM FAccT.
- Dados diversos de treinamento de IA: a chave para eliminar o preconceito
