IA Sob Controle - Inteligência Artificial 186: Combatendo estereótipos no treinamento de LLMs, com Tiago Torrent
Oct 1, 2025
Tiago Torrent, professor de linguística computacional na UFJF e especialista em vieses em LLMs, traz uma conversa instigante. Ele discute como o projeto SHADES combate estereótipos, cobrindo temas como gênero e nacionalidade. Tiago explora a comparação entre o desempenho de modelos em português e inglês, revelando que modelos treinados em português tendem a replicar menos estereótipos. Ele também fala sobre a importância da revisão multilíngue e os desafios de garantir precisão cultural nas IAs.
AI Snips
Chapters
Transcript
Episode notes
Transbordamento De Estereótipos Entre Línguas
- Modelos treinados majoritariamente em inglês tendem a transferir estereótipos para outras línguas (transbordamento).
- O problema costuma ser pior em línguas com menos dados de treino que o inglês.
Estereótipos Regionais Brasileiros
- Tiago deu exemplos culturais brasileiros como "mineiro é bobo" e estereótipos entre vizinhos, como brasileiros sobre argentinos.
- Essas repetições mostram que vizinhança e rivalidade regional são grandes fontes de estereótipos.
Tunagem Reduz Repetição De Estereótipos
- Modelos não instruídos replicam mais estereótipos que modelos afinados para chatbots.
- Instrução e guardrails reduziriam respostas estereotipadas em interfaces públicas.