IA Sob Controle - Inteligência Artificial 200: Desenvolvendo o modelo GAIA em parceria com o Google, com Prof. Celso Camilo (CEIA) e Luciano Martins (Google)
19 snips
Nov 19, 2025 Luciano Martins é Developer Advocate na Google/DeepMind, especializado em IA, enquanto Prof. Celso Camilo é co-fundador do CEIA e pesquisador da UFG. Eles discutem o desenvolvimento do modelo GAIA, um LLM adaptado para o português brasileiro. Celso detalha a colaboração entre CEIA e Google, a seleção cuidadosa de dados para evitar enviesamentos e as estratégias de pré-treino continuado. Além disso, abordam a capacidade do GAIA em aplicações educacionais e os desafios no treinamento desse sofisticado modelo.
AI Snips
Chapters
Transcript
Episode notes
Separar Base Linguística E Estrutura De Tarefas
- O time diferenciou entre a 'base' (linguagem) e o 'struct' (tarefas) ao treinar o GAIA.
- Eles fizeram pré-treino continuado na base para melhorar a fluência em português antes de adaptar para tarefas.
Use Pré-Treino Continuado Para Idiomas
- Faça pré-treino continuado quando seu objetivo é melhorar a linguagem base do modelo em um idioma específico.
- Use pós-treino apenas para ensinar tarefas sobre a base já consolidada.
Infra E Iterações Necessárias No Treino
- O treinamento do GAIA usou um portfólio de GPUs, incluindo H100 e A100, e infra do Google e da UFG.
- Experimentos iterativos exigiram dias contínuos de treinamento e ajustes de infraestrutura.