Prompt injection como confusão de papéis

Estudo explica como injeção de prompt explora ambiguidade entre system/user/assistant em conversas.

Play episode from 01:44:44

chevron_right

Transcript

chevron_right

Transcript

Episode notes

Sexta-feira é dia de repercutir as principais notícias da semana, no mundo da IA. Vem ver quem participou desse papo:

Marcus Mendes, host sob controle
Fabrício Carraro, co-host sob controle, Program Manager da Alura, autor de IA e host do podcast Carreira Sem Fronteiras

Links:

Imersão IA Sob Controle no Vale do Silício
234: Entendendo modelos de mundo e JEPA, com Randall Balestriero, da Meta FAIR
YouTube do IA Sob Controle
OpenAI lança o GPT-5.4 mini e nano
OpenAI pode unificar o ChatGPT, Codex, e Atlas
OpenAI compra a Astral
Encyclopedia Britannica e Merriam-Webster processam a OpenAI
OpenAI irá se concentrar em projetos corporativos
Ballmer: Developers, developers, developers, developers!
Ballmer faz comercial do Windows 1.0
Anthropic lança o Claude Dispatch
Claude Opus 4.6 e Sonnet 4.6 agora oferecem 1M de tokens de janela de contexto
Anthropic está capturando 73% de novos contratos corporativos
Pentágono diz que funcionários chineses da Anthropic são um risco
Anthropic se reunify com o House Homeland Security
Google nega impacto da IA no tráfego de notícias no Brasil
Google permitirá que sites do Reino Unido fiquem de fora de respostas com IA
Google expande o Gemini AI para todos nos EUA
Google atualiza o Stitch
Google retira recursos do Project Mariner
Novo Google AI Studio com vibe coding
DeepMind adiciona milhões de complexos de proteínas ao AlphaFold Database
Meta reduzirá moderadores humanos em favor de IA
BBC explora trauma de moderadores da Meta no Quênia
Meta confirma incidente de segurança por mau comportamento de IA agêntica
Nvidia anuncia o Nvidia Groq 3 LPX
Nvidia fornecerá chips Groq para a China
Nvidia e LangChan fazem parceria
Nvidia anuncia a Nemotron Coalition
Nvidia anuncia o NemoClaw
Nvidia anuncia o DLSS 5
Homem acusado de fraudar streamings de música se declara culpado
Gamma ganha funções de IA
Adobe Firefly agora permite “treinar” modelo no seu próprio estilo
Microsoft lança o MAI-Image-2
Yann LeCun anuncia o V-JEPA 2.1
ByteDance suspende expansão global do Seedance 2.0
Nvidia voltará a fornecer H200 à China
China penaliza pessoas ligadas à Manus
Manus anuncia o My Computer
MiniMax lança o M2.7
Zhipu criará divisão de produtos de IA
Z.ai lança o GLM-5-Turbo
Modelo misterioso HunterAlpha manda bem no OpenRouter
Mistral lança o Small 4
xAI será restruturada
Google, Microsoft, LinkedIn, Meta, Amazon, OpenAI, Adobe, e Match compartilharão relatórios de golpes
Microsoft reorganiza divisão de IA
Cursor lança o Composer 2
Perplexity lança o Comet para iPhone e iPad
Perplexity consegue vitória contra a Amazon
Dono de cachorro com câncer usou ChatGPT para ter ideias sobre tratamento
Relatório da Anthropic sobre percepção pública da IA
Estudo de Stanford mostra risco de IAs bajuladoras
Kimi: Attention Residuals
Prompt Injection as Role Confusion
EsoLang-Bench: Evaluating Genuine Reasoning in Large Language Models via Esoteric Programming Languages

Quer ir com o Fabrício Carraro, o Marcus Mendes e o Paulo Silveira na “Imersão IA Sob Controle e Alura no Vale do Silício“? Vagas limitadas, corra para reservar a sua!

TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões.

Inscreva-se na Newsletter IA Sob Controle, e receba notícias semanais sobre Inteligência Artificial, assinada por Fabrício Carraro.

Preencha o formulário com as suas sugestões para deixar o conteúdo do IA Sob Controle ainda mais interessante.