AIToday Live S08E38 - Waarom wantrouwen de sleutel is tot vertrouwen in AI-agents
Waarom wantrouwen de basis is van AI-vertrouwen blijkt uit een beveiligingslek bij McKinsey. Een AI-agent kreeg binnen twee uur toegang tot 46,5 miljoen chatberichten en kon systeemprompts herschrijven die alle AI-adviezen zouden vergiftigen. Het probleem: McKinsey bouwde relationeel vertrouwen zonder technische basis - 22 van 200 API-eindpunten hadden geen authenticatie.
Joop laat zien hoe wantrouwen en vertrouwen verschillende lagen zijn die samen AI-veiligheid creëren. Van infrastructuur met zero trust tot transparantie over wat agents doen tot relationeel vertrouwen dat groeit door ervaring.
Morgen kun je een infrastructuur-audit doen van je AI-systemen: check authenticatie op alle eindpunten, logging van agentacties en automatische sessieverlopen in 15 minuten.
Onderwerpen
- McKinsey beveiligingslek door SQL-injectie in AI-platform
- Onderscheid tussen technisch en relationeel vertrouwen bij AI
- Drielagenmodel voor AI-beveiliging: infrastructuur, transparantie en samenwerking
- Zero trust architectuur als basis voor veilige AI-implementatie
- Website: An AI Agent Hacked McKinsey's AI Platform in Two Hours — Accessed 46 Million Messages - State of Surveillance
- Website: AI agent hacked McKinsey chatbot for read-write access • The Register
- Boek: Doeltreffend met AI-agents - Joop Snijder
Genoemde entiteiten: McKinsey - CodeWall - Lilli
AigencyAigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!