KI REVOLUTION - Der Business Podcast von Everlast AI | Künstliche Intelligenz | Zukunft | Automation Hacker packt aus: „SO hacke ich deine KI-Agenten!" Schütze dich JETZT richtig! (Dr. Karsten Nohl)
Apr 8, 2026
Dr. Karsten Nohl, deutscher Kryptografie-Experte und Gründer von Security Research Labs, erklärt seine Forschung zu Schwachstellen in Mobilfunk und Chipkarten. Er spricht über Prompt‑Injection, reale Angriffsflächen von KI‑Agenten, Risiken durch Superassistenten und Deepfakes. Abschließend gibt er praxisnahe Verteidigungsstrategien für Unternehmen.
AI Snips
Chapters
Transcript
Episode notes
Wie Neugier Einen ChipHack Auslöste
- Karsten begann aus purer Neugier mit Chip-Analyse und fand nach drei Jahren eine Sicherheitslücke in Bezahlkarten.
- Er beschreibt Hartnäckigkeit und Dranbleiben bis man ein System besser versteht als seine Erbauer.
KI Meist Werkzeug Nicht Ziel
- Hacken mit KI ist heute verbreiteter als das Hacken von KI-Systemen selbst.
- Karsten sagt, Angreifer nutzen KI als Werkzeug, weil es mehr bereits nutzbare Angriffspfade in klassischen Systemen gibt.
Filtere Eingaben Vor Dem LLM
- Vermeide, dass Dateninstruktionen ungefiltert in LLMs gelangen, denn LLMs unterscheiden Instruktionen nicht zuverlässig von Daten.
- Karsten empfiehlt Pre-Filtering: alles, was wie eine Instruktion aussieht, vor dem LLM entfernen oder separat behandeln.