Episode 06_26: AI in Finance: KI-Agenten außer Kontrolle? Sicherheitslücken, Regulierung und neue Player

mit Maik Klotz und Sascha Dewald

In Folge 6 von AI in Finance von Sascha und Maik geht es über eine Woche voller KI-Dynamik: von gehackten Agenten-Plattformen über neue Tools bis hin zu geopolitischen Spannungen rund um AI. Im Fokus stehen Sicherheitsrisiken, regulatorische Fragen und die Auswirkungen auf die Finanzbranche.

Es geht um:

• Hack der McKinsey-KI-Plattform „Lily“
• Risiken durch KI-Agenten und neue Angriffsvektoren
• Claude Copilot, Perplexity, NVIDIA und neue Agenten-Tools
• Praktische Use Cases für Agentic AI
• Politische Entwicklungen in den USA rund um Anthropic und Militär-KI
• EU AI Act und Verzögerungen bei Hochrisiko-KI
• Virtuelle Karten und Agentic Payments
• Infrastruktur- und Plattformthemen im AI-Finance-Umfeld

Shownotes KI-Agent hackt McKinseys interne KI-Plattform Lilli in 2 Stunden: https://codewall.ai/blog/how-we-hacked-mckinseys-ai-platform

Claude Cowork: Dispatch als Research Preview gestartet: https://stadt-bremerhaven.de/claude-cowork-dispatch-als-research-preview-gestartet/

Pentagon bricht mit Anthropic – Streit um KI in Waffensystemen eskaliert: https://stadt-bremerhaven.de/pentagon-bricht-mit-anthropic-streit-um-ki-in-waffensystemen-eskaliert/

The Pentagon is planning for AI companies to train on classified data, defense official says: https://www.technologyreview.com/2026/03/17/1134351/the-pentagon-is-planning-for-ai-companies-to-train-on-classified-data-defense-official-says/

OpenAI zieht die Reißleine: Fokus statt „Do Everything“: https://the-decoder.de/openai-faehrt-nebenprojekte-zurueck-und-will-sich-auf-coding-und-geschaeftskunden-konzentrieren/

OpenAI: Fokus auf B2B: https://www.wsj.com/podcasts/tech-news-briefing/tnb-tech-minute-openai-plans-to-refocus-company-around-business-applications/a9082573-99b9-4372-bd33-6326092260f1

NVIDIA stellt NemoClaw für OpenClaw vor: https://www.nvidia.com/en-us/ai/nemoclaw/

NVIDA Gate um DLSS5: AI Slop im Gaming?: https://stadt-bremerhaven.de/kein-ai-slop-nvidia-verteidigt-dlss-5/

Personal Computer, by Perplexity: https://www.youtube.com/watch?v=f9mjOnznkNA

Alibabas KI-Agent mit dem Namen CoPaw: https://github.com/agentscope-ai/CoPaw

Tencent bringt mit QClaw eigenen OpenClaw Klon: https://www.linux-magazin.de/news/chinesischer-technologieriese-tencent-startet-beta-fuer-eigenen-ki-agenten/

Experian bringt Kredit-Score-Vergleiche in ChatGPT für UK-Verbraucher: https://financialit.net/news/lending/experian-and-openai-launch-uks-first-credit-score-app-chatgpt

Agentcard bringt Kreditkarten in Claude: https://agentcard.sh/

EU verschiebt vermutlich KI-Regeln für Hochrisiko-Systeme: https://the-decoder.de/eu-rat-billigt-position-zu-ki-erleichterungen-fristen-fuer-hochrisiko-systeme-sollen-2027-und-2028-greifen/

Tools: Cringebot3000: https://www.cringebot3000.com/ Gamma: https://gamma.app/

Disclaimer Was ihr hier hört, sind unsere Gedanken und Meinungen, nicht die unserer Arbeitgeber, Zimmerpflanzen oder Haustiere. Als Enthusiasten versuchen wir, euch Einblicke in die Welt von künstlicher Intelligenz in Finance zu geben, aber wir sind nur AI-Enthusiasten, keine Hellseher. Unsere Einschätzungen könnten genauso gut aus einem Horoskop stammen. Also, macht's euch gemütlich und genießt die Show!