Praktische Sicherheitsregeln für Nutzer

Was passiert, wenn eine Geisteswissenschaftlerin 2016 einen kleinen Chatbot namens Lisa für den Kundenservice von Telefónica baut und zehn Jahre später einer ganzen Generation erklärt, was KI wirklich mit unserem Alltag, unseren Jobs und unseren Kindern macht? In dieser Folge von „AI to the DNA”, dem Podcast für alle, die Künstliche Intelligenz wirklich verstehen und anwenden wollen, spreche ich mit Sarah Rojewski darüber, wie wir Künstliche Intelligenz zwischen Hype, Angst und echter Verantwortung einordnen können.

Diesen Podcast gibt es auch als Video-Podcast auf meinem YouTube Kanal.

Sarah hat bei Telefónica Deutschland den ersten Chatbot mit aufgebaut, später alle Conversational-AI Themen im Kundenservice verantwortet und erklärt heute als KI-Expertin und Creatorin auf Instagram, LinkedIn und Co, was hinter Chatbots, LLMs und KI-Sicherheit wirklich steckt.

Wir sprechen darüber, wie Chatbots vor ChatGPT funktioniert haben, warum Intent-Mapping damals echte Handarbeit war und was sich durch Transformer-Modelle wirklich geändert hat. Es geht um Security-Vorfälle rund um frei zugängliche Chatbots, um den Unterschied zwischen kostenloser Nutzung im Browser und sauberen Enterprise-Setups und darum, warum viele Risiken weniger an der Technologie selbst hängen, sondern an fehlender Aufklärung, Schulung und klaren Regeln im Unternehmen.

Außerdem reden wir über KI im Gesundheitsbereich, Therapie-Use-Cases, Halluzinationen und die Frage, welche Daten wir LLMs heute wirklich anvertrauen sollten. Wir sprechen über Adult-Content-Modelle, Deepfakes, Grok und Co und darüber, wie schnell sich moralische Empörung, Geschäftsmodelle und reale Gefährdungslagen mischen. Sarah erklärt, warum Debatten häufig extrem emotional geführt werden, weshalb Ambiguitätstoleranz so wichtig ist und wieso wir gleichzeitig Chancen sehen und Risiken ernst nehmen müssen.

Ein weiterer Schwerpunkt der Folge ist Europa: digitale Souveränität, Open-Source- und Lokalmodelle, Abhängigkeit von amerikanischen Anbietern und die Frage, ob wir nur „GPT-Wrapper“ bauen oder eigene Akzente setzen. Wir sprechen über AI-first-Schulen in den USA, in denen KI-Tutoren Mathe und Physik erklären, während Lehrerinnen und Lehrer Social Skills und Life Skills vermitteln, und darüber, warum wir uns in Deutschland bei Bildung, Medienkompetenz und Elternrolle nicht hinter Datenschutz als Ausrede verstecken dürfen. Sarah teilt ihren Blick auf neue Berufsbilder, die Angst, ersetzt zu werden, und die Chance, KI als echtes Enhancement der eigenen Fähigkeiten zu nutzen, statt nur als Tool oder Bedrohung zu sehen.

Hier bei AI to the DNA will ich, Christoph Magnussen, tiefer in die Materie KI eintauchen. Mich interessiert nicht nur, wie man KI nutzt, sondern warum sie so funktioniert, wie sie funktioniert. Mit AI to the DNA gewinnt ihr Einblicke in die Natur der Künstlichen Intelligenz und erfahrt, wie sie Teil eurer DNA wird. So werdet ihr von neugierigen Tool-Tourist:innen zu echten AI-Anwendungsweltmeister:innen.

Spare jetzt 250€ auf unsere AI Officer Ausbildung mit dem Gutscheincode: ATTD250
-> Jetzt anmelden auf https://shop.blackboat.com

• (00:00) - Intro
• (01:41) - Sarahs KI-Start 2016: Chatbots bei Telefónica
• (04:37) - Von Intent-Mapping zu LLMs: Wie Nutzerverhalten sich verändert
• (07:43) - Education statt Prompt-Hype: Wissen vermitteln vs. Reichweite
• (10:46) - KI-Sicherheit im Unternehmen: Warum Leute trotzdem Free-Tools nutzen
• (13:52) - Job-Angst vs. Chancen: Neue Rollen statt reiner Stellenabbau
• (16:50) - Psychologie der Adoption: Wissen, Angst und “kurz vor Rente”-Denken
• (19:32) - KI-Sicherheit privat: Welche Daten tabu sind
• (20:26) - Health-KI: Nutzen vs. Vertrauen und Risiken
• (24:10) - Lokale Modelle & Souveränität: Interesse wächst, Hürden bleiben
• (27:20) - Grok & Adult Content: Menschliches Verhalten als Kernproblem
• (33:11) - Big Tech & Geopolitik: Abhängigkeiten und Machtverschiebung
• (39:23) - AI-First-Schulen in den USA: Bildung als echter Gamechanger
• (56:58) - Muss jeder coden? Grundverständnis als neue Alphabetisierung
• (59:46) - Weg vom AI-Slop: Denken, Delegieren und echte Zusammenarbeit mit KI
• (01:02:55) - Europa zwischen Anspruch und Realität: Mindset, Investitionen und Mut
• (01:06:49) - Was wolltest du als Kind werden: Neugier als Karriere-Kompass
• (01:11:24) - Schlussplädoyer: Mut, Lernfreude und im eigenen Einflussbereich handeln