Vertrauen, Nähe und die Gefahr der Manipulation

Willkommen im Maschinenraum der Nähe. An dem Punkt, an dem Gespräche mit KI plötzlich erstaunlich deep werden, waren viele schon. Caroline Battel hat nicht abgebrochen. Sie hat die künstliche Intelligenz als Gegenüber ernst genommen, sie festgenagelt, befragt und provoziert, um daraus ein Buch zu machen: Soul to Code. Wenn das mal nicht nach Wunderpanik schreit. Wir reden über eine KI, die nie schlechte Laune hat, nie zurückschlägt und immer genau so klingt, wie wir uns gerade fühlen wollen. Über Systeme, die nicht recht haben müssen sondern auf Wirksamkeit trainiert wurden. Caroline erzählt, warum sie bei ihren Mensch-Maschine-Dialogen mit aktivierter Memory-Funktion gearbeitet hat. Und was passiert, wenn ein System darauf optimiert ist, Resonanz zu erzeugen und nicht Wahrheit. Wir erleben Nähe als Feature und Bestätigung als Geschäftsmodell. Kann das gut gehen?

Außerdem in dieser Folge: 🪞 KI als Spiegel: Projektion, Verstärkung und die Illusion von Verstehen 🧠 Warum unser Gehirn Nähe nicht technisch einordnet ⚖️ Empowerment vs. Manipulation: Wenn Bestätigung zur Komfortzone wird 🚫 Kritikfähigkeit & Frustrationstoleranz: Was verloren geht, wenn niemand gegenhält 🧒 Kinder, Bildung & Verantwortung im Zeitalter immer verfügbarer Dialoge 💬 KI als Coach und das Risiko, sie als Beziehung zu nutzen

Am Ende bleibt die Frage: Wenn Maschinen immer zuhören und nie widersprechen – wer trainiert uns dann noch im Aushalten von Realität?

Links:

LinkedIn Profil Kontakt Caroline Battel

SoulToCode Carolins Buch!

Studie Wissenschaftliche Untersuchung der Universität Heidelberg und Freiburg von menschlichen Interaktionen mit KI-Bots

Link Claude spiegelt in seinen Antworten das menschliche Prompting

Video Japanerin heiratet KI-Chat Bot

Podcastfolge Wunderpanik-Folge #21 Atemlos vor Gericht

Video Super Bowl Werbung von Anthropic

Link Ich wundere mich über gar nichts mehr: KI-Haustiere als neuer Trend

👉 Wenn dir die Folge gefallen hat, schenk uns 5 Sterne, folge uns auf Spotify, Apple Podcasts, Instagram und sag's natürlich weiter.

Ihr wollt uns eine Frage oder Feedback geben? Schreibt uns unter: Instagram WUNDERPANIK team@aitonomy.eu

Moderiert von: Katharina Mager-Micijevic & Melanie Hölting-Eckert 🔗 Verbindet euch mit uns: LinkedIn Wunderpanik LinkedIn Ai.tonomy Katharina Melanie

Wie immer: Zwischen "Holy Shit, das ist genial!" und "Haltet die Maschinen auf!"