Wie Nutzer sich vor manipulierten Antworten schützen

Mit GEO, "Generative Engine Optimization", soll man Chatbot-Antworten angeblich gezielt manipulieren können. Doch wie kommen KI-Modelle überhaupt zu ihren Empfehlungen?

Mit GEO, „Generative Engine Optimization", soll man Chatbot-Antworten angeblich gezielt manipulieren können. Doch wie kommen KI-Modelle überhaupt zu ihren Empfehlungen? Warum sind sie so leicht zu täuschen? Und wie können wir als Nutzer sicherstellen, dass wir nicht auf manipulierte Antworten hereinfallen? 

Über die Hosts: 

Gregor Schmalzried ist freier Tech-Journalist, Speaker und Berater, u.a. beim Bayerischen Rundfunk. 

Fritz Espenlaub ist freier Journalist und Ökonom. Neben "Der KI-Podcast" hostet er auch "Die Peter Thiel Story"

In dieser Folge: 

(00:00) Intro: Wo soll ich in München spazieren gehen – und woher weiß die KI das? 

(02:31) Wie kommen Chatbot-Antworten zustande? Trainingsdaten, Grounding und Werbung

(06:52) GEO – die neue SEO: Was ist Generative Engine Optimization? 

(18:02) Verbrauchertipps: Wie wir uns vor manipulierten KI-Antworten schützen 

(29:16) Was haben wir diese Woche mit KI gemacht?

Unser Podcast-Tipp der Woche: Plusminus – Mehr als nur Wirtschaft, der ARD-Wirtschaftspodcast mit Anna Planken und David Ahlf: https://1.ard.de/plusminus

Nützliche Links: 

Thomas Germain (BBC): „I hacked ChatGPT and Google's AI – and it only took 20 minutes": https://www.bbc.com/future/article/20260218-i-hacked-chatgpt-and-googles-ai-and-it-only-took-20-min…

NewsGuard-Studie zum Pravda-Netzwerk: 

https://www.newsguardtech.com/special-reports/moscow-based-global-news-network-infected-western-art…

Universität Manchester u.a. – „LLMs grooming or data voids?" (Harvard Kennedy School Misinformation Review): https://misinforeview.hks.harvard.edu/article/llms-grooming-or-data-voids-llm-powered-chatbot-refer… 

Agent der Woche: Multi-Agent Blog Post Generator für SEO/GEO https://medium.com/@tkadeethum/multi-agent-blogpost-generator-ag2-azure-openai-5ea8054eae3a

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Franziska Hübl, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann 

Kontakt: Wir freuen uns über Fragen und Kommentare an kipodcast@br.de. 

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!