Breitband Desinformation - Wie russische Propaganda ChatGPT unterläuft
Nov 1, 2025
Christoph Merz, Forscher am Deutschen Forschungszentrum für Künstliche Intelligenz, bringt spannende Einblicke in die Welt der KI-Chatbots. Er diskutiert, wie Desinformation in Chatbots eingegeben wird und die Schwierigkeiten, solche Inhalte zu blockieren. Kritische Themen wie die Manipulation durch Desinfo-Akteure und die Herausforderungen bei der Websuche werden beleuchtet. Merz gibt Ratschläge zur Vermeidung von Fehlinformationen und betont die Wichtigkeit von Medienkompetenz.
AI Snips
Chapters
Transcript
Episode notes
Chatbots Reproduzieren Propaganda
- Studien zeigen, dass Chatbots wie ChatGPT oder Gemini Propaganda von russlandnahen Medien wiedergeben können, auch wenn diese in der EU verboten sind.
- Chatbots nutzen sowohl internes Trainingswissen als auch Websuche/Caches für Antworten.
SEO-Tricks Funktionieren Auch Bei Chatbots
- Manipulatoren können Chatbots über Trainingsdaten oder gezielte SEO/Verlinkungsstrategien beeinflussen.
- Chatbots ziehen wie Suchmaschinen von stark verlinkten oder alleinigen Quellen Nutzen und übernehmen deren Inhalte.
Chatbots Ergänzen, Nicht Ersetzen
- Nutze Chatbots als Hilfsmittel, aber verlasse dich nicht als primäre Quelle für Fakten oder Entscheidungen.
- Überprüfe unsichere Antworten durch mehrere, renommierte Quellen und klassische Websuche.