Haken dran – das Social-Media-Update der c't Maschinengewehre und Marktplätze (mit Frederik von Castell)
Jan 9, 2026
Frederik von Castell, Chefredakteur des Medio Magazins und Medienjournalist, diskutiert über die jüngsten Kontroversen rund um KI und soziale Netzwerke. Er beleuchtet den Missbrauch von Grok zur Erstellung von Deepfakes und die Probleme, die damit verbunden sind. Zudem werfen sie einen Blick auf die Finanzierung von xAI und die Herausforderungen, die dabei entstehen. Frederik äußert Bedenken zu ChatGPT Health und den Datenschutzrisiken, während sie auch über YouTubes neue Karussell-Posts und die Bedeutung von Plattformverantwortung sprechen.
AI Snips
Chapters
Transcript
Episode notes
Enorme Produktionsraten Verstärken Schaden
- Grok produziert enorme Stückzahlen an sexualisierten Bildern pro Stunde und übertrifft damit andere Deepfake-Seiten deutlich.
- Diese massive Produktion potenziert rechtliche und gesellschaftliche Schäden sehr schnell.
Telegram‑Community Findet Exploits Für Grok
- Ein Autor verfolgte eine Telegram-Community, die Grok systematisch ausnutzt, bis XAI Lücken schloss.
- Das Muster zeigt: Täter passen sich an, Plattformen patchen, und die Community findet neue Umgehungen.
Rechtliche Grauzone Bei KI‑Generierten Inhalten
- Es ist unklar, ob XAI als Plattform durch Section 230 geschützt ist, wenn Inhalte von einer KI generiert werden.
- Diese Rechtsfrage könnte die Verantwortung von Anbietern gegenüber KI-erzeugten Schäden verändern.