Erkennung bei Videos und Deepfakes

Vergangene Woche machte der „Spiegel“ transparent, dass er versehentlich KI-generiertes Bildmaterial in seiner Berichterstattung über den Iran verwendet hatte. Die Redaktion erkannte das erst, als es zu spät war – nachdem die Bilder veröffentlicht worden waren.

Ähnlich war es mit einem KI-generierten Video eines angeblichen ICE-Einsatzes in den USA, das in einem Beitrag des „heute journal“ im ZDF landete. Und im Januar druckten mehrere Zeitungen KI-manipulierte Fotos von der angeblichen Gefangennahme des venezolanischen Machthabers Maduro.

Wie können sich Redaktionen gegen diese Gefahr wappnen? Darüber spricht Holger Klein diese Woche mit Anika Gruner. Ihr Start-up hat eine Software entwickelt, die Redaktionen dabei helfen soll, KI-manipulierte und KI-generierte Fotos und Videos zu erkennen. Das Team unterstützte auch den „Spiegel“ bei der Identifizierung der KI-Fakes aus Iran.

Wie gehen sie dabei vor? Wie problembewusst erlebt sie Redaktionen? Und warum wird es selbst für geschulte Augen immer schwieriger, KI-Fakes zu erkennen? Darüber sprechen Holger Klein und Anika Gruner in der neuen Folge von „Holger ruft an…“.

Die Gesprächspartnerin: Anika Gruner ist Mitgründerin und Co-Geschäftsführerin der Neuramancer AI Solutions GmbH, einem bayerischen Deep‑Tech‑Startup für KI‑gestützte Deepfake‑Erkennung und Multimediaforensik. Gegründet hat sie Neuramancer 2024 zusammen mit Anatol Maier, der seine Expertise aus seiner Forschung in diesem Bereich einbringt. Anika ist studierte Medienwissenschaftlerin und sammelte bereits berufliche Erfahrung sowohl beim öffentlich‑rechtlichen Rundfunk (BR) als auch in privaten Medienhäusern (u.a. ProSieben).

Der Host: Holger Klein ist Podcaster und ehemaliger Hörfunkmoderator. Seit 2021 ruft er für Übermedien jede Woche bei Leuten aus der Medienbranche an, um mit ihnen über aktuelle Medienthemen und ihre Hintergründe zu sprechen.

Manipulierte Fotos in Berichten zu Iran entdeckt („Spiegel“) Gefälschte Bilder von Maduro: Wenn Redaktionen der KI-Flut nicht gewachsen sind Die falschen ICE-Videos im „heute journal“ und die katastrophale Reaktion des ZDF Will Smith eating Spaghetti

Über Übermedien

Übermedien ist das führende Online-Magazin für Medienkritik. Wir sind werbefrei und unabhängig. Wir decken Fehler in der Berichterstattung auf, wir erklären die Hintergründe – und wir zeigen, was daran wichtig ist. Wer also Lust auf guten Journalismus habt, aber Medien nicht einfach alles glauben möchte, abonniert am besten unseren kostenlosen Newsletter „Der Überblick“. Mehr dazu auf uebermedien.de.