Verbotene KI‑Anwendungen und Hochrisiko‑Systeme

Selbst programmierte KI-Tools verändern, wie Unternehmen arbeiten – doch jede Automatisierung braucht klare Grenzen. Zwischen Innovationslust und Regellast zeigen Benedikt Flöter und Carolin Raspé, wie Compliance, Datenschutz und Cybersecurity nicht nur Risiken markieren, sondern Orientierung schaffen. Wir sprechen über das kleine 1x1 in Sachen KI und Rechtsfragen: Was sollte ich rechtlich im Blick behalten, wenn ich mit Claude Code & Co. arbeite?

Du erfährst…

…wie Unternehmen KI rechtssicher und effizient integrieren können
…welche rechtlichen Leitplanken bei der Nutzung von KI wichtig sind
…wie Compliance und Innovation im Einklang funktionieren


||||| PERSONEN |||||

👤 Joël Kaczmarek, Geschäftsführer digital kompakt

👤 Carolin Raspé, Partnerin bei YPOG

👤 Benedikt Flöter, Partner YPOG


||||| SPONSOREN |||||

🔥 Übersicht aller Sponsoren

💪 Diese Folge entstand in Partnerschaft mit YPOG


||||| PLAYLISTS |||||

Lust auf mehr? Entdecke unsere Playlists mit weiteren spannenden Episoden zum Thema:

🎧 Legal & Tax

🎧 Why co*m*ply?


||||| LEXIKON |||||

Du verstehst nur Bahnhof? Zu viel Fachchinesisch? Unser Lexikon hilft dir dabei, die wichtigsten Fachbegriffe zu verstehen:

🔹 **KI** - Künstliche Intelligenz, ein Bereich der Informatik, der sich mit der Schaffung von intelligenten Maschinen befasst, die wie Menschen arbeiten und reagieren.

🔹 **AI Act / KI-Verordnung** - EU-Verordnung zur Regulierung von KI‑Systemen mit Risikoklassen, Transparenz- und Compliancepflichten.

🔹 **Compliance** - Unternehmensinterne Regelungen und Maßnahmen zur Einhaltung gesetzlicher Vorschriften und ethischer Standards.

🔹 **Internal Investigations** - Internal Investigations sind interne Untersuchungen innerhalb eines Unternehmens, oft im Zusammenhang mit Verdachtsmomenten auf Regelverstöße.

🔹 **Generative AI / Gen.AI** - KI‑Modelle, die neue Inhalte (Text, Bild, Code) erzeugen können.


||||| KAPITEL |||||

(00:00:00) Begrüßung & Einführung ins Thema

(00:04:30) Chancen und Risiken bei selbstgebauter Software und Agenten-Ökosystemen

(00:08:00) Datenschutz- und Cybersecurity-Herausforderungen bei KI

(00:14:00) Rechtliche Leitplanken: Datenschutz, AI-Act und Compliance-Anforderungen

(00:17:00) Verbotene KI-Systeme und Hochrisiko-KI im Überblick

(00:18:50) Urheberrechtliche Fragestellungen bei KI-generierten Inhalten

(00:23:30) Pflichten und Umsetzung eines Compliance-Management-Systems für KI

(00:29:40) Notwendigkeit von Schulung, Risikoanalyse und Compliance-Kultur

(00:32:20) Weitere relevante Regulierungen: NIS2, DORA und IT-Security-Richtlinien

(00:36:30) Zukunftsausblick: KI als Treiber von Transformationsprozessen in Unternehmen


||||| WIR |||||

🧢 Ich bin übrigens Joël, der Macher dieses Podcasts. Ich bin ein Creator und Medienunternehmer, der für Wachstum und Vielfalt steht. Mein Vorgehen besteht darin, dass ich inspirierende und erfolgreiche Menschen interviewe, um von ihnen zu lernen und Wissensabkürzungen für dich und mich aufzutun.

👉 Mit meinem Podcast digital kompakt zeige ich dir Wachstumsstrategien für dein (Digital-)Business, indem ich erfolgreiche Unternehmen und Expert:innen interviewe

👉 Mit meinem Podcast 5 Dinge mit 20 zeige ich dir, wie du persönlich wachsen kannst, indem ich inspirierende Menschen frage, was sind ihre 5 Dinge, die sie gerne schon mit 20 gewusst hätten

👉 In meinem Newsletter fasse ich dir Jeden Freitag die besten Learnings aus meinen Podcasts zusammen sowie viele weitere Einsichten aus meinen Aktivitäten.

💛 Abonniere „digital kompakt“ auf Apple Podcasts, Spotify & Co. Wenn dir die Folge gefallen hat, hinterlasse uns bitte eine Fünf-Sterne-Bewertung!

👥 Wir streben die Verwendung einer geschlechtsneutralen Sprache an. In Fällen, in denen dies nicht gelingt, gelten sämtliche Personenbezeichnungen für alle Geschlechter.