Heißt es bei euch im Unternehmen auch „Geht nicht wegen Datenschutz", sobald jemand ChatGPT, Claude oder einen KI-Agenten erwähnt? Was sagt die DSGVO eigentlich wirklich zum Einsatz von KI – und warum ist die Schatten-IT in Wahrheit das größere Risiko als die Cloud-Tools, die du verbietest? Und was passiert mit Artikel 22 DSGVO, wenn Agenten anfangen, autonom Entscheidungen zu treffen?
Zu diesen und weiteren Fragen spreche ich in dieser Episode von „AI to the DNA", dem Podcast für alle, die Künstliche Intelligenz wirklich verstehen und anwenden wollen, mit Dr. Sebastian Kraska. Sebastian ist Rechtsanwalt, Diplomkaufmann und Gründer der IITR Datenschutz GmbH in München. Er ist seit über 15 Jahren auf Datenschutzrecht spezialisiert, ist seit den Anfangstagen unser Datenschutz-Beauftragter bei Blackboat und gehört zu den Stimmen, die in Brüssel zu Datenschutz und KI gehört werden.
Wir sprechen darüber, warum „Datenschutz geht nicht" das innerbetriebliche Totschlagargument unserer Zeit geworden ist – und welche Rahmenbedingungen die DSGVO tatsächlich für den KI-Einsatz vorsieht. Sebastian erklärt das kleine Einmaleins von Auftragsverarbeitung über Modell-Training bis zum Unterschied zwischen Free- und Business-Accounts und warum bei den großen Anbietern heute weit mehr rechtlich konform möglich ist, als viele denken.
Außerdem diskutieren wir Artikel 22 DSGVO, also die Vorschrift zur automatisierten Einzelentscheidung. Sie steht im direkten Spannungsfeld zur Effizienzlogik von Agentic AI: Darf eine Maschine über deine Bewerbung, deinen Kredit, deine Behandlung entscheiden – oder muss am Ende immer ein Mensch im Driver Seat sitzen? Und was bedeutet es, wenn Brüssel gerade an genau dieser Vorschrift schraubt?
Darüber hinaus geht es um Risiko und Souveränität: US-Cloud, China, eigene Server, Open Source – wo sollte ein Unternehmen heute realistisch ansetzen? Und brauchte es überhaupt eine KI-Verordnung, oder hätte die DSGVO ausgereicht, wenn man sie ernst genommen hätte? Sebastian bringt eine klare Empfehlung mit, was Mittelstand und Konzerne jetzt konkret tun sollten – und was sie getrost ignorieren können.
Hier bei AI to the DNA will ich, Christoph Magnussen, tiefer in die Materie KI eintauchen. Mich interessiert nicht nur, wie man KI nutzt, sondern warum sie so funktioniert, wie sie funktioniert. Mit AI to the DNA gewinnt ihr Einblicke in die Natur der Künstlichen Intelligenz und erfahrt, wie sie Teil eurer DNA wird. So werdet ihr von neugierigen Tool-Tourist:innen zu echten AI-Anwendungsweltmeister:innen.
Die Blackboat AI Summer School: Vier Wochen Online-Sprint mit Hands-on-Aufgaben, um vom Kl-Ausprobieren zu echten Pro-Skills zu kommen. Vom Tool-Tourist zu eigenen Agent-Systemen mit unserer AI Summer School!
Spare jetzt 250€ mit dem Gutscheincode: ATTD-SUMMER
-> Jetzt anmelden auf https://academy.blackboat.com
Wenn dir AI to the DNA gefällt, freuen wir uns über eine 5-Sterne-Bewertung. Damit hilfst du uns enorm, den Podcast sichtbarer zu machen und noch mehr Menschen mit unseren Themen zu erreichen. Danke für deinen Support!
- (00:00) - Intro
- (01:26) - Willkommen im Café Datenschutz: Sebastian Kraska
- (05:25) - Mentalität und Risiko: Warum „keine KI einsetzen" der riskantere Weg ist
- (07:59) - „Geht nicht wegen Claude": Halbwissen und Totschlagargument
- (10:00) - Auftragsverarbeitung: Das Grundprinzip hinter KI-Auslagerung
- (13:25) - US-Transfers und EuGH: Deutsche Server vs. Cloud Act
- (18:54) - Souveränität als Risikosteuerung: Open Source, München und Schleswig-Holstein
- (21:08) - Agentic AI: Wenn Claude Code, Codex und Cowork autonom in deine Daten greifen
- (25:29) - „KI soll zuarbeiten, nicht entscheiden": Der regulative Grundsatz
- (29:12) - Artikel 22 DSGVO: Science Fiction aus den 70ern trifft auf Agentic AI
- (31:45) - Workspace, Intent und Taste: Warum der Mensch im Driver Seat bleibt
- (34:28) - Bewerbungsscreening und selbstfahrende Autos: Die gesellschaftliche Frage
- (37:00) - Schutzmechanismen für die Minderheit: Warum Regeln Sinn machen
- (40:13) - Verantwortlichkeit, Prompt Injection und Guardrails für Agenten
- (43:55) - China, Hugging Face und Joint Ventures: Datentransfer als wirtschaftspolitische Frage
- (47:01) - Risiko-Realität: Welche Alternativen Unternehmen wirklich haben
- (51:06) - Das Rennen um die Modelle ist verloren – die Implementierung nicht
- (54:25) - Der AI Act: Mit heißer Nadel gestrickt und schon überholt?
- (59:36) - Brauchte es wirklich eine KI-Verordnung? DSGVO statt Compliance-Layer
- (01:01:15) - AI Officer: Warum die Schnittmenge aus Recht und Technik fehlt
- (01:08:02) - Claude Mythos und Sicherheitslücken: Ein neues Biest für den Datenschutz
- (01:10:09) - Was sollten Unternehmen tun?
- (01:12:26) - Outro und Empfehlung: Datenschutz-Videos auf YouTube