Federated Learning: Wie Krankenhäuser gemeinsam ein KI-Modell trainieren, ohne Daten zu teilen | Daniel J. Beutel, Flower Labs

Was, wenn mit jedem Prompt an ein externes Modell ein kleines Stück deines Wettbewerbsvorteils das Haus verlässt? Warum hat kein einzelnes Krankenhaus genug Daten, um ein brauchbares KI-Modell zu trainieren und was ändert sich, wenn hunderte Institutionen zusammenkommen, ohne ihre Daten herauszugeben? Und was bedeutet es strategisch, wenn eine einzige Entscheidung der US-Regierung darüber bestimmt, ob du Zugang zum neuesten Modell hast?

Zu diesen und weiteren Fragen spreche ich in dieser Episode von „AI to the DNA", dem Podcast für alle, die Künstliche Intelligenz wirklich verstehen und anwenden wollen, mit Daniel J. Beutel. Daniel ist Co-Founder und CEO von Flower Labs und Co-Creator von Flower, dem Open-Source-Framework für Federated Learning. Gegründet hat er Flower Labs mit Nic Lane und Taner Topal, drei Monate davon im Silicon Valley bei Y Combinator. Er sitzt in Hamburg und promoviert parallel in Cambridge.

Diesen Podcast gibt es auch als Video-Podcast auf meinem YouTube Kanal.

Wir sprechen darüber, was eine dezentrale KI-Architektur von der zentralen unterscheidet, die die großen Labs betreiben: Wer den kompletten Stack auf eigener Infrastruktur betreibt, schickt Prompts, Kontext und damit Prozesswissen nicht mehr an eine fremde API. Daniel erklärt, wie ein sogenanntes Fusion Model mehrere Open-Weight-Modelle unter einer einzigen API kombiniert und damit nah an die Performance aktueller Frontier-Modelle kommt.

Außerdem diskutieren wir Federated Learning ganz konkret: eine internationale Bank, die Kundendaten physisch in den USA und in Europa halten muss und trotzdem ein gemeinsames Modell trainiert. Healthcare-Netzwerke, in denen teilweise über 100 Institutionen zusammenkommen, weil ein einzelnes Krankenhaus nur einige Tausend annotierte Radiologie-Bilder hat, zu wenig für moderne Deep-Learning-Architekturen. Dazu Techniken wie Differential Privacy und Secure Aggregation. Und ein Projekt mit dem US Department of Energy, in dem verteilt über drei National Labs ein LLM mit 70 Milliarden Parametern trainiert wird.

Darüber hinaus geht es um den Unterschied zwischen AI-Assisted und AI-Native: Jedem Mitarbeitenden einen Chatbot zu geben, ist wie einen besseren Hammer in der Manufaktur zu verteilen. Daniel beschreibt, wie stattdessen eine Fertigungslinie für Wissensarbeit entsteht, die mit jeder Interaktion besser wird und warum das ohne starkes Sandboxing, granulare Permissions und Human in the Loop im Enterprise-Umfeld nicht funktioniert.

Und wir reden über Europa: über den Datenschatz im Mittelstand, über Geschwindigkeit als das, was Daniel bei Y Combinator gelernt hat, und über seinen größten Wunsch, alle gesundheitsrelevanten Daten Europas in einem Netzwerk zu verbinden, ohne dass eine einzige Institution die Kontrolle über ihre Daten abgibt.

Hier bei AI to the DNA will ich, Christoph Magnussen, tiefer in die Materie KI eintauchen. Mich interessiert nicht nur, wie man KI nutzt, sondern warum sie so funktioniert, wie sie funktioniert. Mit AI to the DNA gewinnt ihr Einblicke in die Natur der Künstlichen Intelligenz und erfahrt, wie sie Teil eurer DNA wird. So werdet ihr von neugierigen Tool-Tourist:innen zu echten AI-Anwendungsweltmeister:innen.