Ich mein, die Leute haben am Anfang, als die ersten KI-Modelle Bilder erkannt haben, haben die Leute sich drüber lustig gemacht, dass sie Katzen und und Hunde nicht unterscheiden können. Dann irgendwann haben die Bilder wurden Bilder generiert, dann hatten die drei Augen.
Dr. Rasmus Rothe:Dann meinten die, das ist doch alles hier Schwachsinn, das bringt ja gar nichts. Ich glaube, wir können uns halt noch nicht vorstellen, wie komplex die Tasks sein können, die diese Agenten ausführen können. Und ich glaube, es gibt da halt kein Limit nach oben, ne, dass halt irgendein Mensch noch den finalen Vertrag aus dem Drucker nehmen und in den in den Briefkasten schmeißen muss, ja, da braucht der die KI noch den Mensch, aber dass eigentlich der Agent nur noch selektiv den Menschen einbindet.
Christoph Magnussen:Ihr bekommt heute die Folge, aufgrund der wir AI to the DNA vor einem Jahr gestartet haben. Es ist quasi auch die Geburtstagsfolge. Wir haben als Gast Doktor Rasmus Rothe. Mit Rasmus verbindet mich eine lange Zeit an Geschäftspartnerschaft und Freundschaft. Und er ist einer derjenigen, der in dem Tempo, was ich wirklich auch mag, wirklich in the positive way einsteigt.
Christoph Magnussen:Er ist Wissenschaftler, Researcher, er ist selber Unternehmer. Merantix, seine Firma, ist eine der wichtigsten hier in Deutschland, wenn es um das Thema KI geht. Er sitzt selber im KI-Bundesverband der Bundesregierung und hilft auch dabei, was zum Thema sovereign AI zu machen, kann aber auch alle Modelle erklären und erzählt im Podcast, was nach den Large Language Models kommt. Kommt nämlich einiges und vor allem auch, was wir alle mit Agents noch nicht begriffen haben. Boah, Leute, schnallt euch an, ich müsste mich eigentlich hinsetzen.
Christoph Magnussen:Es ist eine saugeile Folge, die auf euch wartet. Freut euch. Kommentiert direkt rein, wenn ihr was hört, denn ihr werdet's vergessen, es geht schnell durch. Ihr könnt hier auf YouTube runterhauen oder auch wenn ihr es auf Podcastplattform hört, da natürlich auch. Deswegen jetzt viel Spaß mit AI to the DNA.
Christoph Magnussen:Wir haben keine Zeit, Leute. Es ist eine der Folgen, würde ich sagen, die würde ich als Gründungsgeburtstag bezeichnen. Sie wird nämlich aufgenommen quasi am Geburtstag, ein Jahr AI to the DNA. Und Rasmus, Du bist derjenige, den ich am Anfang gefragt habe, wo ich gesagt habe, eigentlich würde ich am liebsten das im one on one mit dir machen. So, jetzt bist Du schwer zu kriegen und deswegen, jetzt sitzen wir hier und die Folge gibt's.
Christoph Magnussen:Einer der Köpfe in Deutschland zum Thema KI bist Du, der das hier auch mitprägt. Insofern schön, dass Du mal wieder da bist.
Dr. Rasmus Rothe:Freut mich, wieder dabei zu sein. Ja.
Christoph Magnussen:Wir müssen über ein paar Sachen reden. Es ist wahnsinnig viel passiert. So, und das, was Du besonders gut kannst, ist Bigger Picture einordnen. Hol uns einmal ins Bild. Alle rennen momentan den neuesten Modellen hinterher, wundern sich, ob OpenAI demnächst irgendwie eine Regierungsseite mal wieder hackt, ob Anthropic auf die Idee kommt, dass die Menschheit ausgelöscht wird und so weiter.
Christoph Magnussen:Es klingt alles ein bisschen sehr wild. What's the bigger picture, alle einmal runterzuholen?
Dr. Rasmus Rothe:Also ich glaube, ich muss dir erst mal zustimmen, es ist ziemlich wild gerade. Es ist aber auch ziemlich spannend gerade. Also die letzten sechs Monate haben wir noch mal eine ziemliche Beschleunigung gesehen auf den Fortschritt der KI-Modelle. Ich mein, gerade wenn wir jetzt sehen, dass die KI-Modelle die Millenniumprobleme in der Mathematik irgendwie lösen.
Christoph Magnussen:Einfach mal so, ne?
Dr. Rasmus Rothe:Mal so, wo man sagt halt, da haben irgendwie Menschen Jahrzehnte, teils bei manchen Problemen ja auch Jahrhunderte irgendwie die Lösung nicht gefunden und sehr, sehr smarte Leute, wahrscheinlich die smartesten Leute der Welt versucht, diese Probleme zu lösen. Dann merkt man schon, dass wir langsam dahin kommen, dass die KI wirklich Themen lösen kann, die wir Menschen gar nicht lösen können und und damit natürlich auch die Forschung, sei es in der Medizin, sei es in der Mathematik, Physik vorantreiben kann. Und das das ist was, was mich einfach so auch als also als mit einem wissenschaftlichen Background halt irgendwie total fasziniert. Ich glaube, das Zweite ist, dass wir auch sehen, wenn wir wenn wir jetzt sozusagen das Ganze von Conversational AI zu Agentic AI ja jetzt gebracht haben und in der Lage sind, sozusagen jetzt ganze agentische Workflows abzubilden, dass, glaube ich, aktuell alle drei Monate sozusagen die Task-Länge, die ein Mensch brauchen würde für die gleichen Tasks sich verdoppelt, die ein Agent machen könnte.
Dr. Rasmus Rothe:Also das heißt, die KI kann auch eben immer komplexere Abläufe unseres Arbeitsalltags irgendwie abdecken und das ist halt ziemlich wahnsinnig und wird halt auch dann wirklich den Impact in der in der Wirtschaft haben. Wenn wir uns jetzt die Modelle angucken, dann ist das ist es auch ein ziemlich spannendes Rennen, weil klar OpenAI und Anthropic und auch natürlich die Chinesen kurz dahinter sind dabei, irgendwie wöchentlich neue Modelle zu releasen. Man hat eigentlich, es ist schwierig eine Übersicht zu behalten, selbst wenn man in dem Feld aktiv ist. Und man sieht halt ganz stark eine Zweiteilung. Einerseits hat man irgendwie diese Frontier-Modelle, die immer besser werden, die auch mittlerweile ja teils sehr teuer geworden sind.
Dr. Rasmus Rothe:Und gleichzeitig hat man diese Commoditisation, die sozusagen hinterherrennt, was man einerseits ja auch die Modelle bei Anthropic und OpenAI, die die die von vor ein paar Monaten immer günstiger bekommt und teils Faktor zehn und mehr und gleichzeitig halt auch immer mehr chinesische Alternativen irgendwie hat und mittlerweile ja auch ein paar aus Europa. Mistral hat ja auch grad ein neues Modell angekündigt, dass eigentlich sozusagen diese großen Modellprovider ziemlich getrieben sind, natürlich super superstark wachsen, aber auch merken, wenn sie halt jetzt nicht neue Modelle releasen, dann gibt's halt irgendwann immer mehr Open-Source-Alternativen und das, das ist, glaube ich, was, was das den Druck sehr stark erhöht, was auch die dazu zwingt, immer weiter zu investieren. Auf der Cybersecurity-Seite ist was, wo wir auch schon ja länger länger gewarnt haben, auch vom KI-Bundesverband und sozusagen auch selbst ja mit Merantix auch Investments haben, dass wir sehr stark glauben, dass eben es schon so ist, dass diese KI-Modelle auch Risiken haben und eben es durchaus passieren kann, dass eben entweder Bad Human Actors diese nutzen, irgendwie Cyberattacken zu fahren und oder eben sich die Modelle, wenn sie halt sozusagen nicht richtig geguardrailt sind, also sozusagen geschützt sind oder richtig getestet sind, eben auch sich durchaus sozusagen selbstständig machen können und Aktionen durchführen kann, die vielleicht unerwartet sind.
Dr. Rasmus Rothe:Da hatten wir jetzt ja auch ein paar Beispiele in der Presse in den letzten Wochen und Monaten. Und von daher glaube ich, ist auf diesem Thema die Sorge auch von jetzt Sam Altman, Dario und allen den Leuten halt schon real, dass sie sagen, okay, wenn das jetzt so weitergeht, wird's schon Zwischenfälle geben. Das heißt aber nicht, dass da nicht auch eine kommerzielle Agenda hintersteckt. Also ich mein, dieses Narrativ zu sagen, wir haben halt Modelle, die kein anderer hat, die sind besser als alle, die sind gefährlicher als andere, beflügelt da auch so ein bisschen die Börsenstory, die ja jetzt bald kommen soll erstens. Zweitens gibt's durchaus auch ein Risiko, dass in den nächsten Monaten und Jahren es viele Klagen gibt, wenn halt Sachen schieflaufen und dann im Zweifel werden die Leute zu Anthropic hingehen und sagen, okay, jetzt bitte hier bezahlt uns hier für den Schaden.
Dr. Rasmus Rothe:Das heißt, da halt rechtzeitig anzukündigen ist es, dass dass da Risiken sind, ist sicher, ja, ist man eher auf der sicheren Seite und und man sichert sich auch eben dadurch ab, dass man eben jetzt zum Beispiel andere Firmen reinlässt und die Modelle auditen lässt, dass man dadurch halt sagen kann, okay, hat ja jemand Zweites drüber geschaut, bevor wir sie released haben und dadurch sich selber so ein bisschen abzusichern. Und von daher, glaube ich, sind da so ein paar verschiedene Incentives, die dazu halt geführt haben, dass eben jetzt auch grade in den letzten Wochen die großen Labs gesagt haben, okay, lass mal ein bisschen das Ganze verlangsamen, lass uns mal schauen, dass wir irgendwie Sachen sauber auditen, dass wir irgendwie Standards einführen und und sozusagen nicht einfach komplett so wild weiterzumachen. Da haben sich, glaube ich, jetzt alle drauf verständigt. Die Realität ist natürlich, die Chinesen machen einfach weiter und der Abstand wird immer kleiner und das ist natürlich schon ein Thema, wenn Du da irgendwie two trillion market cap hast, die Du damit irgendwie Anthropic an die Börse bringen willst und gleichzeitig da irgendwie andere quasi die gleiche Technologie fast genauso gut irgendwie umsonst rausbringen.
Dr. Rasmus Rothe:Und das ist eigentlich grad so diese dieses Spannungsfeld, wenn man jetzt sich die großen Labs anschaut.
Christoph Magnussen:Im Alltag wirkt es ähnlich, ne. Es gibt ein paar Leute, die benutzen halt quasi, weiß ich nicht, gehen auf OpenAI for free oder nehmen sich Google und sagen, ja, passt schon. Und dann gibt's welche, die gehen super tief rein, schicken Agent los, lassen den Tag laufen und damit arbeiten für verhältnismäßig wenig Geld, wenn man überlegt, was man mittlerweile machen kann. Und dieser Spread, der ist gewaltig groß. Jetzt bist Du jemand, der natürlich auch durch den Bundesverband und auch durch eure Tätigkeit das mitbekommt, wie es in einigen Branchen ist.
Christoph Magnussen:Für wie groß hältst Du das Problem, dass da so ein Blind Spot entsteht? Na, also dass Du drauf guckst und sagst, ja, passt schon oder sagst Du, das kann alles lösen. Gefühlt gibt's nur diese zwei Extremlager. Wenig realistische Einordnung.
Dr. Rasmus Rothe:Ja, ich glaube, man muss halt man muss halt schon sagen, dass, ich sag mal, selbst hier in der Berliner Tech-Bubble und selbst in San Francisco, da wahrscheinlich die meisten halt eben noch jetzt noch nicht tagelang Agentic Workflows haben, die halt sauviel automatisieren. Das ist immer noch ein kleiner Bruchteil. Aber ich sehe halt schon, dass jeden Tag und jede Woche und jeder Monat die diese Zahl halt hochgeht und die Leute halt längere Arbeitsschritte automatisieren. Das ist ja auch so was, wo man sich schrittweise rantastet, also man sagt, okay, jetzt habe ich hier mal irgendwie, jetzt schreibe ich mir nur einen Text vor und jetzt mache ich vielleicht, jetzt generiere ich mir die E-Mails und jetzt mache ich den ganzen Sales Outreach automatisiert, jetzt antworte ich den Leuten, auch wenn sie zurückkommen. Jetzt mache ich vielleicht auch den ersten Call auch mit mit irgendwie Voice und so zeigen.
Dr. Rasmus Rothe:Also ich glaub, die Leute tasten sich auch ran und versuchen halt immer mehr zu automatisieren und so ein bisschen wie mit so einem neuen Mitarbeiter zu gucken, okay, wie viel kann der jetzt und kann ich ein bisschen mehr machen? Also ich glaub, das sehen wir schon bei den Leuten, die experimentieren. Gleichwohl ist es natürlich schon so, wie Du sagst, dass wahrscheinlich ein Großteil irgendwie jetzt so langsam irgendwie Conversational AI entdeckt hat, aber das jetzt noch nicht so richtig agentisch nutzt. Das hängt auch oft damit zusammen, dass die Integration in die Unternehmen, die Legacy-Systeme noch nicht da ist. Also wir sehen das auch bei uns im Unternehmen, seitdem sozusagen eben auch bei uns jetzt irgendwie Anthropic und Claude irgendwie Zugriff auf die ganzen internen Systeme hat und diese Integration auch irgendwie gut funktionieren, haben wir halt eine ganz andere kontextuelle Intelligenz.
Dr. Rasmus Rothe:Also und allein schon über die ganzen so Transkripts von den Calls, CRM, ganzes Google Drive und die ganzen internen Daten hast Du halt schon so einen Datenschatz, dass Du halt Sachen viel besser kontextualisieren kannst und dann natürlich auch viel längere Strecken automatisieren kannst. Und das ist eben so Tech-first-Firmen halt einfacher, aber wenn Du halt eine Firma hast, die 150 Jahre alt ist, bist Du erst mal damit beschäftigt, irgendwie diese ganzen Systeme anzubinden, Zugriffsmanagement irgendwie zu klären, was halt bei paar Mitarbeitern einfach ist, bei tausenden Mitarbeitern auch mit vielen Themen kommt. Und und ich glaub, das sind grad so Sachen, wo halt viele Unternehmen grade sich durchkämpfen, vorankommen, aber auch immer noch ziemlich am Anfang sind. Man muss aber auch sagen, das sieht in den USA nicht anders aus. Also wir haben halt auch, wenn wir von den USA reden, reden wir immer vom Silicon Valley und klar, das ist irgendwie mittlerweile ein Großteil der Market Cap in den USA, aber wenn Du halt irgendwo anders in die USA hinfährst und da aber auch bei den Mittelständlern da bist und das können wir wirklich von eigenen Portfoliofirmen sagen, die sowohl hier als auch da in den gleichen Industrien Firmen benchmarken, servicen und die Benchmarks sind die quasi eigentlich auf dem gleichen Stand, more or less.
Christoph Magnussen:Wie würdest Du, wie würdest Du, wenn Du sagst, Du hast eine Firma, die halt 100 Jahre Legacy hat, zu einer Tech-first-Firma, die ihr seid, die wir auch ein Stück weit sind, aber dann den AI-native Companies, also die halt noch mal von Anfang an das Ganze mitdenken? Ich stell mal vor, Du und ich hätten gegründet mit jetzt Claude, mit Codex, mit dem ganzen Kram und sagen, ey, CRM, was willst Du damit? Machst Du alles über Marketing, keine Ahnung. Was sind da da, was da dein Blick drauf und was beobachtest Du auch zahlenmäßig bei denen?
Dr. Rasmus Rothe:Ja, das ist superspannend, weil ich glaube, selbst in unserem eigenen Portfolio, ohne da jetzt einzelne Namen zu nennen, aber merkst schon, welche Firmen sind in den letzten zwölf Monaten entstanden und welche sind in den letzten drei, vier, fünf Jahren entstanden? Weil sobald Du eine bestehende Organisation hast, bestehende Leute, hast Du eine Legacy, weil die Struktur halt der Leute, die Du gehired hast und die Skillsets darauf ausgelegt sind, dass ja vielleicht Du halt irgendwie Conversational AI hast, aber nicht, Du eine AI-first-Organisation baust. Und das führt halt dazu, dass Du so in so einer Organisation dann eben natürlich eher guckst, okay, Du hast jetzt diese Leute und jetzt versuchst Du alle ein bisschen produktiver zu machen. Mhm. Und das ist halt eher inkrementell.
Dr. Rasmus Rothe:Ja. Klar kannst Du dann eben Rollen verändern, Teams verändern, Aufgabenbereich jetzt neu zuschneiden, aber das kommt mit sehr viel Aufwand. In einer kleinen Organisation geht das noch, aber wenn Du halt 10.000 Leute hast, das ist ein riesiges Transformationsprojekt. Wohingegen, wenn Du AI-first denkst, dann denkst Du halt, okay, was ist eigentlich mein Ziel? So, ich will jetzt irgendwie Kunden gewinnen, ich will irgendwie ein Produkt bauen.
Dr. Rasmus Rothe:So, und dann fragst Du dich, wie kommst Du dahin? Und da ist halt der erste Gedanke, okay, für ein Produkt zu bauen, ist nicht der erste Gedanke, brauche jetzt fünf Software Engineers, sondern ein Produkt zu bauen ist, das mache ich mit KI. So, jetzt ist die Frage eher, wie kriege ich meine Requirements in das richtige Produkt und welche Person brauche ich, die diesen Prozess halt monitort?
Dr. Rasmus Rothe:Ist wahrscheinlich irgendwie ein sehr guter Architekt, der auch irgendwie ein bisschen Customer Centricity kann und diese Brücke bauen kann, aber ich denke halt nicht mehr sozusagen in Classic Software Engineering Resources und das Gleiche halt auf der der Sales-Seite. Ich frag mich halt, okay, wie acquire ich die Kunden? Was welchen Teil muss ich vielleicht noch physisch machen? Brauche ich irgendwo noch Menschen im Sales-Prozess? Und klar, bei Enterprise-Themen wahrscheinlich schon, aber welchen Teil des des ganzen Funnels kann ich komplett automatisieren und welche Tools brauche ich dazu?
Dr. Rasmus Rothe:Und wenn's das Tool nicht gibt, dann baue ich das halt eben selber schnell. Und und das heißt, da wird dann schon eben ganz anders drüber nachgedacht und das heißt einfach, man holt andere Profile rein. Teams sind anders strukturiert, sind natürlich viel kleiner. Und ja, das ist schon spannend zu sehen und das das ist, glaube ich, sehen das sozusagen nur im Kleinen bei unseren, sag ich mal Start-ups, wo Du dann vielleicht mal 50 oder 100 Leute hast. Aber klar, wenn Du eine 10.000-Leute-Organisation hast, ist das eine wahnsinnige Transformation.
Christoph Magnussen:Und die nächste Kategorie an Unternehmen, die jetzt schon in den Startlöchern steht, die Recursive Self Improvement planen, also so was wie aus der Folge mit Richard Socher, den Du ja gut kennst und zu dem Du auch die Intro gemacht hast oder auch einige der Köpfe, die bei Google weggegangen sind, Beispiel, die sagen, das ist für einige Leute so far out. Wie schätzt du das ein? Ist das einfach eine große Wette oder ist das so nah wie wie du als als du vor drei Jahren gesagt hast, zwei KI, zwei KI-Modelle tauschen sich drei Sekunden miteinander aus und hast eine Folge Podcast generiert. Das ist heute deutlich realistischer als für viele Menschen vor drei Jahren.
Dr. Rasmus Rothe:Ja, ich mein, also das Podcast-Thema, das könnte man sicher heute bauen.
Christoph Magnussen:Das würde ich, wir testen das auf jeden Fall. Ich glaub, das probieren wir aus.
Dr. Rasmus Rothe:Ja, ja und dann und dann auch immer mehr mit Video und so, dann wird es auch, also das ist schon spannend. Nee, also ich glaube, ein Grund, wieso wir jetzt ja auch eine Beschleunigung die letzten Monate gesehen haben, ist, dass halt die KI sich selber verbessert, ja, dass die KI selber Code schreibt, dass die Modelle selber sozusagen sich rekursiv verbessern und überlegen, wie könnten sie besser werden in der Architektur und in Daten, die sie nutzen. Und wir sehen ja, zum Eingangsstatement zurückzukommen, dass KI jetzt in der Lage ist, wissenschaftliche Frontier zu pushen. So, das heißt, bisher haben halt irgendwie Forscher auch in der KI gesagt, okay, kann ich jetzt diese Modellarchitektur verbessern? Wie kann ich jetzt hier irgendwie besser trainieren?
Dr. Rasmus Rothe:Und das war eigentlich limitiert von dem, was Menschen können. So. Wenn wir jetzt halt die schwersten Probleme der Mathematik lösen können mit KI oder sehr nah dran sind, kann man das genauso auf das Thema KI anwenden, dass man sagt, jetzt hat man eigentlich auch Modelle, die auch KI-Modelle einiges besser verbessern könnten und schneller als jeder Mensch das könnte. Und das wird halt zu einer Beschleunigung führen und eben auch zu vielleicht Lösungen, die Menschen gar nicht so in der Form hätten entwickeln können oder wo es halt fünf bis zehn Jahre gebraucht hätte. Und das wird zu einer Beschleunigung führen.
Dr. Rasmus Rothe:Und das sehen wir ja auch schon im Kleinen, also als Endanwender. Ich mein, Du und ich, wir können wir können einen guten Prompt schreiben. Wir nutzen aber ja auch auch KI, einen guten Prompt zu schreiben, ja, weil die KI im Zweifel besser prompten kann als wir. So, das ist halt das Ganze auf dem Kleinen. Wenn Du jetzt überlegst, ein komplexes System zu designen und das halt zu verbessern, dann kannst Du da halt noch viel mehr verbessern.
Dr. Rasmus Rothe:Und das das wird jetzt sicher was beschleunigen, dass wir halt auch viel weniger definieren, wenn wir komplexere Systeme designen, also irgendwelche Datenpipelines, irgendwie einen Sales, kann ein Sales-Prozess sein, aber kann auch eine einen Workflow für irgendeinen anderen Businessprozess sein, dass wir vielleicht gar nicht mehr so viel vorgeben müssen, wie sieht das alles aus, sondern dass wir immer sagen, das Endziel ist, wir wollen Kunden gewinnen oder das Endziel ist, dass dieses Problem gelöst wird. Jetzt designen wir mal einen Prozess, arbeite mit ersten Nutzern und verbesser dich dann selber. Also vielleicht wird Software auch dann gar nicht mehr so statisch sein, dass wir halt auch gar nicht mehr sagen, so, bauen jetzt einen CRM und das ist statisch, sondern wir haben einen CRM, weil es halt sieht, wie die Nutzer das nutzen und sich halt laufend selber weiter verbessert. Und ich glaub, das ist was, wo wir wo wir mittelfristig hinkommen werden, dass Software dadurch, dass es halt so billig zu bauen ist, halt auch gar nicht mehr so ein statisches Produkt ist, sondern dynamisch. Und das das hat halt viel damit zu tun, dass man dieses Self Improvement sozusagen in diese Loop einbaut.
Christoph Magnussen:Das heißt aber auch, Du brauchst dann sehr, sehr gute nicht nur Guardrails, sondern auch und auch das Thema Alignment. Also wenn man jetzt mal überlegt, also ich gebe dir mal ein Beispiel, was sich in den letzten drei Jahren bei uns getan hat. Wir haben mittlerweile ein Monorepo, in dem die ganzen Apps laufen, also die Website und so weiter und auch die eigenen Programme, die wir benutzen, bauen auch ein eigenes CRM-Tool so. Aber da sind auch die Skills und vor allem auch die, wir haben einen Teil Kernel genannt, also wie bei einem Betriebssystem, den du quasi nicht überschreiben kannst. Das heißt, egal ob jetzt Claude Code, Codex oder irgendein anderer Agent, das Ding läuft auf dem Rechner und weiß halt, okay, das ist die Geschwindigkeitsbegrenzung.
Christoph Magnussen:Jetzt könntest Du die natürlich hart umprompten, also den den den Agent, so wie Du mit dem Auto auch schneller durch die Stadt fahren kannst, wirst aber im Zweifelsfall irgendwann erwischt, geblitzt oder was auch immer. Das sind jetzt einfache Guardrails. Wenn ich jetzt aber sage, ich setze einfach nur das Ziel und sag, mach Umsatz, gib das an ein Modell, vielleicht an einem Modell, was ich mir auf Hugging Face runtergeladen hab. Bei drei Millionen Modellen gibt's ja ein paar zur Auswahl. Und das sagt halt so, ja, ich mach das ein bisschen bolder als vielleicht die aligned Modelle von Anthropic und OpenAI, was dann?
Dr. Rasmus Rothe:Ja, und keine Ahnung, schmier irgendwelche Leute bei den Kunden mit Kryptowährungen und so Sachen. Ja, ich mein, das auf jeden Fall. Also ich glaube, dieses Thema Guardrail, wenn man halt dieses Self Improvement machen will und sozusagen mehr eine Verselbstständigung haben will, dann braucht man ganz klare Guardrails und manche von denen sind hart und manche sind semantisch.
Christoph Magnussen:Erzähl mal, wie die funktionieren für jemand, der das nicht kennt.
Dr. Rasmus Rothe:Genau, supergerne. Genau, auf auf der Guardrail-Seite, ich mein, das eine ist sozusagen ganz einfach halt das ganze Thema Access Management. Also auf welche Daten darf es zugreifen? Auf darf es auf den Computer zugreifen, darf es ins Internet, darf es nur die Daten lesen, darf es sie auch schreiben?
Dr. Rasmus Rothe:Mit welchen anderen Systemen darf es noch kommunizieren? Wie lange darf, wie viel Rechenzeit darf es nutzen? So, das sind halt erst mal sozusagen vielleicht auch harte Requirements, die man relativ gut vorgeben kann, so. Und dann gibt's aber auch eben noch mal semantische sozusagen Requirements, wo man halt eher sagt, okay, dass der Agent darf vielleicht in in das CRM schreiben, aber wenn es jetzt anfängt, fünf Kontakte zu überschreiben, ist das vielleicht nicht so eine gute Idee. Oder es darf halt sozusagen sich frei im Internet bewegen, aber wenn's halt Sachen sind, die mit dem Gesetz verstoßen oder gegen das Gesetz verstoßen, vielleicht nicht so eine gute Idee.
Dr. Rasmus Rothe:Und das sind ja Sachen, die die kann man jetzt nicht sozusagen in der einfachen Regel zusammenfassen oder da kann man nicht einfach den Zugriff beschränken, sondern da muss man halt dann sozusagen sehr kontextualisiert entscheiden, okay, ist das jetzt zum Beispiel noch legal oder nicht legal? Und da muss man halt sozusagen auch Grenzen schaffen, die halt das Modell dann in dem Fall stoppen und und dann aber auch dieses Zugriffs Durchgriffs haben. Das Problem ist halt, dadurch, dass die Modelle halt immer besser werden, gab's jetzt ja auch viele Fälle, wo die Modelle dann eben genau diese Guardrails so ein bisschen ausgetrickst haben oder andere Wege gefunden haben. Deswegen, das Sicherste ist klar, wenn Du dein, wenn Du einen Agenten auf einem Computer laufen hast, der keinen Internetzugang hat, dann hat der keinen Internetzugang. Da kannst Du, kann der Agent so smart sein, er will, der wird nicht ins Internet kommen, ja, weil der in einem Rechner im Zimmer steht, so.
Dr. Rasmus Rothe:Das heißt, Du kannst natürlich sehr enge Guardrails setzen, aber das schränkt dann eben auch sehr stark ein, was dieser Agent kann. Und diese dieses Feintuning, was sind eigentlich so harte Regeln und was sind sozusagen Sachen, die Du ein bisschen flexibel lässt mit dem Risiko, dass der Agent da vielleicht auch diese Guardrails austrickst, das ist was, wo global grad keiner die Lösung hat, viele dran arbeiten, weil es ein Trade-off ist von, Du willst ja, dass die Agenten möglichst viel machen, aber wenn Sachen schiefgehen, dann hast Du wirst verklagt, dann hast Du ein Liability-Thema, dann sind deine Kunden unhappy, was auch immer. Und das das ist was, wo jetzt grade eben auch, ich mein, Nvidia hat ja auch so eine Plattform angekündigt auf der Safety-Seite. Das ist das, wo jetzt sehr, sehr viele dran arbeiten, hunderte Start-ups gibt und bisher keiner das Ganze gelöst hat.
Christoph Magnussen:Das heißt, die oberste Ebene ist dann das Alignment-Thema, dass Du sagst, ist das Model, weil es muss ja auch ein Modell sein, was dann halt in den USA funktioniert, in Deutschland funktioniert und so weiter. Du willst ja ein Modell bauen, was halt möglichst allgemeingültig ist. Das heißt, dieses Alignment-Thema ganz, ganz, ganz oben drüber, wie verhält sich ein Modell richtig, hat ja deutlich mehr Komplexität als zu sagen, das ist erlaubt, das ist nicht erlaubt. Da ist ja auch die Frage, ist das gut, ist das schlecht? Ja.
Christoph Magnussen:Wie, also ich hab bei den bei dem Vorfall als OpenAI Hugging Face gehackt hat, also die Agents quasi. Wenn ich's richtig verstanden hab, METR hat das Ganze ja analysiert, also eine der Firmen, aufpassen, Apollo Research, METR und so weiter, die Unabhängigen. Die durften irgendwie eine Woche auf dem Campus. Erst mal hatte ich ein großes Fragezeichen, weil die, ich hab den Namen jetzt grade nicht mehr, aber die Lead, Project Lead, die das gemacht hat, sagte, ich musste quasi Sol 5.6 verwenden als Modell, überhaupt das Ganze zu analysieren, weil es ja so viele Daten sind, wo dann auch Sol 5.6 auch an diesem Hack natürlich mit beteiligt war als Modell. Was ja schon irgendwie total perfide ist, wenn Du denkst, Du kannst das gar nicht mehr als Mensch auswerten, also musst das mit einer KI auswerten, das ist gar keine andere Chance.
Christoph Magnussen:Und das Zweite, was ich interessant fand, weil das auch das Internetzugang, die haben sich ja wie über so ein Messageboard geschrieben, also die Dateinamen verändert, damit zu kommunizieren. Ist ja auch echt intelligent gelöst und haben auf diesen Agent Zero gehört, der irgendwann, es war wohl gar nicht infrage gestellt, dass es vielleicht eine gute, vielleicht eine schlechte Idee ist. Also keiner kam auf die Idee zu sagen, vielleicht melden wir das mal irgendwo. Das sind natürlich Sachen, wo wo man das Gefühl hat, kriegt man das gesteuert? Sagst Du, ja, ganz ehrlich, das machst Du im Training an der und der Stelle ehrlicherweise, das ist ein Feintuning-Thema oder ist das wirklich ein Bigger Topic, was immer mal schiefgehen kann?
Dr. Rasmus Rothe:Also ich glaube halt, ich glaube, Du Du kannst es, also Du kannst es natürlich einerseits über Liability regeln. Also ich glaube, Du kannst es nicht nicht einfach den Leuten sagen, ja, das dürft ihr nicht machen, so. Das weil das dann werden's trotzdem Leute machen. Also wenn, dann musst Du erst mal über ein Liability-Regime auch irgendwie einführen, wo Du sagst, okay, wenn Du so Modelle releast und die sich halt nicht kontrollieren und Schaden passiert, bist Du da in der Haftung. Beziehungsweise Leute, die es nutzen, müssen sich halt auch bewusst sein, dass es da gewisse Haftungsrisiken gibt.
Dr. Rasmus Rothe:Das ist immer, sag ich mal, eine Möglichkeit, das Ganze zu regulieren, dass Du sagst, okay, kostet halt viel Geld, wenn Sachen schiefgehen. Das das andere Thema ist halt, dass Du dann halt schon sozusagen auf ja auf der Modellebene das Ganze technisch lösen musst, dass Du sagst, einerseits im Trainingsprozess halt sozusagen eben auch zum Beispiel bestimmtes Verhalten trainieren musst und dann Feedback geben musst, also sozusagen so eine Art Reinforcement Learning, wo Du halt sagst, okay, das waren jetzt gute Actions, das waren vielleicht nicht gute Actions. Und dann das andere ist auf der eher Inference-Seite, sobald Du das Model Modell releast, halt Guardrails da drum machen musst, die halt vielleicht noch mal sozusagen testen, so gegeben die Action, die das Model durchführen will, ist das jetzt, passt das jetzt vom Alignment her nicht. Und ich glaub, das ist was, was als Gesamtpackage Teil des Modell-Releases sein muss, dass Du sagst, okay, dieses Modell hat bestimmte Capabilities, aber es gibt da darum halt auch einen sozusagen Alignment-Harness, der quasi genau das halt sicherstellt. So, wenn's ein Bad Actor geht, gegeben, wie man heutzutage Modelle trainiert, kann man sicher auch Modelle trainieren, open sourcen, die sich halt eben nicht an so Regeln halten. Das wirst Du aber nicht verhindern.
Dr. Rasmus Rothe:Das wirst Du nicht verhindern, wenn Du sagst, hört mal bitte alle auf, schneller voranzukommen oder macht das bitte nicht, sondern nur, wenn Du dann eben Überhaftungssachen gibst. Und das ist das ist, glaube ich, das, was schon auch so ein bisschen dieser Sorge führt, die die da durchaus berechtigt ist. Aber trotzdem ist es halt so, der positive Nutzen von dem ganzen Thema ist ein Vielfaches größer, aber natürlich grade auch die Presse, klar, findet's immer spannend, Science-Fiction-mäßig über die Agenten, die die wild gehen, halt irgendwie sich sich zu reden und und das irgendwie sich genauer anzuschauen.
Christoph Magnussen:Na gut, logisch, ne. Die Story ist auch immer die bessere und und trotzdem ist natürlich die Frage, wenn eben diese Modelle so krass sind, also sagen wir mal, Du hast ein Astra, Du hast ein die Mythos-Class-Familie an Modellen oder die im Zivilen ja Fable heißen, also wir haben ja die Mythos-Modelle nicht im freien Zugriff. Hast Du als Regierung, als Land, als große Organisation überhaupt eine Chance, ohne diese richtig, richtig fetten Modelle irgendwas zu machen? Kannst Du das mit eigenen Modellen dann machen, mit Open Source oder musst Du immer so was auch mit in petto haben?
Dr. Rasmus Rothe:Also ich glaube halt, wenn man und da kann man auch dann die europäische Brücke bauen. Ich glaube, wenn es darum geht, Cyberattacken zu fahren, wenn es darum geht, auch im Defense-, Offense-Use-Case aktiv zu sein, hilft es sicher in diesen Bereichen, die neuesten Modelle zu haben oder wenn es darum geht, in Scientific Discovery voranzugehen, weil da bist Du ja immer an der Frontier sozusagen von der Wissenschaft und derjenige, der halt das beste Modell hat, wird wahrscheinlich am schnellsten noch ein Stück weiterkommen und da geht's ja dann auch viel IP und so solche Themen. Ich glaube, in dem Bereich ist es schon so, dass das beste Modell gewinnt. Realistisch kostet das halt so viele Dutzende oder Hunderte Milliarden, dass wir da jetzt grade nicht die Ressourcen hier in Europa haben, egal ob public oder private Money, das das aufzusetzen. Gleichwohl ist es aber schon so, dass wenn wir uns jetzt darum geht, Wirtschaft zu transformieren mit KI 95 Prozent der Modelle eigentlich schon gut genug sind und vielleicht sind's grade nur 80 Prozent der Modelle, weil klar für die längeren Agentic Workflows hilft's halt dann schon irgendwie Fable und Co. zu haben, aber das ist nur eine Frage der Zeit.
Dr. Rasmus Rothe:Wir sehen ja den den Modellfortschritt. Ich glaube, spätestens in sechs bis zwölf Monaten wird da immer mehr man auch diese Kommoditisierung spüren und auch durch den Kostendruck, den grade diese Frontier-Modelle kosten, die Leute sagen, okay, dann nehmen wir halt das letzte Modell und das wird gut genug. Das ist sozusagen auf der auf der Seite. Und gleichzeitig gibt's auch andere Beispiele. Wir hatten ja vorhin kurz drüber geredet.
Dr. Rasmus Rothe:Ich mein, so Firmen wie Black Forest Labs, die haben jetzt auch grad bei einem der World-Model-Benchmarks kommen hier aus aus der Freiburg-Gegend, grade global den ersten Platz erreicht sind hier in Deutschland. Also ich glaube, es gibt, man darf auch da sozusagen nicht zu sehr in den bestehenden Modellkategorien denken.
Christoph Magnussen:Nur weil es Large Language Models sind, gibt's eben noch viele andere, ja.
Dr. Rasmus Rothe:Genau. Und und das ist das. Von daher, glaube ich, haben wir eigentlich alle Tools hier, weil ich glaube mit den Modellen, die wir hier haben und jetzt gibt's ja auch immer mehr Open-Source-Modelle, die kommen klar, viele sind noch aus China, aber es gibt auch ein paar Projekte hier in Europa. Ich mein, Mistral jetzt, ETH, das Apertus-Projekt, im KI-Bundesverband sind wir bei SOOFI involviert. Da wird es auch noch mehr geben, die halt dann durchaus auch souveräne Alternativen geben, wenn man sagt, okay, wir wollen jetzt ja vielleicht nicht irgendwie das letzte, vorletzte irgendwie ein Anthropic-Modell nutzen, sondern wir wollen hier irgendwas vor Ort hosten.
Christoph Magnussen:Erklär mal für jemanden, der der sagt, ich verstehe aber die Unterschiede nicht. Also ich zeig immer wieder und das können wir auch mal einblenden oder für die, die es jetzt hören und nicht einblenden sehen, auf Hugging Face gibt es jetzt irgendwie drei Komma bisschen was Millionen Modelle. Also das war, als wir den letzten Podcast aufgenommen haben, ich glaub noch siebenstellig ehrlicherweise. Also es ist echt krass, was da passiert ist. Sechsstellig. Wenn Du jetzt mal simple Unterschiede machst, also Black Forest Labs, da sind wir im Bildbereich, dann haben wir Large Language Models, wir haben Mixture of Experts Models, also sowas wie Kolibri, was aus Deutschland kommt. Weiß nicht, was, SOOFI ist ein Large Language Model, oder?
Dr. Rasmus Rothe:Aber auch eine Mixture-of-Experts-Architektur.
Christoph Magnussen:Erklär mal einfach die Unterschiede, damit Leute verstehen, was das für ein Scale, ein Unterschied ist, und was Du damit machen kannst.
Dr. Rasmus Rothe:Ja, also ich glaube, ich glaube, ich glaube, das Mixture-of-Experts-Thema ist ja einfach ein Thema, dass Du sagst, Du hast halt verschiedene Modelle, die sozusagen in der Kombination halt besser ein Problem lösen können. Das ist eigentlich nur einen sozusagen Engineering-Trick. Ich glaub, generell hast Du halt sozusagen den einen großen Teil dieser Sprachmodelle und das ist das, wo wenn wir jetzt normal über Anthropic oder OpenAI reden, wovon wir normalerweise reden, die ja mittlerweile zum Teil auch eben Bilder generieren können oder Bilder verstehen, also die sozusagen auch multimodal, also unterschiedliche Datenquellen mit aufnehmen können beziehungsweise die generieren können. Das ist so ein Teil. Ich glaube, der andere große Teil, der eigentlich auch gerade der spannendste ist, glaube ich, auf der Forschungsseite, ist das ganze Thema der Weltmodelle.
Dr. Rasmus Rothe:Also wo auch Yann LeCun, der vorher
Christoph Magnussen:Bei Meta war.
Dr. Rasmus Rothe:Meta das AI-Lab geleitet hat, eine neue Firma gegründet hat oder eben das, was was Black Forest Labs da released hat, wo es darum geht, im Prinzip ein Modell zu schaffen, in der das die Welt auf eine gewisse Art und Weise repräsentiert, aber es nicht in einem visuellen Sinne unbedingt wie ein Computerspiel, sondern es kann auch in einem sehr abstrakten auf eine sehr abstrakte Art und Weise sein, wo ein KI-Modell wiederum in dieser Welt dann Aktionen ausführen kann, also interagieren kann und quasi Feedback kriegt, wie die Welt darauf reagieren würde. Weil das Problem und das ist halt superwichtig für die Robotik, weil das Problem ja in der Robotik ist, ich will ja nicht nur die Umgebung verstehen, das könnte ich jetzt schon. Wenn ein Roboter eine Kamera hat, kann er ja verstehen semantisch, was passiert da um mich herum? Ja. Das funktioniert jetzt schon mit den KI-Modellen.
Dr. Rasmus Rothe:Aber dann halt zu wissen, okay, wenn ich jetzt irgendwas anfasse, versuche hochzuheben, was ist das für Materialien? Wie wird die Physik interagieren mit mir bei komplexen Objekten? Das ist halt was, dafür musst Du nicht nur verstehen, was für Objekte das sind, sondern wie verhalten die sich auch, wenn ich mit ihnen interagiere? Und genauso wie das menschliche Gehirn halt oft erst mal simuliert, was passiert als Nächstes und wenn da was passiert, was unerwartet ist, dann man auf einmal irgendwie aufschreckt, ist halt die Idee, dass Du quasi halt für KI-Modelle das Gleiche schaffst, so eine virtuelle Umgebung, in der Du halt dann eben planen kannst, Entscheidungen planen kannst. Ist so ein bisschen so, wie wenn Du im Zug sitzt und auf einmal denkst Du fährst und auf einmal merkst Du, der Zug neben dir fährt, weil Du am Bahnsteig stehst.
Dr. Rasmus Rothe:Ja, okay, okay. Dann bist Du auch einmal so komplett wach, weil Du denkst, okay, mein Weltmodell hat mir halt gesagt, ich fahre und nicht der andere Zug fährt, aber es ist genau umgekehrt. Und da ist es halt auch so, der der der Mensch macht die ganze Zeit diese Vorhersage, was passiert als Nächstes und wenn was was passiert, was nicht geplant ist, dann ist man auf einmal sehr alert und und und versucht halt zu reagieren. Und die Idee ist halt eben, wenn Du diese Weltmodelle hast, dann kannst kann kannst Du das auch alles da dran machen und musst dann halt eben auch die Roboter nicht in der echten Welt trainieren, weil sonst muss so ein Roboter irgendwie hunderttausendmal dieses Glas hochheben. Da musst Du hunderttausend Gläser, alle Varianten und das probieren.
Dr. Rasmus Rothe:Und das ist eigentlich so ein bisschen der Holy Grail der Robotik, weil wenn Du halt ein perfektes Weltmodell hast oder fast perfektes Weltmodell hast, kannst Du eigentlich einen Roboter bauen, der in der beliebigen Umgebung gut gut interagiert kann. Ich glaube, jetzt in den letzten zwölf Monaten sind irgendwie 50 Milliarden Euro in die Forschung direkt oder indirekt in der Robotik in Weltmodelle gegangen. Das heißt, es ist eine riesige Summe. Sind wir da jetzt aktuell da? Nein, noch nicht.
Dr. Rasmus Rothe:Aber ich glaub, das ist eine Frage von den nächsten Jahren. Und das unlockt natürlich noch mal eine ganze nächste Welle an Use Cases, über die wir uns jetzt grade noch nicht so viel vorstellen können.
Christoph Magnussen:Das heißt, das wäre auch, ich hab mal einen Nerd Talk gesehen über eine RL-Konferenz, Reinforcement-Learning-Konferenz, wo einer sagte, die Large Language Models ist alles nett, ne, aber das wäre so, wie wenn Du einen Zehnjährigen in die Welt schickst und er hat alles bis zehn gesehen und gelernt, ab dann nichts mehr dazu, sondern kann nur den Teil und Reinforcement Learning, ein Modell, was die ganze Zeit beobachtet, tut, reagiert. Das heißt, Weltmodelle wären quasi der Weg dahin, so was zu erreichen. Also die ist die Architektur so was zu bauen, dass ein Roboter eben in der Lage wäre, dadurch auch immer wieder weiter dauerhaft zu lernen oder müsstest Du es einmal fertig trainieren trotzdem und er ist da draußen.
Dr. Rasmus Rothe:Du würdest es schon einmal fertig trainieren, aber Du könntest natürlich weiter verbessern, das Weltmodell. Und Du könntest auch sicher sozusagen mit dem Feedback aus der echten Welt, weil weil Du hast ja ein Weltmodell und wenn das halt nicht perfekt ist, das halt Weltmodell verbessern. Aber dieses Weltmodell und das ist halt auch, wo Yann Yann LeCun dran arbeitet, muss halt auf sehr vielen unterschiedlichen Ebenen passieren. Weil wenn ich wenn ich jetzt zum Bahnhof fahren will, dann plane ich erst mal High Level, okay, ich fahr heut vier Uhr los. Das ist sozusagen Planen auf der obersten Abstraktionsebene, weil ich irgendwie den Zug bekommen muss. Die nächste Stufe ist halt, ich plane halt, okay, ich brauche jetzt irgendwie 30 Minuten dahin und ich fahr mit dem Fahrrad oder mit dem Auto und das ist der Weg.
Dr. Rasmus Rothe:Der nächste Schritt ist, okay, ich geh jetzt los. Dann muss ich halt irgendwie planen, okay, muss ja erst mal aus dem Gebäude rausgehen und dafür gehe ich den Weg x y und dann die nächste Stufe ist noch, ich muss jetzt irgendwie gucken, wie ich mein Bein bewege. Das heißt, gibt halt sehr viele hierarchische Ebenen und auf denen geplant werden muss. Und eigentlich auf allen muss ich halt wissen, was muss ich als Nächstes tun und wie reagiert die Welt dadrauf? Und und das ist etwas, was natürlich sehr komplex ist, weil Du eigentlich die ganze Welt codieren musst. Und das Ganze ist auch noch mal viel komplexer, weil einfach die Datenmengen noch viel größer sind, weil das ja sozusagen, die Weltdaten sind ja quasi Videodaten erst aus denen Du das synthetisieren musst und das sind halt ganz andere Datenmengen als so ein bisschen Text im Internet, ja, also und das ist schon sehr, sehr viel.
Christoph Magnussen:Aber wie wie gehst Du denn vor? Also tokenisierst Du das auch ähnlich wie beim Text, dass du sagst, musst es ja irgendwie in Zahlen umwandeln oder was sind da die Methoden? Nur so mal an der Oberfläche, aber das interessiert mich.
Dr. Rasmus Rothe:Ja, also ich glaube, du bist, also ich glaube, gibt halt manche, die das sehr sozusagen modellbasiert machen, wo es halt eher darum geht zu gucken, wie kann ich eigentlich die Physik der Welt auch irgendwie in encodieren in etwas, was ich dann mit dem ich dann zusammenarbeiten kann? Weil ich meine, das eine, was ja überall auf der Welt geht, ist irgendwie gilt, ist die Physik, ja. Also wenn ich das runterfalle, dann fällt das nach unten und nicht nach oben. Also Du kannst sehr modellbasiert vorgehen, dass Du sagst, Du baust eigentlich ein Weltmodell, was sehr viel von dieser Physik schon inkludiert hat, weil das weiß ich, das wird sich auch nicht ändern. Außer wir gehen auf den Mars, ja, da musst Du die Parameter ein bisschen anpassen, aber gleiches Konzept.
Dr. Rasmus Rothe:Und das andere ist halt die Frage, kannst Du halt mit echten Daten das Ganze anfüttern, dass Du halt viele Daten aus der echten Welt nimmst, wo Du halt auch weißt, sozusagen, wie Objekte miteinander interagieren und daraus die Sachen ableiten. Aber das ist sehr schwierig, weil diese Daten aus der echten Welt sammeln ist halt sehr viel Aufwand und Du hast auch nicht immer die Kausalität, weil Du halt nicht weißt, was wurde jetzt eigentlich gemacht oder was wäre, wenn ich in genau dieser Situation was anderes gemacht hab, weil Du oft halt immer nur eine Realität hast. Deswegen gibt's auch viele Ansätze, wo man eher mit simulierten Daten arbeitet, aber dann bist Du natürlich in diesem sogenannten Sim-to-Real-Gap, dass Du halt eine simulierte Umgebung hast, die aber nicht so wirklich der echten Welt entspricht und ist einfach noch ein sehr offenes Forschungsgebiet. Es gibt da jetzt nicht so den einen Ansatz, der der da gerade dominiert und bisher ist man da noch sozusagen eher am Anfang.
Christoph Magnussen:Wenn Du das vergleichst jetzt wiederum mit einem anderen Modelltyp, das was gelauncht wurde von der Company, die hinter Jeff steht und Diego, der vorher bei OpenAI war und quasi sagt, hey, wir bauen einen Modelltyp, der dazu da ist, bestimmte kleine Bausteine wie im Code zu verändern, auf das dich verlassen kannst, super günstig, alles aus synthetischen Daten. War ja ein Riesenhype die letzten Wochen. OpenAI hat, glaube ich, darauf reagiert mit der Decision API.
Dr. Rasmus Rothe:Ja. So.
Christoph Magnussen:Klar, das macht aus Engineering-Perspektive Sinn, Du kannst damit bauen. Siehst Du das als reales Feld oder ist das jetzt so ein Zwischenschritt, der nette Spielerei ist für für Developer?
Dr. Rasmus Rothe:Ich glaube, die Leute, ich glaube, es gibt halt viele neue Frontier-Labs, die alle versuchen halt unterschiedliche Akzente zu setzen. Ich glaube, dieses World-Model-Thema ist einfach riesig, weil das sozusagen Robotik ganz klar unlockt. Ja. Außerhalb dieser Weltmodelle gibt's halt sozusagen die einen, die eben diese eher diese Recursive Sachen machen, dass sie sagen, wir wollen Self Improving Systems bauen, weil das eigentlich der Unlock ist. Das ist so eine Schule.
Dr. Rasmus Rothe:Und die andere Schule ist halt zu sagen, das Problem ist, ich will eigentlich nicht Modelle haben, die viel Text generieren, sondern ich will Entscheidungen, ja. Menschen werden ja auch oft dafür bezahlt, nicht Sachen zu produzieren, sondern Sachen zu entscheiden und deswegen diese Decision Models ist dann wieder so ein anderer Strang, wo man sagt, das ist eigentlich das, wo der wirkliche Werttreiber ist. Und dann gibt's wieder andere, die sagen, okay, wir müssen eigentlich, wir sind irgendwie am Limit von den echten Daten, wir müssen mehr synthetische Daten trainieren. Eben diese andere Schule. Oft ist es auch eine Kombination von diesen Ansätzen.
Dr. Rasmus Rothe:Also ich glaub, teilweise ist auch, man muss ganz ehrlich sein, versuchen die Frontier-Labs natürlich auch irgendwie zu argumentieren, wieso sind sie jetzt anders als die großen, die halt unlimitiert Ressourcen haben? Und dann wird halt oft Akzent auf einen der Themen gesetzt. Ich glaub, das Spannende ist halt, dass OpenAI und Anthropic halt schon so eine krasse Consumer Brand sind. Also jeder, fast jeder auf der Straße kennt die und dadurch hast Du auch ein sehr schnelles Umsatzwachstum. Wohingegen jetzt bei den Robotic Use Cases bist Du ja eigentlich eher in einem B2B-Kontext, zumindest traditionell.
Dr. Rasmus Rothe:Deswegen gehen die aber auch alle auf Home Robotics, weil der große Use Case ist, wenn Du jedem Bürger auf der Welt irgendwie mehrere Roboter für zu Hause verkaufst, dann bist Du in einem Trillion Dollar Market. Aber sozusagen diese Industrie Use Cases sind also welche, die in der Regel langsamer skalieren und ich glaube einfach, dass in den nächsten zwölf Monaten wir für alles, was sozusagen eher so in diesem Language-Model-Bereich sieht, und das ist schon seit Jahren unseren View und das kommt jetzt ja auch immer mehr, dass es immer mehr Kommoditisierungen gibt und dadurch Alternativen und auch Kostendruck und das eigentlich auch auf der Cost to Serve eigentlich zu den Cost to Compute eigentlich konvergiert. Und dadurch natürlich wichtig ist, sehr viel Compute-Ressourcen jetzt aufzubauen, aber das wird, glaub ich, noch ein ziemlicher Preiskampf, was aus Konsumentensicht oder Businesssicht, glaub ich, an sich ganz gut ist. Und das wird sich immer mehr spalten. Man sieht das ja jetzt schon.
Dr. Rasmus Rothe:Du hast auf der einen Seite so diese Frontier-Modelle und klar, für manche Tasks wählst Du einfach das beste Modell, weil Du sagst, kostest, was wolle. Mhm. Der Return Investment ist so groß, der Return. Ja. Das Investment doesn't really matter, ja.
Dr. Rasmus Rothe:Und natürlich auch für diese Cyber Use Cases, aber für immer mehr Use Cases wird dann halt auch einfach ein CFO draufgucken und sagen, okay, wir schalten halt jetzt nur bestimmte Power-User-Modelle frei oder gibt gibt's noch begrenzt Tokens?
Christoph Magnussen:Da hab ich gelesen, dass jetzt momentan ein Trend dazu im Valley ist, dass einige Weinkeller umgebaut werden zu kleinen Rechenzentren zu Hause, dass einige der Start-up-Finanzierer ihren Start-ups Compute mit anbieten. Ich weiß nicht, wie es bei euch ist, ob ich hier auch Compute bekomme, wenn ich bei euch Entrepreneur in Residence bin. Aber Du hast es eben angesprochen, man braucht die Ressourcen. Du brauchst auch die Ressourcen, Open-Source-Modelle zu betreiben. Ich glaub, das ist ein bisschen ein Fehlblick an die Leute, die sagen, ja, dann lade ich mir da was aus China runter und lass es einfach selber auf dem Rechner laufen.
Christoph Magnussen:Also ich glaub, Du und ich haben beide ein MacBook Air. Wir sind ziemlich schnell am Limit, dass irgendwas lokal läuft. Wie schätzt Du das ein? Wie baust Du die Kompetenz auf jetzt als Mittelständler in Deutschland, der sagt, okay, cool, verstanden. Wir setzen uns ran an die Frontier-Modelle, verstehen wir und wir wollen jemanden inhouse haben, der sich damit auskennt, ein Modell auszuwählen, ein Modell zu implementieren, die Hardware zu kaufen.
Christoph Magnussen:Kommt man überhaupt ran? Kriegst Du die Ressourcen? Wie teuer ist das? Was ist dein Blick darauf?
Dr. Rasmus Rothe:Ja, ich glaube, ich glaube, es ist erst mal es ist erst mal natürlich, also der erste Schritt ist, überhaupt mal die Sachen einmal anzuwenden, ja und zu nutzen. Dann ist, glaube ich, die zweite Frage sozusagen, wie kriegst Du das Ganze sovereign und wie wichtig ist dir das? Und ich glaube, es ist schon natürlich eine, gerade wenn Du in kritischen Industrien bist oder eben sagst, Du willst halt auch nicht abhängig sein von einzelnen amerikanischen Firmen, die Möglichkeit zu haben, halt die Datenhoheit und die Modellhoheit auch zu haben und auch einfach sozusagen die Sicherheit, dass nicht jemand einem das System abschalten kann.
Christoph Magnussen:Du willst lokal betreiben, aber Du willst auch wenn Du sagst souverän, dass es hier trainiert wurde oder ist das egal?
Dr. Rasmus Rothe:Ich glaube, ich glaube, also ich glaube, ich glaube, Souveränität ist nicht so binär. Das wird immer oft so binär formuliert, dass man sagt, entweder wir sind souverän oder nicht. Ich mein, egal ob wir die Modelle hier hosten und hier Inference machen, wir kaufen immer noch Chips von Nvidia, ja und die sind halt immer noch irgendwie eine amerikanische Firma und da gibt's dann irgendwie Taiwan und dann die Holländer und so weiter.
Christoph Magnussen:Wir haben auch gerade einen Kampfjet gekauft von den Amerikanern. Genau. Ich gehe davon aus, der hat auch Codes oder so.
Dr. Rasmus Rothe:Supply, also ich glaub sozusagen, dass die dass die Supply Chain komplett europäisch wird. Glaub, da sind wir relativ weit noch von entfernt. Souveränität heißt aber auch, dass wir in der Lage sind, dass halt keiner von außen einfach unsere Systeme abschalten kann. Und von daher, glaube ich, ist schon mal ein erster guter Schritt zu sagen, wir hosten die Daten hier bei uns in Europa, bei einem europäischen Provider entweder in der Cloud oder On Prem und wir haben ein Modell Open Source in der Cloud oder On Prem hier in Europa deployed, wo wir selber das auswählen können, wo wir selber das abschalten können. Ja.
Dr. Rasmus Rothe:Und wo wo auch kein anderer von außen draufzugreifen kann. Ich glaub, das führt halt schon, ich sag mal, zu 80 Prozent der Souveränität, was eigentlich auch heute schon relativ gut erreichbar ist. Und was man sich sicher überlegen muss, gerade wenn man in kritischeren Industrien ist. Ich glaube aber, teils wird diese Frage beantwortet vor der Adoption-Frage. Also oft habe ich auch das Gefühl, die Leute schieben diese Souveränitätsfrage vorneweg und sagen, ja, wir können das ja nur nutzen, wenn wir irgendwie souverän sind.
Dr. Rasmus Rothe:Und ich glaub, das ist halt oft einfach nur eine faule Ausrede, weil man irgendwie sich eigentlich eingestehen muss, dass man Thema KI-Adoption nicht so weit wird. Also ich würde lieber den anderen Weg gehen und sagen, lass uns doch jetzt erst mal KI überall einsetzen, probieren, lernen, den Mehrwert sehen und dann gucken, wie können wir von dem Stack mehr oder mehr halt souverän irgendwie hosten als halt sozusagen, weil weil das ist halt eher die amerikanische Art und Weise, oder? Die sagen, okay, klar, die haben auch alles, die haben das Souveränitätsproblem nicht, aber die sagen, okay, was ist der ROI? Lass uns erst mal den Business-ROI machen und dann können wir gucken, wie wir das Ganze irgendwie robust umsetzen. Und in unserem Fall robust umsetzen heißt es, souverän umzumachen, aber das ist für mich eigentlich eher der zweite Schritt, weil wenn wir den die Adoption nicht hinkriegen, brauchen wir auch nicht über Souveränität reden. Und Souveränität bekommen wir auch nicht, wenn wir die Adoption nicht vorantreiben, weil wenn die Kunden hier nicht adopten, dann gibt's auch keinen Umsatz für diejenigen, denen hier die souveränen KI-Lösungen bauen. Das heißt, wir müssen eigentlich erst mal diese diese Nachfrage kreieren, dann wird's hier auch mehr souveräne Lösungen geben und dann können wir auch gucken, dass wir irgendwie mehr hier hosten. Ich glaub, dieses Narrativ muss sich einfach krass drehen und da bin ich auch mittlerweile leid, wenn die Leute das als Ausrede irgendwie vorne wegschieben.
Christoph Magnussen:Das find ich ganz gut. Das das gefällt mir. Und es ist halt eben auch nicht einfach, ne. So ein lokales Modell zu betreiben ist halt dann noch mal, was Du ja auch meintest, aufwendig. Also wir hatten jetzt einen dabei, der hat sich zwei GPUs gekauft, die sind ja auch nicht ganz günstig.
Christoph Magnussen:Da bist Du ja auch dann mal mehr als 100.000 Euro los im Zweifelsfall. Dann musst Du da sicherstellen, jemand haben, der die überhaupt mal scharf schalten kann, anschalten kann, sauber betreiben kann. Ich glaub, so eine GPU kannst Du nicht auch einfach Strom an aus, sondern die müssen relativ stabil laufen. Was mich zur Frage bringt, ja, souverän betreiben und jetzt der Scale, den es gibt momentan in USA, was die Rechenzentren betrifft, die Du hast, noch größere Sachen zu trainieren. Vermutlich nicht nur für Large Language Model, sondern ich geh mal davon aus, Yann LeCun braucht auch was fürs World Model oder kannst Du da mit kleineren Clustern arbeiten und wo kommen die her?
Dr. Rasmus Rothe:Also oft ist, man muss, glaube ich, sehr stark differenzieren. Auf der Trainingsseite hilft's natürlich schon, alles sozusagen an einer Location zu trainieren. Und und ich mein, da gibt's ein paar wenige, die halt viele Milliarden dafür ausgeben, diese großen Modelle zu trainieren. Ich glaube aber, dass mittelfristig immer mehr sozusagen GPU-Compute auch auf die Inferenzseite wechselt, ja, weil Auf das Betreiben
Christoph Magnussen:des Betreiben des Modells, genau. Antwort kommt.
Dr. Rasmus Rothe:Und und und und weil weil da ist ja der Mehrwert, ja. Wenn Du ein Modell trainierst, damit verdienst Du erst mal kein Geld, sondern es verdienst halt dann Geld, wenn Leute das Modell nutzen. Und und die Nutzung steigt ja, glaube ich, verdoppelt sich gerade alle drei Monate oder so. Also es ist wahnsinnig, wie schnell sozusagen die Token Usage hochgeht global. Und das heißt, für diese Inferenz Data Centers, für diese Workload, da glaube ich, hast Du schon noch mal andere Optimierungsfaktoren, weil Du da eben auch sagen kannst, okay, für manche Sachen willst Du die nahe beim Kunden, weil Low Latency.
Dr. Rasmus Rothe:Wenn Du irgendwie, weiß nicht, Social-Media-Videos guckst, dann muss der Algorithmus relativ schnell entscheiden, was er dir als Nächstes zeigt, sonst wirst Du nervös. Zumindest die Generation TikTok so. Das ist das eine so, da das heißt, da musst Du schon erst mal nah beim Kunden sein. Und da willst Du natürlich auch, kannst Du vielleicht auch sehr dezentral unterwegs sein, weil das sehen wir auch in Deutschland, da gibt's auch einige Ansätze, dass halt das Hauptbottleneck ja ist, dass wir unseren Netzausbau hier nicht hingekriegt haben und nicht hinkriegen und das alles viel zu lange braucht. Das heißt, das ist von den GPUs, ist auch nicht einfach zu beschaffen alles und die neuesten Modelle und so weiter oder die neuesten GPUs, aber das GPU-Thema ist fast weniger im Bottleneck mittlerweile als halt diese großen stabilen Stromanschlüsse in die Genehmigung zu kriegen.
Dr. Rasmus Rothe:Und da ist dann eben schon auf der Inferenzseite ein Thema, dass Du sagst, okay, vielleicht machen wir das Ganze dezentraler. Also weil wir haben ja sozusagen dezentral schon keinen Energie-Bottleneck. Wir haben wir können's noch nicht richtig verteilen und da gibt's halt immer mehr so Containerlösungen oder das Extreme ist, was Du gesagt hast, Du tust dir das in einen eigenen Weinkeller, wo Du halt sagst, Du hast eigentlich dezentral Compute Load und baust dir ja vielleicht auch, schaltest dich vielleicht auch in einem Netzwerk zusammen, dass da, wo grade irgendwie Renewables Energie ist, halt dann das Compute läuft und Du so eigentlich viel viel dezentraler Compute and Intelligence Infrastructure hinbekommst. Und ich glaub, da wird's immer mehr hingehen, weil diese großen Data Centers, die haben natürlich gewisse Economies of Scale, aber wenn Du die halt dann eben nicht schnell genug bauen kannst, kann so eine Lösung vielleicht viel besser sein. Vielleicht haben wir dann irgendwann alle sozusagen kleine Compute-Cluster da, wo wir halt irgendwie Energie lokal produzieren und feeden das halt gar nicht mehr ins Netz rein, sondern nutzen das selber, irgendwie GPU-Load ans Netz zu schalten. Das kann gut in die Richtung gehen. Ja. Trotzdem beim beim großen Training werden natürlich grad immer immer größere Data Center gebaut, aber da muss man auch realistisch sein.
Dr. Rasmus Rothe:Es gibt halt nicht so viele in Deutschland und Europa, die wirklich Modelle in dieser Scale trainieren, ja. Das sind wahrscheinlich eine Handvoll Firmen und von daher spielt sich bei dem Thema halt schon viel in den USA ab. Ehrlich gesagt, auch vieles, was hier in den Europa grad gebaut wird, wird halt für amerikanische Hyperscaler gebaut, weil die halt hier ihre Kunden hier serven wollen und natürlich schon merken, sie müssen hier am Kunden sein, weil Inference, aber auch weil irgendwie Sovereignty und dann dann dann dann dann setzen sie die Data Center halt hier hin.
Christoph Magnussen:Wenn dann so jemand wie Andrej Karpathy, das ist ja jetzt in den drei Jahren passiert, plötzlich für mich überraschend zu Anthropic geht, der ja OpenAI auch mitgegründet hat, auch der KI-Chef von Tesla war. Sie hat irgendwie alle auch Top-KI-Firmen so miterlebt oder viele, übertrieben, aber viele wichtige Punkte miterlebt, war einer der ganz Frühen, die Du mir mal genannt hast, wo Du meintest, hier guck dir mal an, hier Karpathy und so weiter, der zu Anthropic ins Pre-Training gegangen ist. In eine Firma, wo die die ja ein bisschen verschätzt hat, wie viel Compute sie brauchen, die ja jetzt, glaube ich, von Google mit Compute nutzen, von SpaceX Compute nutzen, von AWS und von Microsoft, ich glaube Azure benutzen sie auch. Also wirklich mehr Abhängigkeit von überall geht ja auch nicht. Der aber sagt, es gibt eine Wildcard, was das Modell betrifft, die Modellqualität.
Christoph Magnussen:Und Pre-Training ist ja nur noch eine Phase, wo man das mitbestimmt. Warum passiert so was? Was ist das für eine Wette, daran mal zu verstehen, dass das Spiel auf der einen Seite, wie Du sagst, natürlich getrieben wird mit Inference, wie providest Du ein Produkt? Wie stellst Du sicher, dass das Produkt läuft, dass es gut ist? Und dann aber jemand so Wetten eingeht.
Christoph Magnussen:Ähnlich wie eine Wette wie Yann LeCun in einem anderen Bereich, aber Karpathy ist ja sehr nah dran an dem, was da grade passiert.
Dr. Rasmus Rothe:Das ist halt, also das das, also es wird ja jetzt in der Presse immer darüber geschrieben, sozusagen kommt ein neues Modell raus und dann ist irgendwie vergleicht man die mit das gebenchmarkt und dann ist das irgendwie eine coole Story. Was, glaube ich, oft vergessen wird, ist, wie brutal das in diesen Labs zugeht, weil die Halbwertszeit dieser Modelle ist ja superkurz. Also ich meine, Du musst ja, wenn Du heute ein Modell rauskommst, im Zweifel ist das in einem Monat wieder alt und dann gehen die Leute entweder, sind sie nicht mehr bereit für das neueste Modell zu zahlen oder wechseln zum anderen Provider oder oder ein anderes Team, bei dir intern hat ein neueres Modell rausgebracht. Heißt, wenn ich wenn ich jetzt heute irgendwie eine Milliarde investiere, muss ich den Return of Investment nicht über die nächsten fünf Jahre haben. Ja, das kann ich bei den GPUs argumentieren, weil die sind vielleicht in fünf Jahren nicht mehr nutzbar, aber ich muss in mehr wenigen Monaten eigentlich diesen Payback haben von diesem Training.
Dr. Rasmus Rothe:Das heißt, jeder Tag, den ich das Modell früher releasen kann, ist sehr, sehr viel Geld wert. Gibt mir im Zweifel auch eine große Chance, dass ich mein Geld recovern kann. Aber auch jede Wette, die ich eingehe, gerade weil ich halt so viel Geld auch beim Pre-Training generell im Trainingsprozess eingebe und also ausgeben muss und ja gar nicht weiß am Anfang, ob jetzt die neuen Techniken, die ich ausprobiere, halt wirklich funktionieren, sind das riesige Investmententscheidungen unter enormem Zeitdruck, wo oft eben auf verschiedene Ansätze parallel ausprobiert wird, wo jeder Tag zählt und wo jeder Tag halt auch nicht nur 50.000 Euro wert ist, sondern teils zehn, 50 Millionen. So, das heißt, dieser Druck in diesen Labs und auch deswegen wird er ja auch gerade sehr hart gearbeitet, deswegen wird auch sehr gut bezahlt und natürlich bei zwei Trillion Market Cap kannst Du auch ein bisschen Stock rausgeben so. Das heißt, das ist dann schon attraktiv, aber es ist halt es ist halt schon ein ziemlicher Druck und und und und da muss man, da bin ich dann auch wieder bei den Chinesen.
Dr. Rasmus Rothe:Die Chinesen treiben die Amis halt grade wahnsinnig vor sich her, weil die einfach die Sachen dann alles Open Source, Open Weight rausgeben und sagen, ja okay, sind vielleicht noch nicht genauso gut wie ihr, aber wir sind relativ nah dran und und das sieht man auch, wenn man sich die Token Usage anguckt über OpenRouter und so, gibt der Abstand zwischen Nutzung von amerikanischen zu chinesischen Modellen wird immer kleiner und grade auch im Valley nutzen's auch viele chinesische Modelle, weil auch viele Start-ups sagen, ist halt viel günstiger, ja.
Dr. Rasmus Rothe:Und wenn ich das Gleiche den Kunden charge und weniger nehmen kann, ist das attraktiver. Und so von daher ist es schon ist das schon sehr, sehr wichtig, wenn Du halt so Leute wie Andrej Karpathy irgendwie in deinen Lab kriegst, weil wenn der da eine Wette richtig eingeht, kann das viele hundert Millionen vielleicht auch im Milliardenbereich bringen. Und wenn er da ein, zwei gute Tricks im im Pre-Training irgendwie anwendet, dann dann ist geht's da sehr, sehr viele Zahlen, auch wenn das vielleicht nur kleine kleine Intuitionen Veränderungen sind. Ich sag mal grade natürlich, diese Koryphäen sind an der Front, was was so technisch die nächsten Schritte sind. Und gleichzeitig sind die auch am Level, dass selbst innerhalb von Anthropic ein großer Teil des Codes mittlerweile automatisiert geschrieben wird.
Dr. Rasmus Rothe:Also die werden auch gerade so ein bisschen überholt in dem, was sie machen.
Christoph Magnussen:Ja, krass. Okay, aber das genau das hatte ich mir erhofft, dass Du da einmal so ein bisschen Klarheit reinbringst, weil es ist trotzdem immer wieder interessant und ich muss sagen, ich hab selber unterschätzt und unterschätzt immer wieder, wie viel an Leistung dann ins Modell verlagert wird. Also weißt Du, guck mal, vor drei Jahren, da konntest Du kein Bild generieren aus einem Textmodell raus, logisch nicht, geschweige denn Video. Mittlerweile kannst Du also jetzt seit letzter Woche Opus 5.5 sagen, mach daraus ein Video und das Ding baut, ohne dass es einen Skill hat, selber ein Video. Das heißt, die Intelligenz des Modells zapfst Du dann am besten an, indem Du sagst, ich gebe dir nur noch das Ziel vor und dann figure out the rest und lässt es einfach.
Christoph Magnussen:Und das ist schon auch eine sehr andere Art von Arbeit. Und das bringt mich zu der Frage und die, da hab ich keine Antwort drauf, da interessiert mich aber der Take drauf. Was passiert, wenn Du durch auch neuartige Modelle plötzlich es nicht mehr mit Biestern zu tun hast, die einfach nur Sachen effizienter machen und die Abläufe automatisieren und alles cool, sondern Du einfach Dinge tust, die vorher gar nicht machbar waren und plötzlich merkst, hey, ich gebe für den Token so viel Euro aus und ich bekomm daraus aber so viel Value. Also wenn plötzlich Sachen möglich sind, die gar nicht möglich waren, wie zum Beispiel erst mal jetzt krasse Forschungsprobleme wurden gelöst, aber das sind ja bestimmte Teilbereiche und wir einfach noch nicht sehen können, dass wir es mit einer anderen Art von Compute zu tun haben, die genauso wie der Computer selber damals, als er kam, für einen ganz anderen Hebel gesorgt haben. Wir gucken, mein mein Gefühl ist, wir gucken manchmal ein bisschen drauf, wie das ist wie beim Internet, als es eingeführt wurde oder wie bei Social Media oder Mobile, was alles Communication Revolutions waren.
Christoph Magnussen:Aber Compute ist ja eine andere Größenordnung. Und diese Wildcard finde ich spannend.
Dr. Rasmus Rothe:Ja, ich glaube, wir können uns halt noch nicht vorstellen, wie wie komplex die Tasks sein können, die diese Agenten ausführen können, weil und ich glaube, es gibt da kein Limit nach oben. Also ich glaube, wenn man halt sagt, die die Task-Länge, es verdoppelt sich alle drei Monate quasi, wie lange, wie komplexer menschlicher Task dieser Agent ausführen kann. Weiß nicht, ob das sich in drei Jahren immer noch verdoppeln wird alle drei Monate, aber es wird sicher weiter hochgehen und das heißt, es ist schon schwierig für mich vorzustellen, sich Aufgaben vorzustellen, wo die KI nicht einen besseren Job macht. Ich ich sehe eigentlich keine keine Möglichkeit, dass es nicht bei bei jeglichen Tasks sozusagen eine KI gibt, die das halt besser macht. Das nur eine Frage der Zeit, aber sag mal alles, was zumindest damit zu tun hat, Daten zu prozessieren, Sachen im Internet zu machen, Sachen auf dem Computer zu machen, Daten zu also wieder auszugeben.
Christoph Magnussen:Das geht ja jetzt schon an.
Dr. Rasmus Rothe:Genau und das aber halt für beliebig komplexe Tasks. So, das heißt, Du kannst und wir können das jetzt halt von von A bis Z spielen, ja? Du kannst jetzt sagen, Du hast keine Ahnung, eine, Du zum Beispiel eine Financial, Du willst eine Firma kaufen, ja? Oder irgendwie machst eine machst eine M&A-Transaktion, so.
Dr. Rasmus Rothe:Am Anfang hat man halt irgendwie das Modell genutzt und so ein bisschen Fragen gestellt zur Firma und zu irgendwelchen Reports und irgendwelchen Due-Diligence-Unterlagen, mittlerweile kannst Du halt komplett den Datenraum da reinschmeißen und der macht dir eine komplette Financial Legal Due Diligence. Im Prinzip kann die ganzen Verträge kann er jetzt schon draften, kann eigentlich auch da mit der Gegenpartei verhandeln. So, das heißt, jetzt muss ja jemand das eigentlich nur zusammenstecken, weil die Module gehen ja schon und sagen, ja, okay, warum kannst Du nicht den kompletten Unternehmenskauf komplett end to end automatisieren? Gibt keinen Grund und dann kannst Du halt irgendwie als CEO hingehen und sagen, okay, ich will jetzt hier ein Target kaufen, mach mir das mal end to end, ja. Dann hast Du halt einen Agenten, der einen kompletten M&A-Prozess zum Beispiel automatisiert, wenn Du das einmal vorstellst.
Dr. Rasmus Rothe:Oder Du hast halt in der Steuerberatung, ja, hast da eine komplette Steuererklärung und eben auch diese Kommunikation mit dem mit der mit der mit mit der Steuerbehörde und so hast das komplett automatisiert. Weißt aber, das Thema ist off your table, ja? Du musst nie wieder in irgendwelche Steuerunterlagen reingucken, weil Du weißt einfach, es gibt einen Agenten, der takes care of it, ja. Und so kannst Du eigentlich für jeden Lebensbereich eigentlich sagen, okay, ich hab ich hab ich hab halt eine Lösung, die mir das Thema halt End to End löst, weil Du dann eben halt auch über über Internet ja eben und durch Kommunikation und dann selbst, wenn auf der anderen Seite noch ein Mensch sitzt, über Voice halt eigentlich den Prozess beliebig zu end to end automatisieren kannst. Und ich glaub, da sind wir nicht mehr so weit von weg.
Dr. Rasmus Rothe:Ich glaub, da sind wir noch ein bisschen, fehlen noch ein bisschen auf der Adoption-Seite und die Leute sind noch ein bisschen vorsichtig und klar machen die Systeme noch Fehler und deswegen stückelt man die Tasks so ein bisschen und guckt zwischendurch noch mal, was wurde da jetzt produziert, aber das werden wir relativ zeitnah sein und ich glaube, das wird halt noch weitere Berufsgruppen ändern, weil wir halt, wir sind ja gestartet irgendwie sozusagen, der Mensch nutzt ein bisschen KI, irgendwie conversationally Input zu kriegen. Jetzt ist der Mensch, jetzt sind wir gerade an dem Punkt, dass irgendwie Menschen KI-Agenten losschicken, aber ich glaube, wir werden bald das halt in vielen Bereichen switchen, dass wir eigentlich sagen, der KI-Agent macht die komplette Aufgabe und end to end und gibt vielleicht noch einzelne Sachen, weil er vielleicht das Thema Robotik noch nicht gelöst hat, dass halt irgendein Mensch noch den finalen Vertrag aus dem Drucker nehmen muss und in den in den Briefkasten schmeißen muss. Ja, da braucht der die KI noch den Mensch, aber dass eigentlich der Agent den kompletten Workflow ownt und dann nur noch selektiv den Menschen einbindet. Ich glaub, da werden wir mittelfristig hinkommen und das wird halt einen wahnsinnigen Produktivitätshebel irgendwie heben, aber natürlich auch einiges im Jobmarkt umrödeln.
Christoph Magnussen:Wenn jetzt jemand sagt, ich hab einen Agenten losgeschickt, der lief drei Tage, hat 7.000 Euro in Tokens verballert, das ist in drei Tagen absolut machbar und ich habe ihm einfach nur gesagt, er soll irgendwie Umsatz generieren und es kamen nur zwei Dollar raus. Wo wo hat derjenige den Fehler gemacht und was hätte man korrigieren können? Weil Du bist ja im, wenn Du nur noch das Ziel vorgibst, denkt man so, das ist ja total einfach, ist es ja aber nicht.
Dr. Rasmus Rothe:Ja gut, glaube, die Frage ist halt, je besser die KI-Modelle werden, desto komplexere Ziele kannst Du vorgeben. Also ich mein, vor vor drei Jahren konntest Du halt ein simples Ziel vorgeben und das war trotzdem falsch. Jetzt kannst Du halt für einfache Sachen machen wir irgendeine Recherche zu irgendeinem Thema, fass mir das irgendwie zusammen und update irgendwelche Sachen in meine internen Systeme und schreibe irgendwie Dokumente und meinetwegen auch ruf irgendwo an, kannst Du mittlerweile schon machen, ja. Das sind halt schon wieder komplexere Aufgaben, wo Du auch nur das Ziel vorgibst, so.
Dr. Rasmus Rothe:Wenn Du jetzt wenn Du jetzt halt so weit gehst und sagst, so, geht einfach nur darum, Geld zu verdienen, ist es ja schon eine komplexe Aufgabe, die sehr viele Schritte umfasst, weil es wahrscheinlich keinen Quickway gibt, vor allem, wenn Du sagst, Du hast auch noch ein gewisses Alignment, willst jetzt nicht irgendwie illegal gehen. Das heißt, da musst Du dann schon noch Zwischenschritte einbauen, dass Du halt vielleicht auch erst sagst, okay, machen wir erst mal einen Plan und dann segnest Du den noch einmal ab und sagst, okay, jetzt geh geh los oder mach mir zehn Pläne, wie Du jetzt Geld verdienen würdest und dann dafür brauchst Du wahrscheinlich keine 7.000 Euro Tokens und dann sagt man ja okay, dann nehmen wir jetzt Plan drei und sieben, probieren die aus und dann schauen wir weiter. Aber das ist nur eine Frage der Zeit.
Christoph Magnussen:Ja. Welche Fähigkeit würdest Du dann Kindern noch beibringen oder mit von Mitarbeitern wollen, dass sie das können, ne? Weil ich seh also ich seh ja auch, was Du sagst. Ich beobachte das auch. Also viele Sachen, die wir intern testen, machen, gehen in die Richtung, ne.
Christoph Magnussen:Also Du hast ja, Du kennst ja Leute aus dem Team auch bei uns und wir haben ein paar dabei, die machen diese Agent-Experimente, wo Du sagst, okay, machen das jetzt mal End to End oder lassen eben zwei Agents auch miteinander reden und das kommunizieren. Wir erleben dabei auch immer mal wieder das Typische, was Menschen auch machen. Die bauen sich selber Bürokratie. Der eine sagt, ach ja, okay, dann gucken wir mal und so. Das liegt natürlich am Training, weil die ja dazu gebaut wurden, eher zu kooperieren statt Competition oder auch mal eine harte Entscheidung zu treffen.
Christoph Magnussen:Was würdest Du sagen, sind Fähigkeiten, die Du unbedingt schärfen würdest, die jetzt viele Menschen vielleicht noch nicht haben, selber so was zu steuern?
Dr. Rasmus Rothe:Ich glaube, die Frage ist halt sozusagen, also es gibt, glaube ich, zwei Ebenen. Ich glaube, das eine ist schon sich mit thematisch, also sich mit diesem Thema zu beschäftigen, das heißt auch relativ früh halt eben genau zu dieser Gruppe zu gehören, die KI-Agenten auch am Limit nutzen für das, was möglich ist und ein sehr gutes Gefühl dafür entwickeln und und sozusagen alle Arbeitsschritte AI-first denken. Und ich glaub, das ist schon auch was, was man im Studium an den richtigen Unis oder auch vielleicht irgendwann in der Schule halt lernen kann und sollte. Ich glaub, das Zweite ist halt die Frage sozusagen, wenn diese Agenten quasi perfekt werden, was bleibt denn eigentlich noch übrig?
Dr. Rasmus Rothe:Ja. Und da kommt man dann halt, glaube immer wieder dahin zurück, dass eigentlich viele dieser klassischen Soft Skills eigentlich eher wichtig sind, also im Sinne von Kommunikation, Leadership, mit Menschen Vertrauen aufzubauen, eben da vielleicht auch, wo irgendwie noch zwei Menschen miteinander dazu zu ecken, in der Lage zu sein, zu verhandeln, sich zu einigen. Weil den Teil wird's noch gehen, aber ich glaub, dieser dieser ganze Knowledge Work und Execution-Teil, der ist halt gelöst. Das ist jetzt nur noch eine Frage der Zeit. Und das wird natürlich jetzt auch gerade gut, jetzt gehen die Babyboomer alle in Rente.
Dr. Rasmus Rothe:Das hat jetzt gerade noch mal nicht so einen Impact auf den Arbeitsmarkt, aber ich glaube, es wird schon auch auf dem Arbeitsmarkt dazu führen, dass Firmen einfach viel, viel kleiner sein. Also wir sehen das auch in unserem Portfolio. Ich mein, wir haben Firmen, die teils wirklich Enterprise-Grade-Produkte mit wenigen Entwicklern und kleinen Teams bauen, wo Du früher zehnmal so viele Leute gebraucht hättest, ja. Und das das wirst Du halt in vielen Berufsgruppen sehen und dann ist halt dann wird's schon spannend, wie wir wie wir's eigentlich schaffen. Also vielleicht wird's dann einfach mehr Firmen geben und wir werden als Gesellschaft overall mehr produktiv.
Christoph Magnussen:Mhm.
Dr. Rasmus Rothe:Aber ich glaube, solange man eben sozusagen mit den Agenten arbeiten kann und ich glaub, diesen menschlichen Leadership-Teil gut kann, ich glaub, dann ist man gut aufgestellt. Ich glaub, das das Beste, was wir tun können.
Christoph Magnussen:Ja, ich hatte mit Richard im Podcast mal dieses Bild der Fabrik, die musst Du erst mal umbauen, quasi die Effizienz der Maschine zu benutzen. Aber das, was Du grade beschreibst, ist natürlich halt noch mal, wenn Du halt noch nie so was gesehen hast oder siehst, wie gut das funktionieren kann, dann ist es auch schwer vorzustellen, ne. Aber viele Leute wollen ja, die überlegen ja, ja, dann machen wir den Ablauf so und so und so, anstatt zu sagen, okay, hier ist das Ziel und ich beobachte mal, wie das System das löst. Weil Du hattest es vorhin erwähnt, Du kommst ja manchmal gar nicht darauf, gerade wenn es jetzt krasse mathematische Probleme sind oder krasse Aufgaben sind, dass Du über einen anderen Lösungsweg hinkommst. Und Du hast damals auch den die Doku von AlphaGo, ne, hier von Google empfohlen.
Christoph Magnussen:DeepMind, wo es wo der wo der Go-Spieler Lee Sedol geschlagen wurde und bei diesem Zug 37, der nirgendwo dokumentiert war und so weiter, die KI eben auf die Idee kam. Entweder durch Testen, durch Ausprobieren, durch whatsoever. Und das ist das ist so, das merke ich immer wieder, das ist so ein Raum, der der mich echt interessiert, wo ich denke so, okay, was übersehen wir grade, wo ist die Wildcard? Du hast jetzt von den Chinesen ein paar Mal gesprochen.
Dr. Rasmus Rothe:Genau, vielleicht ganz kurz noch zu diesem Punkt. Ich glaube, wir wir denken halt oft sozusagen davon, wie führen wir aktuell dieses Thema aus, ja? Wie wie wie können wir Menschen Geld verdienen oder wie können wir einen Kunden closen? Und dann gucken wir uns die sieben Prozessschritte an und gucken halt, wie wir bei jedem KI ein einsetzen. Ich glaub, das ist halt eine sehr inkrementelle Denke und ich glaube, man muss sehr umgekehrt denken und so denken ja auch die AI-Firmen und sagen, okay, das ist mein Ziel und meine Default-Antwort sollte jetzt erst mal sein, okay, will, dass die AI mein Ziel erreicht, so.
Dr. Rasmus Rothe:Dann kann ich jetzt mir mein agentisches System angucken, wie gut das heute ist und denke, okay, das ganze Ziel schafft's vielleicht noch nicht, vielleicht in manchen Bereichen schon, aber wie kann ich dieses Problem jetzt vielleicht in zwei Teilprobleme unterbrechen, dass ich eigentlich nur noch einmal an einer Stelle mittendrin reingucken kann, dass ich irgendwie kontrollieren kann, dass der erste Teil richtig gemacht wurde und und und das System dann auch vielleicht den zweiten Teil gut machen kann. Und ich glaub, wenn man sozusagen eher so von der von dem Ziel her denkt, dann unterteilt man die Aufgabe vielleicht auch ganz anders, weil man sagt, okay, es gibt einen großen Teil. Ich muss eigentlich, wenn ich sage, mein Ziel ist Kunden gewinnen, ich muss eigentlich das Einzige, was ich noch machen muss, ist irgendwie vielleicht ans Telefon zu gehen und das muss ich vielleicht auch noch nicht beim ersten Call, im zweiten Call. Also ich brauch mich vielleicht noch im zweiten Call, aber die KI muss mir eigentlich alles vorher machen.
Dr. Rasmus Rothe:Die muss halt die ganzen Daten rausziehen, überlegen, wen sie anschreibt, muss die ganzen Calls aufsetzen, muss die ersten Telefonate führen und muss mich eigentlich nur noch sozusagen dazuholen, wenn mir jemand wirklich interessiert ist. So so würde ich das halt vom Ende denken, anstatt zu überlegen, okay, wie wie denke ich jetzt in einzelnen Schritten, wie ich mein CRM Analyse, wie ich Calls, wie denke ich jetzt jeden Schritt einzeln, wie ich den automatisiere? Und ich glaube, so kann man über viele Business-Prozesse nachdenken und dann merkt man, dass man doch eben schon mehr automatisieren kann, als man will und und bisher macht.
Christoph Magnussen:Und ich glaube, das ist Adoption, also das trauen sich wenige, weil ich mach jetzt mal, ich versuch das jetzt mal in die Tat umzusetzen, in Gedanken. Du nimmst eine, sagen wir mal, Du nimmst deine Daten aus dem CRM-Tool, die da ewig rumliegen, nie richtig angereichert wurden, weil keiner die sauber pflegt, keiner trägt's ein, schreibt eure Gesprächsberichte in Salesforce und so weiter, macht keiner so. Dann nimmst Du den Konnektoren zu Mail und so weiter. Dann nimmst Du deine Rechnungsdaten. Und anstatt eben zu sagen, wir überlegen jetzt mal, wie wir diesen Prozess mit KI machen, wäre dann die Aufgabe zu sagen, pass mal auf, nehmen wir mal ein mächtiges Modell, Opus 5.5.
Christoph Magnussen:Hier Opus, Goal. Das sind unsere Kundendaten. Wir haben keine saubere Datenbank. Ja, hier sind die Access Points zu den möglichen Datenbank-Providern. Du hast ein Budget von und mein Ziel ist einfach nur, ich will jeden Tag drei Kunden anrufen, ich sag dir, was mit denen war, berichte und Du entscheidest, was wir mit denen machen.
Christoph Magnussen:Und der muss alles entscheiden, ob er eine Automation einbaut und so weiter. Meinst Du, so was würde heute schon gehen?
Dr. Rasmus Rothe:Ich glaube, da gibt's wahrscheinlich noch ein paar Punkte unterwegs, wo's bisschen buggy ist und es ist natürlich hilfreich, wenn Du halt Call Logs hast von allen Calls und die Daten ein bisschen angereichert wird. Also oft ist eben das Problem eher dieses Mittelstands, ich hab die Daten nicht sauber, aber ich bin schon oft überrascht, wenn ich halt in so ähnlichen Prozessen das halt auch automatisiere, dass ja, da muss ich halt noch einmal Feedback geben und bei bestimmten Kunden sage ich, ja, jetzt lieber vielleicht doch nicht rangehen, aber ein Großteil davon funktioniert schon relativ gut.
Christoph Magnussen:Mhm. Aber ich glaub, das Schwerste ist tatsächlich, ne, Du hast es gut beschrieben, dieses Umdrehen im Denken. Es ist 180 Grad umgekehrt. Also Du gibst wirklich und ich frag mich, kommt das aus dem Research, dass man das so macht? Ja, durch die Trainingsvorgehensweise, dass Du dem Modell was vorgibst, weil dem Modell sagst Du ja nicht, mach jetzt Schritt so und Schritt so.
Dr. Rasmus Rothe:Ja, ich glaube, das Problem ist, wir denken über die KI oder die Nutzung der KI oft so drüber nach, wie wie wir bisher mit dem Computer gearbeitet haben, dass wir halt so Schritt für Schritt irgendwelche in irgendwelchen Softwares durchklicken, irgendwelche Daten von A nach B kopieren und jetzt versuchen wir KI sozusagen am Computer zu nutzen, das irgendwie ein bisschen effizienter zu machen. Aber wir sollten halt eher darüber nachdenken, wie mit einem menschlichen Mitarbeiter. Dem sagen wir ja auch nicht jetzt jeden der 17 Schritte, wie wir das Problem lösen sollen, sondern durch ein gutes Leadership sagst Du, okay, das ist hier unser Ziel, let's get there. Ja.
Dr. Rasmus Rothe:Und und und dann setzt sich der Mitarbeiter ein paar Stunden hin und arbeitet es aus und findet eine Lösung. Wenn er halt eine Rückfrage hat, kommt er noch mal wieder zurück, aber er ist eigentlich eigenständig. Also Du würdest ja auch nicht einem Mitarbeiter, außer dass jetzt irgendwie der Praktikant, der gestern angefangen hat, irgendwie jede zehn Minuten sagen, was ist genau jeder kleine Arbeitsschritt? Aber so arbeiten wir am Computer und deswegen denken wir auch, so müssen wir mit einer KI arbeiten, aber das ist eigentlich das das das falsche Paradigma. Von daher ist so dieses Leadership von Agents eigentlich schon auch was, was wir lernen müssen und was natürlich die nächste Generation, zum Ausbildungsthema zurückzukommen, vielleicht noch mal viel nativer lernt, weil wir uns da grad so ein bisschen umorientieren müssen halt, wie wir eigentlich mit dem Computer interagieren.
Christoph Magnussen:Mhm. Das ist ein guter Gedanke, das noch mal mitzunehmen. Ja, okay. Also ich ich würd sagen, wir also wir machen bei uns definitiv viel und jetzt, wo Du es auch noch mal so explizit auf den Punkt gebracht hast, denke ich, das kann man noch mal viel, viel, viel strikter angehen. Also viel strikter im Sinne von auch, wenn Du das gelöst hast, skaliert das natürlich ganz anders.
Christoph Magnussen:Ganz anders. Und dann kannst Du entscheiden, wie viel Compute gebe ich drauf? Wie viel ist mir der Euro Tokens wert, das dann halt weiterzumachen?
Dr. Rasmus Rothe:Ja und ich glaub, man muss halt die man muss halt die Boundaries pushen. Also ich glaube sozusagen dieses Mindset zu sagen, okay, was ist jetzt ein Task, den ich der KI geben kann, wo der einfach zu groß ist, wo das System failt? Lass uns, also das muss eigentlich die Ambition sein, auch der Mitarbeiter, dass Du sagst eigentlich jeder hat versucht, mehrere KI-Projekte pro Woche, die nicht funktionieren. Und das ist selbst bei uns schwierig, weil vieles funktioniert ziemlich gut, ja. Aber sozusagen einfach auch zu sagen, was wie kann ich jetzt eigentlich die KI mal überfordern, ja?
Dr. Rasmus Rothe:Wie kann ich die pushen? Wie kann ich die an die Limits pushen, wo ich mir einen Use Case ausdenke, der einfach nicht funktioniert? Und das müssen die Leute eigentlich einmal jeden Freitag sozusagen einmal in der Company vorstellen. Geil. So diese Sachen, wo sie sagen, KI war einfach nicht gut genug.
Dr. Rasmus Rothe:Und und und wenn wenn Du von da kommst und dann natürlich ein bisschen realistischer wird, dann bist Du halt am richtigen Punkt, da wo Du sein solltest.
Christoph Magnussen:Was war dein Use Case, wo Du dich noch erinnern kannst, den Du mal gepusht hast, wo Du sagst, das hat nicht funktioniert und einen, Du warst, boah krass, funktioniert?
Dr. Rasmus Rothe:Also ich glaube, dieser sozusagen so Sales-Seite habe ich superviel automatisiert, das funktioniert richtig gut und dann merke ich auch, das funktioniert viel besser, als wenn ich die Sachen irgendwie selber mache. Da da bin ich durch mit. Also das das Thema, würde ich sagen, ist relativ gelöst. Wo ich schon noch wo ich schon noch Themen sehe, ist sozusagen eher, wenn ich irgendwie Sachen vibecode, dass ich da dann teils, wenn ich die Sachen einfach unterspezifiziere, die Sachen dann doch irgendwie noch brechen. Oder wenn ich halt so Multiagentensysteme baue, wo ich halt mehrere Systeme habe, die miteinander interagieren müssen, dass dass da dann einfach ein bisschen Unsauberheit ist, weil ich die Sache dann modularisiere und der sage, der eine soll die Daten raussuchen und das dem anderen schicken, so da, da komme ich da manchmal ein bisschen bisschen an die Grenzen.
Dr. Rasmus Rothe:Manchmal sind's auch ganz triviale Sachen, dass ja, man dann da irgendwie das ganze Access Management der Systeme richtig einstellen muss und dann hat das irgendwo drauf wieder nicht Zugriff und das ist halt teils auch so sehr triviale Sachen, die dann die Sachen irgendwie stoppen.
Christoph Magnussen:Aber wenn Du überlegst, das Vibecoden, ne, also jetzt von vor drei Jahren bis jetzt hat sich... Also das ist wie, das fühlt sich an wie wie 30 Jahre in einer anderen Branche. Allein schon letzten November, als wirklich mit, ich glaub, Opus 4.5 war das, der Claude-Code-Moment noch bei vielen kam, Codex extrem gut greift. Ich hab jetzt den Ultra-Fast-Mode letzte Woche bei uns auf zwei, wir haben so eher gegappte Rechner, die halt komplett separat alles machen können. Und da haben wir mit einem Prompt ein komplettes Tool gebaut und halt fertig, ne.
Christoph Magnussen:Deployed, fertig, klickbar, Datenbank, everything in acht Minuten. Und da hab ich gemerkt, wenn in acht Minuten halt Astra-Agents mit, ich glaub, so einem 500-Euro-Account, das ist auch echt teuer, das Ding halt fertig bauen, Du kannst überhaupt nichts mehr sehen. Also Du siehst überhaupt nicht mehr, was machen die und was geht da ab? Und da dachte ich so, okay, wenn Du jetzt bei deiner Vibe gecodeten App nicht berücksichtigst, dass Du auch mal Sachen rauslöschen musst, toten Code wegnehmen musst und so weiter, how would you solve it? Und wenn ich jetzt überlege, das machen Milliarden Menschen den ganzen Tag jetzt mit Development, wie siehst Du das Thema Quality of Code oder hast Du das Gefühl, das kriegen die Modelle wiederum gelöst, wenn Du spezielle Modelle
Dr. Rasmus Rothe:Ach, ich glaube, ich glaube, ich glaube, ich glaube, ich bin da vielleicht bin ich da auch Berufsoptimist, da ich glaube, alle Probleme lösen sich. Ich glaube, also dieses ganze dieses ganze Thema, ich mein, die Leute haben am Anfang, als als die ersten KI-Modelle Bilder erkannt haben, haben die Leute sich drüber lustig gemacht, dass sie Katzen und und Hunde nicht unterscheiden können.
Dr. Rasmus Rothe:Dann irgendwann haben die Bilder wurden Bilder generiert, dann hatten die drei Augen, dann meinten die, das ist doch alles hier Schwachsinn, das bringt ja gar nichts. Haben sie irgendwann auch Videos generiert, die keinen Sinn gemacht haben, jetzt generieren die Videos. Dann kamen die LLMs, am Anfang haben alle nur über Halluzinationen geredet, das erste Jahr. Es hat mich hat mich so was von genervt und alle wollten da irgendwie schlau drüber reden, wie wie was für ein großes Problem das ist und ich weiß, jetzt sehen wir, wo wir sind.
Dr. Rasmus Rothe:Also klar ist das noch ein Thema, aber ich meine, das Wort Halluzination ist sicher viel weniger ein Thema als noch vor einem Jahr oder vor zwei Jahren und ich glaub, genauso ist es eben auch bei diesen Coding-Themen. Klar wird dann auch klar, es ist irgendwie alles grade reviewer-constrained, ja. Die Menschen können gar nicht mehr so schnell den Code reviewen und es gibt viel toten Code und ineffizienten Code und man muss den dann doch irgendwie noch mal checken. Aber ich glaub, das ist auch nur eine Frage der Zeit, bis die Modelle da auch eben selber halt das Ganze effizienter machen und ich seh keinen Grund, wieso wieso wieso Agenten nicht besser programmieren sollten als Menschen. Also schneller sowieso, aber auch besser.
Dr. Rasmus Rothe:Also ich glaub, es ist auch wieder eine Frage der Zeit vorherzusagen, ist das jetzt, ist es in sechs Monaten, ist es in zwölf Monaten? I don't know. Aber ich glaub, es nur eine Frage der Zeit und und und und insofern ist dann auch eben für mich Software eigentlich eher ein dynamischeres Produkt, dass ich halt sage, ich brauche jetzt funktionale Software, die irgendeine bestimmte Aufgabe erfüllt, bau mir die jetzt halt und dann bau ich mir die und die würde einfach perfekt funktionieren. Und das hat er dann auch eben dazu, führte ja schon dazu, dass ich glaube halt in Unternehmen sich das Ganze so ein bisschen unterteilt. Du hast einerseits sozusagen deine Daten so, da willst Du halt Klarheit haben, weil das ist ein System of Record im Endeffekt ist, was ist ein Unternehmen? Das sind Daten und Intelligenz.
Dr. Rasmus Rothe:Wenn Du ein Unternehmen mal runterbrichst auf alles, was da noch ist, dann hast Du irgendwie Daten, ja, sind irgendwie Kundendaten oder Maschinendaten. Gut, vielleicht hast Du noch eine physische Produktion, aber wenn Du jetzt mal Knowledge Worker nimmst plus vielleicht noch physische Produktion, hast Du irgendwie viele Daten, die halt einen Wert haben, ja, weil damit arbeitest Du mit deinen Kunden und Insights und hast vielleicht Software und und dann hast Du Intelligenz, die drauf arbeiten. Das waren bisher halt nur Menschen und jetzt hast Du halt noch ein paar Menschen und viel KI-Intelligenz drauf arbeitet, aber das ist eigentlich alles, was Du noch hast. Sozusagen kannst Du jetzt mit der Intelligenz eben auch Software bauen, die auf deinen Daten agiert und irgendwo hast Du noch Menschen rumlaufen, aber viel mehr brauchst Du gar nicht mehr. Und dann ist halt schon die Frage, diese Datensysteme, die brauchst Du halt fix und die Intelligenz kaufst Du irgendwie ein oder nimmst Du irgendwann Open Source.
Dr. Rasmus Rothe:Und was brauchst du denn eigentlich noch an Third-Party-Software? Du brauchst welche für diese Daten, weil da willst du halt einen Standard haben und Robustheit, weil wenn die verloren gehen, da willst du nicht, dass jeder dran rumvibecodet, aber alles, was da drauf Interfaces sind, was da drauf Visualisierungen sind, das gibt's keinen Grund, wieso Du das eigentlich nicht eigentlich alles sozusagen einfach vibecoden kannst und das dann viel besser ist und besser passt als irgendwas, was Du vom Markt kaufst.
Christoph Magnussen:Und die Daten zu organisieren, ist nicht einfach, ne. Also ich mach bei uns die Datenbereinigung teilweise selbst, weil ich viele Records kenne und das sind jetzt nicht viele im Vergleich zu den großen Firmen, aber es sind schon noch ein paar 100.000 quasi Datensätze, wo Du überlegen musst, wie kriegt sie die sortiert? Ich bin jetzt kein Profi wie Du, ich bring mir das dann selber bei und weiß halt nur aus der Historie, wo machst Du es? Viele Menschen denken ja bei Daten auch in Excel-Tabellen zum Beispiel und denen fällt es sehr, sehr schwer, weil das etwas Abstraktes ist, das dann wirklich anzugehen. Aber würdest Du sagen, Daten ist ein Feld, weil Du die Qualität der Daten, deine eigenen Daten, die Sicherung, das kriegst Du nicht an die KI abgegeben oder kannst Du auch assisted damit arbeiten, dass Du sagst, doch, doch.
Christoph Magnussen:Die können ja SQL mittlerweile ausführen, die kriegen's sortiert, nur Du willst es quasi irgendwo zentral hüten.
Dr. Rasmus Rothe:Ich vereinfach es immer auf zwei Arten von Daten. Du hast eine Art von Daten, wo es nur eine Ground Truth gibt oder wo es sozusagen nur eine Realität gibt. Ja, also wenn Du Transaktionsdaten hast, ja? Irgendjemand hat 17,50 Euro gezahlt, der hat genau 17,50 Euro gezahlt und das ist halt das sind halt ganz klare Transaktionsdaten. Da gibt's auch, wenn die da wenn die Daten der Datenpunkt irgendwie anders aussieht, ist er einfach falsch.
Dr. Rasmus Rothe:Da gibt's nur richtig und falsch. So, und ich glaub, bei den Daten musst Du halt sehr enge Guardrails haben, dass es da nicht zwei Realitäten gibt und die Daten sauber sind. Dann hast Du einen zweiten Teil, der, sag ich mal, eher semantische Daten sind oder sag ich mal, vielleicht auch Textdaten, Spreadsheets, Präsentationen, was auch immer, irgendwelche Daten, halt, wo es halt nicht vielleicht nur eine Realität gibt, Transcripts von Calls. Da war es historisch so, dass die Leute natürlich versucht haben, diese auch möglichst gut zu sortieren und zu strukturieren und irgendwelche Formate zu tun, damit Du dann da gut drauf filtern kannst, suchen kannst. Jetzt hast Du ja dadurch, dass Du so viel Intelligenz hast, die Möglichkeit, diese Daten auch zu interpretieren, wenn die relativ messy sind, solange alle Daten da sind und der ganze Kontext da ist.
Dr. Rasmus Rothe:Das heißt mittlerweile, wenn ich jetzt halt irgendwie einen Call Log habe von einem Gespräch, irgendwie ein paar E-Mails, irgendwas in meinem Slack, irgendwas im Google Drive, kann ich jetzt natürlich... Früher wär ich zusammengegangen, hätt das irgendwie alles in einen Ordner kopiert, hätt das strukturiert, irgendjemand hätt das aufräumen müssen. Heutzutage hab ich halt meine Intelligenz, die einfach auf alles Zugriff hat und dann smart genug ist, das selber zu kontextualisieren. Das heißt, bei diesen schwammigen Daten, glaube ich, brauchst Du gar nicht so viel Guardrails, musst einfach nur sicherstellen, dass halt alles recorded ist und dann Intelligenz haben, die drauf Zugriff hat. Und dann ist da eigentlich viel weniger wichtig, wie viel diese sortiert sind, weil die KI gar keine sortierten Daten mehr braucht.
Christoph Magnussen:Wie löst Du das denn für die, das interessiert mich jetzt auch nur, weil die Modellanbieter selbst ja sagen, wenn Du jetzt quasi einen Prompt per per per Payload an an das Modell schmeißt, verändert sich ja auch das Modell dadurch. Es sei denn, schützt es durch was lässt Du ran an die API und so weiter. Verändern sich so eben Modelle in der Laufzeit, wenn Du zum Beispiel ein eigenes lokales Modell betreibst oder passiert das nicht, weil das ist fixed for the moment?
Dr. Rasmus Rothe:Ja, ich glaube, also ich mein, es gibt schon sozusagen, wenn Du die lokalen Modelle hostest und und die nicht irgendwie weitertrainierst oder anpasst, dann sind die schon statisch in dem, was sie machen. Und ich glaube, bei den den großen Labs und so musst Du halt dann wirklich genau in die Terms gucken. Ich glaube, da gibt's auch verschiedene Agreements, was da sozusagen zurückgeführt wird und was nicht. Aber selbst mit einem statischen Modell kannst Du in diesen dynamischen Daten halt sehr gut agieren. Also weil die die Intelligenz ist so gut und so abstrakt, dass und und und wir müssen ja auch mal sozusagen die Kirche im Dorf lassen, so smart sind wir dann auch nicht als Menschen, dass diesen Zusammenhang, ich hab hier einen Call Log und ich hab hier irgendwas im CRM und ich hab was im Slack so, wenn wenn das jeder normaler Mensch lesen kann und den Kontext versteht, dann wird das auch eine KI verstehen, ja.
Dr. Rasmus Rothe:Also die die löst Millenniumprobleme, wo wir am Anfang jetzt grade waren. So, das heißt, sie wird auch irgendwie diese vier Datenpunkte zusammenbringen und die erklären, was da der Kontext ist. Also passiert mir zumindest relativ selten, wenn ich wenn ich die wenn ich den ganzen Kontext habe. Also das KI-Modell, ich seh halt grade auch so Pushing the Frontier, da wo ich halt Probleme habe, ist, wenn ich halt Offline-Meetings hab, wenn ich irgendjemand draußen im Café treffe und keinen Notetaker dabei habe und da halt irgendwas bespreche, dann failt die KI ja, weil der Kontext fehlt. Aber die KI hätte es auch nicht wissen können, weil der Kontext fehlt.
Dr. Rasmus Rothe:Aber wenn wenn wenn alle Daten da sind, versteht das oft den Kontext manchmal besser als ich oder sieht sogar Sachen, wo ich sage, okay, das habe ich in dieser Verhandlung gar nicht irgendwie wahrgenommen, dass das ja vielleicht auch noch ein Incentive der Gegenpartei gewesen wäre. Also da da übertrifft es mich jetzt schon.
Christoph Magnussen:Letzte Frage, die ich eben noch hatte, bevor ich auf die Zielgerade komm, als Du meintest, müssen wir bleiben. Ich wollte einmal noch mal, weil Du die die Open-Source-Modelle erwähnt hast und China und auch immer wieder gesagt hast, die Chinesen haben einfach einen anderen Pace. Was kann man lernen von chinesischen Labs? Weil wir haben ja, das einmal immer noch mal, ordne ich mal gern noch mal ein. Es gibt Verträge mit den USA, deswegen können wir US-Modelle verwenden.
Christoph Magnussen:Das ist immer ein Kompromiss. Deswegen, wenn Leute sagen, geh nicht wegen Datenschutz, stimmt nicht. Wir haben Verträge, Du kannst US-Modelle benutzen, dafür brauchst Du Vertrag. Datensicherheit und Sovereignty, anderes Thema. Chinesische Modelle kannst Du nicht online verwenden.
Christoph Magnussen:Also Du kannst jetzt nicht irgendwie in die Cloud x gehen und sagen, hier geht. Dafür brauchst Du, wenn dann Spezialverträge, aber wir haben keinen keine Standard Agreements. Wenn Du aber eben ein chinesisches Open-Source-Modell nimmst, kannst Du's quasi lokal betreiben. Heißt aber auch, die sind gut, die können viel, so weiter. Das haben wir noch als China.
Christoph Magnussen:Was macht es aber aus? Was schaffen die? Wie kriegen die es hin, in dem Pace hinterherzurennen und Du klangst so, als wenn Du das Gefühl hast, die könnten das überholen?
Dr. Rasmus Rothe:Ja, also ich ich glaube halt, da sind halt auch krasse ökonomische Interessen dran. Also wenn wir jetzt sozusagen zu den Daten zurückkommen, sind die Chinesen da ja ein bisschen laxer mit der Datenverwendung intern auch im Land. Das heißt, die haben halt auch viele von den Business Cases, sei es im Gesundheitswesen, sei es in der Verwaltung, sei es in der ganzen Businesswelt, Robotik passiert ja auch sehr viel, sind die noch einiges, sage ich mal, pragmatischer und vielleicht auch zu pragmatisch oder zu, ja, nicht nicht zumindest nicht, machen das zumindest nicht mit den gleichen Regeln wie wir, dass halt die Business Cases da halt mindestens genauso groß sind wie hier, weil die halt einfach noch mal eine Stufe weitergehen, welche Daten sie auch nutzen dürfen zu den Citizens, wenn's darum geht, irgendwie die Leute zu überwachen und daraus zu lernen und so weiter. Und das heißt, die haben halt a, einen krassen ökonomischen Business Case einfach in ihrem Land, da sozusagen Sachen zu automatisieren. Andererseits schwächen sie damit halt auch die Amerikaner.
Dr. Rasmus Rothe:Also es ist halt auch ein Druckmittel gegen die Amerikaner in diesem ganzen geopolitischen Thema, dass sie halt sagen, okay, wir machen euch da sehr, sehr viel Druck, dass ihr da sehr, sehr viel Geld ausgeben müsst für irgendwie gute KI-Modelle und ihr könnt da nicht einfach jetzt komplett pausieren, weil dann überholen wir euch. Und viele der super KI-Forscher sind ja auch oft, also sind teils in China mittlerweile ausgebildet, aber auch viele sind in den USA, den Top-Unis ausgebildet. Also wenn Du da an die Unis gehst oder auch in die großen Techkonzerne, haben dann natürlich auch viele Chinesen gearbeitet, die teils jetzt auch wieder zurück nach China gegangen sind. Das heißt, Du hast da schon auch eben Leute, die auf dem gleichen Level arbeiten und die durchaus auch sehr kreativ sind, dadurch, dass eben auch die ganze Zugang zur Hardware so ein bisschen eingeschränkt sind, die durchaus auch sehr kreativ geworden sind, wie sie halt eben quasi diese Modelle entwickeln und und und da sozusagen viele gute Engineering-Tricks machen. Und klar, da wird auch noch viel kopiert aus den großen US-Labs und Du musst da ja teils auch einfach nur die eine richtige Person abwerben.
Dr. Rasmus Rothe:Also wenn Du da eine Person abwirbst oder da einer mal erzählt, okay, das waren hier die fünf Engineering-Tricks, dann kannst Du halt schon vieles auch nachbauen, weil es sind manchmal so sehr spezifische Ideen, die halt dann einfach dazu führen, dass bestimmte Sachen besser funktionieren. Und und es sind einfach auch sehr, sehr viele Leute, ist ein riesiges Land, die an diesen Themen arbeiten. Und von daher glaube ich, das könnten wir in Europa auch hinkriegen. Also ich glaube, hätten wir da sozusagen mehr Kapital dahinter, was ja da auch sehr staatlich getrieben ist zum Teil oder dann dann wär das auch möglich. Und ich glaub, die werden das auch weiter so treiben.
Christoph Magnussen:Wenn Du da sagst, okay, Du hast Engineering-Tricks, Mixture of Experts waren Trick aus China zum Beispiel. Ich glaub, die haben auch recht schnell die Reasoning-Modelle anders nutzen können, weil sie mit Memory in den in den GPUs, weil sie ältere GPUs hatten aufgrund der Restraints, die liefen besser. Aber Reasoning an sich kam, glaub ich, als Idee von OpenAI oder die haben's hingekriegt auf jeden Fall. Agentic hat OpenAI mit mit vorangetrieben. Jetzt kommt Recursive Self Improvement.
Christoph Magnussen:Was sind die nächsten Themen, wo Du sagst, die die entwickeln sich gerade, die sind hot gerade so wie Reasoning vor zwei Jahren, die richtig, richtig heiß werden?
Dr. Rasmus Rothe:Also ich glaube so ein bisschen dieses, also für mich dieser Holy Grail ist schon, dieses Self Improvement. Also und das ist ja das, wo wir gerade noch am Anfang sind, weil sozusagen, das ist halt für mich die Königsklasse, weil diese ganzen anderen Tricks sind sozusagen ja eigentlich spezifische Engineering-Tricks, aber wenn Du ein System hast, was sich selber improved, dann hätte das halt, hättest Du das schon vor zwei, zwei, drei Jahren gehabt, hätte das hätte der Self Improving Algorithm vielleicht die Idee gehabt, irgendwie Mixture of Experts mal auszuprobieren oder halt mehr Reasoning zu machen oder auch in den ersten Schritten das ganze Human Feedback mit einzubauen. Also diese diese Tricks, die hat sich ja irgendein Mensch ausgedacht und ausprobiert und wenn halt die KI-Modelle selber sich so Tricks ausdenken, dann ist das eigentlich die Königsklasse, die halt zu vielen neuen Entwicklungen führen wird. Und ich glaub, das ist was, wo ja, wo wir jetzt grade anfangen, den Fortschritt zu sehen. Und das war auch eben einer der Hauptgründe, was dass wir jetzt so eine Beschleunigung die letzten Monate gesehen haben.
Christoph Magnussen:Und Du hattest auch gesagt, wir könnten das in Deutschland hinkriegen und machen. Siehst Du das als realistischen Case, dass wir hier den Tritt reingehen oder würdest Du sagen, Leute, geht in die Anwendung, also Adoption erst und geht da wirklich rein, rein, rein und versteht das erst mal überhaupt, was da passiert?
Dr. Rasmus Rothe:Also ich glaube halt, der Business Case von Adoption ist ist ist so sozusagen so ein Trillion Dollar Business Case. Also egal, ob man jetzt sozusagen die Beratung macht, die Transformation zu machen, ob man KI-Anwendungen braucht für die ganzen Vertikalen, ob man neue AI-first-Businesses baut in bestimmten Vertikalen, ist das halt eigentlich die große riesige Business Opportunity, wo wir auch keinen Nachteil haben im Großen und Ganzen, das hier auch zu machen so. Also von daher ist das, glaube ich, auch das Wichtigste, unsere Wirtschaft da sozusagen kompetitiv zu halten und darauf, wo man sehr, sehr große Businesses bauen kann. Und gleichzeitig ist es so, ich glaub, wir müssen halt einfach gucken, was sind einfach so diese nächsten Modelle, Iterationen und auch vielleicht neue Datengruppen oder jetzt zum Beispiel eben Weltmodellen, wo vielleicht andere Bereiche sind, wo wir auf einmal irgendwie mit state of the art sein können. Aber ich glaube halt felsenfest, dass mittelfristig es eine Kommoditisierung dieser Modelle geben wird und dann verdienen halt einerseits die Compute Provider und die, die die Sachen halt in die Anwendung in Businesswert schaffen.
Dr. Rasmus Rothe:Und ich glaub, da beim Letzteren gibt's noch sehr viel Potenzial als auch auf der Hardware- und Chip-Seite. Ich mein, das ist natürlich auch noch eins, wo Du wo Du sehr viel Geld verdienen kannst, weil wenn Du halt Modelle günstiger laufen lassen kannst auf neue Hardwarealternativen zu Nvidia schaffst, geht's da auch sehr, sehr viel Geld.
Christoph Magnussen:Was machst Du denn, wenn Du als Researcher aber nicht mehr in den Denkprozess eines Modells gucken kannst, was ja, ne, die also Astra und und und auch Fable haben ja deutlich abgenommen in der Fähigkeit, glaube ich, sich reingucken zu lassen, also irgendwie 50 Prozent oder so was und decreasing. Wo wonach steuerst Du überhaupt noch, wo Du deine Verwässerung landen?
Dr. Rasmus Rothe:Ja, und ich glaube, das ist das ist das andere wichtige Thema, also alles, was mit mit Alignment und Guardrails und AI Safety zu tun hat. Also das ist halt, wenn Du sozusagen auf der einen Seite dieses dieses Self Improvement und diese Selbstständigkeit, Selbstständigkeit sehr stark weiter pushen willst, weil Du dadurch glaubst, schneller voranzukommen, sind da Guardrails umso wichtiger. Das heißt eigentlich sozusagen, shiftet es von, du hast Engineers, die die KI-Modelle verbessern und wer die besten Engineers hast, der verbessert sie am schnellsten zu, du hast die besten AI Safety und Leute, die eigentlich die besten Guardrails zu bauen, wo du halt die AI drin haben, sie möglichst schnell selber verbessert, so halt möglichst schnell voranzukommen und dadurch verschiftet sich dieser Fokus. Deswegen auch eben eines der großen heißen Themen grade. Und das ist halt noch ziemlich ungelöst.
Christoph Magnussen:Krass, das ist geil. Das ist ein... Mich als jemand, der neugierig ist, feuert das an. Du bist auch Berufsoptimist und ich würd auch gern damit aufhören. Aber es werden natürlich Leute sagen, nee, das ist überhaupt nicht geil.
Christoph Magnussen:Die sagen, oh Gott, ist alles schlimm. Aber so wie Du's jetzt grade beschreibst, sehe ich die Chancen eben auch als deutlich größer. Und vielleicht zum Abschluss dein Blick auf Leute, die auch im Forschungsfeld arbeiten. Die Motivation von denen und natürlich gibt's immer welche, die sind da nur mit Geld motiviert, aber was ist dein Blick in the big field of research?
Dr. Rasmus Rothe:Ja, also ich glaube, ich glaube, es ist gerade die spannendste Zeit, in dem Bereich zu sein. Also ich meine, das ist jetzt irgendwie, wenn Du das mit vorherigen Technologien vergleichst, ist das ist, glaube ich, so das Verrückteste, was wir also was also was wir je erleben werden, was jetzt die nächsten Jahrzehnte passiert und jetzt auch in den letzten Jahren schon passiert ist und deswegen ist es, glaube ich, auch was, was die Leute motiviert. Also klar, ist da ein finanzielles Argument, gerade wenn Du bei den großen Labs irgendwie arbeitest, aber ich glaube, dieses Gefühl, dass man an was arbeitet, was wirklich die Welt verändern kann und eben auch ja viele sehr, sehr, sehr, sehr viel positiven Impact haben kann in sehr vielen Bereichen. Also schauen wir uns das ganze Gesundheitswesen an, neue Medikamente und so Themen, dann dann ist das komplett wahnsinnig und motivierend irgendwie das mitzuschaffen, egal ob jetzt an der Forschung, wenn's neue Modelle geht oder in der Anwendung, wo man sagt, okay, wir haben dadurch halt wirklich in der Praxis einen Mehrnutzen.
Christoph Magnussen:Und genau damit würde ich sagen, lassen wir es hier stehen und sehen zu, dass wir uns nicht erst in drei Jahren wiedersehen, weil wir hören uns zwischendurch immer regelmäßig, es ist immer nur so wenig Zeit, aber...
Dr. Rasmus Rothe:Ja, ich würd sagen, wir wir lassen genauso viele News dazwischen und wenn das so sich weiter so schnell weiterentwickelt, dann müssen wir wahrscheinlich in drei Monaten drei Monate wieder sprechen, ja.
Christoph Magnussen:Nice. Danke dir.
Dr. Rasmus Rothe:Vielen Dank für die gute Diskussion.
