Alle bauen mit KI – aber wer versteht noch, was entsteht? | Florian Baader, CEO meinGPT

Florian Baader:

Du hast dann irgendwie Mitarbeiter, die mit Agents und Co arbeiten und andere klicken sozusagen noch in den UIs umher. Und ich hab das Gefühl, das sind langsam fast schon Lebensrealitäten, die die sich dort unterscheiden. Die ganze Debatte dreht sich völlig nutzlos irgendwie eigentlich nur dieses Time Saved Thema, weil das Enablement halt einfach supercrazy ist. Wir brauchen gar keinen neuen Standard. Wir haben den ja vor 40 Jahren erfunden, der ist nur längst verstaubt.

Florian Baader:

Wir kommen eigentlich grade drauf, dass dein Agent das verdammt gut im Bauch hat, wie man damit umgehen kann. Egal wie weit Du vorne bist, bist Du eigentlich behind.

Christoph Magnussen:

Wie können wir es schaffen, in Europa ganz vorne mitzuspielen, wenn es das Thema KI geht? Und das läuft immer wieder auf die Frage drauf hinaus, wie werden wir zum Anwendungsweltmeister hier? Denn einige große Modelle fehlen uns. Also hab ich mir jemanden geholt für AI to the DNA, der es besser versteht als jeder andere, Anwendung wirklich nach vorne zu bringen. Florian Baader, der Gründer von meinGPT, der nicht nur Jugend forscht mehrfach gewonnen hat, sondern auch wirklich krasse Sachen gebaut hat, die er in seine Firma gebracht hat.

Christoph Magnussen:

Das heißt, ihr habt hier eine geladene Folge, wirklich voll mit Sachen, in jedes Detail 1 Firma, wo ihr gucken könnt, wie kann ich's für mich bauen? Wie kann ich KI wirklich nach vorne bringen? Wenn ihr sagt, hier sind Punkte dabei, die ihr nicht versteht, ey Leute, ihr habt ein Chatbot vor der Tür, die benutzt ihr einfach.

Christoph Magnussen:

Fragt oder fragt uns unten in den Kommentaren. Hier kommt eine wirklich geile Folge AI to the DNA. Sehr schön. Ich hab mich extrem auf diese Folge gefreut und wir haben jetzt auf Aufnehmen gedrückt, weil wir waren schon voll und mittendrin. Für die, die es aber noch nicht wissen und jetzt gab's grad eine kurze Intro, Du darfst trotzdem noch mal 2, 3 Sätze sagen, Florian.

Christoph Magnussen:

Du erst mal nicht nur die 4 Stockwerke hochgestiefelt und hast dich gefreut, sondern Du bist extra hergekommen. Schön, dass Du da bist und gib einmal Background zu dir und deiner Company und dann steigen wir direkt ein.

Florian Baader:

Gerne. Also vielen lieben Dank für die Einladung. Ich bin sehr gespannt, was uns heute so erwartet an Themen. Genau, ich bin Florian, hab mit 18 damals gegründet. Ich hab zweimal Jugend forscht mitgemacht während der Schulzeit, war eigentlich schon immer son son Bastelkind.

Christoph Magnussen:

Ich glaub, Du hast auch nicht nur mitgemacht, hab auch ein bisschen auch ein bisschen

Florian Baader:

Bisschen im Vordergrund. Wir haben so viel abgeräumt, dass uns das sozusagen zur Gründung motiviert hat davon. Und ich hatte tatsächlich letzte Woche habe ich geheiratet und da hat mein Papa die 1. E-Mail wieder rausgeholt bei seiner Rede. Ich glaub, das war damals mit 13 Jahren habe ich dann meinem Papa irgendwie eine Mail geschrieben, hey, ich hab irgendwie so viel Fragen zum Internet.

Florian Baader:

Kannst Du ich will mich dort gut auskennen. Kannst Du mir das Internet erklären? Und irgendwie seit damals dann Wunschlisten mit Excel geschrieben und Co. Also irgendwie das hat sich dann irgendwie schon alles irgendwie rund den Computer gedreht und ums Basteln, Immer zum Wertstoffhof gefahren, hab die alten Sachen mitgenommen, auseinandergebaut und wollte irgendwie verstehen, wie das Zeugs funktioniert.

Christoph Magnussen:

Was war dein erster Rechner?

Florian Baader:

Oh, das war sone richtig schöne graue Box. Windows 95 war da drauf.

Christoph Magnussen:

Okay, dann bin ein paar Tage älter.

Florian Baader:

Das war mein das war mein Einstieg

Christoph Magnussen:

dann Windows 95 war für mich schon son

Christoph Magnussen:

son Upgrade. Das war schon so, hey, wir können fliegen.

Florian Baader:

Ja, ich hab tatsächlich von meinem Papa dann auch noch mal, glaube ich, MS-DOS beigebracht bekommen. Aber ja, also das diese Bastelei hat sich quasi so durch meine Schulzeit auch schon so mit durchgezogen. Dann habe ich Jugend forscht mitgemacht. Das das 1. Projekt war damals son intelligenter Briefkasten.

Florian Baader:

Da war jetzt der Business Case, sag ich mal, nicht so fundament, so besonders genial davon. Und das 2. Projekt war dann ein besserer Energiesparmodus für Windows Computer. Da hab ich mir einen neuen Rechner irgendwann gekauft, da hab ich gedacht, warum schalte ich immer diesen Standby aus? Ist doch total blöd.

Florian Baader:

Der hat mich total genervt, weil der irgendwie immer Sachen unterbrochen hat und dann haben wir gesagt, wisst ihr was? Jetzt lösen wir das einfach, bauen da irgendwie ein kleines Stück Software, das hat dann geguckt, ist der Computer noch in Benutzung davon? Und damals bei Jugend forscht kam dann irgendwie Chip d e und Computerbild und so was auf uns zu meinten, so voll geiles Stück Software, lass uns das mal auf die CD packen. Und das hat uns dann so viel Drive und Motivation gegeben zu sagen mit 18, okay, fuck it, jetzt gründen wir sone kleine UG und schauen mal, was da bei rumkommt.

Christoph Magnussen:

Boah, ich gab's, boah, ich gab's schon UG und es gab aber trotzdem nur noch die CDs, die mitgeschickt wurden. Würde ich's nicht rumreichen in der Firmen. Also okay. Doch hier stimmt noch eine. Da guck mal.

Christoph Magnussen:

Ich hab noch ein G4 ein altes da oben stehen. Das hat noch ein CD-Rom Laufwerk.

Florian Baader:

Ich wüsste heute gar nicht mehr, wo man noch ein CD Laufwerk irgendwie bei so den Spielekonsolen ist es ja noch ein drin, aber selbst so so Blu Ray Player, aber heute kannst Du das ja gerne mal abspielen, gell?

Christoph Magnussen:

Alte Autos, aber da läuft die dann wiederum nicht. Da kannst Du nur Musik spielen.

Florian Baader:

Ja, ja. Genau und dann haben wir irgendwie mit der Software dann son bisschen durchgewurschtelt und da probiert, was zu machen. Dann haben wir aber auch recht schnell gemerkt, irgendwie so der Windows Markt für so Tools ist jetzt auch nicht so fundamental toll, da jetzt irgendwie was aufzubauen. Dann sind wir in das Dienstleistungsthema rein. Da haben wir für einige Start ups verschiedene KI Lösungen gebaut.

Florian Baader:

Wir haben uns mit intelligenten Heizanlagen beschäftigt. Wir haben in der Fahrradbranche mit Computer Vision und den LiDAR-Sensoren von dem iPad Körpervermessungen durchgeführt und passende Produkte berechnet. Also ich das Motto war eigentlich immer, also es kam irgendein Riesenprojekt. Wir hatten überhaupt keine Ahnung, wie wir das lösen sollen, waren so weißt du was? Scheiß drauf, wir kriegen das irgendwie hin.

Florian Baader:

Dann also ich weiß noch bei dem bei diesem ersten SaaS-Projekt, was wir gemacht haben, dann haben wir uns da Vue.js für Dummies bestellt. Haben wir im Endeffekt nie gelesen, ne. Aber das war halt irgendwie immer das, was uns interessiert hat, einfach nur geile Projekte zu machen, auch wenn sie eine Nummer zu groß am Anfang erscheinen, weil sie sagen, weißt du was, ich glaube irgendwie an uns, ich glaube an unser Team, lass uns das mal angehen. Genau und jetzt seit 3 Jahren haben wir eigentlich alle sonstigen KI Themen irgendwie aufs Abstellgleis bewegt und machen jetzt nur noch GenAI.

Florian Baader:

Das machen wir vor allem mit der meinGPT Plattform, was so irgendwie so ein Allround Plattform für alle KI Modelle ist. Da geht es irgendwie sehr, sehr stark darum, wie du die Leute befähigst zu verstehen, was KI kann, wie du KI dann irgendwie nützlich im Alltag machst und wie du auch so die wildesten Mittelstandssysteme irgendwie richtig mit KI connectest Und das begleiten wir sehr viel auch mit Schulungen und Einführung und Co. Und glaube ich, sind regelmäßig überrascht auf der einen Seite, wie son Teil der Gesellschaft, sag ich mal, so richtig tief im AI Game drin ist. Also wir waren auf der Hannover Messe und dort kam ein etwas älterer Herr, zu mir, ich glaub, über 80. Und der sagte, dass er früher quasi viel mit den Disketten gearbeitet hat.

Florian Baader:

Da hat er immer die Diskette reingeschoben und dann hat sich der Kreis dort gedreht und hat dann auf seine Antwort gewartet. Heute arbeitet er mit Claude Code und heute blinkt der Kreis. Stimmt. Irgendwie was die Deutschen erzählen ist. Fand ich so eine sehr ernüchternde Zusammenfassung von irgendwie, was was sind es dann am Ende 50 Jahre, na ja nicht ganz 40 Jahre Technologieentwicklung und jetzt sitzen wir irgendwie wieder im Terminal und warten da drauf, dass wir dass das endlich eingelesen ist oder ausgegeben wird.

Christoph Magnussen:

Ich hoffe, dass wir da schnell durch sind durch dieses Terminalalter und eine Lösung finden, wie Du diese sehr vielen Chats besser verwalten kannst als mich. Ich hab neulich mal' Kollegen Paul über die Schulter geguckt, jetzt genau wie ich dann auch. Hat er 15 Terminal Tabs drauf und ich sag mal, was geht? Ich hoffe nicht alle Fable.

Florian Baader:

Ja, ja. Ja, sonst meldet sich dann irgendwann die Die Tokenpolizei. Tokenpolizei. Was geht hier ab? Ja und das das schockt mich sozusagen immer wieder oder was heißt schocken, irgendwie superpositiv.

Florian Baader:

Und gleichzeitig, man kennt ja auch diese Statistiken, wie viel Prozent der Leute mal mit' Paid KI Version überhaupt gearbeitet haben und ja irgendwie wie, wenn wir dann irgendwie wirklich mal im Mittelstand sind, auch teilweise was da so das Niveau ist, wo du die Leute halt mit abholen musst und wo Du auch zurecht noch mal ganz von vorne irgendwie anfängst mit der mit der KI Bildung und das finde ich irgendwie so crazy, wie da jetzt diese diese Wege auseinander gehen. Hast dann irgendwie Mitarbeiter, die mit Agents und Co arbeiten und andere klicken sozusagen noch in den UIs umher. Und ich habe das Gefühl, das sind langsam fast schon Lebensrealitäten, die die sich dort unterscheiden. Also wie Sachen angegangen werden, wie du Sachen denkst, Von okay, ich kann das irgendwie in Paket verpacken, ich schick das im Agent 30 Minuten später ist das fertig. In der Zeit mache ich das versus ja also ich blog mir jetzt mal ein 2 Stunden und dann nehme ich mir die Liste, mache eine Excel Tabelle und irgendwie geht es so an.

Florian Baader:

Und vielleicht das krasseste ist, wo ich gerade auch überlegen bin, aber es ist ein bisschen anderes Thema durch die Hochzeit bin ich jetzt auch am überlegen, wie man auch so das Privatleben organisiert und wir haben uns jetzt tatsächlich ein Google Workspace Abo geholt für die für die Ehe, weil irgendwie finde ich Privatleben halt auch sehr viel von Business irgendwie so, wenn du irgendwie was mit Immobilien machst oder dir ein Auto kaufst oder keine Ahnung was machst, irgendwie so sehr strukturiert und ich hätte, ich weiß doch nicht, was macht Claude Code irgendwann im Privatleben? Was kannst Du dann damit alles

Christoph Magnussen:

Also ich hab ja ein paar Jahre voraus und Patchwork und hab schon eine Ehe durch und insofern, wir hatten auch ein Workspace und haben auch wieder ein Workspace, na klar. Also wir haben das sehr früh damals gemacht als Tool. Meine Ex-Frau damals überredet...

Florian Baader:

Du bist mir schon 'ne Nase schon wieder.

Christoph Magnussen:

Das hab ich schon gemacht. Ja. Und ich kann dir auf jeden Fall sagen, diese Agents sind im Privatleben sehr leistungsfähig. Also wenn's geht und so weiter. Wenn Du ein bisschen weißt, was Du tust, dann kannst Du halt auch genügend Sachen anonymisieren.

Christoph Magnussen:

Weil irgendwann wird gesagt, komm, Du wirst auf die Kita treffen, auf die Schule treffen und da triffst Du auf den deutschen Datenschutz. Der funktioniert dann so und dann hör ich auch auf zu renten, dass alle sagen, gut, gefährlich dürfen wir nicht machen wegen Google darf man nicht und so weiter. Ja. Und dann wird aber der Screenshot per Whatsapp in der gesamten Gruppe geteilt. Ja, ist dann gibt's halt harte Lösungen in Deutschland, die die dann zwar datenschutzkonform sind, die aber technisch von der von der Usability so schlecht sind, dass Du, also ich verweiger das, diese Sachen zu...

Christoph Magnussen:

Ich kann ich schaff's nicht. Also ich krieg's, ich das macht mich das macht mich so traurig, dass ich denke, okay, müsste die Zeit haben, da was zu tun. Und ich glaube, da gibt's ja wiederum sehr viel Potenzial. Da wirst Du über deine nächsten Projekte dann irgendwann stolpern. Ja.

Christoph Magnussen:

Ich sehe das schon kommen.

Florian Baader:

Ja und irgendwie, wenn man sich überlegt, so Zeit ist ja irgendwie das Wertvollste, was man hat und irgendwie, ich hab da auch wirklich keinen Bock, dann mit so dieser Privat-Orga rumzu... Aber ich mein irgendwie also dann fand ich's noch mal verrückt, wenn jetzt so Agent sozusagen ins Privatleben auch noch reinkommen. Das ist ja sozusagen noch mal so die nächste die nächste große Hürde, sag ich mal, wo man dann irgendwie weitergeht, wenn Du auf einmal dann deine Kindergeburtstagsparty mit Claude Code die Teilnehmerlisten verwaltest, irgendwas schickst.

Christoph Magnussen:

Muss man gut überlegen, ja.

Florian Baader:

Ja. Aber dann sind sie wirklich nicht mehr wegzudenken.

Christoph Magnussen:

Nee, also tatsächlich die Schere, von der Du gesprochen hast, das das worum's mir hier auch geht, die ein Stück weit zu schließen beziehungsweise so viel Leuten Lust zu machen, die halt eigentlich vorher nicht in dem Bereich wären. Und das machen wir auch immer wieder. Hatten gestern so Finaltag von so einem so einem Kurs, den machen wir 12 Wochen und da sind etliche ganz woanders gestartet und man am Anfang sagt, ich mache nichts mit Coding Agents und ich kann das nicht. Hin zu jetzt alle haben nachher in der Firma was gemacht. Kleine Projekte, große Projekte, darum ging es gar nicht und der Einfluss ist dann natürlich gewaltig, weil das zu großen Teilen auch Leute sind, die Menschen führen.

Christoph Magnussen:

Und wenn du dann nachher ein paar 100 Leute damit erreichst, dann kriegst Du dann auch wirklich Bewegung rein. Und das sehe ich mittlerweile auch als als eine Verantwortung, wirklich Leuten Lust drauf zu machen, sich da zu trauen. Deswegen Frage und Gedanke, die ich grad hab, wenn Du es mal vergleichst mit deiner Mail, die Du deinem Vater geschickt hast, erklär mir mal was übers Internet. Was hat dein Vater damals erklärt, was dazu geführt hat, dass Du sagtest, boah geil, da will ich noch mehr verstehen?

Florian Baader:

Boah, ich glaube irgendwie, wir nutzen das tatsächlich bei uns auch als Interviewfrage, wo wir fragen, was passiert eigentlich, wenn Du Google Punkt com irgendwie in deinen Adressleiste aufkommst. Und ich hab das Gefühl, dass so diese da ist sone unglaubliche Tiefe drinnen. Also wie viel Server da miteinander sprechen müssen, wie viel Technologielayer dazwischen sind, damit du am Ende dieses Google Logo und diese leere Texteingabe quasi bekommst.

Florian Baader:

Und ich glaube, das war das, was eigentlich mich so am meisten interessiert hat, dass das so es ist so simpel sozusagen, was am Ende rauskommt. Papa hat es immer damals gesagt wie son Unterschied, sag ich mal, zwischen mir und meiner Mama dann, weil meiner Mama ist wichtig, dass irgendwie Gerät am Ende funktioniert und ich will wissen, wieso das funktioniert und wieso es auch irgendwie nicht funktioniert. Und ich glaube, bei Internet, bei Technologie, da holst Du ganz viele Leute ab, die wollen am Ende nur, dass es funktioniert. Und Du kannst aber unglaublich viel graben, zu verstehen, wieso wieso nutzen jetzt irgendwie alle Google? Was waren die technologischen Unterschiede zu ganzen alternativen Suchplattformen, die es irgendwie damals gab?

Florian Baader:

Und ich glaube, dass die Erklärungen da einfach kein Ende genommen haben. Du kannst einfach immer tiefer graben, Du kannst immer mehr verstehen und son Puzzle zusammensetzen und irgendwie nachdem diese technologische Entwicklung jetzt auch so crazy schnell ist und ich hab das Gefühl, wir kommen da jetzt langsam in son irgendwie hyperexponentielle Entwicklungsgeschwindigkeit irgendwie rein. Das Gefühl, das hört ja nie auf. Also Du kannst ja nur noch Warum Fragen stellen die ganze Zeit und da tiefer graben damit.

Christoph Magnussen:

Ich hab einen Gedanken, der mich umtreibt, weil ich mich gefragt habe, okay, wie viel wie viel mehr Menschen sind in der Lage damit, Dinge zu tun? Und das ist der Unterschied, den ich momentan sehe, wenn jemand plötzlich realisiert, ach krass, ich hab hier eine Idee und ich kann jetzt nicht mehr einfach nur irgendwie eine dumme Frage stellen oder eine gute Frage oder überhaupt eine Frage stellen, sondern ich kann quasi ein Auftrag geben für eine Idee. Das heißt, meine Intention, die ich habe und die Richtung macht was. Und die Menschen, die am Anfang des Computerzeitalters verstanden haben, ja, das Ding rechnet zwar mit Nullen und Einsen, also eigentlich alte Arithmetik und es ist uralte Mathematik und nicht höhere Mathematik, die aber eben verstanden haben, dadurch kannst Du das skalieren, die haben Compute als Power verstanden. Da gab's ja ein paar.

Christoph Magnussen:

Und die haben dann halt komplizierte Fragestellungen formuliert, die nachher nur ein Computer lösen konnte.

Florian Baader:

Mhm.

Christoph Magnussen:

Dann gab's die ersten Programme, die es nachher übersetzt haben, so muss es nicht mehr 0 und 1 und so weiter. So und jetzt sind wir an' Punkt und da scheiden sich gefühlt die Geister, wo Du nem Claude Code, ' Agent, ' Harness sagen kannst, bau das. Und der kommt da schon sehr nah ran. Und dann sagen natürlich einige Menschen, ja, aber das ist ein ineffizienter Code, der schreibt Dark Code, der ist nicht genutzt. So.

Christoph Magnussen:

Und ich denk mir halt so: If it’s stupid and it works … it’s not stupid. Sagt dann meine PA früher immer. Mhm. Und dadurch, dass mehr Menschen, deutlich mehr Menschen jetzt in der Lage sind, eben diese Dinge umzusetzen, glaube ich, bewegt sich da was. Und das halte ich für den Unterschied. Auch den Unterschied zum Internet beispielsweise.

Christoph Magnussen:

Weißt Du, wo Du, musstest Du immer noch wirklich verstehen, wie wird's zusammengebaut und zusammenbauen. Das war mehr Communication, auch super Powerful, aber das ist so der Blick, den ich da drauf hab grade.

Florian Baader:

Ja. Also ich bin da vollkommen bei dir, wenn wir so KI ROI Sachen machen, sagen wir eigentlich immer, es gibt so 3 Dinge, time saved irgendwie dann Enablement, also Du kannst neue Dinge tun, die Du davor nicht konntest und dann quasi noch irgendwie Risk Reduction. Also Du holst dir irgendwie noch eine Meinung von der KI und die ganze KI Debatte dreht sich, glaube ich, völlig zu viel, völlig nutzlos irgendwie eigentlich nur dieses Time Saved Thema, weil das Enablement halt einfach super crazy ist. Wir haben jetzt bei uns so ein Company Monorepo eingeführt, wo quasi der ganze Plattformcode, Dokumentation, die Webseite et cetera drüber laufen, heißt ganz viel Enablement. Zum Beispiel kann ein Support Mitarbeiter selber quasi ein Claude Code losschicken und sagen hey ich habe hier ein Ticket, kannst Du mal irgendwie einen Fix dafür schreiben?

Florian Baader:

Gleichzeitig merkt man schon, dass Du Du Du gehst eigentlich immer mit diesem mentalen Modell dran, dass der Mensch die Verantwortung trägt und KI irgendwie der ausführende Ast, sag ich mal, ist. Der Mensch hat aber irgendwann die Kompetenz gar nicht mehr, das zu beurteilen. Also beispielsweise hat jetzt ja bei uns jemand im Marketing baut dann irgendwie neue Funktionen in die Plattform ein, wie wir Newsletter verschicken und Claude schlägt dann halt irgendwie was vor und dann der nimmt halt quasi random oder bestklingendere Optionen und dann schaut irgendwann der CTO drüber und sagt, so rewind, machen wir jetzt einmal noch mal von vorne, weil das war irgendwie nicht so ganz der richtige Punkt. Und da da wird's für uns dann noch mal so spannend, so was sind dann am Ende die oder wir erleben da gerade die Hürden sozusagen von diesen Enablement? Also wo sind dann wiederum die Grenzen?

Florian Baader:

Was haben wir jetzt gemacht? Wir haben jetzt halt ein Skill gebaut, der Claude bisschen mehr anleitet in wann darf der Mitarbeiter anfangen Code zu schreiben, weil wichtig ist quasi auch diese der Mitarbeiter baut da jetzt irgendwas. Ist es wertvoll am Ende der Code oder die finale Idee? Weil ich mein, wir kennen das alle, wir wir bauen mit der KI in irgendwas und in der Zeit merken wir, das war eine dumme Idee, noch mal und so weiter. Das heißt, das Wertvolle ist eigentlich nicht das Stück Code, weil ich könnte dieses Spec sozusagen ja wieder genauso reinschmeißen, sondern wertvoll ist eigentlich die Specs, die rausgekommen ist.

Florian Baader:

Das ist das finale mentale Modell, wo Du mal überlegt hast und gesagt hast, ist das wirklich der Punkt? Und da sind wir gerade so viel am Überlegen irgendwie wo Enablement ja, aber was was sollen also die also quasi ist es dann, Du baust es, Du reduzierst es wieder auf die Spec und Du schmeißt den Code weg und dann baut ein Techniker noch mal mit' fundierteren Blick mit der Spec sehr schnell das Feature oder mercht Du am Ende quasi von jemandem, der der keine Ahnung hat, bringst Du das direkt im Production. Und das geht natürlich an vielen Stellen dann irgendwie nicht.

Christoph Magnussen:

Das war ja die Idee damals von Java, glaube ich, JavaScript zu sagen, Du hast oder Visual Basic vor allem auch, Du hast eine Sprache, die halt deutlich schneller ins Prototyping geht, bevor jemand was nachbaut. Und dadurch wurde es halt superlangsam, weil einige natürlich gesagt haben, warum brauchst Du's nicht direkt? Ja. So, warum gehst Du nicht direkt an die Quelle? Und dann sag ich als Gegenargument, genau, was Du auch sagst, ja, aber wenn mehr Menschen auf Ideen kommen und das ist schwierig, richtig gute Ideen zu finden, dann ermöglichst Du denen damit einen Weg, leichter ranzukommen.

Christoph Magnussen:

Dann brauchst Du nicht die die supertiefen Detail Nerds, die sagen, geht oder geht nicht. Und wir sind beispielsweise, ich bin auch über diese Monorepo-Idee gestolpert Dezember, als das mit Opus wirklich gut funktioniert hat und hab das alte Paper, das fiel mir dann wieder ein, dass es von Google 1 gab. Also ich war das überlegen, okay Monorepo, wie macht das? Und dann war ich so, ich glaub, Google macht das. Dann hab ich gesehen, wie viele das mittlerweile machen.

Christoph Magnussen:

Das hat mich überrascht. OpenAI selber macht das. Meta macht das mittlerweile, Uber macht das. Wirklich etliche Companies. Und Google hat, glaube ich, 2015 oder so dieses Paper veröffentlicht.

Christoph Magnussen:

Was waren 10 schon? Ach früh. Eine damals hatten die 1000000000 Zeilen Code. Jetzt sind es 2000000000 Zeilen Code. Und jetzt kann man sagen, ist ein Monorepo, ja okay, klar, aber es ist halt durch nur durch Tools managebar, ne.

Christoph Magnussen:

Also das ist unmöglich, ansonsten zu überblicken. Und ich glaub, das ist für viele so überwältigend, dass sie sagen, was soll das? Und dann sage ich wieder, ich reduziere es dann immer oder kannst ja mal challengen und ich hab ein paar andere Ideen, würde ich gerne gechallenge haben. Ich so, Du, am Ende können die LLMs Ordnerstrukturen lesen und Textdateien lesen, weil das ist, was Code ist. Das bedeutet, wenn jemand in 1 Ordnerstruktur und Textdatei denken kann, fein.

Christoph Magnussen:

War ein Teilnehmer, der sagte, das hat bei ihm den Knoten gelöst. Er hat nichts mit Coden zu tun, hat jetzt nach 12 Wochen seinen gesamten Kram in' Monorepo organisiert. Als jemand, der vorher nichts damit zu tun hatte, committet und so weiter, bestimmt 1000000 Fehler gemacht, aber it works. Und da sag ich, dann zählt diese Idee, weil er macht ja damit jetzt nicht Deployment von von von Airline Tickets oder irgendwas, sondern organisiert halt sein Leben damit.

Florian Baader:

Ja, ja. Ich glaube, also der Punkt ist, man hat ja, das haben wir jetzt auch gelernt, irgendwie die Leute haben erstmal sehr viel Angst, wenn jetzt nicht Techniker sind vor diesem ganzen Git Zeugs und irgendwie diesen klassischen Tech Thema, aber in Wirklichkeit ja es ist halt wie irgendwie eine Google Drive, wo du jede Änderung kommentieren musst, was du jetzt hier gerade gemacht hast und die bewusst eincheckst und dann auch quasi dann die Änderung von deinen Kollegen irgendwie mit raus bekommst. Das heißt, ich glaube, muss am Ende auch kein Monorepo sein. Der essenzielle Punkt ist genau der, den du gesagt hast. Erst mal ist es einfach gut lesbar für ein LLM.

Florian Baader:

Es ist einfach zu navigieren, ein großer Standard und dein LLM kann nichts kaputt machen. Und ich glaube, das wird auch noch in viele andere Systeme Einzug haben müssen, dass quasi, wenn du AI mehr und mehr Kontrolle gibst, dass Dinge quasi vorwärts und rückwärts auf so 1 Zeitachse zu bewegen sind. Zum Beispiel, Du hast ein CRM, da haben quasi nicht viele, wenn Du die API nutzt, da eine undo Option. Aber eigentlich, Du sagst, gibst Du jetzt einem Agent Vollzugriff auf ein System, dann hast Du halt natürlich immer Schiss, der könnte da was löschen, der könnte da was kaputt machen. Wenn aber alle Systeme, die wir am Ende haben, irgendwie so versionskontrolliert sind, kann ich an der KI viel mehr Zugriff geben und halt sagen, ja klar, wenn ein Fehler passiert, rolle ich einfach zu jedem alten Zeitpunkt zurück.

Florian Baader:

Und das ist das, was ja Git irgendwie so cool macht. Der Agent baut ein Scheiß und sagst, weißt Du, was machst Du rückgängig? Und es gibt genau die Möglichkeit, zurückzumachen. Und auf der anderen Stelle, wenn Du Vibe codest ohne Git, dann baut er da irgendwas und Du weißt und Du checkst vielleicht nicht so regelmäßig ein, der baut weiter, er baut weiter und dann so richtig falsch abgebogen und Du weißt gar nicht mehr, wie Du jetzt zurückkommst auf deinen deinen Status quo.

Christoph Magnussen:

Aber ich glaube, die Schwierigkeit für die meisten liegt darin, also wirkt halt super technisch. Also das das war in der Firma unsere unsere Lead Grafikerin, die war so, als ich vor' halben Jahr meinte, Du wirst Code committen, sie sagt, no way. Die ist committed mit der Abstand am meisten mittlerweile und also find das richtig geil. Was ich nicht wusste, am Anfang ist ja das Git, also für mich ist es auch schon sehr lange da und dann hab ich mich gefragt, wirklich? Und war dann so, nee, also irgendwie, ich kann mich früher nicht dran erinnern.

Christoph Magnussen:

So, Du hast es ja auch irgendwo aufm Server gespeichert, abgerufen und so weiter. Und dann habe ich noch mal drüber nachgelesen und kam drauf, es ist ja der Linus Torvalds gewesen von Linux, der einfach Pain in the Butt hatte, als die ihm Geld berechnen wollten für die Server. Und jetzt frage ich mich halt, wir machen in den Firmen mit' Sharepoint, mit Drive und Co, haben wir im Grunde genommen den Server keine sauberen Versionen, außer bei bei Google Docs, wo wirklich von Anfang an auch die Versionen drin sind, die Du aber nicht ansurfen kannst, zumindest auch nicht über die CLI. Und wenn Du Git überträgst, hast Du den Vorteil von, es ist alles lokal. Du hast die Regel, es wird alles immer wieder drüber geschrieben.

Christoph Magnussen:

Das bedeutet, das Einzige, was Du hast, ist eine wachsende Datenmenge, die aber relativ gut managebar ist, weil es kleine Datenpakete und Hashes sind. Die Frage ist halt nur, wenn Du jetzt nachher in relationalen Datenbanken, NoSQL Datenbanken, Vektordatenbanken, dann hast Du noch dein Git, wo die Logiken drin sind. Bist Du mal an eine Grenze gekommen, wo Du gemerkt hast, okay, da entsteht jetzt eine Verwirrung oder sagst Du, nee, weil der Logik Teil, das ist ja quasi der, in dem ich engineere und schraube. Wenn, dann gehe ich nur zurück, die Logik neu zu definieren und die bestimmt nachher, was der Rest macht oder hat sich das mal irgendwann mal in die Quere bekommen?

Florian Baader:

Also ich glaube, den bei den Datenbanken hast Du eigentlich dasselbe Thema. Wenn Du Datenbank gut aufgesetzt hast, dann hast Du quasi auch nennt sich Point in Time Recovery. Also Du kannst zu jeder Millisekunde sozusagen zurückspringen und deine Datenbank zurückrollen. Das kann sone Datenbank wie Postgres, aber teilweise manche Datenbanken können das nicht und dann dir vor, Du gibst halt deinem Agent Access auf die Database und dann Fuhrwerk da rum und dann sagst Du, fuck, mein letztes Backup ist irgendwie 12 Stunden her oder so?

Christoph Magnussen:

Gott sei Dank, Testdatenbank, aber da war Opus 4.5. Ja. Und halt wollt die Datenbank schneller machen.

Florian Baader:

Genau und ich glaube, also quasi da wär's gelöst. Bei den Datenbanken kommt's eben drauf an. Was ich krass finde, es gibt ja so viele Dateiformate, die eben nicht textbasiert sind. Das heißt, zum Beispiel grade Marketing, Photoshop Dateien und solche Geschichten. Und Git arbeitet ja auch am Ende quasi mit den Diffs.

Florian Baader:

Also es berechnet die Differenz dazwischen von deiner Änderung versus dem Stand davor. Und das kann sich in LLM angucken. Der sieht, wenn Du Code committest, sagt er, ah okay, Du hast in der Datei die Zeile hinzugefügt und so weiter. Wenn Du aber manche Dateiformate hast, die quasi nicht im Hintergrund auf Text basieren, so zum Beispiel auch das ganze 3 D Thema, was halt irgendwie so auf Punkten und et cetera läuft, da reicht, da kann dieses die KI auch nichts mit dem Diff anfangen.

Florian Baader:

Also es ist nicht zu verstehen, was in deiner Photoshop Datei geändert hast. Und das Spannende ist halt schon, dass irgendwie damit diese ganzen total langweiligen alten Standard Textformate sozusagen jetzt son riesen Aufwind haben, ne. Also grade auch so so Tools wie Obsidian, was einfach irgendwie nur Markdown Dateien anzeigt und so. Du hast irgendwie so Hyperadvanced Notion und keine Ahnung was und eigentlich geht's wieder so zurück zu, ja, weißt Du was, machen wir einfach Markdown Databases, ja kann ich einfach eine CSV einchecken und damit irgendwie arbeiten und CSV ist halt tausendmal geiler als Excel, weil es einfach textbasiert ist und die KI den Diff sauber berechnen kann und ich glaube, das wird diese Software treffen, die dann jetzt selber entweder auf ein guten Standard setzen in Zukunft oder selber crazy AI bauen müssen oder sie sind einfach komplett abgehängt. Aber nicht nur die Software, sondern auch ganz viel andere Software, die wir einkaufen, wo man quasi immer mehr hinterfragen kann.

Florian Baader:

Okay, ihr sagt, ihr habt es gibt so den Standardweg, der ist nicht supersexy, aber er ist vollkommen AI kompatibel und es gibt so diesen Extra Way, den man früher gegangen ist, ein klein bisschen schneller zu sein, Photoshop irgendwie ein bisschen optimiert oder sowas. Okay und ist dieses bisschen optimiert mehr wert als volle AI Unterstützung? Und nimmst du dann halt lieber, weiß ich jetzt nicht, ob das was da so die besten Beispiele sind dafür, aber halt irgendwie ein blödes Beispiel, ist irgendwie ein Gimp, was halt irgendwie dann Open Source ist und wo vielleicht ein Claude Code damit sauber umgehen kann oder halt son super Agentur Tool. Mit was bist Du am Ende dann schneller mit deiner Aufgabe? Und so wird's auch mit diesen Nischen Programmiersprachen sein.

Florian Baader:

Sagst früher gab's sowas wie R zum Beispiel, so eine Data Science Sprache und da warst halt ein Ticken schneller oder besser oder fehlertoleranter, aber wenn Du dann fast deine gesamte AI Unterstützung verlierst, dann gehe ich halt wirklich so viel zurückgeschlagen. Das heißt, Du landest halt am Ende immer mehr bei so Toolsprachen und Standardmonopolen, wo Du dann jetzt irgendwie diese volle AI Unterstützung hast. Also natürlich gerade React Python irgendwie HTML. Mein jeder, der irgendwie mal so Slides und so weiter gebaut hat, der weiß, dass quasi da HTML viel geiler aussieht, als wenn du dann PowerPoints generieren lässt, weil es halt wieder ein proprietäres Format ist, was irgendwie komplex ist und und ja.

Christoph Magnussen:

Ja und trotzdem darf man nicht vergessen, dass die die meisten Standards, auf denen wir heute bauen, auch Postgres sich eher durch Zufall so weiterentwickelt haben, nicht weil eine Person gesagt hat oder eine Firma, wir treiben's weiter, sondern am Ende war das durch mehrere Leute, die Open Source mäßig über ein Jahrzehnt das Ding einfach mal ein bisschen weiterentwickelt haben. Und heute denkt man so, ja, das war schon immer da. Ja. Nee, war's halt nicht. Ja.

Christoph Magnussen:

Und ich glaub, das ist das ist das, wo ich sag, es lohnt sich doch noch mal hinter die Kulissen zu gucken für Leute, die sagen, oh, ich bin kein Techie. Nach diesen Storys zu gucken, festzustellen, das waren dann doch einzelne Menschen, die eine gute Idee hatten. Mhm. Warum? Ne, weil irgendwas war painful, vielleicht auch zu schauen in Firmen.

Christoph Magnussen:

Es gibt immer mal Leute, die haben Ideen. Ja. Und von der von der Struktur her, weil wir vorhin darüber gesprochen hatten, das würd mich interessieren, wir wie auch viele andere, wie auch ihr haben eben auch diesen Monorepo in quasi Layer 1. Layer 2 sind dann die Arbeitszustände, also die Datenbanken. Layer 3, da wird drauf gearbeitet, Agents und Menschen.

Christoph Magnussen:

Layer 4, die Artefakte, die erstellt werden und die Learnings, die daraus generiert werden zurück. Der Layer 2, die Datenbanken. Ich saß hier im Büro am Sonntag, ich glaube halb 5 morgens und hab mich 5 Stunden mit Fable mal rein begeben, als es dann wieder freigeschaltet war und hab denselben Take wie Du gemacht, hab gesagt, eigentlich hätte ich gerne wie eine zentrale Datenquelle für die Arbeitszustände. Ich rede jetzt von, wenn Leute sagen, was meinst Du damit? Florian ist ein Geschäftspartner von Christoph, ne.

Christoph Magnussen:

meinGPT ist ein Kunde von und so weiter. Ja. So, also wirklich da, wo das abgespeichert ist. Du hast gemerkt bei euch, das Ding ist einfach zu groß geworden im Sinne von der Agent kann nachher nicht mit sondern verliert sich irgendwann da drin. Wir reden jetzt ja vermutlich auch, Du hast eine relationale Datenbank genommen und geguckt, wie groß kannst Du die skalieren.

Christoph Magnussen:

Ich will jetzt deine Erfahrungen daraus anzapfen, um nicht denselben Fehler zu machen.

Florian Baader:

Ja, ja genau, also was wir eben probiert hatten, war eben auch Januar war so die Idee okay, jetzt wo man natürlich irgendwie alles bauen kann, das war glaube ich der Ende der Zeitpunkt, wo wir gemerkt haben, okay, jetzt bist du in so Code Bases über 100000 Lines of Code sag ich mal immer noch gut und sauber unterwegs. Jetzt kannst Du son richtig geilen Scheiß bauen.

Christoph Magnussen:

Das war schon ein Moment ne. Da ist auch OpenClaw, ne. Peter Steinberger, der ist der hat nicht mehr geschlafen und hat dann OpenClaw gebaut in der Zeit. Also da war richtig was los.

Florian Baader:

Ja. Und genau dann dann sind wir dort natürlich auch auf die gegangen. Dann habe ich mir Ärmel hochgekrempelt und gesagt, ich baue jetzt hier so ein super Central Company Operating System und die Datenbank ist da nicht so wirklich das Problem, muss man sagen, sondern wenn du diese Datenbank muss ja am Ende auch gefüttert werden von Leuten und du kannst immer sehr gut sage ich mal mit Du kannst natürlich irgendwie eine Company Datenbank aufbauen und da sagen, du arbeitest nur mit KI in dieser Datenbank. Du hast damit aber das Problem, dass du die Sachen nicht siehst, die du nicht fragst. Blöd gesagt, wenn du auf so eine Dashboard Seite gehst, dann und du hast das irgendwie so gebaut, dass dir die Fehlermeldungen angezeigt werden, wenn da was passiert, dann fallen sie dir ins Auge.

Florian Baader:

Wenn du heute vergisst, mal Claude zu fragen, ob's denn Fehlermeldungen gibt, dann siehst du das einfach nicht. Das heißt für mich, ja auch ein Stamm an Mitarbeitern, die verschieden stark mit AI gehen, du brauchst Oberflächen dafür und das ist immer noch verdammt viel Fleißarbeit alle Oberflächen dieses ganze Management zu bauen. Die Datenbank hat damit nicht unbedingt ein Problem, sondern Claude hat oder grundsätzlich AI hat damit ein Thema, wenn Du versuchst alles in einen Teil zu stopfen, dass dann dieses Nachschärfen, dass das wirklich sozusagen richtig gut funktioniert am Ende dann schiefgeht. Und wir haben dann da viel rumprobiert. Wir haben dann Data Lake, haben auch versucht irgendwie mit aufzuziehen.

Florian Baader:

Du kriegst dann schnell auch ein Thema rund Security, also und Permissions, wenn Du sagst, alles in eine Datenbank, okay, wert dann Access auf was? Also machst Du dann auch noch Lohn und Gehalt mit rein und quasi, ne, dann wird's irgendwie super sensibel und wie gehst du damit Und wir sind jetzt am Ende in der Architektur gelandet, wo wir quasi mit 3 Hauptsystemen irgendwie arbeiten. Das heißt, haben sozusagen 3 Company OS gebaut. Das eine ist halt alles rund quasi Pre Sales, Leads, Marketing, Growth, Ads, wo quasi diese ganzen Daten drinstehen. Wir haben gemerkt, dass die sehr, sehr eng gekoppelt sind Und das andere ist dann quasi direkt mit bei uns im Produkt eingebaut, wo quasi sehr viel rund Billing, Customer Health, Adoption Scores von unseren Kunden zum Beispiel mit abgebildet sind.

Florian Baader:

Wo wir eben gemerkt haben, Du baust son Company Betriebssystem und das hat ja total viel Abhängigkeiten in andere Tools rein. Mhm. Das geht dann auch verdammt oft kaputt. Also Du darfst diesen Aufwand nicht unterschätzen, weil Du Du hast so viel Sachen angezapft und überall ändert sich son bisschen was und Du bist dann ständig dabei, dieses Betriebssystem zu reparieren, sag ich mal. Und wir sind jetzt bei dieser finalen Struktur gelandet.

Florian Baader:

Ah, genau, letzter Punkt ist da noch ein CRM, weil CRM ist dann sozusagen die Basiskomponente, denn der Kunde, der einmal anfragt, der frägt ja quasi im Pre-Sales an und der ist ja bei uns immer noch Kunde, wenn wir mit dem zusammenarbeiten. Ja, und das ist jetzt irgendwie so der finale Status, damit bin ich super happy. Nachdem der Code dort sehr eng zusammenlegt, gehen die Sachen auch nicht kaputt, weil man das gut überprüfen kann bei jeder Änderung, dass das ganze Gesamtsystem noch funktioniert. Und die synchronisieren noch son bisschen untereinander, aber das ist jetzt so, sag ich mal, die geilste Company Architektur, die ich dann bisher gefunden hab. Also quasi einmal Pre- sales, einmal rund Product, das wäre dann halt, wenn Du jetzt, weiß ich nicht, in eurem Fall als Dienstleister, Agentur, dann irgendwie auch natürlich rund die ganzen Projekte, wo steht gerade was?

Florian Baader:

Bist in Aufgabenplanung, Management et cetera. Und dann noch so ein CRM in die Mitte und ja also versuchen möglichst viel zu zentralisieren, das ist key und möglichst viel wieder AI lesbar zu machen und nicht deinem sozusagen 18 MCP Server zu brauchen, deine Daten, deine Fragen zu beantworten, weil da bist Du auch nicht mehr fertig.

Christoph Magnussen:

Ich habe mich heute Morgen gefragt, also das ist spannend, weil ich denke natürlich immer noch, Du könntest die eine bauen, aber Du hast recht, alleine mit den Permissions, wer da was sehen, hättest Problem irgendwann. Mhm. Und dann hab ich mich gefragt, was wär, wenn man's mal so ganz umdenkt und man macht das halt super chaotisch? Weil das war ja 1 der großen Probleme, als das Web plötzlich nicht mehr Internet war mit' statischen Seite, bisschen HTML und fertig, sondern auf einmal waren es Milliarden von Suchen und dann wurden es auch noch Einträge. Das heißt, so sind ja die No SQL Datenbanken entstanden, ne, Mongo DB und was weiß ich nicht, ne.

Christoph Magnussen:

Also alles, was non nicht relational ist. Und ich glaube, das brauchte, ich meine, es waren Amazon waren die Ersten und Google, die darüber geschrieben haben, ziemlich zeitgleich und die da wirklich komplett neue Datenbankwelten geschaffen haben, so was nachher die ganzen Cloud Infrastruktur geworden ist. Deswegen sage ich immer wieder, wenn jemand sagt, nee, das ist nur der Rechner von wem anders, sag ich nicht ganz. Das ist so, der hat halt ein größeres Auto und Flugzeuge. Aber das das fand ich noch mal spannend und ich frage mich, ob's...

Christoph Magnussen:

Wir sind gefühlt alle noch in dieser Experimentierphase. Du hast Skills, Du hast Agents, Du schickst sie los, Du schickst sie irgendwo drauf. Und ich schwanke regelmäßig zwischen, ach, scheiß drauf, wir behalten jetzt das Tool und dann denk ich so, boah, aber das kostet 80000 Euro im Jahr. Nee, ich bau das selbst. Dann sitze ich am Wochenende und dann komm ich wieder an eine Grenze.

Christoph Magnussen:

Ja. Und es muss doch ein Weg geben, ne, weil jetzt auch die Vektordatenbanken, die halt nur deutlich aufwendiger sind, es muss auch ein Weg geben auf der einen Seite das das Stochastische, Chaotische und das sehr Strukturierte beisammenzuhalten. Wobei ich immer wieder denke, das kann eigentlich nicht sein. Kriegst Du hin?

Florian Baader:

Ich glaub wichtig ist, ich war damals, also das war bei uns dann ja auch in der in der Unizeit dieses Thema No SQL und ich fand es damals irgendwie schon immer son bisschen befremdlich. Und ich hatte damals immer son bisschen das Gefühl, man ist einfach zu faul, sich ein Schema auszudenken, eigentlich ist die Welt nicht so chaotisch. Du verkaufst ja nicht einmal Eiscreme und im zweiten Fall einen IT Change Projekt, sondern es gibt irgendwo Gemeinsamkeiten. Und ich würde stark dafür plädieren, ich bin für diesen Mix, aber quasi Du darfst AI nicht in den luftleeren Raum stellen und irgendwie irgendwas machen lassen, sondern Du musst immer wieder dir Zeit nehmen, sozusagen zu restrukturieren und sagen okay, haben jetzt hier echt lange an diesem Projekt gearbeitet, kannst Du noch mal ein Schritt zurücktreten, alles noch mal neu einordnen und eine Ordnerstruktur schaffen, damit Du dich selber wieder besser auskennst. Weil ich mein, wenn Du irgendwie auch mal was hast, dann denkst Du irgendwann so viel Changes irgendwie 200 Changes und denkst Du, ich weiß selber jetzt gar nicht mehr so genau, was da jetzt alles mit drin steckt und so.

Florian Baader:

Und zum Beispiel Postgres als Datenbank kann ja sowohl sehr strukturiert Informationen haben als auch unstrukturierte Metadaten zum Beispiel. Und ich glaube, Du musst es quasi mit AI oder schaffst es einfach super gut, a Du startest vielleicht im Chaos Excel Dateien irgendwas, gib mir mal eine Initialordnung, gib mir mal ein Schema, lad das mal rein. Dann sagst Du okay, gut, jetzt wir probieren hier mal son bisschen rum, bisschen Metadaten, wieder bisschen Chaos reinlassen und dann wieder sagen okay und jetzt finde ich mir mal wieder die Muster im Chaos und bring's mir wieder in mein Schema. Das heißt, für mich ist das son Ping Pong aus Exploration und dann irgendwann muss man sich auch, glaub ich, wieder eingestehen, nee, ich brauch jetzt wieder ein Pattern und irgendwie damit ich und mich und die AR mich gut auskennen. Das heißt, ich glaub nur mich fragen, da ja auch Leute so quasi, schaffst Du jetzt alle Systeme ab?

Florian Baader:

Ja. Also quasi brauchst kein CRM, brauchst kein ERP, du brauchst gar nichts, Du nimmst irgendwie son sone KI und dann macht macht die irgendwas und auch in der KI tut es so verdammt gut, wenn irgendwo in' CRM ein Kunden definiert ist und sie diesen einen Kunden findet und mit dieser einen Kunden ID wieder durch diese Daten irgendwie wandeln kann und der nicht einmal so geschrieben ist und einmal so und einmal so und einmal so. Und das ist glaube ich wichtig, also so dieses der Mittelstand sagt ja auch manchmal irgendwie, wir können doch nicht AI einsetzen, weil wir haben noch Chaos. Das sind bei uns oft so dieser Stand.

Christoph Magnussen:

Ja, das höre ich auch so.

Florian Baader:

So brauchen wir erst ein Data Warehouse oder Data Lake oder können wir schon mal mit AI was machen? Und dann sage ich eigentlich immer, nee, so viel Integration und Zeugs gebaut, Du kannst, sagen wir mal jetzt mit meinGPT oder sowas schon mal loslegen. Wir verbinden schon mal ein paar Systeme, Du legst los, aber Du wirst nach ein paar Monaten dein Ordnungsprojekt starten. Du wirst merken, Shit, irgendwie ich hab hier 17 Standorte, paar Firmen dazu gekauft, die da hatten ein anderes ERP, ich muss da Ordnung reinbekommen und dann wird die AI auch wieder besser. Das heißt, für mich ist das Learning, Du kannst im Chaos anfangen, Du wirst aber schnell merken, dass Du für Ordnung sorgen willst, wieder besser mit AI zu arbeiten.

Florian Baader:

Und ja, ich mein, das wie wie bei Mitarbeitern auch. Du kannst natürlich ohne Struktur mit ganz viel Mitarbeitern arbeiten oder Du denkst halt, irgendwie hätte ich meine Antworten schon gern ein Ticken schneller und ein bisschen mehr irgendwie System da mit drin.

Christoph Magnussen:

Wie ziehst Du oder wie bringst Du das System dazu, sich selber zu verbessern und zu lernen? Also das, ich eben meinte, was bei uns der momentan noch sehr manuell gepushte Learning Layer ist im Sinne von Artefakte sind fertig, Artefakt im Sinne von PowerPoint, Briefing Dokument, Workshop Dokument, I don't know, Learnings vom Kunden. Und dann geht es eigentlich einmal zurück im Sinne von, okay, was war jetzt gut, was war jetzt schlecht, wie bei einem Code und dann geht das wieder in die Logik zurück. Habt ihr so ein so ein Wheel schon drin, dass es zurückgeht?

Florian Baader:

Das ist eigentlich klassische klassische Softwareentwicklung, die du dann damit wieder machst. Das sind sozusagen dieselben Learnings. Du brauchst natürlich deinen Versionsverlauf von der Logik, die du irgendwie damals gebaut hattest. Du musst schauen, dass du möglichst viel Logging und Debugging Daten erzeugst. Das heißt, für die da nicht so tief sind, sag halt irgendwie deinem Claude, Du bist Du musst also versetz dich mal in die Lage, dass Du in ein, 2 Wochen Fehler rausfinden musst, die passiert sind.

Florian Baader:

Versuch mal alles Notwendige mitzuschreiben, was oder das System muss mitschreiben, was passiert, damit Du dort Fehler finden kannst. Und das sind eben zum Beispiel diese ganzen Metriken, wie sich dein System verhält, also wie viel RAM und CPU braucht dein Dings gerade, ne? Gab's Fehlermeldungen? Da gibt's auch bestimmte so Standardsysteme, die alle Fehlermeldungen capturen und das protokollierst Du. Du wirst ganz viel protokollieren, das Verhalten von deinem System zu observern und später sagen zu können, ah, ich habe ein Fehler gefunden.

Florian Baader:

Die Logik meinte eigentlich das und das reale Verhalten von System war das, aka ich kann selber eine gute Feedback Loop machen. Ich glaube, das 2. Wichtige ist, du musst natürlich den Impact messen. Also quasi das eine ist, das System muss sich selber protokollieren, das andere musst du im Impact protokollieren. Das heißt, Du willst, wenn du eine Landingpage baust oder so was, dann natürlich im Claude zu sagen, hey, wir müssen tracken, klicken die Leute auf die Buttons, was für Inhalte werden wie lang anvisiert.

Florian Baader:

Quasi all diese Daten musst Du haben und dann sagst Du dem, hey, ah, letzter Punkt, du kannst der KI selber die Möglichkeit geben danach Experimente zu fahren. Das heißt du sagst dem hey guck mal her, wir machen jetzt mal du überlegst dir mal einen zweiten Ansatz und wir machen den AB Test. Und jetzt kannst du folgendes machen. Ganz einfach, du hast die die beiden Varianten und du sagst, okay, du schaust jetzt mal auf die Protokolle. Was hatte mehr Impact, was hat stabiler funktioniert?

Florian Baader:

Diesen Ansatz wollen wir raustunen und den Ansatz wollen wir dann weiter verfolgen. Und dann bist du in so' klingt total fancy selbstlernendes System, total abgespaced. Aber es ist nichts weiter als das, halt ein klassischer Data Scientist oder Product Manager sonst halt auch macht. Daten sammeln, Hypothesen testen und schauen, was am Ende besser beim Kunden ankommt. Sag's Claude noch, schreib mir ein paar Feedback Forms und schick die raus.

Florian Baader:

Punkt aus, fertig. Also so crazy ist da die Magie jetzt glaube ich nicht.

Florian Baader:

Aber das ist eine Geschwindigkeit, wo Du lernst und besser wirst. Glaub das ist wieder son klassischer Weg, wo alle traditionellen Unternehmen ein richtiges Problem haben werden. Wenn Du denkst, wie so klassische Lernzyklen aussehen, wie viel Monate dort ins Land gehen, bis da mal dir der Loop zurückläuft und Du kannst eigentlich alle 3 Tage kannst Du deinem Agent sagen, okay, was sind die aktuellen Zahlen? Was hat sich verbessert? Was hat sich verschlechtert?

Florian Baader:

Wo müssen wir rein?

Christoph Magnussen:

Wenn jetzt jemand sagt, Mensch, ich bin jetzt hängen geblieben, als ihr über den privaten Google Workspace und die Ehe gesprochen habt, könnte man ja jede Woche einen Check in machen, zu gucken, bei welchen Termin haben wir diskutiert? Was könnten wir besser machen? Welche Fragen sollten wir uns stellen? Wär ja dasselbe, ne? Du würdest ein Cronjob laufen und haben, Sonntagabend, der einmal aufgeräumt, durchguckt, was steht die nächsten Wochen an und so weiter.

Florian Baader:

Genau, ja. Und ja, es ist eigentlich, also ich bin gespannt, ich hoffe, dass das sehr viele Leute verstehen, wie gut Du jetzt irgendwie Ordnung in deine Daten rein bekommst, wie gut du Messdaten sammeln kannst, wie gut du jetzt Daten getrieben optimieren kannst, auch wenn es einem persönlich jetzt ja nicht so super liegt vielleicht auch, aber das ich hoffe sehr, dass das auch so die deutsche Wirtschaft sehr, sehr gut checkt, was da jetzt für ein Potenzial drin liegt. Und diese da wird ja auch immer gesagt, ja, ich hätte ja auch mit Mitarbeitern das Ganze machen können. Und ich sag dir, Du findest keine Leute, die genau oder super schwer die Leute, diese Schnittstellenrollen machen, also die quasi Data Scientist, Productxpert und Marketing Sales Expert oder sowas sind. Und das ist so diese das ist der USP von von AI.

Florian Baader:

Und da kannst Du keinen Menschen mehr dran setzen, weil der nicht so schnell SQL schreiben kann, rauszufinden, ob deine Landingpage jetzt besser performt und gleichzeitig weiß, wie man gute SEO Hooks schreibt und gleichzeitig weiß, wie man AB Tests fährt oder die statistisch richtig auswertet. Und ich glaube, da ist dann irgendwann so dieser dieses Argument einfach, da da redest Du nicht mehr darum, ob jemand 5 Minuten Zeit spart, sondern da sind das sind das ist vielleicht dann auch diese Power, von der Du gesprochen hast, diese Erkenntnis, das ist für mich diese Schnittstellen Rolle. Das ist das, was jetzt quasi dieser neue unfair Advantage ist und ja.

Christoph Magnussen:

Wenn Du realisierst, was Du plötzlich machen kannst, was Du wohl nicht machen, Contest oder die vielen 100 Projekte, die Du nicht angegangen bist, weil Du sagst, jetzt kann ich die machen. Ja. Wie schätzt Du und da bin ich immer hin- hergerissen. Also ich promote und sag sehr stark, momentan beherrsch deine Harnesses, also sprich ein Claude Code, ein Codex und so weiter, bau dir die Dateien drunter und wenn Du es nur für dich machst, mach eine Ordnerstruktur, scheiß auf Monorepo und packst halt irgendwo hin, damit du halt, wenn du zwischen die beiden Switch oder zwischen dreien Switch, gibt ja auch offene Harnesses, quasi dieselbe Base hast. So, jetzt erinner ich mich aber sehr gut an die Woche im November, letzte November letzten Jahres, als ich Sachen getestet hatte und dann eben vor Opus saß und gemerkt hab, das muss Opus 4.5 gewesen sein und dann, ne 4.6 kam relativ schnell und dann gemerkt hab, boah, fuck, ist das Ding gut.

Christoph Magnussen:

Boah, versteht ja viele Sachen, die er vorher nicht verstanden hat. Musste einige Fragen neu formulieren und hatte wieder diesen Moment, wo ich dachte, wie hab ich schon wieder das Modell unterschätzt, dass doch sehr viel daraus kommt? Mhm. Was ist dein Take dazu? Harnesses versus Models, welche Power siehst Du im Alltag, grade wenn Du jetzt auch sagst, Du legst ein Fable drauf?

Christoph Magnussen:

Wo sagst Du, nee, ich bin besser in einem sehr gut orchestrierten Agent Harness versus ein sehr, sehr, sehr, sehr, sehr starkes Modell?

Florian Baader:

Ich frag mich, ob ich die die Frage so richtig, wie gut man das sozusagen voneinander trennen kann.

Christoph Magnussen:

Ja, also es schwierig trennen, weil es sind ja unterschiedliche Dinge, aber ich merke, Du kannst auf einmal damit andere Dinge tun mit einem anderen Modell. Und es ist so schwer, es gibt noch keinen Standard, nicht mal, es geht ja nicht mal, dass Du die 200 Seiten von Anthropic liest über das über das über die Model Card und dann weißt, wie Du das Ding bedienst.

Christoph Magnussen:

Du musst es ja testen und auf diverse Sachen drauf geben.

Florian Baader:

Also ich muss sagen, es wurde ja mal Claude Code geleakt quasi.

Christoph Magnussen:

Seitdem ist es Open Source in teilen...

Florian Baader:

Ich war überrascht, wie groß das ist. Also ich glaub, es waren, lass mich nicht lügen, irgendwie so 500000 Lines of Code oder so was in die Richtung.

Christoph Magnussen:

500000 sein Code, ja.

Florian Baader:

Und irgendwie hätte ich gedacht, das wär deutlich weniger, weil ich hätte gedacht irgendwie, das ist ja ein basically nur so bisschen Dateilesen und es sind am Ende ja, glaube ich, so 5, 6 Base Functions, die da eigentlich mit... So startest Du ein Sub Agent, so gehst Du ins Internet, so rufst Du Dateien auf, so führst Du Command auf.

Christoph Magnussen:

Es gibt dir doch die schlankere Harnesses wie Pi zum Beispiel, ne. Das sind keine 100 Zeilen Code, glaube ich.

Florian Baader:

Mhm.

Christoph Magnussen:

Der hat das superschlank gemacht. Ja. Du hast nichts dran. Funktioniert auch extrem gut und schnell.

Florian Baader:

Mhm.

Christoph Magnussen:

Richtig schnell. Ja.

Florian Baader:

Also ich glaube, was wir vor allem gemerkt haben, ist, der Harness muss zu dem Modell passen, weil wir bauen ja am Ende quasi auch einen universellen Harness, der modellübergreifend ist. Und wir merken, dass die da kleine Sachen, wie Du Funktionen benennst, dann dazu führt, dass das eine Modell sich total wohlfühlt irgendwie in dem Rahmen, den man ihm gegeben hat und das irgendwie total ausnutzt und ein anderes Modell steht dann total aufm Schlauch. Und wir sind deswegen sozusagen immer mehr am Überlegen, wie wir für die jeweiligen Modelle dann quasi diesen den Harness, sag ich mal, son bisschen tunen. Das ist halt, ich mal, son bisschen wie die Sitzeinstellung im Auto. Wenn Du verschiedene hast, musst du vielleicht so ein bisschen Mhm.

Florian Baader:

Hast du da so ein bisschen Präferenzen, konfigurierst das so ein bisschen Und ich was ich auch noch nicht so genau rausgefunden habe, ist, wie wir das denn dann bestmöglich die Effektivität testen können. Also wenn du versuchst son son Harness zu optimieren, ja woher weißt Du denn, was jetzt die beste Kombi ist davon? Im Moment ist das tatsächlich viel ausprobieren und ich sage jetzt mal so bisschen Vibecheck machen, einfach gucken, wie einem auch vielleicht ganz persönlich so der Output liegt. Davon, aber das würde ich sagen, ist so das größte Punkt. Das ist son Puzzle und die beiden müssen zusammenpassen und es ist sehr spannend, das mal durchzutauschen und dann mal zu observen, wie sich dann dieses System verhält, wenn Du mal OpenCode oder sonst irgendwie was einsetzt oder eben anderes Modell dafür.

Christoph Magnussen:

Wie stark bist Du mit Open Source Modellen, also sprich den 2900000 Modellen auf Hugging Face versus Big Lab Models im Alltag. Wie bewertest Du die 2 Seiten?

Florian Baader:

Ich bin ein bisschen gespannt. Ich also ich bin da noch nicht tiefer reingestiegen, aber ich hab heute früh eine Nachricht gehört, dass sich jetzt China wohl auch mal überlegt, wie viel man die Modelle denn auch noch der restlichen Welt quasi zur Verfügung stellen möchte. Wenn jetzt die USA sozusagen Model Access regulieren und China Model Access reguliert, dann sieht's in Europafall ganz schön duster aus, was die Modellvielfalt angeht. Ich habe sehr viel positive Sachen von diesen größeren neuen Modellen, also der GLM Modellen et cetera mitbekommen. Ich muss zu meiner Schande gestehen, dass ich da noch nicht viel ausgetestet hab.

Christoph Magnussen:

Also ich selber arbeite quasi sehr viel mit'ner Mischung quasi aus den GPT und Claude Modellen, die sich gegenseitig quasi kontrollieren und

Florian Baader:

Also Codex und Claude Code.

Florian Baader:

Genau Oder arbeitest Du innerhalb von Cursor?

Florian Baader:

Nee, nee, tatsächlich nicht. Und das wird krass. Also wenn wir quasi nicht mal mehr Access auf die Modelle bekommen, wenn Model Access ein Privileg wird.

Christoph Magnussen:

Ja. Wonach es ja aussieht im Moment.

Florian Baader:

Genau, dann wird glaube ich auch diese Bewertung mal ganz anders. Open Source, ja, wenn Open Source an an Fable Level sozusagen rankommt und es ist dafür verfügbar, es ist bezahlbar, dann definitiv, dann dann hast Du mich quasi bei den bei den Open Source Modellen mit drin und ich meine der Anthropic CEO hat ja auch gesagt irgendwie so ja er findet das jetzt sehr gefährlich, dass diese Modelle da jetzt auf das Level kommen, ist natürlich die Frage, fällig für sein Geschäftsmodell oder gefährlich für die für die Welt, aber ich glaube es schon, dass da gerade auch 1 1 1 große Gefahr von den von den Misuse von AI Modellen quasi ausgeht und das, wo wir noch mal beim Thema Hochzeit sind, da wurde tatsächlich unser Hotel gehackt und da wurden dann die ganzen Gäste angeschrieben und irgendwelchen Fake Zahlungen super legit, weil halt die ganzen Daten da waren und ich glaube diese kleinen Betriebe, die sich überhaupt nicht mit IT beschäftigen, die werden so drunter leiden, dass Du quasi jetzt mit den Open Source Modellen, die vielleicht weniger reguliert sind, ständig Angriffen ausgesetzt wirst, weil Du verdienst dann als Hacker vielleicht nur ein paar 1000 Euro, aber es rentiert sich, weil Du es at scale machen kannst.

Florian Baader:

At scale personalized attacks davon. Und da bin ich dann eben son bisschen bei bei Anthropic, dass ich sage, okay Fakt, das könnte für die moderne IT Welt ganz schön krachen, wenn diese Arten von Modellen sozusagen Wilder Westen machen und wenn da vielleicht nicht so viel Fokus auf eine 1 ethisches Feintuning, sage ich mal, mit gesetzt wird.

Christoph Magnussen:

Ja. Wobei also wobei er auch oder die Unternehmen sind, die halt eben das Angstmarketing in dem Bereich natürlich gepusht haben, ne, muss man Und ich bin also ich bin immer kein Fan davon. Hatten wir auch in diversen Podcastfolgen, wo ich gesagt hab, bin kein Fan von Angstmarketing, sondern eher where is the opportunity, weil es gibt ja das Solow-Paradoxon, dass der der Wert 1 1 Innovation erst Jahre später auftritt, Also erst, wenn sich das gesamte Feld verändert hat. Also Beispiel, der Computer wird eingeführt und alle geben viel Geld aus. Damals haben Menschen geklagt, boah, Du musst dann ständig Hardware nachkaufen.

Christoph Magnussen:

Das ist nicht, Du hast einmal investiert und dann läuft er 30 Jahre. So, das ist Scam. Ja. Die typischen Argumente, die man jetzt auch hat, jetzt mit Tokens grade. Und ich meine, es hat bis in die Neunziger gedauert, dass die Effekte spürbar waren.

Christoph Magnussen:

Vorher war das Paradox eben, Du hast eine Technologie, die ist besser, aber die Wirtschaft wächst erst mal langsamer oder kriegt ein Dämpfer. Ja. So, erst als Arbeit anders organisiert wurde, da ging's eigentlich los, dass diese Effekte kamen. Ja. Und was ich jetzt grade beobachte, ist, wie viele Firmen experimentieren und sagen, ah, wir machen mal das und probieren das und eigentlich sind die meisten nur dabei zu sagen, ich hab mal ChatGPT gefragt, Ich lass natürlich lassen alle die E-Mails damit schreiben, ist so.

Christoph Magnussen:

Alle sagen, nee, mach ich nicht, aber Du siehst halt irgendwie 50 Prozent der Texte weltweit generiert sind Menschen, die anderen 50 Prozent AI. Das ist schon so. Und die große Frage, die ich mir stelle, wie musst Du alles drumherum anders organisieren? Also jetzt in deinem Fall jetzt wieder mit, wie musst Du das Google Drive für die Ehe KI based anders organisieren als das Google Drive vor 15 Jahren für die Cloud? Und dass da irgendwo liegt der Schlüssel.

Florian Baader:

Ich glaube, Punkt ist, dass wir, wenn wir früher Software eingeführt haben oder Strukturen eingeführt haben, hat man sich das so verdammt gut überlegt, was ich einkaufe und wie ich das strukturiere, weil man wusste, wie viel Arbeit das wird, das neu aufzusetzen, neu zu strukturieren. Und mittlerweile, wenn ich mir ein CRM besorge, dann brauche ich nicht mehr die nächsten 5 Jahre projizieren und sich überlegen, wie wird sich dieses Tool entwickeln, was wie werden wir uns entwickeln? Sondern ich sag, Hauptsache wir haben jetzt eine Lösung, die passt. Lass uns loslegen, weil ich kann mit KI Agents wiederum die Struktur ohne einen Pain ändern. Der größte Pain sind nur noch die Mitarbeiter, die ja sich auch an eine neue Struktur quasi gewöhnen müssen oder ich.

Florian Baader:

Und ich glaube, das heißt, die Frage ist quasi gar nicht so sehr, was ist jetzt die ultimative Struktur? Es gibt son paar Grundregeln, sondern die wichtigste Regel ist, man darf sich da heute nicht mehr den Kopf zerbrechen über diese Eventualitäten. Es geht nicht mehr darum, jetzt das so perfekt zu machen, sondern es geht immer mehr darum zu sagen, jetzt loslegen und jetzt eine Lösung finden, die vielleicht auch nur bis morgen funktioniert, weil ich kann morgen meinem Claude sagen, Digga, jetzt strukturiere ich es noch mal Ich hab's mir gestern angeschaut, das ist es nicht. Ich hab mich nicht zurechtgefunden dazu und das ist das ist für mich auch noch mal sone ganz neue Art von heißt natürlich auch, also hatte auch wieder viele Business Effekte, weil ganz viele SaaS-Vendors sicher, glaube ich, extrem drauf ausruhen, dass es für ihre Kunden so aufwendig ist, das Tool zu wechseln. Und diesen Lock-in, den hast Du auch nicht mehr.

Florian Baader:

Das heißt, Du bist auch als SaaS-Anbieter natürlich dazu aufgefordert, immer am Ball zu bleiben, weil auch deine Kunden sagen, Du, wenn mir dein CRM nicht taugt, das ist jetzt kein Riesenaufwand. Migrationsprojekte sind ja die sozusagen die KI Projekte aus dem Bilderbuch, weil es ist One Time Code. Du kannst gut verifizieren, das läuft und danach kannst Du ihn wegschmeißen. Du hast kein Problem mit Sicherheit, Du hast kein Problem mit Permissions. Du hast gern ne dieses ganze Code in Production bringen versus mit Code einmalig Sachen ändern.

Florian Baader:

Und ich glaub, das wird auch diesen SaaS-Markt so krass erschüttern, dass Du keinen Cost of Migration eigentlich mehr hast.

Christoph Magnussen:

Es gibt ja da gibt ja die 2 Lager, die einen sagen, die SaaS, wie nennen sie das? Die SaaS die SaaS-Apokalypse, die ja ist ja nicht dauernd irgend ein Zungenbrecher versus nee, es wird weiter thriven und ich hab heute Morgen was Erschreckendes gelesen. Es gab jetzt wohl ein Aufschrei, weil Harvest, nee, Hubspot gesagt hat, wir nutzen die wir nutzen die Kundendaten oder trainieren hinten im Hintergrund drauf und Du dann sagst, ich hab ja eigentlich den Trust Deal, dass das Zeug da sauber liegt. Slack hatte das auch mal tatsächlich. Da wurde diskutiert, ob der Slack Bot nicht mittrainiert hat.

Christoph Magnussen:

Ich war so, seht zu, dass ihr eure KI selber in Griff bekommt und dann schickt ihr halt los. Aber daran sieht man jetzt dann doch und jetzt kommen wir wieder zurück zu den Datenbanken, da hat sich schon elementar was geändert, weil der Value of Data mit KI liegt halt in dieser Datenbank drin. Mhm. Und die großen Vendors sagen werden, ja, ich will die halt auch und oder brauch sie auch, halt was Wertvolles anzubieten. Über Jahrzehnte haben die 80, 90 Prozent Marge gemacht, also absolut filthy.

Christoph Magnussen:

Versus jetzt mit KI kostet es halt deutlich mehr. Wo ist der Value? Wie generieren wir den? Was machen wir damit? Ja.

Christoph Magnussen:

Und da wird was passieren. Also es wird, glaube ich, Bereiche geben, wo Du dafür zahlst, dass das nicht passiert. Dann wird's günstigere und andere Tarife geben, wo Du vielleicht sagst, ja, mir ist egal. Das beendet aber alle Datenschutzbestimmungen. Also es ist ein es ist wie Wild West im Moment, wenn man richtig unter die Haube guckt.

Christoph Magnussen:

Mhm. Und die Zeiten, als Software geschrieben wurde, man denkt immer, das ist so strukturiert, aber ich glaube, das, was Du als diese Struktur beschreibst, die entsteht erst im Nachhinein, wenn Du drauf guckst und sagst, jetzt macht es Sinn, jetzt ist es logisch, ne. Nimm mal MCP, wie schnell sich das als Standard durchgesetzt hat und ich hab in dem nächsten Podcast dazu mit dem, der es erfunden hat. Und die die Frage ist halt nur, wenn Du so eine Technologie siehst und dann hast alte Command Line Interfaces, CLI und Du packst die beiden nebeneinander. Ich weiß nicht, ob Du mit Google Workspace CLI mal experimentiert hast.

Christoph Magnussen:

Das Ding funktioniert ja holy smokes fucking gut. Ne, also da ist halt jedes Ding reingeschrieben, wie's geht. Dann packst Du daneben den MCP und der liest sich dieses komplette Ding durch und Du denkst, was macht er denn jetzt zum achten Mal auf high thinking? Why on earth is that so complicated? Und diese Unschärfe ist für mich manchmal wie etwas, was zwischen der Deterministik ist und' Mitarbeiter, der ein schlechten Tag hatte, wo Du sagst, jetzt hast Du noch son drittes Wesen da irgendwo zwischen, ne, wo Du manchmal nicht genau drauf schießen kannst. Und das meine ich mit, es also es muss sich halt auch jetzt erst mal ein Standard etablieren und ich glaube, wir sind durch dieses Hyperscalen so gewohnt, dass sich das sofort klärt.

Christoph Magnussen:

Aber sind wir halt nicht. Der Standard wird grad gesetzt.

Florian Baader:

Also ich find also ich würde auch jedem empfehlen, also gerade wenn Du große, also sehr, sehr riesige Systeme sag ich mal hast, also ob's jetzt ein Google Workspace ist oder auch ein ERP, bist Du mit' CLI quasi immer besser aufgestellt. Und wir arbeiten dort ja auch gerade mit' Partner zusammen, die ja sich mit so klassischen PLM System, Product Lifecycle Management System beschäftigen. Und das ist total verrückt, weil die die also ist auch ja ein Riesenstück Software, da geht's dann darum, wie diese Produkte irgendwie designt sind, die der die Wartung davon, alle Dokumente, die Zertifizierung et cetera. Und dann haben dann hat der Hersteller dort eine MCP Server rausgebracht und die sind halt auf die Idee gekommen, nee, weißt Du was? Wir können ja direkt mit der superalten CLI arbeiten, was halt vor 30 Jahren so 2 Mal cool war.

Florian Baader:

Und das Verrückte ist ja, dass eigentlich diese ganze Agent LLM Thematik geht alles immer nur zu diesen Standard Computer Science, Linux, Base Technologien zurück. Also da werden fancy Sachen gebaut und dann merkt man, weißt Du was? Der Agent ist eigentlich viel besser, wenn Du statt Vektordatenbank

Christoph Magnussen:

Textdateien nimmst. .

Florian Baader:

Mit grep da durchgehst. Warum brauchst Du ein großen Suchindex? Du kannst ja damit auch viel... So, das heißt, ich frag mich, was für Linux Base Technologien sozusagen noch warten von der AI entdeckt zu werden.

Christoph Magnussen:

Holy shit!

Florian Baader:

irgendwie, das wir brauchen gar keinen neuen Standard. Wir haben den ja vor 40 Jahren erfunden, der ist nur längst verstaubt und quasi wir kommen eigentlich grade drauf, dass da ein Agent das verdammt gut im Bauch hat, wie man damit umgehen kann.

Christoph Magnussen:

Und das meine ich mit Power of the Model, ne? Also wenn wenn dann halt ein neues Modell rauskommt und Du merkst, er ist jetzt wieder besser da dran geworden, die Tools zu benutzen. Mhm. Ist ja auch spannend, ne? Also die die Google Modelle, die Gemini Modelle tun sich wirklich schwer im Tool Use.

Christoph Magnussen:

Wirklich schwer. Also jetzt haben die es ja umgebrandet, also auf Anti Gravity, CLI und so weiter. Ist alles nicht gerade glücklich gelaufen. Aber man muss sich halt fragen, warum sind diese deutlich schlechter als ein Claude Code oder ein Codex, die halt sehr, sehr präzise im Tool Use sind. Ja.

Christoph Magnussen:

Was passiert dort im Training? Was passiert

Florian Baader:

im Feintuning dann danach oder Post Training Sachen hätte ich gesagt, aber

Christoph Magnussen:

I don't know, aber müsste mal, müsste man mal Johannes Otterbach noch mal fragen, er hat mir mal einen Podcast, der könnte es wahrscheinlich ein bisschen besser erklären. Weil das meine ich eben mit, jetzt kommt ein neues Modell und dann musst Du als Firma dich eigentlich hinsetzen und gucken, funktionieren denn alle meine... So vorher musstest Du die Workflows durchgehen. Jetzt sagst Du ja eigentlich muss ich nichts mehr ändern, weil ich kann das Modell ja noch umschreiben, aber Du hast eigentlich nicht geprüft, ob ein Opus 4.6, ein Opus 4.8, ein Fable an den Stellen richtig reagiert. Ja.

Christoph Magnussen:

Ja. Das auch.

Florian Baader:

Und so ist es auch irgendwie immer wieder eine Überraschung, also das hattest Du vorher kurz angerissen so, wo man sich dann irgendwann man loggt sich mal wieder ein, denkt sich wow krass, das funktioniert ja jetzt einfach einmal. Das habe ich letztes Mal vor einem halben Jahr probiert und es irgendwie überhaupt nicht funktioniert und es kann aber natürlich auch negative Überraschungen dann in die andere Richtung geben damit. Und ich glaube, ist auch son Thema, ich meine, trifft uns als als Plattformanbieter natürlich auch immer, dass wir sagen, wir wir versuchen dort ein möglichst guten Harness bauen, der wirklich einfach auch für die für die Endanwender ist Sandbox Power und und und. Also alles irgendwie mit drin und dann kann son Modell auch einfach mal ein schlechten Tag haben und dann heißt halt bei uns im Sales Prozess, ja ich hab ja was probiert. Gestern hat's geklappt, heute nicht und wir sind ja dann doch auch irgendwie dafür verantwortlich, eine 1 funktionierende Lösung bereitzustellen, wo ein LLM im Bauch ist und wo man sich dann fragt, wieso zur Hölle hat es gestern funktioniert und heute nicht?

Florian Baader:

Und das ist auch, glaube ich, für so dieses klassische Software Engineering natürlich eine extreme Herausforderung, diese diese Blackbox im Bauch zu haben und zwar so fest im Bauch, dass Du dass da sehr viel davon dependet. Und Du kannst dich natürlich da auch nicht als Anbieter dann zurückstellen und sagen, ja, dann ist es halt das Modell oder keine Ahnung, ist mir egal, sondern Du wirst ja auch immer dann Lösungen finden dafür und ich glaube, das ist auch was, ich mein, wir haben in der Vergangenheit dort sehr viele Funktionen, sag ich mal, auch sehr schnell gebaut und haben aber immer mehr das Feedback bekommen ausm Mittelstand, Leute, geht Stabilität. Mhm. Diese ganze KI Welle, die die rast weiter und aber was wir gerade auch brauchen ist, wir sind also wir Du hast auch glaube ich weiß nicht wie es bei dir da im AI Space ist, aber Du setzt dir natürlich deine Ankerpunkte, die ziehen da irgendwie voraus und Du kannst ja jeden Tag denken fuck, ich bin behind, egal wie weit Du vorne bist, bist Du eigentlich behind und gleichzeitig vergisst Du eigentlich sozusagen dann, wen Du da eigentlich alles noch einsammeln musst und was vielleicht auch gerade wirklich der richtige Fokuspunkt ist und das das hat uns in den letzten Monaten sag ich mal da schon sehr geerdet und irgendwie gesagt hey, das eine ist die Challenge ständig alles nachzubauen, was die AI Labs vormachen und das andere ist, wie kriegst Du das stabil in Production?

Florian Baader:

Wenn Du son produzierender Mittelständler hast, der hat ja auch einfach andere Erwartungen, dass son Modell jeden Tag genau so dasselbe macht und

Christoph Magnussen:

Ja, vor allem auch eine Demo ist was anderes als die laufende Produktion, in der das laufen muss.

Florian Baader:

Irgendwann wird das Modell aber abgeschaltet. Ja. Eigentlich fast, ich es gibt ja irgendwann jetzt die Idee auch von diesen Long Term Support Releases, wo Du vielleicht auch mal 5 Jahre lang dasselbe Modell quasi zur Verfügung hast, aber das heißt eigentlich spätestens, ich weiß nicht, was so maximale Lebensdauer gerade von dem Modell ist, geschätzt sind es so 2 Jahre oder so was, vielleicht ein Jahr.

Christoph Magnussen:

Liegen auf der

Florian Baader:

Wann jetzt

Christoph Magnussen:

4.1 läuft noch, aber 4.5 wurde zum Beispiel abgeschaltet bei ChatGPT als ein sehr großes Modell, aber das haben die schnell abgeschaltet.

Christoph Magnussen:

Das war einfach viel zu teuer.

Florian Baader:

Ja. Und quasi dann ist spätestens der Zeitpunkt, wo Du dich wieder mit dem Modell Upgrade und dem der Re-Evaluation beschäftigen musst. Und da sind wir eben letztens auch dann spannende Idee gekommen, jetzt hardcodest Du eigentlich in sonem Business ja überall diese Modellnamen vielleicht.

Christoph Magnussen:

Mhm.

Florian Baader:

Und ob Du quasi nicht bei dir in deinem in deinem in deiner Company quasi ein ja sag ich mal so eine Art Pinpoint, son Marker setzt und sagst, das ist im Moment unser Marketingmodell. Alle Workflows gehen pinnen sozusagen auch auf dieses Marketingmodell und wenn dann Neues rauskommt, dann setzt Du im Hintergrund den den Marker einmal aber es geht nicht alles ständig kaputt. Aber das verbirgt natürlich schon, alle setzen aufn Marker und vielleicht geht's danach halt trotzdem nicht mehr nach.

Christoph Magnussen:

Ich hab Weihnachten ein Tool gebaut, das nennen wir intern Control Layer und ich wollte es als sehr intelligenten Agent bauen und bin dann irgendwann von weil ich sagte, okay, soweit war es noch nicht und habe mich dann verloren in Agent SDK und LangChain und habe ich selber gebastelt und da habe ich eine Funktion gesetzt, die quasi die Modelle benennt, ne. Und dann Funktion a ist dann alle mehr Modelle, Funktion b und so weiter. Und das Problem ist, weil und mit den Prompts auch. Das heißt, ich hab die quasi die Prompts an zentraler Stelle. Du kannst die ändern, reinspielen, welche Art von Prompt.

Christoph Magnussen:

Und dann hab ich aber festgestellt, die ich kann ja trotzdem einen Agent drüber laufen lassen und der ändert's einmal durch, Weil die Nuancierung der Änderung ist leichter, wenn er das macht, als diese harte Deterministik, die ich setze mit

Florian Baader:

Mhm.

Christoph Magnussen:

Das muss dort, das muss dort. Das heißt, meine Ergebnisse mit ich bestimme, das muss da, haben zu deutlich schlechteren Ergebnissen geführt als ich zapfe die Intelligenz des Modells an, indem ich sage, ich formuliere die Frage anders. Bei Fable ist mir aufgefallen, sehr einfache Fragen, zerdenk das Ding, richtig gute knifflige Sachen, gute Ergebnisse, wo ich sage, okay, bin ich noch nicht drauf gekommen. Und diese Schwierigkeit in der in der Intention und der Direction vorher eine gute Idee, eine gute Frage, habe ich nie so transparent gespürt wieder, wie wichtig das plötzlich wird.

Florian Baader:

Mhm.

Christoph Magnussen:

Und jetzt nimm mal Goals. Wenn Du sagst, Du lässt den Agent halt mal ein paar Tage laufen, wer traut sich denn zu sagen, jo, da geben wir jetzt mal nur mal 1000 Euro Compute drauf und lassen den mal laufen, weil das Ziel ist es wert zu explorieren. Das überfordert viele Menschen.

Florian Baader:

Ja, ja. Ja, ich bin gespannt, wenn dann jetzt quasi Fable auch mit den mit der mit der realen API Nutzung, sag ich mal, dann mit drin mit rauskommt, für was für Cases du das dann auch wirklich eben mit einsetzt. Wir haben auch schon überlegt, wie wie gehst du damit weil wir haben bei uns in der Plattform haben dann die Admins auch die Möglichkeit so Nutzungslimits und so weiter für die Mitarbeiter zu stellen und wie wie machst Du das dann, dass Du denen sagst, hey liebe Leute, ihr habt sozusagen euer Basis KI Modell, ihr habt euren Massen KI Modell für irgendwie E-Mail-Verarbeitung et cetera und Du hast so einen richtig teures Expertdings und ich gebe dir dreimal … So einen McKinsey-Berater auf Zuruf. Genau und ich quasi wie sagst Du deinen Leuten, hey, darf Du darfst fünfmal im Monat son dreimal im Monat quasi darfst Du mal so richtig Gas geben, weil ich hab das Gefühl, dass ja, da musst Du dann schon diese Verantwortung auch, was das am Ende impliziert, mit zu den Mitarbeitern geben und denen irgendwie ein Limit setzen dadrauf, dass man selber auch mal hinterfragt, muss das jetzt gerade dann das teuerste Modell sein oder nicht?

Christoph Magnussen:

Tesla hat gerade auf 200 Euro pro Woche gekappt.

Florian Baader:

Mhm.

Christoph Magnussen:

Für alle. Das ist so typisch Elon Musk, ne, macht für alle so Mail jetzt nur noch 200 so. Das Problem, was ich sehe, ist, Du hast halt Jobs, die brauchen Intelligenz, die brauchen mehr Intelligenz und Du hast Jobs, die brauchen's nicht. Also alle heißen Wissensarbeiter, aber wir verwechseln Wissen und Wissen. Anstatt Levels of Intelligenz zu bestimmen und zu sagen, okay, keine Ahnung, was hatten wir denn neulich für ein Beispiel?

Christoph Magnussen:

Das war sogar Richard, der sagte, wenn Du ein Reiseveranstalter willst und die Leute wollen zu den Pyramiden von Gizeh, dann wollen die da halt hin. Da hilft halt nicht die Intelligenz.

Florian Baader:

Mhm.

Christoph Magnussen:

So und he’s got a point, wenn Du das eben überträgst auf Knowledge in der Firma, wo Du sagst, wer bekommt jetzt wie viel? Allein dieses Feld neu zu bestimmen, das meine ich mit die ganze Fabrik muss eigentlich reorganisiert werden. Ja. Und dann gibt's eben Firmen, die es schaffen, das so gut zu machen, dass sie halt mit sehr wenig Leuten dann auf einmal richtig was rausholen. Und das finde ich faszinierend.

Christoph Magnussen:

Daher entstehen jetzt neue Geschäftsmodelle.

Florian Baader:

Aber ich mein, eigentlich ist das ja kein neues Thema, weil Du hättest ja auch vorher schon sagen können, es gibt teure Berater und wenn jemand mal einen braucht, dann Ja. Kommst Du hier mal auf jemanden zu und ich glaub trotzdem hat der deutsche Mittelstand vielleicht... Also ich ich ich weiß nicht, finde mit der Beratung ist es oft son entweder zu wenig oder viel zu viel. Also son Thema von wegen, ich hol mir jetzt eine Beratung für eine für eine schlechte Entscheidung oder quasi da eine Verantwortung nicht zu tragen und irgendwie brauche ich dann auf jeden Fall für alles einen Berater oder man denkt, also wirklich, ihr doktet hier seit Jahren rum, habt ihr einmal mit jemandem gesprochen, der das Thema schon mal irgendwie gemacht hat und sone fundierte, also wir haben auch gemerkt, quasi bei dem AI Rollout verdammt viel bringt, wenn Du den Leuten sagst, hey, wenn ihr mal eine Use Case Idee habt, dann gibt's hier eine E-Mail, da meldet ihr euch und der baut mit euch ein Use Case zusammen. Ne, das heißt, es ist eigentlich hier nur eine ganz klare Managementfrage, ja gar nichts Neues.

Florian Baader:

Lässt Du die Leute selber entscheiden, für was man mal Geld und Ressourcen ausgibt und gibt's denen auch und sagst denen, hey, es gibt hier ein Topf, aber ich bitte euch, damit sorgsam umzugehen aus den und den Gründen. Also schaffst du einfach die Möglichkeit für deine Mitarbeiter sich dort Hilfe zu holen und auch mal Geld auszugeben, irgendwie eine Aufgabe gescheit zu lösen, ob es dann ein Fable ist oder ein AI Sparring Partner oder sowas ist dann glaube ich

Christoph Magnussen:

Was sind noch die Limits in der Firma? Wie hoch seid ihr AI Usage pro Kopf pro Monat?

Florian Baader:

Am Ende ist das glaube ich im Moment, also quasi wir nutzen dort ja eine Mischung quasi aus meinGPT dann und quasi dann Claude Code und Codex Dingern. Und das ist quasi im Wesentlichen ein son 200 Dollar Plan

Christoph Magnussen:

Ja, okay.

Florian Baader:

Pro pro Mitarbeiter dann.

Christoph Magnussen:

Wir sind aber auch zwischen 200 und 250 pro Kopf Mitarbeiter. Aber das heißt natürlich schon eigentlich,

Florian Baader:

Ich mein, wenn Du den jetzt nicht subventioniert hättest dafür, ich mein, das ist jetzt auch der der Hauptgrund dann ehrlicherweise als Start-up, warum wir dann selber auch noch quasi Claude Code und so was natürlich mitnutzen, dass Du halt dort dann kriegst Du halt die Tokens noch ein Ticken günstiger im Moment, aber

Christoph Magnussen:

Das ist zum Börsengang.

Florian Baader:

So, wenn das das sind was nicht, was da aktuell Schätzungen sind, 4 5000 Euro im Monat Ja, das ein Maximum.

Christoph Magnussen:

Maximal dann. Ja, aber das ist

Florian Baader:

Ich glaube, ich bin da ehrlicherweise noch sehr gespannt. Wir wir schauen uns das gerade im Moment nicht so tief an, aber wie unterschiedlich dann auch so der AI Spend sein wird und was dir das am Ende auch über die Mitarbeiter sagt. Also es gibt eben die Mitarbeiter bei uns, die dann wirklich mit dutzenden parallelen Agents irgendwie arbeiten und sich da dann aber vielleicht auch mal verhaspeln. Also es ist jetzt wir merken es gibt so eine so eine AI bragging Geschichte,

Florian Baader:

also so, ja guck mal her wie viel mit Agents ich arbeite und Co und das kann genauso gefährlich sein wie jemand, der zu wenig mit arbeitet und diese Mitte hier einzupendeln, das ist für uns, ich mein, wir haben super viel AI Nerds, das heißt, wir sind natürlich schon tendenziell eher auf der der anderen Achse, wo Du dann mal sagst, Leute, jetzt mal richtig Hirn anschalten und nicht Claude anschalten, sondern mal sagen, was was denkst Du denn kritisch reflektiert darüber? Und das glaube ich dann irgendwie so richtig einzupendeln, das wird eine 1 große Herausforderung und ich glaube schon, dass da... Ich bin mir nicht ganz sicher, das geht dann irgendwann in diese Bildungsfrage und so diese Kompetenzen der Zukunft, aber ich sag jetzt mal so Arbeitsspeicher im Kopf. Also wie viel von diesen Agents und parallelen Dingen kannst Du in deinem Kopf behalten, ohne verrückt zu werden, ist glaube ich ein ganz ganz großer Unterschied bei den den Menschen, auch bei uns im Team Und das ist, glaube ich, auch vollkommen legitim dazu, aber da merkt man echt, es gibt Menschen, die kommen mit 5, 6 Agents klar und es gibt Menschen, die sagen, ich einen und quasi ich wechsle mich manuell der Arbeit und den ab, aber ich kann nicht 6 KIs parallel steuern, da werde ich plemplem.

Florian Baader:

Und wir haben ja auch schon mal drüber gesprochen, ich mein, glaube wir sind da beide eher in der Richtung quasi von zu vielen Agents und ich kann nur sagen so, dir Du gehst dann nach Hause und dir schallert der Kopf wie sonst noch was und das ist wirklich sozusagen das absolute Gegenteil von KI und Entlastung in dem Sinne, sondern natürlich hast Du hab ich Produktivität irgendwie dann vervielfacht damit.

Christoph Magnussen:

Und mehr gearbeitet.

Florian Baader:

Aber Du bist am Ende auch so leer. Mhm. Und ein CTO, mit dem wir gespannt hatten, wir hatten selbst sone sone Coding Agent Session bei uns, der meinte, seitdem sie das ausgerollt haben, sind die Commits außerhalb der Arbeitszeiten grandios bei denen gestiegen. Weil die Leute sagen ja ich hab noch kurz ein Agent und ich starte hier noch was und so und ich glaube das wird dann echt irgendwann so ein Mental Health Thema und quasi gesunde Workspace Productivity und die haben überlegt, dass sie ihr Git-Repo zusperren.

Christoph Magnussen:

Ja wow. Weil die quasi VW damals mit den E-Mails.

Florian Baader:

Also ich weiß jetzt auch nicht, ob's dann halt so extrem ist. Du kannst natürlich auch sagen, Du, das passt doch und dann, wenn jemand abends noch ein Einfall hat, soll er halt ein Agent starten und I don't know, da habe ich jetzt keine keine Meinung darüber, ob ich da jetzt den das Git-Repo zusperren würde oder ob das jetzt gut oder schlecht ist. Direkt ist es anders.

Christoph Magnussen:

Ja, ist so, also bestätigt sich auch in allen der der Pro Kursen bei uns vom letzten Jahr zu jetzt, wo Leute sagen, boah und ich war hooked, selbst Leute, die eigentlich überhaupt nicht technisch sind, gemerkt haben, das macht halt auch richtig Bock. Ich hab eine Sache beobachtet, wir hatten im Podcast den Romain von von OpenAI, der vorher bei Stripe, der jetzt Codex Team mitleitet. Und in der Woche kamen Goals, glaube ich, raus. Ja, das muss ungefähr die Woche gewesen sein. Also bei Anthropic konntest Du es schon in der CLI benutzen, bei OpenAI auch und dann wurde es aber in die die in die die App mit reingebaut.

Christoph Magnussen:

Und dann haben wir darüber noch mal im Podcast gesprochen und er sagt auch, ey, das für den heißen Scheiß und ich hab seitdem sehr häufig benutzt. Ich hab beobachtet, wie sich das verändert hat. Du konntest vorher nur sehr, sehr kurze Goals eingeben, jetzt können die länger werden und so. Und leider sind weder Anthropic und OpenAI sehr offen da drin zu zeigen, was sie an Prompts mit dem Goal machen.

Florian Baader:

Mhm.

Christoph Magnussen:

Aber Du siehst es ganz gut, dass der auch schaut nach, brauch ich dafür überhaupt Sub Agents? Welche Tools hab ich im Einsatz? Was mach ich wann? Was mir aber aufgefallen ist, ist dadurch, dass ich als Chef grundsätzlich häufig schon damit zu tun hatte, ich geborene jemandem, könntest Du dich dieses Thema kümmern, das wäre mein Ziel und dann lasse ich's liegen und kann's auch gut beiseitepacken. Ich hab nicht dieses Fomo, den oder diejenige dabei zu beobachten, wie Sie's machen, das sei denn ich bilde aus.

Christoph Magnussen:

So, also habe ich am Anfang die ganze Zeit gesessen, weil das war ein neuer Mitarbeiter dann und habe beobachtet, was Codex da macht mit dem Ziel. Hab gemerkt, okay, der ackert sich da ganz gut durch. Ist manchmal zu schnell, manchmal zu langsam, manchmal so. Dann habe ich es auf mittlere Stufe eingestellt, habe das Ziel einfacher definiert und hab aber diesen Rahmen abgesteckt. Hab dem gesagt, im Monorepo stehen die Grenzen drin, was Du darfst und was Du nicht darfst.

Christoph Magnussen:

So, da hält er sich dann dran. Hab so bestimmte Freigabemechanismen, wo der mich wirklich fragen muss, darf ich das, darf ich das nicht? Dann aber relativ viel freigegeben. Und da habe ich das 1. Mal wieder wie son Relief gemerkt, wo ich dachte, hm.

Christoph Magnussen:

Weil ich kam dann ein Tag später wieder. Thema gar nicht dran gedacht, aber ploppte dann auf und ging ein internes Produkt und hab den ersten Draft gesehen und dachte, oh, das ist jetzt schon deutlich, deutlich besser als alles, was ich im ersten Wurf gemacht hätte. Und mit dem konnte ich auf einmal mit meinem Kollegen Paul drüber diskutieren, wo ich sagte, dieser Draft, der ist jetzt schon deutlich weiter. Das Ding war teuer, also das das war superteuer, diesen ersten Wurf zu machen, aber teuer im Vergleich zu was. Ich hätt's dann selber gesessen, selber überlegt, selber gebrainstormt und ich glaube, da irgendwo tun sich eben auch neue Formen auf von wie setzt Du denn die Ziele?

Florian Baader:

Ja. So. Ja. Ja, ein Gedanke, der mir da kommt ist, das eine ist, was was Du da glaube ich super gut beschrieben hast, ist so diese KI Optimierung, also so jetzt dokerst Du sozusagen wieder mit deinem Setup rum. Wir hatten das aber auch schon mal, dass das dann, dass Leute sozusagen sich nur noch mit dem Setup quasi beschäftigen und dann gar nicht mehr eigentlich so die die Aufgaben machen.

Christoph Magnussen:

Ja, Getting things done.

Florian Baader:

Wie organisier ich das System? Genau und das ist dort glaube ich auch noch mal so ein feiner Grad, wo Du dann sagst, wie sehr tunest Du dein AI Setup durch und wann machst Du einfach wieder damit was, aber das ist ich glaube grundsätzlich irgendwie im im Mittelstand, dass das dass es dort quasi kein großes Risiko gibt, dass die Leute zu viel rumtunen, sondern dass das einfach mal richtig guttut, dass man da hinterfragen kann, welche Prozesse grade so laufen und was man quasi besser machen könnte. Und ja, ich bin da voll bei dir, diese diese Themen und wir haben aber es sind ganz ganz lustige Effekte, die bei uns passieren, wenn viele Leute viel mit KI machen. Das eine ist, wir sind ja wirklich keine große Firma.

Christoph Magnussen:

Wie viel oder seit

Florian Baader:

ich? 35.

Christoph Magnussen:

Stimmt alles so,

Florian Baader:

ja. Genau. Und das gibt's glaube ich in so den großen Buden dann irgendwie VW oder so, aber wir bauen Sachen teilweise, irgendwelche Debugging Tools oder so was und dann fragst du mal, hey, was war eigentlich damals die Idee und dann sagst du, weiß ich nicht, das hat Agent gebaut und das kennst Du dann vielleicht in großen Konzernen, wo dann der Kollege halt nicht mehr da ist, aber quasi auch in dem Fall hast Du schon son Thema von wegen, okay, muss denn jetzt der Kollege noch alles wissen? Also was ist hier der richtige Regler? Wie sehr muss jemand verstehen?

Florian Baader:

Jeder baut irgendwas mit Agents und fasst was zusammen und macht hier ein Draft und so weiter. Wie sehr musst Du musst Du von 1 PowerPoint jeden einzelnen Stichpunkt einmal genau verstanden haben und auf eine Folgefrage vorbereitet sein? Oder geht es darum, dass Du mal hier das Gesamtkonzept gebaut hast? Mhm. Das ist so ein Effekt, also so dieses, ha, irgendwie wir sind eigentlich ein kleines Team.

Florian Baader:

Früher wusste man eigentlich immer, das kann nur 1 gewesen sein, der das gebaut hat und ich, wenn er heute im Homeoffice ist, dann schnapp ich ihn mir morgen im Office und ich krieg meine Antwort, was da quasi der Punkt war. Und das ist eben sehr, sehr spannend und stellt uns dort vor Herausforderungen, auch das zu definieren.

Christoph Magnussen:

Das ist Dark Code Phänomen, was Amazon auch erwischt hat im echten Production Code, Code Teile, die funktionieren und keiner so richtig weiß, warum. Ja. Es ist a little scary, wenn ich ehrlich bin.

Florian Baader:

Ja, ja, ja. Und das andere ist eigentlich das, was ich vorher auch schon gesagt habe, ist quasi, ist dein Code was wert? Also was genau gibst Du eigentlich ab? Und ich glaube, dass eben diese AI Artefakte auch immer es ist immer wichtig zu verstehen, dass Du die jederzeit wegschmeißen kannst. Und ja, hast da sozusagen 5, 6 Stunden dran gedoktert, das vielleicht perfekt hinzubekommen, aber es ist dann auch vollkommen okay, einen Präsentation Draft wegzuhauen und den vielleicht sogar noch mal from scratch in in PowerPoint oder so was umzuziehen, weil Du's irgendwie genau in dem Format brauchst oder so.

Florian Baader:

Aber dass Du quasi auch mutig bist zu sagen, ich schmeiß das jetzt weg. Ich hab so viel jetzt gelernt, wie ich meine Präsentation strukturieren möchte, was die Kerninhalte sind, während ich das so gebaut habe und son AI Artefakt ist, glaube ich, das eine und das andere ist The Plan oder The Learnings irgendwie aus soner Session. Und man muss echt gut bewerten, was ist jetzt eigentlich das Wertvolle? Ist es das Artefakt oder ist es der der Plan und das Learning, was Du rausbekommen hast? Weil man kann auch sehr gut mit diesem Plan dann doch noch mal zu' Dienstleister gehen und sagen, kannst Du mir das jetzt hier noch mal gescheit bauen oder keine Ahnung was damit, dass man das irgendwie voneinander trennt.

Florian Baader:

Und dann stehen sind auch viele Fragen wieder hinfällig, die dann sagen, ja, ich könnte niemals mit AI Code arbeiten. Mag sein, für dich mag dieses Artefakt hier wertlos erscheinen, aber das andere ist dann immer noch super wertvoll. Oder Du wirst so gestrickt wie Du sagst, hey, it’s not stupid if it works, dann ist auch dieses Artefakt für dich ganz schön ganz schön wichtig.

Christoph Magnussen:

Und würdest Du jetzt Plan Artefakt und Learning daraus in per hashes im ewigen Git behalten oder würdest Du wirklich Teile wegschmeißen? Und warum? Weil es kann

Florian Baader:

ja wiederum ein Learning daraus entstehen von Artefakt zu Learning. Ich habe gemerkt, es gibt manche Dinge, da hat man sich mal verzettelt mit der AI. Ja. Und die müssen entfernt werden, weil sonst jeder Agent irgendwie wieder noch mal was davon mitbekommt und das dann irgendwie Wochen später taucht das wieder auf und denkst so, hey, ich hab's doch schon dreimal gesagt, dass ich das nicht so möchte. Also es gibt irgendwie so manche Dinge, die sind wie son Fluch sozusagen dann in deinem Repo und tauchen auf einmal in jeder Session auf, weil der Agent das immer für relevant hält, dass da mal irgendwie was getan worden ist.

Florian Baader:

Was wir deswegen machen im Repo ist, wir definieren quasi einen Entscheidungslog. Das heißt, wir sagen quasi, haben ja eben wie vorher schon erwähnt, zum Beispiel dieses Sales Operating System. Da steuert dann Claude auch Ad Spend und so weiter und wir wollen natürlich ganz genau protokollieren, warum hat ein Claude wann von welcher Ad den Ad Spend hochgestellt und das andere wieder runtergestellt. Also es ist schon wichtig, dieses Protokoll zu führen. Und ein Claude interagiert ja auch nicht nur mit deinem Repo, sondern auch mit Third Party Systemen und da tut's richtig gut, wenn Du dem sagst, Du für jede Änderung, die Du in diesem System machst, bitte lass mir da mal eine kleine Protokolldatei da, damit ich später mal nachvollziehen kann.

Florian Baader:

Nein, nein. Was da was damit passiert ist. Genau, also ich hätte gesagt, der Großteil soll bleiben, aber es gibt irgendwie so Sachen, die die poisonen das Ganze. Das sind zum Beispiel Rechtsthemen oder so Security Sachen, wenn Du irgendwie ja dort einmal einen Thema in deinem Repo hattest und sagst, hey irgendwie das ist mir wichtig, das müssen wir überprüfen oder das darf so nicht vorkommen oder so und dann zieht er das auf einmal, weil er selber denkt, dass halt irgendwas mit Legal oder Recht also es oder mit mit Security ist super wichtig und dann zieht er das auf einmal in jede Session ein und denkst Du, gerade ist das wirklich nicht relevant. Genau.

Christoph Magnussen:

Ja, aber ich weiß, also aber genau deswegen meinte ich vorhin, ich glaube, wir sind halt noch very early days zu wissen, wo ist dann welcher Standard und genau diese Schmerzen, die Du grade beschreibst, werden dazu führen, dass man nachher eine Lösung hat, wo man sagt, die kommen aufn Abstellgleis, in das Archiv in den Keller, in Kisten verpackt, whatsoever. Und dann kommt aber eben der Tag, wo Du auch Learnings daraus ziehen kannst. Und jetzt ein Teilnehmer, der hat 20 Jahre Dokumente durcharbeiten lassen von Fable. Hätte das vorher versucht am Anfang des Kurses mit ChatGPT Modellen. Mhm.

Christoph Magnussen:

Und hatte jetzt dann extrem gute Erkenntnisse draus, weil man meinte, okay, das war jetzt richtig gut.

Christoph Magnussen:

Und das ist okay, selber Datensatz, andere Learnings, interessant, you do something with it. Was würdest du sagen, wenn du jetzt so durch die Themen guckst, wir haben jetzt auch wirklich nerdy Themen dabei gehabt für wahrscheinlich einige und ich hoffe, es konnten genug Folgen und ansonsten wenn es Fragen gibt, dann würde ich sagen, machen wir uns die Mühe, die noch zu beantworten. Was würdest du sagen, welchen Bereich haben wir noch nicht beleuchtet, den wir nicht vergessen sollten? Welche Frage habe ich noch nicht gestellt, wo du sagst, die müsste aber eigentlich noch mit dazu?

Florian Baader:

Also was ich zum Beispiel gerade relativ spannend finde ist wie, aber das sind jetzt so ein paar eher so philosophische Themen, die mich gerade sehr viel umtreiben, ist ich habe eigentlich die ganze Zeit gedacht, dass oder quasi auch mit vermutet, dass quasi KI auch zu sehr viel so globaler Gerechtigkeit führen wird. Also dass Du quasi ganz viel Wissen universell irgendwie zugänglich machst davon und viele sehr sehr fleißige Talente auf diesem Planeten werden die Möglichkeit haben, sehr, sehr tief in Themen reinzufuchsen und da aus ihrem Schulsystem, was vielleicht nicht so geil ist, auszubrechen und so weiter. Und mich hat das jetzt wirklich geschockt, dass jetzt auf einmal diese AI Models und diese Restrictions da sind. Das dreht den Spieß ja dann auf einmal komplett weil das bedeutet ja auf einmal, das ist ja dann vielleicht global komplett unfair, weil wer kann sich denn dann noch diese Fable API Kosten leisten und quasi wie sehr verstärkt ist oder manifestiert es dann doch wiederum eine Welt, in der wir in der wir gerade leben. Das fand ich echt son son krassen Aha Moment, weil ich dachte vorher so geil, kannst jetzt jedes, egal ob Einstein und sonst irgendwas komplexe Theorien in jeder Landessprache, in jeder Komplexität erklären lassen, wie geil ist das das größte Bildungsinstrument?

Florian Baader:

Ich hatte ursprünglich mal gelernt, ich war ein paar Wochen in Uganda mit' Stipendium und da habe ich gelernt, dass YouTube keine Spaßplattform ist, sondern eine Bildungsplattform für den Großteil der Welt, die da Access bekommen zu Sachen, die niemals möglich wären und das für globale Gerechtigkeit sozusagen sorgt und da bin ich jetzt echt gespannt, wie sich das weiterentwickelt, wo jetzt dann auf Reddit und so wird halt immer mehr geschärzt, dass es jetzt so KI der Eliten sozusagen wird und wer kriegt noch Access dadrauf?

Christoph Magnussen:

Ich halte das für super problematisch.

Florian Baader:

Das wird eine ganz böse Thematik. Also ich finde, also für mich so 1 1 der Beispiele, wo KI netto negativ für unsere Gesellschaft war, sind für mich diese Videogenerierungsmodelle. Das mag wirklich Cases geben, wo Du irgendwie so bisschen jetzt Ads oder sowas schneller generieren kannst oder im Kinofilm oder so bisschen Kosten sparst, aber quasi diese Destabilisierung, die durch diese KI generierten Videos passiert. Jetzt haben wir lustige Memes, die irgendwie auf Insta ausgespielt werden dafür. Das kann sich ja nicht rechnen eigentlich damit und ich finde, das ist sone eine 1 KI Technologie, die im Moment ein bisschen ein paar Leuten was bringt, aber netto sone gesamte Gesellschaft wirklich kein geiler Impact ist davon.

Florian Baader:

Und ich ich hoffe wirklich sehr, eigentlich bin ich da ein Optimist davon, aber dass quasi diese Technologien am Ende halt zu was sehr Gutem führen und sie bergen halt wirklich unglaublich viel Missbrauchspotenzial von Destabilisierung und Angriff auf Demokratien und so weiter. Monopole, die da entstehen, wo ich mir denke, da weißt Du, da haben wir beide gemerkt, jetzt Ende letzten Jahres, Opus ist da auf einem Level und auf einmal hat da eine Firma ein Modell, wo Du denkst, globale Wertschöpfungskette von Software engineers, die sind über einen Kipppunkt, einen kleinen Kipppunkt gekommen und auf einmal denkst Du, ja weißt Du was eigentlich? Also vorher habe ich mir das mit dem Prakti überlegt, jetzt mit dem Junior und das finde ich so heftig, dass so kleine Steps in der Entwicklung eigentlich Industrien global impacten und da das das macht mir ehrlicherweise Bauchschmerzen, so diese diese Entwicklung da drauf. Auf der einen Seite eben dieses dieses Gerechtigkeitsthema, machen wir da dann schon auch ein bisschen Sorgen Europa. Ich mein, jetzt haben wir ja weder große Chiphersteller noch irgendwie riesen AI Firmen jetzt bis auf Mistral, die wirklich Modelle bauen, noch überhaupt mal Clouds, die sich trauen, GPU Infrastruktur aufzubauen und mal muss man jetzt wirklich sagen, es ist nicht die die crazyste Leistung einfach mal Open Source Modelle anzubieten, aber wenn man sich irgendwie alle Clouds anschaut, die sich so europäisch souverän schimpfen mit Telekom, IONOS et cetera, ist man manchmal ganz schön erschrocken, was die für Open Source LLMs hosten und irgendwie können wir jetzt auch noch Model Access verlieren?

Christoph Magnussen:

Glaubst Du, wir könnten glaubst Du, wir könnten über das Scaffolding den Model Access kompensieren, über das Bauen besserer Fabrikinfrastrukturen und also ich übertrage mal eine Analogie, die definitiv hinkt, aber sie in Deutschland wahrscheinlich passt. Wir hatten mal eine gute Automobilindustrie mit Spaltmaßen, die besser waren als der Rest, weil die Ingenieure Techniken genutzt haben, Teile zusammen gekauft haben und daraus dann auch Sachen zu bauen. So, klar wurden auch Motoren entwickelt, aber du kaufst ja heute Bestandteile auch zusammen. Glaubst du, Du baust nun auch ein Harness de facto und ein Harness ist ja nicht gleich Harness, du baust einfach ein Mittelstand, du könntest ein High Performance Forschungs-Harness bauen, du könntest ein Consulting Harness bauen, whatever. Es ist ja auch nicht super kompliziert, es wird aber komplex, wenn du anfängst, in die Details zu gehen.

Christoph Magnussen:

Ja. Welcher Prompt, welches Modell, was reagiert? Glaubst du, der Bereich bleibt und hätte auch eine Zukunft? Cursor ist am Ende auch erst mal nur ein Harness am Anfang gewesen, der by the way deutlich bessere Performance auf den Anthropic Modellen hatte als Anthropic in ihrem eigenen Harness. Ich glaub 77 Prozent Auslastung zu 94 Prozent Performance im Vergleich.

Christoph Magnussen:

Das heißt, wenn wenn diese Disziplin eher bedeutet, Anwendungsweltmeister zu sein, hältst du das für ein realistic way oder glaubst du eben, der Model Access ist ein Critical Thing?

Florian Baader:

Also ich bin schon ein starker Verfechter davon, dass diese Veredelungsschicht, so würde ich das jetzt mal nennen, dass das was ist, was jetzt Europa, gerade auch den Deutschen, sage ich mal, sehr stark liegt. Also ich mein, wir hatten jetzt, glaub ich, nie große Ressourcen, sondern wir haben eigentlich immer Dinge eingekauft, besser gemacht, geil zusammengeschraubt und dann irgendwie wieder verkauft davon. Dinge sozusagen zusammengesteckt, optimiert. Aber das kannst du nicht, wenn dir der Model Access ja fehlt, weil dann hat kannst hast ja am Ende nichts zum zum Veredeln blöd gesagt, wenn jetzt die Modelle nicht da sind, dann kannst du schlecht eine Schicht sozusagen drüber bauen. Aber deswegen ist deswegen brauchen wir glaube ich, schauen wir mal wie der Access weitergeht, aber eigentlich keine Modellentwickler in Europa unbedingt, aber wir sollten zumindest die fertigen Modelle betreiben können, weil das wäre dann schon mal gut, dass wir hier souveräne Infrastruktur dafür Und da sind glaube ich die Europäer einfach viel zu schüchtern oder viel zu, da fehlt der Mut, auch mal Gelder in die Hand zu nehmen für diesen Infrastrukturausbau.

Florian Baader:

Man sagt ja, ob das wirklich gebraucht wird und so und ich glaube, wenn man sich anschaut, wie auch so die globalen GPU Power auf irgendwie AWS, Google Cloud und Azure verteilt ist und wie viel dann übrig bleibt. Also quasi wie viel GPUs nicht von diesen großen 3 Clouds sozusagen mit kontrolliert werden, da fehlt es halt wirklich an an an Anbietern. Ich mein, man sieht's ja grade in Frankreich, wo auch quasi massivst versucht wird, die Abhängigkeiten abzubauen zu den USA und da werden Riesengelder bekommen. Das ist natürlich für uns auch ein Vorteil, weil wir ja doch irgendwie mit irgendwie richtig deutschem Rechenzentrum und ohne AWS und so weiter auch von diesem Souveränitätsthema profitieren und das auch sehr wichtig finden. Aber es gibt ja so die Theorie, dass quasi KI Intelligenz irgendwie so was wird wie so Strom aus der Steckdose.

Florian Baader:

So. Also Du kaufst einfach Intelligenz ein, ist eigentlich egal von wem, weil es irgendwie son vielleicht Roundabout dasselbe ist und Du optimierst halt irgendwie auf Tokenpreise und so weiter. Aber Du willst dann schon wie bei Energieinfrastruktur halt einfach sozusagen irgendwie autark sein einigermaßen und nicht gar nichts haben, wenn du kritische Infrastruktur dann irgendwie darauf aufbaust. Und ja, also ich bin sehr gespannt. Ich hoffe, dass die oder vielleicht auch noch ein Punkt zu diesem Thema Veredelungsschicht.

Florian Baader:

Es gibt in Deutschland auch Förderprogramme, die ja so was für Unternehmen sponsern, dass du mit KI was machst. Die fördern aber immer explizit nicht die Anwendung, sondern die wollen immer neuartige Projekte, immer neue KIs entwickeln, wo ich auch denke, das ist doch total bescheuert. Also irgendwie warum können wir nicht auch den Wert da drin sehen, dass Du das richtig gut anwenden kannst, auch in den Förderprogrammen und das auch damit Unternehmen bezuschussen, dass die geil in die Anwendung intern und extern quasi da mit reinkommen. Und ich glaube, dass also es ist ein Weg, den man gehen kann, den den wir glaube ich gut gehen können damit, aber dann muss man da vielleicht auch den den Wert dann wirklich dann sehen und dann auch Förderprogramme oder so was auf diese Veredelungsschicht setzen und eben nicht nur Förderprogramme oder Grundlagenforschung rund LLMs oder so was bezuschussen. Zum Beispiel ganz explizit dazu, es gibt da auch so GPU Programme nur fürs Training von Modellen, niemals für die Inferenz.

Florian Baader:

Aber Inferenz ist ja auch produziert ja auch Werte. Das ist dann nicht so ganz zu Ende gedacht, finde ich.

Christoph Magnussen:

Ich sehe, wir brauchen definitiv eine Runde 2. Sonst oder wir müssen es irgendwann mal den Abend reinmachen, sonst sprenge ich deinen deinen Kalender und meinen Kalender. Aber ich bin einige Fragen losgeworden, die ich hatte. Und was mir richtig Spaß gemacht hat, war, die mit dir von links und rechts zu beleuchten, ohne zu wissen manchmal so, ist das jetzt die fertige Antwort? Sind wir mittendrin?

Christoph Magnussen:

Sind wir noch dabei?

Florian Baader:

Ja.

Christoph Magnussen:

Und ja, da würde ich mich sehr freuen, wenn wir das weiter in der Öffentlichkeit auch teilen, andere dran teilhaben zu lassen.

Florian Baader:

War eine coole Session.

Christoph Magnussen:

Es hat sehr, sehr viel Spaß gemacht und Du kannst ja mal gucken, ob wir noch ein paar vielleicht in' Beschreibungstext hier auf auf Youtube, wo das auch läuft, der Podcast, mal irgendwie deine Highlight-Repos teilen oder vielleicht ein, 2 Skills, die du auch selber gebaut hast, wo Leute sagen, können wir Zeugs angucken. Ich glaube, das ist worth it, weil du hast mir auch mal was geschickt, was sehr geil war. Insofern, das wäre ein guter eine gute Einladung, in die Anwendung zu kommen und zu zeigen, wie wichtig die Anwendung ist.

Florian Baader:

Ja. Und ich glaube ehrlicherweise, wer weiß in 2, 3 Monaten gibt's wahrscheinlich schon wieder ganz andere Fragestellungen, mit denen man sich beschäftigt. Also es ist ja traust Du dich eine Prognose für das für die nächsten 12 Monate zu machen? Oder ist das schon son Thema, wo Du sagst, boah, die ganze Welt ist im Wandel und 12 Monate kommen mir persönlich gerade wie eine verdammt lange Zeit vor.

Christoph Magnussen:

Sehr lange. Also habe ich noch vor ein paar Jahren gemacht. Ich glaube, Du wirst durch die IPOs mehr da also merken jetzt ja Leute auch, wie teuer das Zeug ist. Also ich glaube, Du wirst eine Preiserhöhung haben, die hatte ich letztes Jahr schon sehr klar prognostiziert. Da meinte ich, wir werden eine Verzehnfachung bei uns an Kosten haben, die haben wir bei uns intern ziemlich genau getroffen.

Christoph Magnussen:

Du wirst weiter Modellsprünge haben und Du wirst jetzt, glaube ich, in das 1. Jahr kommen, wo durch die Harnesses dieses Scaffolding der eigenen Infrastruktur, also dieses Gerüstbau, den Du das so brauchst, das Zeugs zu betreiben. Das rückt jetzt in den Fokus, ansonsten generierst Du keinen Wert. Und da kommt's jetzt auf die Transformational Readiness der Firmen an, die Kultur, wie es angenommen wird. Die Leute, die mit kreativen Lösungen kommen.

Christoph Magnussen:

Das ist jetzt der spannende Teil. Also für mich beginnt eigentlich jetzt die heiße, spannende Phase. In der Dotcom Bubble war das die Phase, als Leute sagten, ja, das ist alles nix mit der Dotcom Endung und ich mir dachte, ja, aber das ist Internet ist halt mehr. Also das ist ja viel, viel mehr. Und das waren so die Jahre zwischen also 2002, 2003, 2004, die ich da echt spannend fand, wo die ersten Cloud Infrastrukturanbieter entstanden sind, also Salesforces gemacht und so weiter.

Christoph Magnussen:

Und die Details, die interessieren mich grade. Also die paar Personen, die Sachen teilen, die auf gute Ideen kommen, also... Ja.

Florian Baader:

Es gibt doch da diese ganzen legendären falschen Prognosen, die damals auch gemacht worden Ja, ja. Irgendwie wie viel Handys das jemals geben wird und Computer und ich bin verdammt gespannt, wenn wir so in ein paar Jahren zurückschauen, was so die legendärsten falschen Prognosen waren, die die in dieser Zeit quasi getroffen worden sind. Sehr schön. Aber ja. Es bleibt spannend.

Christoph Magnussen:

Danke, dass Du da warst und dir die Zeit genommen hast.