Slicing Onions: Du wartest, während die KI angeblich denkt

Shownotes

„Slicing Onions.“ Wer mit einem KI-Coding-Agenten arbeitet, kennt solche Anzeigen — und denkt, die Maschine denkt. Die These dieser Folge: Sie denkt nicht. Sie wartet. Und du wartest mit ihr, weil die Kapazität gerade an die geht, die pro Token echtes Geld bezahlen. Aus wochenlangen eigenen Benchmarks entsteht daraus eine unangenehme Frage an die Flatrate-Pakete: Du weißt nicht, wie viele Tokens du gekauft hast, und du weißt nicht, wann du dran bist.

Davor geht es um eine Bewegung, die den KI-Markt gerade grundlegender verändert als jedes neue Modell: KI-Adoption ist kein Software-Einkauf mehr, sondern ein Betriebsmodell. Ein Fonds kauft schlicht Steuerberatungen, Buchhalter und IT-Dienstleister auf — rund 70 Unternehmen — und baut KI direkt in deren Abläufe ein, statt darauf zu warten, dass der Mittelstand das selbst hinbekommt. Bottom-up funktioniert offenbar nicht schnell genug. Nvidia denkt parallel die Finanzierung neu: Rechenleistung soll nicht mehr als Hardware verkauft, sondern als Infrastruktur finanziert werden — womit das Thema vom IT-Einkauf auf den Schreibtisch des CFO wandert.

Und dann der Teil, der weniger glamourös ist, aber alles entscheidet: Wer seine Daten nicht integriert hat, kann keinen Agenten sinnvoll losschicken. MCP („Model Context Protocol“, die Schnittstellenschicht, über die KI auf Software zugreift) löst das nicht — es setzt nur oben drauf. Dazu: der AI Act und die Frage, wer im Unternehmen überhaupt weiß, wo KI läuft; warum das neueste Modell selten das beste ist, wenn man Latenz mitrechnet; ein lokal laufendes Open-Weight-Modell auf dem MacBook, das den Lüfter nachts hochdreht; Nvidias Investments in die eigenen Kunden; und die Blase — ja, aber wann.

Am Ende ein Tipp, der ohne KI-Vorwissen funktioniert: den eigenen Agenten auf arXiv schicken, Papers zu Datenstrukturierung und Memory ziehen lassen und die eigene Wissensbasis danach neu ordnen.

Shownotes

00:00 Auftakt: Nicht das beste Modell gewinnt 02:30 Thrive: Ein Fonds kauft 70 Firmen — und baut KI selbst ein 05:42 KI mit Stützrädern: Prozessverantwortung, Mittelstand, DSGVO 10:36 Nvidia: Rechenleistung wie Infrastruktur finanzieren 12:58 Von der SAP-Kiste zum CDO — Stufe 1 bis 4 15:30 Flaschenhals Datenplattform: MCP löst das nicht 20:30 AI Act: Inventar, Verantwortung, Regulierungsfrage 25:11 Level 4 und die Timeline: 3–5 Jahre, Mandat beim CEO 27:26 Schlagzeilen der Woche & Modellvielfalt statt Modellhype 33:47 Open Source, „Slicing Onions“, Blase — und der Tipp der Woche

Transkript anzeigen

00:00:02: KI aus der Praxis, nicht aus dem Hype.

00:00:04: AI an Cut.

00:00:08: Willkommen bei AI an cut!

00:00:10: Einen wunderschönen guten Morgen Alex.

00:00:12: Hallo Christian

00:00:14: Wir versuchen mal wieder KI ehrlich verständlich ein bisschen ohne Hype und ohne Fach chinesisch zu erklären.

00:00:20: Ich bin der Meinung ich lerne jede

00:00:22: Woche relativ

00:00:22: viel.

00:00:23: Ich hoffe alle anderen auch.

00:00:25: Und natürlich haben wir wieder einige Themen mitgebracht Breaking News, heute ein bisschen weniger Cyber Security.

00:00:31: Ich bin gespannt wann wir die Runde wieder drehen.

00:00:35: Wir haben uns aber einige Nachrichtentesen Veränderungen auf dem Markt Die Woche angeguckt.

00:00:43: und wie soll es anders sein?

00:00:45: Hatten wir mal wieder ganz ganz viel Bewegung drin!

00:00:50: Wir gehen gleich einmal in die aktuellen Nachrichten rein.

00:00:54: Aber Ich würde heute mal mit einer kleinen These starten, die du gerne einmal einordnen kannst.

00:01:01: Nicht wer die beste KI kauft gewinnt sondern wer sie in sein Ablauf einbaut kontrolliert und pro Ergebnis zahlt!

00:01:11: Wir haben ja ganz viel über Zahlen, Zahlungen Tokens Werte irgendwie in den letzten Folgen gelernt.

00:01:19: Wie stehst Du dazu?

00:01:25: kommt ja quasi unüberschaubar viel neue Technologie ständig auf den Markt, auf die Unternehmen eingeflossen.

00:01:33: Allerdings ist die große Herausforderung und die große Frage wie monetarisieren diese Anbieter?

00:01:41: Sprich am Ende natürlich wo ist der Nutzen für das Unternehmen?

00:01:44: Wo ist der Nutzend für mich als Einzel?

00:01:47: Und hier sehen wir gerade eine große Veränderung im Markt, weil immer mehr klar wird, dass KI Adoption nicht nur ein Software-Einkauf ist wie das bisher oder sein sollte.

00:02:01: Wie das bisher gewesen ist sondern immer mehr zum Betriebsmodell wird.

00:02:05: Das heißt KI kommt immer mehr in tiefe Geschäftsprozesse rein also kommt tiefer in die Geschäftsprozesse rein.

00:02:15: Dazu haben wir auch ein paar News-Meldungen natürlich gefunden, die uns auf das Thema natürlich noch mal ein bisschen aufmerksam gemacht haben und da wird sehr viel investiert gerade.

00:02:27: Falls das deine Frage war Christian?

00:02:29: Das war sie!

00:02:32: Wir haben die Woche uns einmal die Firma Thrive angeguckt.

00:02:38: Ich persönlich finde eine sehr interessante Approach.

00:02:42: Kauft ganz normaler Dienstleister ein So wie Sie kennen, Steuerberater IT-Firm und baut Ihnen KI direkt in die Abläufe ein.

00:02:51: Alex, warum ist das was völlig anderes als wir kaufen uns

00:02:55: jetzt einen

00:02:55: KI Tool?

00:02:56: So wie es vermutlich ganz viele Unternehmen bis dato machen.

00:03:00: Meine Vermutung ist sie scheitern dann quasi an der Umsetzung dessen.

00:03:04: Genau richtig!

00:03:07: Du kannst jetzt sagen Modell eins alles bleibt so wie bisher Und wir führen das jetzt ein klassisches IT-Tool und gucken, was passiert.

00:03:18: Ergo?

00:03:18: Was sehen wir im Markt?

00:03:20: Siebzig Prozent der Projekte scheitern einfach.

00:03:22: es ist schwierig den Nutzen zu heben.

00:03:24: Es ist mit vielen Gefahren verbunden wie wir in dem letzten Podcast Volga auch schon gesagt haben.

00:03:29: Der andere Ansatz ist Ein Form mit Geld kauft bestehende Unternehmen die bestehenden Kunden haben bestehendes Geschäft haben Implementiert KI nun direkt, bündelt die zusammen und implementiert KI in deren Workflows.

00:03:51: Das heißt, die kommen quasi top down und sagen ihr habt Kunden, ihr habt Geschäft der wisst ihr im Prinzip auch wie euer Geschäft funktioniert.

00:04:01: aber wenn ihr KI richtig einsetzen würdet dann könntet ihr X Y Z ein Prozent Einsparung Kostenvorteile etc.

00:04:10: heben.

00:04:11: normales Unternehmen sagt, ja schwierig weiß ich wie ich das integrieren soll einbauen und so weiter.

00:04:15: Die kaufen einfach das ganze Unternehmen um bei uns einfach radikal oben.

00:04:19: Das haben die jetzt quasi Faktor Siebzig gemacht.

00:04:21: haben sie siebzig Unternehmen gekauft im Bereich Accounting IT und bauen implementieren KI direkt in ihre Workflows.

00:04:28: da hat interessanterweise OpenAI clever von denen sich direkt mal eine Beteiligung gesichert.

00:04:37: Ich sage mal, laut TechCrunch arbeiten OpenAI-Mitarbeiter sogar live in dem Unternehmen in Splash Drive mit an der Einführung.

00:04:45: Die wollen natürlich lernen wie das geht.

00:04:49: Stellt ihr kürzere Steuerberatung vor?

00:04:52: Schnellere Hälfte ist Lösung!

00:04:55: Alles von Thrive selber und unabhängig auditiert.

00:05:00: Ich glaube, Steuerberatung ist für jeden greifbar.

00:05:02: Für jeden nervig?

00:05:03: Für jeden irgendwie eine Blackboxen?

00:05:04: Niemand versteht das so wirklich!

00:05:08: Die claim ja dreizig Prozent schnellere Prozesse in den Steuerberaten IT-Habdesk um das sechsunddreißig fache schneller.

00:05:19: aktuell wird schon an siebzig Firmen gearbeitet.

00:05:21: insgesamt sind zwei Milliarden frisches Geld reingefliessen.

00:05:24: du hast gerade gesagt ob mehr Eis da drin die Blaupause oder deine persönliche Meinung, wie KI auf diese Art und Weise in die Wirtschaft kommt?

00:05:36: Weil Badem-Ab funktioniert nicht.

00:05:42: Man könnte jetzt sagen, Badem Ab funktioniert nicht, auf jeden Fall nicht so schnell.

00:05:46: KI mit Stützrädern.

00:05:48: KI Mit Stützträdern!

00:05:49: Das heißt, die ganze Geschichte verschiebt sich von welches Modell kaufen wir, vom welchem Anbieter zu?

00:05:54: wer besitzt den Prozess Wer verändert ihn und wer trägt das Ergebnis?

00:06:01: Das ist für den Mittelstand natürlich ganz besonders relevant, weil Wettbewerbsvorteile eher ausliebter hohlbare Umsetzung als exklusiven Modellzugang heraus entstehen.

00:06:09: Das heißt die Zukunft besteht daraus nicht nur über wer verkauft die KI oder wer kauft die KE sondern vor allem wer übernimmt die Verantwortung dafür dass ein echter Prozess schneller günstiger und besser wird.

00:06:25: wie wir an diesem stark finanzierten Unternehmen sehen, geht jetzt in die Richtung das Out-to-Sourcen.

00:06:32: Beziehungsweise nicht Out-To-Sorcen sondern die kaufen einfach das Accounting-Unternehmen, die Buchhalter und die IT-Ununternehmen und digitalisieren sie nicht nur durch, sondern KI führen KI innerhalb dieses Unternehmens flächendeckend ein und kürzen dort die Entscheidungswege ab, die dort normalerweise vielleicht im Weg stehen.

00:06:56: Wenn wir uns einmal den Profiteur jetzt mal davon angucken, dann ist das quasi im Endeffekt der Steuerberater.

00:07:00: Der arbeitet schneller und kann mehr Kunden annehmen.

00:07:04: Die Frage ist, gibt es auch die Ersparnisse an den Kunden weiter?

00:07:10: Kann er vermutlich oder muss er erstmal nicht?

00:07:14: Das kann natürlich ein interessantes Gefälle auf dem Markt erstmals schaffen!

00:07:19: Du kennst ja viele Buchhalter.

00:07:21: Ja, zwangsläufe!

00:07:24: Ich finde einen weiteren beruflichen Background.

00:07:28: Die Innovationsgeschwindigkeit bei Buchhaltern ist normalerweise eher begrenzt.

00:07:33: Ich will es keinen Buchhalter zu nahe treten aber die werden ja auch nicht dafür bezahlt besonders kreativ oder sehr wie soll ich sagen innovationsfreudig sein sondern sie sollen einfach solide gut arbeiten jedenfalls aus meiner Perspektive.

00:07:47: und da ist natürlich das ein Rollout langwieriger oder vielleicht auch noch schwieriger.

00:07:54: Gleichzeitig haben die große Vorteile davon, wie wir

00:07:57: wissen.".

00:07:58: Buchungen können teils automatisiert werden, Customer Care und Off-Body für Mitarbeiter.

00:08:04: Egal wo du dich jetzt anfasst ja da sind ja tonnenweise Verbesserungen drin.

00:08:08: Mich erinnert das ein bisschen an dieses Endpalmodell dass die haben ja auch angefangen und haben Dachbauunternehmen und Handwerke aufgekauft und andere Handwerker aufgekauft um Solarzellenflächendecken zu installieren quasi.

00:08:23: Oder es ist jetzt mit einem Kompon Fünf war, das glaube ich anstatt fünf Grad.

00:08:28: Und also dieses Konsolidierungsmodell werden wir sicherlich noch häufiger sehen?

00:08:34: Ich weiß nicht ob das jetzt ein Modell für den deutschen Mittelstand ist.

00:08:36: da braucht's wahrscheinlich zu viel Geld aus der Hedgefonds Perspektive dafür erreichen zwölf Milliarden dann auch nicht um da wirklich Meter zu machen.

00:08:44: aber ja

00:08:45: Glauben wir, wir können aber so einen Modell vor allem auch mit deutschem DSGVO umsetzen oder werden wir uns da wieder selbst in der Quere stehen?

00:08:54: Naja

00:08:55: jetzt kommen ja auch neue Gesetzgebungen zum Thema.

00:08:58: Das wird nicht viel einfacher.

00:09:01: Die andere Frage die man sich stellen muss, was wird also Europa?

00:09:04: Wenn die Welt halt diese Art von Technologie benutzt und Europa sie nicht benutzt.

00:09:08: Also auf der einen Seite wie wir ja auch schon oft gesagt haben sind wir gegen eine Utopie denke ich in der keiner leben will wo die Maschinen die komplette Arbeit übernehmen.

00:09:17: Auf der anderen Seite unsere Arbeitsprozesse durch die Werkzeuge nichts zu beschleunigen wäre glaube ich auch ne dumme Idee.

00:09:23: also weiter nach vorne gedacht.

00:09:27: Wir sollten dringend anfangen darüber nachzudenken, ob man Steuerberater solle trinken.

00:09:30: Vielleicht sind ja auch Steuerberatter als in der Hörerschaft ne?

00:09:35: Na de facto ist KI ja besonders interessant bei repetitiven numerischen Prozessen und ich mein wo wenn nicht im Finance slash Accounting slash Tax?

00:09:48: Ja!

00:09:49: Ich finde das ein langweiliges Thema.

00:09:51: Ich habe das mal zum Steuerberatern gesagt er hat mich schräg angeguckt.

00:09:54: Ich fand da nicht so lustig glaube ich aber weiß eben wiederholbar ist.

00:09:59: Wenn du in deinem Gehirn natürlich traf, trainiert es immer neue Sachen zu machen den ganzen Tag dann wird das schnell langweilig für so wiederholbare Aufgaben und es gibt auch Menschen die machen das gerne, wir wollen die noch nicht zu nahe.

00:10:10: treten sie alles gut.

00:10:10: ja don't get me wrong Aber ich glaube hier können wir an der Stelle ganz klar sagen dass hier eine große Innovationskraft dahinter steckt und ein großer Power dahintersteckt.

00:10:21: Also du würdest an der Stelle sagen KI-Adaption ist kein Betriebsmodell mehr, kein Softwareeinkauf.

00:10:26: Es zählt Prozessverantwortung und der Preis pro Ergebnis.

00:10:30: Wahrscheinlich werden wir in zwei drei Jahren vermutlich nicht über Modelle sprechen oder niemand weiß mehr was ein Modell ist?

00:10:37: Aus der Kategorie kommt noch eine andere Nachricht, die ich gesehen hatte.

00:10:41: Nvidia hat große Kapitalhäuser versammelt weil sie KI-Rechenleistung eher wie Infrastruktur finanzierbar machen wollen und nicht wie Hardware verkaufen.

00:10:49: Wo ist jetzt der Unterschied zwischen Hardware und Infrastruktur?

00:10:51: Na ja, Infrastruktur wäre eher so ein Betriebshalle wo du in einer Maschine drinstehen hast dir irgendwas herstellt in der Produktion zum Beispiel.

00:10:57: das heißt Nvidia kündigt hier strategische Partnerschaft mit der Polo Blackrock Blackstone und so ein paar anderen an Und die wollen eine unabhängige Finanzierung Plattform schaffen.

00:11:08: Es geht um fünfhundert Milliarden an Drittmitteln, die für KI-Infrastruktur mobilisiert werden

00:11:12: sollen.".

00:11:13: Das heißt NVIDIA will jetzt quasi den Turnaround hinbekommen dass AI Hardware nicht mehr oder so ein Data Center nicht mehr nur wie bisher quasi.

00:11:28: ich kaufe Hardware ein und die IT macht das schon von ihrem Budget sondern das verlagert sich jetzt auf dem CFO in die vom IT-Einkauf quasi in die Leasing und Providerecke.

00:11:42: Für deutsche Unternehmen heißt das, wenn du dieses langfristige Cloud- und GPU-Verträge machst dann solltest du ja nicht nur auf den Preis gucken sondern eben auch auf die Auslastung.

00:11:52: wie kannst du es selber auslasten?

00:11:54: Überhaupt Laufzeit, Energie, Restwertrisiko vielleicht sogar noch die Abhängigkeiten drum herum prüfen.

00:12:02: Es wird eben Errechenleistung dann eher wie einen Kraftwerk finanziert als eine KI-Strategie, die jetzt irgendwie die interne IT bisher umgesetzt hat.

00:12:12: Das heißt es wird nicht nur zur CIO Frage der Chief Information Officer, der das lösen muss sondern vor allem auch der CFO und diverse andere Mitarbeiter im Unternehmen, wir sagen Top Manager, die das in ihren Ressorts mit drin liegen haben Und dass ist auch wiederum ein weiterer Schub.

00:12:34: Ich denke auch in die richtige

00:12:35: Richtung.".

00:12:37: Also aus meiner Perspektive IT war dann noch meistens beim CTO und IT war ja oft der Dienstleister oder der Enabler für alle anderen Departments, während jetzt jedes andere Department vermutlich zur Hälfte mindestens aus IT oder KI entsteht?

00:13:00: Aus meiner Perspektive kam das so in den neunzigern mit der SAP.

00:13:04: Das hast du halt irgendwie eine komische Kiste da irgendwo in der Ecke stehen, die muss irgendwas machen.

00:13:08: Da kümmert sich einer drum, der Lust drauf hat.

00:13:12: So ungefähr sehen dass die Buchhalter wahrscheinlich und das wäre auch gerne es für immer so gegangen.

00:13:19: Und dann kam die Digitalisierung.

00:13:21: Daten wurden plötzlich zum Gold erhoben Anfang der zweitausender und jetzt wurde angefangen, Content nicht nur im Social Media sondern auch im Unternehmensinternbereich anders zu behandeln und es plötzlich wurde klar dass man übergreifend arbeiten muss weil es plötzlich ja wenn da hinten diese kleine Kiste steht und dahinten in einer anderen Ecke steht eine andere Kiste kann ich die Daten ja nicht zusammenführen.

00:13:43: das heißt du brauchst ne übergeordnete Rolle Chief Information Officer der dann hingeht und quasi sagt, die Daten sind jetzt hier das Gold.

00:13:51: Und ich muss sie irgendwie zusammenführen oder muss etwas draus

00:13:53: machen.".

00:13:54: Dann hatte sich diese Rolle von diesem IT-Verantwortlichen weiterentwickelt Richtung CDO, Chief Digital Officer.

00:14:00: Weil plötzlich klar war es sind auch die Prozesse oben drüber, die übergreifen zwischen den verschiedenen Abteilungen geschaffen werden müssen wo quasi IT, wo Softwaresysteme vollautomatisiert halbautomatisiert wie immer gar nicht automatisiert jedenfalls unterstützen.

00:14:13: also das sind nicht nur die Daten sondern auch die Softwareprozesse obendrüber.

00:14:16: heißt es gibt nicht nur eine Software für Department A oder für Department B Sondern es gibt Software die von allen Departments benutzt wird ausgetauscht und es entsteht eine gemeinsame Datenplattform, oben drüber ein gemeinsamer Prozess-Layer.

00:14:29: Dann gab's natürlich Unternehmen die davon profitiert haben wie Ceylonis zum Beispiel auch die Process Mining Software Angeboten haben

00:14:35: etc.,

00:14:35: und anbieten etc.. Und jetzt sind wir in der nächsten Welle In der KI Adoption Welle oder AI Adoptions Wave und innerhalb dieser Welle wird plötzlich klar dass ne andere Komplexität eine künstliche Intelligenz den Geschäftsprozess quasi theoretisch übernehmen kann.

00:14:58: Eingeführt in dem Markt Stufe eins bis vier, da gibt es ein interessantes Modell.

00:15:02: Stufe Eins ist ChatGbt, Stufe V in tiefe integrierte Geschäfts-Prozesse.

00:15:08: Wir sind heute aktuell technologisch irgendwo zwischen Stufe II und III.

00:15:13: Sprich, Stufe III wäre dieser Co-Pilot unterstützt zwar nicht der Microsoft Co-pilot sondern der die unterstützende AI, die mich als Person und vielleicht auch meine Abteilung unterstützt.

00:15:23: Da stehen wir gerade so in der Schwelle technologische.

00:15:27: Und jetzt ist klar dass ich drumherum im Unternehmen sowohl auf der Finanzierungsfrage als auch auf wie das Unternehmen selber strukturiert noch größere Probleme auftun.

00:15:40: Ich habe einige Kundengespräche diese Woche wieder gehabt und mir ist aufgefallen, dass es erstreckend und erstaunlich viele Unternehmen gibt die immer noch dran harbern und knapsen an der Datenplattformthematik also sprich eine gemeinsame Datenplatform herzustellen auf den sie in Betriebsübergreifenden auch arbeiten können.

00:16:00: Und warum wird es jetzt noch wichtiger, wenn du natürlich einen AI-Agent einsetzen willst der zwischen verschiedenen Systemen und Daten jongliert und automatisiert?

00:16:11: Egal ob er jetzt sicher ist oder nicht.

00:16:12: Wir gehen davon aus, da wird irgendwann sicher.

00:16:14: Dann musst du erst mal die Datenintegrationen herstellen.

00:16:17: Die sind immer dabei diese Datenintegrations überhaupt erstmal anzufangen.

00:16:22: Man hat sich sehr stark darauf verlassen was so große Anbieter wie SAP und Salesforce liefern.

00:16:28: Die haben aber immer nur Ökosystem Play gemacht.

00:16:31: Das heißt SAP hat immer nur innerhalb ihres eigenen Ökossystems Integration gebaut, die haben aufgekauft weitere Unternehmen reingekauft und hatten dann eine harte Zeit diese weiteren Unternehmen und Softwarepakete rein zu integrieren in ihr Gesamtangebot genauso auch Salesforce & Co.

00:16:49: das heißt sie haben noch nicht mal ansatzweise drüber nachgedacht.

00:16:52: irgendwie.

00:16:55: Ich kenne Projekte und ich kenne auch Initiativen, meistens sind die dann irgendwann wieder im Sonne verlaufen oder gescheitert zwischen den Großen.

00:17:02: Anbietern und Plattformen, die Dinge herzustellen.

00:17:04: Die einzigen, die da wirklich Metern machen auf der Datenplattform Seite ist Microsoft mit Azure Und auch so LWS

00:17:10: usw.,

00:17:11: die natürlich davon profitiert haben dann zu sagen Deine Daten liegen nicht nur im SAP oder im Salesforce oder in einen der drei Hundert anderen Systeme.

00:17:17: Sondern du kannst eine gemeinsame Datenplatform herstellen jetzt hier mit Azure zum Beispiel Kannst deine Ingestion der Cloud machen und kannst dann Systeme on top hinzufügen diese Unternehmen und die Konzerne, die das schon gemacht haben.

00:17:31: Weil da musst du natürlich auch klären, wen gehören denn die einzelnen Daten?

00:17:34: Wie darf ich denn die überhaupt selbst im Unternehmen zusammenführen und Co.

00:17:37: Und die Unternehmen wie das schon gemacht haben, die die Aufgabe schon gelöst haben sind die jetzt am meisten profitieren weil sie natürlich jetzt innerhalb ich sage mal von super kurzer Zeit von Stunden AI-Agenten los schicken können und ausprobieren können, weil sie die Daten schon konsolidiert haben.

00:17:53: Sie haben sich verstanden, bereinigt und konsolidiert.

00:17:57: Sie haben die Berechtigungskonzepte darum rumgeklärt und meistens auch live in Echtzeit irgendwie abrufbar.

00:18:04: Und jetzt kommen on top dazu noch neue Betriebsmodelle wie das was Nvidia hier vorschlägt usw.

00:18:09: Das heißt auf der Prozessebene, mal abgesehen von Robotik auf dem Shopfloor oder Produktion etc.

00:18:17: gab es hier und gibt's gerade eine große Bewegung Und ich kann nur jedem CIO empfehlen, absolut sich Gedanken zu machen.

00:18:26: Was sind meine wichtigsten Systeme?

00:18:28: Wie kann ich die Daten seitlich integrieren?

00:18:31: Weil das was in den letzten Jahren nicht gemacht worden ist wird jetzt auch nicht einfacher oder schneller.

00:18:36: und gerade bei solchen ja sag' ich mal... Organisationen, die dazugehören, die ich ja mitnehmen muss.

00:18:41: Das müssen wir meine gesamte Unternehmen und meine Organisation mitnehmen wenn es um Datenintegration geht.

00:18:45: Das heißt wer darf auf was zugreifen?

00:18:47: Warum?

00:18:47: Wieso?

00:18:47: Weshalb?

00:18:48: Wer liefert dort welche Daten?

00:18:49: All diese Fragen... Wer ist da verantwortlich für einzelne Datenpunkte?

00:18:53: Diese Fragen muss sich organisatorisch geklärt haben!

00:18:57: Und da brauchst du eben einen CDO dazu.

00:18:59: Da brauchst Du jemanden der das Mandat hat vom Vorstand und in den Unternehmen selbst, in den kleinen Unternehmen reingeht und entsprechend dort in die Umsetzung geht.

00:19:08: Und wenn das in den letzten Jahren ist, natürlich wieder mal bei vielen auch versäumt worden.

00:19:11: Das wird jetzt nicht besser!

00:19:14: Mein Appell macht eure Hausaufgaben.

00:19:17: D.h.,

00:19:17: wir können gar keinen KI-Haus bauen ohne dass das Fundament andersweise steht?

00:19:22: Was wir als größtes Hindernis gerade sehen beim Rollout von KI-Projekten aus eigener Erfahrung sind Datenintegrationen.

00:19:33: Wir haben gesagt, alle wir haben MCP.

00:19:34: das haben wir jetzt letzte Mal im letzten Podcast schon gesagt ist toll.

00:19:37: ja Modell-Context-Protokoll gibt quasi Software-Schnittstellen so eine zusätzliche Schicht dass AI die benutzen kann.

00:19:44: Das löst aber nicht dein Datenproblem was du da drunter hast und außerdem sind diese MCPs natürlich meistens so instabil dass sie sowieso nochmal behanden nachgebaut werden müssen.

00:19:54: Das heißt das Datenintegrationsthema ist nach wie vor präsent Deine KI.

00:19:59: Wir wollen uns noch nicht auf eine nicht deterministische KI verlassen, die Daten zu konsolidieren, sprich Daten zu löschen.

00:20:07: Wie hoch ist die Wahrscheinlichkeit wohl dass die falschen Daten gelöscht werden?

00:20:10: Also das will ja wieder mal keiner.

00:20:13: Das passiert leider zu oft.

00:20:15: Super interessant!

00:20:16: Ich bin gespannt ob der Wegruf bei einigen Leuten ankommt und ich glaube tatsächlich wir werden einfach in der deutschen Wirtschaft sehen wer rechtzeitig mitgezogen hat und wer nicht remizit.

00:20:28: Sonst wird es halt ein bisschen grischer.

00:20:30: Das Ganze geht ja noch weiter, jetzt kommt ja der ganze AI-Act und da geht's ja im Grunde, im Kerndrom.

00:20:37: wer weiß heute noch quasi wo KI eingesetzt wird und wer verantwortlich ist?

00:20:42: also das heißt der AI Act versucht im Grunden im Kern zu klären Wo wird KI eingesätzt?

00:20:48: Und wer ist verantwortlig?

00:20:50: Und dass... Also dasselbe was wir mit Daten eben schon erkannt und besprochen haben, passiert natürlich und muss auch passieren zum Thema KI.

00:21:03: Also auch dort muss jemand verantwortlich sein und der Gesetzgeber schreitet hier rein und sagt ja ihr müsst jetzt KI inventarisieren.

00:21:13: Ihr braucht klare Ohnestrukturen, ihr braucht Vendor also Zulieferer, Hersteller nachweise Ihr müsst Prozesse kennzeichnen, deren Änderungen.

00:21:22: Und das ist natürlich nicht eine reine Aufgabe von Legal und der Rechtsabteilung sondern da sind alle wieder beteiligt.

00:21:29: ja Einkauf, IT-Fachbereich, Marketing müssen den gleichen Informationssicherheitsstandard aufbauen.

00:21:35: Ich bin kein Anwalt wir geben auch keine Rechtsberatung logischerweise aber das ist operativ mit großer Herausforderung.

00:21:42: die Lage ist klar wer seine KI Systeme anbieter und verantwortlichen nicht inventarisiert hat kann auch keine Kompleien steuern.

00:21:48: Das ist das Nächste, was uns jetzt trifft.

00:21:52: Das heißt wir haben nicht pauschale Pflichten aber wir müssen uns darauf vorbereiten dass es hier weitergeht.

00:22:03: der Gesetzgeber wird von heute auf morgen nicht an und machen und tun ja Aber schaut euch genau die einzelnen Fristen an.

00:22:10: wie gesagt wir sind keine Rechtsberatung.

00:22:12: Wir könnten mal einen Anwalt dazu einladen und da mal reingehen.

00:22:19: Also schreibt uns gerne, falls das Thema für euch interessant ist.

00:22:22: Dann gehen wir dann noch einmal eine kostenlose Rechtsberatung und holen einen Profi rein!

00:22:27: Aber provokante Frage an der Stelle?

00:22:30: Wir werden ja mehr oder weniger von der Regierung oder ihr oder im Endeffekt die ganze KI-Branche von einer Regierung reguliert.

00:22:39: Die Leute, die regulieren haben sie den Ahnung vom KAE oder nicht?

00:22:42: Oder ist das die größere Gefahr der ganzen Geschichte?

00:22:45: Ich kenne zwei, drei Leute tatsächlich auch die bei diesem KI-Regulierungsgesetzen mitgewirkt haben und da auch fitterführend dabei waren.

00:22:54: Ich würde sie schon sehr kompetent einschätzen, zumindest aus der anweillichen Perspektive und sicher auch auf der IT Folgenperspektive oder KI-Folgenperspective.

00:23:05: Deswegen ganz von der Hand zu weiß ist das nicht.

00:23:08: allerdings ist die gesamte Regulierung halt hier wieder.

00:23:12: weißt du wenn du halt versuchst, in Europa alles richtig zu machen und der moralische Weltmeister zu sein.

00:23:20: Gleichzeitig aber die ganze restliche Welt an dir vorbeiziehen.

00:23:25: Also

00:23:26: bremsen wir wieder Innovationskraft durch Regulierung?

00:23:29: Wir bremsent auf jeden Fall Innovations Kraft durch Regulation.

00:23:33: allerdings ist es so dass ein bisschen Regulierungen weltweit auch nicht schaden würde.

00:23:36: also Die Balance fehlt hier mal wieder.

00:23:39: die EU prescht vor Und leider ist es nicht so, dass die Welt einfach mitzieht.

00:23:45: Weil wir sowieso den Takt hier angeben auf der Baustelle.

00:23:48: Wir haben keine eigenen AI-Modelle und wollen die Arbeiter, die die anderen haben regulieren.

00:23:51: bei uns für einen sehr zersplitterten großen EU-Binnenmarkt wo jeder eine andere Sprache spricht usw.

00:24:01: kann man jetzt eine Meinung zu haben.

00:24:03: Ich versuche mich aus durch die Meinungen fern zu, von solchen Bildungsmaßnahmen fernzuhalten.

00:24:07: aber als Anbieter hat das natürlich was mit Kosten zu tun.

00:24:11: ich kann natürlich auch gleichzeitig sagen ein Anbieder der es hier verkaufen kann kannst woanders auch verkaufen weil du einmal die Compliance und die die Transparenz Gesetze hast.

00:24:19: deswegen...

00:24:20: ...hast dich einmal durchs Schlimmste schon durchgekämpft?

00:24:22: Und das ist natürlich auch finanziell.

00:24:24: zeitlich einen AI-Produkt zu verkaufen in Europa vs.

00:24:29: USA ist ein großer Unterschied, das dauert in Europa einfach länger.

00:24:35: Vor allem wenn du signifikant Level IV Richtung tiefe Unternehmensprozesse bist, bisschen wie beim Autofahren die sind auch in so einem Level unterteilt.

00:24:41: wie autonom ist es ja.

00:24:42: Level IV komplett autonome Geschäftsprozese durch AI, AI-Agenten und Detaministische AI.

00:24:50: da brauchst schon ein bisschen mehr und da ist der Gesetzgeber noch nicht ganz drauf gekommen.

00:24:54: dann werden wir aber auch noch darauf kommen bin ich mir sicher!

00:24:56: Hypothese, was glaubst du wie lange wir in Deutschland auf Level vier brauchen werden?

00:25:00: Nö, das ist also diese... Du kennst es ja.

00:25:04: Da gab's so einen Druck, ich weiß nicht mehr genau wer's gesagt hat, aber wir überschätzen quasi den kurzzeitigen Impact und unterschätzen die langfristige Veränderung.

00:25:17: heißt Wir haben zwanzig, was war das?

00:25:21: Zwischen einzwanzig und reinzwanziger gedacht.

00:25:22: Wow!

00:25:23: AI ist jetzt hier morgen.

00:25:24: Es sitzt hier alle arbeitslos und überhaupt ich sehe es noch die lesen noch die FZ Artikel oder haltes Blatt muss nicht eingetreten.

00:25:31: an die artikel können sie sich heute auch nicht mehr erinnern aber es ist eben nicht eingetritten.

00:25:35: genauso wie Elon Musk zwanziger gesagt hat nächstes Jahr gibt selbst fahrende autos dieses fischer seit zehn jahren verkauft um den keiner stoppt das für fünf tausend euro pro auto extra on top zu verkaufen.

00:25:43: Jetzt kannst natürlich Sachen.

00:25:44: ja die Autos fahren in der usa Ja Aber wir sind auch wieder bei der Wahrscheinlichkeit und dem Wahrscheinlichkeitsspiel.

00:25:53: Ab und zu bauen sie trotzdem Unfall, wer haftet dann dafür?

00:25:59: Die Uhr ist das sehr zurückhaltend was Zertifizierung von selbstfahrenden Autos betrifft.

00:26:05: Zurück zur Frage deiner Vermutung an Timeline.

00:26:09: Drei bis fünf Jahre für die erste sichtbare Erfolge dass wir vielleicht diese seventy, dreißig Umkehr- und siebzig Prozent der IT-Projekte scheitern.

00:26:20: Könnte man umdrehen.

00:26:21: Siebzig prozenter IT Projekte, die erfolgreich sind, wenn man es als Betriebsmodell versteht.

00:26:29: Der CEO muss verstehen, dass er das nicht outsourcen kann an den Head of AI.

00:26:35: Den kann er einstellen.

00:26:36: Ich sehe ganz viele Head of AIs in den Unternehmen.

00:26:41: Die Frage ist, die Durchschlagskraft haben die das Mandat wirkliche Veränderung herbeizuführen?

00:26:48: Da mache ich jetzt ein Fragezeichen dran.

00:26:49: Wird sich zeigen aktuell im Markt?

00:26:52: Ich denke es sind die momentan am erfolgreichsten, die das Top-Down vom CEO her von Bord her verstanden haben und anfangen ganz knallhart Prozess für Prozess in die Hand zu nehmen und durchzudigitalisieren und durchzu-kaitisieren.

00:27:11: Wir gucken uns einmal vier Schlagzeilen der Woche an.

00:27:16: Bei zwei bin ich ungefähr der Meinung, die gibt es einfach jede Woche.

00:27:20: Entroffingster beim geplanten

00:27:21: Bewertung oder

00:27:22: neue Modelle?

00:27:25: Also das ist so sicher wie das Arm in der Kirche!

00:27:27: Das gibt jeder Woche mindestens einmal.

00:27:29: Entrophingser beim geplanten Börsengang mit rund zwei Millionen Dollar bewertet werden.

00:27:36: Wiederholte Frage – Die Bewertungen laufen der Realität Davon?

00:27:40: Ja, nein vielleicht.

00:27:43: Naja

00:27:43: also guck wir haben uns ja vor zwei Wochen glaube ich... Ich weiß gar nicht ob wir da ein Podcast darüber gesprochen haben, hatten wir uns ja gefreut dass Microsoft in der Cloud so gute Ergebnisse geliefert hat und wir haben es darüber wissen ja explizit.

00:27:57: kein Analysten-Podcast für Börsen notierte Unternehmen die KI als Seitenthema machen sondern wir sagen Was wir hier entdeckt haben ist Microsoft kam jetzt in der Seitennachricht auf Bloomberg, hat über siebzig Prozent oder sogar mehr war es.

00:28:16: Ich weiß gar nicht, was die Zeit nochmal nachgucken.

00:28:20: Seinen Cloud-Umsatz deswegen steigern können weil er einen Kunde war, der besonders viel gekauft hat und das Open AI.

00:28:25: Also mal abgesehen, dass man sich vorher an den Beteiligten bis Geld gibt.

00:28:28: Sich dann wieder zurückzuzahlen über ... ne?

00:28:30: Das sind ja so zirkuläre Gesetze.

00:28:32: Ja eine Hand wäscht die andere, wer spielt

00:28:34: eine noch zu?

00:28:35: Es wäre halt wichtig gewesen wenn der Rest des Marktes die Cloud Kapazitäten für AI kauft und nicht ein Anbieter, der ganz hart von allen Seiten Geld bezieht was eben nicht durch Umsatz gesteigert wird sondern durch Investments.

00:28:55: Das heißt, auch hier muss man sich über die langfristige Nachhaltigkeit des Geschäftsmodells unterhalten.

00:29:03: Der Markt hat daraufhin nämlich damals vor diesen zwei Wochen mit der Microsoft-Nachricht aufgeatmet und die sämtliche KI Modelle, sorry Anbieter, Studios

00:29:13: usw.,

00:29:14: haben dann auch weiter zugelegene Bewertungen und das wird ja sowieso alles gut.

00:29:18: Microsoft zeigt bestes Ergebnis seit vierzig Jahren und so, es wird alles geil!

00:29:23: Und dann kommt sie mit so einer ganz kleinen Nachricht am Rande raus.

00:29:26: Ja, war übrigens nur von einem Kunden und das finde ich schon schwierig.

00:29:31: Weißt du was?

00:29:32: Erst ist das so eine riesen Nachricht und dann ist das eine ganz kleine Nachricht im Rande.

00:29:38: Umso besser finde ich wenn sowas wie Thrive um die Ecke kommt und sagt wir machen es einfach mal grundsätzlich anders Wir warten jetzt nicht mehr auf den Markt sondern wir kaufen uns dem Markt einfach ein weil wir haben genug Geld.

00:29:48: Also die Signifikanz der Nachrichten ist natürlich bei Thrive deutlich höher als beim anderen.

00:29:53: Das wird sich, das ist Potato Patata.

00:29:55: Das wird es sich ja ganz halt weiter so drehen irgendwie in den nächsten Wochen.

00:29:59: Grogg-Vierpunkt sechs.

00:30:01: SpaceX i ist raus.

00:30:03: Neue Modelle im Wochentag.

00:30:05: Das letzte Mal war Scalowen drei Punkt acht.

00:30:08: Das ist ungefähr auch sicher wie das am in der Kirche.

00:30:11: Modellschlagzahl inzwischen auch einfach nur ein Marketingtool, der gute Ton dabei gehalten werden muss.

00:30:18: Ist das überhaupt noch relevant oder ist es einfach quasi, wie ein Betriebssystem bekommt?

00:30:23: Ein Update.

00:30:24: Danke, Tschüss!

00:30:25: Installieren wir und machen weiter.

00:30:27: Also die... Wie wir das letzte Mal auch gesagt haben solltest du ja meiner Meinung nach nie nur ein einziges Modell einsetzen sondern immer eine ganze Batterie von Modellen.

00:30:38: Man könnte auch mal in Evolutions und Benchmarks investieren, um für seine eigene Aufgabe zu schauen was ist das beste Modell.

00:30:46: Man könnte natürlich auch mit dem neuen Nemotron-Modell wiedergehen von Nvidia und sagen da gibt es offene Gewichte und das heißt am Ende ich tune das Modell auf meine Daten wäre auch mal ein schöner Ansatz.

00:30:58: Wenn man die Hardware eh schon rumstehen hat von Nvidia und die quasi im Standby läuft, dann kann man die natürlich auch los schicken bisschen mehr Strom zu verbrauchen und auf seine eigenen Daten zu trainieren.

00:31:12: wenn das unstrukturierte Daten also viele Texte sind, viele Dokumente sind

00:31:16: etc.,

00:31:16: kannst du dich danach halt besser mit deinen Dokumenten unterhalten ist so eine schöne Sache vielleicht sogar besser als ganz viel Geld für die großen Frontiermodelle auszugeben.

00:31:26: Ich ertapp mich ja auch immer wieder dabei, dass ich das Gefühl habe, wenn ich das große AI-Modell von Entrophic oder OpenAI benutze, habe ich auf jeden Fall das beste Modell.

00:31:36: Also es ist so ein bisschen menschlich.

00:31:39: Das neueste Modell muss auf jeden fall das Beste sein und überhaupt usw.. Und ich habe jetzt übers Wochenende wieder viele Benchmarks laufen lassen nach unter der Woche.

00:31:48: Ich hab festgestellt, dass manchmal die großen Modelle verschiedenste Probleme haben, die gar nicht so offensichtlich sind auf den ersten Blick.

00:31:55: Das erste Problem ist wenn du einen Modell hast was mit verschiedenen Agenten selbstständig denkt und die unterhalten sich dann alle miteinander und das bis hier zum Hintergrund und du merkst es gar nicht.

00:32:04: Hast du natürlich eine viel höhere Latenz?

00:32:06: Das heißt du hast teilweise Nicht nur Millisekunden, sondern fünfhunderttausend Sekunden, zweitausend sekunden Antwortzeit auf deine Anfragen.

00:32:14: Also sprich auf deine Prompt und auf dieses Chatten hin- und her auch in deinen Agenten.

00:32:20: Wenn dein Agent Two Calls wegschickt etc.

00:32:22: Pipapro Und wenn das dann zwanzig dreißig Sekunde Minuten dauert bis du den Antworten bekommst versus.

00:32:28: Du hast einen fünf Prozent schlechteres Modell was aber Nicht Minuten, sondern Millisekunden braucht um zu antworten.

00:32:36: Teilweise auch mit einem Durchsatz von fünfhundert Togen versus Fünfzig Tokens pro Sekunde erarbeitet.

00:32:41: und ganz ehrlich... Joa!

00:32:46: Ich glaube es ist aber ein ganz interessanter Punkt.

00:32:48: nur die wenigsten Leute verstehen und ich merke das ja auch selbst dass.. Und ich glaube schon noch sehr lange dauern bis alle Leute das wirklich begreifen wie du gerade gesagt hast, dass das neueste Modell nicht das Beste ist Sondern dass du halt bestimmte Modelle für bestimmte Aufgaben hast.

00:33:02: Und das ist ja, glaube ich die große Veränderung.

00:33:04: zum Beispiel wenn du jetzt irgendwie zum Update in den Betriebssystem gehst weil da war ja damals immer das neueste Betriebesystem angeblich immer das Beste und hast der letzten Mal auch gesagt also Anthrophic scherzt sich ja auch ein Scheiß darum die Leute in die Richtung zu edukaten weil sie sollen ja Geld ausgeben aber dass es ja schon gesellschaftliche Education wo wir reinmisten um einfach auch Ressourcen richtig und nachhaltig einzusetzen.

00:33:32: Ich mache nochmal einen kurzen Werbeblock für meine Firma NXM, ja?

00:33:37: Wir werden in den nächsten Tagenwochen ein Stück Open Source Software veröffentlichen was bestehende AI-Denkvorgänge und Prozesse quasi lokal verarbeitbar abspeichert als wiederverwendbares Wissen quasi oder wiederverwendbares Prozesswissen als wieder Verwendbare MiniAI quasi deterministisch, das heißt du kannst sie mehrfach ausführen und sie funktioniert immer wieder gleich.

00:34:01: Und das heißt ich brauche gar nicht mehr so viele Tokens vom Cloud Provider.

00:34:05: warum erwähne ich das?

00:34:06: weil ich dafür viele Benchmarks gebaut habe diese Woche?

00:34:09: Ich nehme eigentlich ein großes Modell von der Cloud und sage löst mir einmal das Problem dann merke ich mir das Problem.

00:34:16: speichert es quasi in Compile.io ab lokal und kann das dann immer wieder ausfühlen ohne dass sich wieder die Cloud gehen muss.

00:34:23: um das zu machen bist du natürlich auf die Antwortzeiten des großen Modells angewiesen.

00:34:28: Und ich habe bei meiner Open Source Version, wir werden das Open Source veröffentlichen immer wieder Timeout-Probleme bekommen.

00:34:35: Weil ich hatte dann ein fixes Timeout eingebaut in die Engine nach fünfhundert Sekunden zu sagen Abbruchproblem geht nicht mehr?

00:34:44: Und OpenAI hat teilweise zwei tausend bis achthundert drei Tausend Sekunden für Antworten gebraucht.

00:34:55: Die waren wahnsinnig langsam, ne?

00:34:57: Denn du sagst dich dem großes Modell das Fünf-Sexor Soul ja Sonnenmodell ja.

00:35:04: und dann habe ich es einfach mit einem Gwenndreiselx-Youtube locale auf meinem Laptop ausgeführt.

00:35:12: Das MacBook Pro hat relativ viel Speicher von mir, das funktioniert unfassbar schnell und gut.

00:35:18: Also drei, vierhundert Tokens pro Sekunde in einem optimierten Modell ohne Vision-Encoder und so weiter nur für Text.

00:35:26: Und das Ding war natürlich dann super laut.

00:35:29: ich habe es über Nacht laufen lassen.

00:35:30: meine Frau kam dann rein und meinte was mein Laptop hier die ganze Zeit macht weil die Lüfter die ganzezeit hochdrehen.

00:35:35: und so Ja Apple verkauft ihr AI Hardware aber auch die wird heiß.

00:35:39: ja also auch da unten solltest du einen Akku dran machen sonst ist das schon nur leer.

00:35:44: Ich

00:35:44: habe drei Anmerkungen fragen.

00:35:46: Du hast das letzte Mal im Podcast gesagt, wir verändern uns Richtung Open Source.

00:35:50: Es seems like ihr euch jetzt auch Open Source veröffentlicht?

00:35:53: Das ist natürlich eine interessante Veränderung auf dem Markt ist.

00:35:57: Punkt zwei für mich als Noob End-Konsument wenn du so etwas veröffentlichst kann ich das einfach in mein Klo dreinklopfen und hab dadurch automatisch eine andere Antwortgeschwindigkeit.

00:36:10: unter anderem, ja für wiederkehrende Aufgaben.

00:36:11: Nicht für neue Aufgaben aber für wiederkennende Aufgaben!

00:36:14: Das heißt, der Wiederkehrenteaufgabe ist... Machen wir die Zusammenfassung von meinen E-Mails?

00:36:18: Ist eine wiederkehnende

00:36:18: Aufgabe?!

00:36:19: Der Teil der Zusammenfassung ist zwar wie dann ne Neue Aufgabe, Aber der Teil Wie kommt die AI an die E-mail ran?

00:36:26: Das sind teilweise.

00:36:28: Wir reden teilweise über Fünfzig Hundert Zweihunderttausend Teilweise anderthalb Millionen Token muss die dafür draufgehen?

00:36:34: nur dass deine.

00:36:35: Also du gibst dort Geld aus Nur dafür, dass deine E-Mails überhaupt öffnen kann.

00:36:41: Das ist immer wieder der gleiche Vorgang.

00:36:44: Und ich habe übrigens innerhalb dieses ganzen Testens und Benchmark noch was rausgefunden, nämlich eine folgende Hypothese die... diese Maxpläne und so, die verkaufen ja quasi flat rates.

00:36:59: Sie sagen nicht genau wie viele Tokens drin sind.

00:37:01: aber mal gucken.

00:37:03: Das muss man sich auch fragen ist das überhaupt legal?

00:37:06: Ich glaube

00:37:06: das wissen ganz viele Leute nicht dass wir kein... Wir wissen nicht wie viel Tokens wir zum Verbrauchen haben.

00:37:11: Nee, haben wir nicht.

00:37:12: Du kriegst was für zwanzig Euro?

00:37:14: Das sind nicht so viele drin.

00:37:15: oder das für hundert oder zweihundert Euro zum Beispiel.

00:37:18: Wir wissen

00:37:18: aber nicht ob da überall das gleiche drin ist.

00:37:20: Ich

00:37:20: weiß doch nicht, ob der im Max-Plan diese Woche dasselbe drin ist als gleich hier drin ist wie nächste Woche.

00:37:25: die sagen auch zum Teil... Was ich lustig finde, die sagen dann das Modell Fable V zum Beispiel braucht fünfzig Prozent mehr Tokens.

00:37:33: Aber ich weiß ja nicht von X seit X.

00:37:37: Genau.

00:37:37: und jetzt kommt noch meine Hypothese Und zwar durch das Benchmark und Testen bin ich der Meinung, durch diese vielen Latenzen, die mir dort aufgefallen sind.

00:37:46: Du denkst, weil wenn du mit Claude Cote arbeitest siehst du diese Latenz nicht.

00:37:51: Claude Code zeigt dir währenddessen solche Antwort-Zeiträume... Slicing

00:37:57: Onions!

00:37:58: Ich warte,

00:37:59: sondern das Ding zeigt dir an Slicying Onions.

00:38:01: Das heißt es tut so als es löst gerade dein Problem.

00:38:07: Was ich denke herausgefunden zu haben ist, eigentlich ist es offensichtlich.

00:38:12: Die Modelle, wenn du mit Claude Kurtz zum Beispiel arbeitest und dann irgendwie Slicing Onions angezeigt bekommst, die Software, die du bekommest von den Studios, von den Labs suggeriert dir das sie gerade arbeitet.

00:38:25: in Wirklichkeit wartest du aber?

00:38:28: Du wartest auf eine Antwort!

00:38:32: Du sitzt in einer Warteschleife, du hast quasi ein Problem hingeschickt Du kriegst es nicht gleich zurück.

00:38:40: Die arbeiten aber auch gar nicht dort.

00:38:41: gerade damit, weil wenn ich das auf meiner lokalen Hardware ausführe... Ich kriege immer sofort eine Antwort.

00:38:48: außer die Hardware ist grad mit was anderem beschäftigt und da muss ich warten bis ich die Antwort bekomme.

00:38:52: Das heißt wo aktuell du das Gefühl hast zu sitzen in deinem Chlor dran und es arbeitet gerade, macht gerade irgendwas.

00:39:00: Wartest du eigentlich dass du dran bist?

00:39:02: Ist das ne Hypochese oder wissen wir das?

00:39:05: Das ist auf jeden Fall so, weil die Antwort kommt ja wie ich heute durch die benchmarks rausgefunden habe sehr viel später.

00:39:12: Man hätte das auch schon vorher wissen können es eigentlich offensichtlich nicht die ganze zeit vor der nase.

00:39:17: aber Es ist halt wirklich so dass du sehr lange und lustig war dass dann mein agent oder mein hermes älteren um die ecke kam und zu mir meinte Oh codex hat heute wieder sehr viel zu tun.

00:39:29: es dauern wo länger bis sie antworten.

00:39:31: also Da hat ein anderes AI-Modell festgestellt, die API von OpenAI ist heute aber sehr langsam.

00:39:39: Da dauert es ein paar Hundert Sekunden bis da überhaupt eine Antwort

00:39:42: kommt.".

00:39:51: Und was macht's?

00:40:03: Klick und wir sind ja schon so versaut, weil wir einfach sofort Antworten haben wollen.

00:40:08: Wir wollen nicht warten!

00:40:10: Ja und jetzt wird es noch interessanter.

00:40:12: und jetzt kommt das meine Hypothese zu dem Thema Max-Modell.

00:40:15: die verkaufen dir für zweihundert Euro einen Modell also nicht Modell sondern ein Kontingent von Tokens.

00:40:21: du weißt erstens nicht wie viele Tokens das sind.

00:40:23: Zweitens mal Jetzt kommt der eigentliche Punkt.

00:40:28: Die Antwortzeit ist völlig zufällig.

00:40:33: du bist.

00:40:34: Citizen zweiter Klasse, du ist Einwohner benutzer zweiter klasse weil die Leute die quasi für den token echtes geld bezahlen pro token an der großen api.

00:40:43: da gibt es ja auch noch.

00:40:43: es gibt eine extra api wo du quasi nicht per kontingent bezahlt sondern richtig tokengeld durchschiebst.

00:40:49: dort wartest du nich.

00:40:54: heißt wenn die viel los

00:40:56: haben ganz anderen preiskategorie

00:40:58: richtig dann bezahlst du halt für ne millionen tokens fünfzig dollar Fünfzig Dollar für die Millionen Token.

00:41:07: Die schiebe ich dir, wenn nicht gerade warten muss in drei bis fünf Minuten durch.

00:41:13: Die gehen zum Teil schon durch, wenn ich nur anfange meine E-Mails zu lesen.

00:41:20: Also kommen wir darauf zurück.

00:41:22: Ich sage es dir, die Anfragen von den Kontingentpaketen Benutzern kommen, die müssen warten.

00:41:30: Die lassen die warten.

00:41:31: Wenn viel los ist auf der bezahlten API, warten sie!

00:41:35: Das heißt, die füllen aktuell die Kapazitäten.

00:41:37: diese haben mit den Nutzern aus den Max-Paketen und aus diesen Paketen, die du kaufst nur auf.

00:41:43: Weil deren Hauptgeschäfte natürlich die eins zu eins bezahlten Token sind.

00:41:46: Die sind für die auch viel wertvoller als die zwei Hundert Euro, die sie mir verkauft haben, wo sie mich ja nicht dafür verraten wie viele Tokens drin sind.

00:41:52: Ich kann es sowieso nicht umrechnen!

00:41:54: Das heißt wir lassen uns halt aber einfach verarschen?

00:41:57: Wir lassen's halt so...

00:41:58: Das ist schon harte Verarschung!

00:42:00: Also das ist also... Und du kannst ja, und dann haben die unten so einen Knopf.

00:42:05: Musst mal gucken in Claude Côte da kannst du so fast thinking aktivieren.

00:42:12: Und ich habe lange Zeit wirklich gedacht der denkt dann halt schneller.

00:42:15: Nee, der denkt nicht schneller.

00:42:15: Du musst einfach nur kurz erwarten.

00:42:19: Also bist du halt schneller aus dem Warteraum wieder raus?

00:42:21: Genau dafür nehmen sie dir aber glaube ich doppelt so viele Tokens ab oder so von deinen Kontingenten, was sie dir ja bei Fable eh schon abnehmen.

00:42:30: Ich hab tatsächlich ganz am Anfang gedacht ich oh mein Gott Fable.

00:42:32: jetzt fahre ich halt nicht mehr in Fable weil es hat einfach unfassbar viel verbrennt.

00:42:36: und die Ergebnisse mein Gott wenn du halt die Zeit hast die drei Minuten mach's halt ein bisschen länger.

00:42:41: wir drehen doch mal eins zwei Runden zu zwei Nachrichten bevor wir uns auch langsam Richtung Ende bewegen.

00:42:47: Wir haben das vorhin ganz kurz erwähnt eine Hand wäscht die andere.

00:42:50: Du hast es erwähnt, Invidia steckt selbst Milliarden in die eigenen Kunden.

00:42:54: Die kaufen natürlich dafür Chips.

00:42:59: Erklärt das mal für jemanden der nicht an der Börse ist?

00:43:03: Das ist die nächste Verarsch!

00:43:05: Ja ich weiß nicht ob's verarscht heißt.

00:43:06: also erst einmal machen dass viele unternehmen.

00:43:08: Also auch in anderen Branchen.

00:43:11: Durchaus ist es legitim zu sagen Ich bin Hersteller X Y und Z. Ich investiere in meinen Zuliefer.

00:43:17: Ich will die stärker machen, ich will die mehr resilienten machen.

00:43:19: Die brauchen Geld!

00:43:20: Ich habe eine Geschäftsbeziehung mit denen... Ähm..die haben vielleicht auch noch andere Kunden.

00:43:25: und das ist der erste Punkt.

00:43:27: Es ist erstmal nichts verkehrt in seine Zielewürze zu investieren.

00:43:30: Wenn es geht wäre natürlich schön wenn nicht nur der einzige Kunde von denen bin.

00:43:34: Also...

00:43:35: Es ist halt die große Frage Stärkt man sich das Geschäft oder finanziert man sich seine eigene Nachricht?

00:43:39: Genau.

00:43:39: Und äh..ich glaube in dem Moment wo du Das tuest wo du der einzige kunde von diesem zu liefern bist.

00:43:48: Dann baust du dir natürlich dann also auch der zu liefer.

00:43:50: nicht er baut sich natürlich abhängigkeiten sondern das gleiche ist ja irre

00:43:57: wenn die blaze platzt hat ein problem

00:43:58: genau und Es geht ja noch weiter, der Zulieferer von Nvidia in dem Fall bzw.

00:44:05: der Kunde von Nvidia, bleiben wir mal dabei ist das Datacenter.

00:44:11: Das ist ein Nebius zum Beispiel, es ist ein Microsoft, Microsoft hat noch ein paar andere Kunden und ist okay aber solche Nebios.

00:44:17: Die beteiligen sich an denen die liefern den Chips, die kaufen diese Chips.

00:44:21: jetzt gehen wir davon aus dass IT Hardware wie alle Hardware nur eine begrenzte Lebensdauer hat und innerhalb von fünf Jahren oder so abgeschrieben wird kannst du mal die Buchhalter fragen Also relativ schnell abgeschrieben wird.

00:44:33: Das versucht Nvidia gerade zu verändern, indem sie sagt das ist ein Betriebsmittel, das ist kein Abschreibungstechnisch.

00:44:40: auch keinen weiß ich nicht x, y und z IT Hardware mehr.

00:44:44: Ich könnte jetzt sagen dass geht auf weil wenn ich mir anschaue was die freien Marktpreise sind für Grafikkarten also sprich für Computechips Ähm, am Markt?

00:44:55: Also gebraucht.

00:44:56: Ich hab Grafikkarten rumliegen noch von zwei Tausend Eins Die kriege ich zum Neupreis oder besser verkauft Stand heute Weil die Nachfrage so hoch ist.

00:45:05: Okay

00:45:06: Das heißt Aber ist die Leistung nicht viel zu niedrig?

00:45:08: Die Leistung

00:45:09: ist Zu niedrig und Achtungen die Effizienz auch die brauchen Absurd viel Strom für die gleiche Leistung die ich heute auf eine MacBook Pro her ausführ'.

00:45:18: aber Wir haben

00:45:20: so ne Knappheit dass sie trotzdem relevant sind.

00:45:22: Also Hypothese, solange die Knappheit und Nachfrage am Markt definiert wird das Ganze funktionieren was NVIDIA macht.

00:45:31: Die finanzieren sich selber.

00:45:33: es dreht sich im Kreis erst mal alles schön so lange die Preise für das was sie dort verkaufen und in was sie investieren bei ihren Zulieferern hochbleiben.

00:45:44: Und die bleiben so hoch so lang die Nachfolge zu hoch ist.

00:45:47: Die Nachfolgen sind deswegen so hoch weil sie so viel rein investieren.

00:45:50: Verstehst du den Punkt?

00:45:51: Das geht natürlich, es kann gar nicht unendlich gehen.

00:45:57: Weil irgendwann musst du natürlich sagen ich muss auch Kredite zurückzahlen.

00:46:03: Irgendwann muss auch Nvidia das Geld was sie dort investieren haben Sie ja auch nicht zwangsläufig rumliegen sondern sie leihen sich das am Markt für eine gewisse Interest Rate also für eine Gewisse Zinsen und Das würde nur funktionieren, wenn die Preise gleich oder weiter steigen für GPU Hardware.

00:46:20: Und das was der Nebius oder so ein Datacenter anbietet hat sich dort hingestellt hat, indem sich Nvidia auch beteiligt hat, weiter im Preis und in Wert steigt.

00:46:29: Aktuell haben wir das Problem dass wahrscheinlich die Nachfrage eben entsprechend deswegen so hoch ist weil wir viel zu wenig Rechenleistung in Europa haben.

00:46:37: Das, was Elon Musk in einem zwei Jahren gebaut hat.

00:46:40: Wollen wir in Europa an Rechenleistung ... Wir reden hier so von diesem berühmten Hundert-Gigawatt.

00:46:45: Wollen wir im Prinzip bis zum Jahr zwanzig, achtundzwanzig?

00:46:49: Zwanzigdreißig haben in Europa?

00:46:51: Hat die EU jetzt rausgehauen?

00:46:53: Also, überleg mal!

00:46:54: Das baut der in zwei Jahren ... Twanzig dreißig war's?

00:46:57: Ja, wir haben das schon mal drüber gesprochen Und ich habe ja heutzutage auch das Problem, wenn ich sage als Unternehmen, ich möchte nicht dass meine Daten in die USA gehen.

00:47:05: Ich möchte nicht, dass meine Daten zu den großen Club-Providern gehen, dass die ihr vielleicht ihre Modelle traft trainieren und meine Datengrundlage verlieren.

00:47:12: Also dieses Tuberinitätsthema... Die können mir sonst was versprechen, aber ob sich daran halten weiß ja keiner.

00:47:18: Also das ist ja die Realität in der wir uns befinden und deswegen ist es ja vielleicht umso schöner wenn unter europäischen Datentutzrechtlinien vielleicht Daten gehalten werden und Interference also sprich AI-Compute Tokens erzeugt werden.

00:47:28: Das heißt wir brauchen Data Center hier und es wird eben zwangsläufig bei uns viel zu wenig investiert wohin bei den USA viel zu viel investiert wird.

00:47:37: da wird eine künstliche Abhängigkeit auch für die Zukunft geschaffenen, die wir uns hier reinbegeben.

00:47:41: Und zeitgleich weiss eben noch keiner und das sind die globalen Märkte, wie sich die Preise der GPUs weiterentwickeln werden.

00:47:47: Und es ist wirklich so, unterm Strich wird es sich darum drehen, wie hoch wird die Preisse für das, was Nvidia dort verkauft in fünf Jahren sein?

00:47:58: Wird die Nachfrage dann gedeckelt sein oder nicht?

00:48:02: Das wird hauptsächlich auch den Zeitpunkt des ... meine Hypothese, persönliche Hypothesie, dass wir den Zeitpunkten des Platzens der AI-Blase definieren.

00:48:10: Es ist der Moment wo die Nachfragen den Deckel erreicht und zwar die Nachfrage, die künstlich erzeugt wird durch die Investments.

00:48:18: Weil der Markt – das wissen wir ja heute schon – ist nicht so schnell in den Einführen von AI-Technologie, sprich auch im Geldausgeben für AI-technologie weil zum Teil ja auch die Summen, die dort ausgegeben werden müssten für NVIDIA, für OpenAI ... einen Unternehmenslenker-Manager sagen muss, dafür muss ich Mitarbeiter entlassen.

00:48:44: Die ich erstens vielleicht nicht mehr brauche weil die AI jetzt den Prozess macht und zweitens sich mir auch nicht mehr leisten kann... Weil die AI das Geld kostet.

00:48:52: Übrigens da sind wir bei der Risikofolgenabschätzungsthematik, gab es auch einen schönen Artikel, gibt ja ein Ministerium in Deutschland oder irgendwie so eine Stelle in Deutschland diese Risikovolgen abschätzt,... Und die sagen AI ist parezitär!

00:49:03: Warum ist das so?

00:49:03: Ja klar, ist natürlich schön, wenn jetzt die EI die Arbeit macht und der Mensch die nicht mehr machen muss.

00:49:08: Aber erstens ist der Mensch dann Arbeitslos und zweitens braucht die EIs jede Menge Strom den wir auch nicht haben.

00:49:13: Ich würde das KI-Systeme Parasiten das nächste Mal mitnehmen weil es ein relativ großes Thema

00:49:18: ist.

00:49:18: Das bleibt aufgestehlen und es ändert sich bis nächste Woche.

00:49:22: Nee, also das wird... Also das ist keine neue Nachricht!

00:49:26: Das bleibt.

00:49:28: Wir haben eigentlich noch zwei Themen, die nehmen wir als nächstes mal mit Weil wir sind ein bisschen über der Zeit In deinen Worten Blase ja oder nein?

00:49:35: Ist ja wie in dem Fall eine Blase.

00:49:36: Was ist aktuell am meisten überschätzt daran?

00:49:38: Meistens überschätzen daran, der kurzfristige Nutzen von AI und die aktuelle technologische Stand.

00:49:45: Deine hoteste KI-Story der letzten Woche,

00:49:49: die dich überwiegt... Ich darüber denke ich immer am meisten nach, weil wenn man denkt, ich muss wieder irgendwas richtig Geiles raushauen oder so.

00:49:53: Nö,

00:49:55: musst du nicht!

00:49:55: Das kann einfach was Kleines sein, was dich temporär zum Nachdenken regt.

00:49:59: Ich

00:50:00: glaube, am meisten regt mich momentan zum Nachdecken an wie unsicher die ganze AI-Welt ist.

00:50:08: Technologisch gesehen, man große Anstrengungen betreibt, Technologien noch fehlen, AI richtig zu überwachen und zu integrieren und zu machen.

00:50:17: Also diese ganze Integrationsthema hat ich, wir investieren Milliarden in das Training neuer Modelle.

00:50:21: Wir sollten einfach mal eine Milliarde in die Hand nehmen oder so und für Unternehmen investieren, die Integration verkaufen, die einfach das überhaupt nutzbar machen.

00:50:30: gute Integration, nicht weibgekodete MCPs und so.

00:50:33: Sondern richtig gute Investitionen oder gute Integration in die Geschäftsprozesse.

00:50:37: Und auch vielleicht helfen so die menschlichen Prozesse drumherum, die Freigabe-Prozesse et cetera zu

00:50:42: definieren.".

00:50:43: Das Wort zur aktuellen Folge.

00:50:45: Alex!

00:50:46: Wir beenden die Folge mit einer letzten Sache bzw.

00:50:50: einem letzten Alex-Tipp direkt umsetzbar – die eine Sache, die man vielleicht die Woche testen sollte als

00:50:59: Schickt euren AI-Agenten, den ihr hoffentlich mittlerweile mal installiert habt.

00:51:02: Egal ob Cloud Code oder Hermes oder wie auch immer der heißt.

00:51:06: Einfach mal los!

00:51:06: Da gibt es eine Seite, in denen sich Archiv X und Archive X da sind wissenschaftliche Papers veröffentlicht.

00:51:12: Und fragt euren Agent einmal zum Thema Datenstrukturierung, Memorygedächtnis?

00:51:20: Soll er sich alle Papers rausziehen und eure eigene Wissensbasis danach strukturieren?

00:51:26: Ihr werdet quasi sofort einen viel besseren Agent bekommen, weil er die Daten viel effizienter sortiert.

00:51:33: Der zieht sich einfach sämtliche wissenschaftlichen Papers und baut sie kurz bei euch auf dem Desktop nach und kann danach viel besser antworten wenn ihr den Fragen stellt.

00:51:44: Und zwar Faktor zehn.

00:51:47: besser antworte!

00:51:48: Okay also das mache ich natürlich gleich heute Nachmittag.

00:51:50: Ich warte auf euer Open Source Kürtchen, Kot.

00:51:58: Ich wollte

00:51:58: letzte Woche schon veröffentlichen und dann so, ah ich hätte gerne noch die eine oder andere Veränderung dran.

00:52:03: und dann testest du, testest, testst du, ja?

00:52:05: Wenn es ist ein bisschen die Nervosität wenn du sowas veröffentlicht, ob du jetzt gleich veröffentlichen willst.

00:52:10: deswegen zieht sich so'n bisschen gerade.

00:52:13: Ich bin gespannt!

00:52:14: Das heißt nächste Woche sprechen wir über einen Impact eures Open Source Codes.

00:52:23: Bin gespannt, was die Welt da draußen sagt.

00:52:26: Alex ich fand es heute extrem spannend vor allem in der ersten Hälfte.

00:52:31: Ich glaube wir haben ganz viele Learnings mitgenommen Sachen die vielleicht sehr obviel waren aber nicht wahrgenommen haben.

00:52:41: überlegt das nächste mal wenn ihr Slicing Onions seht was das bedeutet.

00:52:45: Ihr

00:52:45: wartet eigentlich alles lange.

00:52:47: Eigentlich wartet ihr nur... Zieh'n fucking Nummer, du wartest.

00:52:51: Du wirst weiterhin

00:52:52: Wartner.".

00:52:53: Alex!

00:52:54: Vielen lieben Dank, eine weitere Folge AI Uncut und wir sehen uns in einer Woche

00:52:59: dahin.

00:52:59: Ciao!

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.