„Die AI lügt dich an"

00:00:01: K.I.

00:00:02: aus der Praxis, nicht aus dem Hype.

00:00:04: AI Uncut.

00:00:07: Du hast den Fokus auf Software gelegt und hast gegründet.

00:00:11: für alle da draußen.

00:00:12: du bist der Gründer- und Geschäftsführer von NXM.

00:00:15: Versuch so einfach wie möglich bitte einmal zu erklären was NXm macht.

00:00:20: Also Sinn des Podcast ist es AI so verständlich wie möglich auch in Anwendungsbereichen zu machen.

00:00:25: Ich glaube, deine Reise wird sehr... Dafür

00:00:27: bist du zuständig?

00:00:28: Genau!

00:00:28: Deine Reise werden sehr essenziell dafür sein.

00:00:31: und jetzt hast Du aber als Aufgabe as simple-as possible einmal für den Noob.

00:00:37: Für einen richtigen Noob der keine Ahnung hat.

00:00:39: Also ich glaub man muss das aus dem Use Case oder aus dem Anwendungshall heraus verstehen.

00:00:47: Wir haben sowohl bei Volocopter als auch bei Isar ein Teil dieses AI Hypes schon miterlebt.

00:00:51: Und wenn du ein gewisses Budget hast, um die Einkaufsentscheidung zu sagen ich möchte gerne als Teil dieses Hypes eine Technologie mit nutzen.

00:01:01: Dann schaffst du dich im Markt um.

00:01:02: was kann ich denn kaufen?

00:01:04: Du willst ja nicht alles neu entwickeln, du sagst halt Make-up by Entscheidung.

00:01:08: Ich sage was kann ich jetzt eigentlich im Markt erwerben um irgendwie meinen kritischen Geschäftsprozess hier zu lösen?

00:01:13: Einfach zu implementieren wo ich nicht in der Armee von Konsultants brauche die wieder ein halbes Jahr lang rumwursteln und am Ende viel Geld kosten?

00:01:21: und es gibt tonnenweise Beispiele für gescheiterte Projekte dieser Art Die einfach unfassbar viele dreistellige Millionen bei Rollouts von ERP-System, PLM-Ssystem.

00:01:33: Da können wir auch ein bisschen darauf eingehen was das eigentlich ist falls sich der eine oder andere noch nicht so mit beschäftigt hat.

00:01:38: Aber am Ende des Tages vom designen Produkt zu einem fertigen Produkt zu kommen brauchst du ne Reihe von Software System und die müssen miteinander vernetzt werden.

00:01:47: Und um diese Vernetzung irgendwie hinzubekommen bietet es sich eigentlich an AI zu benutzen.

00:01:53: Aber unserem Strich gab es zum Zeitpunkt, dass wir das gestartet haben keine fertige Lösung diesbezüglich die das hätte gekonnt.

00:02:00: Und das war der perfekte Moment im Prinzip um zu sagen Wir bauen das jetzt einfach selbst auch für andere Unternehmen nicht nur für ISA!

00:02:09: Wir hatten dort das Problem, dass super viele Teile produziert wurden und wir wollten dort ein SAP-System einführen und hatten das Problem, dass dort die Bauteile im Prinzip im Master abgelegt werden müssen.

00:02:24: Jetzt hast du aber von jedem Bauteil verschiedene Versionen, musst du die Anforderungen verstehen, hohe Komplexität?

00:02:31: Also man muss verstehen jedes Bauteils hat quasi den ganzen Aktenordner von Anforderung, die irgendeinen Ingenieur oder Wissenschaftler daran gestellt hat.

00:02:41: Das nennen sich Requirements.

00:02:43: Und diese Requirement Die gehören quasi zu jedem Bauteil und die unterscheiden sich vom Bauteilsbauseil, auch wenn das Bauteile von außen genauso aussieht wie das andere.

00:02:52: Und wenn du das nicht nur drei Baustellen ist sondern zehntausende davon im Lager liegen hast mit vielen Millionen Euro am Wert und im SAP aber immer nur eins angelegt werden darf weil das das ist was du auch weiter verwenden willst musst du rauszuhinden welches dieser Bauteilen kann ich benutzen oder nicht mehr benutzen?

00:03:11: Oder welchen vom Werf ich weg oder schmälte ich ein?

00:03:15: Und die AI-Systeme, die Last Language Modelle gibt, egal von welchem Hersteller haben alle ein paar Probleme.

00:03:26: Unter anderem eines davon ist ein begrenztes Kontextfenster.

00:03:28: Das heißt du kannst nicht eine beliebige Problemstellung in einer beliebigen Länge dort reinladen?

00:03:35: Also die Anfrage wird einfach zugehört.

00:03:37: Genau, also wenn du dein Prompt, wenn du deine Anfrage über zweihundert in der vier Seiten stellst kann sich das Modell selber im Speicher nicht mehr bearbeiten weil sein Speicher zu Ende ist plus... Das fühlt jetzt da rein ne?

00:03:52: Ich kann es auch im einen Wort noch gleich nochmal sagen was wir dort machen aber ich glaube es ist interessanter zu verstehen Was sind denn eigentlich die Probleme heutzutage bei AI um einzuschätzen?

00:04:03: letztlich ist das Problem, dass du quasi begrenzte Kontextfenster hast.

00:04:07: Das heißt meine Anfrage kann nicht beliebig lang werden.

00:04:10: und übrigens wenn ich mich eine halbe Stunde hinsetze mit irgendeinem AI-System und immer wieder Fragen und Fragen und Folgen reinschiebe Ist das Kontext Fenster dann auch irgendwann zu?

00:04:20: Und dann wird meistens folgendes gemacht da wird ne neue AI gestartet die denn das alte Kontext fenster nimmt und es zusammen fasst.

00:04:28: Also für alle die irgendwie mit Claude arbeiten, dann sagt Claude euch irgendwann Gespräch muss komprimiert werden.

00:04:33: Genau!

00:04:34: So das Problem bei so einer Komprimierung ist immer es gehen Informationen verloren

00:04:40: und

00:04:40: übrigens du bist nicht in Schad.

00:04:43: also derjenige der da davor sitzt und das eingibt hat keine Kontrolle darüber wie diese Komprämierung stattfindet.

00:04:50: Also was komprimiert geht, was verloren geht etc.

00:04:52: Das mag vielleicht ganz witzig sein bei der Partygestaltung fürs Wochenende und der Recherche nach dem besten Kuchenanbieter.

00:05:02: aber wenn es um Bauteile geht wo kleinste Details wichtig sind... Da

00:05:07: sind die Requirements auf einmal

00:05:10: andere!

00:05:12: Genau in diesem Umfeld war uns klar theoretisch kannst du ja ein kleine Teilprobleme zu lösen Und kannst du im Kontextfensterproblem umgehen.

00:05:21: Praktisch gesehen fehlte aber die skalierbare reproduzierbare Technologie dazu, um das zu tun.

00:05:30: Das heißt der erste große Punkt und es gibt immer viel Erklärung wie man dann zum ersten Punkt kommt ja ist die Anwendbarkeit.

00:05:39: Der AI-Integration, jetzt kommen wir zu der eigentlichen Startup Pitch.

00:05:44: Der Geschäftsprozesse und die Implementierung mit AI scheitern.

00:05:48: Da gibt es Zahlen dazu, Studien dazu in Unternehmen oder kommen nicht von der Teststage in die produktiv Umgebung?

00:05:56: Die Studie habe ich für später mitgebracht!

00:05:59: Warum ist das so?

00:06:00: Weil dort die Anwendbarkeit fehlt wie ich gerade gesagt hab.

00:06:05: da gibt's... technische Limitierung, die dafür sorgen dass das nicht gut funktioniert.

00:06:11: Zum Beispiel Kontextfenster.

00:06:13: und ein anderes Beispiel warum es nicht gut funktioniert ist, die EISES-Teamin die es heutzutage gibt sind probabilistisch.

00:06:19: jetzt fängt er schon wieder an.

00:06:20: damit ja was heißt das?

00:06:21: Genau!

00:06:22: Das ist meine große Frage weil ich glaube das versus Deterministik ist ein relativ großer Gamechanger und ich glaube, das ist ein unfassbar großes Wissen was die Leute verstehen sollten damit sie auch verstehen wie AI funktioniert.

00:06:36: Und was dann im Endeffekt auch einer der großen USPs von XMS?

00:06:40: Ja genau aber der eigentliche Punkt hierbei ist quasi dass wir wissen alle AI-Systemen hallucinieren.

00:06:47: also jeder der AI benutzt sollte sich darüber im Klaren sein dass da ein gewisser Teil Hallucination drin sind

00:06:52: für alle Leute.

00:06:53: was bedeutet das?

00:06:55: Es bedeutet einfach, dass euch die AI anlügt.

00:06:58: Aka ist kommen unterschiedliche Ergebnisse an.

00:07:00: Aaka

00:07:02: nicht alles was die ID erzählt stimmt so wie es ist.

00:07:06: Ein Beispiel wir haben eine Präsentation gearbeitet, Version eins war okay, Version zwei war ok und Version drei hatte ich auf einmal einen anderen Namen.

00:07:13: Genau dann heißt du plötzlich anders in der Präsensation.

00:07:16: Wenn ihr dir das vorstellst auf kritische Bauteile für Raketen?

00:07:21: Dann sieht die Rakete auf einmal anders aus.

00:07:24: oder hundert Tonnen Treibstoff, der explodiert in einem Feuerball ist nicht schön.

00:07:33: Also wenn wir zu müßig daneben stehen...

00:07:35: Ist vor allem sehr teuer!

00:07:37: Vielleicht hervorgerufen durch einen Bauteil was falsch eingebaut ist dank einer AI die das falsch interpretiert hat.

00:07:46: Menschen machen auch Fehler okay aber wir bezahlen die amerikanischen Anbieter für AI-Systeme eben genau dafür, dass sie eben weniger Fehler machen eigentlich.

00:07:57: Und jetzt könnte ich ja sagen Ja mit jeder Generation von der AI System werden die Fehler kleiner und die arbeiten ja daran.

00:08:04: Das stimmt eben nicht.

00:08:05: das ist das Problem.

00:08:06: Die Fehler wären nicht kleiner oder die fehlerwahrscheinlichkeit die die Benchmarks also die die die Tests gegen denen diese AI System gebaut werden um sie nach Fehlerfreiheit zu suchen werden besser Weil die AIs darauf trainiert werden, diese Tests besser zu lösen.

00:08:25: Das heißt sie haben einfach einen besseren Kontrollparameter?

00:08:28: Genau!

00:08:29: Aber die Halluzinationen an sich treten trotzdem weiterhin sporadisch auf.

00:08:34: Wichtig – wie umgehst du dann die Hallucination?

00:08:38: Das ist ein komplettes Thema extra.

00:08:41: Man sollte aber wissen dass alles was aus einer AI rausfällt von einer Kontrollinstanz überprüft werden muss Und wenn die AI eine andere AI ist, ist das auch wiederum eine ziemlich schlechte Idee.

00:08:55: Ja, das ist im Volksmund doppelt gemacht.

00:08:58: Weil wenn du einen Junior-Engineur oder einen Junior Entwickler hast und dann hast ein anderen Junior-Entwickler und die beide in einer zufälligen Anzahl von Vorlesungen gefehlt haben... wird dein Ergebnis nicht zwangsläufig besser am Ende des Tages.

00:09:15: Das ist korrekt.

00:09:16: Du brauchst irgendwie einen Senior, der irgendwann mal gesagt hat ich habe verstanden wie das läuft und die multiplizierten Wahrscheinlichkeiten also ein halb, mein Halb ist halt ein Viertel.

00:09:28: Ist korrektor.

00:09:29: Nur zwei fünf.

00:09:31: Minus gibt es nicht immer

00:09:32: plus.

00:09:32: Es ist halt eine kleinere Wahrscheinlichkeit dass das Ergebnis richtig ist.

00:09:36: und wenn du über kritische Geschäftsprozesse redest und damit sind wir auch direkt bei dem argentischen Unternehmen, dem Agentic Enterprise was in SAP gerade propagiert und andere eben auch usw.

00:09:49: Wo du eine Transaktion hast die einfach mal zehn Millionen Euro kostet wenn du jetzt ja vor K klickst dann kannst du dir nicht zweimal durchführen Punkt eins und zweitens beiden du die Transaktionen zehnmal durchführst um dies einmal falsch hast da trotzdem zehn Millionen von unseren.

00:10:03: Wir drehen nochmal ganz kurz die Kurve in XM

00:10:06: genau also in Xm adressiert all diese Punkte.

00:10:10: Es geht um Sicherheit und um Anwendbarkeit von AI-Systemen in Unternehmen.

00:10:14: Dazu haben wir eine tiefende Forschung durchgeführt, und haben ein paar der besten Leute die im deutschsprachigen bzw.

00:10:21: auch internationalem Bereich gerade verfügbar sind zusammengezogen und haben in den letzten zwölf Monaten im Geheim eine neue Form von AI entwickelt.

00:10:30: Wir nennen das CompiledAI deswegen auch der Name für den Podcast.

00:10:35: Macht im Prinzip oder nimmt einfach einen Teil aus einem AI-System raus und macht ihn wiederausführbar hintereinander, wiederausführbar gleich.

00:10:48: Das heißt Deterministisch!

00:10:50: Wiederausführbare

00:10:51: heißt in jedem Run hat er das gleiche Ergebnis?

00:10:54: Genau.

00:10:55: Ich sage dem System einmal bitte erschaffe einen Plan, einen Durchführungsprozess im SAP.

00:11:03: Das präumt dich ganz nochmal.

00:11:04: wie bei jeder anderen AI auch Prumpt ich in meinen Agent rein, wir nennen den Orchestrator und dieser Agent sorgt jetzt dafür dass hinten einen Prozessplan rausfällt.

00:11:14: Nativ verständlich für die AI der hinterher immer wieder ausführbar ist.

00:11:19: Ich könnte auch einfach sagen Wir nehmen ein Teil aus der AI heraus und mathematisch gesehen gucken wir uns an wie der Vorgang zur Wissensgenerierung ist das Retrieval Und führen den hintereinander und bringen denen in Maschinen lesbaren, ausführbaren Formen wie einen Programm raus was durch eine andere AI immer wieder ausgeführt werden kann.

00:11:37: Das heißt am Ende des Tages merke ich mir quasi wie die AI das Ergebnis generiert hat?

00:11:42: Nehmt das raus und führt es immer wieder raus!

00:11:46: Dass vielleicht die einfachste Wirklichkeit über's beschreiben

00:11:49: können... Es

00:11:50: gibt keine neue Interpretation.

00:11:52: oder wie ich es auch ganz gerne sage stellt euch ein Raum voller Nobelpreisträger vor und stellt dann einen neuen Fernseher rein.

00:11:59: Und sagt hier, Monitor-Fernseher, stellt den bitte hinten an die Wand bringt den an der Wand an.

00:12:03: oder kannst du auch sagen bringen die Lampe an der wand an?

00:12:05: Dann gehst eine Stunde weg und kommst du wieder!

00:12:09: Die Wahrscheinlichkeit ist glaube ich allen klar dass es relativ hoch ist das die Lamppe nicht an derwand ist weil einfach davon ein paar Experten drüber philosophieren wie man am besten eine Lampe auf die Wand bringen kann.

00:12:20: und das ist so wie heute der EISystem funktioniert.

00:12:21: wenn sie immer schlauer werden Du aber vielleicht nicht die krasseste Intelligenz brauchst, um den Fernseher an die Wand zu bekommen.

00:12:29: Sondern das ist eine relativ stupide langweilige Aufgabe.

00:12:32: und die eine AI zu bauen, die immer schlauer und immer schlauer ist wird nicht zwangsläufig diesen Prozess besser lösen sondern du musst eine AI bauen und ein komplett neues AI System erfinden.

00:12:41: Das haben wir gemacht.

00:12:42: was nicht darauf trainiert ist dir die beste Antwort zu liefern?

00:12:46: Sondern den Prozess am wiederholbarsten Besten auszuführen!

00:12:51: Und dass es ne komplett andere Herangehensweise.

00:12:55: Und es zeigt übrigens auch noch im Nebensatz, weil das ja immer wieder ein großes Thema ist.

00:12:59: Können wir in Deutschland noch Innovationen bauen und so weiter und sofort?

00:13:02: Es zeigt dass es möglich ist.

00:13:04: Willst du damit sagen hast du eine Innovation gebaut?

00:13:06: Weiß ich nicht, werden wir sehen!

00:13:08: Ich hoffe es.

00:13:09: Aber Fakt ist... ...es ist möglich wenn man aus der Problemperspektive denkt.

00:13:15: Das ist immer eine gute Idee, wenn man Startups baut.

00:13:18: Die einfach auf dem weißen Platt Papier wie man im Englischen schön sagt from scratch zu starten, mit dem Greenfield Approach und eine wirkliche Innovation selber zu bauen.

00:13:32: Kapital vorausgesetzt, Durchhaltevermögen vorausesetzt und die richtigen Anforderungen aus dem Markt voraussetzt.

00:13:39: Wir wussten was wir brauchen um so ein System zu bauen, um diese Bauteile zu sortieren, zu verstehen und zu sortierend und wir haben das gebaut.

00:13:51: Und hinterher haben wir festgestellt Das funktioniert nicht nur für diese Bauteile, sondern es funktioniert im Prinzip für alles wo irgendjemand einen stupiden Click-Job hat.

00:14:06: Und da vielleicht auch so ein Punkt Es geht tatsächlich nicht darum Arbeit abzulösen Sondern es gibt viele Probleme da draußen die zu groß sind wie das Problem was wir hatten mit den vielen tausend Bauteilen.

00:14:17: Die kannst du in menschenlösbarer Zeit aus Komplexitätsgründen nicht lösen.

00:14:23: Kurzer Exkurs.

00:14:24: Wenn Muti-Youtti jetzt zu hart, das ist eine API.

00:14:28: Application Programming Interface.

00:14:33: Das hat uns alle genau drei Meter vorangebracht und fünf

00:14:36: zurück.

00:14:37: Also deine...

00:14:38: Ganz simple

00:14:39: Erklärung!

00:14:39: Du hast eine Software hier?

00:14:40: Ja Und du hast eine software hier?

00:14:43: Und du willst dass die beiden Daten austauschen können?

00:14:46: Dann ist der Standardweg dafür über eine Software Schnittstelle.

00:14:51: genau beschrieben ist in einem Dokument, was ein Softwareentwickler wie ich oder irgendwie andere von unseren Entwicklern lesen kann.

00:14:58: Und dann dass die eine andere Software schreibt, die quasi dazwischen sitzt zwischen dem einen System und dem anderen System, den Datenaustausch.

00:15:07: Wie sind Schlüsselschlausprinzip?

00:15:09: Genau!

00:15:11: Wobei du hast dazWischen im Prinzip so ne Maschine, die die Daten hier weg nimmt und dort wieder rein legt zum kleinen Roboter im Prinzip.

00:15:18: Das Programmiert denn auch normalerweise früher per Hand usw.

00:15:22: Und letztlich ist das eine Abbildung eines Prozesses, wenn man so will.

00:15:26: Genau selbe was wir irgendwie bei den Bauteilen und den Anforderungen an die Bauteile auch hatten.

00:15:32: Jetzt kannst du quasi hingehen und kannst doch sagen ich hätte gerne, wenn das Licht im Schlafzimmer an- und ausgeht, irgendwie weiß ich nicht... Die Haustür zugeschlossen weil in der Sonne abends noch zwanzig Uhr passiert.

00:15:46: Das sind zwei verschiedene Systeme.

00:15:48: Ein Prozess, die werden aber miteinander verbunden... Das

00:15:50: Türschluss hat eine Software dahinter, die das macht quasi, die auf deinem Handy läuft oder an der Cloud, die wiederum eine Software-Schnittstelle hat, die du ansprechen kannst.

00:15:57: Genauso wie der Lichtschalter hat auch eine Software dazu, die auch eine Softwareschnittstell hat, den du ansprechen kannst.

00:16:03: und jetzt willst du halt eben dass beide... Also dass da ein Automatismus ist wenn es passiert.

00:16:07: Das heißt du brauchst einen Prozess einer extra Software, die überwacht, wenn der Lichtchalter im Schlafzimmer einem ausgeht, wenn das abends nach zwanzig Uhr ist eine Nachricht schickt an das Türschloss, dass das Tür-Schloss quasi zuverriegelt.

00:16:18: Und da gibt es natürlich viel Standard-Software dort auch im Homebereich die das ermöglicht.

00:16:24: Du kannst dir ja auch bei Amazon irgendeine fertiges Produkt kaufen was das macht?

00:16:27: Die sind aber immer limitiert weil diese Integration der Anzahl der Schnittstellen die das mitbringt unterstützt wieder den Hersteller nicht und den Herstellern nicht.

00:16:35: und denen herstellern ich und mir war relativ früh klar Das AI selber rausfinden kann wie die einzelnen Schnittstellen strukturiert sind, um die Daten austauschen zu können.

00:16:49: Das heißt er sucht sich ein bisschen die Hintertöte hin?

00:16:52: Genau!

00:16:53: Die AI liest Hersteller eins, die Anforderung an die Software-Schnittstelle, liest hersteller zwei Lichtschalter... Wie kann ich dort Daten rein und raus bekommen aus dem Lichtschater?

00:17:06: Und das ist eigentlich die Aufgabe von einem Softwareentwickler in der USA oder China, der sich halt hinsetzt und das Ganze einmal macht.

00:17:13: Der braucht dafür ein, zwei Wochen.

00:17:15: Schreibt das nie da, testet das sauber.

00:17:18: Das ist dann nochmal besser als vielleicht die AI, dass gebaut hat wenn du das an viele tausend Nutzer ausrollen willst.

00:17:23: Aber es ist halt limitiert.

00:17:27: Versus jetzt und das war damals so für mich der Schlüsselmoment.

00:17:32: Ich kann einfach sagen ich habe hier im Problem.

00:17:35: löst das bitte für mich finde bitte raus wie das geht.

00:17:39: Und das war für mich was komplett Neues weil Und das war sehr, sehr früh.

00:17:46: Da haben die meisten Leute wahrscheinlich gerade angefangen mit ChatGbt überhaupt zu arbeiten und es waren so die ersten Schritte, das waren also die ersten Veröffentlichungen von Cloud Code, von den Poreumier-Umgebungen dafür usw.. Das war für mich ein totaler Game Changer.

00:17:59: warum?

00:17:59: Weil bisher habe ich mein ganzes Leben lang den IT System... Ich hab immer sie verstehen müssen bevor ich die Probleme in dem IT System lösen konnte.

00:18:13: Und jetzt gehe ich einfach hin und sage, funktioniere wieder.

00:18:18: Ich muss nicht mehr... Also zwangsläufig wissen, ich muss dich suchen und selber erst mal verstehen.

00:18:23: also der Roboter ist hingefallen und bisher ist es so mein ganzes Leben lang musst du diesen Roboter wieder aufheben hinstellen neu kalibrieren stundenlang rein investieren wirst ja wieder laufen kann.

00:18:35: Jetzt sagst Du einfach, du brüllst an

00:18:38: Warum bist Du umgefallen

00:18:39: oder sei stehauf?

00:18:40: Nein, du prüllst ihn jetzt einfach an und sagst steh auf.

00:18:45: Und dann ist zwischen dem Einsetzen des Ergebnisses, vergeht halt Zeit und Token.

00:18:56: Token ist die universelle Einheit quasi in AI In LLMs, in large language Modellen.

00:19:06: Jedes Wort hast du der AI fragst oder musst die Währung oder Daten auf eine Schnittstelle schiebt oder etwas programmiert

00:19:14: etc.,

00:19:15: ist immer ein Token und dann gehen da hunderttausende von diesen Tokens durch.

00:19:21: Du wartest zwanzig Minuten und dann stehst du im Platz wieder auf.

00:19:24: Bei Problem analysiert, Probleme gelöst und Lösung deployt.

00:19:28: Genau!

00:19:29: Und jetzt kommt aber der Punkt Es fällt ja wieder um.

00:19:34: Geht diese ganze Schleife von vorne wieder los, hunderttausende Tokens wieder von neun... Weil er

00:19:40: jetzt noch nicht gelernt hat was die Lösung ist

00:19:43: und direkt

00:19:44: aufstehen.

00:19:44: So genau!

00:19:45: Und jetzt gibt es ungefähr zwei Hände voll Milliarden finanzierte Unternehmen, die sich weltweit damit beschäftigen.

00:19:52: wie kann ich quasi das besser machen?

00:19:58: Ein Ansatz ist Reinforcement Learning, das heißt der lernt selbstständig durch trial and error also durch ausprobieren wie er am besten wieder aufstehen kann wenn du so willst.

00:20:12: Unser Beitrag dazu ist Compile.dei.

00:20:15: Wir sagen wir merken uns wie das funktioniert hat dass er wieder auf stehen kann und sparen uns den kompletten zweiten Durchlauf.

00:20:23: aber intelligent immer noch nicht einfach stupide Schema F.

00:20:29: Klingt in der Theorie unfassbar banal?

00:20:32: Genau, ist in der Praxis unfassba kompliziert.

00:20:36: aber wenn du das erste mal gesehen hast im Vergleich dass du einfach mal und das ist der große Big Bang Wenn du diese Operation nachher noch einmal durchführen kannst Und du musst nicht nochmal von neuen anfangen und quasi deiner AI sagen schau wie das geht Interessiert mich nicht mache einfach klingt

00:20:54: nach einem unfassbaren Vorsprung

00:20:56: ist.

00:20:56: ein unfassbarer Vorsprung, weil du nämlich erstens geht es viel schneller und zweitens ist es unfastbar viel billiger.

00:21:05: Also... Weil jeder Token kostet Geld?

00:21:09: Genau!

00:21:10: Jeder Token kostet Geld.

00:21:11: und was wir in den letzten Monaten gesehen haben ist wie der Value an Tokens abgenommen hat bzw.

00:21:18: in token wurde.

00:21:18: immer günstiger

00:21:19: wird billiger gleichzeitig dann das ist so bisschen die Die großen Börsengänge, die wir jetzt sehen und das große Kapital beschaffen.

00:21:28: was wir sehen im absurden Milliardenbereich liegt daran dass man immer wieder bei jedem Durchgang neue Tokens braucht.

00:21:38: Und der Hunger nach Tokens viel schneller wächst als der Preis sinkt.

00:21:45: Das heißt ich brauche es einfach und jede ich jetzt treffe.

00:21:50: teilweise zeigen mir Leute von Familienangehörigen WhatsApp Nachrichten.

00:21:55: Ähm, du Papa ich brauch noch mal ein bisschen mehr Geld weil mein Tokenvolumen ist aufgebraucht.

00:22:01: Also ich glaub es gibt Leute die nutzen zum Beispiel Claude oder Open AI äh also TechGBT und nutzen das und sind noch nie an diese Stelle gekommen ja?

00:22:10: Und dann gibts Leute die programmieren oder nutzen da so viel.

00:22:14: Da kommt um vierzehn Uhr einmal ich nenne liebevoll Klaus Ja Klaus sagt dir sorry ehm we just hit ceiling.

00:22:20: Du kannst um neunzehn uhr wieder Weishaar machen Oder du kaufst

00:22:24: Oder du kaufst, genau.

00:22:25: Und dann wird es aber richtig teuer, weil die, die du quasi unterm Nachkaufen musst, die haben erstmal den echten Preis.

00:22:31: Weil vorher das war eigentlich nur ein Lockerangebot... Die zwanzig Euro?

00:22:35: Also wir werden

00:22:35: im Endeffekt alles spielsichtig!

00:22:37: Du wirst spielsüchtig, genau.

00:22:39: Und ich habe wirklich auch Leute in meinem Freundeskreis, die quasi die Ehefrauen anrufen und sagen hey was kann ich machen um den von Claude wegzukriegen?

00:22:48: Einmal

00:22:48: einen Saft abdrehen!

00:22:50: Weil da fragen sie nun genau ein Richtchen weil ich einen ganzen Tag mich nur mit der AI-System beschäftige.

00:22:55: Ich glaube

00:22:56: diesen psychologischen Impact das würde ich nochmal separat mir hier besprechen, weil ich glaube... Machen

00:23:00: wir eine extra Folge zu für dich.

00:23:01: Ja,

00:23:01: weil es unfassbar wichtig

00:23:03: ist.

00:23:03: Das ist auch unfassbare hart was da abgeht.

00:23:04: Es ist hart,

00:23:05: es ist wichtig.

00:23:06: Ich glaube ganz, ganz viele Leute.

00:23:07: Dein Belohnsystem wird ja einfach ganze Zeit irgendwie... Es führt

00:23:10: in den Burnout!

00:23:11: Genau

00:23:11: und deswegen das Thema würde ich gerne mal parken weil da würde ich gern eine ganze halbe Stunde mit dir reden weil es unfassbar wichtig ist.

00:23:18: was hat sich diese Woche verändert?

00:23:22: Was hat sich dieser Woche

00:23:22: verändert?!

00:23:23: Das ist ein guter Punkt übrigens weil es tatsächlich in diesem Rhythmus passiert dass sich Dinge verändern.

00:23:29: also wir sehen im

00:23:30: Frühjahr Monate

00:23:32: Jahre.

00:23:33: jetzt muss ich

00:23:34: Dinge verändert haben Und jetzt kommt wirklich im Wochenrhythmus, gerade von den großen Börsengängen in der USA kommen neue Sachen raus.

00:23:43: Sicher ein paar Highlights war einmal in Taiwan die neuesten Vorstellungen von NVIDIA, die Chips herstellen, die GPUs, die Compute Units für AI und eines der bisensiv wertvollsten Unternehmen mittlerweile.

00:23:59: Wie gesagt, für die Investmentsachen gibt es andere gute Podcasts, die ich nur empfehlen kann.

00:24:03: Nicht von uns!

00:24:05: Als technischer Sicht schafft Nvidia jetzt die Speicherbandbreite auf einem Laptop-Chip so hoch zu setzen, dass es Sinn macht, AI-Agentensysteme lokal auf dem Laptob zu benutzen.

00:24:18: Das heißt... Ich kann quasi wenn der Laptopp aufgeklappt ist dort lokal, lokal ohne eine Cloud oder Internetverbindung.

00:24:25: sozusagen

00:24:25: hast du genug

00:24:27: Speicherkraft

00:24:28: und Power.

00:24:29: Intelligenz, Power?

00:24:30: Nicht Speicherkraft, Intelligenze, Power!

00:24:32: Speichergraft auch ja aber braucht ein bisschen viel Speicher leider und sehr teuer.

00:24:36: Und du kannst das alles lokal machen.

00:24:38: die Dinger werden teuer.

00:24:40: also wir reden bei den aktuellen Speicher... Also Speicherpreise ist ein Riesenthema für sich, kannst einen eigenen Podcast zu machen.

00:24:46: Warum sind Computersysteme so teuer?

00:24:48: übrigens auch Spielekonsolen, PlayStation, tausend Euro oder was sind immer gerade dabei.

00:24:53: Da hat sich fast verdoppelt der Preis.

00:24:54: Warum?

00:24:55: Weil die großen Data Center, diese riesigen... um die Gottheit zu erschaffen, brauchst du natürlich gigantische Data Center und sämtliche Speicher, die sonst in Handys Spielekonsolen, dieses Speicherbaustein, die da drin sind, die brauchst Du für die AI!

00:25:12: Und deswegen sind die Preise dafür explodiert also zehnfach, zwanzigfach, dreißigfacht Und deswegen wird jeder jedes Handy, jede Playstation aber auch jeder Laptop absurd teuer gerade.

00:25:29: Das war eine Zeit lang aufgefangen durch Dinge wie... Vorverträge, Preise usw.

00:25:40: ist in der Supply Chain später angekommen.

00:25:43: Aber jetzt ist der Impact dafür da!

00:25:46: Die Bombe ist richtig geplatzt da, die ist bezüglich und diese neuen Laptops, die NVIDIA dort vorgestellt hat, die ATX Spark sind super tolle Geräte aber wir reden von preisen wahrscheinlich weit oberhalb von viertausend Euro pro Gerät.

00:26:01: Ist das

00:26:02: also was du zu Hause stehen hast?

00:26:04: Oder wenn es rauskommt, dass du sagst okay das habe ich dann sofort zu Hause?

00:26:07: Ich hab da schon so diverses Zeug stehen.

00:26:11: Wir sind im Nvidia Partnerprogramm, im Inception-Programm von Nvidia und haben Zugriff auf Hardware und tolle Technologien bevor die Masse erreichen Und deswegen habe ich ja auch Möglichkeiten einfach länger vor Abdingen zu testen, die vielleicht noch nicht jeneinander Hand gehabt hat dort draußen.

00:26:27: Das ist natürlich für mich der Traum wie wir alle wissen.

00:26:31: Dafür lebe ich einfach, Dinge auszuprobieren als erster und irgendwie das zieht sich durch mein ganzes Leben.

00:26:36: Und es macht auch sehr viel Spaß!

00:26:39: Nvidia hat wie gesagt dort einen Chip vorgestellt und der basiert auf den GB-Ten, auf dem GB-X-Chip der DJI X Park.

00:26:48: Das ist so eine andere kleine goldene Box die kostet auch so vierneinhalb Tausend Euro auf ein Desktop schon kann.

00:26:54: Die haben jetzt aber quasi noch die Partnerschaft mit Microsoft.

00:26:58: Das heißt, bisher waren der Prozessoren immer von Intel.

00:27:01: Der eine oder andere hat sich das eingeprägt.

00:27:03: Prozessoren gibt es immer von intel.

00:27:05: Dann hat Apple zum Beispiel angefangen selbst

00:27:07: zu bauen?

00:27:07: Genau und Nvidia baut jetzt übrigens auch welche.

00:27:09: die haben sich dann noch mit Mediatek zusammen getan und haben dann entsprechend auch noch einen Tabernis-Hersteller und haben die CPU, die Hauptprozessinunit jetzt kombiniert mit der GPU, mit der Grafikprozessingunit wo die AI Sachen drauflaufen und haben sehr viel Speichertrummerung geknallt.

00:27:23: Und der wichtige Punkt hier ist die Speicherbandbreite.

00:27:26: Die erste Box, die bei mir zu Hause stehen ist der DJI X Park von Nvidia den sie habsächlich für Entwickler vermarktet haben hat noch eine Speicherbrandbreite von zweihundertsechig Gigabyte pro Sekunde.

00:27:36: Die neue Box hat über sechshundert Gigabyte per Sekunde.

00:27:39: das heißt wir sind dort auf jeden Fall doppelt so schnell was die Antworten von AI betrifft auf diesen Gerät Und das werdet ihr jetzt nicht überlesen oder sowas.

00:27:47: Da muss man die Details reingucken und was wir verstanden haben, wie die Specks dahinter funktionieren und sich auswirken auf den Modell.

00:27:51: Aber

00:27:52: sind es eine erwante Branche?

00:27:52: Nachdem du dann ... nachdem du an zehn, fünfzehn YouTube-Videos geguckt hast zum Thema Speicherbrandbreite und so weiter kommst du irgendwann zu dem Schluss A. Höhere Speicherbandbreite gleich mehr Tokens pro Sekunde.

00:28:02: lokal auf dieser Hardware

00:28:04: Mehr Tokens per Sekunde als aber auch mehr Geld ausgegeben gleichzeitig.

00:28:07: Ah wait!

00:28:08: Das ist lokal bei dir.

00:28:09: der Token kostet nix.

00:28:11: Der koste nur Strom, der reinfließt.

00:28:12: Warum kostet der token nichts wenn er bei mir is'?

00:28:15: weil du die Hardware selber besitzt, auf die der läuft.

00:28:19: Das müssen die Leute verstehen!

00:28:21: Also das eine ist dass du zu einem Anbieter gehst in der Cloud, der das in der USA hostet und der dir quasi... Der nimmt dir für jeden Token Geld ab im Centbereich.

00:28:34: Der gibt aber selber einmal Geld aus für die Hardwares und permanent für den Strom.

00:28:44: Klingt nach ein lukrativen Business?

00:28:46: Siebzig Prozent Marge.

00:28:48: There you go!

00:28:51: Jetzt versteht man vielleicht auch, warum die Art von Anbieter, wie auch Obmei eintrophic und so weiter gerne mehr Geld braucht um noch mehr Data Center Hardware von Nvidia zu kaufen?

00:29:01: Um dann noch größere Data Center zu bauen weil quasi jeder Token gleich Gewinn ist für die Gleichmarge.

00:29:09: es für die Und deren Interesse ist nicht euch da draußen und den Unternehmen da draußen Algorithmen zur Verfügung zu stellen und AI-Algorithmen

00:29:21: Software.

00:29:21: Die wollen Geld machen?

00:29:22: Zu

00:29:22: verfügungen zu stellen, die effizient arbeitet.

00:29:25: dann verdienen sie weniger Geld.

00:29:28: bisher war es so.

00:29:29: das Muster was wir über die letzten Jahre gesehen haben mehr Intelligenz gleich mehr Token

00:29:37: ja

00:29:38: und dass ist das Investmentmuster Pattern auf dem investiert wird gerade aktuell.

00:29:45: Ich glaube, jedem da draußen ist klar wenn wir uns Menschen betrachten die einen unfassbar größeren Faktor Intelligenz noch mal mitbringen auf einem Apfel am Tag.

00:29:59: Stromverbrauch!

00:30:02: Das müsste man jetzt eigentlich auch richtig beschreiben und ins Detail reingehen aber das führt auch wiederum zu weit.

00:30:08: Das Menschen-Genomen ist ja quasi bekannt, auch die Anzahl der Bausteine da drin ist bekannt.

00:30:12: Wir drehen die Runde jetzt nicht!

00:30:14: Also am Ende des Tages kannst du sagen wir sind im Promilbereich von AI was wir an Komplexität in der AI aktuell abbilden versus einer Simulation eines einzigen kompletten Menschens.

00:30:27: und wir reden nur für eine Simulation.

00:30:29: Der ist noch nicht in echt tatsächlich physisch da und dann braucht er auch nur einen Apfel für den Promilbereich.

00:30:36: schon ein eigenes Atomkraftwerk heutzutage.

00:30:39: Also die Natur ist uns weit, weit voraus was das betrifft auch was die Effizienz betriffe und Gibt der Gründe, warum der Mensch vielleicht nicht hunderttausend Sachen gleichzeitig sich merken kann?

00:30:48: Weil es vielleicht auch nicht effizient ist, mal davon abgesehen.

00:30:51: Wir sind ganz bewusst gut im Filter, ne?

00:30:53: Richtig!

00:30:54: Also der Mensch, der quasi die Viertedimensionen sehen konnte irgendwie in der Steinzeit, das ist vielleicht vom Säbelzahn Tiger gefressen worden, gab's mal einen rühmten Nobelprester, ja genau den er uns erst gesagt hat.

00:31:05: Aber um nochmal darauf zurückzukommen,

00:31:06: d.h.,

00:31:07: deren Interesse ist es nicht, die Effizientes der AI zu bauen für die wenigsten... Tokens quasi das höchste beste Ergebnis liefert.

00:31:15: Das wäre schön!

00:31:18: Wer für uns alle günstiger?

00:31:19: Aber es ist im Endeffekt immer noch ein Unternehmen.

00:31:20: Genau, genau und das heißt Nvidia hat das schon längst verstanden dass sie nicht nur große Datacenter-Tipps verkaufen für absurdes Geld sondern eben auch für absurdes Geld eigene Desktop Hardware die bei dir zu Hause laufen kann Die dank offener Open Source Modelle aus nahe und fernen Ost Also China und Taiwan.

00:31:42: Nvidia gibt selber welche raus, ansonsten Alibaba und die Chinesen bauen auch richtig gute AI-Modelle.

00:31:48: Die kannst du ja einfach runterladen und bei dir lokal auf deinem teuren Laptop Hardware etc.

00:31:56: läuft doch auf Max, auf den größeren teuren Geräten sehr gut und schnell ausführen!

00:32:01: Und du brauchst... Du gibst keine Daten mehr aus der Hand Du bezahlst nicht mehr pro Token, das bleibt bei dir.

00:32:07: Du brauchst einen Stromanschluss?

00:32:09: Das war's und diese Geräte brauchen nicht unendlich viel Strom.

00:32:12: Ist

00:32:12: ideales Szenario für alle wäre so ein Chip zu Hause oder im Laptop?

00:32:15: Und es kommt aber Big Time!

00:32:17: Also das ist nicht nur im Kleinen sondern Es wird eine Konsolidierung geben müssen.

00:32:21: Es geht gar nicht anders.

00:32:23: Wenn die Konsolidarung nicht kommt wird das Problem eher noch größer als heißt.

00:32:27: ich hoffe dass die konsolidieren früher kommt als später weil Und die wird genau in den Moment kommen und dann relativ zügig, wenn solche Technologien wie wir bauen, sondern das sind die Maturity erreichen.

00:32:39: Also eine Reife erreichen, dass sie in der breiten Masse Anwendung finden können.

00:32:44: Du baust so eine Technologie immer?

00:32:46: Dann muss sie getestet werden?

00:32:48: Dann beweist Sie, dass es fehlerfrei läuft?

00:32:51: Das ist der Moment wo du sie in einer breiten Messe zur Verfügung stellen kannst!

00:32:57: zero bis zwölf Monate entfernt, wo wir oder jemand anderes diese Technologie veröffentlichen wird und die in der Breite mal so verfügbar ist.

00:33:09: Wir werden in den anderen Folgen noch generell einen Blocke haben.

00:33:12: predictions Wo würde ich ein bisschen in die glaskugel gucken lassen?

00:33:15: Das wird lustig

00:33:17: Und Können dann hoffentlich ein paar monaten schauen was wir verifizieren können und was nicht.

00:33:23: Ich fand es so gut weil Die Investmenthypothese wo wir letztes Jahr quasi die mit den Investoren gesprochen haben, um die neue Firma zu finanzieren ist quasi jetzt genau Agentic AI im Enterprise-Umfeld und AI Orchestration mit Agenten.

00:33:39: Ist genau das was du da steht dann SAP auf der Bühne vor tausenden Leuten und erzählt genau das, was du von einem Dreivöllier bis in einem Jahr nehmen wirst.

00:33:47: du erzählt hast.

00:33:49: Und es gibt selten solche Momente aber manchmal einfach zu sagen jetzt hatte ich recht Schön.

00:33:55: Ist

00:33:55: ein schönes Gefühl?

00:33:55: Das ist ein gutes Gefühl, das kennt jeder Herr zu sagen hey ich hatte recht manchmal geht es darum die Spielmaschine auszuräumen oder den Müll runterzubringen.

00:34:03: Manchmal geht's aber auch bei so großen Tech Predictions und ich glaube tatsächlich manche Sachen sind gar keine Glasskugel sondern dass hat was damit zu tun wie tief du in den Forschungsthemen drin bist.

00:34:13: und Forschungs- und Markteinführungen sind auf einer Zeitskala übersetzbar.

00:34:20: Das heißt, wenn du die Forschung kennst dazu kannst du ungefähr abschätzen mit den entsprechenden Investments, die reinfließen in den entsprechende Startup-Gründungen.

00:34:31: Was dann im nächsten Welle kommt und viele Investoren investieren eben genau auf diesen Wellen weil sie sehen... Die kriegen da nicht ein so eine Präsentation nur von mir oder so sondern das sind dann zig Leute die alle zur fast gleichen Zeit dort was gründen wollen.

00:34:47: Und es ist leider leider immer so.

00:34:50: Im Universum gibt's halt immer, das kennt jeder auch wahrscheinlich.

00:34:53: Ich hab's nach dem Motto ich habe es doch gesagt Die Idee haben halt zur gleichen Zeit meistens Zehntausend anderen Leute auch noch.

00:34:59: Kannst du mir die Lottozahlen nennen?

00:35:01: Und

00:35:01: dann sagen...

00:35:02: Das ist nochmal ein anderes Thema.

00:35:04: Da gehen wir dann auch noch mal rein weil das ist immer eine andere Bereich von Anwendbarkeit!

00:35:09: Ich find' Es is AI in Snackable At least für die Unternehmen.

00:35:14: Ich bin sehr gespannt auf die InSight CD die nächsten Male mitbringst.

00:35:19: Und ich würde mal sagen vielen lieben Dank für deine erste Stift-Visite.

00:35:22: Danke schön!

00:35:23: Ich hoffe alle anderen haben viel mitgenommen, viel gelernt.

00:35:26: Wir fangen jetzt noch nicht mit irgendwie Fragen von extern an aber ich glaube da wären wir auch am bestimmten Punkt gekommen.

00:35:30: Da würde ich mich darauf freuen.

00:35:33: Für euch der draußen, wir werden Gäste und Gästinnen da haben Interessante Insights.

00:35:40: Wir möchten Alex seiner persönlichen Vorliebe dem Developer da sein, nicht die Flügel stützen und wir werden auch ein zwei in-depth Folgen dazu haben wo du richtig ins eingemachte reingehen kannst

00:35:56: wo ich gar nichts

00:35:57: mehr verstehen werde.

00:35:57: Wir bauen Bilderrahmen

00:35:59: oder wir bauen Bilderrammen ja?

00:36:02: Du hast noch paar andere Goody's Video uns für den nächsten Mal damit bringen aber es wird folgendes geben.

00:36:08: Du redest vom Claude Tamagotchi.

00:36:12: Ich weiß nicht, ob ich jetzt Tamagotchi nennen darf.

00:36:14: Der eine

00:36:15: oder andere kennt noch Tamagotchis?

00:36:16: Ja!

00:36:17: Und darüber werden wir auch das nächste Mal sprechen.

00:36:19: Alex,

00:36:20: vielen lieben Dank!

00:36:21: Gerne.