Können wir kostenlosen AI-Modellen vertrauen?

Shownotes

„Ja, aber es ist doch umsonst.“

Mit diesem Satz ist eigentlich schon alles gesagt. Auf OpenRouter taucht ein Modell namens OxAlpha auf – Herkunft unbekannt, Qualität überraschend gut, Preis: null. Innerhalb von Tagen lassen Entwickler von China bis Singapur ihre Coding-Agenten damit über ihre Projekte laufen. Was dabei passiert, beschreibt Alexander Oelling ohne Umschweife: Puzzleteil für Puzzleteil fließt privater, nicht-öffentlicher Code Richtung chinesischer Server. Nach ein, zwei Tagen hat der Anbieter die komplette Codebase gesehen – und trainiert damit die nächste Version seines Modells.

Diese Folge dreht sich um den Mechanismus dahinter: warum Stealth-Launches inzwischen gängige Praxis sind, wie man per Fingerprinting herausfindet, welche Modellfamilie sich hinter einem anonymen Modell verbirgt, und warum „ich lade es mir einfach selbst runter“ an der Hardware-Realität scheitert. Danach wird es unbequem. Denn das Risiko sitzt nicht nur bei dir, sondern in der Lieferkette: Du beauftragst einen Entwickler, der beauftragt einen AI-Agenten, und der schickt deinen Code in eine Cloud, von der du nie gehört hast. Gehackt wirst du nicht sofort – aber ein halbes Jahr später weiß das Modell, wie deine Software von innen aussieht. Dazu kommt ein Praxisbeispiel, das jeder kennen sollte, der gerade Dashboards einkauft: Alle Farben halluziniert, Zahlen „ungefähr richtig“, ein paar davon hart einprogrammiert. Sieht super aus. Stimmt nicht.

Und dann die größere Frage: Wenn sich Software in kürzester Zeit nachbauen lässt – was ist dann eigentlich noch wertvoll? Die Antwort dreht sich um Integrationswissen, Datenqualität, Data Governance und Architektur. Also genau die Dinge, an denen AI heute noch scheitert. Zum Schluss geht es um Hardware unterm Schreibtisch, Apples neue Mac Studios als ernsthafte Nvidia-Konkurrenz, den Energiehunger neuer Rechenzentren – und warum Google in diesem Rennen deutlich bessere Karten hat, als die meisten denken.

00:00 Zurück aus der Sommerpause 01:24 Stealth-Launch: Warum geheime Modelle Standard geworden sind 04:36 Chinesische Cloud vs. Modell unterm Schreibtisch 09:04 Open Weights, aber keine Hardware – die Rechnung 10:37 Das Geschäftsmodell hinter „kostenlos“ 11:42 Der Fall Atlas: Wenn dein Browser einfach abgeschaltet wird 16:17 Ab wann wird es gefährlich? Code, Strategiepapiere, Ideen 19:05 Supply-Chain-Risiko: Dein Freelancer, sein Agent, deren Cloud 22:25 Das halluzinierte Dashboard: falsche Farben, falsche Zahlen 28:35 Wenn Software nichts mehr wert ist – was dann? 30:40 Warum Windows und SAP nicht „mal eben“ nachgebaut werden 38:55 Energie, Rechenzentren und Europas Rückstand 40:09 Apple vs. Nvidia – und der unterschätzte Player Google

Transkript anzeigen

00:00:02: KI aus der Praxis, nicht aus dem Hype.

00:00:04: AI an Cut!

00:00:08: Ein wunderschönen guten Morgen bei einer weiteren Folge.

00:00:11: AI on Cut.

00:00:12: Hallo Alex!

00:00:13: Hallo Christian

00:00:15: Wir haben eine kleine kurze Pause Der sommerlichen Art hinter uns und steigen natürlich mit vielen Bewegungen auf dem AI Markt wieder ein.

00:00:27: Es hat sich etwas bewegt.

00:00:29: Wir haben das letzte Mal noch angedeutet, dass es wahrscheinlich wieder Zehntausend Veränderungen gibt auf den Modellen und Ähnlichen Und ich habe mir mal angeguckt was für wunderbare Nachrichten wir uns diese Woche vielleicht einmal angucken bzw Was du mir auch noch zugeschickt hattest!

00:00:47: Es gibt ein anonymes Modell bzw jetzt nicht mehr ganz so anonym Ox Alpha.

00:00:53: Das ist aufgetaucht und vor allem ist es eins gratis und angeblich, das kannst du gerne gleich beurteilen schlägt es im Programmieren Claude und ChatGBT Frage.

00:01:05: hier ist das zu gut um wahrzusehen Alex deine Einschätzung dazu?

00:01:12: erzähle uns mal was ist Oxalpha?

00:01:15: Ist der große Unterschied hier?

00:01:18: Ist das ein Angriff auf Enttrafik und OpenAI?

00:01:23: Shut.

00:01:25: Also erstmal muss man sagen, wir haben... Das ist jetzt nicht das erste Mal dass ein geheimes AI-Modell startet was irgendwie super geil ist und plötzlich alle total durchdrehen.

00:01:38: Es gab es schon mehrfach Und es ist

00:01:40: durchaus eine

00:01:42: Common Practice geworden bevor man ein Modell veröffentlicht, im finalen Zustand.

00:01:48: Man ist erst mal geheim veröffentlicht und dann einfach schaut was machen die Leute damit?

00:01:55: Weil das ist hier übrigens auch eine der wichtigen Punkte, was wir nicht vergessen dürfen.

00:02:00: Also angenommen du entwickelst für viele Millionen Euro ein neues Modell Dann kommt es ja meistens nicht erst nichts sondern das basiert auf irgendeinem Vorgängermodell.

00:02:08: also gerade heute dass jetzt Anna hingeht und sagt er trainierten Modellen komplett vom Scratch neu ist eher selten.

00:02:15: Und in dem Fall war es hier auch wieder so, man halte das Modell auf OpenRouter, das ist ja unser beliebter Marktplatz für Einmodelle quasi leicht einzubinden direkt zu benutzen online gestellt und hat was mir nicht verraten wer das war.

00:02:34: dann fing die ganze Welt an und fand das super also die ganzen Supernauts.

00:02:44: Und dann gab es einen interessanten Tweet von jemandem, der dann sagte hey ist übrigens alles for free in Größenordnung.

00:02:52: Also Milliardenfachtoken.

00:02:54: jeden Tag geben wir vor Free raus und berechnen euch kein Geld dafür.

00:03:01: Im dem Moment kommt quasi die zwei Sachen zusammen nämlich erstens da ist ein super gehyptes neues Modell und das ist für free!

00:03:07: Da kann ich ein paar Euro sparen.

00:03:09: Also sind sämtliche Entwickler von China bis Singapur, bis sonstwo drauf gehüpft und haben angefangen ihre Codebasis damit zu bearbeiten.

00:03:22: Was könnte daran falsch sein Christian?

00:03:24: Es gibt im Leben nichts umsonst!

00:03:26: Richtig!

00:03:27: Und in dem Fall hier bezahlt natürlich jeder mit seinen Daten.

00:03:31: Warum stellen die also dieses Ding Open Source?

00:03:33: Warum früh?

00:03:35: Warum ist das Ding richtig geil?

00:03:36: wie auch immer... Also die Lösung dafür ist Trainingsdaten.

00:03:41: Das heißt, wie komme ich jetzt noch mehr Daten?

00:03:44: Wie kann ich so einen Modell noch besser tun bevor ich das Final veröffentlichte?

00:03:53: Wie kriege ich die Welt dazu ganz ehrlich mir ihre Daten zu geben?

00:03:57: und so genau passiert es!

00:03:59: Du fängst an, du programmierst was, du gehst auf dieses Modell, du sagst einem Code Agent Dana Wall Dein Harnes quasi Dana Wahl, deinem AI-Agenten Dana Wahl benutze bitte meine Codebasis mit dieser LLM.

00:04:15: Und das ist mit Oxalpha eben auch genau so passiert und dann wird sehr viel unkontrolliert deinen Code in die Richtung des Modells abfließen.

00:04:26: Da das Modell läuft logischerweise nicht auf deinen eigenen Servern sondern es läuft in China!

00:04:35: Aber wir haben ja gelernt, dass die chinesischen Modelle so lange sie abgeschottet sind gar nicht so verkehrt sind.

00:04:41: Ja wenn Sie auf deinem eigenen Rechner und im Schreibtisch laufen.

00:04:48: Wenn Sie aber in einem Hosting in einer Cloud in China laufen dann werden die Chinesen die Retention Policy so gedreht haben... Bewahrungsregeln, die sie sich selbst geben, so gedreht haben und dass Sie nämlich aus diesem Modell lernen können.

00:05:11: Also mit diesen Modellen anhand deiner Daten lernen können.

00:05:14: also wir fassen nochmal kurz zusammen was passiert?

00:05:18: Super viele mehrere Millionen Entwickler haben angefangen dieses Modell zu benutzen mit ihrem AI-Agent ihrer Wahl für ihre täglichen Entwicklungsaufgaben Coding Zwecke Und da ist ja zum Teil auch Code dabei, der es nicht öffentlich.

00:05:30: Das heißt das ist ein privater Code von Software Dinge die wir jeden Tag benutzen Von deiner Home Automation Software bis zu deinem Auto wahrscheinlich wenn da irgendwelche Leute bei vw das ausprobieren.

00:05:42: und Jetzt wird immer dort teil viel mal weniger code genommen und an deren chinesische server API geschickt.

00:05:53: d.h.

00:05:54: Deine software die du baust geht zu teilen Richtung China.

00:05:58: Aber sollte das den Entwicklern nicht wissen und verstehen?

00:06:02: Ja, aber es ist doch umsonst Christian!

00:06:10: Das ist auch in meinen favorisierten Nachrichtenquellen wie bei Heisenews beziehungsweise auch beim Doppelgänger Podcast beleuchtet worden, aber die haben halt an dem Moment aufgehört wo dann gesagt wurde ja sie benutzen halt eine chinesische Cloud und trainieren natürlich ihre Modelle anhand deiner Daten.

00:06:28: Also, können wir uns das noch mal kurz auf die Uhr zugehen.

00:06:30: Das ist dein Code?

00:06:31: Was du gebaut hast was ein E-Agent gebaut hat wie ich das schon gesagt habe.

00:06:36: Das geht jetzt nach China und die trainieren ihr Modell bevor sie sich das Finale veröffentlichen mit deinen Daten Und haben nebenbei weil Du schickst hier so einen Puzzleteil da so ein Puzzle Teil Da so ein puzzle Teile Da so'n Puzzles teilen und übernachst es ganz lange mit ganz vielen Agenten.

00:06:53: dann hast du hunderte von Agenten die darüber laufen über Deinen Code und so weiter... einen Tag, zwei Tagen haben die einfach deine gesamte Codebase einmal gesehen.

00:07:02: Das heißt sie haben deine gesamten Software, die du gebaut hast gesehen und Sie trainieren Ihr AI-Modell damit, damit es in Zukunft so eine Software wie Du, die Du gerade gebaut hast auch bauen kann.

00:07:15: Du redest grade von DIE!

00:07:17: Wissen wir denn schon wer DIE ist?

00:07:20: Kannst du googeln mittlerweile... Also das Schöne ist ja.

00:07:24: Also, das ist auch ein interessantes Thema.

00:07:26: Wie kriege ich raus was das von AI-Modell ist wenn ich nicht weiß was es von AI Modell ist?

00:07:31: Indem ich ganz viele Tests mache mit allen möglichen AI-modellen die da draußen sind und mir dann anschauen in sich Fingerprinting wie die antworten bei gleichen Fragen Und du wirst feststellen wenn du, weiß ich nicht, tausend Fragen hinschickst an einen Modell wird es immer wieder ähnlich antwortet Softwareseitig, die ein Fingerprinter arbeiten.

00:07:57: Also sprich eine lange, am Ende zahlen Kombination, die darstellt oder darlegt wie das Modell antwortet und diese vergleichst du dann untereinander mit allen Modellen nur wo du so gerade Zugriff drauf hast Und du wirst auch feststellen dass Modellfamilien immer wieder ähnlich antworten.

00:08:13: Das meint ich mit einem Modell wird halt nicht vom Scratch irgendwo neu entdesignet und entwickelt Sondern es basiert immer auf dem Vorgängermodell.

00:08:19: Und was auch schön ist Du siehst auch wenn Modelle verwandt sind miteinander.

00:08:23: So hat man ja herausgefunden, dass nicht nur die Chinesen mit Antrophic Modellen und Open AI-Modellen ihre eigene Modelle trainiert haben sondern auch Antrophik mit chinesischen Modellen sein eigenes Modell verbessert hat.

00:08:36: Ich finde das alles super spannend.

00:08:38: Also jedenfalls ist hier der Fall... ...das ist dann auf die GLM-Familie.

00:08:45: Ich glaube es war jetzt auch die letzte Nachricht ne?

00:08:47: Das war das schon offiziell bestätigt, das ist GLM five point drei ist.

00:08:52: Jetzt kriege ich natürlich Sachen SuperGLM, das kann ich ja auch in meiner Cloud betreiben, so Open Source und Open Waits

00:08:56: usw.,

00:08:57: alles richtig.

00:08:58: aber da brauchst du halt auch die Hardware dazu also die Server dazu weil das Modell halt so groß ist dass es jetzt nicht unbedingt unumschreiblich läuft zumindest nicht mit dem Budget was... Also wenn nicht mal ich habe das Budget dafür außer ich miet mich da jetzt irgendwo ein im Rechenzentrum und lade das dann da drauf.

00:09:16: Da brauchst du halt nicht nur, sag ich mal, zehn, zwanzigtausend Euro für, um das unterm Schreibtisch laufen zu lassen.

00:09:20: Sondern das brauchst Du so mal sieben bis vierzehn, um es ordentlich laufen zu Lassen.

00:09:26: Sind die so krass?

00:09:27: Ja, das sind halt größere Modelle.

00:09:29: Das ist halt ein großes Modell.

00:09:31: Ich weiß gar nicht wie viele Parameter es jetzt zum Schluss hatte aber ich glaube selbst in der kleinsten Version waren das ein siebentreißig, waren da sieben dreißig interne als sieben drei Milliarden Parameter oder so aktiv.

00:09:42: irgendwas war da.

00:09:45: Ich müsste mal die Details reingucken.

00:09:46: Aber was wir hier sehen ist, mal wieder... Es ist was umsonst!

00:09:52: Alle springen drauf und es wird gehyped.

00:09:54: Das ist natürlich ein Supermarketing-Effekt.

00:09:58: Für die Serverbetreiber, die das Modell anonym veröffentlicht haben auch erst einmal einen Kostenfaktor.

00:10:04: Das muss erstmal abbilden.

00:10:07: Aber du kriegst halt auch einen Kosten Faktor weil du willst natürlich die ganzen Daten zwischendurch speichern, die dir schieben die ganze Zeit und da kommt auch ein bisschen was zusammen.

00:10:19: Und jetzt haben die dann erst mal eine Weile zu tun, diese ganzen Daten, die sie bekommen haben, zu analysieren.

00:10:24: Das wird dann schon wieder fürs nächste Modell mit benutzt und dann bekommt man demnächst fünf Punkt vier wahrscheinlich oder so.

00:10:29: Und das ist dann wieder besser weil...

00:10:31: Aber wir gehen davon aus irgendwann wird auch das kostenpflichtig?

00:10:36: Ja ja, das sowieso!

00:10:37: Also das ist ja nur diese limitierte Phase wo ich sage du fragst dich ja wie.

00:10:43: Also jeder, der irgendwie in der Firma betreibt muss ja irgendwo Geld verdienen.

00:10:48: Wie verdienen die chinesischen Open Source Modelle Geld?

00:10:50: Wenn ich mir einfach kostenlos runterladen kann und damit machen kann was ich will... Naja!

00:10:55: Sie haben halt deine Daten, werden ja Eingangs schon mal erwähnt.

00:10:58: Du bezahlst mit deinen Daten.

00:11:00: irgendwas ist halt immer.

00:11:01: Entweder du bezahlest mit dir selber, mit deinem Daten oder mit Geld.

00:11:05: Dir selber wäre so Instagram.

00:11:09: Ich meine es ist ja nichts anderes wie Open AI am Anfang ja auch komplett umsonst war.

00:11:14: Ja, genau.

00:11:14: Und die haben sicher auch viel gelernt.

00:11:17: Definitiv!

00:11:17: Also da hat ja jeder alles reingeschmissen?

00:11:21: Alles.

00:11:22: Kannst du mal einen Export machen bei OpenAI von deinen Darten aus den letzten zwei Jahren und denen bei AI-Modell dann anderen Wolle reinwerfen ist wirklich crazy.

00:11:31: was da...

00:11:32: Das habe ich schon gemacht.

00:11:33: es war im Endeffekt fast jede Anfrage.

00:11:37: Ich fand übrigens witzig das OpenAI, die als von Chatchivity weggehen und Richtung Codecs, also Richtung AI-Agenten sich mehr bewegen.

00:11:44: Dann so eine Importfunktion auch für Antrophic und Claude

00:11:47: usw.,

00:11:47: angeboten haben währenddessen die irgendwie die neue Version von denen runterlästet und ausprobiert ist.

00:11:52: Was ich auch wieder ganz spannend finde... Meine Frau hatte von OpenAI Chachabity lange oder mehrere Monate den Browser im Einsatz diesen Atlasbrowser.

00:12:02: Die hatten ja mal einen Versuch gestartet.

00:12:04: da hat er die Welt gedacht Die AI läuft demnächst im Browser und deswegen müssen die neue eigene Browser bauen.

00:12:09: Das heißt OpenAI hat einen eigenen Browser rausgebracht, hieß Atlas das Ding... Und mit einem Tag rief sie mich dazu und meinte hier, mein Browser funktioniert nicht mehr.

00:12:18: Ich so, wie soll deinem Browser funktionieren?

00:12:20: Ja, die hatte halt, das war ein Google Chrome Derivat umgebaut auf OpenAI getrimmt.

00:12:26: Und die OpenAI hatte einfach das Ding abgeschaltet.

00:12:30: also du konntest es bei dir lokal öffnen auf deinem Desktop hat aber nicht mehr funktioniert.

00:12:34: Hat nur noch gesagt, bitte ladet ihr ne neue Version runter und dann bist du online gegangen und willst die runterladen auf der Website Die Websites im Rundeladen hat einfach nicht mehr existiert.

00:12:44: Da gab es doch keine E-Mail oder wahrscheinlich ein Spam gelandet oder so, hey wir schalten den Browser ab Und verstehst du?

00:12:50: Ihre ganzen Cookies ihre ganzen Infos alles war in diesem Browser drin.

00:12:55: Du bist quasi Experimentierkaninchen für dich.

00:13:01: Ich weiß gar nicht, ich bin gar nicht so bäschend.

00:13:02: Ich finde es ja okay was man da so macht ist halt Teil des Businesses und ich weiß nicht ob ich das anders machen würde wenn ich die wäre.

00:13:08: aber Fakt ist auch dem Nutzer musst du halt schon Bescheid sagen Wenn Du eine Software einstellst dir dann nicht mehr weiter benutzen kannst damit er wenigstens noch seine Lesezeichen heraus extrahieren

00:13:19: kann.

00:13:21: Jetzt ist das halb so wild, weil was habe ich gemacht?

00:13:23: Ich hab einfach Codecs quasi des Nachfolgeprogramms von denen genommen und dann gesagt hey du hattest bisher Atlas.

00:13:29: Das hast Du einfach abgeschaltet.

00:13:30: zieht immer bitte die Daten raus und leg ein neues Chrome Profil an wo du die ganzen Daten alle reinschiebst.

00:13:36: Das Problem ist also es hat zwölf Minuten gedauert.

00:13:39: Dann waren ihre Tokens am Ende weil sie hatte nicht so ein großes Abo wie ich zum Beispiel da Und wir auch immer.

00:13:45: es hat funktioniert sehr gut sogar.

00:13:48: Aber du kannst natürlich nicht überprüfen, sind wirklich alle Daten da.

00:13:51: Nummer eins und Nummer zwei weil wie wir alle wissen AI ist nicht deterministisch das heißt ein Ergebnis kann anders aussehen beim nächsten Durchlauf.

00:13:59: das heißt du weißt nichts wirklich alle daten da Das ist die Natur der AI heutzutage.

00:14:06: Und das zweite ist ihre Tokens waren natürlich alles es halt auch weniger bitzig gewesen.

00:14:11: Und das dritte ist Du musst natürlich erst mal drauf kommen dass das gehen könnte.

00:14:17: also Ich weiß das, du vielleicht auch noch.

00:14:22: Aber formulier mal diesen Prompt den ich da gemacht habe.

00:14:26: Also die eine

00:14:28: ist... Du brauchst halt ein anderes Hintergrundwissen um herrder Dinge in so einer Situation zu werden?

00:14:35: Ja und da sind eben die Limitationen von heutiger AI.

00:14:41: Man muss es einfach so sagen, dass ist eben die Realität.

00:14:44: Der, der da vorsitzt ist immer noch derjenige, der letztlich die Ergebnisse produziert mit dem Faktor X hinten dran.

00:14:51: Und... ...die Realität ist eben wenn du ansonsten, weiß ich nicht, eine normale Büro-Tätigkeit machst oder in dem Fall wie sie im HR unterwegs ist hast Du halt nicht das IT Fachwissen.

00:15:01: Das geht gar nicht darum ob Du dümmer oder schlauer bist als irgendjemand.

00:15:04: Also es geht ja einfach und alleine nur darum.

00:15:07: Hast Du das technische Wissen um das überhaupt?

00:15:11: ein Chrom-Profil, was ist denn überhaupt ein Chrome-Profilm?

00:15:14: Also wollen wir jetzt mal anfangen kurz darüber zu reden.

00:15:19: Du kannst natürlich auch sagen der Browser funktioniert nicht mehr macht dass es wieder geht.

00:15:24: vielleicht kommt die AI auch drauf ein eigenes Chrome Profil anzulegen aber du brauchst halt einen anderen Browser, du musst die Daten rüber portieren migrieren und du musst es dort irgendwie lauffähig bekommen.

00:15:38: Das sind ganz viele Dinge, die heutzutage gehen eigentlich schon.

00:15:42: Wo man selber gar nicht drauf kommt vielleicht und ich würde mir auch manchmal wünschen... wie soll ich sagen?

00:15:49: Immer eine richtige Idee zu haben einen richtigen Moment.

00:15:53: Das wünschte sich jeder!

00:15:56: Wenn wir uns jetzt einmal das Szenario angucken Wir wissen nicht genau was mit den Daten oder mit den Newscases passiert.

00:16:02: Die werden halt irgendwie verarbeitet oder es wird damit trainiert.

00:16:06: Kannst du grob sagen oder vermuten ab wann das denn für uns als Enchiwusa gefährlich wird?

00:16:12: Naja, genau in dem Moment wo eben...

00:16:15: ...die Daten wechseln.

00:16:18: Also das eine ist Code und es heißt wenn du ein Stück Software baust wir wissen hier alle softwares nicht mehr das Wert was sie sonst früher mal wert war weil die eben leicht nachgebaut werden kann Wenn du ein stück Software baut musst du davon ausgehen dass eigentlich jede Software heutzutage in sehr kurzer zeit nach gebaut werden kann Weil Spoiler, die AI mit der du das tust vielleicht sowieso schon den Code von deiner Software kennt weil du in Vergangenheit schon damit gearbeitet hast und deine Daten sprich dein Code schon Bestandteil des neuen Modells sind.

00:16:51: Und ich lade jetzt mal eine EU-Kunde oder irgendeine andere wichtige Unterlage da hoch oder ein geheimes Strategiepapier oder irgendwas.

00:17:01: Wenn du nicht explizit dafür bezahlst dass die Anbieter dann nicht damit arbeiten und du diese Mechanismus vertraust, musst du damit rechnen dass diese Daten Teil des Modells werden in der Zukunft.

00:17:13: Und das heißt egal ob dir jetzt eine blendende geile Idee hast für eine Geschäftsidee oder was auch immer es ist jeder auf dieser Welt deren zukünftige Version von diesem Modell benutzt die mit deinen Daten unter anderem trainiert wird.

00:17:28: deine Idee dort abfragen können nicht im eins zu eins Wortlaut vielleicht aber die Grundzüge davon schon.

00:17:36: Also der Moment, in dem du Endtag gekriegt hast ist vorbei.

00:17:41: Der Moment wo du deinem AI-Agent gesagt hast, analysier bitte meine Codebase komplett und mach eine Mapping von meiner Codebase.

00:17:50: In diesem Moment hast du sämtliche Zahlencode die in deiner Codebase sind einmal zu dem Anbieter geschickt Und dann vertraust du mit der geschäftlichen Abmachung, ob er diese Daten jetzt weiterverarbeitet oder nicht weiter verarbeitet.

00:18:05: Es ist immer so abstraktender zu sagen, oh ja dann schicke ich das halt weg.

00:18:09: Also früher war es ja so, also früher vor zehn Jahren vielleicht oder so gut die haben jetzt meine Daten, die haben Milliarden von Datensätzen rumliegen.

00:18:18: Das ist wahnsinnig viel, das ist ja bald vollader Bäume nicht da gehe ich ja eh unter aber die Zeiten sind halt vorbei und das ist jetzt nicht nur so dass sie die Daten irgendwie umliegen haben und dann vielleicht eine NSA oder einen US-Geheimdienst drauf zugreifen wenn er irgendwas über dich wissen will.

00:18:32: Nein, die trainieren ihre AI-Modelle damit.

00:18:34: Das ist einfach.

00:18:35: dann, ich nenn's mal Hive, das ist ein Teil des Hive-Wissens der AI, sprich du kannst aktiv dazu beigetragen dass die AI in der Zukunft besser wird hast aber nichts davon bekommen.

00:18:48: soll es noch trotzdem dafür bezahlen

00:18:51: Wenn wir uns jetzt das Thema mit dem kostenlosen Modell angucken und aber in die Retroperspektive von Cyber Security Öffne das ja quasi für Cybersecurity noch mehr Türen, oder nicht?

00:19:09: Alles.

00:19:13: Es ist halt der wilde Westen zur Zeit immer noch auf der Cybersecurity-Bau Stelle und ein durchschnittlich begabter... Ich weiß es nicht, ich könnte jetzt Länderkürzel benutzen.

00:19:24: Ein durchschnitzbegabter Osteuropäer Tendenziell, historisch bedingt immer schon im Cyber Security sehr gut war.

00:19:31: Also da gibt es halt sehr viele Leute die sehr gut sind in den Cyber Security Team.

00:19:36: Der kann jetzt mit einem guten AI Engine und einer Kreditkarte wo er quasi die Tokens bekommt oder bestes ich selber laufen hat egal.

00:19:44: Kann ja eine ganze Armee von Hackern generieren.

00:19:47: Angenommen du betreibst einen Webshop Und wir haben alle unsere Entwicklerfreunde und ich rufe halt meine Dudes an und sag hier guck mal Ich hätte gerne hier ein neues Block in, kannst du mir das bauen für meinen Webshop?

00:19:59: Dann hat er das früher per Hand gemacht.

00:20:01: Alles war schön.

00:20:02: Das Ding war vielleicht auch unsicher aber hatte halt jemand auch per eigenem Gehirn herausfinden müssen wo es unsicher war wenn er mich angreifen will.

00:20:09: Heute benutzt erstens mein Software-Entwickler nicht damit beauftragenden AI-Agenten und ganz ehrlich ich muss meinem Softwareentwickler vertrauen dass er einem AI Agenten... ...das eher wiederum einen AI Agenten vertraut der nicht seine Cloud in China hostet Weil ich verliere sonst quasi meinen Code ohne dass ich es will, verstehst du was ich meine?

00:20:34: Also Supplychainrisiko.

00:20:36: Das heißt ich beauftrage jemanden was für mich zu machen auf meinem Code und der benutzt dafür Oxalpha.

00:20:44: Und in dem Moment nette er mein ganzes Codebase Richtung China.

00:20:49: werde ich sofort gehackt?

00:20:50: nein aber ein halbes Jahr später Kommt ein anderer osteuropäischer Hacker auf die Idee GLM-Fünffunk drei, was de facto Oxalpha ist.

00:21:03: Um mich zu hacken und die AI Engine erinnert sich natürlich dran.

00:21:09: Also die LLM, die trainiert worden ist mit meinem Code Erinnert sie sich natürlich daran wie mein Code aussah im Hintergrund.

00:21:16: Das sagt ihr nicht das macht die einfach schon mal drüber nachgedacht.

00:21:23: also täglich grüßt das Moment hier der Code kommt irgendwie wieder zurück zu dir.

00:21:29: Dieses Supply Chain Risiko mit... Du musst ja alles so krass abschotten.

00:21:34: und auch die Leute, die potenziell für dich freelancen oder etc.

00:21:38: Das ist ja ... du bist ja eigentlich mit einer permanenten Kontrolle beauftragt

00:21:43: Und ich sage das deswegen weil ich kenne Freelancer Mit denen ich gut befrontet bin.

00:21:48: Ich nennen keine Namen und so weiter.

00:21:49: Die sind alle super nette Leute.

00:21:52: Ich mag die total menschlich Aber ich weiß halt auch Die probieren ständig neue Sachen aus, denen ist das ehrlich gesagt auch egal.

00:22:01: Ob der Code jetzt geheim bleibt oder nicht?

00:22:03: Also ich habe einen, der hat letztens zu mir gesagt... Der baut jetzt irgendwie Dashboards und Zeug und ich sage zu ihm du kannst doch jetzt nicht echt für den CIO da von dem großen Konzernboden in den BI Business Intelligence Analyse-Dashboard schreiben über seine Vertriebszahlen weil Du baust es mit deinem AI-Agenten.

00:22:26: Das ist kein Code, den du weiterhin in Zukunft warten kannst, betreuen kannst der auch nur perfekt aussieht und auch die Aufgabe macht, die du willst.

00:22:39: also ich hab so viele Beispiele.

00:22:42: Also das Ding sieht gut aus.

00:22:43: Da drin sind die Zahlen Sieht super schick aus hat er an zehn Minuten gebaut.

00:22:47: Dein Kunde der wiederum dass von ihm kauft hat keinen Plan wie einfach das geht heutzutage.

00:22:50: das zwar stellen das interessiert ihn auch nicht.

00:22:52: Der hat das auch noch nicht mal mit Claude Cotter stellt, sondern mit Oxalpha richtig schön billig.

00:22:56: Auch noch ganz in Datenrichtung China exposed und so weiter.

00:22:59: Kriegt der Kunde davon was mit?

00:23:01: Nö!

00:23:02: Der Kunde hatte ein schönes Dashboard.

00:23:04: Denkt es ein schönest Dashboard... Und dann guck ich rein in den Code und mein Entwicklerfreund meinte kannst du mal reinschauen und mir meine Meinung dazu geben.

00:23:13: Ich gucke mir das an und denke mir die meisten Zeilen-Code drinnen erstmal sieht's gut aus aber sieht so ein bisschen aus.

00:23:19: Es hat eine halbe Armee von Juniorentwicklern das entwickelt.

00:23:23: Also es ist so, man hält sich nicht an seine eigenen Konventionen im Code bei der Entwicklung und so weiter und sofort.

00:23:28: Und dann guckst du weiter rein und dann denkst du dir die Farbe hier... ...die ist also so ein simples Ding wie die Hintergrundfarbe.

00:23:35: Die sieht so aus wie die auf der Website bei denen... ...ist aber eine andere Farbcode.

00:23:41: Die ist nur nah dran.

00:23:42: Das ist nicht die original Farbe!

00:23:44: Die hat er sich einfach halluciniert, als er das gebaut hat, als sie das nachgebaut

00:23:49: hat.

00:23:50: Es fällt halt nicht beim ersten Blick auf, sondern erst vom zweiten.

00:23:53: Und dann guck ich alle Farben an in dem Ding.

00:23:55: Die sind alle haluzioniert und sehen nur so aus wie die echten Farben, das sind sie aber nicht!

00:24:00: Dann gucke ich weiter... ...und dann habe ich an vier-fünf Stellen gesehen,... ...du selbst die Zahlen, die der darstellt,... ...in den Dashboard.

00:24:10: Du willst ja deine zielweite Vertriebszahlen darzustellen?

00:24:12: Wie viel habe ich verkauft, Umsatzmarge

00:24:14: etc.?

00:24:15: Die Zahlen haben wir auch

00:24:17: noch nicht gestimmt.

00:24:19: Die Stimmen ungefähr, aber halt nicht richtig.

00:24:23: ein paar davon sogar hart reinprogrammiert.

00:24:26: Das heißt, die updateen sich gar nicht.

00:24:28: Die blieben einfach immer gleich und das verkauft ihr dem jetzt einfach?

00:24:35: Und es ist auch okay im ersten Moment aber nächsten Monat stimmt's halt schon nicht mehr weil die Zahlen halt nicht stimmen.

00:24:44: Und das ist die Qualität die wir heutzutage rausgeben oder wo es viele Leute gibt diese Qualität raus geben.

00:24:49: und du hast jetzt als Beauftragender Ganz andere Herausforderungen, was Analyse von Code betrifft.

00:24:58: Was Analyso von Software entwickelten Projekte betriffte.

00:25:03: Das heißt du bräuchst quasi jedes mal so eine Checklayer bei allen Sachen die du irgendwie andersweise bei dir im Unternehmen hast?

00:25:11: Erstens ob sie funktionieren oder ob der Code irgendwo nicht im Universum schon rumschwimmt.

00:25:17: Ja also Du kannst vielleicht noch einen eigenen AIer gänken los schicken um zu sagen Stimmen die Farben in dem Dashboard zu meinen Konzernfarben kriegst du noch raus, wenn die Glück hast.

00:25:30: Wenn dein eigener AI agentisch nicht anlügt oder halluciniert.

00:25:35: Aber ob während der Erstellung dieses Dashboards die Aufgabe quasi mit Hilfe von europäischen oder chinesischen Datacentern gemacht wurde zum Thema Datenschutz und so weiter?

00:25:47: Das kriegste wir ja nicht mit!

00:25:49: Es ist unmöglich nachvollziehen.

00:25:52: also...

00:25:57: Es wird halt immer komplexer mit mehr Playern, mit mehr Modellen.

00:26:01: Also es wird doch zu irgendeinem Zeitraum jetzt schon völlig unnachvollziehbar wo die ganzen Sachen sind?

00:26:07: Ja natürlich!

00:26:08: Deswegen sage ich grundsätzlich der Wert von Software wie er einmal war ist nicht mehr existent.

00:26:14: Unser letztes Softwareprojekt das wir veröffentlicht haben haben wir direkt aus Open Source Software kannst du damit machen was du möchtest veröffentlichen weil wir der Meinung sind du kannst eh nicht schützen.

00:26:25: also jemand, der was produktives damit machen will soll sich bitte bei uns melden und wir helfen ihm dabei.

00:26:32: Und damit verdienen wir dann unser Geld.

00:26:35: Natürlich gibt es auch noch eine Version die wir nicht veröffentlicht haben, die noch in der Entwicklung ist wo man darüber nachdenkt wie veröffentlichen wir sie in Zukunft?

00:26:42: aber Fakt ist Software lässt sich sehr einfach nachbauen und selbst wenn du sie verschlüsselst als quasi Datenmüllhaufen veröffentlich die vielleicht noch ausführbar ist und funktioniert kann die trotzdem von einem hinreichend schlauen AI geknackt werden und rückwärts wieder zurück in Code verwandelt werden, den sie dann auch wieder ganz einfach versteht.

00:27:06: Weil du kannst ja im Worst Case davon ausgehen dass wenn du da irgendwo eine Supply Chain Risiko drin hast es sind deine Daten ja eh schon exposed.

00:27:14: das heißt also wir trainieren ja die AI im großen Stil darauf Aus Code ... die Programme zu erstellen und andersrum.

00:27:28: Das heißt, sie braucht zum Schluss gar nicht mehr meinen Code explizit zu sehen... ...die weiß schon das es mein Code ist.

00:27:33: Wenn Software nicht mehr das erste ist oder sein wird was ist es dann?

00:27:38: Du ganz viel!

00:27:40: Das properitäre Wissen über die Integration der Software sprich wie werden Daten umgebaut, transformiert?

00:27:49: Du hast jetzt eine Datenbank zb von einem Einzelhändler Und da sind ganz viele Daten drin, die musst du erstmal verstehen ... damit du da irgendwas Sinnvolles mitmachen kannst.

00:27:57: Die sind vielleicht auch kaputt, dann musst du sie reinigen, ne?

00:27:59: Cleaning nennt sich das!

00:28:01: Und all diese Themen und dieser ganze Prozess dahin... der lässt sich schwierig mit einer AI abbilden weil er jedes Mal anders ist.

00:28:08: Heißt, da werden weiterhin Menschen gebraucht.

00:28:10: Das ist etwas für das du als Dienstleistung Geld verlangen kannst.

00:28:13: Grundsätzlich brauchst du natürlich Energie um Software zu erstellen,... ...weil auch die AI muss mit irgendetwas betrieben werden.

00:28:19: Das heißt, die gesamte Infrastruktur für eine AI brauchst Du.

00:28:23: Dann kannst du natürlich auch Dinge erstellen, die in dem Prozess zum Beispiel generell Prozesse sind.

00:28:30: Ausführbar sind.

00:28:33: Kannst du natürlich noch mal extra als Prozesswissen abspeichern?

00:28:38: Als Daten dann die gesamte Data Governance wie wir es nennen das heißt alles was Zugriffsschutz ist.

00:28:44: wer darf auf was zugreifen?

00:28:45: wieso die ganze Überwachung davon die ganze Cyber Security davon?

00:28:49: All diese Themen sind alles Sachen, die AI nur unsureichend gut macht gerade.

00:28:56: Und was AI eben auch heute nicht kann, richtig gut ist Architektur.

00:29:00: Das heißt wenn du eine große Architektor hast von etwas, es ist mal hart gesprochen Facebook nachbauen wird schwierig weil da ist ne brutale Architektur die ja soft und hardware besteht also Rechenzentrum plus der Software die drauf läuft die halt sehr, sehr viel mit Architektur zu tun hat und Komplexitätsberechnungen.

00:29:20: Und so... Die haben super viele Sachen auch customised.

00:29:23: Das kannst du superschwer nachbauen.

00:29:25: Also da kannst du selbst eine Million AIs draufhauen.

00:29:29: Egal es spielt keine Rolle.

00:29:31: Da ist einfach soviel architektonisches Wissen was du heute noch nicht gut abbilden kannst mit einer AI.

00:29:37: Da sind die Grenzen schnell erreicht Auch wenn deine Codebase zum Beispiel Hat der letzte jemand gemeint Ach, ich könnte mir einfach ein Windows nachbauen.

00:29:47: Oder so was wie Linux Kernel oder sowas.

00:29:50: und Windows ist jetzt dreißigvierzig, vierzig Jahre alt?

00:29:54: Ich weiß gar nicht, vierzehnundneinzig.

00:29:56: Nee, zweiundachtzig ist neu rausgekommen.

00:29:58: Ja, ähm, ich glaub zweiundachzig,

00:30:02: achtzig

00:30:03: Windows.

00:30:03: Vierundachtsig!

00:30:05: Vierunachtzig.

00:30:05: ja, ich war da dran.

00:30:06: Windows eins Punkt Null am zwanzigsten November vierundachzlich

00:30:10: Und es soll ja wohl angeblich noch Zeilen geben, Code-Zeilen geben die quasi identisch sind mit dem original Windows von damals im heutigen Windows.

00:30:18: Ich halte das für ein Gerücht aber ich bin aus den Aßen und Neunzigern ist bestimmt noch Code drin.

00:30:23: Und dieser Code der da drinnen ist natürlich von Millionen und Millionen Millionen von Menschen getestet worden über die Jahre und dann von anderen Menschen die wirklich Plan hatten von denen was sie gemacht haben gefixt worden und repariert wurden.

00:30:33: Jetzt kommst du daher und sagst ich baue jetzt eine Codebasis die ist aber Milliardenzeilen lang nach.

00:30:42: Wie wir alle wissen, passt mehr als eine Million Wörter Tokens nicht in den AI heutzutage rein.

00:30:47: Das ist das Limit für einen Context Window und das wird auch schon ab zwei, drei Hunderttausend Tokens immer schlechter hinten raus.

00:30:54: also das heißt die sind sowieso nicht gleichwertig zu betrachten.

00:30:59: Und dann hast du aber nicht ein paar Millionen sondern Du hast Milliarden Zeilen Code Die in so einem Windows drin schlummern.

00:31:05: Ich glaube es waren siebenunddreißig Milliarden Zeil Code.

00:31:10: Wir reden über ein ganzes Universum von Software, was du versuchst in eine Pfütze zu packen.

00:31:16: Das funktioniert natürlich nicht.

00:31:20: Es gibt auch Software die ist einfach zu groß damit sie irgendwo oder so einen SAP sind die jetzt auch nicht besonders nervös weil das danach zu bauen ist eine Momod Aufgabe.

00:31:32: und was noch dazukommt es wenn der Software im Betrieb ist bei einem Kunden kannst du die auch nicht einfach austauschen, weil du verlässt dich auf die Funktionsweise wie sie bisher war und angenommen, du baust die nach.

00:31:43: Hast du gar keine Garantie mehr das die Funktionen wie sie bis hier war?

00:31:47: Und die Ergebnisse und die Daten hinterher auch noch in dem Format durchtransformiert werden dass sich hinterher genau so stimmen wie sie stimmen müssen.

00:31:53: Deswegen kannst da auch SAP nicht einfach ersetzen durch den AI und geht sogar noch weiter.

00:32:02: SAP nicht super einfach durch eine neue Version ersetzen.

00:32:04: es gibt ja Diese ganzen üblichen.

00:32:06: haben sie noch ein altes SAP und müssen aufs neue SAP gehen, so weiter.

00:32:10: Riesenproblem!

00:32:11: Weil selbst die neuen SAP-Version nicht mehr dieselben Datentransformationen machen wie die alten, die unsere Konzerne und Unternehmen gewöhnt sind.

00:32:17: Ich versuche es jetzt wirklich ganz einfach verständlich auszudrücken.

00:32:23: Rechnung kommt rein.

00:32:25: Zehn Mitarbeiter gucken drüber... Die Software baut da etwas umschiebt das auf die entsprechenden Konten.

00:32:31: Das hat was mit Accounting zu tun usw.. Und diesen Prozess vertraust du?

00:32:36: Und jetzt gibt es eine neue Software rein, die soll angeblich dasselbe machen.

00:32:39: Aber irgendein Mitarbeiter klickt an der falschen Stelle zum falschen Zeitpunkt in der falsche Stelle und die Daten kommen halt hinten nicht mehr so raus oder oder oder ist dann kein Hub-Softwareproblem mehr sondern ein Menschsoftwareproblem?

00:32:52: aber wir reden hier über ganz viele Themen die irgendwo zwischen Menschen und Maschinen gelagert sind und nennen das ganze Prozess.

00:33:01: Da kannst du diese Spruch Never Touch a Running System trifft halt sehr oft zu.

00:33:05: Du willst teilweise den System auch nicht anfassen, weil es einfach völlig harakirisch wäre anzufassen, wenn da nach gar nichts mehr geht.

00:33:12: und dieses Problem haben sehr viele Leute die ich kenne mit vor allem Kunden von uns, mit denen wir zusammenarbeiten, die einfach in den IT-Entschilder Positionen sind, die diese Infrastrukturen dort verantworten müssen.

00:33:24: Da gab es auch schon Konzerne, die wegen ähnlichen oder nicht nur wegen dem Thema aber dann so als Todesstoß noch deswegen einfach pleite gegangen sind.

00:33:33: War das nicht auch Neckermann?

00:33:37: Ich glaube Neckerman war damals... Die hatten eh schon Probleme und dann wollten sie auch eine SAP-Transformation durchführen und sind dann komplett pleitegegangen.

00:33:45: Aber kann passieren!

00:33:47: Müssen wir mal nachgucken.

00:33:50: Viel gelernt heute über kostenlose Modelle und den Wert von Daten.

00:33:56: NWD-Folge können wir kostenlosen Modellen vertrauen?

00:34:00: Ja, aber wenn sie in China laufen eher schwierig.

00:34:05: Den kannst du auch nicht vertrauen, wenn Sie kostenlos in den USA laufen!

00:34:08: Na ja ich vertraue Ihnen schon in gewisser Weise, wenn sie unter meinem Schreibtisch laufen.

00:34:14: Aber nicht wenn die Hauptsauce wo anders ist.

00:34:16: Ich kann jedem empfehlen, ach es gibt so viele Themen wir können über so viel reden.

00:34:19: Apple hat noch die neuen Mac Studios veröffentlicht.

00:34:22: da kannst du jetzt fünfhundert zwölf Gigabyte große Modelle drauflaufen und das unter deinem Schreibtisch kostet wahrscheinlich zwanzigtausend Euro.

00:34:28: Also

00:34:28: darüber wollte ich nicht mit dir reden aber aus persönlichen Interesse dachte ich wir stoßen noch einmal in die anstehende Keynote an.

00:34:35: Das ist aber vielleicht kein AI-Thema.

00:34:38: Nein,

00:34:39: nicht die AI-Tema!

00:34:40: Aber mich würde interessieren glaubst du, dass es große Neuerungen bei Apple AI geben wird?

00:34:46: Und dann wollte ich eigentlich die kurze Schleife zur Hardware-AI machen.

00:34:51: Weil darüber wollten wir uns eigentlich nochmal unterhalten.

00:34:55: Also Punkt Nummer eins... Ich lese auch die üblichen Gerüchteküchen Nachrichten und ich benutze die Vorabversion für Softwareentwickler, die du nur bekommst wenn du Softwareentwicler bist.

00:35:09: Ich sehe momentan keine geheimen Funktionen, die mich irgendwie völlig wegbomben würden.

00:35:14: Auch da bleibt Apple sich treu.

00:35:16: Apple hat über die letzten Jahre sehr wenig, also Groundbreaking-Stuff veröffentlicht irgendwie zum Thema AI.

00:35:23: Da ist nicht viel passiert.

00:35:24: Das auch nicht Apples kann geschafft werden.

00:35:31: Dessen zum Trotz veröffentlichte Apple aber immer wieder gute Hardware wo AI super drauf läuft und die in echter Konkurrenz zu Nvidia geht.

00:35:38: Die hat derzeit das wertvollste Unternehmen der Welt sind soweit ich weiß Und es gibt halt eben dort bald neue i-Hardware, die zurzeit immer permanent ausverkauft ist und in Zukunft noch mehr aus verkauft sein wird.

00:35:51: Du kannst dann quasi Open Source Modelle dir runterladen bei dir selber unterm Schreibtisch betreiben das was ich auch schon seit der geraumweile sehr erfolgreich tue.

00:36:02: und da gibts eben dort einen neuen Mac Studio.

00:36:03: der ist noch leistungsfähiger als der alte.

00:36:06: Ab Mitte Oktober hat er dann auch fünfhundert zwölf Gigabyte RAM, das heißt du kannst größere Modelle drauflaufen und lassen mit hinreichend viel Token durchsatz pro Sekunde.

00:36:14: Und das wird sicherlich auch das Geschäft von den Traffic & Open AI beeinflussen.

00:36:19: Wenn du dir jetzt so einen Gwent-Rai Acht runterladen kannst zum Beispiel und das sehr, sehr effizient darauf betreibst auf einer Qualität die locker ausreicht um damit Software zu entwickeln, locker aus Reichtum in den Agenten Tag für Tag Day by day Tasks Zubu beauftragen.

00:36:36: Also ganz ehrlich, brauchste kein teures Antrophic oder OpenAI-Abo dafür?

00:36:46: Amen!

00:36:46: Somit hat er die Sales von Antrophik gekillt.

00:36:50: Ja also Apple wird sicherlich seinen Beitrag zu leisten dass Antrophics schon hart argumentieren muss warum sie ein Modell für so viel Geld verkaufen müssen.

00:37:00: aber weißt du ich habe das letzte mal schon über die Zahlen gesprochen gehabt.

00:37:07: Wenn du die Frage ist, wie viel der Fortune Five Hundred Unternehmen in den größten amerikanischen Unternehmen benutzen aktuell schon AI wurde im Doppelgänger Podcast intensiv besprochen müssen und nicht nur mal im Detail besprechen aber es war Null Komma Eins Prozent oder so.

00:37:21: Das heißt das Potenzial hinzu Geld ausgeben im Konzern für AI ist riesig!

00:37:30: Riesig!

00:37:31: Die können sich nicht alle AI Hardware von Nvidia unterm Schreibtisch stellen.

00:37:36: Die werden das in der Cloud betreiben irgendwo, und in den Datacentern betreiben die unter anderem Enttrophicern Open AI jetzt bauen.

00:37:44: Das Geschäft wird schon funktionieren.

00:37:48: Ist ja absoluter Wahnsinn!

00:37:49: Die bauen ja auch gerade in der Wüste in irgendeinem ehemaligen Forschungszentrum ja auch so ein gigantisches Ding hin?

00:37:56: Ja du willst da nicht wohnen weil dann eben natürlich... Weil es natürlich mit Gasturbinen betrieben wird und die Luft verschmutzt wird.

00:38:04: also Die kriegen ja den Strom nicht ran dafür, das ist ja das Hauptproblem.

00:38:10: Also der Strom, die Energie zuvor, zwar so lustig wir haben noch vor Jahren mit einer grünen Bundesregierung darüber gesprochen wie wir unsere Klimaziele bis zum Jahrzehnte erreichen wollen, haben niedrige Energiehäuser subventionieren und stellen heute fest, dass der durchschnittliche Energieverbrauch x-fach höher liegen wird wegen allein schon AI gar nicht mehr realisierbar ist und sonst man einfach im Wettbewerb total nach hinten abfällt.

00:38:37: Mit allein dieses Server-Farm, die sie da bauen hat ja einen größeren Verbrauch als ganz Deutschland zusammen?

00:38:43: Ja das ist sehr einfach von dir ausgedrückt.

00:38:45: also wir reden davon dass bis zum Jahr zwanzig achtundzwanzig nicht mal so viel Datacenter Kapazität in ganz Europa gebaut wird wie aktuell in der USA schon Elon Musk im ersten halben Jahr gebaut hat.

00:38:55: Das darf man sich auf den Zunge zergehen lassen.

00:39:00: Schade

00:39:02: Schade.

00:39:03: Ja, Alex!

00:39:05: Zwei Fragen zum Abschluss.

00:39:07: abgesehen von OxEifer weil das ist ja vermutlich unseren Fingern gebrannt hast du noch eine andere Hotchalker E-Story?

00:39:17: Ich denke dass Apple mit seiner neuen Hardware Linie voll ins Schwarze treffen wird und eben nicht die neuen iPhones der absolute super Mega Bringer sind sondern die neuen Mac Studios verfügbarkeiten.

00:39:31: Wenn die verfügbare sind, das heißt Apple mehr als zwanzig Stück davon im Monat liefern kann dann wird es ein richtig dickes Geschäft für Apple.

00:39:40: Das heisst aber auch du kaufst wieder noch?

00:39:44: Hundert pro.

00:39:46: Also aktuell habe ich ja schon so einen Ding stehen.

00:39:47: Ich hab einen großen Mac Studio und ich hab auch von den Video ordentliche Hardware rumstehen und der Mac Studio ist super.

00:39:54: Ich würde davon mehr einstellen und sie hat jetzt eine Speicherbandbreite, die ungefähr die Hälfte dementspricht was die NVias können.

00:40:00: Jetzt in der neuen Version diese veröffentlichen.

00:40:02: Was aber total ausreichend sein wird, was die Tokens pro Sekunde betrifft auf den Open Source Modellen.

00:40:06: Ich rechne da mit ob zwischen fünfzig und hundertfünfzig Tokens per Sekunde ich kriege auf der Nvidia Grafik Karte locker das Doppelte hin.

00:40:15: allerdings hat die halt weniger Speicher ohne es teurer.

00:40:19: Das heißt ich kann größere bessere Modelle drauflaufen lassen mit einer höheren Qualität Und ich denke, wenn die Verfügbarkeit gegeben sein wird werden die davon viele verkaufen.

00:40:28: Apple-Aktien kaufen.

00:40:31: Würdest du Oxalpha privat nutzen?

00:40:35: Wenn es auf einem europäischen Data Center gehostet ist klar... Ich mag GLM, das ist ein schönes AI-Modell.

00:40:43: Kannst du dir bei Nebius hosten zum Beispiel, bei Herzner hosten kannst du dir selbst bei Olama hosting in der Europäischen Data center Oder du holst dir halt eigene Hardware und lässt es drauf laufen.

00:40:56: Das ist auch okay.

00:40:57: Letzte Frage zu guter Letzt, ein Thema was in deinen Augen komplett überschätzt wird gerade?

00:41:05: Die Macht der amerikanischen zukünftigen Börsengänge und Cloud-Provider weil... Also auch Nvidia sag ich ganz klar.

00:41:18: Es gibt schon immer AMD, es gibt schon andere Hersteller.

00:41:21: Natürlich hinken die hinterher und natürlich können nicht dieselben Leistungswerte vielleicht... Aber sie können's!

00:41:28: Und was total unterschätzt wird ist auch Google.

00:41:30: Google hat alles.

00:41:31: Die haben die eigenen Chips, die Leute, die Kunden, Google hat einfach alles.

00:41:35: Sie haben die Data Center, die Erfahrung das zu betreiben.

00:41:39: Die wissen wie man das effizientem Kostengünstig macht.

00:41:46: hat jetzt wieder kaufen lassen über seinen Nachfolger große Google Anteile.

00:41:52: Das ist nicht ohne Grund.

00:41:53: Google hat echt gute Karten gerade, die langfristig besser aussehen als zum Beispiel von den Videos oder von den anderen.

00:41:59: Glaubst du wir werden noch einen großen Google Run sehen?

00:42:02: Ich denke schon.

00:42:05: Die können jetzt einfach billiger AI anbieten als die anderen zu höherer Marge und das wird auch am Ende des Tages wieder... Also die Marktwirtschaft wird irgendwo wieder greifen und das werden wir unter anderem bei Google zuerst sehen.

00:42:17: Amen!

00:42:18: Closing Words, ich bin gespannt.

00:42:22: Wir können nächstes Mal noch eine Runde über die wunderbare Zirkulärwirtschaft von Invidia und Co.

00:42:27: und Investments sprechen weil ich glaube das ist nochmal ein anderes Thema wie dass alles quer subventioniert wird von links nach rechts.

00:42:35: Ich meine der Doppelgänger, der Pipp hat darüber schon intensiv gesprochen.

00:42:39: wieder mal letztens auch ja

00:42:41: Es ist der Wahnsinn also es ist ja... Das hat nichts mehr zu tun.

00:42:43: mit einer Hand wäscht ihr andere.

00:42:46: Das sind Kübel und damit alles gewaschen.

00:42:48: Also Verkäufer, also Vertriebsfinanzierung und so was.

00:42:52: Dass du deine eigenen Kunden bezahlst dafür dass sie dich kaufen, Rapatik gibst und so.

00:42:57: Das gibt es ja schon immer.

00:42:58: das macht die Automob... Die Mercedes-Bank macht das genauso wenn Sie dir ein Mercedes lesen.

00:43:04: Also zu absurd niederen Kosten.

00:43:07: oder die Mercedes Versicherung zum Beispiel mit niederen... Als das eigentlich kosten müsste.

00:43:13: Also machen tun das alle zur Absatzförderung?

00:43:18: was ist noch gesund?

00:43:19: Da hat Pippen im Wahnsinnsgeile-Analyse dazu gemacht.

00:43:22: Das Problem sind nicht die direkten Beteiligungen von NVIDIA, sondern das Problem sind die Off-Books-Liabilities also dass was nicht in den Büchern drin steht.

00:43:35: und jetzt muss man aber wissen wenn da steht Softbank und NVIDia investieren fünfhundert Milliarden dann ist das erstmal eine schöne Pressemitteilung wie viel da wirklich von investiert wird, was in den Verträgen dazu steht wie die Rücktrittsbedingungen für diese Verträge aussehen.

00:43:52: Dass das wirklich passiert ist komplett Glasskugel.

00:43:56: also ich kann auch von einem fünfhundert Milliarden-Milliardenvertrag zurücktreten mit einer Strafender Penality.

00:44:02: zahl halt meine zehn Milliarden Strafe und alles ist schick.

00:44:07: Das Thema nehmen wir fürs nächste Mal mit, weil es ist viel zu groß.

00:44:10: Aber diese ganzen Konditionen und Penalties und was irgendwie Berlin wird gegen was ist schon ein sehr interessantes Thema.

00:44:19: Ganz

00:44:19: ehrlich?

00:44:21: Was die in diesen Wetten bei fünfhundert Milliarden Investment in Nevada sind, das sind Memories of Understanding In agreements of understanding das heißt, das sind Absichtserklärungen.

00:44:38: Die haben die Absicht, das zu investieren.

00:44:42: Da stehen noch irgendwelche Finanzierungen nicht und so weiter.

00:44:47: Und was Nvidia ganz häufig macht, die geben da gar kein Geld.

00:44:50: eigentlich in neunundst Prozent der Fälle gibt Nvidia da kein Geld sondern Nvidia gibt Sicherheiten, die bürgen dafür.

00:44:58: And there we go!

00:45:00: Es ist immer nur ein Teil der Geschichte der kommuniziert wird.

00:45:03: Es ist nur ein Teil der Geschichte, die kommuniziert wird.

00:45:05: Und ich habe auch gedacht Menschen sind völlig irre.

00:45:07: das kann niemals funktionieren.

00:45:08: was sie da vor Commitments eingeben so viel Geld und so weiter.

00:45:11: wenn du bei Licht hin muss ich ganz ehrlich aus meinem Business Alltag reingucken.

00:45:15: Ich kenne solche Verträge.

00:45:17: in der Luftfahrtindustrie wo ich vorher gearbeitet hab wurden solche Vertrege auch gemacht.

00:45:21: egal ob du Raketen, Staatsverkaufs oder elektrische Helikopter überall gibt es diese Absichtserklärungen und Standings und dann kaufen wir einen Vehikel Ohne Namen zu nennen, da wurde halt gesagt ich kaufe ein so'n Vehikel.

00:45:34: Ein so'nen Gerät.

00:45:37: Aber öffentlich kommuniziert wurden den Vertrag über fünfzig Geräte.

00:45:40: Die Realität war in dem Verträgenstand drin.

00:45:43: Du musst eins garantiert abnehmen und hast die Option weitere neunvierzig zu kaufen.

00:45:49: Also so halt.

00:45:52: Und wenn du nicht nur in vierzig kaufst dann kostet dich diese option pro Jahr so und so viel tausend Millionen Euro Aber ist immer noch billiger als die Fünfzig Dinger komplett zu nehmen.

00:46:02: Das

00:46:03: ist der absolute Wahnsinn!

00:46:05: Alex, wir haben heute was gelernt.

00:46:07: Nichts gibt's umsonst.

00:46:09: Sachen sollten nicht nach China gehen.

00:46:11: Dein Coach wird in der Regel sowieso schon meistens überall rum wenn du ihn nicht ordentlich abgeschirmt hast.

00:46:17: und vielleicht sehen wir noch die große Google-Wette.

00:46:21: Wir sind wieder auf einem wöchentlichen Rhythmus und das heißt wir werden schneller reagieren auf wunderbare AI News Und in dementsprechend vermute ich dann auch ein bisschen kürzer.

00:46:33: Das nächste Mal, wir sprechen uns in ein paar Tagen!

00:46:37: Ich danke direkt herzlich und wünsche noch einen erfolgreichen künstlichen intelligenten Tag!

00:46:44: Ciao ciao!

00:46:45: Bis dann, ciao!

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.