Latest / programmier.bar – der Podcast für App- und Webentwicklung / News 45/26: MacBook Pro mit Touch // Gemini 4 Carbon // HTTP2Shell // OpenAI Pando // Copilot Fusion
Transcript
- 0:08SPEAKER_00: Hallo und herzlich willkommen zu den Programmierbar News 45.
- 0:13SPEAKER_00: Wir reden heute über die neuen MacBooks, die rausgekommen sind.
- 0:17SPEAKER_00: Über einer Sicherheitslücke mit HTTP2 Shell.
- 0:21SPEAKER_00: Dann haben wir noch das Gemini Carm Modell, über das wir kurz sprechen können, ebenso wie OpenAI mit Git umgeht und Claude Message Threads.
- 0:31SPEAKER_00: Dann haben wir auch noch zwei optionale Themen hinten dran, je nachdem, wie weit wir kommen oder wie viel wir auf den ersten Themen verbrauchen.
- 0:38SPEAKER_00: Mein Name ist Dennis Becker und rechts neben mir sitzt der Gerald Mock.
- 0:42SPEAKER_00: Und zugeschaltet haben wir den Philipp.
- 0:45SPEAKER_00: Den Philipp, hallo.
- 0:47SPEAKER_00: Er stirbt schon.
- 0:49SPEAKER_01: Lebst du?
- 0:50SPEAKER_01: Geht's dir gut?
- 0:51SPEAKER_01: Ja, es geht.
- 0:53SPEAKER_01: Man lebt.
- 0:55SPEAKER_00: Man lebt so von gehört, aber.
- 0:59SPEAKER_01: Ist bei euch ist aber auch so viel los?
- 1:02SPEAKER_01: Warum ist bei euch viel los?
- 1:05SPEAKER_01: Naja, KI.
- 1:07SPEAKER_01: Ich meine, ich habe mich jetzt daran gewöhnt.
- 1:09SPEAKER_01: Also wenn eine Woche vergeht, in der kein neues Modell released wird, kein neues Feature passiert, ist es schon eine sehr komische Woche.
- 1:16SPEAKER_02: Ja, man hat sich echt voll dran gewöhnt, ne?
- 1:18SPEAKER_02: Am Anfang hat sich das so übelst anstrengend an Gefühl, dass so viel passiert und jetzt so normal irgendwie, ne?
- 1:23SPEAKER_01: Ja, also ich meine, ich habe das Gefühl, so ein bisschen bei den Security-Incidents.
- 1:28SPEAKER_01: Also wir reden da jetzt gleich drüber.
- 1:30SPEAKER_01: Vor einem halben Jahr warst du, oh mein Gott, ich muss alles updaten und heute hast du irgendwie gefühlt, okay, Scheiße, schon wieder was kaputt, ich nutze am besten keine Computer mehr.
- 1:39SPEAKER_01: Ich habe auch irgendwas gestern auf Social Media gesehen, dass Supermärkte in der EU gehackt wurden und die Gefriertruhen auf plus 40 Grad eingestellt wurden.
- 1:50SPEAKER_01: Ich glaube, glücklicherweise ist Deutschland nicht betroffen, weil wir nicht digital genug dafür sind.
- 1:55SPEAKER_01: Aber war auf jeden Fall, wo ich mir dachte, okay, alles klar.
- 1:58SPEAKER_02: Darauf hat die Bundesregierung spekuliert.
- 2:01SPEAKER_00: Naja, es ist ja keine staatliche Institution.
- 2:04SPEAKER_00: Ja, ja, das stimmt.
- 2:05SPEAKER_00: Aber trotzdem, der Ausbau der Digitalisierung ist ja schon obsession.
- 2:08SPEAKER_00: Da haben wir ein bisschen mal mittagessen irgendwann, das ist, glaube ich, schon zwei, drei Wochen her, wo das passiert ist, hier auch drüber gesprochen.
- 2:12SPEAKER_00: Und erstmal natürlich die Frage, also und am Ende gibt es Gründe dafür, aber warum schaltet man, also vielleicht ganz kurz Kontext, Supermarkette, sehr große Supermarktkette in Frankreich, wo alle Kühlschrankanlagen in hunderten Supermärkten zentral gesteuert werden.
- 2:28SPEAKER_00: Und dieses System wurde gehackt und dann eben alles auf 60 Grad gestellt statt auf minus 20 Grad.
- 2:35SPEAKER_00: Und ja, ich meine, es macht schon, also es hat für Strom, also beispielsweise eine Stromsteuerung, so wenn du irgendwie viel Solarstrom machst, ein paar Grad Kälte, also Optimierung auf wirklich anderer Ebene noch mit Strompreisen und macht es schon irgendwie Sinn, das alles zusammenzufinden.
- 2:50SPEAKER_00: Aber wieso kann man das auf plus 60 Grad stellen?
- 2:52SPEAKER_00: Das ist schon mal die Frage.
- 2:53SPEAKER_00: Ja, geht wahrscheinlich.
- 2:55SPEAKER_00: Ja, aber oh.
- 2:57SPEAKER_00: Aber ja, es wild.
- 2:59SPEAKER_00: Auch.
- 3:02SPEAKER_00: Aber ich glaube, da war es jetzt wirklich auch so, dass es sehr schlecht abgesichert war.
- 3:05SPEAKER_00: Also es gibt ja noch die Fälle, wo einfach doof ist, wenn alles kaputt geht, wie PHP zum Beispiel vor zwei Wochen, aber ich glaube, da war es einfach auch zusätzlich noch irgendwie ähnlich wie beim Louvre, bei den Sicherheitskameras, das Passwort ist Louvre.
- 3:18SPEAKER_00: So, glaube ich, war es da ähnlich.
- 3:20SPEAKER_00: Mit der Sicherheit.
- 3:23SPEAKER_00: Anyway, steigen wir ein.
- 3:27SPEAKER_00: Vor allen Dingen für die HörerInnen interessant, die den ein oder anderen Euro zu viel zu Hause rumliegen haben und denen neu investieren möchten in Shiny Hardware, gibt es von Apple die Möglichkeit, das jetzt wieder zu tun.
- 3:42SPEAKER_00: Ich glaube, also es gibt einmal, sie haben alles ein bisschen, es gab keine Präsentation, sondern praktisch nur Pressemitteilungen, ein paar Videos, die sie rausgebracht haben letzte Woche.
- 3:51SPEAKER_00: Und da ist einmal ein neues 14-Zoll-Modell rausgekommen, das neue MacBook Pro, was jetzt eben die Möglichkeit hat mit einem M5, ja, M5 Pro, M5 Max oder M6 Chip, wo man es, glaube ich, besser andersrum vorliegt, weil der M6 der Schwächere ist, also M6, M5 Pro oder M5 Max Chip ausstatten kann.
- 4:18SPEAKER_00: Genau, und das, wo es wahrscheinlich drüber spannender ist, kurz drüber zu sprechen, ist das neue MacBook Pro Pro LED XDR Display MacBook.
- 4:30SPEAKER_00: Und zwar handelt es sich da um ein 14 oder 16 Zoll MacBook, was nur mit M5 Pro oder M5 Max zu bekommen ist.
- 4:42SPEAKER_00: Aber ich glaube, die größte Änderung ist an der Hardware.
- 4:44SPEAKER_00: Es ist irgendwie deutlich leichter geworden, ist das eine, und es besetzt jetzt ein neues Display und dieses Display kann touch.
- 4:52SPEAKER_00: Und das ist, glaube ich, die ganz große Neuerung, die dort kam.
- 4:57SPEAKER_00: Ich dachte, dass das Apple-Logo jetzt wieder leuchtet.
- 5:00SPEAKER_00: Ja, das wäre jetzt mein Take gewesen, dass das Einzige, was ich wirklich cool finde.
- 5:03SPEAKER_00: Ja.
- 5:04SPEAKER_00: Also das finde ich schon schön, dass das Apple-Logo wieder hinleuchtet.
- 5:08SPEAKER_00: Das ist nämlich auch tatsächlich dort eine Neuerung.
- 5:11SPEAKER_00: Also ich habe bis jetzt noch keinen getroffen, der gesagt hat, oh, Touch, cool.
- 5:16SPEAKER_00: Das ist das irgendwie, was ich vermisst habe.
- 5:18SPEAKER_01: Mich nervt ja mein jetziger MacBook-Display schon, wenn da irgendwelche Tropfer oder Toucher drauf sind, und jetzt vorstellen, dass ich da mit meinen Händen hingehe.
- 5:26SPEAKER_01: Möchte ich nicht.
- 5:28SPEAKER_00: Ja, und alle, die am externen Display arbeiten, da ist schon irgendwie kein Use Case mehr.
- 5:32SPEAKER_00: Das heißt, du musst irgendwie das Ding vor dir stehen haben.
- 5:34SPEAKER_00: Im normalen Arbeitssetup ist es irgendwie weiter weg.
- 5:37SPEAKER_00: Och ja.
- 5:39SPEAKER_00: Es gibt diese lustigen Videos auf Social Media, wo Steve Jobs in der Keynote in zwei, drei Minuten darlegt, warum ein Touch-Screen für ein MacBook völliger Schwachsinn ist.
- 5:50SPEAKER_02: Wo er in der Audience steht und dann so eine Audience-Frage.
- 5:53SPEAKER_00: Nee, nicht Audience, das war in der Präsentation.
- 5:54SPEAKER_00: Warum sie sich, weil dann war halt damals irgendwie Windows, hat irgendwie viele Touchbildschirme gemacht und sowas.
- 5:58SPEAKER_00: Und das war so ein Hate.
- 6:00SPEAKER_00: Nee, nee, nee.
- 6:00SPEAKER_01: Und das ist ein wiesoes iPad existiert und warum es nicht zu Mac kommen sollte und wie du es halt in der Hand hältst und wo es steht, wie du es benutzt.
- 6:09SPEAKER_00: Also alle Gründe, warum man es vielleicht nicht machen sollte.
- 6:13SPEAKER_02: Aber hat denn das neue 14 Zoll MacBook auch einen leuchtenden Apfel?
- 6:17SPEAKER_00: Nein.
- 6:20SPEAKER_00: Also das ProLed XLR, irgendwas MacBook Pro in 14 Zoll, das gibt es auch in 14 Zoll.
- 6:27SPEAKER_00: Das hat natürlich ein Leuchttampf.
- 6:28SPEAKER_01: Aber kann ich auswählen zwischen ich möchte Touchscreen und möchte kein Touchscreen oder ist alles Touchscreen und teurer?
- 6:35SPEAKER_00: Nee, du kannst noch, es gibt noch die MacBook Pro und das ist ja neu vorgestellt worden.
- 6:39SPEAKER_00: Das 14 Zoll MacBook Pro ist auch ein neu vorgestelltes, ohne Touchscreen und ohne Leuchtendapfel.
- 6:44SPEAKER_02: Genau, aber du kannst nicht mit Leuchtendenapfel ohne Touchscreen.
- 6:48SPEAKER_01: Ja.
- 6:49SPEAKER_01: Und kann ich das ohne Touchscreen ins 16 Zoll bekommen?
- 6:56SPEAKER_00: Es ist hier einfach so als Auswahl drauf, was mich wundert, ist aber, dass bei dem Neulabel irgendwie das ein 14-Zoll ist.
- 7:03SPEAKER_00: Also es gibt zum Beispiel, es gibt ja 16 Zoll nicht mit M6, sondern nur mit dem M5 Frodo oder M5 Max.
- 7:09SPEAKER_00: Was sind das für eine Dinge?
- 7:11SPEAKER_01: Aber ja, Pricing hast du noch nicht genannt.
- 7:13SPEAKER_01: Ich glaube, ich meine, für mich ist es unattraktiv, alleine, weil es ja jetzt extrem viel teurer noch geworden ist.
- 7:21SPEAKER_00: Ach komm, stell dich nicht so an.
- 7:22SPEAKER_00: Die Basisvariante des 16 Zoll MacBooks fängt bei 3900 Euro an.
- 7:28SPEAKER_00: Und wenn man dann noch zusätzlich den M5 Max-Chip haben möchte, was ja natürlich Sinn macht und eine gewisse GPU und RAM auf 128 GB updatet, ist man bei 8500 Euro.
- 7:44SPEAKER_01: Aber das ist doch, also man kann wirklich sagen, Preis verdoppelt, maxed out MacBook Pro als vor drei, vier Jahren, oder?
- 7:52SPEAKER_01: Weil wenn ich zurückdenke, waren die komplett maxed out zwischen 3 und 4 und das normale bei 2 ungefähr.
- 7:59SPEAKER_00: Und du hast ja auch noch diese lustige Option, die SSD zu updaten.
- 8:02SPEAKER_00: Also die geht bis 16TB.
- 8:04SPEAKER_00: Dann wären wir bei 16.200 Euro.
- 8:10SPEAKER_02: 16TB auf dem Rechner ist.
- 8:12SPEAKER_01: Ich meine, Sam Altman hat ja eh gesagt, dass wir RAM besser gemeinsam nutzen sollten und nicht auf unserer lokalen Hardware, dann machen wir das doch am besten.
- 8:20SPEAKER_00: Ich finde, die Aufregung darüber war nicht ganz gerechtfertigt.
- 8:23SPEAKER_00: Muss ich ganz ehrlich sagen.
- 8:24SPEAKER_00: Ich habe es nicht mitbekommen.
- 8:25SPEAKER_00: Ja, Sam Altman hat halt in irgendeinem Interview gesagt, so von wegen RAM-Preise und alles so teuer und das ist ein Problem und sowas.
- 8:30SPEAKER_00: Dann hat er halt irgendwie in einem Satz gesagt, naja, eigentlich wäre es irgendwie besser, wenn das nicht individuelle Leute den RAM verbrauchen würden, sondern wir das in den Rechenzentren hätten zur Verfügung stehen würden.
- 8:38SPEAKER_00: Das wurde ihm natürlich so ausgegeben.
- 8:40SPEAKER_01: Ja, aber man muss dazu sagen, es ist auch in Bezug auf Local AI.
- 8:42SPEAKER_01: Also das war alles im Kontext of Local AI macht keinen Sinn, weil du deinen Computer halt nicht immer nutzt und das halt keine I.
- 8:49SPEAKER_01: Und ich meine, ich will ja auch nicht alle Strom haben.
- 8:52SPEAKER_01: Es würde viel mehr Sinn machen, wenn das ein paar wenige haben, weil du nutzt ja daheim deine Spülmaschine nicht immer.
- 8:57SPEAKER_00: Ja.
- 9:01SPEAKER_00: Finde ich nicht so fair den Vergleich.
- 9:06SPEAKER_01: Oder ein Herd, lass doch einfach alle irgendwo in Essen gehen, das ist viel effizienter.
- 9:12SPEAKER_00: Ja, ich meine, Philipp ist vielleicht gar nicht so vergessen.
- 9:15SPEAKER_00: Also ich meine, weiß nicht, die Produktions, ah, wenn man alles reinreichnet Produktionsgang oder so weiter.
- 9:20SPEAKER_01: Besitz brauchen wir ja auch nicht, man kann ja alles geteilt haben.
- 9:22SPEAKER_00: Ich meine, da wird es ja hoffentlich hinauslaufen, wenn in der Zukunft keiner mehr einen Job hat, dann werden wir hoffentlich mehr geteilt haben.
- 9:33SPEAKER_00: Nicht nur Geld, sondern auch andere Guts.
- 9:35SPEAKER_00: Geld, also ich weiß nicht, ob er Geld teilen möchte, er hat nur nach dem RAM gefragt.
- 9:41SPEAKER_02: Ja, er jetzt.
- 9:43SPEAKER_02: Er möchte ihn ja haben und dann was abgeben davon werden.
- 9:45SPEAKER_02: Für eine bessere Welt, das steht doch überall auf der Liste.
- 9:47SPEAKER_00: Aber gegen einen Preis.
- 9:49SPEAKER_00: Oder?
- 9:50SPEAKER_00: Ja.
- 9:50SPEAKER_00: Ja, für den Moment.
- 9:51SPEAKER_00: Es geht ja nicht anders, noch ist es sehr kapitalistisch.
- 9:53SPEAKER_01: Aber glaubt ihr, das ändert sich bis vor 2030 oder haben wir jetzt wirklich noch drei, vier, fünf Jahre, wo man sich wirklich überlegt, brauche ich jetzt einen neuen Computer oder nutze ich einfach, was ich habe und beiße einen sauren Apel und hab nicht das Neueste, größte, beste?
- 10:10SPEAKER_00: Ja, ich glaube letzteres, man muss ja auch dazu sagen, dass die Iteration ja auch irgendwo ein bisschen ist ja wie beim iPhone.
- 10:17SPEAKER_00: Ich meine, früher hat man wirklich einen großen Mehrwert gehabt, wenn man sich ein neues iPhone gekauft hat.
- 10:22SPEAKER_00: Mittlerweile musst du sagen, ja, also die jährliche Iteration, die hilft ja jetzt nicht so wahnsinnig.
- 10:27SPEAKER_00: Und insofern ist es natürlich schon, dass das dann auch länger hält.
- 10:30SPEAKER_00: Ich meine, mein MacBook ist von 21.
- 10:32SPEAKER_00: Das sind jetzt fünf Jahre.
- 10:35SPEAKER_00: Das ist schon, und ich habe jetzt trotzdem nicht das Problem im Alltag, dass ich denke, oh, mir fehlt irgendwie die Power, um meine Sachen zu machen.
- 10:42SPEAKER_00: Aber auch weil ich keine lokalen Modelle teste.
- 10:46SPEAKER_00: Und kein Blender.
- 10:50SPEAKER_00: Gut.
- 10:53SPEAKER_00: Dann frühstücken wir mal schnell Gemini Carbon ab.
- 10:58SPEAKER_01: Genau.
- 11:00SPEAKER_01: Nachfolger zu Argon, selbes Procedere, erst Pre-Announce aktuell bei Trusted Tester, Partner, Security.
- 11:09SPEAKER_01: Es ist nochmal um einiges besser in Coding und Agentic Use Cases.
- 11:14SPEAKER_01: Es gibt auch mittlerweile Evals von Third-Party-Providers und extern, also nicht nur Evals, die wir veröffentlichen.
- 11:21SPEAKER_01: Ich bin super excited, wenn es hoffentlich bald released wird.
- 11:25SPEAKER_01: Ich produziere schon ganz viel natürlich.
- 11:28SPEAKER_01: Und gleiches Pricing wie Argon, das heißt, es kann einfach mehr oder weniger ein Replacement sein.
- 11:37SPEAKER_00: Und was wird dann so wieder, es ist ja immer nicht so ganz einfach gerade aktuell in Google Space, was ist dann der beste Zugang, wenn es hier verfügbar ist?
- 11:50SPEAKER_01: Also auf jeden Fall die API wird es verfügbar sein und in Antigravity.
- 11:55SPEAKER_01: Welche Pläne, wie genau, weiß ich leider nicht.
- 11:59SPEAKER_00: Und du nutzt es in Antigravity oder nutzt du gut.
- 12:06SPEAKER_00: Oder bald in.
- 12:08SPEAKER_00: Wie heißt dein Projekt?
- 12:09SPEAKER_00: Stellwerk.
- 12:10SPEAKER_00: Stellwerk.
- 12:13SPEAKER_00: Oh, eine IDI.
- 12:14SPEAKER_02: Ah, nicht IDE, es ist Conductor Nachbau, um eigene Features einzubauen.
- 12:21SPEAKER_01: Okay, cool.
- 12:23SPEAKER_02: Ja, mal gucken.
- 12:24SPEAKER_02: Wie cool.
- 12:25SPEAKER_02: Also es ist ein bisschen so wie bei Dennis die Frage, hast du dann am Ende mehr Aufwand, einfach das zu pflegen?
- 12:32SPEAKER_02: Oder vielleicht ist es machbar.
- 12:34SPEAKER_01: Für die Zuhörer, ich bin wieder in Riverside, also die selbstgebaute SAS-Recording-Software ist aktuell nicht mehr immer in der Nutzung.
- 12:43SPEAKER_00: Nachdem wir im Modellauswahl auf Gemini geswitcht sind.
- 12:47SPEAKER_00: Das stimmt?
- 12:50SPEAKER_00: Naja, also was stimmt, ist als letztes hat Gemini daran gearbeitet.
- 12:55SPEAKER_00: Führt es dazu, dass wir heute Riverside nutzen?
- 12:57SPEAKER_00: Nein.
- 12:58SPEAKER_00: Daran ist Gemini nicht schuld.
- 13:00SPEAKER_02: Aber führt es auch dazu, dass deine Direct-Software nicht automatisch irgendwie funktioniert hat.
- 13:05SPEAKER_02: Auch.
- 13:05SPEAKER_02: Aber das wäre mit jedem anderen Model auch so gewesen.
- 13:07SPEAKER_00: Ja, nein, nein, nein.
- 13:08SPEAKER_00: Es ist einfach nur ein Prioritätsding.
- 13:09SPEAKER_00: Ich habe nicht die Zeit.
- 13:11SPEAKER_00: Es braucht nicht viel, um das gut nutzbar zu machen.
- 13:14SPEAKER_00: Genau.
- 13:15SPEAKER_00: Aber gerade fehlen noch so ein paar Feinheiten.
- 13:17SPEAKER_00: Und da ich dann nicht derjenige bin, der sich dann nach mit den Aufnahmen rumschlagen muss, weil dann hätte ich auch mehr den Druck und den Need, sind wir heute nochmal auf Röverside.
- 13:26SPEAKER_00: Falls ihr heute Gerald Spur wieder nicht hört, dann fixen wir es bis zur nächsten Woche.
- 13:30SPEAKER_00: Ich bin oft der Leistragende gewesen, irgendwie.
- 13:34SPEAKER_00: Okay.
- 13:37SPEAKER_00: Sprechen wir über Sicherheit.
- 13:40SPEAKER_02: HTTP2 Shell.
- 13:42SPEAKER_02: Gerne.
- 13:42SPEAKER_02: Im Prinzip möchte ich das Thema nutzen, um eine kleine Fragerunde zu starten, weil das auch gut ankam.
- 13:48SPEAKER_02: Aber ganz kurz, um alle Leute abzuholen, was das ist, HTTP-Shell, das ist auch ein Zungenbrecher.
- 13:53SPEAKER_02: HTTP2 Shell ist, wenn wir im Pokémon-Jogger sind, die Weiterentwicklung von Node to Shell.
- 14:00SPEAKER_02: Und zwar ist das eine Sicherheitslücke, die von dem OpenAI Security Research Team gemeldet wurde.
- 14:07SPEAKER_02: Und da ging es darum, dass sie eine Lücke gefunden haben, wie man in Node im Shell-Zugriff bekommen kann.
- 14:13SPEAKER_02: Und in der weiteren Analyse dieses Problems hat sich dann herausgestellt, okay, das betrifft nicht nur Node, sondern ist sehr viel umfassender, weil die Library Brokkoli oder wie auch immer die Broli.
- 14:26SPEAKER_02: Brodli.
- 14:27SPEAKER_02: Alter, ich hab die hätte Brokkoli gelesen.
- 14:29SPEAKER_02: Ich dachte, okay, Brodli, danke.
- 14:32SPEAKER_02: Die von, das ist ein Compression-Tool von Google, das hatte eben ein Memory Out of Bound-Problem, also ein sehr klassisches Sicherheitsproblem.
- 14:43SPEAKER_02: Und das ist eben sehr verbreitet in sehr viele in sehr vielen Softwareinfunden.
- 14:49SPEAKER_02: Und es ist aber ein Tool, was man über in HTTP nutzt, also als Kompressionstool.
- 14:55SPEAKER_02: Und das heißt, alle Server-Tools, die eben Brotly benutzen in HTTP, haben diese Sicherheitslücke.
- 15:03SPEAKER_02: Und das Verrückte ist eben, du kannst damit den Server kompromentieren und dann jeden Client, der auf diesen Server zugreift, kannst du auch wieder kompromentieren.
- 15:11SPEAKER_02: Also wirklich auch ein Riesending.
- 15:13SPEAKER_02: Aber ich müsste eigentlich viel mehr so die Frage stellen, es ist ja so, wie du auch schon gesagt hast, Philipp, man merkt jetzt so, okay, es kommen ganz, ganz viele Sicherheitslücken raus und hier und da immer wieder Riesenmeldungen für Riesensicherheitslücken.
- 15:26SPEAKER_02: Und ich frage mich so ein bisschen, wie denkt ihr, geht das weiter?
- 15:31SPEAKER_02: Ist das gerade eine Phase, wo einfach die Modelle so gut werden, dass sie es schaffen, so viele Sicherheitslücken, die vielleicht auch schon lange bestehen, aufzudecken und wir fixen die jetzt alle und dann ist irgendwann Ruhe und dann sind wir alle happy, weil das ganze Internet sicherer und besser ist?
- 15:45SPEAKER_02: Oder wird das jetzt einfach weitergehen und wir werden die ganze Zeit irgendwie in einer Welt leben, wo ja, wir, wie Philipp schon sagte, so das Gefühl haben, oh, besser gar keine Computer mehr nutzen, weil es ist ja eh überall ein Bug drin.
- 15:56SPEAKER_02: Also ich bin mir nicht sicher, was denkt ihr wieder, wie es da weitergeht?
- 16:02SPEAKER_02: Ich lasse Philipp Matterst.
- 16:04SPEAKER_01: Ja, aber vielleicht nochmal ganz kurz zu Brootly.
- 16:06SPEAKER_01: Das ist, ich glaube, der gängige Standard für jede Web-Applikation, die irgendwie existiert.
- 16:11SPEAKER_01: Das heißt, wenn du eine Anfrage schickst, sendet der Server dir ja HTML, JavaScript und CSS und du nutzt Brootly, um das auf dem Server zu komprimieren, dass du weniger Daten schickst und der Client kann es dann wieder dekomprimieren.
- 16:22SPEAKER_01: Das heißt, du hast weniger Netzwerkrandweite.
- 16:25SPEAKER_01: Und deswegen hast du halt dieses Problem, dass du, wenn du den Server hast, kannst du halt auch dem Client was anderes schicken, sage ich mal mehr oder weniger.
- 16:31SPEAKER_01: Und ich weiß es nicht.
- 16:33SPEAKER_01: Also ich bin auf jeden Fall selber am Überlegen und am Suchen, okay, was kann ich machen, dass ich wirklich mitbekomme, wenn meine Side-Projects, meine Server, meine Webseiten irgendwie davon betroffen sind, weil aktuell für mich die beste Quelle ist irgendwie noch Twitter, da siehst du dann halt irgendwelche Posts, die wieder viral gehen, weil irgendwas, neun Punkt, irgendwas oder halt Leute darüber schreiben oder YouTube-Videos, die gemacht werden.
- 16:55SPEAKER_01: Aber dass ich jetzt irgendwie einen Service hätte, der mir E-Mails schreibt oder der mich automatisch benachrichtigt, habe ich auch noch nicht gefunden.
- 17:02SPEAKER_01: Ich habe viel von meinem Zeug auf Versal und Cloudflare und den vertraue ich eigentlich, dass die oder die sind eben auch sehr schnell, dass sie irgendwelche Protections für dich schalten.
- 17:12SPEAKER_01: Also wenn halt irgendwie für PPH war, das glaube ich auch, dass sie halt, sehen, wenn halt irgendwelche Netzwerkt-Traffic darüber geht, dass sie den einfach direkt blockieren.
- 17:19SPEAKER_01: Das heißt, dass du, dass sie für dich erstmal was machen.
- 17:22SPEAKER_01: Und dann glaube ich, also ich meine, ich habe die Anfangszeiten vom Internet nicht so ganz mitbekommen, aber ich weiß, Anfangszeiten JavaScript mit Cross-Site-Scripting oder SQL-Injections, das war so der gängige Standard, der überall irgendwie da war und am Anfang überall einfach findbar ist.
- 17:39SPEAKER_01: Und den haben wir auch, sag ich mal, mittlerweile in den Griff bekommen.
- 17:42SPEAKER_01: Und vielleicht würde es so ähnlich sein.
- 17:43SPEAKER_01: Ich glaube, das Problem ist nur, dass es viel, viel schneller geht.
- 17:46SPEAKER_01: Also wir werden in den nächsten Wochen, Monaten und Jahren wahrscheinlich extrem viele dieser Sicherheitslücken erstmal haben und extrem viel Arbeit, dass wir die halt beheben in unseren Servern und Software.
- 17:59SPEAKER_01: Und ich bin mir sicher, dass es ganz viele Server und Software geben wird, die halt einfach irgendwie vor sich hin vegetieren und die die Dinge niemals fixen werden.
- 18:08SPEAKER_01: Und dann hast du halt immer diese Server, die du infiltrieren kannst.
- 18:12SPEAKER_01: Aber halt das Wichtige ist halt irgendwie, dass wir einen Weg finden, uns selber abzudaten und halt dann schnell zu iterieren oder halt auch irgendwelche Prozesse und Modelle nutzen, um wirklich da mal reinzuschauen.
- 18:22SPEAKER_01: Also ich weiß nicht, ob ihr es schon getestet habt, dass ihr einfach Claude oder andere Modelle nehmt oder in irgendwelchen Programmen sind zu sagen, hey, finde Sicherheitslücken in wie auch immer, weil bei PHP war es ja mehr oder weniger wirklich so, hey, find mal eine Sicherheitslücke in PHP und dann lassen wir es für zwei Tage laufen und dann kann man zurück mit dem, was er gefunden hat.
- 18:40SPEAKER_01: Vielleicht sind es solche Dinge, die wir jetzt auch bald mehr machen müssen.
- 18:44SPEAKER_00: Ja, ich finde auch spannend, bei OpenI gibt es in Codex das Cloud Security Plugin, so heißt es, glaube ich, wo man auch so ein Sicherheitsscan machen kann für seine Repositories.
- 19:00SPEAKER_00: Und da es eben so, dadurch, dass es über die Umgebung von OpenAI läuft, hat man auch Zugriff auf die Daybreak-Modelle.
- 19:08SPEAKER_00: Das heißt, weil sonst, wenn man es einfach so prompt hat, kriegt man ja durchaus schon mal die Absage, dass das Modell das nicht machen möchte.
- 19:17SPEAKER_00: Und darüber beispielsweise lassen sich eben auch die Daybreak-Modelle, die ein bisschen sophisticat, so noch ein bisschen besser sind in den Security-Sachen.
- 19:26SPEAKER_00: Ich weiß nicht, ich glaube, ja, also klar, es würde es nochmal mehr geben und ich glaube, es wird auch recht lange dauern, bis wir irgendwie so alle alte Software irgendwie ersetzt haben mit neuer Software.
- 19:34SPEAKER_00: Das würde irgendwie ein sehr langer Prozess sein.
- 19:36SPEAKER_00: Es wird halt auch einige geben, wo das ja einfach jetzt sehr viel Aufwende und sehr viele Kapazitäten bindet.
- 19:41SPEAKER_00: Ich glaube, langfristig wird sich das schon irgendwie wieder angleichen, weil es ist ja nicht nur die böse Seite, die sich auflevelt, sondern die gute Seite ist ja genauso in der Geschwindigkeit.
- 19:53SPEAKER_00: Das heißt, wenn du heute mit Latest AI-Modellen was baust und sagst, hey, achte mal auf maximal auf Security, wirst du wahrscheinlich was relativ Sicheres schon irgendwie hinstellen können.
- 20:05SPEAKER_00: Und ich denke, dass sich das einigermaßen in Waage hält.
- 20:08SPEAKER_00: Am Ende ist ja auch das, wo die großen Labs irgendwie gesagt haben, hey, lass uns mal mit den großen Herstellern irgendwie zusammenzuarbeiten, das Internet erstmal grundsätzlich ein bisschen sicher zu machen, bevor wir mit den AI-Modellen die drauf schicken und dann alles zerstören lassen.
- 20:22SPEAKER_00: Ich weiß jetzt gar nicht genau, worin man das jetzt alles einordnet, also ob das einfach nur so Befunde sind, weil halt parallel möglichst, ja, man kann halt nicht alles scannen und alles fixen mit einem Mal.
- 20:34SPEAKER_00: Aber ich glaube, es wird sich irgendwo wieder einpendeln und dass es nicht so im Vordergrund steht, dass die ganze Zeit eine Sinn ist.
- 20:39SPEAKER_01: Ich bin auf jeden Fall gespannt, ob wir einen weiteren Hype von Rust sehen werden.
- 20:44SPEAKER_01: Ich meine, ganz viel von dieser Software, die wir aktuell nutzen, ist ja in C und C ⁇ geschrieben.
- 20:50SPEAKER_01: Und alles, was Remote Code-Execution eigentlich ja ganz oft ist, ist einfach irgendwelche Overflow und Memory Overrides und sonst was.
- 20:57SPEAKER_01: Und ich meine, Rust wurde ja damals dafür entwickelt, dass du das nicht hast.
- 21:02SPEAKER_01: Und ich bin auf jeden Fall gespannt, ob wir dann halt, ich meine, es gibt ja aktuell schon einen Riesentrend, dass wir alles in Rust gefühlt schreiben, ob halt dieser Trend fortsetzt und dass wir halt wirklich dann alles, alles in Rust haben.
- 21:12SPEAKER_01: Oder ob es Alternativen dann auch dazu gibt.
- 21:15SPEAKER_01: Weil ich meine, mit AI kannst du ja super easy wirklich, oder easy in Anführungszeichen, keine Ahnung, Protly in Rust umschreiben und dann einfach das ersetzen und Rust kannst du ja auch mittlerweile überall einfach embetten.
- 21:28SPEAKER_01: Und das andere, was ich, was man glaubt immer vergisst bei so CVEs und Security-Lücken, dass es normalerweise koordinierte Kommunikation.
- 21:36SPEAKER_01: Das heißt, wenn Forscher, Researcher sowas finden, dann gehen die nicht auf Twitter und posten das, sondern da existiert normalerweise koordinierte Kommunikation.
- 21:47SPEAKER_01: Die gehen zu den Languages, zu den Partnern, zu den Library-Providern, wie auch immer, und versuchen halt das möglichst schnell zu fixen before sie darüber reden.
- 21:56SPEAKER_01: Das heißt, wir haben wahrscheinlich aktuell ganz viele dieser Sicherheitsleitungen.
- 22:00SPEAKER_01: Die eventuell bösartig genutzt werden und wir das gar nicht wissen.
- 22:03SPEAKER_01: Das heißt, nur weil wir jetzt mehr diese CVI sehen, heißt es nicht unbedingt, dass es mehr gibt, was Angreifer nutzen können.
- 22:10SPEAKER_01: Klar, wenn es irgendwie bekannt ist, kann ich mein Modell sagen, hey, here ist das, versuch mal das zu wiederherzustellen.
- 22:16SPEAKER_01: Ist klar ein Risiko, aber es ist nicht unbedingt was Schlimmes, weil es kann ja sein, dass aktuell schon böswillige Angreifer dieses HTTP2 Shell oder No2 Shell oder so etwas genutzt haben, bevor es überhaupt veröffentlicht wurde.
- 22:29SPEAKER_02: Ja, absolut.
- 22:30SPEAKER_02: Ich meine, es ist ja, es ist ja schon, also für mich war es eher beruhigend, dass der CVE von OpenAI gefunden wurde, so weil sie halt aktiv danach suchen und es gibt mir erstmal ein gutes Gefühl, dass es besser wird.
- 22:45SPEAKER_02: Und am Ende ist es ja auch oft, es geht ja ums Tooling.
- 22:48SPEAKER_02: Also ich sag mal, ob ich jetzt in meine eigene Software eine Sicherheitslücke einbaue, hat ja, sag ich mal, einen kleinereren Impact.
- 22:56SPEAKER_02: Aber wenn das Tooling eine Sicherheitslücke hat, ist es halt überall betroffen und das heißt, wenn wir dadurch stabileres Tooling bekommen, auch langfristig, dann ja, glaube ich, kann ich mir schon auch vorstellen, dass das damit dann irgendwann besser wird.
- 23:10SPEAKER_01: Auf jeden Fall trotzdem mehr Zeit dafür einplanen.
- 23:13SPEAKER_01: Ich glaube, das, was man vorher mit MPM-Package-Updates gemacht hat, verschiebt sich jetzt ein bisschen mit Monitoring, Alerting, Aufsätzen, wirklich schauen, dass man seine Server updatet.
- 23:23SPEAKER_01: Ich glaube, es gibt auch eine weitere in irgendeinem Linux-Kernel, den alle Linux-Server angreifbar hat, den der Shopify-C allessons gepostet hat.
- 23:32SPEAKER_01: Deswegen, wenn man bisher noch nichts gemacht hat, definitiv, damit man sich auseinandersetzen.
- 23:46SPEAKER_00: Ja, ich überlege gerade, ob es ein, aber es ist kein flüssiger Übergang, aber ich würde trotzdem kurz das Thema dazwischen schieben noch.
- 23:55SPEAKER_00: Mit einer neuen Richtlinie, die Enthropic rausgebracht hat.
- 24:02SPEAKER_00: Ja, ich habe überlegt, ob es ähnlich ist, aber es ist so ein bisschen, also ein bisschen dieses Jahr auf Modelle oder auf gewisse Funktionalitäten der Modelle, das hat mich irgendwie, das hat mich daran erinnert, dass das vielleicht ähnlich ist.
- 24:12SPEAKER_00: Also was ist grundsätzlich passiert?
- 24:13SPEAKER_00: Ganz spannend eigentlich, weil das gerade natürlich bei uns bei Lotum als Gaming-Company durchaus in den letzten Wochen auch Aufmerksamkeit auf sich gezogen hat.
- 24:22SPEAKER_00: Es gab einen Dude, weißt du den Namen von dem Instagram-Typen, TikTok-Typen.
- 24:28SPEAKER_00: Der Blockbuster.
- 24:30SPEAKER_00: Also es gab einen, der auf Social Media Spiele-Reverse engineert hat.
- 24:36SPEAKER_00: Und wir hatten ja auch hier im Podcast schon, dass dieses GitHub-Repo, was so ein paar Skills dafür bereitstellt, um das noch einfacher zu machen.
- 24:43SPEAKER_00: Und das Ganze ist halt relativ viral gegangen, so dann über die Zeit und auch gerade das im Spielekontext irgendwie zu tun.
- 24:50SPEAKER_00: Und ja, das natürlich dann für uns auch interessant, darüber nachzudenken, was bedeutet das, ne?
- 24:55SPEAKER_00: Was bedeutet das für die eigenen Spiele, was bedeutet es für andere Spiele, wenn man dann noch viel mehr in die Mechaniken gucken, kann da was passiert.
- 25:02SPEAKER_00: Und interessanterweise hat Anthropic dann in einem Update bekannt gegeben, und das haben irgendwie auch schon draußen dann Leute irgendwie so gemerkt, von irgendwie, hey, Claude ziert sich irgendwie solche Aufgaben zu machen, dass sie tatsächlich da Maßnahmen ergriffen haben, dass, und ich glaube, es war explizit auf Gaming jetzt erstmal bezogen, dass das Reverse Engineering von Gaming nicht mehr so supported ist in Claude und dem gewisse Grenzen gesetzt werden.
- 25:32SPEAKER_02: Aber weißt du, weißt du konkreter, was sie da verbieten, weil ich hatte das jetzt so verstanden, dass du halt nicht mehr so sagen kannst, ja, klone mal dieses Spiel.
- 25:40SPEAKER_02: Aber ist es auch.
- 25:41SPEAKER_01: Hast du irgendeinen Block, bei was ich gesehen habe, ist, dass sie bei Claude so ein Prompt-Hint mit hinzugefügt haben.
- 25:48SPEAKER_01: Das heißt, wenn du Cloud Code nutzt und es irgendwie sagst, haben die einen Classifier drin und der sagt, machen wir nicht.
- 25:55SPEAKER_01: Oder ist es wirklich in Terms of Service Update, dass du Cloud und Cloud-Modelle, Cloud API nicht mehr dafür nutzen kannst?
- 26:08SPEAKER_00: Ich habe irgendwo, ich meine, sie haben sich auch mittlerweile offiziell irgendwo dazu gemeldet, oder?
- 26:16SPEAKER_00: Nicht nur, dass es irgendwie das.
- 26:18SPEAKER_00: Warte mal, ich muss mal kurz in unseren Slack gucken.
- 26:22SPEAKER_00: Wie überbrückt ihr die Zeit, wie ich das gucke?
- 26:24SPEAKER_00: Gareth putzt sich beispielsweise die Nase.
- 26:27SPEAKER_00: Das ist eine Option.
- 26:29SPEAKER_00: Man könnte sich auch muten.
- 26:31SPEAKER_01: Ich kann ganz kurz zu.
- 26:33SPEAKER_01: Muten können wir es nicht so einfach.
- 26:34SPEAKER_01: Okay.
- 26:35SPEAKER_01: Ich kann ganz kurz zu OpenAI noch was erzählen.
- 26:39SPEAKER_01: Und zwar, Sie haben gestern einen Blogpost veröffentlicht, der nennt sich Scaling Git at OpenAI.
- 26:44SPEAKER_01: Und ich weiß nicht, hatten wir es letzte Woche, die Woche davor.
- 26:47SPEAKER_01: Anthropic hat ja Scion vorgestellt, ihr neues Code-Versions-Verwaltungstool.
- 26:53SPEAKER_01: Und jetzt ist OpenAI sozusagen am Zug.
- 26:56SPEAKER_01: Das Ganze nennt sich Pando.
- 26:58SPEAKER_01: Pando ist ein in Rust geschriebenes Git-kompatibler Server für deren Monorepository, also OpenAI auch Monorepository.
- 27:08SPEAKER_01: Der einzige Unterschied, würde ich mal sagen, zu Sion oder zu was wir bei Google zum Beispiel haben, ist, dass es Standard-Git-Clients nutzt.
- 27:16SPEAKER_01: Das heißt, Agents und Humans können weiterhin Git Push, Git Fetch und normale Git-Flows ausführen.
- 27:22SPEAKER_01: Und sie haben einfach nur sozusagen einen kompatiblen Server dazu geschrieben.
- 27:27SPEAKER_01: Das Ganze wurde gemacht auch, weil sie halt einen extremen Anstieg gesehen haben.
- 27:31SPEAKER_01: Sie schreiben in Ihrem Blogpost, dass zwischen Q1 2024 und Q3 2026 ein über 1370%iges Wachstum an Code-Commits gelandet ist und das soll noch weiter wachsen zum Ende vom Jahr bis zu 2400.
- 27:49SPEAKER_01: Und der Pando-Git-Server surft jetzt täglich ein Petabyte auf Git-Daten mit 57TB pro Stunde und über 99% von Cash.
- 28:02SPEAKER_01: Und der große Unterschied halt zu Anthropic ist, dass sie Anthropic Git komplett weggeworfen hat und dieses neue VCS außen rum gebaut hat mit einem eigenen Code-Review-Tool und OpenAI bleibt Git kompatibel.
- 28:16SPEAKER_01: Einfach für Agents Humans, dass es einfacher ist und es auch auf die ganze Organisation ausgerollt, einfacher zu lernen und anzufassen.
- 28:27SPEAKER_01: Genau, sie haben nicht dazu geschrieben, ob sie es irgendwie veröffentlichen.
- 28:31SPEAKER_01: Sie schreiben zwar, dass sie zu Git, also Git es ja Open Source, Upstream Pull-Requests machen und Code auch committen, aber es ist unklar, ob es jetzt dieses Pando-Konzept oder was sie da gebaut haben, ist oder nicht.
- 28:46SPEAKER_01: Und es soll irgendwie 80% schnellere Git Pushes ermöglichen.
- 28:52SPEAKER_01: Und genau, ist halt gebaut, damit sie oder damit OpenAI mit dem Coding-Volumen weiterhin pushen kann.
- 29:01SPEAKER_01: Das ist fünfmal schneller, als was existierte.
- 29:07SPEAKER_02: Ich habe übrigens mal einen Tier ausprobiert.
- 29:11SPEAKER_02: Du auch?
- 29:13SPEAKER_02: Es ist echt ganz cool.
- 29:14SPEAKER_02: Also, das ist auch einer der Gründe, warum wir so eine, äh, diese, es ist ja keine IDI, wie nennt man das denn?
- 29:19SPEAKER_02: Agent Harness vielleicht, Agent UI, bauen, um diese Sessions da besser verfügbar zu machen.
- 29:25SPEAKER_02: Also dass du nicht eben auf die Website gehen musst, sondern die da drin hast und dann auch, sag ich mal, eine Session dir direkt holen kannst und daran weiterarbeiten kannst.
- 29:34SPEAKER_02: Also erstmal cool, was es für Funktionalität bietet, Entire.
- 29:38SPEAKER_02: Ich habe jetzt noch nicht so viel damit gearbeitet, diese Trails zu machen.
- 29:42SPEAKER_02: Aber allein die Sessions zu speichern, ist cool.
- 29:46SPEAKER_01: Dann denke ich mal, man braucht eine Deep Dive-Folge mit Carol, zu was auch immer ihr da gerade baut.
- 29:53SPEAKER_01: Könnte auf jeden Fall interessant sein.
- 29:55SPEAKER_02: Okay, cool.
- 29:56SPEAKER_02: Also cool, dass du spannend findest.
- 29:58SPEAKER_02: Ich guck mal, ich habe noch nicht das Gefühl, dass wir irgendwie an einem Stand sind, wo es sinnvoll ist, das zu zeigen, aber vielleicht demnächst.
- 30:05SPEAKER_02: Fabi arbeitet übrigens auch mit daran.
- 30:08SPEAKER_02: Fabi programmiert?
- 30:11SPEAKER_02: Ja, der war aber Entwickler.
- 30:14SPEAKER_01: Spannend.
- 30:15SPEAKER_01: Spannend.
- 30:16SPEAKER_01: Ja, und dann vielleicht noch ganz kurz zu Anthropic Message Threads, bis Dennis rausgefunden hat, ob das in Terms of Services ist.
- 30:22SPEAKER_00: Kann ich sagen, also es war, genau, es war kein, also ich war doch noch keine offizielle Dokumentation, die das hat, aber es gibt eben eine explizite Rule, die runtergeladen wurde oder die ein Update ist in dem Modell, wo explizit eben zwei Sätze dazu stehen.
- 30:38SPEAKER_00: Don't build a recreation of a specific existing game, even if it's renamed or called original, was aber halt dazu abhält, das zu tun einfach.
- 30:47SPEAKER_00: Also es ist halt so, wenn du jetzt irgendwie sagst, hey, nutzer und mach das, dann sagt er halt nein.
- 30:52SPEAKER_01: Aber nur Cloud Code.
- 30:53SPEAKER_01: Das heißt, wenn man Pi Open Code irgendwas anderes nutzt, dann existiert das nicht.
- 31:00SPEAKER_01: Ja, interessant.
- 31:01SPEAKER_00: Ja, und du kannst natürlich auch einfach heute auch noch jedes andere Modell und jeden anderen Anbieter machen.
- 31:07SPEAKER_00: Das ist halt immer nur so ein bisschen die Frage.
- 31:08SPEAKER_00: Ich meine, ich sehe schon, dass die da auch immer in so einer gewissen Bredouille sind, die Anbieter.
- 31:13SPEAKER_00: Ich meine, wenn du jetzt irgendwie das für moralisch richtig hältst, irgendwie das zu machen, das machen aber nicht alle gleichzeitig, dann kommt halt der nächste Nutzer halt Open AI für die Modelle.
- 31:22SPEAKER_00: Aber entwickelt das schon.
- 31:23SPEAKER_01: Ich habe mal ganz kurz auch gegoogelt und AI Overview hat mir gesagt, dass normalerweise das in den Terms of Services von den ganzen Games-Providern schon verboten ist.
- 31:33SPEAKER_01: Also an sich bräuchtest du kein neues Verbot, weil du darfst halt Super Mario nicht einfach nachbauen.
- 31:40SPEAKER_01: Weder die Assets noch irgendwas anderes.
- 31:43SPEAKER_01: Oder ich meine, da gab es ja dieses Elden Ring, whatever Matchup.
- 31:49SPEAKER_01: Klar, ist dann wieder die Frage, okay, die Leute machen es trotzdem, posten es auf Social Media, share nach links, wer ist in der Haftung?
- 31:57SPEAKER_00: Dieses keine Rechtsberatung, aber ich glaube, selbst das Dekompilieren von Programmen ist teilweise schon einfach gegen die Nutzungsbedingungen, weil die Nutzungsbedingungen ist halt die Nutzung der Software und die schließt eigentlich aus, dass du dir das anguckst.
- 32:13SPEAKER_00: Ja, und aber wenn, ich meine, da ist halt echt die Frage, auf welchem Level.
- 32:16SPEAKER_00: Du kannst einfach sagen, ja, hey, spiel mal das Spiel und liste mir alle Mechaniken auf, die du so findest und Regeln, die du daraus ableisten kannst.
- 32:25SPEAKER_00: Das hat mit Dekobulieren dann erstmal noch nichts zu tun und hast halt trotzdem irgendwo mehr über das Spiel und die Mechanik und die Funktionsweisen dann am Ende rausgefunden.
- 32:34SPEAKER_02: Ja gut, es ist ja oft irgendwie eine Krauzone oder nicht so ganz klar trennscharf.
- 32:38SPEAKER_02: So, bis wohin ist es irgendwie okay und bis wohin nicht so.
- 32:42SPEAKER_01: Ich meine, vier Bilder, ein Wort verrät ja schon der Titel, was man macht, zum Beispiel.
- 32:47SPEAKER_00: Und trotzdem, das ist ein komplexes Projekt, was seit 15 Jahren entwickelt wird.
- 32:51SPEAKER_00: Ich weiß gut, weil es ist erstaunlich, wie viel da drin steckt.
- 32:55SPEAKER_00: Das ist, man, ja.
- 32:57SPEAKER_00: Und klar, das alles jetzt irgendwo öffentlich verfügbar zu haben, sozusagen, oder es halt einfach nach, klar, fühlt sich dann auch komisch an.
- 33:06SPEAKER_01: Okay, trotzdem ganz kurz zu Anthropic Message Threads.
- 33:09SPEAKER_01: Anthropic hat gestern ein kleines API-Update veröffentlicht, dass Agent-Sessions einfacher machen sollen.
- 33:15SPEAKER_01: Also Anthropics API, Messages APIs, Stateless API Calls, das heißt, ich habe mein Model, ich habe meine Tool-Definitions und dann meine Messages.
- 33:24SPEAKER_01: Was sie jetzt geändert haben, ist, ich kann Threads attachen.
- 33:27SPEAKER_01: Threads funktioniert in dem Fall so, dass es keine neue API-Route ist, sondern alles stateless.
- 33:31SPEAKER_01: Wenn ich eine Message Call schicke, kann ich sagen, Thread Create und dann kann ich sozusagen, wenn ich einen Follow-up-Request schicke, mehr oder weniger Previous Message ID referenzieren und dann nur den neuen Input.
- 33:43SPEAKER_01: Funktioniert so ähnlich, was wir haben bei der Gemini API oder bei OpenAI Responses API.
- 33:48SPEAKER_01: Der große Unterschied ist, dass die Dinger nur fünf Minuten aktiv sind.
- 33:51SPEAKER_01: Das heißt, wenn fünf Minuten keine Nachricht kommt, wird das Ding wieder gelöscht.
- 33:55SPEAKER_01: Hauptvorteil sagen die einfach, hey, du sollst trotzdem den State lokal managen, aber wenn du Agent Session hast und halt immer nur den neuesten Input hinzuschickst, hast du bis zu 30% fastere Time-to-First-Token, weil du halt nicht den großen Payload immer hin und her schicken musst und das wird erst so richtig auffällig bei 500.000 Tokens ungefähr.
- 34:16SPEAKER_01: Sie haben SDK-Helpers dafür gebaut, dass wenn du sozusagen, weil große Schwierigkeit natürlich, ich schicke was, ich mache lokal 5 Minuten was, 10 Minuten was, schick was zu dem alten Thread, dann kommt erstmal ein Fehler zurück und dann muss ich wieder alles Alte schicken und dafür haben sie halt so, sag ich mal, SDK-Helpers gebaut.
- 34:35SPEAKER_01: Ist bei OpenAI und bei der Gemini API nicht der Fall.
- 34:37SPEAKER_01: Das heißt, da sind die ganzen Threads, Sessions, Interactions, whatever, länger aktiv, aber ja, ganz kleiner.
- 34:45SPEAKER_01: Kleines Update.
- 34:46SPEAKER_02: Interessant.
- 34:48SPEAKER_02: Gut.
- 34:49SPEAKER_02: Aber ist das was, was sie dann einfach im Cloud-Code, was du anstaltest oder so?
- 34:52SPEAKER_01: Ja, nee, ist Default aktiviert und sie sagen 35% fastere Time to First Token zwischen 500.000 und eine Million Context.
- 35:01SPEAKER_01: Und das halt auch auf der API.
- 35:03unknown: Stimmt.
- 35:05SPEAKER_00: Wenn dir 120 Sekunden reichen, darfst du noch über Fusion sprechen.
- 35:10SPEAKER_02: Oder nee, machen wir nicht.
- 35:12SPEAKER_02: Ne, komm, wir machen es kurz.
- 35:14SPEAKER_02: Also GitHub hat ein, ich weiß gar nicht, wie ich es nennen soll, aber es ist ja kein Modell.
- 35:17SPEAKER_02: Also hat, aber wenn man es auswählt, ist es wie ein Modell Fusion, heißt das Ding, veröffentlicht und im Prinzip ist das ein Model-Router, also er entscheidet dann selber, an welches Model das geht.
- 35:30SPEAKER_02: Fand ich eh schon immer spannend, das Thema, weil man braucht ja nicht für jede Anfrage irgendwie das größte Max-Model.
- 35:36SPEAKER_02: Und für mich waren es immer eine Kostenfrage, aber bei ihnen ist es vor allen Dingen auch eine Performance und auch eine Kostenfrage und ich glaube aber auch eine Zeit, also wie schnell das Model läuft, Frage.
- 35:49SPEAKER_02: Also sie konnten damit vergleichbar gute Performance schaffen wie Opus 5.5.
- 35:55SPEAKER_02: Und ich konnte nicht so ganz, ich habe nicht so ganz gecheckt, an welche Models sie das routen, aber ich glaube, am Ende waren es auch Enthopic und OpenAI-Modelle, wenn ich das richtig verstanden habe.
- 36:04SPEAKER_02: Aber dadurch hatten sie eben, oh shit, und jetzt habe ich die Zahlen nicht im Kopf, ich glaube fast 50% Reduktion der Kosten.
- 36:12SPEAKER_02: Glaube ich.
- 36:13SPEAKER_02: Sneak grad keiner, also ihr wisst auch nicht.
- 36:16SPEAKER_02: Und irgendwie 30% schnelle Response-Time.
- 36:20SPEAKER_02: Und trotzdem sehr, sehr ähnliche Performance wie Opus 5.5.
- 36:24SPEAKER_02: Und da würde mich mal voll interessieren, ob das ein Jeff, also ein First System One-System ist, was sie dann nutzen, um diese Entscheidung zu treffen.
- 36:36SPEAKER_02: Weil ich vermute schon, dass das jetzt enabelt hat, so einen Router irgendwie sinnvoll einzusetzen.
- 36:43SPEAKER_02: Weil sowas gibt es schon länger, aber dass das jetzt so gut funktioniert, kann ich mir vorstellen daran, dass sie sowas nutzen.
- 36:55SPEAKER_01: Tja, ich bin immer ein bisschen skeptisch.
- 36:58SPEAKER_01: Also ich glaube, für 99% aller Anfragen, die ich in Gemini schicke, reicht mir Flash.
- 37:04SPEAKER_01: Aber für manche Anfragen weiß ich es nicht und für manche weiß ich es.
- 37:09SPEAKER_01: Und ich finde bei Agentic Use Cases, also wo man lange Trajectories hat, weißt du ja am Anfang nicht die Nuance, wo es hingeht.
- 37:17SPEAKER_01: Und du hast ja das große Problem, wenn du zwischen Modelle switchtst, dass du nicht auf das Reasoning des vorherigen Modells unbedingt immer zugreifen kannst, vor allem wenn das Cross-Provider ist.
- 37:25SPEAKER_01: Das heißt, wäre definitiv interessant, was sie da evaluiert haben und wie sie es evaluiert haben.
- 37:30SPEAKER_01: Ich kann mir vorstellen, dass man auf Benchmarks das relativ gut optimieren kann.
- 37:35SPEAKER_01: Ich glaube, OpenAI hat ja auch mal so einen kleinen kurzen Gedanken mit GBT5.
- 37:39SPEAKER_01: Ja, stimmt.
- 37:40SPEAKER_01: Deswegen bleibt es abzuwarten.
- 37:43SPEAKER_01: Ich glaube, in der Zukunft auf jeden Fall müssen wir es lösen, weil die Subscription Plans einfach viel zu großzügig sind, was Token Usage angeht.
- 37:54SPEAKER_00: Aber wenn das so ist, warum ist es einfach nur Marketing alles, wenn die jetzt, keine Ahnung, OpenAI hat doch jetzt gerade irgendwie das nochmal wieder verdoppelt, was innerhalb von diesen, was, OpenAI oder Athropic?
- 38:06SPEAKER_00: Einer von beiden, ich glaube OpenAI.
- 38:08SPEAKER_00: Nee, OpenAI.
- 38:08SPEAKER_00: OpenAI hat doch die Pläne gesagt, die Usage ist jetzt gerade doppelt so groß in den Enterprise-Sachen.
- 38:12SPEAKER_00: Ist das dann einfach nur aus Marketing und.
- 38:15SPEAKER_00: Nee, ich glaube, es macht einfach keinen Unterschied.
- 38:17SPEAKER_01: Also ich glaube, ob du jetzt 10 Milliarden Minus machst oder 20 Milliarden Minus, macht, glaubt, nicht den großen Unterschied.
- 38:26SPEAKER_01: Alle Enterprise-Pläne sind ja nicht unbedingt so subscription-based und sind ja viel teurer.
- 38:32SPEAKER_01: Das gleiche gilt ja auch für Anthropic irgendwie.
- 38:34SPEAKER_01: Da zahlen ja die Unternehmen wirklich die API-nativen Preise und ob du dann eine Million, zehn Millionen Entwickler hast, die da 200 Millionen Dollar reinballern.
- 38:45SPEAKER_01: Ich wüsste jetzt nicht, ob das einen Unterschied macht, dass du die Hälfte von Usage irgendwie hast, klar, du musst irgendwie eine Balance finden und sie profitieren ja sehr stark von Feedback von Nutzer, von Marketing, was funktioniert today, was funktioniert nicht.
- 38:57SPEAKER_01: Und aktuell ist wahrscheinlich einfach der Value in dem Data größer.
- 39:01SPEAKER_01: Und Compute ist eh das Problem.
- 39:04SPEAKER_01: Sie werden wahrscheinlich eh nicht positiv.
- 39:06SPEAKER_01: Das heißt, du versuchst irgendwie dazwischen die richtige Balance zu finden.
- 39:10SPEAKER_01: Aber auf lange Sicht musst du ja irgendwann mal Profit machen.
- 39:14SPEAKER_01: Und dann wird es spannend, ob hier der Preis gleich bleibt, aber wir dieselbe Capable Models haben, weil alles so viel besser geworden ist.
- 39:21SPEAKER_01: Oder ob es weiter nach oben geht oder nichts, werden wir sehen.
- 39:26SPEAKER_00: Gut.
- 39:28SPEAKER_00: Dann vielen Dank, Gerald, vielen Dank, Philipp, für eure Zeit heute.
- 39:32SPEAKER_00: Vielen Dank fürs Zuhören da draußen.
- 39:34SPEAKER_00: Wir wünschen euch euch eine schöne Novemberwoche und hören uns bald wieder.
- 39:39SPEAKER_00: Macht's gut.
- 39:40SPEAKER_00: Bis dann.
- 39:41SPEAKER_00: Ciao.