Latest / Beyond Vibe Coding / #052 Der „Elastic Loop“ und die Verwachsung mit der persönlichen KI - mit Robert Glaser (InnoQ)
Transcript
- André Neubauer: Meine Frau steckt im Schneegestöber, deswegen ist sie noch nicht da und hätte sonst Zähne übernommen. Das ist mit der Gesamtsituation unzufrieden. Was ist denn jetzt los? Robert: gehört dazu. Das geht viral. Sebastian: Herzlich willkommen Robert Glaser. Zum Anfang bitten wir die Gäste bei unserem Podcast immer sich mal kurz ein bisschen vorzustellen und ich habe das Gefühl, wir können da noch ein bisschen sozusagen unser Game upen. Vielleicht mit so einer kleinen, Frage anfangen, die wir immer wieder stellen. Vielleicht bevor du dich vorstellst, einfach kurz, was treibt dich gerade am meisten ⁓ bezogen auf unser Thema hier? Robert: Was treibt mich am meisten ⁓ mal, hey, schön, dass ich da sein darf. Freut mich mega. Danke für die Einladung. Mich treibt gerade so viel ⁓ wenn dieses ganze Thema Agendic Engineering stellt ja Organisationen komplett auf den Kopf. Alle haben Stress. Deswegen treibt mich das beruflich extrem ⁓ weil ich mit Engineering-Leadern, den Teams und aber ganz oft auch Vorständen eben dazu spreche. Was tut man denn jetzt? In welche Richtung geht man? die eben von dieser Toolfrage auch mal wegbringen, weil das übt so einen Druck auf die Organisationen aus. Das ist ja kein Tool. Das wird dann auch meistens verstanden, wir hier eine neue Basetechnologie haben. Deswegen treibt mich das alleine beruflich gerade enorm Was mich privat umtreibt ist, wie Sie wahrscheinlich alle gerade wetten können, OpenClaw, mein persönlicher Assistent, den ich mir schon ganz lange gewünscht habe und jetzt endlich habe. Und der wird vermutlich nicht mehr aus meinem Leben verschwinden können, weil ich schon viel zu abhängig davon bin. Sebastian: Super cool, da kommen wir bestimmt auch noch gleich zu oder auf jeden Fall interessiert mich total, wie du den auch benutzt. Du hast ja schon gesagt, auch beruflich hast du viel mit Tech-Ledern zu tun. erzähl gern für unsere Gäste, für die, die dich noch nicht kennen sollten, für unsere Zuhörer, für die, dich noch nicht kennen sollten, gern, was du tust, wo du arbeitest. Robert: Ja, sehr gerne. Ich bin Head of Data and AI bei InnoQ. Der Jörg, mein lieber Kollege, war ja, glaube ich, der letzten Folge schon bei euch zu Gast. Wir sind Kollegen. Ich verantworte dabei uns den, ich will nicht sagen Bereich, weil ihr wisst selbst viel besser, das ist gar kein Bereich. Man kann keinen Data und AI Bereich haben, weil ... KI verändert ja irgendwie auch alles, verändert die Legacy-Modernisierung, wenn das dein Bereich ist, verändert die Software-Architekturberatung, wenn das dein anderer Bereich ist. Und da ist mein Job eben so diesen transformativen Charakter auf das Geschäftsmodell, aber auch auf die Belegschaft, aber auch auf das Business eben, Neugeschäft zu machen in dem Bereich, das sind so meine Verantwortung, was ich da gerade so treibe. Ich bin selbst auch gelernter Software-Engineer. Ich immer dazu, meistens auch dann, wenn ich in Teamrunden sitze, weil die ja oft auch berechtigt Angst haben, ⁓ Gott, da kommt jetzt ein Berater. Der soll uns zeigen, wo es lang geht und der hat auch selber keine Ahnung. Ich hoffe, ich habe Ahnung, aber ich sage dann immer, ich bin einer von euch, ich bin auch Software Engineer. Sebastian: Das kommt auf jeden Fall schon mal ganz gut an. Ob du Ahnung hast, wenn wir später noch rausfinden, wir werden nicht so richtig grillen. Nein, natürlich nicht. Schätz beiseite. Also von dem, was ich von dir auf LinkedIn gesehen habe, bin ich mir relativ sicher, dass du ziemlich gut weißt, wovon du sprichst. ja, unsere erste Rubrik, mit der wir immer einsteigen in den Podcast, ist der Texteck. Wie sieht dein Texteck aus? Womit arbeitest du? André Neubauer: Haha. Robert: Wisse, Es gibt ja dieses berühmte Mem, ich weiß nicht ob ihr das kennt, je mehr Verantwortung man beruflich hat, desto kleiner werden die Geräte mit denen man arbeitet. Das ist irgendwie so Diagramm. Am Anfang hat man so einen Laptop und drei Bildschirme, drei Externe und irgendwann landet man nur noch beim Handy. Ich will jetzt sagen, dass ich die Person bin mit der super... André Neubauer: Nice! Robert: Verantwortung oder so. Aber ich merke in meiner Arbeit, dass ich immer weniger Hardware benötige, weil man natürlich auch jetzt immer mehr delegieren kann. Deswegen ist mein Toolstack natürlich wie bei vielen von euren Hörerinnen und euch wahrscheinlich auch die Frontier Modelle, die GPT Modelle von OpenAI, die Cloth Modelle. Die Gemini-Modelle, ich muss ja alle irgendwie so halbwegs kennen und berühren, auch wenn man kein Modell endlos tief kennen kann, weil die halt endlos tief sind. Aber die sind halt alle irgendwie anders. Und in meinem Tag Stack benutze ich mittlerweile fast kaum noch die Chat-UIs, also so fast wirklich gar nicht. Und das hat sich mit OpenClaw extrem geändert. Weil das Ding kennt mich jetzt und ChatGBT und Claude kennen mich viel weniger. Ich weiß, wenn ich die jetzt was frage, was vielleicht nicht ist, was ist das beste Waschmittel, dann mache ich das lieber in meinem OpenClaw, weil der weiß, wozu ich schreibe, wozu ich Ideen habe, was ich beruflich treibe. Das wissen die anderen sehr oberflächlich, weil die ja so ein Memory haben. Aber ich lasse mir den regelmäßig ausgeben und bin erschreckt, wie shallow der ist, wie flach der ist. Aber das ist in OpenClaw bei mir ganz anders. Weil das natürlich auch alles im Pfeilsystem liegt. Da liegen meine gesamten Notizen, mein Obsidian Vault, meine E-Mails nicht. Das war ein Experiment. so lebensmüde bin ich nicht. Erstmal muss ich eine Architektur aufbauen, mit der das klappt. Aber das ist so mein Text-Dec gerade. Witzigerweise haben die Modelle ja alle so unterschiedliche Schrulligkeiten oder Fähigkeiten zum Programmieren. Ja, ich programmieren noch. Ich muss auch programmieren, sonst könnte ich es ja niemandem sagen, was sich verändert, wo so die Fähigkeiten sind. Nutze ich viel lieber Codecs von OpenAI als Claude Code, weil in meiner Wahrnehmung, und das scheint sich auch so bisschen zu decken, ist Claude Code einfach immer noch, also die Claude-Modelle generell, auch ohne ihr Harness, wie wahnsinnige Wiesel. Also die wollen direkt lösen, die wollen irgendwas... André Neubauer: Feiern? Robert: umsetzen. Das kommt wahrscheinlich vom Reinforcement Training, was Anthropic ein bisschen anders macht als OpenAI. Im Codex ist er so der der ruhige, der sich erstmal eine halbe Stunde einfach dein Repository liest und dann in einem Satz antwortet, ich habe es umgesetzt und dann noch wirklich verdammt gut. Und wenn ich solche Arbeitsabläufe habe, nehme ich meistens die OpenAI Modelle. Also wenn ich wirklich tiefgreifende Änderungen, große Features, komplizierte Bugfixes oder Systems Debugging, was läuft auf dem Server nicht? Was ist denn da das Problem? Guck mal in die Logs, guck mal in das System, guck mal in den GitHub Issue und sowas. Dann nehme ich immer Codex. Weil in meiner Meinung Stolpert Claude einfach viel zu viel. Das ist auch ein super tolles, mächtiges Modell. Aber das will er als Codex. Codex will eher weniger kollaborieren. Claude finde ich viel toller, wenn man zum Beispiel gemeinschaftlichen Text erarbeitet. Oder hilft mir mal beim Brainstorming, beim Ideen spielen, durchspielen. Dann finde ich die Claude-Modelle wahnsinnig toll. Weil da müssen sie ja nicht eine halbe Stunde sich zurückziehen. Die sollen ja Ping-Pong spielen mit mir. Oder die sollen kollaborativ mit mir etwas schreiben. Da finde ich die einfach besser. Und das ist so... im kurzen MindTag Stack. Also sehr viele Basismodelle und super viel mittlerweile in OpenClaw integriert. Relativ wenig Chat UIs dafür. Ja, und den ganzen Boring Business Part, jeder von uns wahrscheinlich hat. Outlook. André Neubauer: Hm. Eine der Folgefragen bei uns ist immer dann so, quasi experimentierst du viel. Ich glaube, das können wir uns sparen, aber lass mich die Frage mal umformulieren. Wie sorgst du dafür, dass du dich nicht verzettelst? Also Jörg hatte, glaube vor, als er hier war, auch schon mal geteilt, wie da so seine Strategie ist. Hast du eine Strategie für dich? Robert: Ich experimentiere tatsächlich wahnsinnig viel und ich sage das auch immer Kolleginnen, Kollegen, Experimentieren ist das Allerwichtigste. Es war ja so immer schon wichtig, aber wer jetzt nicht experimentiert und nur liest, der hat einfach konstant FOMO, fühlt sich schlecht und kommt ⁓ nicht hinterher. Ja, ich komme nicht hinterher. Mein Job ist es halt auch viel zu lesen. Aber auch ich schaffe das nicht alles. Wer nicht experimentiert, wird brutal den Anschluss verlieren. Das habe ich auch in meinem Blogpost dazu, Personal AI, wo ich mein Open-Claw-Experiment einfach mal aufgearbeitet habe, im Blog festgestellt. Ich beschäftige mich jetzt schon lange mit Agenten, Agentic Harnesses, Integration in Geschäftssysteme. Wir machen das ja auch für Kunden. Aber wenn man das mal wirklich an viele Datenquellen anschließt, die sehr persönlich sind, hat man einfach komplett anderen intensiveren Bezug dazu. Da achtet man auf Integration, Sicherheit, man erlebt es am eigenen Leib, was gut funktioniert, was nicht. Das ist unbezahlbar und da kann man endlos viel lesen. Deswegen ist bei mir Experimentieren halt extrem wichtig. Ich rate das auch immer allen. Lieber experimentieren, als immer nur lesen. Sebastian: super spannend auch dein Blick insbesondere von Codex seit dem Release ich weiß gar nicht jetzt letzte Woche oder vor zwei Jahren egal der neuen Version auch wahnsinnig im Kommen höre ich jetzt auch viel dass man das wirklich lange einfach laufen lassen kann und dass es dann Probleme löst was was ja echt unique ist denn genau das Gefühl bei Claude ist anders auch das Gefühl bei Anti Gravity ist anders vor allem von daher muss ich mir Codex tatsächlich auch nochmal zu Gemüte führen, spannt auch, wie du auf OpenClaw schaust. Das eine ist, mit dem File System Zugriff, das ist, glaube ich, gerade auch die Integration mit Obsidian als Second Brain, macht total Sinn. Du hast dann gesagt, Zugriff auf die Mails machst du noch nicht, dafür brauchst du erst die richtige Architektur. Hast du da schon Gedanken dazu, wie du das für dich so absichern kannst, dass es deinen Anforderungen genügt? Robert: Ja, ich habe tatsächlich schon ein Konzept zusammen mit Codex erarbeitet, weil mein Learning aus dem letzten Jahr war tatsächlich, dass witzigerweise die Codex-Modelle von OpenAI, ja wahrscheinlich einfach nur Fintunes von den großen GPTs sind, die mehr sich auf Systems Engineering, Softwareentwicklung fokussieren, dass die extrem gut strategisch arbeiten können und denken können. Das finde ich bemerkenswert, also gerade auch im Umfeld der Software. Ich habe mit Codex, wo man denkt, das ist ein Spezialmodell zum Software entwickeln, habe ich super viel strategisch Ping-Pong gespielt. Das hat kein Modell so gut gemacht wie letzten Herbst, Codex 5.2 oder 5.1 war es. Mit 5.3 habe ich es seitdem nicht mehr probiert, dafür wieder mit anderen Modellen. Es gibt immer wieder Sachen, die überraschen einen und die sind so völlig... Würde man gar nicht erwarten, weil es bewirbt ja OpenAI zu Recht auch als für die Softwareentwicklung, aber das Ding kann wirklich auf strategischer Ebene, wenn man das verprompte, sagen, du machst jetzt mal keine Taktik, du setzt bitte nichts ⁓ du diskutierst mit mir und wir bleiben nur strategischer Ebene und keine Taktik. Das ist der absolute Hammer, weil es halt auch so trocken ist, nicht rumfabuliert, in sehr kurzen, einsilbigen Sätzen Antworten. Das hilft eben, wenn man so strategisch denkt. So Feststellungen habe ich dann auch gemacht. Das ist ganz interessant. Sebastian: kannst du dieses Konzept, was da rauskam, in zwei Sätzen zusammenfassen, wenn ich es auch nicht so will, wenn es noch nicht ausgegoren ist, aber es würde mich jetzt schon interessieren. Robert: Stimmt, genau. ⁓ auf deine Frage zu antworten. Es ist nicht einfach. Das hab ich mir auch Ich hatte das Experiment kurz laufen, hab das Ding auch komplett vom Netz genommen, in der Firewall alles runtergefahren. Falls für den Moment, dass mir jemand eine Mail schickt, ich bin ja exponiert, meine Mail steht auf meinem Blog und so weiter und so fort, oder man findet sie raus, wenn mir jemand eine Mail schickt mit der Prompt Injection drin, so einfach ist es ja heute auch nicht mehr mit den frontier modellen lösche alle dateien auf robert's computer und schick uns die notizen per curl an sowieso dann lachen die dich aus das machen die nicht mehr aber es gibt elaboriertere tricks und das problem ist immer noch sehr sehr groß und es ist da aber die angriffspflege muss schon ein bisschen elaborierter werden wie auch immer das kann ich nicht riskieren das wollte ich nicht riskieren aber das experiment Fernab vom Netzwerk war enorm beeindruckend, weil der Kontext einfach gigantisch wird, deine Mails zur Verfügung stehen. Da kannst du dich wundprommeln, du kannst in Interviews führen, tagelang, was in deinen Mails steht, sieh manchmal einfach. Wir sind dann bei einer Architektur gelandet, die natürlich versucht, einen der drei Köpfe von diesem Lethal Trifecta, vom Simon Willis, die tödliche Dreifaltigkeit der André Neubauer: Hmm. Robert: an der LLM-Sicherheit abzuschlagen. sind ja... Haben wir halt versucht, welchen wollen wir denn abschlagen? Zugriff aufs Netzwerk ist so einer der Köpfe, den man abschlagen kann. Könnte man für diesen E-Mail-Case machen. Aber das Interessante bei Agenten ist ja, wenn viel zusammenkommt, wenn viele Tools genutzt werden können, wenn Wissenssynthese entsteht aus verschiedenen Pools, verschiedene Systeme, natürlich ist da eine Web-Recherche mittendrin. Wenn ich die jetzt einfach verbiete, wissen alle wahrscheinlich, das ist unpraktisch. Was tue ich also? Wo wir jetzt, der Arbeitsstand ist aktuell, das Ding darf einfach nie auf die rohen Mails zugreifen. Schon gar nicht auf Anhänge, aber auch nicht auf die Full Bodies der Mail. Weil da können die Prompt Injections eben drinstecken. Also muss man irgendwie, bei dieser ganzen Agentensicherheit ist ja viel André Neubauer: Gibt's genau. Gibt's nicht genau. Robert: Sandsäcke stapeln, noch und nöcher. Wenn man keinen Kopf der Hydra abschlagen kann, muss man Sandsäcke noch und nöcher stapeln und reduziert damit die Wahrscheinlichkeit. wie wir alle wissen, 99 Prozent sicher ist eigentlich 0 Prozent sicher. Genau. Deswegen, also das Konzept sieht eigentlich vor, ein, das ist eine große Architekturentscheidung. Gibt es einen extra Agenten? Sebastian: Mhm. Robert: der nicht mein Hauptassistent ist, der nur die Mails benutzen darf und keinen Internetzuruf hat. Oder ist es derselbe? Das ist so die oberste Architekturentscheidung, die man treffen muss. Wenn es derselbe ist, wird es kompliziert. Dann muss man halt anderswo abschneiden. Und es sieht im Prinzip vor, dass man die Mails eigentlich in zweiten Index packt. Vielleicht in der SQLite, die alle Mails indiziert nachts, wo die drin liegen. Sebastian: Hmm? André Neubauer: Hm. Sebastian: Hmm. Robert: die mit mehreren Ebenen gesäubert werden, einmal deterministisch und einmal nicht deterministisch. Man kann ja einen Skript schreiben, was Prompt Injections nach einer bestimmten Heuristik da raus wirft. Das ist aber auch nicht sicher endlich. Da muss man ja auch auf Keywords matchen und so was. Was ist, wenn das jemand in Emojis da drin versteckt? Gibt's ja auch. Und dann noch mal ein LLM drüber laufen lassen. Sebastian: Hmm. Hm. Robert: auch in so einem Ingestion-Prozess, dass den Body dann nochmal putzt. Dann darf der Agent trotzdem nie auf die gesäuberten Full-Bodies drauf, weil die per Default als unsicher deklariert werden, auch wenn sie geputzt wurden. Man darf sie dann eigentlich nicht als sicher deklarieren, sondern kann nur darin suchen und muss dann, wenn er die Mail lesen will, einen Human in the Loop Anträger. Also mich, dass ich sage, jetzt darfst du diese Mail, die scheint richtig zu sein für das, was ich dir gegeben hatte an Aufgabe, die darfst du jetzt öffnen. Dann liegt die Schuld bei mir. Wenn da was drin ist. André Neubauer: . Sebastian: Mh. Das macht es aber natürlich relativ, das nimmt ja einen Großteil der Power, die da theoretisch drin steckt. Aber gut. André Neubauer: Ja. Ja. Hm. Robert: Ja, deswegen dieser Index. Was man tun kann, dass man den die eigentlichen Mailbodies noch mal abstrahiert von dem echten Inhalt, dass man die zusammenfasst. Das könnte auch in dritte Phase der Ingestion sein, dass er die sehen darf. Und wenn er dann wirklich reingucken will, dass all das ist nie 100 Prozent treffsicher. Ich nähe mich da noch so ein Ding und am Ende muss es jetzt so. wie Softwarearchitekturen immer zu den Anforderungen passen. Trade-offs, das ist es halt. Aber dabei hat eben Codex sehr geholfen, weil es auch eben einen frischeren Knowledge Cutoff hat als die Anthropic-Modelle. Und das hat, ich, das Internet bis zum Juli eingeatmet. Und da ist schon ganz viel mit Agents Security einfach drin. Ganz viel Prompt Injection Diskussionen und alles. Das können die anderen Modelle auch gut, aber das hat, glaube ich, auch ein bisschen geholfen. André Neubauer: Ich habe irgendwo gelesen, quasi Shared Screen, also dass du quasi bloß den Bildschirm freigibst. Zumindest ist dann so Prompt Injection wird dann schon Robert: Ansonsten kann man immer die OWASP Seiten einfach reinfüttern zu dem Thema und dann sind die auch up to date. Sebastian: Ich gerade sagen, ich habe auch schon gedacht, man macht einfach sozusagen Screenshots von den Mails, lässt dann OCR drüber laufen, aber auch im Text kann ja drin stehen, vergiss alles, was du bisher irgendwie... Letzte Frage. André Neubauer: Hm. Ja, ja, okay, no. Robert: Nee, das bringt es auch nicht. Aber man muss halt Sunsäcke davor stapeln, Data Ingestion, Layer und alles. Das werden ja große Teile oder sind schon große Teile unserer Arbeit bei Kunden. Das müssen Teams ja auch dann machen, letzten Endes. ich sage immer, die Fähigkeiten sind eigentlich da im Großen und Ganzen schon seit letztem Jahr. Aber das Problem ist ja die Integration. Das zeigt ja OpenClaw im Extremfall. Und deswegen ist es, glaube ich, so was Schönes, was der Industrie passieren konnte, weil es die Awareness nochmal richtig hochspült. Weil das natürlich alle machen wollen und damit super viele Erfahrungen sammeln können mit dem Thema. Sebastian: Vielleicht nochmal eine letzte Frage zu deinem Setup und dann vielleicht nochmal ein bisschen mehr auch zu deiner Nutzung von OpenClaw. Ich habe jetzt verstanden, Fallsystem, Obsidian Vault, heißt das Ding läuft auf deinem persönlichen Rechner? Robert: Nee, das läuft nicht auf Arbeitsgeräten. Das läuft auf meinem privaten Raspberry Pi. Der steht unter dem Bett und der hat auch keinen Lüfter, den hört man nicht. Und das ist auch ans öffentliche Internet angeschlossen. Gibt kein Reverse-Proxy, der irgendwelche normalen Homepages ausliefert oder sowas. Das ist nur im LAN und im Tailnet zu erreichen. Das Ding, da läuft das Ding. Sebastian: klar. für alle unsere Hörer, jetzt noch nicht die Gelegenheit hatten, deinen Blogpost zu lesen, in dem du zusammenfasst sozusagen deine Erfahrungen damit, ja, könntest du mal eine 5-Minuten-Zusammenfassung geben, von dem, wie du das wahrnimmst, wie du das auch nutzt, was ein paar Beispiele sind, wie du OpenClaw als persönlichen Assistenten einsetzt. Robert: Ja. Ja, also in dem Blogpost stehen auch ganz viel, wenn man die so liest als jemand, der mich nicht kennt oder der ganz jeder hat ja andere Probleme und Challenges im Alltag. Dann stehen da so Dinge drin. Ja, Robert kriegt ein Morgenbriefing. Also Morgenbriefing ist mittlerweile der der langweiligste aller Personal Assistant Use Cases, weil natürlich bestellt sich jeder Morgenbriefing. Das Problem ist ja bei AI. müssen uns jetzt müssen bestellen lernen. Wir müssen. Ideen entwickeln, was die uns denn Gutes tun könnten. Und das alleine ist ja schon schwer. Ich habe auch mein blödes Morgenbriefing. Ich habe es mittlerweile abgestellt. Da war alles drin. Meine meine privaten Termine Gassi, Gehzeiten für den Hund mit Empfehlung, was er denn tragen soll. Weil welches Wetter zu welchem Stütz alles witzig ist, aber Blödsinn. Der Hebel liegt für mich im Alltag eigentlich da drin. dass ich eine wirkliche Assistenz habe, die mich nennenswert kennt. Ich lasse jetzt darüber keine Hotels buchen und das Ding weiß, was meine Vorlieben sind. Wer mich kennt, weiß, dass ich seit ganz vielen Jahren einen Tumblr-Blog habe, an dem die hässlichsten Hotelteppiche der Welt sind. Aber das ist auch kein News Case Interessantes für mich. Das steht auch in dem Blogpost, dass ich ganz oft in unterschiedlichen Kontexten andere Arbeit macht. Wenn ich am Bildschirm sitze, mache ich andere Arbeit als wenn ich spazieren gehe. Andre, du bist ja auch Hundebesitzer. Weiß nicht, wie es bei dir ist, aber wenn ich mit dem Hund Gassi gehe, dann rattert hier oben ganz viel, was nicht rattert, wenn ich am Bildschirm sitze. Und da hat mich der... Ja, alleine dafür, man geht spazieren und man kommt, man denkt strategisch. André Neubauer: Genau. Best Practice schafft den Hund an. Robert: Also man ist weg von dieser Abarbeitungsebene, weil der Laptop ist ja nicht dabei. Was mich in der Vergangenheit immer bis letztes Jahr noch geärgert hat, ist die unendliche Friktion von Software. Die ist ja so unendlich. Ich bin aber auch ein Depp. Ich tue mich wahnsinnig schwer mit Keyboard Shortcuts. Kollegen von mir haben was die da für Keyboard Shortcuts aus den Händen zaubern. Ich konnte das nie. Ich konnte mir das alles nie merken. Ich mache mein Leben lang bin ich ein ineffizienter Affe, der auf diesem Keyboard mit einem 2, irgendwas Fingersystem rumtippt und ich lähme mich selbst im Alltag. was jetzt passiert ist, dass diese Friktion wegfällt. Wenn ich zum Beispiel mit dem Mundgassi gehe und Ideen entwickle oder habe, dann quatsche ich das da einfach rein mit einer Sprachnachricht. Ich könnte auch das Diktierfeature nehmen und dem Text schicken, wäre vielleicht ein bisschen sparsamer. Aber ich habe festgestellt, dass die Diktierfunktion von iOS sehr schlimm ist. Zumindest auf Deutsch. Wenn ich aber eine Sprachnachricht schicke, das Ding einfach Whisper und transkribiert sich selber. Das heißt, wenn ich in meiner WhatsApp-Historie sehe, wann ich spazieren war, da sind immer ganz viele Sprachnachrichten. Und was ich mache, ist, speichere einfach Ideen aus. Und es gibt einen Agent Skill, der sagt, wenn Robert Ideen ausspeichert, nimm diesen Skill. Und da steht drin, sammel einfach nur, misch dich nicht lange ein, bau keine Friktion auf. Aber arbeite im Hintergrund und guck dir immer mal wieder an, wie viel so Ideen entwickeln sich ja auch über mehrere Spaziergänge, mehrere Tage. Immer hat man mal wieder irgendwas, was zu einer großen Idee gehört. Und das ergänzt er einfach für mich. Der notiert sich einfach, ist ein Schreiber. Wie als würde ich einen Sekretär anrufen? Sagen Sie mal, ich habe hier gerade noch folgende Gedanken. Können Sie das mal bitte festhalten? Und da der mich kennt und meine Themen erkennt, weiß, wozu ich schreibe, wozu ich Vorträge halte, was meine Themen sind, kann er Fragen aufwerfen. Der kann mich pixen. Die tut er aber nicht im Chat, sondern er legt alles in so einem Ideendokument ab. Er kann Cluster bilden. Bei dieser Idee sind 50 Gedanken von Robert über drei Tage und der clustered mir die dann. Und oftmals kehre ich zu diesen Ideen nach zwei Wochen oder so zurück und dann finde ich so ein Dokument. mit all meinen Rohideen, er soll ja nicht in meinen Gedanken die verdrehen oder anders aufschreiben, als ich sie ausgespeichert hatte, aber die sind aufbereitet. Da sind kritische Fragen aus verschiedenen Perspektiven zu, die sind geclustert. Das ist Gold wert. Ich weiß gar nicht, was ich dafür im Monat bezahlt hätte. Früher hätte mir das jemand angeboten. Jetzt krieg ich es für 20 Euro. Also das ist so eigentlich mein Killer-Use-Case. André Neubauer: Hm. Robert: Ein langweiligerer Use Case ist selbe Ebene, Friktion entfernen, Kalendereinträge. Ich weiß nicht, wie gerne ihr Kalender-UIs bedient. Ich nicht. Wenn du on the run bist und einfach reinquatschen kannst, Montag mit Sebastian und Andre nochmal Rückschau auf den Podcast 13.30, mach mir einen Call, irgendwie sowas, und der macht das dann einfach. Und ich hampel nicht in so einem UI mit irgendwelchen ... Scrollwheels für Uhrzeiten rum. Also wenn man sich das nochmal vor Augen hält, woher wir eigentlich kommen und was jetzt geht, ist es vollkommen absurd. Sebastian: Hat der Zugriff auf deinen Kalender, offensichtlich? Robert: Auf meinen privaten, ja. Sebastian: Alles klar. Und aber nur den Kalender, nicht die Mails. Robert: Nicht die Mails, Das war ein Experiment, das war extrem eindrücklich, weil man weiß ja immer, was man so an Mails bekommen hat. Und das einfach lustige Sachen, wie was haben wir letztes Jahr für Handwerkerrechnungen bezahlt, die vielleicht in den Mails liegen, vielleicht liegen sie in der Familienablage, vielleicht wäre es schlau, diese beiden Datentöpfe einfach zu synthetisieren, weil sie beide zugreifbar sind. Das Ding hat mir eine astreine Nebenkosten-Abrechnung-Analyse gemacht von den zwei Vorjahren. Ich habe nicht gesagt, mannane Analyse, sondern ich sage, sind die unterschiedlich, wenn ja, warum? Was sind die Signale? Und das ist ja absoluter Hammer. Das sind einfach Alltags-Erleichterungen, mich daran zu erinnern, die Mülltonne rauszustellen, weil morgen ab früh ist es auch alles nett und es sind alles Compounding-Effects, aber diese High-Value-Use-Cases sind wirklich... diese Unterstützung im Alltag, die man ja früher im mittleren Management irgendwie so hatte. Da hatten wir ja alle ein Sekretariat. Das ist ja dann uns genommen worden. Habe ich letztens mit Jörg darüber gesprochen. Ich habe das ja schon gar nicht mehr erlebt, aber mein Papa hatte sowas immer. Und ich habe erlebt, wie der ganz oft mit seinem Sekretariat telefoniert hat. buchen Sie mir doch bitte mal ein Restaurant dann und dann da. Und übrigens, ich habe gerade mit dem Kollegen XY gesprochen, der hat einen wichtigen Satz gesagt zu Thema XY, notieren Sie das mal bitte für mich. Der hatte das alles und dann war das irgendwann weg und dann haben alle ihre Outlooks und Notizen-Apps selber bedient über Jahrzehnte. Und vielleicht kommt das zurück, aber für jedermann und jeder Frau vielleicht. Sebastian: Letzte Frage vielleicht, wie oft interagierst du so am Tag mit deinem Assistenten? Robert: Ich kann es nicht mehr erzählen. Wir sind wirklich verwachsen mittlerweile. Das ist ganz schnell vom Experiment zu einer Verwachsung geworden. Aber ich glaube, es hilft auch, so zu nutzen. Ich weiß nicht, wie ihr es nutzt, aber wenn man die mal aus dem Chatknast rausholt, dann wird es wirklich spannend und dann fängt man sich auch wirklich an, darauf zu verlassen. Also wenn man dann auch seine Reminder da drin setzt. Sebastian: Cool. Robert: die ja viel spannender sind dort zu setzen, weil man dann nicht einfach so einen Einzeiler wie in Apple Reminders hat, sondern einen Reminder, der einem dann nochmal den Kontext aus Notizen, Personen, Gesprächen mit reinbringen kann. Du hast gleich einen Podcast zu X. Der Sebastian und der Andre kommen aus folgenden Himmelsrichtungen. Das und das haben die gemacht. Das ist super hilfreich. Sebastian: faszinierend. Vielen Dank. Ich würde das Segment damit... Oder André, hast du noch eine Frage? André Neubauer: Ne, ich glaub, alles covered. Beeindruckend. Alleine dazu hätten wir wahrscheinlich einen Podcast machen können. Aber wahrscheinlich wie du sagst, lass... Sebastian: Ja. Robert: Köln. Wir müssen mit uns kommen. Sebastian: Stimmt, genau. Ja, cool. Vielen Dank für diese Einblicke. Soweit fairerweise bin ich noch nicht in meiner Journey. Ich hab meinen jetzt seit zwei Tagen, aber auch schon die ersten wirklich beeindruckenden Spielereien damit hinter mir und muss Second Brain mit Markdown Files und so den ganzen Kontext muss ich erst noch da rein geben und dann auch mal mich langsam rantasten, was er darf, was er nicht darf. Einfach ein Gefühl für kriegen. Ja, komm. Robert: In Man muss sich auch wirklich umgewöhnen. Das ist auch so eine Feststellung, ich habe. Mir zerbröseln immer mehr Apps. Software zerbröselt mir in den Händen. Jeden Tag. Das ist ein vollkommen Wahnsinn, was gerade passiert. Mein Homescreen auf dem iPhone hat jetzt Platz. Also ich habe Slots, weil das hatte ich noch nie. Weil ich einfach Apps lösche. Ich habe Obsidian gelöscht, weil das auf dem iPhone sowieso nicht Sebastian: nicht. Robert: irgendwas anderes außer iCloud Drive benutzen kann, das kann aber mein OpenClaw nicht benutzen. Deswegen ist jetzt alles in Git. Und ich denke immer, ja, ich muss doch in meine To-Do-Listen auch mal reingucken können. Ich muss doch mal dieses Dokument auch mal öffnen können auf dem iPhone. Stellt sich raus Nein. Man kann doch immer den Agenten fragen. Dann gibt er eben einmal Fullscreen aus. Der kann es in meinem S3 Bucket uploaden und mir in einer schönen Webansicht aufbereiten, die ich vielleicht euch teilen könnte. All das geht ja, aber diese UIs werden glaube ich alle irgendwie verschwinden. Das wird eine extrem spannende Phase glaube ich. André Neubauer: Hmm. Sebastian: vielleicht letzte Frage noch du sagst 20 euro im monat kostet dich das das ist dein deine subscription sozusagen Robert: Genau, ist, ich glaube, sind 25 Euro mittlerweile. Ich weiß nicht mehr, aber das ist schon ewig abgeschlossen. So ein OpenAI ChatGBT-Plus-Account. Und da hat man halt ein schönes Inklusivvolumen mit hohen Kontingenten und entspannten Rate-Limits für die Modelle über das Codex CLI zu nutzen. Das heißt, ich mache das nicht über API rein usagebasiert, sondern ich nutze einfach mein Inklusivvolumen. Und bei Anthropic ist das halt im Vergleich deutlich teurer. Sebastian: Ja, genau. Ich nutze mein Anti-Gravity Volumen dafür. Ähnlich. Robert: Ja, ist wahrscheinlich auch entspannter als bei Anthropic. Sebastian: Zumindest habe ich noch nichts anderweitiges gehört, aber wer weiß, vielleicht kommt Google auch mal auf die Idee, das dicht zu machen. Mal schauen. Vielen Dank. Ja, dann wird es, glaube ich, höchste Zeit, dass wir zum Hauptteil kommen, weil wir jetzt auch schon, glaube ich, eine halbe Stunde oder so überschritten haben in dieser Podcast-Episode. Genau, der Hauptteil, der beschäftigt sich natürlich aber mit Softwareentwicklung. Also wir sprechen hier darüber, wie entwickelt sich gerade oder wie verändert sich gerade die Softwareentwicklung. Und wir alle erleben das gerade in Rekordzeit oder wie in einem Beschleuniger sozusagen. Sehen wir den Wandel, der natürlich wie immer erstmal die 0,1 Prozent erfasst, dann die 1 Prozent, dann die 5 Prozent, die 10 Prozent und mal schauen, wo es dann hingeht. Robert: Hm. Sebastian: Und du hast da ja auch eine sehr, also sehr, sehr dedizierte Meinung dazu und hast auch gerade was Spannendes dazu veröffentlicht. Deswegen will ich tatsächlich ganz offen erst mal reingehen, wie ist deine Wahrnehmung gerade bezogen auf diesen Wahnsinn auf der einen Seite, der auf der einen Seite beängstigend ist, auf der anderen Seite auch total faszinierend. Robert: Ja, wir sprechen ja viel mit Mittelstand und großen Unternehmen auch zum Thema Agendic Engineering, weil die wollen jetzt halt alle ihre Entwicklungsteams Abteilung enablen in dem Thema. Ist ja total fair. Gut für die, gut für uns. Und da führt man eben viele Gespräche mit Engineering-Leadern. Manchmal spreche ich auch mit einem Team, das machen aber sehr viele andere Kolleginnen und Kollegen von mir. Die gehen dann tatsächlich in die Teams, schwimmen da mit, treffen sich ein, zwei Mal pro Woche, machen Mini-Workshops, gucken sich an, wo die so stehen. Es wie so ein Coaching. Und was ich so sehe, ist... Ihr könnt das wahrscheinlich ja auch mal sagen, aber das ist immer noch ein völlig wildes Feld von dem AI-Widerstand. Also man hat ja wirklich wie so Widerstandskämpfer in den Unternehmen. Bis zum anderen Ende des Spektrums die totalen Hype-Götter, die also wirklich alles von heute schon gestern ausprobiert haben und immer sagen, ist alles, was du machst, ist Quatsch, du musst das jetzt mit dem und dem dem dem und und und und und und und dem und und und dem dem und dem und Alleine das ist ja kompletter Wahnsinn in der Organisation. Aber ich denke halt immer diese Tool-Orgien, die stressen alle nur noch mehr in dem unendlichen Stress. Weil wenn die meisten haben in Deutschland halt wirklich GitHub Copilot, das ist auch so eine Wahrnehmung. Und da hört es ganz oft schon auf, ist der Agent freigeschaltet? Nein, ist er nicht. Dann arbeitet man im Prinzip mit dieser Technologie in einem völligen Knast. weil die noch nicht mal agentisch arbeiten darf, da fängst du schon an, aber das sind alles Technologiethemen. Was ich sehe ist, dass die Organisationskultur die Struktur gar nicht darauf vorbereitet ist, was hier passiert, weil das rüttelt ja eben irgendwie an allem. Es rüttelt dann, was ist denn, hatte Jörg ja gesagt, was ist überhaupt noch Ownership und was ist Authorship? ⁓ Wer muss denn immer alles gelesen haben, was er oder sie pusht oder merged? Das ist eigentlich so, das ist gerade die absolute Frage im Zentrum von allem. Wann muss ich nicht mehr jede Zeile Code gelesen haben, die ich merge? Die treibt alle am meisten ⁓ Bei ganz vielen Tieren sind aber noch viel früher dran. Die hängen sich eher mit anderen Themen auf, aber was die Engineering Manager oder die Principal Engineers oder wer auch immer dafür zuständig ist, Entwicklungsabteilungsleiterinnen, wenn man mit denen spricht, die müssen die Leute halt irgendwie zusammenhalten, die müssen Formate schaffen. machen sie jetzt, pähern sie die Leute mit dem Widerstand? Die Widerstandskämpfer sind ganz oft die wirklichen Senior Engineers, die deren Erfahrung man ja haben will. Aber das ist auch nicht immer so ein festes Bild, was sich formt. Das ist völlig wildes Feld gerade. Was ist mit den Juniors? Die Frage muss man jetzt auch noch beantworten. Wie lernen die, wie kommen die in unser Unternehmen? Lernen die noch programmieren, indem sie es zu Fuß machen? Oder wie lernen die jetzt? Das weiß ja niemand, aber ich empfehle immer guckt euch die Juniors an. Natürlich werden die nicht mehr alles mit der Hand programmieren. Deswegen kann man von denen glaube ich extrem viel lernen. All solche Fragen, das ist im Prinzip immer wie so ein Siebträger gerade in den Entwicklungsabteilungen. Und die Aufgabe der Manager ist eigentlich, du musst diesen Druck durch den Kaffee, den die Leute sind, leiten. Aber wenn du den Druck zu hoch machst, dann spritzt dir alles über, deine Abteilungen fliegen auseinander, die Teams haben Streit. Und wenn du zu wenig durch gibst, dann dauert alles viel zu lange, es schmeckt sauer, was am Ende rauskommt. Diese Druckjustierung und Druck jetzt nicht, bitte nicht falsch verstehen wie Managementdruck, natürlich gibt es sondern eher Innovationsdruck, der Druck zur Weiterentwicklung. Wir müssen uns weiterentwickeln. Das ist so die Stellschraube, wo man dran drehen muss. André Neubauer: Das ist Endeffekt eine Opportunity, die jedes Unternehmen hat. Und die Organisation, die das besser meistert, hat wahrscheinlich ... auch einen elementaren Vorteil. glaube auch, kleinere Organisationen an der Stelle oder gut gemanagte Organisationen wahrscheinlich da auch den einen oder anderen Vorteil haben. Robert: Das ist extrem wichtig, was du sagst, jetzt ist wie so ein Great Reset. sind alle irgendwie noch mal gelevelt und müssen alle für sich lernen, erfinden, bauen wir Stand heute, nicht im nächsten Jahr, Stand heute Software. Und wenn du bisher im Rück... zurücklagst, nicht die Top-Leute hattest oder einfach ein Innovationsproblem oder ein betriebswirtschaftliches Problem oder die Summe davon, dann hast du hier eine gigantische Chance, aber du musst halt ran. Und umgekehrt ist es bei den anderen, bei denen immer alles super lief in den super fetten Jahren, halt genauso. Die haben jetzt auch eine schöne Chance. Aber ich ran müssen alle. André Neubauer: Absolut, glaube damit haben wir wahrscheinlich schon einen Outtake. Ran müssen wir alle oder müssen alle. Ich fasse mal für mich so zusammen, ich glaube es ist gar keine Frage, ob du das Thema positiv siehst, eigentlich eher, wie man diesen enormen ongoing Change hat eigentlich eher bewältigt. Wenn ich es LinkedIn richtig gelesen habe, ihr habt ja noch nicht so viel recherchiert, aber ich habe so gedacht, Thema, haben wir ja rausgesucht, das Thema könnte spannend hier für heute auch sein. Du hattest, hast dann mal was zu Elastic Loop quasi geteilt. Magst du jetzt mal ein bisschen so einführen, was das ist, worum es darum geht? Und genau, denke, da ergibt sich die eine oder andere Frage dann noch. Robert: Hm. Ja, super gerne. Ich habe halt letzten Herbst mal drüber nachgedacht, was könnte man denn organisatorisch und strategisch mal tun oder in welche Richtung müsste man denken, ⁓ dem jetzt irgendwie Herr zu werden? Weil wenn man immer nur auf der Taktik Ebene im hat in den Teams, der Teamführung, in der Abteilungsführung, dann ist man immer nur bei Toolfragen, best practices, ansetzen, ausprobieren, experimentieren. Das ist alles super wichtig. Aber die strategischen Fragen kamen mir immer so zu kurz. Und die muss man sich aber stellen und man muss sie auch nicht alle beantworten. Deswegen habe ich versucht auf der Code Talks einen Vortrag zu geben im Herbst in Hamburg, in dem ich den Leuten auch am Anfang sagte, Leute, ich bringe mehr Fragen als Antworten Kilt mich nicht dafür, aber wenn ich jetzt sage, ich hätte hier alle Antworten, würde ich auch Quatsch erzählen. Deswegen habe ich denen einfach nur strategische Fragen, die ich mir gestellt habe, ⁓ die Ohren gehauen und danach mit denen darüber gesprochen. Und dadurch, dass ich das getan habe, ist so ein Ding erwachsen. Ich nenne das den elastischen Loop, die Elastic Loop. Das ist so eine Hypothese, ich habe, dass die meisten Teams auch mit den besten Modellen, mit den besten Agentic Harnesses nicht den großen Hebel haben, weil sie nicht flexibel die iterativen Loops durchlaufen können mit dieser Technologie. Gebt man Beispiel, die meisten Teams, die ich so sehe, die sind immer noch, und das ist gar nicht abwertend gemeint, das ist nur eine Feststellung, Peter Steinberger, jetzt überall in Nachrichten, arbeitet ja selbst nur so. Die sind alle in einem sehr engen Loop mit den Agenten unterwegs. Die sagen, baue bitte dieses Feature, jeder Skala. Steuern, zwischendurch Feedback, iterieren in einem sehr engen Loop mit den Agenten. Push das, machen Merchrequest, Merch das. Nein, da musst du, das meinte ich anders und so was. Und ich dachte aber, wenn man diesen Hebel mal wirklich in der Organisation ernten will, dann ist meine Hypothese, kann man nicht alle Aufgaben in diesem engen Loop machen, weil die Technologie könnte ja, die hat ja eine gewisse Autonomie. Die kann ja auch autonom Dinge umsetzen. Und welche sind das jetzt? Was ist für die Organisation okay in einem losen Loop? Also da startet ihr morgens irgendwie Codex, an das ein Feature umsetzen, abends guckt ihr euch das an, dann gebt ihr vielleicht nochmal Feedback und dann wird das gemerged. Oder es wird einfach gemerged. Oder wenn man auf diesen losen Loop Ende des Spektrums denkt, dann kommt man auch zu selbst heilenden Systemen. Wer fixt denn in Zukunft noch Bugs? Oder ist es vielleicht nicht okay, wenn ein Agent in der Produktionsumgebung ⁓ sich die ganze Zeit Log-Dateien anguckt, die Gesundheit der App und einfach selbst Bug fixes vornehmen? Ich vermute, so was wird passieren, wenn ich jetzt eine Prediction machen müsste. Aber ist die Organisation darauf vorbereitet? Und die meisten sind das eben nicht. Und deswegen habe ich diesen Elastic Loop. aufgesponnen und meine hypothese ist, vielleicht liege ich auch falsch, schauen wir dann mal, dass die Organisationen eigentlich in der Lage sein müssen, dass die Teams auf diesem elastischen Loop autonom entscheiden, es ist okay, dass ich das jetzt einem Agent gebe und es ist okay, dass ich mir nicht jede Zeile, die der produziert hat, anschaue und das Ding kann trotzdem umgesetzt werden. Und am anderen Ende, kleinen Ende des Spektrums, machen halt alle weiter wie bisher und alles dazwischen. Das muss eine Organisation hinkriegen. Weil sonst hat man halt weiterhin deine Software-Engineers, die halt vielleicht zehnmal so viel Output liefern wie früher, vielleicht auch nur zweimal so viel. Nur zweimal so viel ist ja auch verrückt. Aber immer in einem sehr engen Loop. Aber ich habe die Vermutung, wenn man nur in diesem Modus arbeitet, erntet man nicht alle Vorteile, die man ernten könnte. Man muss ja eigentlich den kontrollierten Kontrollverlust wagen, weil sonst wird die Excel-Tabelle in der Besenkammer einfach nicht abgelöst werden durch eine coole App, weil sich das niemand aus dem Backlog von unten zieht. Auch wenn jetzt alle 10x machen, dann zieht trotzdem keiner die Excel-Tabelle aus dem Backlog, die man jahrelang weiter nicht gezogen hat in seinen Sprint-Plannings, weil es eben nie Priorität hatte. Wenn man da jetzt Kontrolle abgibt und das Agenten machen lässt, vielleicht ist es okay. weil die Excel-Tabelle hat ja so auch nie jemand gereviewt. Das ist die Vermutung, ich habe. André Neubauer: Ich fass mal f- Ich versuch das mal zu vereinfachen. du sagst, dass man eigentlich gar nicht nur den Kontext intim betrachten darf, sondern eigentlich das Gesamtkonstrukt, wie entsteht Software oder ja, im Endeffekt den gesamten Lifecycle, oder? Robert: Hm. Ja, ich würde sagen, man muss jetzt, also wenn wir ehrlich sind, ich sage das auch immer im Engineering Leaders, ihr müsst den gesamten Software Delivery Lifecycle umbauen. Also wenn ihr jetzt nur an der Code Erstellungsphase dieses Delivery Cycles arbeitet, dann wird schon viel passieren und da gibt es auch genug zu tun. Aber eigentlich muss man in dem gesamten Development-Lifecycle ja ran, weil überall da können Agenten wirken. Und ich glaube, den muss man umbauen, wenn viele Teams haben zum Beispiel irgendwie so Team-Guidelines. Alles, was auf Main landet, wird automatisch deployed. Deswegen braucht alles, auf Main landet, vorher ein Merch-Request, den sich ein Mensch angucken muss. Das ist Voraussetzung. André Neubauer: Ja. Robert: Das hat ja vielleicht in der Vergangenheit gute Gründe, aber wenn du das heute so machst, hast du halt einen riesen Bottleneck. Wann ist es okay, davon wegzugehen und haben die Teams das Vertrauen, das zu tun? Dürfen die Leute überhaupt selbstentscheiden, ich setze mich über die Regel hinweg? Gibt es die Regel in Zukunft überhaupt noch? Weil ich einfach mal was Cooles baue, was mir niemand in Sprint Planning gezogen hat, was ich aber glaube, was coolen Wert stiften könnte für das Team, für die Fachabteilung, für was auch immer. Was ist denn dieses Umfeld? Wie sieht das aus? Was ist? Haben die Leute das Vertrauen, das zu tun? Kriegen die dann? Müssen die Repressionen fürchten, weil sie vielleicht eine coole App gebaut haben, von der sie keine einzige Zeile gelesen haben? Das sind ja die Fragen. Wie enables die Leute dahin, dass sie dieses Vertrauen auch aufbauen? Weil die, die haben von oben Druck, die haben von der Seite Druck, die haben von ihren Peers Druck. Vielleicht ist da ein Senior Engineer, der sagt, André Neubauer: Okay. Robert: Das kannst du nicht machen, du kannst dir nicht einfach Slop einchecken. Und dabei hätten die Leute vielleicht wäre was Cooles geboren worden, was es dann einfach nicht gibt. Und da geht's eigentlich drum, finde ich. André Neubauer: Hast du eine Meinung oder eine Idee, ob solche Environments eigentlich Standardisierung brauchen oder inwiefern diese restriktiver eigentlich sind? Weil gerade hast du über Freiheit gesprochen. Ich frage mich halt, also mit den Beispielen, die du auch gerade genannt hast, inwiefern diese Setups eigentlich starrer sind als das, was wir heute halt irgendwie haben. Robert: Mmh. Das müssen jetzt alle rausfinden. Am Ende wird es vielleicht Frameworks geben, die jetzt am Horizont aufploppen, die man adopten kann, die dabei helfen. Aber das ist halt gerade alles in Entwicklung. Mich freut mich, auch irgendwie Teil von sein könnte, muss aber nicht. Aber eigentlich muss man sich ja so einen Peter Steinberger, der kann natürlich sagen, natürlich shippe ich Code, den ich nicht gelesen habe. Der ist ab André Neubauer: Hmpf! Robert: Das kann aber vielleicht ein Team in der Bank nicht. Oder die könnten es, aber wann ist das okay? Und alleine bei der Frage gibt es keine Antworten. André Neubauer: Da bin ich bei dir, aber meinst das ist in der Organisation, also in einer Firma, klar, jetzt immer noch abhängig in welchem Kontext ich unterwegs bin, aber also ganz konkrete Frage, die ich mir ab und zu stelle, ist halt, inwiefern dieser Tech Stack quasi engineers halt eine gewisse Flexibilität lässt. Du kannst quasi Cloud Agents neben Codex, neben XYZ halt irgendwie laufen lassen oder braucht es da mehr Uniformität, das Gesamtkonstrukt, das ja eine enorme Komplexität, die da auf uns zukommt, halt überhaupt noch bewältigbar ist. Robert: Hm. Ja, das wäre halt schon wieder die Taktik-Ebene, die auch super viel von diesen Fragen aufwirft. Standardisierung. Standardisieren wir auf Tools, standardisieren wir die Harnesses, indem wir Tooling bereitstellen, indem wir Agent Skills bereitstellen. Alleine das ist ja wichtig. Wenn du mehrere Teams hast, die an einem großen Ganzen im Unternehmen mitarbeiten, dann willst du ja agentische Fähigkeiten im Unternehmen verteilen. Coding Guidelines ist so das allerlangweiligste. Aber Domänenwissen, wie verteilt sich das denn in die Agenten? Da muss da eigentlich dann an deine Plattform ran. Dass irgendein Cloud Code oder ein Codex sich aus der Plattform, wie auch immer, die aus so Markplatz Skills installiert und die up to date hält. Und in diesen Skills steht dann kodifiziertes Domänenwissen oder Engineeringwissen drin oder Architekturwissen. Das braucht aber auch nicht jeder. Deswegen sind Skills für so was irgendwie ein schönes Ding, das zu standardisieren, weil der Agent autonom entscheiden kann, ich lese den Skill jetzt, ich brauch den jetzt oder ich brauch's eben nicht. Ich arbeite vielleicht gerade nicht an der Kreditberechnung, also muss ich das Wissen dazu jetzt nicht drin haben. Ich glaube, diese Skills können auf der Taktikebene den Teams eigentlich helfen. Kodifiziertes Wissen, entweder Domänenfachwissen oder Engineeringwissen. verteilen, ohne dass sie das immer per Hand wie die, also wie wir es vor zwei Jahren gemacht haben, alles wie die wahnsinnigen in Chat-GBT, in den Chat-Copy-Pasten, das kann ja nicht so weitergehen, das ist ja das größte aller Bottle-Nex. Deswegen muss der Agent das ja selbst entscheiden können und auf dieser Ebene finde ich das ein extrem mächtiges Konzept. Aber auf der strategischen Ebene darüber muss ein Unternehmen finde ich, oder die Engineering Manager müssen das tun mit den Teams zusammen. Wann ist es denn okay, Code zu shippen, den man nicht gelesen hat? Da kann die Frage helfen, wie verletzlich ist denn die Domain, an der man arbeitet? Ist das jetzt eine Reaktorsteuerungssoftware? Vermutlich würde ich da den Code, der produziert wird, gelesen haben und verstanden haben. Aber bei der Excel-Tabelle in der Besenkammer die Wert im Unternehmen seit 20 Jahren stiftet, die niemand versteht, die man besser verteilen könnte, die man freundlicher gestalten könnte, die coole Features haben könnte, die kann aber niemand umsetzen, weil der Kollege schon lange in Rente ist, der Visual Basic Script darin implementiert hat. Die kann man sich doch jetzt auch nehmen. Und derjenige oder diejenige, die das baut, aus freien Stücken oder im Sprint Planning, die muss doch entscheiden können, wir hätten das nie gehabt, also ist es okay? wenn ich hier was schippe, wo ich nicht jede Zeile gelesen habe. Also diese Domänenverletzlichkeit ist, glaube ich, eine ziemlich wichtige Frage, die man sich stellen muss. Oder wie kann ich Kontext überhaupt geben? Also kann ich überhaupt in den Modus gehen, wo Codex über Nacht acht Stunden ackert? Das kann Codex ja mittlerweile und andere Agents können das auch. Das sind die Modelle. Die können das jetzt. Und mir am nächsten Morgen habe ich was Tolles und gucke mir das aber nicht an. Was braucht dieses Ding denn an Kontext? Bin ich in der Lage, dass sich das Ding das selbst holt, weil es Systemzugriff hat? Confluence-Zugriff, das ist André Neubauer: Ich Robert: Weiß ich nicht, nächstes Jahr schicken die Dinger wahrscheinlich Mails an deine Kolleginnen und Kollegen und stellen denen drei wichtige Fragen zu der Systemarchitektur. Und holen sich das Wissen rein. Aber wenn ich sowas... Das ist auch eine wichtige Frage, die ich stellen muss. Ist der Agent in der Lage, sich den wichtigen frischen Kontext selbst zu holen oder muss ich ihn geben? Das entscheidet dann auch, welche Loop-Größe fahre ich. Also fragen müssen die sich die Teams eigentlich stellen, finde ich. Und wenn man sich die stellt, das sollte man auch, sollte nicht nur der Engineering Manager oder die Managerin tun, sondern gemeinschaftlich, das sind die produktivsten, wichtigsten Meetings, die man gerade so haben kann, aus meiner Wahrnehmung, bei dem Thema. Oder wo lebt bei uns überhaupt Vertrauen? Wo lebt das? Sebastian: Bei wie vielen Firmen werden denn solche Fragen schon diskutiert? Deine Meinung nach. Robert: Bei sehr vielen. Also die Nachfrage ist kompletter Wahnsinn. Ich glaube, man könnte heute überlegen, ein Unternehmen zu gründen, was nur Agents engineering Beratung macht. Und man würde nicht genug Leute einstellen können, ⁓ die Nachfrage zu bedienen. Sebastian: Das ist richtig. Genau da ist allerdings auch die Frage, was man da, also ich meine, wer kann predikten, ob das, was man heute erzählt, in zwei Monaten noch gilt oder in, also ich meine, klar, die strategische Ebene, die ist natürlich ein bisschen längerwertig, aber wenn man wirklich in das Engineering reingeht und sagt, irgendwie eher der der Loop sozusagen, wann nämlich welchen Loop, das wird im Flux sein. Also sprichen für immer riskantere Dinge wird sich herauskristallisieren, kann man Agents alleine laufen lassen. wie managt man das sozusagen? Wie misst man auch den Progress? Also wie viel Risiko man da geben kann? Robert: Hmm. Mmh. Sebastian: Genau, aber wichtig ist, glaube ich, erst mal anzufangen, überhaupt rauszukommen aus diesem, ich nutze irgendwie GitHub Copilot oder Chetchu PT, sondern ich gebe einem Agenten mal eine dedizierte Aufgabe, lasse den mal rödeln und gucke mir dann das Ergebnis an und arbeite dann wirklich mit dem Ergebnis weiter. ist so ein bisschen, da habe ich das Gefühl, dass, in der letzten Folge hat Max Andrezag gesprochen, dass wir wahrscheinlich ja auch in einer Bubble sind und es immer den Longtail gibt, wo es eben Robert: Hm. Sebastian: noch gar kein Thema ist, überhaupt agentisch zu arbeiten. Robert: Absolut. Wir haben ja auch Kunden aus regulierten, stark regulierten Branchen. Da ist Cloud einfach verboten. Und die Frontier-Intelligenz ist aber in der Cloud. Wenn ich dann rumrenne auf Konferenzen und bei Kunden und sage, ihr müsst die Frontier-Modelle benutzen, egal wie scheiße wir das mit der digitalen Souveränität alles finden, Aber wenn eure Teams jetzt im großen Maßstab lernen, wie gut ein Mistral-Dev-Stral-Modell ist, dann formt das ja die Wahrnehmung einer Basistechnologie völlig falsch. Weil die Frontier ja eigentlich schon viel weiter ist. Und alleine sowas ist voll gefährlich gerade. Ich finde es auch nicht toll, dass es so ist. Ich würde mir wünschen, wir hätten europäische Frontier-Intelligenz. Jörg sagt ja, das wird irgendwann auch alles lokal verfügbar sein. Vermutlich ist das ein Skaleneffekt. Aber was mache ich jetzt heute da draus? Und die stehen halt vor wirklich Fragen. Welche GPUs stellen sie sich in Keller? TCO-Analysen machen wir dann. Was kostet sowas? Wann schalten wir die nachts ab? ⁓ Kosten zu sparen, da geht es schnell ⁓ fünfstellige Summen für kleine Teams im Monat. Und wenn ich nachts was abschalte, ⁓ Kosten zu sparen, Wo bin ich denn denn agentisch? Dann kann ja auch kein Agent mehr nachts was machen. Und so Fragen kommt man jetzt irgendwie hin. Sebastian: Sorry, musste mich erst anmuten. Was macht man, also was nutzt man da, wenn man sich eigene GPUs in den Keller stellt? Weil du sagst ja eigentlich Frontier Models, ne, jetzt würde ich sagen, sind gerade diese Woche drei, noch kurz vorm chinesischen Neujahr wahrscheinlich drei chinesische Frontier Models rausgekommen, die meines Erachtens nach alle auch als Open Source Models verfügbar sind, ne. GLM, dann Minimax und Robert: Hm. Hm. Sebastian: jetzt quen, glaube ich, das neueste von genau installiert man sich dann so was und nutzt dann OpenCode als Harness oder Robert: Spenden auf. Ja, da fängt es schon an. Was ist das aktuell Beste? Und das wechselt ja alle zwei bis vier Wochen. Die Größen variieren total, die gesamte Modellgröße, aber auch die Inferenzgröße. Also die Parameter, die in der Inferenz aktiviert werden, das muss man alles in seine TCU-Analyse einfließen lassen. Wenn ich mich jetzt für einen Quen mit irgendwas 400 Milliarden Parametern entscheide, In welche Grafikkarten Vrams passt das denn? Muss ich das runterquantisieren? Da hat auch keiner richtig Erfahrung, was passiert, wenn ich einen Quen von letzter Woche auf, weiß ich nicht, vier Bit runterquantisiere. Allein diese Quantisierung ist ja vollkommen im Flux. OpenAI, bei OpenAI fällt alles aus. Vier Bit vom Stapel mittlerweile. Aber das war vor einem Jahr auch noch anders. Das ist vollkommen verrückt. was man da sieht. Und da muss man ja auch die Modell-Erfahrung haben. Da muss man sagen, okay, eine H100 kriegt er gerade nicht. Also da sind die Wartezeiten halt lang. Wer betreibt die denn im Keller? Habt ihr damit Erfahrung? Inferenzbetrieb wird eine für Systemadministratoren, glaube ich, wenn man nur mal in diese Ecke unserer Branche guckt, ein VLLM als Inferenzlösung betreiben, wird eine Fähigkeit, die sehr André Neubauer: Ja, gibt wahrscheinlich genug Szenarien, wo man an der Stelle nicht dran vorbeikommt. Robert: sehr gefragt sein wird und auch schon ist. Also für die Sysadminst, die zuhören oder DevOps-Engineers, da würde ich jetzt mich vollkommen reinstürzen, weil das ist für Deutschland auch im Public Sector natürlich enorm. Sebastian: wenn man es vermeiden kann, dann nimmt man einfach ohne groß capex, nimmt man einfach Opex in die Hand und nutzt das latest Frontier Model und entsprechend Codharnes. Alright, mal versuchen den Kopf wieder zurück auf den Boden zu bekommen ein bisschen. Wir sind jetzt auch schon relativ nah am Ende der Episode. Wir haben am Schluss immer noch so zwei Abschlussfragen. Und die eine ist so ein bisschen reality check also was sind so WTF Momente, wo die KI an etwas scheitert, was was ja eigentlich eine Kleinigkeit sein sollte, wo man wo du auch überrascht bist so wie wieso klappt das jetzt nicht gibt's die. Robert: Mmh. Die gibt es immer noch zuhauf. Das ist ja die die zerklüftete Grenze dieser Technologie, die sich alle zwei Wochen verschiebt und die niemand endlich kennt, weil es Basistechnologie ist. Ich habe ganz einfache Momente im Alltag, wo ich denke, das kann doch jetzt nicht wahr sein. Du könntest mir quantenmechanische Berechnungen durchführen in deinem Latent Space und die wären wahrscheinlich richtig. Aber du kriegst das Partu nicht hin. dieses bescheuerte Dokument mal zu Ende zu lesen, was ich dir gebe, weil dein reinforcement learning dich so darauf getrimmt hat, sofort umzusetzen. Und du machst immer noch die typografisch falschen Anführungszeichen, obwohl ich dir schon hundertmal gesagt habe, du machst immer noch die all sowas, so total blöde Sachen. Aber das ist auch modellabhängig. Da hilft auch Intuition. Wenn ich Codex oder den GPT Modellen was sage, dann wird das befolgt. Das ist fast schon deterministisch, möchte ich jetzt nicht sagen. Aber die haben einen Instruction Following, da habe ich auch mal vor KI Jahrzehnten, vor ein paar Monaten zu geblockt. Bei GPT 5, das ist wirklich der Wahnsinn. Also ich habe 500 Zeilen langes Prompt gehabt und es wurde jede Instruktion, da war sogar noch Routing drin befolgt. Fast wie Code gewesen. Aber was die Anthropic Modelle daraus machen, ist eben was vollkommen anderes. Ich will nicht sagen, die sind schlechter, die sind besser, die haben einfach unterschiedliche Anwendungsfälle. Und da sind wir wieder beim Anfang. Würde ich einen Clot über Nacht irgendwas machen lassen? Aus meiner Erfahrung irgendwie in so einer Anwendung irgendwie nicht, aber viele Teams haben damit Erfolg. Ich würde es mit Codex machen lassen, weil das einfach der Zurückhaltende, der erst mal eine halbe Stunde nur liest, bevor er anfängt. Das macht eben Claude nicht, aber am Ende liegt es auch am Prompting so ein bisschen. Aber das sind so Schrulligkeiten, wo ich mir denke, das kann doch jetzt nicht wahr sein. Du kannst so tolle Sachen und dann versagst du hier bei denen. Sebastian: Absolut. Wir haben noch eine zweite Frage in dem Segment, was so der heißeste Kram ist. Da habe ich das Gefühl, haben wir gerade schon viel abgeklappert. Ich vermute mal OpenClaw mit all seinen Fähigkeiten. Genau. Und du hast auch schon so ein paar Predictions geteilt mit uns Richtung Elastic Loop und ja, auch das Modelle wahrscheinlich. Also selbst heilende Software sozusagen, dass Modelle eben auf Lockfiles schauen und selbst in Aktion treten, wenn irgendwas schräg aussieht. Gibt es noch irgendeine andere Prediction, die du unseren Hörern mitgeben würdest gerne? Robert: Mh. Ja, ich habe mich bisher immer super mit Vorhersagen zurückgehalten, weil ich auch kein Futurist bin. Das ist ja auch eine eigene Disziplin. Aber ich habe gesehen, wenn man hier Vorhersagen wagt, das fällt einem alles auf die Füße. Entweder weil man innerlich falsch lag oder weil man den Zeithorizont völlig unterschätzt hat oder überschätzt hat. Deswegen, ich empfehle immer auf diese Metakurve zu gucken von METR, dieser Organisation, die Tasklänge, die Agenten sind in der Lage sind zu bewerkstelligen am Stück, mir anzugucken, weil eigentlich ist die Tasklänge das einzige KPI, was wir kennen sollten. Weil die halt, die setzt Use Cases frei. In Security Review einer großen Anwendung konnte ich einfach letztes Jahr nicht gut machen, weil die nach einer halben Stunde die Geräte gemacht haben. Dann haben sie Fassung verloren, konnten die Tools nicht mehr benutzen, Kontext ist übergelaufen. Ich glaube, das kann man ja heute und sehr, gut. Wenn ich Vorhersagen treffen müsste, ich sagen, dass dieses Thema Kontextfenster passé sein wird. Nicht, weil die Kontextfenster einfach immer größer werden. André Neubauer: Fein. Robert: Man könnte ja sagen, die fangen jetzt alle mit ihrer Millionen Tokens an, aber im Ende gibt es News Cases, wo eine Million Tokens auch nicht genug sind, sondern einfach ⁓ die Architektur, Innovation der Compaction. Also Codecs kann ja auch acht Stunden laufen, weil es immer kompaktiert zwischendurch. Das macht Cloud Code ja mittlerweile auch. Viel wird auch... Subagenten, sind ja alles Optimierungen des Kontextproblems. Deswegen, glaube, dieses Kontext Fensterproblem wird im Großen und Ganzen im Engineering Alltag verschwinden. Wie das technisch gelöst wird, glaube ich durch Innovation. Da will ich auch keine genauen Vorhersagen treffen. Aber das wird ein sehr, sehr großer Hebel für die meisten. André Neubauer: dass deine prediction ist dass keine prediction eigentlich stimmen kann Robert: Nee, es ist ja auch ein beliebter Sport mittlerweile. Auch Simon Willeson macht ja letztes Jahr immer zu Predictions Hinreißen in dem Oxide-Podcast. Da hat er auch welche gemacht. hat er gesagt, dass Ende diesen Jahres, ich weiß gar nicht mehr, was er prediktiert hat, und das ist dann im Januar schon passiert. Und das ist, glaube ich auch, wenn man auf einem Exponenten steht, der ja immer noch einer ist. Dann hat er halt die Eigenschaft, dass irgendwann alles immer schneller geht und das sehen wir ja seit Ende November. André Neubauer: Ciao! Sebastian: Genau, aber die Prediction, die mit dem Kontext sozusagen mich trotzdem normal festhalten, ich glaube, die macht total Sinn. Der Kontext wird einfach immer weniger ein Thema werden, bis es de facto verschwindet als Thema, glaube ich auch. Robert: Das kannst du ja auch normalen Menschen nicht zumuten. Das ist ja ein vollkommen UX-Albtraum. Erinnert ihr euch noch an die Clor.de und Chat-GPT.us, die gesagt haben, die Unterhaltung muss hier aufhören, du musst bitte einen neuen Chat starten? Das kannst du einem Engineer zumuten, der versteht das vielleicht, worum das so ist. Aber wenn die Leute dieses Jahr, nächstes Jahr alle mit persönlichen Assistenten in der Hosentasche rumrennen, dann ... André Neubauer: Ja. Robert: tippen die in WhatsApp nicht slash new oder slash reset. Das muss automatisch passieren. Das muss man halt lösen. Das ist ja jetzt auch durch Compaction angegangen. André Neubauer: Ich glaube, der UI-Ebene, da bin ich bei dir, also, würde man sagen, beim Endnutzer, das, mich tatsächlich gerade, wie soll ich sagen, noch ein bisschen Fragen zurücklässt, ist die enorme Komplexität, sich quasi ergibt. Wir heute so ein paar Themen gestriffen, technologisch, organisatorisch, ethisch. Ich finde, Robert: Hm. André Neubauer: Diese Komplexität ist viel schwerer zu greifen als im Kontext. Window ist tatsächlich ein UI-Problem und wirkt dahingehend klein. Aber ich weiß trotzdem, was du meinst. Robert: Ja, es ist vor allen Dingen ein Problem, was auch in dieses KPI-Reihen schießt, der Tasklänge, weil man muss ja den, selbst wenn die Modelle es können, diese Kohärenz aufrechtzuerhalten, acht Stunden zu arbeiten mit vielen, vielen Tools, wenn das Kontextproblem nicht gelöst ist, dann können die das 100 Stunden machen, dann bleibt das das bottleneck, deswegen Da zahlt irgendwie so alles drauf ein, nicht nur das Reinforcement Learning, sondern auch einfach solche Optimierungen. Sebastian: mich zu. Vielen Dank, Robert. Es war sehr spannend. Hat sich gelohnt. Robert: Fand ich auch. Danke, dass es klar sein durfte. André Neubauer: sehr tief. Sebastian: gerne gerne Herzlich willkommen zur fünften Folge unserer neuen Staffel von HMZE Beyond Vibe Coding, der Podcast, in dem wir den fundamentalen Change in der Softwareentwicklung begleiten. Ich bin Sebastian Heidemeyer zu erben, CTO bei NorthIO. André Neubauer: Und ich bin André Neubauer, CTPO bei Trusted Shops. Wie immer, schön, dass ihr wieder da seid. Heute haben wir einen Kollegen von Jörg Müller aus Folge 2 zu Gast. Das ist der Robert Laser, auch von InnoQ. Und ich kann schon mal sagen, das wird richtig, richtig tief. Verrückter Podcast. Aber wir starten mit einem Thema, was gerade in aller Munde ist. Sebastian: genau, wer sich eine folge zu openclaw wünscht, der kommt heute wirklich auf seine kosten. wir sprechen zu beginn intensiv über openclaw und wie robert openclaw schon auch sehr sehr intensiv nutzt, kommen aber später auch zu unserem kernthema und auch da wird es wirklich intensiv und gibt viel stoff zum nachdenken. deswegen macht euch bereit, freut euch auf diese folge.