Latest / AI Report / Anthropic: de laatste uitvinding komt in 2028 + Microsoft Copilot is opeens goed geworden?

Transcript

Anthropic: de laatste uitvinding komt in 2028 + Microsoft Copilot is opeens goed geworden? · AI Report

• 0:00
  Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.
• 0:09
  Met deze week: Big Tech pompt dit jaar $ 725 miljard in AI, $ 725 miljard. Google, Amazon, Microsoft, Meta, allemaal voeren ze hun inzet verder op.
• 0:25
  En ondertussen, uh, schat Anthropic medeoprichter Jack Clark in dat de kans ongeveer 60% is dat we voor 2029 AI hebben die zichzelf kan verbeteren. Een AI-systeem dat zelf een nieuw AI-systeem bouwt. Wat gebeurt er dan?
• 0:42
  En er is een AI-project uitgekomen deze week waarvan Wietse en ik even stilvielen, omdat het een inkijkje geeft in hoe we met computers gaan werken in de toekomst. En dat wordt heel anders. Dat en meer in AI Report.
• 0:55
  Veel plezier! [muziek] Wietse, ik was vorige week dus in Shenzhen. Ja, je was even een weekje weg. Ik was even een weekje weg.
• 1:11
  Het was, dat is een grote stad in, uh, het, uh, zuidoosten van China en, uh, dat is de soort van tech hoofdstad van het land. Een beetje het Silicon Valley van China zou je kunnen zeggen.
• 1:24
  Fantastisch, want het zijn van die plekken in de stad. Sowieso, DJI zit daar, Bamboo Lab zit daar. Al die elektrische, Xiaomi heeft zijn hoofdkantoor daar. Al die grote Chinese techmerken.
• 1:35
  Maar het is dus niet die, het is die glitter en glamour in grote gebouwen van glas wat er echt uitziet als, als Silicon Valley.
• 1:41
  Oprecht, gewoon even aangeharkt, even veel parken en dezelfde 25-jarigen met lanyards in, in hippe kleding.
• 1:50
  Die dan, uh, met dat, met hun DJI badge het, het pand uitstromen om dan ergens in de buurt te gaan lunchen zullen we maar zeggen.
• 1:57
  Maar ze hebben ook het rauwere hardwaredeel zit daar, dus je hebt gebouw na gebouw na gebouw met verdieping na verdieping na verdieping, met kleine stalletjes waar mensen niks anders doen dan ramgeheugen verkopen.
• 2:10
  Nou, met hen gaat het goed, maar ook processorventilators of hele specifieke chipjes. En al die standjes zitten naast elkaar en in al die standjes zijn ze aan het handelen en zijn ze aan het solderen.
• 2:22
  Of zijn ze iets aan het, ja, iets. Je merkt dus: dit is het, het basis-ecosysteem waar al die bedrijven die er omheen zitten, waar dus ook, weet je, de iPhones gemaakt worden en waar, waar Huawei hun, hun dingen maakt.
• 2:37
  Dit is de bron. Dit is zo ver, we, als je even voorbij het, het, het, de, de, de raw earth metals kijkt. Dit is een soort van de basisbestanddelen waar de mensen elkaar ontmoeten om daar de nieuwe dingetjes te maken.
• 2:50
  Het was zo vet om te zien, echt the belly of the beast. Ik had een, een YouTuber gezien die probeert dan in Shenzhen een Apple Watch bij mekaar te krijgen, dus die- De onderdelen. Ja, tuurlijk.
• 3:00
  Alles als soort van, is het. En dan gaat hij dus lopend, is ook nog het idee van: ik moet lopend lukken om alle stukjes van een Apple Watch en dan uiteindelijk een watch te kunnen assembleren. En dat lukt dus ook. Ja.
• 3:10
  Van de draai, van de digital crown tot en met het glas, tot en met de enclosure et cetera. Al die ministukjes zijn daar in essentie op loopafstand aanwezig.
• 3:20
  En die gaat dan echt van marktje naar marktje, naar garage, naar garage. Ja. Want het is allemaal en heel mooi en ook minder mooi. Ja. Fysiek, zeg maar. Ja.
• 3:27
  Maar, ja, dit, dit is ook de machine shops die ze daar hebben om, om ruw metaal te kunnen bewerken. Ja. Magneten in alle grote, uh, [lacht] en alle kleine vormpjes, allemaal op één plek.
• 3:38
  Dit is ook een beetje het verhaal toch? Dat het allemaal daar is. Precies. En, en, dat heeft gevolgen. Want het is niet alleen een nerdenhobby om daar dan heen te kunnen gaan dan dit te kunnen doen.
• 3:47
  Wat natuurlijk in feite weinig praktische voorbeelden heeft, behalve dat er, dat je een goedkope Apple Watch kan krijgen. Dat, wat inderdaad zo is. Er liggen echt
• 3:55
  rij na rijen aan nagemaakte iPhones, die wel echt iPhones zijn en die ook opstarten, maar geen serial number hebben.
• 4:01
  Nou, wel fascinerend, maar ik sprak een, uh, VC die zei: "Ja, dit, dat alles hier bij elkaar zit, is de reden waarom er niets van ons te winnen is als het om hardware gaat.
• 4:12
  Want in Silicon Valley kunnen ze een robot bedenken. Maar reken maar dat al die onderdeeltjes die ze nodig hebben, dat die hier vandaan komen."
• 4:20
  En het verschil tussen een bedrijf dat robots maakt in Silicon Valley of zelfs in Shanghai, wat dan ook ver van Shenzhen is, versus in Shenzhen zitten en een robot maken, is dat je per dag meer iteratie cycles kan doen.
• 4:33
  Want jij wil iets veranderen in je humanoïde robot, in zijn weet ik veel, in zijn rechterduim.
• 4:38
  En dan is het een koeriertje die op een scootertje heen en weer gaat, waardoor je binnen een paar uur een nieuw onderdeel geïmplementeerd hebt, wat anders met een vliegtuig of zelfs met een boot moet komen als het een beetje groot is.
• 4:49
  En hij zegt dus: het is bijna oneerlijk, maar het gaat hier vandaan komen. En de, de soort van feit dat achter zijn kantoor zat DJI.
• 4:59
  Wat natuurlijk, de, eigenlijk in feite een half defensiebedrijf, maar weet je, grootste dronefabrikant. Meer dan de helft van de drones komen daar vandaan. Alle innovatie komt daar vandaan.
• 5:09
  Het is, het bestaat bij de gratie van alles bij elkaar hebben. En ik werd weer meer geconfronteerd met het idee dat we een geduchte concurrent hebben in China.
• 5:21
  Dat is natuurlijk iets wat iedereen uit zijn water aanvult, maar het is niet meer alleen maar de, uh, fabriek van het Westen aan het worden.
• 5:27
  Met, met alle respect, het is ook, het begint ook het R&D-centrum, uh, te worden. En daarmee zijn er weinig onderdelen die nog over zijn voor ons, behalve het consumeren.
• 5:39
  En, uh, ja, ik werd er, uh, ik, ik, ik dacht wel: het is opvallend hoeveel wij praten over Amerika en hoe weinig wij praten over China. Ook in de context van AI, want het gaat daar ook over robot.
• 5:52
  Ik ben op robotbeurzen geweest. Joh, [lacht] het is echt hal na hal na hal na hal met alleen maar robothanden voor humanoids.Uh dit zeg maar er gebeurt wel, er gebeurt meer daar [lacht] dan wij aandacht aan geven.
• 6:03
  Er is een soort China blindheid bij ons twee ook nog. En in het Westen in het algemeen. Ja.
• 6:08
  Ik zit wel te denken dat ook, ik moest meteen denken aan dat Lindy effect wat ik eigenlijk alleen maar ken vanuit, uh, socialmediaplatforms.
• 6:15
  Dus dat is de reden dat Meta, toen nog Facebook, WhatsApp kocht, is omdat zij zien, op een gegeven moment komt er een bepaalde massa.
• 6:23
  Je moet even voor je zien als een, uh, een ronde magneet in een bak vol met kleine ijzeren schilfertjes en dat het dan allemaal naar die magneet toe vliegt zo, hè.
• 6:31
  Dus die magneet pakt als het ware alles op en op een gegeven moment wordt de kracht van de magneet groter aan de hand van hoeveel die oppakt. Een soort attractor state noemen ze dat.
• 6:40
  En dan eigenlijk wat jij nu beschrijft, wat daar in Shenzhen gebeurd is al, niet gebeurt, maar al is gebeurd en nog doorgaat, is dat er op een gegeven moment een soort Lindy effect ontst-ontstaat rondom, nou ja, in dit geval onderdelen, maar ook kennis en R&D.
• 6:53
  Dus het gaat verder dan produ-produceren, maar ook innoveren en nadenken.
• 6:58
  En dat, dat, dat zo'n, als eenmaal, eenmaal zo'n netwerk er staat, zeg maar, hè, in het geval van WhatsApp, de app en de infrastructuur met daar de gebruikers op, maar in het geval van Shenzhen de bedrijven die daar allemaal klonteren op één plek, zeg maar, is het ook heel moeilijk om daarna nog dat op een andere plek te gaan creëren.
• 7:16
  Omdat je, h-, bijna niet zo'n grote magneet in één keer kan bouwen, zeg maar. En dan trekt, vliegt ieder, alles toch na-, heel de tijd naar die andere grotere bal toe.
• 7:24
  Nou en ik hoorde het reclamers vorige week zeggen in deze podcast. Die zei: het is ook niet te onderschatten wat de, de, het ondernemerschap in China.
• 7:32
  Dus individuele founders hebben heel veel invloed op hoe een bedrijf gaat.
• 7:35
  We hebben in het Westen toch een beetje de nadruk als je de krant hier leest of hoe we over, hoe we erover praten in algemene zin, dat, dat we toch een beetje het idee hebben: ja, dit wordt allemaal door de Communistische Partij bedacht en, uh, die, die geven aan wat het tempo is en waar het, waar het geld naartoe gaat en dat is wat er gebeurt.
• 7:49
  Maar er is dus ondertussen ontzettend veel ondernemerschap aan het ontstaan van individuele robotica, uh, oprichters die bedrijven om hen heen verzamelen.
• 7:58
  Die het dus leuk vinden om daar te zitten, terugkomen uit Amerika, terwijl ze, weet je, ook prima daar kunnen blijven wonen en daar veel geld kunnen verdienen met hun startup, maar dus terugkomen naar Shenzhen omdat ze denken: hier is de kans groter dat het gaat lukken.
• 8:11
  Er is toch iets aan, dan is, d-dan is er toch iets aan de hand.
• 8:13
  Bovenop die magneet is het dus ook het ondernemerschap en is het dus langzaam aan het wegbewegen van: wij maken goedkopere producten dan in het Westen, naar: wij maken beter en ambitieuzere producten dan in het Westen.
• 8:26
  En, en reken maar, zij, zij houden de informatiestroom bij ons goed in de gaten. Ze weten precies wat er in Silicon Valley, uh, gebeurt. Andersom not so much. En dat is,
• 8:39
  die asymmetrie is toch onhandig, ook voor ons, zou ik zeggen. Misschien vooral voor ons. Nou ja, goed, dat was, uh, fascinerend. We hebben net iets, heel iets anders.
• 8:48
  We hebben net een webinar opgenomen over Microsoft Copilot en Wytse's grote nieuws in deze webinar, dat kunnen we wel verklappen in deze podcast op de open feed, is dat Microsoft Copilot opeens best wel oké is geworden.
• 9:02
  Ja, ik schrok er zelf van Wytse, maar jij bent gewoon, jij hebt ge-, jij, jij was best positief over Copilot. Ja, ik was verbaasd. Terwijl wij hebben in deze podcast veel grapjes gemaakt over Copilot.
• 9:12
  Die grapjes gaan wel blijven. Ja, oh ja.
• 9:14
  Ik had wel, het heeft er heel erg mee te maken dat er, uh, allerlei dingen beschikbaar zijn onder het zogenaamde, zogenoemde Frontier programma, waarin je een kijkje krijgt in de toekomst.
• 9:24
  En dat kijkje in de toekomst zorgde er bij ons allebei voor dat we dachten: oeh, maar als dit er dan straks wel echt in zit voor veel meer mensen en zo diep geïntegreerd zit in al die data, dan wordt het wel een serieuze speler.
• 9:36
  Ja, maar wat jij dus nu zegt is: er is een Frontier programma, dus er is een geheim programma wat Microsoft heel knap verstopt heeft onder 8.000 verschillende vinkjes in dashboards, waarna je eigenlijk gewoon alle moderne modellen en cowork uit Cloud en Notebook LM van Google en de nieuwste modellen van de, van de Frontier Labs allemaal in, uh, één omgeving kan krijgen.
• 10:00
  En dat is sinds twee weken het geval. Ja, nou, de meeste gave dingen zijn eigenlijk toegevoegd na 22 april. Ja, dit is ineens gebeurd. Heel recent.
• 10:08
  Uhm, wat er wel voor zorgt dat het, het, het Copilot gevoel van: dat is dan een minder krachtig model waar ik bijna niks mag, terwijl ik, uh, in privé veel meer mag, niet meer per se zo hoeft te zijn.
• 10:21
  Straks moet ik wel even bij zeggen. Omdat, ja, wat je al zegt, je moet nog een hoop toestemming vragen en dingetjes aanzetten, maar technisch begint het inmiddels in ieder geval mogelijk te worden.
• 10:29
  Dus voor al die luisteraars die op hun werk Copilot moeten gebruiken en, uh, nu denken: wat de hel, [lacht] waarom heb ik dit niet?
• 10:39
  Uh, je kan naar, uh, webinar gaan op AI Report punt NL en dan kun je de Copilot webinar kijken en dan kun je zien welke vinkjes je moet eisen van je systeembeheerder.
• 10:48
  Uh, dat kun je terugkijken als je betaald abonnee bent van AI Report. De volgende webinar is 21 mei. Zet die alvast in je agenda om 12.00 uur. Dan gaan we het hebben over lokale AI.
• 10:58
  Ja, en dan vooral, uh, eigenlijk de combinatie van: hoe kan ik met niet lokale AI, dus cloudmodellen die heel krachtig zijn, tooltjes maken en dingetjes maken die ik daarna lokaal kan gebruiken? Ja, heel vet.
• 11:10
  Ik zie het als een vorm van het inzetten van de grote tech om eigenlijk kleine persoonlijke tech te maken. Ja. Die, en dat is het uiteindelijke doel, je laptop op vliegtuigmodus en toch AI. Ja.
• 11:22
  Ja, lokaal, privacyvriendelijk. Ja, en dat geeft best wel wat mogelijkheden voor als je een advocatenbureau hebt die graag een document controleert, maar dat niet zomaar terecht de cloud in mag sturen.
• 11:33
  Dat je wel de cloud kan gebruiken om voor jou een tool te maken waarmee je dat op een later moment wel kan. En dat is wel een grappige dynamiek. Er kan dus al zoveel. Je moet het alleen maar even weten.
• 11:43
  Straks gaan we naar het nieuws en eerst een boodschap van onze sponsor Moneybird. [muziek] Hoi, ik ben Jeroen, product engineer bij Moneybird.
• 11:54
  Wij bouwen software voor ondernemers dat bankieren en boekhouden een stukje makkelijker maakt. Ik sta hier met Tim, head of Product en Engineering. Elke ondernemer moet bonnetjes en inkoopfacturen wegboeken.
• 12:03
  Hoe hebben wij dat veel slimmer gemaakt? Het klinkt misschien als iets kleins, bonnetjes inboeken, maar het is een taak dat wekelijks terugkomt.En dat repeterende werk, daar is AI heel goed in.
• 12:12
  Wat wij doen is na een betaling sturen wij de gebruiker een herinnering om het bonnetje te uploaden. Wij kijken naar de feitelijke informatie op dat document en zetten het document klaar.
• 12:19
  Wat voor de gebruiker overblijft is een controle stap. Dus de mens blijft altijd in control. En het denkwerk laten we bij de machine over.
• 12:27
  Wat we daarmee bereiken is dat ondernemers niet naar Moneybird gaan voor het boekhouden, maar om inzicht op te halen voor hun bedrijf. Technisch indrukwekkend in ieder geval. Hoeveel tijd scheelt het ondernemers?
• 12:37
  Nou verwerken miljoenen facturen per maand en we zien dat 90% daarvan volledig goed gaat. Voor de één is dat minuten, voor de ander is dat uren aan tijdsbesparing. Dus lastig om naar één getal te drukken.
• 12:48
  Bedankt voor het delen Tim. Meer lezen over hoe wij AI inzetten? Kijk op Moneybird.nl/AI report. Meld je aan via de link en krijg honderd twintig dagen gratis. De kwartaalcijfers van de grote techbedrijven zijn binnen.
• 13:04
  Google, Amazon, Microsoft en Meta geven dit jaar samen $ 725 miljard uit aan AI-infrastructuur. Dat is, hou je vast, 77% meer dan vorig jaar.
• 13:17
  En vrijwel het hele bedrag gaat naar datacenters en geavanceerde chips van, in de meerderheid van Nvidia, die daarin draaien.
• 13:24
  Microsoft verhoogde zijn jaarbedrag naar $ 190 miljard, Meta naar $ 145 miljard, bijna het dubbele van vorig jaar. Google naar $ 190 miljard en Amazon houdt vast aan een jaarbedrag van zo'n $ 200 miljard.
• 13:39
  Ongelooflijke bedragen. En die bedragen, die miljarden, zijn de reden dat je ChatGPT, Claude en Gemini überhaupt kunt gebruiken.
• 13:47
  Want zonder die gigantische serverparken bestaat er helemaal geen AI die je spreadsheets analyseert of je e-mails schrijft. Maar iemand moet dat geld terugverdienen. En beleggers twijfelen daarover.
• 13:59
  Meta-aandelen daalden 7%, ondanks een recordwinst puur vanwege die verhoogde uitgaven. En tegelijkertijd zijn al die AI-bedrijven facturen aan elkaar aan het sturen. En degene die dat het beste doen,
• 14:12
  die krijgen de grootste koers, uh, uh, plussen. Het is een verwarrende wereld. Een AI die dezelfde patiëntendossiers leest als een spoedarts in het ziekenhuis, stelt in twee op de drie gevallen de juiste diagnose.
• 14:27
  Menselijke artsen komen niet verder ondertussen dan de helft. Dat is de uitkomst van een groot onderzoek van Harvard, dat deze week werd gepubliceerd in het prestigieuze wetenschappelijke tijdschrift Science.
• 14:37
  De onderzoekers lieten een AI-model van OpenAI dezelfde dossiers beoordelen als twee ervaren artsen.
• 14:43
  Twee onafhankelijke artsen beoordeelden daarna alle diagnoses zonder te weten welke van een mens kwamen en welke van de AI. En het verschil was het grootst bij de eerste triage.
• 14:54
  Dat is het moment waarop een patiënt binnenkomt en er eigenlijk nog weinig informatie beschikbaar is. Precies het moment waarop snelle en accurate beslissingen natuurlijk levens kunnen redden.
• 15:03
  Het onderzoek was volledig gebaseerd op tekst. In de praktijk beoordelen artsen, artsen veel meer natuurlijk.
• 15:08
  Ze luisteren naar de patiënt, kijken röntgenfoto's, beoordelen lichaamstaal en op al die vlakken is de AI niet getest.
• 15:14
  Maar als je het puur hebt op het eerste blik op een patiënt en de eerste paar snelle notities van een arts erbij, wint de AI dus van de mens.
• 15:23
  Tot voor kort waren humanoids vooral indrukwekkende demo's op beurzen en op YouTube, maar nog niet in het echt, want die dingen worden niet grootschalig gemaakt. Maar deze week veranderde dat.
• 15:32
  Figure, het bedrijf dat eerder furore maakte met een huishoudrobot die je was zou kunnen opvouwen, produceert nu één robot per uur. En dat was een paar maanden geleden nog één per dag.
• 15:43
  Jack Clark, medeoprichter van Anthropic, het bedrijf achter Claude, heeft een essay gepubliceerd op X dat meer dan 1 miljoen keer is bekeken.
• 15:50
  In dat ex, in dat essay schat Clark de kans op ruim 60% dat AI voor eind 2028 volledig zelfstandig zijn eigen opvolger kan bouwen. Dat wordt in de AI-wereld recursive self-improvement genoemd.
• 16:04
  Een punt waar iedereen in die AI-wereld al heel lang reikhalzend naar uitkijkt, maar waar we tot nu toe nog niet zijn.
• 16:10
  Dat is dus het punt waarop AI-systemen zichzelf blijven verbeteren zonder dat de mens daarvoor nodig is.
• 16:17
  Clark ziet dat AI-systemen in razend tempo de afzonderlijke vaardigheden onder de knie beginnen te krijgen die nodig zijn om AI-onderzoek te automatiseren en onderbouwt zijn betoog met gewoon openbaar verkrijgbare cijfers.
• 16:30
  Zo scoorde het beste AI-model in 2023 nog 2% op de belangrijke programmeerbenchmark SWE-bench. Claude Mythos nadert nu het plafond van die test met een score van 93,9%.
• 16:44
  Clark voelt zich ongemakkelijk bij zijn eigen conclusies, maar noemt die op basis van data onontkoombaar. En tot slot nieuws uit China.
• 16:52
  Een rechtbank oordeelde dat bedrijven werknemers niet zomaar mogen ontslaan om ze vervolgens te vervangen door AI.
• 16:58
  Een techbedrijf uit Hangzhou had een kwaliteitscontroleur gedegradeerd met 40% salarisverlaging nadat een deel van zijn werk was geautomatiseerd. Toen die controleur daar niet mee akkoord ging, werd hij ontslagen.
• 17:10
  De rechter oordeelde: technologische vooruitgang is geen wettelijke grond voor ontslag of salariskorting. Dat is al de tweede keer dat een Chinese rechtbank oordeelt in een vergelijkbare zaak.
• 17:20
  Waarschijnlijk probeert China hiermee twee ambities in balans te krijgen. Aan de ene kant wereldleider worden in AI en aan de andere kant een arbeidsmarkt stabiel houden in een veranderende economie.
• 17:31
  Straks gaan we het uitgebreid hebben over wat Jack Clark met zijn belofte dat AI-systemen op het punt staan zichzelf te gaan bouwen, verder bespreken. Maar eerst een boodschap van onze sponsor Rockstars.
• 17:46
  Mijn naam is Thijs van Team Rockstars IT en wij zijn op een missie om AI-oplossingen te bouwen die ons werk en de wereld mooier en veiliger maken.
• 17:54
  Vandaag schuift bij mij aan Erik de Jong, Business Manager Strategic Change en verantwoordelijk voor de digitale transformatie van TenneT.
• 18:01
  We trekken al even samen op in die transformatie, maar nu ben ik benieuwd: waarom is dat voor een netbeheerder zo cruciaal? Het elektriciteitsnet zit vol. We lezen het allemaal in de, in de kranten.
• 18:11
  We kunnen op dit moment, uh, niet de woonwijken en de bedrijven aansluiten, uh, die we zouden willen aansluiten.
• 18:16
  We zoeken daarom naar, uh, nieuwe middelen.Om, uh, te versnellen in het bouwen van nieuwe infrastructuur, maar ook om het huidige elektriciteitsnet beter uit te nutten.
• 18:26
  Daarvoor zetten wij steeds meer data en technologie in, uh, waaronder ook AI. Oké, dat is een flinke urgentie. Heb je ook al concrete voorbeelden? Uh, een voorbeeld noemen wij Dynamic Line Rating.
• 18:37
  Op basis van weersdata en conditiedata van, uh, elektriciteitsinfrastructuur zijn wij in staat om het elektriciteitsnet beter uit te nutten. Eigenlijk meer stroom over de kabel heen te jagen, om het zo maar te noemen.
• 18:49
  We hebben congestiegebieden in Nederland en we zien dat Dynamic Line Rating soms wel tot twintig procent aan capaciteitsruimte kan maken.
• 18:56
  Daarmee besparen wij, uh, ontzettend veel, uh, investeringen in het elektriciteitsnet en kunnen wij meer en meer klanten voorzien van stroom.
• 19:04
  Heel gaaf Erik, om met digitale producten extra capaciteit op het net te creëren. Wil je nou net als TenneT AI op een verantwoorde manier waarde laten hebben?
• 19:11
  Ga dan naar Team Rockstars punt nl slash AI report en meld je aan voor ons webinar over het implementeren van de AI gateway als jouw fundament. Tot volgende week!
• 19:23
  [muziek] Wytse, ben, heb je nog een beetje aan je side projects gewerkt deze week? Ja, een beetje, een beetje te veel, want ik, ik heb dus een beetje last van brain fry.
• 19:32
  Wat dan een term is die nu een beetje rondgaat op, uh, social media in de AI-wereld. Het idee dat je het gevoel hebt dat je, ja, een soort gaargekookt, [gniffelt] gaargekookt brein hebt.
• 19:44
  En ik denk dat dat- Dat is ontzettend herkenbaar. Toch? Doordat je te veel software aan het bouwen bent, bedoel je? Nou ja, ook, denk ik. Dus, en het is namelijk, als ik een beetje terugkijk in mijn eigen leven.
• 19:54
  Tuurlijk was ik al wel eens overweldigd door informatie eerder, want er gebeurt altijd wel veel in de wereld en ik lees graag.
• 20:00
  Maar ik denk dat, uhm, omdat de AI-wereld aan het groeien is qua impact, komt er dus ook steeds meer AI-gerelateerd nieuws. Nieuws, ja. Wat ik toch ook probeer te nemen.
• 20:12
  Ja, er zijn verschillende manieren waarop je hersenen gefrituurd worden op dit moment. [lacht] Ja, frituren is een beter woord. Uh, en daarnaast ben ik, interacteer, ik, interacteer ik veel met die agentic modellen.
• 20:23
  Modellen die werk voor jou kunnen doen op de achtergrond. Ja. Maar daardoor ben je dus wel heel veel balletjes aan het hooghouden of borden op stokken aan het zetten. Zo voelt het eigenlijk.
• 20:32
  En het, ik denk dat ik in het laad, in de laatste zes maanden nog nooit zoveel stokken met borden heb gemaakt. Uh, dus dan bedoel ik eigenlijk, ik denk dat het ook, ik start dan een projectje.
• 20:43
  Dus ik heb bijvoorbeeld, ik wil heel graag, uh, schrijven. Dat vind ik altijd ingewikkeld, want ik denk met mijn mond. Ja. Dat, daarom zit ik hier iedere week te denken met mijn mond.
• 20:54
  Uhm, maar ik vind het ook wel leuk als het op een gegeven moment op papier komt. Dat is gewoon een ander medium en dan kunnen mensen het ook in hun eigen tijd rustig lezen. Niet iedereen luistert podcasts, et cetera.
• 21:02
  Dus ik dacht: ik wil eigenlijk een soort, uh, ghostwriting tool, een, een tekstverwerker maken.
• 21:08
  Gewoon een soort minimalistische versie van Word met een witte pagina in het midden en een g-, donkergrijze achtergrond met een cursor die knippert. Maar dat ik dan niet een interface heb als een muis en een toetsenbord.
• 21:19
  Die zijn er niet, heb ik dan mezelf opgelegd. Word zonder toetsenbord. Ja, en, uh, en ook geen muis, uh, maar alleen maar de mogelijkheid om te praten. Mhm.
• 21:28
  Hè, dus als je die applicatie start, dan stelt hij je een vraag met audio, uh. Oké, hij praat tegen je. Ja. Dus je start de app op en hij begint te praten en jij praat dan terug.
• 21:38
  En op het moment dat jij klaar bent met praten, dan komen er woorden op beeld te staan. Hè, dus het is een, een, een, een soort magische tekstverwerker die je niet bestuurt met iets anders dan jouw woorden. Aha.
• 21:50
  En, uh, ik bedoel, los van, daar gebeuren dus meerdere dingen tegelijk, want ik ben die app aan het bouwen, uh, laat die app voor me bouwen, zo moet ik het zeggen, door allerlei agentjes.
• 22:02
  Dus sommigen gaan, uh, screenshots maken van de potentiële interface. Dan ga ik zoeken naar of er al bestaande software is, of dit een naam heeft. Ik bedoel, ik ben veel te nieuwsgierig hiervoor.
• 22:12
  Ik wil demo's vinden op YouTube van mensen die het eerder hebben geprobeerd. Daarin gaat AI mij allemaal dingen: ik ben klaar, ik heb dit gevonden. Oh, je moet dit eens lezen.
• 22:21
  En dus dan word ik al overweldigd voordat ik ben begonnen. [lacht] En dan, dan gaat, wordt die software gebouwd op de achtergrond. Ik denk dan: ja, ik zit nu ook alleen maar te wachten.
• 22:29
  Ik kan net zo goed nog een projectje starten. Ja. Hè, dus dan open ik nog een tabje. Je bedoelt te zeggen omdat je zoveel aan het wachten bent op software. Ja.
• 22:37
  Waar je vroeger zelf moest typen, ben je nu aan het wachten en dat geeft jou tijd om nog een softwareproject te starten [lacht] in de tussentijd. Ja.
• 22:44
  Maar ik heb dus het idee dat het, uhm, ja, ik denk dat ik het beste kan vergelijken met: je hebt een rij van, uh, vijftig mensen op een rij staan en, uh, jij spreekt de eerste persoon aan.
• 22:58
  Je start een gesprek en midden in het gesprek ga je naar de volgende persoon. Ja. Hè, als een soort tab switchen in je, in je browser. En, maar dat zijn wel allemaal draadjes die je start. Ja. Gewoon gesprekken. Ja.
• 23:09
  En, uh, dan heb je op een gegeven moment vijftig gesprekken gestart. Ja. Ik bedoel, dit is bijna geen metafoor meer, want het zijn ook gewoon gesprekken- Ja...die je start met die agents. Ja.
• 23:17
  Dus we hebben de metafoor bijna niet nodig, maar fysiek gezien.
• 23:21
  En dan ga je daarna terugrennen als iemand je roept uit die rij en moet jij weer de context, als mens de context, dat ding lukt het wel hoor, op de andere kant, de context oppakken van dat gesprek.
• 23:33
  Misschien is het te vergelijken met dat je een baas bent in een kantoor en dat iedereen zijn eigen kantoortje heeft in deze, in deze kantoortuin. En dat jij de baas bent van al die mensen.
• 23:43
  En dat je dan elke keer het kantoor inloopt en iemand een opdracht geeft. Gaat hij aan het werk en op een gegeven moment hangt hij een vlagje buiten en zegt: nou, ik ben klaar en dan zit hij op je te wachten. Ja.
• 23:50
  En dan heb je, zie je allemaal vlaggetjes hangen. Je kunt overal naar binnen en die kan je weer verder op weg helpen. En eigenlijk ben je dat nu aan het doen.
• 23:57
  Ja, en ik denk dat dat ervoor zorgt, uh, in software heb je zoiets, dat heet garbage collection.
• 24:02
  Een paradigma of een, of een patroon moet ik zeggen, een pattern waarbij je zegt: als de gebruiker heel veel dingen heeft gestart in de software en daar niks meer mee doet, maar het geheugen wordt nog steeds in, uh, wordt nog steeds ge-gemarkeerd, zeg maar.
• 24:15
  Dit, dat staat nog vast, zeg maar, dat is gereserveerd. Uh, dan doet een garbage collector dat alsnog opruimen om te zorgen dat de software niet crasht, voor de duidelijkheid.
• 24:24
  Maar ik heb hier het idee dat door wat ik nu aan het doen ben en met mij meer mensen die dagelijks met agents praten. Ja.
• 24:32
  Dat mijn interne, uh-Uh draadjes die nu allemaal openstaan, dat er nog van alles aan het wachten is in mijn hoofd.
• 24:38
  Ja, en wij zijn nu software aan het bouwen en, en dan voelt het misschien voor mensen die geen software bouwen als een soort van: ja, oké, nou, klinkt leuk voor je. Succes ermee.
• 24:46
  Het lijkt mij niks, maar dit, zo gaat al het werk eruit zien. Ik denk dat dat de reden is waarom we, uh, waarom di-het ook hier over hebben.
• 24:53
  Deze stress die jij nu ervaart is eigenlijk een voorbode voor hoe we dit allemaal gaan hebben. Ja.
• 24:57
  Is dit, i-, wat voor stress, zeg maar, is het, is het omdat je zoveel projecten tegelijkertijd moet doen en de hele tijd aan het context switchen bent? Nou, was het maar stress, als ik heel eerlijk ben. Oké.
• 25:06
  Ik ervaar het niet als stress. Oké. Uh, ik ervaar het als, uh, overweldigd zijn. Uh, een gevoel van, uh, uhm, ja, ik denk dat,
• 25:17
  als je op een hele drukke bruiloft heel veel mensen hebt gesproken, dan lig je daarna ook waarschijnlijk met een soort subtiele tinnitus in je hoofd in bed, omdat je gewoon overweldigd bent geraakt.
• 25:27
  Hier gaat het allemaal wat trager, omdat die bruiloft duurt weken.
• 25:30
  [lacht] Uhm, maar ja, ik merk vooral dat ik het context switchen, wat ik normaal al ingewikkeld vind, omdat ik met veel tegelijk bezig ben, uh, moeilijker ben gaan vinden.
• 25:42
  Dus ik, ik, zie, ik, het is meer, ik ben gewoon met veel, uh, vrienden in gesprek die ook veel met AI tooling werken, uh, die ongeveer hetzelfde beschrijven van: oeh, ik, ik droom wat makkelijker weg in momenten.
• 25:54
  Ik ben er minder bij, man. Ik, het, het kost me meer moeite om een oud gesprek weer op te pakken.
• 25:59
  Ik, en ik denk dat, uh, wat jij wel, uh, mooi zegt, is dat-- kijk, we hebben nu aan de ene kant een technologie die, nou ja, zichzelf uit als een soort pseudo mens in de vorm van een agent en ons als softwareontwikkelaar, als nerd die graag dingen wil doen, allerlei speelgoed geeft, allerlei mogelijkheden om dingen te doen.
• 26:19
  Maar dat heeft gezondheidseffecten, laat ik het dan zo zeggen. Ja. En daar hebben we natuurlijk hele boeken over vol, over social media, smartphonevrij opgroeien. Ja.
• 26:27
  Nu krijgen we agentvrij opgroeien, want, uh, wij zijn- Door het context switchen de hele tijd. Ja, wij zijn een beetje frontlinie nu. Ja, daar ben ik ook bang voor.
• 26:35
  Ja, want ik denk dat, ja, het, het gefrituurde brein, zeg maar, titel van je boek [lacht] Het gefrituurde brein, dat het gefrituurde-brein-effect van het orches- orkestreren, uh, van heel veel AI agents, iets is wat we breed gaan zien in de kenniseconomie, kennismarkt.
• 26:50
  Want, uhm, ja, en, en misschien ook wel, di-dit is, mis-, dit is mijn zorg eigenlijk, die ik erbij heb.
• 26:58
  Nog even los van het feit dat het ons als mens dus niet per se gelukkiger maakt en vooral verward en, uh, het gevoel dat je de bal niet meer helemaal onder controle hebt.
• 27:06
  Maar daarnaast ook dat we dit dus eigenlijk niet kunnen. Ja, we zijn hier niet voor gemaakt bedoel je, ja. En daar, daar kan je dan, of voor, even voor het gemak van het gesprek, twee conclusies aan verbinden.
• 27:19
  Eén: zet die agents maar weer uit. Ja. Twee: haal die mensen ertussenuit. Of, nou, één is: dit werkt niet. Dus die, dat agentic paradigm met humans in de loop- Oh, zo, ja. Werkt niet. Ja, ja.
• 27:33
  Ik bedoel, de enige reden dat ik, dat ik een gefrituurd brein heb, is omdat ik op, up-to-date wil blijven. Ja. Omdat ik de context wil begrijpen van al mijn agents.
• 27:42
  Nou, ik dacht dus deze week: ik moet een, ik moet, kijk, er is natuurlijk zo'n soort van Silicon Valley tech bro lore, uh, dat je een chief of staff moet hebben en dat je agents in feite wil laten bedienen door een chief of staff.
• 27:55
  Dus een soort van multi-agent orchestration layer, die, een, één agent die de andere agents aanspreekt.
• 28:01
  En ik zat daar deze week, ging ik daar toch mee bezig, omdat ik, ik, ik doe een project op de school van mijn kinderen. Ik, ik zet me in om, uh, massatoerisme in Amsterdam te verminderen.
• 28:11
  Ik ben, uh, nou ja, we zijn dit bedrijf aan het bouwen. Er zijn allemaal projecten die ik heb tegelijkertijd en daarnaast, uh, heb ik ook nog software dat ik maak. Nou,
• 28:21
  ik wil al, al die dingen zijn projecten met deadlines en waarmee ik met andere mensen moet werken en waarbij er e-mailtjes binnenkomen, nou ja, waarbij je soms bij elkaar komt, et cetera, et cetera.
• 28:31
  En ik merk, ik kan bij al die dingen kan ik ze, kan ik het door elkaar doen, maar eigenlijk is dat helemaal niet heel, een hele fijne manier van werken. Want, uh, dat context switchen maakt het heel vermoeiend.
• 28:43
  Het is, binnen één project kan je wel hangen, maar als dat te veel door elkaar gaat, is niet lu-, is niet fijn. Dus wat ik dacht is: ik moet een soort van chief of staff hebben
• 28:51
  die eigenlijk al die projecten aan elkaar verbindt. Ik moet van al die dingen, die, al die projecten moeten rapportage opleveren. Soort van: dit zijn de acties voor jou, dit heb je gedaan, dit moet je nog doen.
• 29:02
  En dat die chief of staff dan denkt: weet je wat, ik ga dit voorleggen aan de mens, Kloepping. Kloepping vindt het vermoeiend als al die dingen door elkaar komen, dus wij gaan dit organiseren op basis van zijn energie.
• 29:13
  En vervolgens wil ik een ding maken wat mij, ja, waarmee ik stand-ups doe iedere dag. Dat ding begint dan bij de dingen waarvan hij langzaam aan voelt of waarbij ik hem dirigeer.
• 29:24
  Niet g-, nu, niet dit nu, dit op het einde of eerst dit.
• 29:29
  En dat ik zo, dat we zo door de dag heen werken en dat dat ding stiekem die agents aan het aansturen is, zodat ik niet zelf de hele tijd in de verleiding kom dat elke keer als er een agent klaar is en zegt: ik ben klaar, ik kan door naar het volgende taakje.
• 29:44
  Dat ik niet in de verleiding kom dat daadwerkelijk te doen, want dan leidt dat tot dat context switch.
• 29:48
  En ik dacht: dit is misschien de oplossing, dat er een soort AI-laag tussen komt die ons eigenlijk beschermt tegen onszelf. Want wij zijn toch allemaal die ratjes in die molen. Wat social media feeds ook met ons doen.
• 29:59
  Soort van scrollen, scrollen, scrollen, scrollen, scrollen en je gaat er niet meer uit. Dat zit toch in ons, omdat, om als een soort van ratjes op cocaïne om dat te doen.
• 30:09
  En, da-, daar, ook daar kunnen we een AI voor gebruiken om weliswaar de productiviteitswinst te halen, maar toch het energieniveau te hou-. Dit is mijn, dit is mijn these over de oplossing. Wat vind je van deze these?
• 30:19
  Nou ja, het is een soort, mi-, tussenoplossing tussen die: we zetten ze uit of we delegeren alles helemaal weg.
• 30:25
  Hè, want ik bedoel, wat ik dus bedoelde is: dat hele agentic ding met mensen erbij werkt niet, dus zet de agent maar weer uit.
• 30:30
  Mensen blijven het doen versus laat de agents hun werk gewoon doen en bemoei je er niet mee als mens. Hè, maar dan, dan is de human uit de loop. Ja. Wat best wel een groot, uh, gevolg zou zijn.
• 30:39
  En dat kan nu ook gewoon nog niet. Nee, ik bedoel, even los van de, ik bedoel, daar heb je deKan het technisch? Nee. Maar kan het uiteindelijk technisch? Gaan we het straks ook over hebben. Waarschijnlijk ja. En dan.
• 30:51
  Maar dan heb ik er dus een meer een moreel dilemma mee. Breed maatschappelijk moreel dilemma.
• 30:57
  Dat we dus een handover aan het doen zijn naar de agent swarms en zeggen, wij als mens kunnen dit allemaal niet meer bijhouden. Succes! We horen het wel, het eindresultaat.
• 31:06
  En, en daarmee zeg je dus ook ik vertrouw jullie. Want als het vertrouwen er niet is, dan ga je het niet afgeven. Maar en wat jij zegt is nou, dat vertrouwen is niet honderd procent.
• 31:17
  Wat ik ga doen is de delegater, de tussenpersoon, de chief. Het is wel wa-- hoe noemde jij die? Chief of staff. Chief of staff. [lacht] Dat die ertussen zit.
• 31:27
  En dan, maar dan ga je er dus vanuit dat de chief of staff, het is een beetje wie bewaakt de bewakers? Dus [lacht] dat, dat, je schuift, dus je delegeert het naar de chief of staff.
• 31:40
  Daar leg jij al je vertrouwen neer als een soort van punt. Nou, vertrouwen in prioritisering. Uiteindelijk neem ik dezelfde beslissingen. Nee, dat klopt, maar ik bedoel meer te zeggen, die agents doen allemaal werk, hè.
• 31:51
  Als je, als je zo'n chief of staff hebt, misschien wel honderdduizend agents, noem maar wat leuks. Ja, waarom niet? Die doen allemaal werk en die rapporteren allemaal aan die chief of staff.
• 32:01
  Van het is gelukt, het is klaar, het doet het, zeg maar. En die chief of staff, die kan dan nog testjes gaan draaien om die controle te doen.
• 32:08
  Ja, maar eigenlijk schuif je dus de, uh, controlerende functie, de human in de loop voor een soort chief of staff in de loop. Dat klopt.
• 32:15
  En daarmee wil ik alleen maar zeggen dat, uh, we, we nu voor in het klein, jij en ik nu nog een beetje grappig, want het zijn onze side projects en de agents zijn nog niet goed genoeg.
• 32:26
  Maar ik zit natuurlijk een beetje door te, uh, extra, extraheren dat ik denk, maar wacht even, we gaan straks voor de vraag komen met elkaar en niet allemaal tegelijk, maar in ieder zijn eigen context.
• 32:38
  Wil jij door kunnen groeien? Hè, dus impact willen hebben met je organisatie, uh, sneller je ziekenhuis runnen, dit soort vraagstukken. Want als je, de brain fry bij mensen is te groot, hè.
• 32:51
  We zitten met gefrituurde breinen. En als jij wel je optimalisatie wil blijven doen, je efficiëntie slagen en je betere triage bij je eerste hulp. Moet je meer vertrouwen in die robots leggen.
• 33:01
  Ja, dus uiteindelijk komen we dan voor een best wel een, een, een duivels dilemma te staan.
• 33:07
  Dat het, uh, ja, dit ziekenhuis zou een stuk beter kunnen draaien als jullie wat minder humans in de loop zouden doen en wat meer chiefs of staff in de loop.
• 33:15
  En dat we dan alleen nog maar de chief of staffs met de mens laten praten. Dus dat wij meer op een soort van guarding the guards rol komen in plaats van de guard zelf. En ik denk dat je.
• 33:24
  Dit hebben we natuurlijk nooit eerder gehad. Deze keuze hebben we nooit eerder voor. Dit is wel vrij nieuw, ja. Ja. Dus ja, ik denk dat, en wat ik.
• 33:32
  Wat je zegt is eigenlijk als jij dat abstractieniveau gaat hanteren van de mens praat met de chief of staff die een heleboel agents aanstuurt,
• 33:39
  dan, dan per def-, zou de facto aan die keuze zit in, ingebed dat je heel veel keuzes die hiervoor door een mens werden gemaakt niet meer neemt. Dat, dat, dat is verantwoordelijkheid die je overdraagt.
• 33:51
  Nee, want anders heb je weer een gefrituurd brein. Juist. En is dat oké? Ja, nou ja, is het oké? Ik bedoel, misschien in bepaalde contexten meer oké dan anderen.
• 34:00
  Nee, ik bedoel, is het oké, klinkt als een soort ja of nee. I-ik denk vooral dat, uh, kijk, als, als, uh, de, de ontwikkelaar in mij, de, de, de software knutselaar, de nerd. Ja. Uh, die, dit is, die is best wel,
• 34:17
  jij en ik, ik ga, ik denk dat jij daar ook wel bij past, dat je het idee hebt, de, al die controle op processen vertraagt die processen, terwijl je houdt van snelheid.
• 34:31
  Uh, snelheid in de basis omdat je merkt, ik wil iets gewoon snel gedaan krijgen, maar iemand anders zou een iets intelligentere claim kunnen maken en zeggen, dit is een ziekenhuis, dit is de eerste hulp.
• 34:43
  Ik moet triage doen. Snelheid is letterlijk van levensbelang. Laten we even die case pakken in plaats van snelheid omdat snelheid cool is of zo.
• 34:51
  En dat je dan, uh, voor de vraag komt te staan, luister, we gaan nu agents, een agent swarm triage laten doen, hè. Harvard heeft een onderzoek gedaan. Ja, we hoorden het net. We hoorden het net.
• 35:04
  Uhm, die triage wordt gedaan door een agent swarm en eind, en ieder uur of iedere tien uur, whatever, iedere, uh, cycle, iedere shift doet die chief of staff van die triage swarm, doet een rapportje geven aan de mens, hè, die praat ermee en die mens kan niet meer snappen wat die swarm daar deed.
• 35:22
  Kijk, in die context zou je kunnen zeggen, het loslaten van de controle van de swarm levert op, patiënten waar levens van gered worden. Even, even een, uh, een, die zet je dan tegen elkaar af.
• 35:35
  In die context zou je kunnen zeggen, ook al weten we niet precies hoe de triage plaats heeft gevonden, eind van de maand, meer mensen gered. Daar ging het ons om. Dus dan snappen we het, maar we delegeren het wel.
• 35:49
  Maar als je dat natuurlijk steeds vaker gaat doen, uh, ja, dan kom je toch wel een beetje in die Wall-E achtige milkshake wereld waar iemand in zo'n, in zo'n autootje ligt, uh, te chillen. Te vegeteren, ja.
• 35:59
  Uh, omdat hij alleen nog maar, kijk, uiteindelijk. Hoe ga je dit probleem voor jezelf oplossen, deze brain fry? Nou, dus dan, uh, daarom vind ik het wel, wel een leuk voorbeeld. Kijk, ik noemde net de twee opties.
• 36:10
  Jij hebt een soort hybride optie gegeven nu, hè. Dus mijn opties waren, zet die agents maar weer uit. Dit kunnen we als mens niet aan. Ik wil in de loop blijven. Ik wil een actief mens blijven, dus ik stop er weer mee.
• 36:20
  Versus, ik ga hem helemaal overgeven. Ik denk wat radicaler dan, hè, dus ik stop er niet mee. Nee, ik ga, die agents zijn gewoon niet slim genoeg. Wietse gaat er tussenuit.
• 36:29
  Jij zegt dan, nou, ik ga er niet helemaal tussenuit. Ik zet er iemand tussen, hè, tussenoplossing. A-, ik ben, ja goed, dat mag je best weten. Ik ben er nog niet over uit.
• 36:40
  Uh, gewoon, dan wordt het een veel grotere vraag ineens, of ik die handover wil doen, ja.Dus ik kan hem in het klein noemen voor mijn eigen context, want je vroeg hem aan mij. Ja.
• 36:50
  Dus Wytse, hoe ga je je brain fry oplossen? Ga je er een chief of staff tussen bouwen? Uh, ga je ze helemaal niet meer controleren en die software gewoon gebruiken zonder er ooit nog naar te kijken?
• 37:00
  Of ga je stoppen met je agentic development, want je krijgt er brain fry van en je wil dingen blijven controleren. Toch? Aha. Nou, daar ben ik dus nog niet helemaal over uit wat ik daarvan vind.
• 37:09
  En samenlevingsbreed vind ik het ook een tricky ding. Maar voor jezelf? Tje-, uh, wat zegt je gevoel nu? Ja, de, de, het, het, het moet wel.
• 37:26
  Als ik, als ik in een, uh, ik vind het zelf. Ik merk dat het goed is voor mij als mens, dat ik daar dan gelukkig van word met de hoofdletter G, om betrokken te zijn bij wat ik maak. Ja.
• 37:44
  Uh. Ja. Dus ik denk dat als ik, uh, er is een verschil namelijk tussen wat mensen willen en wat ze nodig hebben. Ja, ja, ja.
• 37:53
  Wat ik nodig heb als ik naar de 39 jaar op deze planeet kijk, is intens actief betrokken zijn bij maakprocessen. Ja.
• 38:04
  Uh, dus als dat niet meer lukt met die agents, ja, dan vrees ik dat ik misschien maar moet accepteren dat die app weer tien keer zo lang gaat duren, man. Oké.
• 38:16
  [muziek] Ik ga even van het ene existentiële onderwerp naar het andere, namelijk een citaat van, uh, de medeoprichter van Anthropic, Jack Clark. En hij zegt: AI-systemen zijn op het punt om zichzelf te gaan bouwen.
• 38:28
  Je hoorde het net al, maar even in iets meer detail.
• 38:30
  Hij schrijft en ik citeer: "Als ik kijk naar alle openbare informatie, kom ik met tegenzin tot de conclusie dat de kans waarschijnlijk groter is dan 60% dat we voor eind 2028 een AI-systeem krijgen dat krachtig genoeg is om zelfstandig zijn eigen opvolger te bouwen.
• 38:49
  Dat is bizar. Ik weet niet goed hoe ik dat moet bevatten. Als dit gebeurt, is de geest uit de fles. Over naar een toekomst die bijna onmogelijk te voorspellen is."
• 39:01
  Hij zegt eigenlijk met zoveel woorden: AI-systemen zijn in staat om code te schrijven voor vrijwel elk programma.
• 39:08
  Je kunt erop vertrouwen dat ze zelfstandig werken aan taken waar een mens tientallen uren aan geconcentreerde arbeid voor nodig zou hebben.
• 39:16
  Daarbovenop worden AI-systemen steeds beter in taken die essentieel zijn voor de ontwikkeling van AI. Van fine tuning tot kernel ontwerp.
• 39:23
  Beetje technisch, maar eigenlijk de, om, de bouwstenen waarop AI-systemen gebouwd worden, kunnen steeds beter door AI-systemen gebouwd worden. Hij ziet dit van binnenuit. AI-systemen kunnen andere AI-systemen aansturen.
• 39:36
  Hebben we het eigenlijk net ook al over gehad.
• 39:38
  Daarmee vormen ze in feite synthetische teams die kunnen uitwaaieren over complexe problemen, waarbij sommige AI-systemen de rol aannemen van normaal als directeur, maar ook als de rol van criticus of van redacteur of van ingenieur.
• 39:52
  En AI-systemen kunnen soms, uh, mensen verstaan op moeilijke technische en wetenschappelijke taken. Het is lastig om te zeggen of dat nou komt door vindingrijkheid of door de beheersing van ingestudeerde patronen.
• 40:05
  Dus de, de echte creativiteit die we kunnen toewijzen aan AI.
• 40:08
  Daar is, daar, the jury is still out on that one, maar als je het meet, dan lukt het steeds vaker om mensen te verslaan op diep technische wetenschappelijke problemen.
• 40:18
  En hij zegt: dat vormt voor mij een zeer overtuigend, uh, bewijs dat AI vandaag al grote delen van AI engineering kan automatiseren, zelfs het geheel.
• 40:28
  Het is nog niet duidelijk hoeveel van AI-onderzoek zelf geautomatiseerd kan worden, omdat sommige onderdelen van onderzoek wezenlijk kunnen verschillen van technische engineering taken.
• 40:37
  Maar hoe dan ook voelt dit voor mij als een duidelijk teken dat AI de mensen die aan AI-ontwikkeling werken nu al enorm versnelt doordat zij zichzelf kunnen opschalen door samen te werken met ontelbare synthetische collega's.
• 40:52
  Hij heeft het dus over het punt wat in sciencefiction en onder, uhm, ja, AI-engineers zelf recursive self-improvement wordt genoemd. En hij zegt dus: it's very close. Wo-, niet volgend jaar, maar het jaar daarop.
• 41:10
  Heb jij dit stuk gelezen? Ja, en ik denk dat waarom het me opviel is om wie het geschreven heeft, hè, medeoprichter Anthropic. Dat doet wel ter zake. Dat doet wel toe. Ja.
• 41:18
  En dat hij echt wel zijn best heeft gedaan om een soort meta-onderzoek, een meta-analyse te doen van wat er, daar moet ik hem dan op vertrouwen, hè, dat delegeer ik aan hem, in de academische literatuur geschreven is rondom alle legoblokjes die nodig zijn om uiteindelijk te komen tot een zelfreplicerende machine.
• 41:37
  Ja. En ik denk dat, uhm, we hebben de essays van Dario Amodei gehad, ook co-founder Anthropic, hè, die veel meer op het humanistische schrijft. Die schrijft echt op het hart.
• 41:49
  Uh, deze jongen schrijft meer technisch en een beetje koud. Dat zegt hij zelf ook.
• 41:53
  Ik probeer hier een zo rationeel mogelijk argument uiteen te zetten om jou eigenlijk stap voor stap mee te nemen in: deze legoblokjes zijn nodig. Dat zijn deze probleemdefinities.
• 42:05
  Die staan beschreven in deze researchpapers. En uit die papers blijkt dat we die en die en die en die problemen eigenlijk al opgelost hebben, de eerste tekenen al zien van werkende oplossingen voor die problemen.
• 42:17
  En als je dan al die dingen aan elkaar rijgt en hij denkt aan dat rijgen van al die papers, oplossingen en toepassingen gaat gebeuren in 2027. Eind 2028 is het dan allemaal rond, zeg maar.
• 42:30
  Dan, uh, kom je op het punt dat het, dat, dat de machine die machines kan maken, het brein dat breinen geboren kan doen worden, om het even zo te zeggen, uh, dat het lukt, dat de cirkel rond is eigenlijk, hè, want dit recursive, hè, het loepige, het cirkelige eraan, dat maakt dit zo'n bijzonder moment.
• 42:49
  En ik denkIk heb zelf lang zitten nadenken om mezelf een beetje een gevoel te krijgen bij dat moment. Als jij nadenkt over, uh, compressie, dus wat in de technische wereld een zip-bestand is.
• 43:02
  Dus je wilt eigenlijk een boek pakken en het boek past niet bij de mail of past niet op een floppy. Die ga je kleiner maken. Past niet op een floppy. Een floppy 1.44 megabytes.
• 43:11
  [lacht] Hé, lekker jongen, daar moest een zippie op, hè? Ja. Nou ja, dan, dan zip je dat boek van 2, 2 MB terug naar 144, 1.44 en als iemand anders hem daarna weer opent komt exact woord voor woord, lossless heet dat.
• 43:24
  Wel een magisch gevoel, man. Ja, dat is een vorm van compressie. Daar kunnen we uren over praten hoe dat werkt. Dat is een vorm van compressie. Wat je ook kan doen
• 43:34
  is niet het boek, uh, verkleinen, maar een schrijver op die floppy zetten. [lacht] Dus je, je stuurt niet-- ik stuur jou niet via de post een boek.
• 43:45
  Ik stuur jou een schrijver die het boek bij jou thuis helemaal gaat zitten schrijven. En, uh, dat, die vorm van compressie, de natuur doet het heel erg, hè.
• 43:53
  Dus heb je bijvoorbeeld een zaadje van een boom en die-- het eerste wat het zaadje doet is bouwstenen maken die weer bouwstenen kunnen maken, die weer bouwstenen kunnen maken.
• 44:04
  Waardoor je eigenlijk een hele, hele bizarre vorm van compressie doet. Want uiteindelijk het doel- Past het in een zaadje. Past het in een zaadje. Een hele fucking boom. Een hele fucking boom. Ja.
• 44:12
  En, uhm, hé, je hoort het ook vaak in sciencefiction als het gaat om terra forming van, hè, als jij een lege Mars hebt.
• 44:18
  Er is nog helemaal geen leven en je stuurt er een soort van, uh, bal ter grootte van een watermeloen naartoe.
• 44:25
  Het eerste wat die bal gaat doen is, uh, zorgen dat hij in stukjes uitvindt om weer een stukje van een machine te kunnen bouwen, die dan weer een stukje van een machine kan bouwen.
• 44:33
  En uiteindelijk uit die bal ontstaat een complete fabricage plant. Ik begrijp het. Dat, dat is de truc.
• 44:39
  Die, daar moet je dus een vorm van een loop in creëren die op zichzelf kan, die als het ware een boom die zichzelf uit de grond trekt. Ongekend, hè, wat de natuur doet. Uh,
• 44:50
  die recursive self-improvement in AI zou betekenen, zoals Demis Hassabis het noemt, een synthetische wetenschapper.
• 44:58
  Omdat hij zei, Demis Hassabis, oprichter DeepMind: ik kan nu mezelf gaan specialiseren in wetenschapsveld A, B of C, hè.
• 45:06
  Ik kan oncologie gaan doen, ik kan celdeling gaan doen, ik kan, uh, kernfusie gaan doen of ik vind een wetenschapper uit. Ik vind een wetenschapper uit en dat is dan de laatste in-uitvinding.
• 45:19
  The last humanities invention. Want die wetenschapper gaat dan al die andere dingen die ik, die we anders zouden moeten gaan uitvinden, uitvinden.
• 45:26
  Dit is letterlijk de reden waarom Demis Hassabis zoveel tijd in DeepMind gestopt heeft tot nu toe.
• 45:30
  En wat hier eigenlijk besproken wordt in deze essay, wat redelijk goed onderbouwd wordt, hij doet zijn best, is: dit is heel erg dichtbij, namelijk wat hij noemt een, uh, AI engineer.
• 45:42
  Dat is dus iemand die én onderzoek kan doen én kan bouwen. En dus niet een iemand, maar een systeem. Een systeem dat zelf fundamentele uitvindingen kan doen die nodig zijn om nieuwe AI-modellen te trainen.
• 45:56
  Dat kan zo ver gaan als nieuwe chips ontwerpen, efficiëntere chips ontwerpen, nadenken over snellere verbindingen tussen chips door een AI. Ja. Die vervolgens ook in software het model op een efficiëntere manier neerzet.
• 46:10
  Vervolgens, als het model klaar is, het model start als het ware, hè, het upload naar het datacenter en hem gaat draaien en vervolgens zijn eigen huiswerk doorgeeft aan zijn eigen creatie en zegt: nu ik jou heb gemaakt en jij bent net iets slimmer dan ik, hier is jouw opdracht: maak nog een slimmere versie van jezelf.
• 46:29
  En als daar dan, mooi aansluitend op waar wij het net over hebben gehad, alleen nog maar een chief of staff op zit die mailtjes stuurt naar Sam Altman, Dario Amodei, Elon Musk en, uh, Demis Hassabis met de laatste updates over Opus 4.88, gebouwd door Opus zelf.
• 46:47
  Dat is wel even een momentje. [lacht] Uh, ja. Ja. Ja. Ja. Nou ja, Clark, die schrijft dus, eigenlijk doet hij de optelsom, uh, van al die losse onderdelen en komt, zegt dan eigenlijk: de discussie is onvermijdelijk.
• 47:05
  En dan zegt hij: eigenlijk zijn de gevolgen hiervan veel groter dan tot nu toe in het publieke debat doordringt. Want hij zegt: het eerste probleem is natuurlijk veiligheid.
• 47:16
  Hoe zorg je ervoor dat dit soort systemen betrouwbaar blijven? Kan je je chief of staff vertrouwen? Precies.
• 47:23
  En werken de alignment-technieken die we vandaag uit, die we voor vandaag hebben uitgevonden, uhm, werken die nog steeds zodra je systemen hebt die slimmer worden dan de mensen die ze gemaakt hebben?
• 47:34
  Uh, dat is een, een vraagstuk wat hij, uhm, opwerpt. Het tweede is economisch. Dus alles wat AI aanraakt krijgt enorme productiviteitsversnelling. Waar we het net natuurlijk ook, uh, eigenlijk over hadden.
• 47:46
  Dat zien we eerst bij softwareontwikkelaars, maar dat, dat is iets wat zich door zou kunnen zetten naar de medische, uh, medenschap waar jij het net over had, maar ook strategie, bedrijfsvoering, hele sectoren.
• 47:56
  De vraag wordt dan: wie krijgt er toegang tot die versnelling? Ervan uitgaande dat rekenkracht dan schaars wordt, dan is, dan is de verdeling van die AI-capaciteit per sector opeens een politieke kwestie.
• 48:09
  En, en moeten landen gaan kiezen.
• 48:12
  Moet Amerika bijvoorbeeld als groot leverancier van energie of China als groot leverancier van energie kiezen, wie krijgt die e-- wie gunnen we het eigenlijk om die tokens te mogen verbranden?
• 48:23
  En dan nog een derde gevolg, namelijk de opkomst van AI-bedrijven met veel kapitaal, maar weinig mensen. Dus bedrijven die draaien op computers, uhm, op modellen, niet, in plaats van grote teams.
• 48:33
  En Clark noemt dat het begin van de machine-economie binnen onze menselijke economie. Op termijn zouden er zelfs bedrijven kunnen ontstaan die grotendeels zelfstandig door AI-systemen, uh, worden bestuurd.
• 48:43
  En Clark noemt de optelsom van al deze dingen staren in een zwart gat en, uh, hij acht de kans dat het volgend jaar gebeurt, uh, wat is het vandaag? 2025 is het nu, hè.
• 48:55
  Ik vergeet wat het jaar is waar we nu in leven.Typisch, typische ventuurgeest van jou. 26 maart. 2026. Hij denkt dat de kans 30%. Ik weet ook nooit hoe oud ik ben.
• 49:06
  Ja, het is natuurlijk allemaal software te maken, maar welk jaar is het eigenlijk? Dat, dat ik, dat is mijn persoon in een notendop. Volgend jaar denkt hij dat de kans 30% is dat het gaat gebeuren.
• 49:15
  Nou, dat is ook zo'n beetje een coin flip. En dus het jaar daarop, uh, schat hij in 60%. Het is, uhm, ja, wat, wat moeten we hier over zeggen, Wytse? Nee, kijk, ik, uh, ik, uhm, las dit artikel.
• 49:30
  Toen dacht ik: gaan we het hier nou over hebben? Want we hebben het hier al zoveel over. Ja. Dus jij voelt hem ook dat je-- het voelt een beetje herhalend.
• 49:36
  Nee, klopt, maar het is de, de, toch elke keer komen dit soort stukken naar boven en krijgen ze veel aandacht.
• 49:42
  Omdat het ook fijn is dat iemand even de balans opmaakt en zegt: ik kijk, ik heb even om me heen gekeken het afgelopen jaar. Dit is, zeg maar, als deze stukjes in elkaar blijven vallen is dit wel heel heftig.
• 49:56
  Nou, wat ik een beetje- Het is toch, het is toch fijn omdat in al dat nieuws over benchmarks en over gewoon andere dingen die in het leven gebeuren, dat af en toe bij elkaar geraapt wordt. Absoluut.
• 50:06
  En ik lees ook een beetje tussen de regels door. Alsof hij eigenlijk geprobeerd heeft om het te falsificeren. Alsof zijn eigenlijke doel was. Dit is even, nu lezen, dit lees ik iets erin, hè. Dus oké, je bent, uh, Jack.
• 50:21
  Jake. Nee, Jack Clark. Jack Clark. Je bent Jack Clark. Je voelt eigenlijk intuïtief, hij weet wel een beetje van wanten als oprichter van Anthropic, dat er iets aan de hand is.
• 50:34
  Dat dat recursive self-improvement verhaal wat een beetje de ronde doet, uh, op straat in San Francisco, even zo geromantiseerd, uh, dat daar mogelijk wel waarheid in zit.
• 50:43
  Dan ligt hij 's avonds in bed een beetje die lijntjes aan elkaar te tekenen. Ja. En dan merkt hij bij zichzelf: shit, inderdaad, dit zou zomaar eens voor 2029, 60% kans kunnen zijn. Ik noem maar wat.
• 50:55
  Of hij had toen nog een vraagje, deed hij erbij. En toen dacht hij: weet je wat ik ga doen? Ik ga gewoon kijken of ik mijn eigen verhaal kan ontkracht-ontkrachten. Ik ga de, ik ga de academische literatuur in.
• 51:06
  Ik ga dingen bekijken. Ik ga alle problemen opschrijven die er eigenlijk nog opgelost moeten worden. En wat is zijn conclusie? Ik vind het nog steeds. Ja. Sterker nog, ik heb mijn eigen intuïtie weten te onderbouwen.
• 51:18
  En hij heeft het nu gepubliceerd. Ja. Zo lees ik het. Ja.
• 51:21
  Als, als iemand die zich, nou ja, net als zijn, uh, uh, collega Dario Amadei, zorgen maakt dat als dit allemaal binnen drie jaar is, want daar praten we gewoon de hele tijd over, binnen drie jaar, uh, een recursive self-improving AI engineer, dat dat uiteindelijk qua, uhm, ja, butterfly cascade effecten op alles eromheen, hè, waar we het eerder over hebben gehad, uh, toen wij praatten over, uh, sorry, ik moet het anders zeggen, toen ik met Jeroen, ik moet nog wennen, met Jeroen Wollaars en Rick vorige week praatte over de dominostenen die vallen vanuit de eerdere softwareontwikkeling, natuurwetenschappen en vervolgens langzaam de hele samenleving inkruipen, zeg maar, van de kenniseconomie naar de uiteindelijke fysieke arbeidsmarkt.
• 52:02
  En ik denk dat jij en ik toch even twee keer knipperen als we hier langs scrollen langs zo'n artikel, omdat we denken: ah, is wel de oprichter van Anthropic. Hij heeft wel ook wel een beetje onderzoek gedaan, hè.
• 52:13
  Nou, het is ook de optelsom van vibes. Al deze losse vibes gaan de hele tijd rond en dit is de optelsom. Dat is ook, dat blijft ook, uhm, nou, dat is ook waar het, denk ik, relevant is.
• 52:25
  En ik bleef ook weer hangen op die, dat punt over die schaarse, re-, schaarsste in rekenkracht. Gewoon compute. Wie krijgt er toegang tot compute? En dat,
• 52:36
  dat ik het heel fijn zou vinden als je een Kamerlid in Nederland kan bellen en kan vragen: wat gaan we eigenlijk doen als de economie grotendeels gebaseerd is op token? Als we dit scenario nou eens pakken.
• 52:47
  Als je dit scenario nou eens pakt, want dit is wat die silicon valley-mensen de hele tijd maar blijven roepen. En je kan het afdoen als, als onzin.
• 52:51
  Prima, maar als scenario, pak het nou eens en, en, en, w-, denk dan eens door. Wat, wat gebeurt er dan als, zeg maar, wij kunnen geen nieuwe bedrijven meer aansluiten op het stroomnet in ons land, want het is er niet.
• 53:06
  Nu is het nog niet zo dat dat in één keer de economie omtrekt.
• 53:09
  [gniffelt] Als we straks wel concurrentie krijgen uit het buitenland omdat daar allerlei agents compute hebben waarbij die agents niet kunnen draaien omdat we die compute niet hebben.
• 53:19
  Wat is, wat, wat, gaan we dan zoals we LNG uit Qatar halen op het moment dat, uh, dat, uh, de pijplijn naar, naar, naar Rusland dicht moet?
• 53:27
  Gaan we dan, g-gaan we dit dan, gaan we dan heel veel geld betalen, zoals mondkapjes tijdens de corona-epidemie, voor tokens aan, van, van China? Ga-, zeg maar, het wordt zo raar.
• 53:38
  En, e-, i-is er een instituut in Nederland dat dit scenario heeft doorgedacht? W-, het, het is een van de meest voor de hand liggende scenario's in deze, als je deze trend van denken volgt.
• 53:49
  Wat ik, wat ik wel prettig zou vinden, uh, daar hebben we het eerder wel eens over een soort dashboard gehad, hè, en dat je een soort paar sensoren in de grond steekt van: oké, stel dat je nou dit luistert en echt megacynisch hierover bent en echt van: nou, die jongens die zijn zo, die leven in een, uh, psychotische desillusie rondom self, recursive self-improvement.
• 54:06
  Ja. Oké, prima, dat, dan kunnen we dat toch in de gaten houden? Dan kunnen we toch zeggen: oké, luister jongens, we gaan niet, we gaan er niet allerlei dingen voor doen nu al, maar dit, dit is te meten.
• 54:16
  We kunnen gaan kijken of inderdaad, uh, uh, gaat, gaan inderdaad. Laten we gewoon s-, effe een simpel ding noemen. Is het inderdaad zo dat de grote softwarebedrijven steeds sneller software beginnen te shippen?
• 54:32
  Hè, dus met, met features en bugfixes. Ik bedoel, je kunt iedere dag een nieuw stukje software uitbrengen gewoon door op een knop te drukken en dan zit er niks in.
• 54:38
  Dus ik bedoel, het, inhoudelijk is de, zit er een soort versnelling, een tijdsverdichting in het releasen van software. Ja, alleen nu nog maar bij Anthropic en OpenAI. Codex en Claude Code.
• 54:52
  De updates zijn nu ongeveer tussen de 12 en 24 uur. Is er een update met serieuze features erin. Wekelijks rollen ze sowieso drie, vier core features uit op dit moment.
• 55:03
  Uh, ik vond een reactie onder een tweet van Sam Altman tekenend, waar iemand zei: dude, stop shipping, this ain't fair.En het was een ander softwarebedrijf die eigenlijk tegen OpenAI zegt: ja, dit is niet eerlijk, hè.
• 55:19
  Het is een beetje alsof een Nederlandse politicus een tweetje plaatst met: this, stop shipping, this ain't fair, hè, want jij hebt zoveel, uh, kennis en computerkracht. Ja. Het lukt jou nu om ons allemaal te outcompeten.
• 55:32
  Je hebt een soort mega zieke Adidas schoenen aangekregen op het, uh, op het, o-, tijdens de marathon. Ja. Het is niet meer eerlijk.
• 55:38
  Misschien zoals de CEO van Volkswagen zich voelt als hij over een Chinese autobeurse loopt. Ja, stop shipping, this ain't fair. Ja.
• 55:44
  En ik denk dat die, uh, dat sfeertje, wat ik denk een grapje was, hoor, nu in die tweet naar Sam Altman. In dat grapje, in het geintje zat een seintje. Ja, maar door dat meten, soort van, je moet meer sensoren maken.
• 55:56
  Dan zeg je dus eigenlijk: we moeten iets doen om het politiek te maken. We moeten iets doen waardoor het inzichtelijk wordt wat de snelheid van de verandering is.
• 56:04
  En dan zeg jij: softwareontwikkeling is een metafoor voor andere industrieën. Uh, dat moet je dan ook maar geloven dat dat zo is. Mijn, mijn oproep is: falsificeer Klpping in Hagen. Ja. Alsjeblieft, laat het ons zien.
• 56:17
  Ik geef, ik, ik word vrolijk als je mij falsificeert. Ja.
• 56:20
  Als je laat zien, luister, als wat jullie daar zeggen allemaal waar is, zouden we dat hier moeten kunnen zien en hier moeten kunnen zien en daar moeten kunnen zien. En we zien het allemaal niet. Ja.
• 56:29
  Oké, nou ga, ga ik waarschijnlijk nog zeggen: je moet daar en daar en daar ook nog kijken. Ja. Maar, want ik, ik merk dat ik wel, uh, de, de behoefte voel, ook een beetje egoïstisch misschien, om gerustgesteld te worden.
• 56:39
  Mhmm. Het is, het is, uh, Jack niet gelukt. Nee, precies. Ja. Om zichzelf gerust te stellen. Ja.
• 56:46
  Ja, het zou zo vet zijn als er politici zouden zijn die dit niet alleen als probleem zouden aankaarten, maar vervolgens ook een idee van een routekaart zouden tekenen. Wat doen we dan?
• 56:56
  Ja, en, en, en dan ook zeggen: oké, dit is de threshold, hè, dus als dit gebeurt, dan, uh, gaat dit aan, zeg maar. Ja. Als dat gebeurt, gaat dit aan. Ja. Uh, want dat, dat is ook een soort prettig idee. Ja.
• 57:07
  Uh, al is het alleen maar een soort plannetje maken. Ja.
• 57:10
  Nou, het is ook, en daarmee maak ik het misschien nog ongemakkelijker, maar de hoeveelheid tijd die er op gaat aan het praten over ethische AI, over verantwoorde AI, over AI die gemaakt is op auteursrecht beschermd materiaal wat niet gejat is.
• 57:24
  Over privacy, over, zeg maar, we zijn heel veel aan het praten over AI in die context, in het debat in de samenleving, en heel weinig aan het praten over deze, nou ja, raaalpolitieke, uhm, lens.
• 57:39
  En daarmee zeg ik niet: het eerste is onbelangrijk, maar ik zeg wel dat het tweede is ook belangrijk en het verdient meer aandacht dan al dat gepraat over verantwoorde AI. Nou, ik zou zeggen evenveel.
• 57:51
  Als ik dan, als, ik zou je alleen nuanceren in zetten- Tijd moet je verdelen. Tijd moet je verdelen. En de tijd zoals hij nu verdeeld wordt, is, doet volgens mij geen recht aan de urgentie van het probleem.
• 58:00
  Het is op een bepaalde manier vanuit een positie van privilege waarin je economie draait. En ik, ik denk af en toe: dat privilege hebben wij helemaal niet.
• 58:07
  Tenminste, of hou rekening met het feit dat we dat privilege niet hebben. Nou ja, goed, kijk, uiteindelijk kan je, kan je je afvragen, uhm, kijk, er zit een soort, uh, eerst fressen, dan die moraal in jouw ding. Ja.
• 58:19
  Wat ik, uh, hè, dus van: luister jongens, we, we hebben zo weinig aan die waarde als we niks te eten hebben, toch? Ja. Als ik hem zo. Ja.
• 58:25
  En ik denk dat die realiteit van, uh, het is makkelijk om waarde te hebben als iedereen, uh, gevoed is en een trui aan heeft, om het even plat te zeggen.
• 58:35
  Het is zoveel moeilijker als we er straks helemaal niet meer zijn om die waarde te hebben. Mhmm.
• 58:40
  Het gevaar van die gedachtegang toch een beetje terugduwen is dat je het daar maar, dan maar gewoon helemaal mee los gaat laten. Dat snap ik ook wel. Dat is niet jouw punt. Nee.
• 58:48
  Hè, dus daarom zei ik: laten we het eerlijker verdelen in de aandacht. Ja, maar dat betekent dus dat je minder aandacht moet hebben voor het eerste. Ja, want je hebt maar zoveel. Ik maak hem ook even scherp.
• 58:55
  Ja, je, je bedoelt: we hebben allemaal gefrituurd brein. Ja. We hebben maar zoveel tijd om context te switchen. Ja.
• 59:02
  Uhm, nou ja, ik, ik weet niet hoeveel uur er, en hoeveel energie er is om het te hebben over de potentiële existentiële gevolgen van AI in de breedste zin van het woord.
• 59:12
  Maar onder die existentiële gevolgen, eh, hoort absoluut, uh, wat als we er straks weinig meer over te zeggen hebben omdat we geen vinger in de pap hebben op een manier en geen pap meer hebben? Ja.
• 59:23
  Ja, we gaan het over iets vrolijkers hebben. [muziek] Want deze week ging Flipbook viral. Dat is een tool die toont hoe software er straks uit zou kunnen gaan zien.
• 59:34
  Je moet je voorstellen: je typt een onderwerp in, in een soort van browser en dan krijg je een interactieve afbeelding.
• 59:41
  In de demo's zijn het een soort van, ja, je moet het eigenlijk vergelijken met, weet je nog van die, van die boeken vroeger, die dan zo'n infographic maakt van een heel ingewikkeld onderwerp.
• 59:51
  Dus dat je een schip ziet door in tweeën gesneden en dat je dan de machinekamer ziet en alle onderdelen. Een soort, soort van dwarsdoorsnede van een ingewikkeld onderwerp.
• 1:00:01
  Wat Flipbook doet is dat genereren, maar die ook interactief maken.
• 1:00:05
  Niet alleen het onderdeel in beeld zien, maar als je dan op een onderdeel klikt, dat je dan er dieper op ingaat, op dat specifieke punt en zo eindeloos kan doorklikken.
• 1:00:17
  Dat eindeloze is belangrijk, want wat Flipboard liet, of Flipbook liet zien, is een interactieve afbeelding van iets. En dit is nog maar een voorbeeld.
• 1:00:27
  Een interactieve afbeelding van iets, die eindeloos door kan inzoomen, omdat het niet van tevoren is vastgesteld, niet van tevoren is getekend. Het zijn pagina's die pas gemaakt worden op het moment dat je klikt.
• 1:00:40
  En dat betekent bij gebrek aan sjablonen, bij gebrek aan vaste menu's, dat alles ter plekke gegenereerd is door een AI, waardoor je dus alles kan visualiseren op deze manier.
• 1:00:53
  Waarom zag jij dit Wytse en dacht je: holy shit? Ja, ik vind dus dat het er veel te weinig over gegaan is. Ja. Dus ik ben zo blij dat we het erover kunnen hebben. Uhm, ik dacht: holy shit,
• 1:01:06
  wa-wat gebeurt hier nu allemaal tegelijk? Kijk, in de Genie modellen van Google, dat zijn de beeldmodellen waarbij de realiteitIn het moment snel gegenereerd wordt.
• 1:01:16
  Dus jij loopt door een huiskamer heen, uh, in, in zo'n 3D ruimte en jij draait je hoofd naar het raam. Inderdaad, je ziet het raam, je kijkt uit het raam, je ziet de buitenwereld. Dit is wat Genie doet.
• 1:01:28
  On demand, just in time reality generation. Wat, waardoor het een soort en een simulator is en een potentieel operating system.
• 1:01:35
  Want je kunt ook op de muur tekenen en je tekeningen blijven staan en iets in een doos stoppen en het zit er nog steeds in.
• 1:01:39
  Het blijft moeilijk om, om te bevatten, maar het is een wereld die gegenereerd wordt in real time.
• 1:01:44
  Nou, dan kan je natuurlijk zeggen: dat principe, uh, wat, wat eigenlijk Pim de Witte gedaan heeft met alle computergames, filmen zeg maar. En dan dat gebruiken om daarna nieuwe computergames te gokken.
• 1:01:54
  Wat als je een user interface zou filmen? Zeg, je filmt
• 1:01:59
  10.000 uur lang een Mac, Mac, Mac OS met Safari en allemaal dingen en je, je, je, je filmt dat en je hebt, je gaat dus helemaal niet meer Genie Reality Generator doen of Genie Game Generator.
• 1:02:13
  Je maakt het eigenlijk veel simpeler met alle respect. Kan je niet een interface hallucineren? Dus wat je dan eigenlijk vraagt is aan het model, even voor de luisteraar:
• 1:02:24
  maak voor mij een plaatje van een typische Mac OS, Mac OS desktop met aan de onderkant de iconen et cetera. Hoef ik niet eens te zeggen.
• 1:02:31
  Ja, dus waar we het net hadden over een boot doormidden snijden en dan eindeloos kunnen inzoomen als in die uitlegboeken van vroeger, zeg je nu: dat is een plaatje.
• 1:02:39
  Maar ik weet nog wel een ander voorbeeld van een plaatje. Dat is namelijk hoe jouw computer eruit ziet met alle menu's en alle, alle iconen en zo. Ja, oké. En dan zeg je tegen die AI: ik heb geklikt op Safari.
• 1:02:52
  Hoe zou het er dan uitzien? Krijg je een screenshot gehallucineerd door dat ding, gegenereerd met Safari open? Ja. Ik ga naar NOS.nl. Hoe zou dat er dan uitzien?
• 1:03:02
  Nou, dan krijg je een, een, een soort samenkomst van een geblufte nep NOS.nl op dat moment. Want dan doet hij een soort, alles wat hij ooit heeft gezien van NOS.nl. Hoe zou nieuws eruit kunnen zien? Ja, precies.
• 1:03:14
  Dus dat is, dat is een duidelijke mock en een fake NOS.nl. Maar we kunnen het ding ook grounden aan de achterkant.
• 1:03:21
  Hij doet heel even een tool call naar de echte NOS RSS-feed en laadt dan het nieuws in op een typische NOS.nl manier. In een nep browser, in een nep Mac, in een plaatje. Met daadwerkelijk de tekst van de NOS.
• 1:03:33
  Ja, en dan zeg je: doe nou eens dertig plaatjes per seconde genereren en een muiscursor. Dude, dan heb je gewoon een computer weer. Oké, en, en waarom- Nou, wacht, wacht. Kijk je hier naar en denk je: mind is blown.
• 1:03:46
  Nou, wat, uh, uh, Andrej Karpathy heel erg mooi gezegd heeft in een van zijn recente interviews, twee weken terug. Dat noemt hij neural computing. Ik moest echt even schakelen.
• 1:03:56
  Ik hoop dat ik het zo goed uit kan leggen als dat hij het uitlegde.
• 1:03:59
  Hij zei: ha, eigenlijk simuleren we nu op een klassieke computer een nieuw soort computer die een interface bij mekaar gokt en op dat moment vlug een browser verzint, vlug NOS.nl verzint en dan even snel wat nieuws ophaalt en het dan presenteert.
• 1:04:16
  Ja. En dat is allemaal heel, dat kost heel veel rekenkracht nu, op een enorm datacenter om dertig hallucinaties per seconde te doen. En die muiscursor als je hem beweegt.
• 1:04:26
  Dus het is, je zou kunnen zeggen cynisch: ja, vette techdemo man, maar absoluut geen concurrent voor een, voor een normale laptop. En daarnaast: we hebben het al. Ja, oké, wacht.
• 1:04:37
  Dit, want nu, dan denk je nog niet groot genoeg, vriend. Uh, dit is een mooie vraag.
• 1:04:42
  Laten we even ervan uitgaan, wat Karpathy eigenlijk zei is: ga, we zijn nu op een klassieke computer een nieuw soort computer aan het simuleren, namelijk een neuro, een neural computer.
• 1:04:51
  Oftewel een computer die niet meer-- ik neem je even mee hoe nu NOS.nl gemaakt wordt. Dat is een HTML-bestand [schraapt keel] ergens op een server, die wordt ingeladen in een browser.
• 1:05:01
  Die gaat dan vakjes tekenen en het NOS-logo tekenen in de hoek, de foto's op de juiste plek zetten. Dit zie je allemaal niet, want het gaat supersnel.
• 1:05:08
  En die rendert dan in Safari, Chrome of Firefox en Edge rendert ie NOS.nl. Dat is een hele rendering pipeline. Wat Karpathy eigenlijk zegt, is: laat die pagina gewoon bij mekaar bluffen door een AI.
• 1:05:20
  Die doet het op een totaal andere manier, want die doet het op een soort vibe. Die denkt: hmm, ik heb heel veel NOS.nl gezien. Ik gok ongeveer hoe dat eruit ziet.
• 1:05:28
  Het is een hele andere manier om tot exact hetzelfde eindresultaat te komen, namelijk: ik ben gewoon aan het scrollen op NOS.nl.
• 1:05:35
  Alleen die computer erachter is iets wat op een radicaal andere manier dat beeld naar je computerscherm- Maar dan ga ik nog een keer vragen: who cares, als we het allemaal hebben? Is dat,
• 1:05:45
  uh, ja, je, waarom doet hij eigenlijk Safari hallucineren? Waarom NOS.nl? Je kunt toch ook aan datzelfde algoritme vragen: ik snap eigenlijk niet hoe een brandstofmotor werkt.
• 1:06:00
  Uh, start nu een applicatie voor mij die in 3D een brandstofmotor uitlegt, uh, met de stem, stem van Jörgen Raymann erachter. En ik wil dat het werkt met, uh, toetsenbord. En ik moet ertegen kunnen praten.
• 1:06:16
  En dan start je die applicatie gewoon. Ja, dus je zegt eigenlijk: je kan alles op je scherm toveren wat je maar kan bedenken. Maar dan toch.
• 1:06:23
  Als ik software nu wil maken, dan heb ik dus nu een AI die voor mij programmeert. Ja, dit duurt toch gewoon veel te lang. En is dat wat je zegt? Dat uiteindelijk als jij, dus nu hebben we een systeem wat aan de hand van,
• 1:06:37
  uh, ja, regels over hoe programmeren werkt en een computer die vervolgens die regels weer interpreteert en dan uiteindelijk een schermpje tekent wat dan je browser is.
• 1:06:48
  Dat is een manier om bij die browser te komen en dat is wat we willen. Maar je zegt: je kan eigenlijk ook gewoon een computer la-laten dromen over een browser en dan verschijnt ie gewoon. Ja, mooi gezegd.
• 1:07:02
  En ik, laten we zeggen dat wij twee teams zijn bij hetzelfde research lab. Onze opdracht is als volgt: just in time software, just in time personalized software.
• 1:07:11
  Oftewel jullie hoofddoel, jij bent team A, ik ben team B, is om te zorgen dat een eindgebruiker, een mens, achter een scherm plaats kan nemen.
• 1:07:20
  We hebben het niet over VR, gewoon een scherm, gewoon een 24 inch 4K-scherm met een muis en een toetsenbord. Voor het gemak, want we snappen hoe dat werkt. En wat die perso-persoon ook wilKan op dat moment.
• 1:07:31
  Dus als je zegt: ik wil een analyse maken van mijn groentetuin, dan, dan, dan zegt dat ding: maak maar een foto en dan, woop, komt er een complete tuin designer app die nog nooit bestaan heeft en daarna ook weer verdwijnt.
• 1:07:42
  Jouw team doe ik even. Team A is team Classic Compute. Dus jij zegt: oké gasten, we moeten allemaal AI gaan inzetten om zo snel mogelijk Swift UI code te genereren. Dan zo snel mogelijk een idee te ideaten voor die app.
• 1:07:55
  En dan ga ik zoveel computerkracht instellen dat als die persoon klikt op dat icoon, dan komt er heel even een zandloper in beeld of een parasol op de Mac en bam, die app staat er. Ja. Just in time.
• 1:08:05
  Helemaal geen neural compute, geen Karpathy gemekker, gewoon een supersnelle codex. Toch? Ja. Nou, dan komt team B. Daar zit dan Wytse en Andrej Karpathy in die zeggen: Oneerlijk, maar oké, prima.
• 1:08:16
  Ik heb even iemand meegenomen. Ja. En, en dan zeggen wij van: al die tussenstappen, dat expliciete programmeren eigenlijk, gaan we helemaal niet meer doen. We slaan in één keer over.
• 1:08:26
  Wij, wij gaan niet een neuraal netwerk trainen om computerprogrammeer, computercode te hallucineren of te genereren. We gaan meteen interface genereren. We slaan gewoon alles over.
• 1:08:38
  En hoe dat ding dat van binnen doet boeit ons niet eens meer. Het is gewoon een soort, dat zou je wel moeten boeien, maar in het voorbeeld niet, want ons doel was: wie krijgt het het mooist op beeld?
• 1:08:46
  En ik denk dan dat wat blijkt is dat onze teams beide twee dingen kunnen opleveren die nagenoeg even snel die tuin app in beeld gooien.
• 1:08:56
  Alleen jij zit in jouw team wel vast in wat er ooit in Swift UI gemaakt is, in wat er in de SDK van Apple meegebakken is, zeg maar.
• 1:09:05
  Jij, jij hebt eigenlijk allemaal beperkingen om je heen van het oude paradigma, want je bent aan het, aan het bluffen, aan het gokken met regels, letterlijk regels, de wetten en regels van het oude computerparadigma.
• 1:09:17
  Terwijl ik eigenlijk denk dat neural computing de eerste, uh, maanden slash jaren de oude interfaces gaat genereren als een soort overgangsmoment.
• 1:09:27
  En dat we er dan heel snel achter komen dat het een soort skeuomorphism was, hè, een soort, uh, uh, dat jij, uh, ja, dingen in de wereld eruit laat zien als de oude wereld, zodat mensen er niet te veel van schrikken.
• 1:09:38
  Maar wat dan? Is het dan het ou-, het einde van apps? Want apps worden gegenereerd door een heel groot dromend model dat gewoon op je scherm laat zien wat het denkt dat het moet worden.
• 1:09:49
  Het hoeft helemaal niet echt bestaan te hebben in het verleden. Nou ja, ik denk dat het, het, dat apps wat anders worden. Apps worden meer een soort normen. En daarmee bedoel ik, dat klinkt echt te vaag.
• 1:09:59
  Uhm, laten we hem heel concreet maken. Je wilt een boekhoudpakket. Ja. Laten we nog even, je, laat ik het anders zeggen: je wilt inzicht in je boekhouding. Ja. Dat is een beter, want niemand wil een boekhoudingpakket.
• 1:10:09
  Sommige mensen willen wel inzicht in hun boekhouding. Ja. Omdat jij, je, net als je chief of staff, hadden we het net over, hè.
• 1:10:15
  Dus jij zegt: prima dat er allemaal berekend wordt op de achtergrond, maar ik wil soms wel even meekijken in een soort dashboarding. M-hm. Ja. Uhm,
• 1:10:22
  het lijkt me niet handig dat als jij dat op maandagochtend om 8.00 uur vraagt, dat je een kick-ass dashboard krijgt gedroomd en dan vraag je de week erna krijg je een heel ander dashboard.
• 1:10:31
  Dat zou toch een beetje suf zijn. Dus ergens moeten er normen zijn, visuele normen.
• 1:10:36
  En ik denk dat de, de rol van de ontwikkelaar, uh, wordt om die normen te stellen, die kaders te geven aan dat supercreatieve droommodel. En wat is een operating system dan nog?
• 1:10:48
  Nou, uiteindelijk, uh, een soort spin in het web van het binnenhalen van, uh, bepaalde data. Uh, wat bedoel ik daarmee? Uiteindelijk, uh, zijn er, is er een saldo van een rekening.
• 1:11:01
  Zijn er mutaties hebben plaatsgevonden tussen verschillende rekeningen, als het om boekhouden gaat. Ja.
• 1:11:06
  Kijk, die informatie, eigenlijk zou ik zeggen dat het de rol van het operating system, ja, Karpathy noemt dat een LLM OS.
• 1:11:14
  Dus een soort besturingssysteem gebaseerd op, uh, de kernel, hè, de, het hart van het besturingssysteem is een algoritme, is een model eigenlijk.
• 1:11:23
  Dat het model gegrond moet worden, hè, gegrond moet worden in daadwerkelijke bankmutaties. Maar om even ons eerdere NOS-voorbeeld erbij te pakken: het daadwerkelijke nieuws. Ja, want een database dus.
• 1:11:35
  Ja, en uiteindelijk krijg je dan dus, uh, en op zich kan dat prima, ook op het bestaan, in het bestaande netwerk, hè. Dus ik neem een laptop mee met een neural OS erop, hè, een neural computer.
• 1:11:46
  Uh, dat is misschien nog even belangrijk om te zeggen, uh, want dat puzzelstukje mist nog in dit verhaal. Wat Karpathy zegt is:
• 1:11:54
  we moeten natuurlijk ook stoppen met het emuleren van een neural OS en een neural computer op een klassieke computer. Die processor, die moet ook eigenlijk een, uh, AI, uh, gebaseerde model processor zijn.
• 1:12:08
  Dus hij gaat nog een stapje verder. Dan is de cirkel eigenlijk wat meer rond. Dat de computers van de toekomst, wat eigenlijk interfaces worden tot het netwerk, Ja.
• 1:12:16
  hè, waarop het nieuws van NOS bijvoorbeeld staat of ANP, whatever.
• 1:12:19
  En dat daar het besturingssysteem inclusief de hardware van die laptop gemaakt is op een wereld waarin die precies op het juiste moment jou visueel, auditief, met gevoel, met klikjes in je hand, noem het allemaal maar op, tactiel, antwoord geeft.
• 1:12:36
  Weet je wat mij vet lijkt hieraan? Dat we dan eindelijk die interfaces uit films in de jaren 90, uh, echt krijgen. Jack Bauer had in 24 altijd zulke vette schermen in CTU met van die,
• 1:12:48
  van die, van die kaarten erop en dat die lijnen de hele tijd door elkaar lopen en alles.
• 1:12:52
  Ja, ik heb ook wel zitten nadenken over, er is zo'n Nederlandse kunstenaar, die heeft een klok gemaakt op basis van, uh, inkt en, dus, dat is een soort olieklok waarbij
• 1:13:02
  blauwe inkt van vorm verandert met magneten en de tijd weergeeft. Dus, hè, als die klok uitstaat ligt er inkt beneden en als ie aangaat worden er getallen gevormd in inkt, in olie. Ja.
• 1:13:12
  Je ziet een soort vet kunst-, het is een kunstobject. Ja. Maar, ja, je zou ook een zandtafel kunnen hebben [gelach] waarop die neural computer, zie je-- nee, maar ik bedoel, wa, jij zit nog te denken in schermen joh.
• 1:13:24
  De toekomst [gelach] van technologie ligt op uw zandtafel. Zijn we lekker weggeweest. U heeft het hier als eerste gehoord. Wij danken Sam Hengeveld voor de edit. Frank heel voor de vormgeving.
• 1:13:32
  Als je een le-een lezing wil van Wytse Hagen en zijn zandtafel, dan mail je naar lezingen@theireport.email of, uh, een lezing van mij, dat kan ook.
• 1:13:40
  Als je op de hoogte wil blijven van het laatste AI-nieuws, twee keer per week, uh, tips en tools wil ontvangen om het meeste uit AI te halen, abonneer je op onze nieuwsbrief via AIReport.nl.
• 1:13:48
  Volgende week zijn wij er even niet. Het is vakantie, uh, ook voor ons. Ik moet even werken aan mijn gefrituurde brein. Dat lijkt me heel verstandig. Laten we hem even tot rust komen. Zie je over twee weken weer.
• 1:14:04
  Tot dan. [afsluitend muziek]