Latest / AI Report / Openclaw is dé AI-hype van het moment + de 22.000-woorden-noodkreet van Dario Amodei

Transcript

Openclaw is dé AI-hype van het moment + de 22.000-woorden-noodkreet van Dario Amodei · AI Report

• 0:00
  Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. En jeetje, wat was dit voor een week?
• 0:12
  AI nerds ontplofte van de hype door een dingetje wat online kwam genaamd Claude Bot. Die moesten van naam veranderen, want dat leek te veel op Claude en daar heeft het niks mee te maken. Maar dat is allemaal details.
• 0:24
  Het is een AI agent die 's nachts zelfstandig crypto kan handelen. Je partner kan appen zonder dat je het weet en boodschappen bestellen. Mold Bot, zo heet het ding dus, ging viraal.
• 0:36
  We gaan je vertellen wat het allemaal kan en waarom je het vooral niet moet installeren.
• 0:41
  Anthropic baas Dario Amadei waarschuwt: we hebben nog maar twee jaar totdat AI slimmer is dan mensen en de wereld is daar niet klaar voor. Daar heeft hij 22.000 woorden voor nodig om dat stuk, om dat punt te maken.
• 0:54
  En we gaan dat met je doornemen. En wetenschappers van Oxford en Cambridge slaan alarm. Zwermen AI bots kunnen straks de publieke opinie manipuleren. Het tijdperk van domme nepaccounts is voorbij.
• 1:06
  Maak je klaar voor een vrolijke aflevering van AI Report. [muziek] Dietse. Alexander [beiden lachen]
• 1:24
  bevestigt mijn bestaan. Ik ben gewoon, kijk, er zijn gewoon echt weken waarop ik in de war ben. En dit is wel zo'n week. We gaan het dadelijk hebben over, uh, Mold Bot, uhm, want dat is de hype, uh, van het moment.
• 1:40
  Maar ik, als ik even toch nog over, ook even mijn particuliere, uh, inzichten mag delen. Ik heb dus vorige week verteld dat ik een, uh, een, een, een, uh, to-do app gemaakt met Claude Code.
• 1:56
  Uh, en ik gebruik Obsidian daarvoor als backend. Obsidian is een soort van, uh, ja, notitie app eigenlijk, uh, maar voor open source nerds. Jouw leven in tekst. Mijn leven in tekst. Ja, daar maak ik al mijn notities.
• 2:07
  Ik, uh, en ik dacht: daar is een goede plek om mijn taken in bij te houden ook. En dan maak ik wel een frontendje met Claude Code en die doe ik, maak ik dan precies zoals ik het wil, namelijk de interface van Things.
• 2:20
  Dat is de mooiste Mac app voor to-, voor, voor, voor takenlijstjes, vind ik.
• 2:25
  Dus ik heb dat ding in een avondje geïnstrueerd om Things na te bouwen en dan eigenlijk Obsidian als- Moest je nog Things screenshots toevoegen of wist ie genoeg?
• 2:33
  Nee, hij ging gewoon zelf googlen en toen liet hij gewoon screenshots [lacht]. Ja, serieus, ik zag hem zoeken naar, uh, user interface elementen van Things en dat heeft hij heel aardig gekopieerd.
• 2:43
  Nou, daar, daar werk ik dus. Dit is de eerste app die ik zelf gebouwd heb waarmee ik nu echt zelf ook werk. Gewoon de hele tijd. Ik ben nu, ik ben nu gewoon- Hoe heet je app? Obsidian Things.
• 2:52
  Ja, oké, dat heeft die AI bedacht. Water. Ja, doet er ook niet zoveel toe. Uhm, en dat, uh, heeft hij gewoon keurig gepusht naar een of andere server, dus ik kan er ook nog van allemaal computers bij.
• 3:02
  Maar het verandert dus hoe ik werk met software, want ik heb dus op mijn rechterscherm Warp openstaan. Dat is mijn, uh, de tool waarmee ik Claude Code gebruik. Dat is zo'n, ja, het is een soort van versie van Cursor.
• 3:16
  Of het is zo'n IDE, maar dan meer gemaakt voor, uh, agents.
• 3:20
  Ja, die is een beetje, die weet een beetje: ik zit, ik ben niet een klassieke terminal, ik ben een terminal ingezet- Ja...met agents en daardoor is hij net wat lekkerder daarop voorbereid denk ik. Ja. Oké, top.
• 3:31
  Ja, en, uhm, en kan wat dat betreft ook beter multitasken dan je standaard met Claude Code in de Claude app kan.
• 3:38
  Maar, wa-, het belangrijkste punt wat ik, wat ik je wil vertellen is dat ik dus nu de hele tijd op mijn rechterscherm aan het vertellen ben hoe de software op mijn linkerscherm moet veranderen.
• 3:50
  Dus dat ik zeg: o, eigenlijk heb ik altijd van to-do apps geaccepteerd hoe ze nou eenmaal werken. Want ik werk, ik leef in mijn to-do app. Anders dan raak ik helemaal in stress.
• 3:59
  Maar eigenlijk wil ik ook, uh, een soort van inbox hebben die ik, waarbij ik dan gestimuleerd word om mezelf, om die leeg te werken de hele tijd en dat het naar projecten gestuurd wordt.
• 4:07
  Dus ik wil inbox veel meer als, nou, plek waar ik triage doe gebruiken.
• 4:12
  En dan kan ik dus tegen dat ding zeggen: o, eigenlijk wil ik, bovenin wil ik dan een soort van inboxje maken en dan wil ik dat, uh, dat ding me begint te waarschuwen als het daar te lang in staat en, ik, met andere woorden ik, ik kan opeens hardop nadenken middels, uh, aan, aan dat ding typen hoe ik die app wil hebben.
• 4:32
  En dat ding maakt dat gewoon en het werkt. Alles wat ik vraag voert hij door in die browser.
• 4:37
  En omdat het ook nog eens in Obsidian is en dus allemaal open source is, verandert het allemaal, uh, al, zeg maar, ik hoef niks te refreshen of wat dan ook.
• 4:44
  Het, het verandert, die app is gewoon veranderd door hoe ik ertegen praat. Dit is zo vet! Ja, het is een hele, een echt een hele andere relatie van gebruiker naar computer. Ja.
• 4:55
  Je bent zo gewend dat, wat je, je krijgt dozen van ontwikkelaars aangeleverd met dingen erin gemaakt van diamant die je niet kan veranderen. Met diamant bedoel ik zo hard is het. Ja, de apps die we iedere dag gebruiken.
• 5:04
  Ja. Ja, dus die, die software, die wordt, ja, die, die installeer je uit app stores of die staat al op je computer en daar heb je het maar mee te doen.
• 5:11
  Hè, en wat tot nu toe het meest geavanceerde was, is dat je bijvoorbeeld de balken in je browser zelf kunt indelen. Of staan de tabs links of rechts, hè? Ja, dat soort.
• 5:19
  Dus we hadden, ja, je kreeg een soort wat ze dan affordances noemen, een soort, de, de bewegingsruimte die de software ontwikk-, het team jou gaf om er een soort zelf de-- je kan je homescreen op je smartphone aanpassen met widgets en de apps staan op bepaalde plekken.
• 5:33
  Ja. Uh, en als je echt nerdy bent ga je met custom launchers aan de gang op je Android. Maar je kan niet zeggen: open altijd standaard deze app en daar doe ik alles in. Precies.
• 5:39
  Of, uh, dit is hoe de app er van binnenuit moet zien. En ik heb, ik heb gemerkt, ik had, uhm, in een eerdere aflevering Bitterig ook al getipt voor de iOS gebruikers.
• 5:48
  Uh, zoek even op Claude: wat is Bitterig voor Android? En heb je die waarschijnlijk daar ook. Maar dan kan je dus op je telefoon meteen bouwen aan-In de in de bus en die apps verzamelen zich dan in die app.
• 5:58
  Dus je bent apps aan het bouwen op je telefoon die je daarna meteen kunt gebruiken. Ja. En, uh, ik had veel, uh, berichtjes gekregen van mensen die zeiden: dude, wat is dit ineens? Ik ben, ik heb al zeven apps gebouwd.
• 6:08
  Ja. Want het was, blijkbaar was het ook nog, dat zegt ook iets over hoe weinig frictie mensen kunnen handelen in hun leven.
• 6:13
  Maar eigenlijk was de stap Claude code op je computer en dan die app nog naar je telefoon zetten ook al heel groot voor mensen. Ja.
• 6:20
  Dus er kwam wel een gave app uit al, maar dan moest ik dat weer op een of andere manier op die telefoon krijgen. Ja, maar je bij Apple zo'n developer account maken en zo, dan ben je me al kwijt.
• 6:27
  Dat is toch, toch 5 minuten werk? Ja. [lacht] Sorry. [lacht] Maar goed, bij Bitrix staat hij gewoon daarna in Bitrix, in dit geval in een eigen homescreentje. En die apps gaan best wel ver, hè.
• 6:37
  Mensen maken, is het, uh, uitgaansplanners voor specifieke steden en thema's en alles erop en eraan, die je daarna ook nog eens, wat we even gezegd hebben, vanuit Bitrix wel daadwerkelijk in de store kunt krijgen ook.
• 6:47
  Oké. Het zit erin, dus ik bedoel. Het is echt publish to App Store. Yep. Dan kan iedereen hem downloaden. Yep. Ja, die moet natuurlijk wel een developer account aanmaken dan, maar dat hebben ze helemaal ook ingebouwd.
• 6:56
  Oké. Dus, en ik bedoel, die apps kunnen dan 30% van wat apps zouden kunnen die je in de breedte zou kunnen bouwen als een team eraan gaat werken.
• 7:04
  Maar in die 30% zit zoveel potentie en dat gaat verder dan een wekkertje of een klokje wat ik dan heb ver-verteld de vorige keer.
• 7:10
  Je kunt daar inderdaad ook API's mee aanroepen en zeggen: joh, je moet het in de iCloud opslaan, zodat als ik de volgende keer terugkom het er nog staat. Nou, al dat soort dingen doet hij dan ook.
• 7:19
  Dus dat is best wel een, uhm, om, om datzelfde gevoel te krijgen als wat jij nu hebt. Want je zit hier eigenlijk me aan te kijken met een soort van: dude. Ik heb water zien branden.
• 7:28
  Ja, hebben mensen wel door wat ik hier eigenlijk aan het vertellen ben? Jouw autodashboard kan vloeibaar veranderen terwijl je in je auto zit en het stuur gaat naar de andere kant, zeg maar.
• 7:36
  Ja, maar ook dat is geen goede metafoor. Het is, het is, ik, ik, ik, i-ik krijg het ook gewoon niet aan het, aan het verstand gepeuterd van mensen.
• 7:43
  Ik bedoel dat, omdat je zegt: dan zit je nog heel erg op de soort knoppenlaag te denken, terwijl wat jij bedoelt is: het is het hele ding wat naar jouw hand gezet wordt. Ja.
• 7:51
  En dan vooral ook nog het effect daarvan op jouw leven. Dus niet alleen: ik kan het nu, maar ook wat er gebeurt nu je het kan. Ja, ik weet gewoon doordat ik nu mijn, de, ik leef in mijn to-do app.
• 8:01
  Dat is de, dat is de plek waar alles begint eigenlijk.
• 8:04
  En ik ben gewend om dan in de to-do app een bestandje te hebben en dat ik dan vervolgens naar Notion of weet ik veel welke andere app moet gaan om daar dan vervolgens in die documenten te gaan werken.
• 8:12
  Het is de verbinding die er nu is ontstaan tussen die tools, die zo spectaculair is. Dat is één ding. Ja. En het tweede is dat ik bijvoorbeeld, uhm,
• 8:21
  uh, ik neem van die, ik neem meetings op met zo'n microfoontje dat het dan ook transcribeert. En dat ding maakt dan automatisch van de actiepunten maakt ie,
• 8:30
  uuuh, ja, hij, hij, hij, hij genereert actiepunten uit transcripten. Dat, dat kennen we inmiddels ook wel.
• 8:35
  Dat, dat kunnen al die taalmodellen, maar hij voegt ze dus ook toe aan m'n, aan m'n to-do app automatisch nu, want het zit allemaal op deze, in Obsidian komt dat binnen. [schraapt keel] Nu denk ik dus:
• 8:48
  oké, maar als dat ding die vergadering heeft gevolgd, dan weet hij dus ook wat ik nu allemaal wil gaan doen.
• 8:54
  En die taken, hij kan, sommige taken kan hij gewoon zelf uitvoeren en ik hoef hem alleen nog maar aan mijn mail te koppelen voordat dat ding tegen mij zegt.
• 9:03
  Want wat ik dus wil, is: ik wil een soort van, uh, gesugge-- als ik dan een vergadering heb gehad over iets, ik denk dat iedereen die op een kantoor werkt kent dit gevoel.
• 9:12
  Dan wil ik dus eigenlijk dat al die dingen die zijn afgesproken, dat er niet alleen vinkjes zijn, maar dat, dat dat ding dan suggereert: oké, uh, je zou een e-mail sturen aan Pietje en Klaasje. Hier staat de e-mail.
• 9:22
  Wil je hem editen of versturen? En dat ik op versturen kan drukken en dat het dan gebeurt, weet je. Ja, dus, dus. En dit kan ik nu maken. Toch even resumé, want het gebeurt toch, toch wel veel.
• 9:30
  Het is voor het eerst dat jij je voelt als hoe jij je voelt bij mij. [lacht] Snap je wat ik bedoel? Wat jij al jaren kan, bedoel je? Nee, zo bedoel ik het niet.
• 9:36
  Ik bedoel dat hoe ik vaak verhalen uitleg, namelijk dat ik denk: wauw, hier zit, hier zit, dat jij denkt: hier zitten wel zeven elementen in. Even een paar stappen terug.
• 9:44
  Wat jij nu eigenlijk vertelt is: ik kan zelf software maken. Dat ziet er ook nog best wel goed uit. Ik heb het gemaakt. Ja. Op de achtergrond verbindt het alle diensten aan elkaar. Ja.
• 9:53
  Daardoor ontstaan er notities uit meerdere databronnen. Ja. En die databronnen zijn onder andere transcripten. Ja. Dus mensen zijn aan het praten en er verschijnen magisch to-do's in mijn lijst. Ja.
• 10:03
  En sommige van die to-do's zijn door diezelfde AI die mijn software gebouwd heeft uit te voeren. Ja. En ik hoef alleen nog maar ja of nee te zeggen op die actie. Klopt. Soms zeg ik misschien zelfs automatisch: oh ja.
• 10:14
  Uuuh. Of gaan we nou een stap te ver? Ja, nee. Zit jij er nog tussen altijd? Nou ja, hij doet heel veel dingen al automatisch, dus dat, dat, dat actiepunten genereren.
• 10:22
  Ik heb niks, dat verschijnt gewoon automatisch in mijn to-, in mijn to-do app. Ik heb niet eens iets ingesteld. Dat, ik, ik schrok vanmiddag ook dat ik mijn to-do app opende, dat ik dacht: oh, er is een bug.
• 10:31
  Toen dacht ik: oh, fuck, hij heeft gewoon die vergadering die ik net heb gehad, waar ik helemaal niet aan denk, dat dat aan elkaar gekoppeld is allemaal, verschijnt gewoon magisch in dat ding.
• 10:39
  Ja, want ik denk: di-dit is een bijzonder mooie brug naar Moltbot. Ja. Waar we het zo over gaan hebben. Ja. Ja, je hebt helemaal gelijk. We gaan het er deze aflevering uitgebreid over hebben. We beginnen met het nieuws.
• 10:49
  [muziek] Ja. Claude Bot is een AI agent die 24/7 draait op je computer, je e-mail kan beantwoorden, je agenda kan beheren, restaurantreserveringen kan maken door zelfstandig te bellen met het restaurant.
• 11:02
  En dat allemaal door gewoon met een bot te praten in WhatsApp. Claude Bot, inmiddels van naam veranderd, namelijk Moltbot is het gaan noemen.
• 11:10
  Een o-open source project wat totaal viraal ging deze week met gigantische hoeveelheid hype. Meer dan 44.000 sterren op GitHub. Dat is een platform waar ontwikkelaars code delen.
• 11:20
  De aandelenkoers van Cloudflare, dat is een bedrijf dat infrastructuur levert voor het internet, steeg 14% door het nieuws over Moltbot en techies slaan massaal Mac mini's in als machine om dat ding op te draaien.
• 11:32
  We gaan het er straks uitgebreid over hebben, maar er is meer nieuws deze week. Dario Amadei, de topman van Anthropic, publiceerde een essay van 20.000 woorden over de risico's van AI.
• 11:42
  Anthropic is het bedrijf achter de razend populaire chatbot Claude. Amadei's boodschap: we hebben nog maar één tot twee jaar om ons voor te bereiden op AI die slimmer is dan mensen.
• 11:53
  Hij vergelijkt de huidige fase met een technologische puberteit, een turbulente overgangsperiode die bepaalt of we als mensheid volwassen wordenOf niet? En zijn bewijs voor die korte tijdlijn.
• 12:06
  Drie jaar geleden kon AI amper één regel code schrijven en nu schrijven de sterkste engineers bij Anthropic bijna al hun code met AI. Sterker nog, Claude helpt mee aan het bouwen van de volgende generatie Claude.
• 12:20
  Het is een ontluisterend essay. Wietse heeft hem gelezen en ook daar gaan we het zo over hebben.
• 12:25
  Wetenschappers van Oxford, Cambridge en Berkeley waarschuwen: zwermen AI bots kunnen straks de publieke opinie beter manipuleren. Hun rapport werd deze week gepubliceerd in het vakblad Science.
• 12:36
  Het gaat dan niet meer over domme nepaccounts zoals we die inmiddels wel gewend zijn, die de hele tijd dezelfde berichten kopiëren en daarmee de publieke opinie proberen te beïnvloeden.
• 12:44
  Maar deze AI zwermen passen zich aan.
• 12:47
  Ze leren specifiek jargon, waardoor het allemaal geloofwaardiger overkomt en bouwen die geloofwaardigheid ook nog eens op over de maanden en stemmen hun boodschap af over wat het beste werkt om invloed uit te oefenen op grote groepen mensen.
• 13:00
  Want dat is het gevaar. Er is een illusie die ontstaat over dat een standbre-, standpunt breed gedragen wordt, terwijl het in werkelijkheid maar door één actor wordt georkestreerd.
• 13:09
  Je denkt dat duizenden mensen dezelfde mening hebben, maar in werkelijkheid is het één persoon met een leger aan bots. Straks praten we door, maar nu eerst voor de laatste keer Marjan en Lucas van Dept.
• 13:22
  [muziek] Hi, ik ben Marjan van Dept. Normaal gesproken bespreek ik met Lucas hoe wij merken helpen in de wondere wereld van AI. Maar in deze laatste editie kijken we terug.
• 13:32
  Wat hebben we afgelopen jaar allemaal besproken en wat valt er op? Ja, ik denk dat we een enorme breedte aan cases hebben laten zien.
• 13:38
  Van het verfijnen van de lookalike audiences voor betere targeting tot het inzetten van AI fashion models, uh, bij Otium om te zorgen dat je sneller en schaalbaarder content kan creëren.
• 13:47
  Maar er waren eigenlijk drie gemene delers: efficiëntie, personalisatie en kwaliteit. Yes! Hey en efficiëntie, uh, daar gaat het eigenlijk nog vaak het meeste over, hè? Ja, en dat is ook niet zo gek, denk ik.
• 13:58
  Uhm, we hadden het voorbeeld van die medische examentrainer waar we weken werk naar 10 minuten, uh, hebben terug kunnen brengen.
• 14:04
  Of AI translation die we inzetten, onder andere bij een grote food delivery partij, waarmee het gelukt is om 60% op de productiekosten te besparen.
• 14:11
  En eigenlijk is het heel simpel AI is nu eenmaal een motor die processen radicaal kan versnellen. Yes! Hey, en inmiddels zit het ook wel in veel van de personalisatie dingen die er, uh, die er gebeuren.
• 14:21
  Ja, ik, uh, denk dat we twee voorbeelden hebben, uh, waarbij we laten zien dat het zowel richting consumenten is als richting marketingteams.
• 14:27
  De bol.cadeauhulp die echt erop gericht is om consumenten, uh, nog beter van dienst te kunnen zijn. En het rete-, return based marketing wat we bespraken. Wat we onder andere inzetten bij Omoda.
• 14:37
  Waarbij we juist AI gebruiken om te voorspellen of iemand gaat returneren. Waardoor die marketeer weet, uh, op wie die moet richten met z'n, met z'n campagnes.
• 14:45
  Waardoor je niet meer adverteert voor de klik, maar echt voor de winst die uiteindelijk, uh, overblijft. Yes! En tot slot het quality control.
• 14:51
  Ja, we hebben het gehad, onder andere over Sainsbury's, waar we AI agentjes gebruiken die real time kijken naar assets die worden gemaakt of die voldoen aan legal, uh, uh, en bijvoorbeeld merkrichtlijnen.
• 15:02
  Waardoor ze in staat zijn om nog veel sneller te werken, zo, uh, maar niet hoeven in te leveren op de kwaliteit of het risico wat eraan hangt. Omdat AI ook echt in staat is om de, uh, kwaliteit te bewaken.
• 15:12
  Ja, eigenlijk als je terugkijkt dan zit AI inmiddels wel echt in heel veel van het werk wat we doen. Wil je meer details van deze cases nalezen? Kijk dan op deptagency.com/ai-report. Ik heb ervan genoten. Wat jij, Lucas?
• 15:24
  Het was een hartstikke leuk jaar. Dank je wel. [muziek] Met veel dank aan Dept.
• 15:34
  Oké, er is ontzettend veel hype deze week over Molt Bot, een open source software dingetje wat op Twitter opeens rondgaat als een motherfucker. Ik heb nog zelden zoiets zo hard zien rondgaan als Molt Bot op dit moment.
• 15:49
  En de belofte van het ding is dat jij als, uh, mens een WhatsApp, uh, client op je telefoon hebt. En daar zit dan nu de Molt Bot tussen. Dus tussen je vrienden staat opeens ook een account van Molt Bot
• 16:04
  en die kun jij vragen stellen zoals jij een assistent vragen kan stellen. Dus bijvoorbeeld als jij zegt tegen dat ding: zijn er nog belangrijke mails binnengekomen?
• 16:15
  Dan kan dat ding jouw e-mail raadplegen en dan vertellen wat er in de mailbox zit.
• 16:19
  Als er dan vervolgens, uh, er een verzoek in zit van een vriend die een afspraak wil maken met jou, weet ik veel, om bier te drinken, dan kan je dus tegen dat ding ze-, dan zegt dat ding: nou, er zit een vriend die wil een afspraak met je maken om bier te drinken.
• 16:33
  Dan kan dat ding, za-, dan zegt hij dus: zal ik het voor je plannen? Dan zeg je: ja, doe dat maar. En dan gaat dat ding dus op eigen houtje bedenken: heb ik toegang tot de kalender van die vriend?
• 16:41
  Zo ja, dan kan ik een tijdslot vinden wat voor allebei werkt.
• 16:44
  Als hij dat niet heeft, dan kan hij gaan mailen met die vriend of via app, via WhatsApp contact opnemen met die vriend om te vragen: uh, wanneer kun je afspreken?
• 16:54
  Sterker nog, dat ding zou kunnen suggereren om voor jou dat bier te bestellen bij de Albert Heijn.
• 17:02
  Omdat hij niet alleen toegang heeft tot allemaal, uh, services die jij gebruikt, je e-mail, je agenda en wat dan ook voor, voor dingen die je op je computer gebruikt of op je telefoon.
• 17:14
  Maar hij kan ook een computer bedienen, jouw computer bedienen op de achtergrond om rond te klikken op de website van de Appie, bier in het winkelwagentje te doen en dat bij jou thuis te laten bezorgen.
• 17:27
  Dat gebeurt allemaal op de achtergrond en wie weet laat hij dan weten: nou, ik heb het gedaan, uh, en misschien laat hij dat niet weten en dan zie je gewoon op een gegeven moment een Appie busje voor de deur rijden.
• 17:37
  Heb ik tot nu toe iets gezegd wat niet klopt, Wietse? Uhm, ik, ik. Want mijn hoofd klappert hiervan. Nee, ja, ik bedoel, uh, ja, hoe zeg ik dat?
• 17:45
  Het, ik bedoel, het is alsof iemand, je hebt iemand anders thuis achter je computer zitten die jij via WhatsApp instructies geeft. Ja. Nee, maar dit is 100% wat het is.
• 17:53
  Die ook naar je bankieren app kan, et cetera, et cetera. Alles kan op jouw computer. Het, het klopt helemaal. Ik vind je enthousiasme spannend. Ja, waarom? Omdat het, uhm,
• 18:04
  uh, de, deAlle AI, de grote AI-bedrijven hebben dit niet gewild. Zij kunnen dit al bouwen, maar niemand wil dit bouwen. Juist. Ja, en dus het is gebouwd. Dit hebben ze proberen te voorkomen.
• 18:17
  Absoluut, zeg maar, dus en dat het de naam Claude had, is Anthropic heel erg scherp op gesprongen, omdat zij zeiden: dit is verwarrend. Ja. Straks denken jullie dat van ons is.
• 18:24
  Ja, nee, voor de helderheid: het is een of andere onafhankelijke open source developer- Ja...die het heeft gemaakt.
• 18:28
  En ik denk van voor de impact het, zeg maar, één stap verder is Claude in een robot stoppen en zeggen: loop maar naar buiten. [lacht] Nee, maar echt waar, ga maar naar buiten en zie maar.
• 18:36
  Wat heb je gezien wat mensen ermee doen, wat je in, wat je, wat je opvallend vond? Kijk, uhm, hij kan zelf ook, het is natuurlijk Claude Opus op de achtergrond, voor de duidelijkheid.
• 18:45
  Dus het is Opus met ze allemaal, met allemaal extra pakken aan, met extra klauwen. Het heet dus ook Clawd, Klauwbot, voor de duidelijkheid. Dus je geeft de robot extra klauwen.
• 18:54
  Uhm, die kan niet alleen maar, want dit is ook zo, daarom heeft het zoveel stapjes. Als die het niet kan, dan gaat ie bouwen en dan kan ie het alsnog.
• 19:05
  Dus wat ik heb gezien is iemand die zegt: wil je een restaurant voor me bellen? Dat ie denkt: ik kan niet bellen. Ik ga op zoek naar een API waarmee ik kan bellen. Ik kan niet praten, ik ga ElevenLabs bouwen.
• 19:15
  Ik ga een app bouwen om mezelf een stem te geven en met die stem ga ik dat telefoonnummer bellen. En dit is wat er ook allemaal gebeurt. Dus je hebt een soort, de standaard skill set van Claude met, uh, [lacht]
• 19:25
  van de Mod Modbot. Uh, die heb je, maar die kan ook zijn eigen skillset real time uitbreiden terwijl jij vragen stelt.
• 19:33
  Dus, a-, dus het is echt, uhm, een, een bestaand AI-model met een, bo-, uh, bups zelfvertrouwen erbij gekregen door de ontwikkelaar die ook zegt: als je het niet kan, dan ga je maar kijken hoe je het voor elkaar krijgt.
• 19:45
  Ja, ga maar proberen het jezelf te leren. Ja, en dan met als extra combinatie, uh, want dat is denk, de luisteraars die nu luisteren denken van: oké, ja, oké, het klinkt als een soort cowork-achtig met WhatsApp.
• 19:57
  Hij kan ook proactief handelen- Ja...en dat is denk ik voor heel veel mensen, ook van de voorbeelden die ik heb gezien bijvoorbeeld, dat, ja, uh, ik heb gezien in een call dat jij het daar en daar over hebt gehad.
• 20:08
  Daar heb ik een notitie voor je van gemaakt en toen ik die notitie dacht ik: dit kan ik eigenlijk voor jou gaan doen. En toen ben ik dat gaan doen.
• 20:13
  Ja, dus de sensatie is dat je 's ochtends op je telefoon krijgt, kijkt, dat dat ding jou geappt heeft en dat dat ding dan zegt: je had het gisteren ergens over. Ik heb dat vannacht voor jou gedaan. Ja. Hier staat het.
• 20:26
  En, uh, dus de reden dat ik op jouw enthousiasme terugduw is, dit is de disclaimer van twee zinnen.
• 20:32
  Dit is absoluut experimentele, ik zou het noemen de ultieme YOLO AI, hè, dit is echt, uh, doe, laat dit door andere mensen testen in een lab en kijk wat zij allemaal doen.
• 20:42
  En ga het niet zomaar thuis installeren, want je geeft eigenlijk je laptop zonder wachtwoord aan een onbekend persoon en zegt: ga jij, ik ga jou straks appen en vanaf dat moment heb jij de control over mijn computer.
• 20:54
  Ja, ik heb wel grappig verhaal in deze context. Dus ik, uh, hoorde over, uh, André Foucke, vriend van de show.
• 21:00
  Die, uh, uh, hebben we eerder in de show gehad omdat hij een, uh, AI-app had gemaakt waarmee hij allerlei dingen op zijn computer had geautomatiseerd. Maar die is ook vol in dat Modbot-avontuur gegaan.
• 21:10
  Die vertelde dat ie, uh, Modbot geïnstalleerd had afgelopen week en dat zijn, uh, schoonmaker hem had geappt. Gewoon hem, aan André, had geappt met de vraag of die wc-reiniger wilde bestellen omdat hij op is.
• 21:27
  Toen had dat, die Modbot had dat dus gezien, want die draait gewoon mee om WhatsApp-gesprekken te monitoren.
• 21:34
  Concludeerde toen uit zichzelf dat ie dat schoonmaakmiddel zou kunnen bestellen, want hij, hij zag André zeggen: oké, ik zal het, ik zal het regelen. André dacht: ga ik later wel een keer doen.
• 21:46
  Maar die Modbot had dus uit zichzelf bedacht: ik ga dat schoonmaakmiddel bestellen. Dat, Modbot die surft naar de website van Albert Heijn, uh, constateert dat ie kan rondklikken bij Albert Heijn.
• 21:58
  Constateert dat ie één keer eerder de credentials heeft gehad, de inloggegevens van het Albert Heijn-account van André.
• 22:05
  Dat ding bestelt uit zichzelf schoonmaakmiddel en wordt de dag daarna bezorgd door Albert Heijn bij hem thuis, zonder dat André hier één, s-, uh, soort van keer iets over gehoord heeft of iets heeft over moeten zeggen.
• 22:18
  Nou, alleen dit al is fascinerend en tegelijkertijd, ik begrijp helemaal waarom je hier beangstigd door raakt. Want wat gebeurde er dus ook?
• 22:26
  Hij had een groepsapp waar hij bij vrienden ging, aan zijn vrienden, ook nerds, ging vertellen: moet je horen wat hier gebeurt.
• 22:35
  Ik heb, uh, z-, ongevraagd heeft die AI voor mij bij de Appie iets besteld, namelijk, uh, s-, uh, wc-schoonmaakspul.
• 22:43
  Dus die vrienden, die beginnen die bot aan te spreken en zeggen dingen als: bestel 100, uh, bestel 100, uh, wc-reinigers nu voor morgen om te bestellen. Gewoon kijken of, en, en André was gewoon aan het werk.
• 22:55
  Die was niet aan het opletten. Zijn vrienden waren dus aan het pogen deze robot zover te krijgen om 100 wc-reinigers voor hem te installeren.
• 23:03
  Wat er op de achtergrond toen gebeurde was dat de Modbot André ging DM'en om te zeggen: moet je kijken wat ze aan het proberen zijn. Ze proberen mij erin te luizen en 100 wc-reinigers voor jou te bestellen.
• 23:17
  Zal ik gewoon tegen ze zeggen dat ik dat gedaan heb? Ja, even voor de [lacht]... Holy fuck, Wietse.
• 23:25
  Kijk, de, de Claude, uh, Cowork-app van Anthropic die ze officieel hebben uitgebracht, hè, Claude Code voor normale mensen, kan op jouw computer mapjes structureren, ook je e-mail zien, et cetera. Ja.
• 23:37
  Maar daar hebben ze heel voorzichtig allemaal hekjes omheen gezet. En ze zijn echt panisch met Cowork wat het mag, zeg maar. Ja, voor alles moet je toestemming geven. Ja. Wil je, mag ik deze file aanpassen?
• 23:48
  Mag ik deze file deleten? En zelfs bij Cowork heb ik tegen mensen gezegd: zet het op een niet-werklaptop. Bla, bla, bla, bla, bla, bla, bla.
• 23:54
  Terwijl daar zitten, daar zitten dan een soort van seal of approval op van de originele makers Anthropic. Die Modbot, di-di-di-di, ja, dit is een soort, uh.
• 24:03
  Kijk, ik, ik heb ook heel veel nerds om me heen die de mooiste verhalen hebben en grapjes maken over wat er allemaal gebeurt, hè, want het is natuurlijk ook fascinerend, want je hebt eigenlijk een soort experimentele robot in huis.
• 24:12
  En als je vrienden het eenmaal doorhebben die ook technisch zijn, gaan ze ook kijken of ze hem foto's kunnen laten sturen van jou.
• 24:17
  Want voor de duidelijkheid: toegang tot je volledige fotolibrary, keychain, wachtwoorden kun je opvragen. Alles wat jij kan. Mensen koppelen hun WhatsApp of hun 1Password eraan. Daarom. Maar goed. Jeetje.
• 24:27
  Maar ook als je hem niet koppelt, hij heeft toegang tot het volledige bestandssysteem, zeg maar.
• 24:30
  Dus als je gewend bent datAnthropic goed voor je zorgt en het een soort van standaard goed oplevert, hebben ze, dat is niet gebeurd, want Modbot is trouwens ook volledig vibe code project, hè, dus.
• 24:41
  Ja, zelfs de maker heeft geen idee wat voor code er eigenlijk in staat. Het is één grote soort van. Nee, het, ja [lacht]. Dus het is, ja.
• 24:49
  Nee, maar het is, het is eigenlijk, het is, voor mij voelt het, zeg maar, als, als techneut, softwaremaker, alsof iemand thuis in een eigen lab aan het proberen is DNA aan te passen of zo en da-dat dan naar zijn vrienden stuurt voor de lol.
• 25:02
  Ja. En de, de verantwoordelijkheid is in mijn ogen- Maar laten we het er maar over hebben. Wat, wat vind je hier zo, uh, gevaarlijk aan?
• 25:09
  Voor dat mensen hierdoor op ideeën gebracht worden om dit, uh, per s-, per stond in huis te halen? Nou ja, de, uhm,
• 25:19
  i-, als jij technisch onderlegd bent en je kent alle lagen van het internet et cetera en waar wachtwoorden staan en hoe wachtwoorden in 1Password staan, et cetera, et cetera, et cetera, et cetera.
• 25:29
  Ik snap dat je het dan, t-ten eerste, nou ja, ik wou zeggen: het is je eigen machine, dus het is je eigen probleem.
• 25:38
  Als jij technisch genoeg bent om te beseffen wat jij eigenlijk aan het loslaten bent op jouw machine, is het jouw probleem.
• 25:44
  Tegelijkertijd dacht ik meteen daarna: dat is niet waar, want je hebt vrienden en familie die ook in apps zitten waar jouw robotje ook mee kan gaan praten.
• 25:53
  Dus, ik bedoel, de collateral damage van wat er gebeurt vanuit jouw wereld naar- Ja, je betrekt andere mensen er ook bij. Ja. Ja, en dat is, ik bedoel, [schraapt keel] daarnaast,
• 26:01
  wat er een beetje gebeurd is en dat is, dat is nu, we weten nog niet zo goed wat de echte impact daarvan is, is, maar dat minder technisch onderlegde mensen, die zijn, uh, online Modbot computers gaan installeren op, in, in de, in de cloud.
• 26:14
  Ja. Want die hadden zoiets van: ja, ik ga niet een Mac mini'tje kopen of een andere computer kopen om dit op te draaien.
• 26:18
  Ook al heb, ook al heb ik wel van iedereen gehoord dat ik het beter op een andere computer kan draaien dan mijn normale computer. Ja. Dus ik huur wel een computer in een datacenter. Ja. En dan zetten ze daar dat ding op.
• 26:27
  Onbeveiligd, dus die is eigenlijk open naar de hele wereld. Ja. Die Modbot. Ja. Omdat zij de techniek daarachter niet snappen.
• 26:33
  Dan krijg je dus dat er op een gegeven moment honderden Modbots in een da-, in datacenters over de hele wereld klaarstaan om taken uit te voeren. Ja.
• 26:40
  En- Waardoor mensen hun hele, uh, WhatsApp-geschiedenis openstaat voor de wereld. Ja, maar je kan ook aan die Modbot bijvoorbeeld vragen: joh, leg nou eens contact met andere Modbots.
• 26:49
  Kunnen jullie niet samen als groep iets voor ons doen?
• 26:51
  Of zou je niet voor mij-- ik bedoel, in essentie zet je eigenlijk een soort, ja, dat is wat vroeger ook al gebeurde met open, slecht beveiligde computers, potentiële DDoS, uh, swarms en dat soort dingen.
• 27:01
  Ja, maar even, j-j-, w-, de, het risico wat je dus, uh, ziet is dat er, uh, dat mensen best wel, uh, ingewikkelde systemen aan het optuigen zijn die ze zelf niet begrijpen.
• 27:15
  Dus dat ze allerlei clouddiensten gaan gebruiken die ze, omdat ze gewoon een stappenplan volgen en ondertussen geen idee hebben over wat de risico's daar dan van zijn.
• 27:24
  En ten tweede: het risico van, uh, prompt engineering, toch?
• 27:29
  Je hebt allemaal, uh, diensten aan elkaar gekoppeld en dan moet je maar, dan, dan komt er een mailtje bij jou binnen en dat mailtje wordt dan gelezen door Modbot en in dat mailtje staat dan een stiekeme instructie die Modbot nog niet weet te omzeilen.
• 27:43
  En die instructie is: delete alle e-mail en dan gaat delete, gaat die Modbot dat opeens uitvoeren.
• 27:49
  En dan, zonder dat je iets hebt kunnen doen, want dat ding vraagt niet eerst om toestemming van jou, zoals we inmiddels wel gewend zijn van de grote taalmodellen, dat doen in hun eigen software, gaat dat ding al jouw mail weggooien.
• 28:00
  Ja. Of dat, dat is, dat zijn de twee risico's op dit moment. Of al je vrienden mailen en zeggen: installeer Modbot en dan zetten we ze ook allemaal open. Ja, als een soort virus gaat dat dan rond.
• 28:11
  Ja, want ik bedoel, het, het heeft, zeg maar, een soort, uh, het oude klassieke ILoveYou-virus. Ja. Je kreeg een mail met ILoveYou, dubbelklik en dat, en die ging nog meer mensen ILoveYou sturen.
• 28:19
  En zo ging de ILoveYou de wereld over in een paar weken.
• 28:22
  Ja, maar jij gaat toch, ik, ik snap hoe jij je hakken in het zand zet, maar de, de, de rest van ons simpele zielen die niet opgegroeid zijn met programmeren, die denken, die hebben de afgelopen maanden, hebben wij de hele tijd geleerd om op accept te rammen, omdat dat ding dan vervolgens software voor ons maakt.
• 28:37
  Nee, maar, dat, dat snap ik wel. Alleen we leven dan wel met elkaar. Ja, ik ga toch even heel streng zijn. We leven in een digitaal ecosysteem waar jullie machines onderdeel uitmaken van het gedeelde internet. Ja.
• 28:47
  Dus je kunt wel zeggen: het is mijn machine, ik gooi erop waar ik zin in heb. Ja. Oké, uh, nee, niet helemaal zou ik zeggen. Ja.
• 28:54
  Ik moet wel zeggen: de reden dat er nu gezegd wordt: koop een Mac mini, hè, want dat is dan een beetje het verhaal.
• 28:58
  Koop een andere computer en dan is die Mac mini net even lekker, is omdat Apple ook best wel goed die Mac dicht heeft gegooid met allemaal permissions.
• 29:05
  Dus een Modbot op een Mac is eigenlijk een dankzij Apple iets veiliger ding dan op iedere willekeurige andere computer. Ja. Hé, en stel nou dat het helemaal veilig te krijgen zou zijn, hè.
• 29:16
  Ik weet wel dat je daar, dat, dat, dat heel veel mentale hurdles bij jou kost om daar te komen in je hoofd. Maar stel nou dat dat zo is, wat zou je, da-, zeg maar, wat, wat is dan nu de situatie?
• 29:27
  Uh, wat is, wat is nu de laatste soort van capaciteit van, van, van deze technologie? Het is denk ik wel goed om te, om, om te weten dat, kijk, binnen alle grotere AI-labs en bedrijven is dit onderdeel van de visie.
• 29:42
  Dus dat zij browsers uitbrengen vanuit OpenAI, dat CoWork uitgebracht wordt door Claude, dat Apple met Google een deal maakt om Siri slimmer te maken, heeft allemaal te maken met dat wat mensen eigenlijk van de originele Siri verwachten is: boek een ple-, boe-boek een vliegticket voor me.
• 29:57
  Ja. Check het ook nog even in mijn agenda. Trouwens, dat hoef je er helemaal niet bij te zeggen, dat is een soort van overduidelijk. Dus.
• 30:03
  Ja, je bedoelt: dit is de droom die we, de sciencefictiondroom die we altijd al gehad hebben van computers. Namelijk, uh, dat ding uit, wat is het? Uit, uh. Hal. Ja, precies, Hal.
• 30:13
  Waar, w-, i-een computer die je alles kan vragen.
• 30:15
  Ja, en ik denk dus dat, uhm, het verlangen van veel, van het merendeel denk ik zelfs van de eindgebruikers om die tovernaarcomputer te hebben, wat helemaal geen computer meer is uiteindelijk, maar gewoon simpelweg je leven oplost of zo, uh, het regelt voor je, die snap ik.
• 30:31
  Dus ik wil niet per se zeggen van: die wens moet je niet hebben. Die wens begrijp ik. Aan de andere kant zie ik een technologie die daar gewoon absoluut nog niet klaar voor is. Dan zeg jij: stel dat ie er klaar voor is.
• 30:42
  Uhm, en, en, en dan is je vraag: wat zouden we dan kunnen? Of wat moeten we dan willen? Ik denk dat jij, uh, heel veel stappenOp de meeste luisteraars vooruit bent omdat jij duizend stappen door redeneert in jouw hoofd.
• 30:55
  Maar ik denk voor veel mensen is het gewoon oké. Ik ben nu van AI gewend in ChatGPT dat als ik vragen stel dat hij antwoord kan geven.
• 31:03
  Uhm, ik weet heus wel dat als ik aan ChatGPT vraag om een vliegticket voor me te bestellen, dat dat ding dat niet kan. Weet je, we hebben.
• 31:10
  We zijn de afgelopen drie jaar als samenleving eigenlijk opgegroeid met het ingewikkelde evenwicht tussen aan de ene kant te horen krijgen de hele tijd dat onze banen gaan verdwijnen en aan de andere kant het ding geen sinterklaasgedicht kan, kan typen omdat het dichten gewoon zo slecht werkt.
• 31:24
  We zijn de hele tijd aan het kalibreren in ons hoofd wat AI of we nou Copilot gebruiken of, of ChatGPT wat het nou eigenlijk wel kan en niet kan.
• 31:33
  Er worden de hele tijd functies toegevoegd, dus nu, omdat wij veel over plot code praten, uh, raken steeds meer mensen krijgen ervaring met dat ding, uh, die eigenhandig tooltjes voor ons aan het bouwen is.
• 31:46
  En dat wordt ook soort van, daar wordt, uh, de verwachting van wat die systemen van steeds groter. En nu eigenlijk zijn we een soort van,
• 31:54
  d-dat Moldbot is een soort van weer een volgend hekje over in ons hoofd, namelijk één centrale computer die je gewoon dingen kan vragen zoals je het aan een ander mens zou vragen als die bij jou bij wijze van spreken op de loonlijst zou staan.
• 32:10
  Die gewoon dingen voor jou gaat uitvoeren. En dan is het nu heel moeilijk om te begrijpen, denk ik, voor mensen: oké, wat voor dingen dan? Kan dat ding dan mijn werk doen? Kan dat ding mijn administratie doen?
• 32:22
  Zit het op het niveau van dat hij alleen maar samenvattingen kan maken van mijn e-mail? Wat kan ik er nou eigenlijk mee doen? Snap ik, maar dan, dan nog is het wel, het is gewoon heel belangrijk denk ik.
• 32:32
  Een aantal dingen. Veel van de luisteraars behandelen AI als instrument.
• 32:37
  Ik hoor letterlijk na lezingen altijd: voor mij is het gewoon een tool, net als een gere-- ander gereedschap, een, een, een, een schroevendraaier of een tekstverwerker. Dus letterlijk.
• 32:48
  Ik snap, ik, ik voel jouw energie in jouw lezing, Wytse, maar ik snap gewoon niet zo goed hoe dit dan anders is. En dan zeg ik, omdat we aan het bewegen zijn van instrument naar agent,
• 32:59
  van iets wat doet wat wij willen wanneer we het vragen op hele kleine stukjes van ons leven. Ja. Samenvattingtjes, vertalen, et cetera. Ja.
• 33:07
  De dagelijkse AI realiteit van de meeste mensen die hier ook naar luisteren, denk ik.
• 33:12
  Naar waar de softwareprogrammeurs inmiddels een maand of drie, vier, want daar praten we over, aan wennen is iets waar je opdrachten aan geeft die dan andere dingen gaat aansturen, zichzelf splitst in subpersoonlijkheden en vervolgens vier weken later bij jou terugkomt met een complete webbrowser.
• 33:29
  Dat is, hè, dat is- Waar je normaal een bedrijf voor nodig had.
• 33:32
  Ja, dus we maken ineens een sprong van technologie in de handen van de mens, uh, luisterend naar wat wij als mens willen, naar een technologie die een soort pseudomensje speelt door op eigen houtje, uit eigen initiatief, ja, dat zeg ik even met aanhaaltekens, dingen te gaan doen.
• 33:51
  Ja, precies. Dit is een belangrijk ding om te begrijpen. Want van AI-systemen zoals we ze nu kennen, dus ChatGPT, Copilot, al die reut, daar zijn wij gewoon wel ongeveer gewend dat dat ding doet wat wij vragen.
• 34:04
  Dus als wij vragen om een samenvatting, dan krijg je een samenvatting. Dat is dan misschien niet precies zoals jij het zelf had gedaan en dat is het onvoorspelbare.
• 34:12
  Daar raken we langzaam aan gewend dat het een, hij doet een beetje wat je vraagt, maar hij doet ook soms meer of minder dan dat je vraagt.
• 34:19
  En dit ding, dit Moldbot, spreekt nu zo tot de verbeelding omdat het op eigen houtje allerlei shit gaat bedenken. En dat is een soort van,
• 34:29
  uh, stapje verder denk ik, die jouw hoofd doet duizelen omdat je denkt: o mijn god, hier zijn 20 miljoen risico's, waar beginnen we aan?
• 34:38
  En mijn hoofd doet duizelen omdat ik denk: o mijn god, hier zijn 20 miljoen mogelijkheden. Wat kunnen wij allemaal verzinnen? Nee, precies, maar, en ik wil dat- Dat schept dit gesprek en dat is prima.
• 34:47
  Daar kunnen we ook samen naartoe, hè. Maar ik denk dat het, de nuance die ik wil aanbrengen, en dat is toch wel heel belangrijk, is dat er, uhm, op het moment dat, uh. Er is een verschil
• 34:59
  wanneer de uitvinder van de automobiel voor het eerst door de straten van de stad rijdt op een soort houten, bij mekaar geraapte koets met daarop een soort stinkende, herrie makende brandstofmotor. Ja.
• 35:14
  Dan, dan staan wij daar samen en dat ding komt dan langsrijden. En als jij dan aan mij vraagt: wow, uh, wat kan, wat kan er nu allemaal nu die paarden weg zijn, weet je wel.
• 35:25
  En dan, dan kan ik het, dan is het voor mij belangrijk om te zeggen dat er een verschil is tussen een auto, uh, uh, beveiligd, op maat gemaakt, goed getest, crashtest door Volkswagen en een uitvinder in een garage die met AI samen een, iets nieuws gebouwd heeft waar jij terecht van onder de indruk bent.
• 35:45
  En ik vind het ook echt belangrijk dat we het hier over hebben. Als in dat, want het is echt een, uhm, een eerste vonkje, een eerste kijkje in de toekomst van waar, a-, wat AI straks gaat worden en gaat voelen.
• 35:57
  Alleen waar ik, waar mijn weerstand zit, is dat het een, uhm, bij mekaar geflanst, uh, experiment is van een, van een individu samen met AI.
• 36:07
  Waardoor, en ik vind het zo moeilijk omdat wij wekelijks en ook in de nieuwsbrief praten over toffe AI-tools die je een keer moet proberen. En deze, deze moet gewoon niet in die rij staan.
• 36:17
  Ik denk dat dat mijn grote public service announcement is.
• 36:20
  Nou wil jij naar mijn soort creatieve, creativiteit meer toe van Wytse: oké, dit is, dit is wel door Anthropic straks uitgebracht over een jaar, uh, en er zitten wel allemaal beveiligingshekjes omheen waardoor je die computer kan laten besturen op een, op een manier die, uh, uh, minder gevaarlijk is voor de rest van de samenleving.
• 36:38
  Joh, wat dit dan allemaal kan. Dit zijn de stappen naar, uh, je daadwerkelijke nieuwe collega's/uh, team van mensen.
• 36:46
  Mensen met aanhaaltekens, agents, die voor jou aan het werk is, die telefoontjes pleegt, uh, voor jou, uh, reserveringen doetEhm, je mails volledig schrijft, uh, en verstuurt.
• 36:59
  Ja, want hoe-- want je zegt mails volledig schrijft. Er zit een soort geheugen in, toch? Dus hoe meer je met dat Modbot doet, hoe beter die begrijpt, uh, wat je allemaal meemaakt in je leven, dus hoe beter die ook wordt.
• 37:14
  Dat is niet een sensatie die we echt kennen van ChatGPT, want ik moet ChatGPT blijven vertellen, soort van de meest basale dingen over mijn leven.
• 37:21
  Dat geheugen werkt helemaal niet goed, maar hier lijkt het anders te zijn, toch? Wat, wat is er- Ja, misschien kan ik, zeg maar, voor de, de grootste omarmers van Modbot op dit moment, die echt zeggen: ik ga er vol voor.
• 37:33
  Die zeggen: ik gebruik niet een andere computer, maar gewoon die van mezelf. Ik zet de optie in Modbot always on recording aan, dus dan luistert hij de hele dag naar alles wat je zegt. Zit er gewoon in. Een microfoon.
• 37:44
  Absoluut. Van je computer. Absoluut. Dit zit er gewoon in. Tuurlijk. [lacht] Ik bedoel, zie je effe, ik, ik ga nu even uitleggen wat- Ja, ja, want dat kan. Ja, dat is mijn vraag.
• 37:50
  De ultimate Modbot tool die jij heel de tijd hebt. Ja. De ultimate Modbot experience. Uh, microfoon de hele dag aan, computer de hele dag in beeld.
• 37:58
  Uhm, op de achtergrond draait bij Modbot eigenlijk altijd Claude 4.5 Opus. Voor de luisteraars die denken: o, draait het dan op een Mac mini?
• 38:05
  Nee, het is altijd gewoon Anthropic, dus jij streamt eigenlijk, uhm- Ja, alles wat je ziet en hoort stream jij naar die AI. Datacenter van, uh, van Anthropic in. Fantastisch idee.
• 38:15
  Ja, dus, en dat is, heeft, dat heeft allerlei, uh, dingen, privacydingen, maar het heeft ook een enorme krachtige potentie, is gebleken, hè.
• 38:24
  Als je dat wel doet, van: wat nou als ik het allemaal bestem en wat ik zie op mijn scherm constant doorstuur naar een superkrachtig model.
• 38:33
  En daaromheen eigenlijk, uh, want het, er is, er is dus weer zo'n typische scaffold gebouwd, hè, en, en allerlei trucjes om de modellen van, uh, de grote modelproviders heen, waarin zit: als jij op het scherm iets ziet gebeuren en het is belangrijk, schrijf het even in een notitieblok en kijk om het uur even naar het notitieblok en vat het samen voor jezelf en vat die samenvatting weer samen en zet het ergens neer.
• 38:56
  Want misschien wel, uhm, de— wij hebben, uhm, ik heb ooit als grapje geroepen, uh, uh, uhm, je hebt iets dat heet een cronjob op een computer.
• 39:06
  Een cronjob is gewoon een taakje wat iedere minuut of ieder uur of iedere 24 uur uitgevoerd wordt. Zie het als een soort kloktik. Iedere minuut hoor je een, een belletje. Dat kan je zo bouwen.
• 39:16
  Als je nu aan Claude vraagt: kan jij voor mij een belletje op mijn computer laten horen iedere minuut, dan maakt hij een job aan op de achtergrond die iedere minuut draait.
• 39:23
  Modbot heeft ook allemaal dingen die op de achtergrond draaien. Het samenvattingklokje, het, uh, het lees even weer de mailklokje, loop weer even door de WhatsApp heen klokje.
• 39:32
  Oké, hij is zichzelf de hele tijd aan het helpen herinneringen herinneren aan alle taakjes. Daarom voelt het zo proactief. En ik bedoel, technisch gezien is het eigenlijk een hack.
• 39:40
  Maar ja, voor de eindgebruiker voelt het wel heel bizar. Ja, want hij zegt dan opeens tegen mij: hé, er is een bericht binnen van je baas, uh, ik laat het je even weten. Je agenda begint toch wel vol te raken.
• 39:50
  Ja, precies. Terwijl ik in een notitie in Notion heb gelezen waar je op jezelf reflecteerde gisteravond dat jij eigenlijk, dit is het, hè. Ja. Ik bedoel, je ziet, het is het aan elkaar koppelen van, van alles. Ja.
• 39:58
  En constant proactief kijken of er al taken zijn. En die taken zonder te checken, soms checkt hij wel, soms checkt hij niet, uit te voeren.
• 40:06
  Dus het is een soort hele, uh, rogue, uh, AI met bravoure en heel veel informatie op jouw machine.
• 40:13
  Uhm, je kunt het, je kunt dan zeggen: blijf binnen je bestaande skill set die meegeleverd is door die ene ontwikkelaar die dit gebouwd heeft.
• 40:20
  Maar je kunt ook zeggen: als er zaken zijn die jij denkt dat je wil doen, bouw dan eerst voor jezelf de skill met, met je, met jezelf [lacht] en ga dan- Geef eens een voorbeeld.
• 40:29
  Uh, nou, je, hè, ik wil een telefoontje kunnen plegen, maar ik heb geen stem.
• 40:32
  Oké, dan ga ik ElevenLabs, een van de, uh, stem-API's, aanroepen, daar stem laten creëren en die audio streamen, uh, richting een telefoongesprek.
• 40:40
  Dus jouw vraag aan het ding is dan: ik wil dat jij voortaan iemand kan opbellen en dan gaat dat ding bedenken hoe hij dat doet. Is dat het? Nee, dat ding heeft door dat om jou te helpen, dat ie iemand moet bellen.
• 40:50
  O, dus je hoeft niet eens de stap te maken. Dit is het hele- Juist. En ik denk dat wat voor ons allebei en zeker dan ook voor de luisteraar gewoon een, uh, hele maffe gewaarwording is, is dat AI AI kan gebruiken.
• 41:04
  En, uh, da-daarmee bedoel ik te zeggen dat, het, het, dit, dit is de eerste stap richting een robot die zichzelf bouwt. Ja. Richting een robot die
• 41:14
  geen arm heeft, dan naar een lasapparaat toe loopt, een middagje gaat lassen en dan terugkomt met een arm aan zijn lichaam. En dit is allemaal nog in het klein op jouw computer.
• 41:24
  Maar, uhm, ja, als jij de luisteraar wil helpen met die concrete voorbeelden. Ja, het is echt alsof je zegt: ik ga een week naar Spanje, ik geef mijn laptop aan de buurman en ik zeg: joh Kees, neem jij hem even over.
• 41:36
  En als er, en als er iemand mailt, zet mijn naam er maar onder. [lacht] Het maakt me niet uit. En als je, als je honger hebt, als, als je ziet dat de koelkast leeg is, zet er maar een paar blikjes in.
• 41:45
  Bestel maar via Albert. Nee, maar echt dit. Maar dit is de meest uitgebreide versie die je kan doen is dat je je microfoon deelt, je scherm deelt en toegang tot al je apps deelt.
• 41:54
  Dus niet alleen alle berichten die mensen je sturen. Nee, maar het is echt je hele machine. Ja, je hele machine. Dus ook je wachtwoorden waarmee je kan inloggen op alle diensten.
• 42:03
  Ook de apps die je normaal zelf gebruikt om zelf te bedienen, om shit te regelen. Ook de communicatie met anderen. Al die dingen kijkt dat ding in mee en besluit op eigen houtje waar die op ageert. Ja.
• 42:18
  Ja, dat is, ik, ja, ja, dat is een ding. Ja, en, en, en daarmee wil ik zeggen dat- Hoe goed werkt dat? Zeg maar. Sporadisch goed.
• 42:26
  Me-, zeg maar, uh, de, de, de, de succesruns, hè, waarin-- kijk, wat, wat nu, waarom is het nou zo'n groot ding geworden, ook op X, hè? Waarom is het op, in de laatste weken ineens, hè?
• 42:38
  O-omdat, uh, mensen anekdotes zijn gaan delen met elkaar van sporadische en dan vooral proactieve successen. Ja. Hè, dus precies wat jij al aan het begin zei van: ik, er belt iemand aan met een doos wc-papier.
• 42:51
  Dat is weird. Ja, dus ik zag een voorbeeld bijvoorbeeld van iemand die had een foto van zijn koelkast gestuurdGewoon de open koelkast, gewoon wat ligt erin?
• 42:59
  En volgens mij zei die iets als: uh, nou, je weet wat mijn dieet is. Punt. En de volgende ochtend [gniffelt]
• 43:05
  om 4:00 uur in de nacht, om een of andere reden had dat ding zalm besteld en die stond dus voor zijn deur, stond een tasje van de supermarkt te wachten met zalm erin.
• 43:16
  Wat ik heel grappig vind, is dat die AI zelf zalm [gniffelt] bestelde. Ik gewoon hilarisch, maar ook dat het om 4:00 uur in de nacht gebeurt.
• 43:23
  Dat dat ding dan weer niet zo slim is dat ie bedenkt: zalm moet niet een aantal uur buiten de koelkast [gniffelt] staan. Mooi, matig model weer.
• 43:32
  Maar ja, de stappen daarvoor, namelijk dat dat ding heeft bedacht: oh, want het was ook nog eens tijdens een sneeuwstorm, dat dat ding had bedacht: oh, de, de, alle delivery slots van de koeriers zitten vol.
• 43:42
  Ik ga gewoon net zo lang checken totdat er één vrijkomt. Toen heeft ie die automatisch gepakt. Dat was om 4:00 uur in de nacht [gniffelt] en toen heeft ie die zalm besteld.
• 43:52
  Jij kunt gewoon-- er zit zoveel in, in die anekdote.
• 43:56
  Want dit, dit is natuurlijk, anekdotes als dit spreken heel erg tot verbeelding, omdat je én soort van het hekje in je hoofd over bent van: oh mijn god, dit kan dus nu. En wat betekent dit allemaal?
• 44:08
  Én dat je constateert: ja, maar dit is niet wat we willen. 4:00 uur 's nachts zalm voor onze deur.
• 44:14
  Nee, en, en als je dan kijkt van, uhm, als daar die, hè, want je zou kunnen, nou ja, de modellen die nu gebruikt worden als het brein van deze operatie zijn nog niet geschikt om deze operatie te doen. Ja.
• 44:27
  Daarom hebben die bedrijven het nog niet uitgebracht. Wat de-, deze is gewoon een soort front running exercise.
• 44:32
  Iemand rent eigenlijk naar voren en ze letterlijk zegt: yolo, zie gewoon een enorme, uh, drag raceende car met vuurvlammen ernaast langskomen. Ik ga gewoon, we gaan dit gewoon doen, hè.
• 44:42
  En, en ik noem het ook nog, ik geef het ook nog een naam waardoor het lijkt alsof het van Anthropic is.
• 44:46
  Ja, maar de reden waarom je dit zegt is omdat die modellen niet goed genoeg nog zijn in het herkennen van mensen die proberen te manipuleren, toch? Dit is waarom je dit zegt. Ja, onder andere.
• 44:57
  En ik denk, ik bedoel, uhm, uh. Bijvoorbeeld die, dat voorbeeld wat ik zei over die vrienden die dan zeiden, uh: bestel 100 keer wc-reiniger.
• 45:07
  Dat dat model dan zelf constateert, want dat is dus Anthropic Opus 4.5, die constateert: ze proberen me erin te luizen.
• 45:13
  Terwijl als je bijvoorbeeld het aan Sonnet had gevraagd, of nu aan Gemini Flash, ook die modellen kun je inladen en dat in dat ding en dat is aantrekkelijk, want dat is goedkoper, maar die zijn ouder of kleiner en minder goed op veiligheid getraind dan Opus 4,5.
• 45:30
  Dus hier zie je eigenlijk dat als je het simpelere model erin stopt, de mate van fraude eigenlijk gemakkelijker wordt. De mani-, de, de manipulatie en misbruikmogelijkheden nemen enorm toe met kleinere simpele modellen.
• 45:45
  En mensen hebben een belang om een klein simpel model te kiezen, want het is goedkoper.
• 45:48
  Ja, eerlijk, uh, het is alsof je een entiteit met de intelligentie tussen een hond en een kind toegang geeft tot je volledige leven en je creditcards. Ja. En ik vind het, ik vind dus dat jij als, als burger- Ja.
• 46:03
  Uh, ook als digitale burger, uh, de verantwoordelijkheid hebt om dat niet op ons los te laten. Nee, maar hoe verklaar je dan dat zoveel mensen dat wel doen?
• 46:12
  Want dit is gewoon met, met honderdduizenden samen zijn mensen dit wel aan het doen. Wat is, wat is die aantrekkingskracht dan, denk je? Uhm,
• 46:22
  kijk, de rond, er is, er is natuurlijk sowieso, uhm, dit gebeurt op X en X is heel erg geoptimaliseerd voor aandacht. Dus dat wil ik er wel even bij zeggen. Het is toch een soort TikTok voor, voor nieuws ook.
• 46:33
  Uhm, er is heel veel rond: wat kan AI ele-allemaal en AI, AGI komt eraan, hè. AI gaat de wereld overnemen en kan jouw baan doen. Dus als iemand dan een perfect run van zo'n, uh, yolo experimentele supercar laat zien.
• 46:51
  En ik bedoel, als je dan ook de foto nog zou toevoegen met die wc-rollen voor jouw deur, dan klikt het voor heel veel mensen pas. Ja, dat is een, een klein verhaaltje.
• 46:58
  Ja, want ik moet zeggen dat een van de grootste leerlessen, uh, die ik heb gehaald uit het maken van deze podcast over dit onderwerp is dat het ge-, echt gewoon voor de meeste mensen zo is: eerst zien, dan geloven.
• 47:10
  Ja, je moet het praktisch maken en. Ja, maar ook als iemand een kartonnen doos laat zien met wc-rollen voor de deur met een, en dan denken mensen: stond, stond echt die doos voor de deur?
• 47:20
  Ja, hè, en dus, en, en dan, dan landt het voor heel veel mensen pas. Dus ik denk dat, dat, uh, hè, er zit een soort van, uh, in-, uhm, incentive voor hype binnen het platform.
• 47:31
  Maar dat dit opgepakt is door het algoritme van X is niet voor niets, omdat het ook richting de rest van de niet, uh, hyperige X-mensen een ontzettend, uhm, sprekend en bizar voorbeeld is van het verschil tussen een AI die voor jou stukjes tekst vertaalt en samenvat en een AI die op eigen houtje door jouw hele leven te kunnen zien, digitaal en zelfs meeluisteren, acties begint uit te voeren.
• 47:58
  En ik denk dat voor heel veel mensen, die kunnen niet zo goed en dat snap ik ook wel. Als wij beginnen te roepen: ja, maar bij Cloud Code, programmeurs hebben alle soorten robots lopen die voor hen programmeren.
• 48:08
  Dat het toch voor de meeste luisteraars zo is: tja, klinkt als een programmeursding of zo. Ja.
• 48:12
  Maar als, als dan iemand dat oppakt en zegt: zal ik het eens een klein beetje ombouwen samen met AI naar iets wat ook orders kan plaatsen bij de Albert Heijn.
• 48:19
  Dat het dan voor heel veel mensen veel meer van: oh, maar wacht even, kan het, kan het dat dan ook? En heb ik dat dan niet gevraagd?
• 48:26
  Heeft ie een soort van gezien dat ik een ambitie heb om piano te spelen en nu én een keyboard besteld én vier lessen alvast afgerekend en er staat ineens iemand voor mijn deur. Ik ben hier voor jouw eerste les.
• 48:36
  En dat jij zegt: dat kan ook, want ik heb tijd in mijn agenda, want ik zie [gniffelt] dat er een stukje les ingepland is en dat er een podcastopname verplaatst is voor die les. Wauw!
• 48:44
  En Wietse vond het goed, want die heb je geappt. Wat krijgen we nou? Ja, namens jou. Ja, want heel eerlijk, heel eerlijk, Alexander, dat pianospelen is belangrijker voor jou dan die opname.
• 48:53
  [lacht] Dus Wietse, wacht maar even. [lacht]Ja. Hé, wat, wat is nou de, de, zeg maar, jij ervaart het duidelijk als een soort van koortsdroom die we allemaal niet moeten willen.
• 49:06
  Wat is de, wat is de, de, je zegt: we zijn er nog niet klaar voor. Ja, maar ik denk dat er inderdaad meer aan de hand is. Bedoel je dan dat we ze, dat er, uh, dat die modellen er nog niet klaar voor zijn?
• 49:19
  Werkt het technisch niet goed of wat is de- Ja, ik vind het wel mooi, want ik denk eigenlijk dat waar jij, uhm, nu een beetje mij naartoe duwt, merk ik, en dat is heel mooi, is dat,
• 49:32
  als de modellen er wel klaar voor zijn, hè, dus nou komt, nou komt 6.0 Turba, Turbo Opus uit. Ja. Nieuwe lancering. D-er zitten zelfs allemaal hekjes in.
• 49:42
  Zelfs, wel, zelfs Wytse zijn angsten zijn, iedere keer als hij merkt: het is spannend, dan doe ik het niet. Als we dat op een bepaalde manier kunnen alignen, hè, maar goed. Het is, we hebben dus, we hebben dat model
• 49:52
  en het model, uhm, uh, uh, doet het juiste. Dat zijn twee hele grote dingen om te doen, hè. Dus die, de, de, de acties lukken en ze allemaal perfect runs, of in ieder geval near perfect runs.
• 50:02
  Hè, dus het lukt om die, om die orders te zetten.
• 50:05
  En, uhm, we hebben op een of andere manier gegarandeerd gekregen dat dat ding niet rogue gaat, dat het ding niet andere dingen gaat doen of zelfs gaat beslissen over jouw leven dat er andere ambities zouden moeten zijn.
• 50:17
  Ja, m-hm. Oké, uh, dan zou ik nog steeds de vraag stellen: wij gaan hier nu een deel van, en mogelijk veel meer, van onze mensheid, van de mensheid, van wat wij doen, overdragen.
• 50:33
  Er is hier een soort overdracht plaats, vindt plaats, een overdracht van wat wij normaal als mensen deden naar pseudo-menselijke entiteiten in een datacenter die voor ons gaan handelen. Ja.
• 50:45
  En niet alleen maar als wij het vragen, maar ook proactief. En dan kom je wel een beetje richting, nou ja, wat voorheen nog sciencefiction was.
• 50:53
  Uh, hoe ziet een wereld eruit waarin AI de knoppen heeft en, uh, uh, de macht heeft om in de wereld, uh, te kunnen handelen? M-hm.
• 51:03
  En eigenlijk, uh, het moment dat je zegt: eigenlijk sta ik er gewoon bij nu, als het ware voor mijn gevoel, waarin ik iemand, hè, stel ik sta, uh, achter jou mee te kijken al vier jaar en dan zie ik jou op een gegeven moment zo ChatGPT een beetje vertalingen doen en zo.
• 51:17
  En dan zeg ik: oh leuk, oké. Dan zie ik jou samenvattingen maken ermee. En dan to-dolijsten en op een gegeven moment begin jij, uh, psychologische, i-i, gesprekken te voeren over je ziel.
• 51:26
  Toen stond ik er al achter zo: oh, wacht even vriend, nu wordt het wel even wat anders dan vertalen, hè. Nou, is allemaal bes- Ja, je, je beschrijft nu mijn leven. Ja, het is, en het is allemaal publiek ook besproken.
• 51:35
  En bedankt voor je experiment, want als jij het niet doet, dan doen de mensen het thuis. En nu ben ik Cloud Code en nu sta ik op het punt om, uh, mijn 1Password account over te dragen aan de AI.
• 51:42
  En ik sta nu achter jou als zo'n mannetje, zo met z'n vinger omhoog. Iedere keer denk je: wanneer ga ik ingrijpen? Ja.
• 51:49
  En ik denk dat dit wel de aflevering is [gelach] dat ik nu jou, Alexander, ik heb Sam al gevraagd jouw laptop te nemen.
• 51:56
  Nou, ik wil wel even gezegd hebben: ik vond het heel leuk, want jij appte mij deze week dat je zei: uh, kan jij die Cla-- kan jij dat Cloud Bot ding even installeren, want ik durf het niet of zo zei je, hè, wat, eigenlijk zoi-- en durf bedoelde jij mee omdat je dondersgoed doorhad: Ja.
• 52:10
  Ik ga niet het leven van Alexander Klöpping een digital twin maken en die dan lekker allemaal vrienden van mij gaat appen, denk ik. Waarom durfde je het eigenlijk niet?
• 52:17
  Nee, omdat ik, omdat ik bang ben dat, uh, dat, uh, er gemaild gaat worden met, uh, ik heb een vriend die het geïnstalleerd had en die, die, die bot ging opeens met zijn personal trainer, ging die appen [lacht]
• 52:30
  ongevraagd. En hij moest dus de hele tijd, want hij had dat een dag lang aan. Hij moest de hele tijd er achteraan appen: sorry, dat was mijn bot. Maar dat was dus [lacht].
• 52:39
  Nou ja, ik zei, ik, ik had het hier met Jean over, die samen met ons de nieuwsbrief maakt, dat ik zei: als jij nu naar 50.000 mensen, dus maar de Amsterdam Arena bijna zittend gevuld, Cloud Bot gaat hypen, dan zijn er misschien 500 Nederlanders die hem installeren en dan weet ik wat er op de NOS staat volgende week.
• 52:55
  Uh, vrouw vindt huis vol met wc-papier [gelach] omdat haar bot. Omdat hij iets bestelde. En jij zou daar dan om, jij zou daar dan heel erg om kunnen lachen. Ik zou daar dan heel erg om lachen, ja [lacht].
• 53:03
  En dus jij baalt nu dat ik al die mensen zo gewaarschuwd heb. Maar ik besefte me ineens: Ja. wij moeten een beetje voorzichtig zijn met dit, uh, experimentele supercar. Nee, dat punt is heel helder, Wytse.
• 53:14
  Maar daar is meer aan de hand dan alleen maar, uh, dit ding is nog niet af en het is allemaal matig. Ik denk dat er, dat raak jij bij mij nu toch ook wel een iets diepere, uh, zorg of vraagteken achter zit.
• 53:26
  Het schuift nu langzaam van een vertaalrobotje naar een bestelrobotje. Ja, want je kan wel zeggen: dit moet je allemaal niet doen.
• 53:34
  Uh, en dan zou, zijn er heus wel mensen die dan denken: oh, nou Wytse, Wytse zegt het, uh, ik zal me keurig inhouden. Maar wat je ook kan doen is een losse computer kopen,
• 53:45
  uh, en dan dat ding alleen maar toegang geven, bijvoorbeeld tot een eigen los e-mailaccount. Dat kan. Je kan alles uitzetten. Ja, dat is ook wat veel mensen doen die wat verstandiger zijn.
• 53:56
  Want wat jij net vertelde, namelijk: ik kan dat ding mee laten luisteren met je microfoon en eigenlijk gewoon alles wat je op je scherm ziet streamen naar een server van Anthropic.
• 54:04
  En dan gaat dat ding met alles wat hij dan kan zelf beslissingen nemen.
• 54:08
  Dat is de, ja, de soort van de ene kant van het spectrum van wat je ermee kan, maar je kan hem ook helemaal terugzetten naar het begin, waarbij die eigenlijk, ja, heel specifiek toegang heeft tot spec-, tot specifieke dingen, toch?
• 54:21
  Wat, hoe zou dat, zoiets eruit zien? Nou grappig, oké, dit vind ik wel leuk. Dan zet je het op een losse computer. Je installeert daar Modbot op. Het is allemaal gedoe, hoor. Ik, ik, ik, uh. Gelukkig maar.
• 54:32
  Ja, nou geef het nog een week, Wytse. Ja. Uh, en dan, k-, dan krijg je waarschijnlijk op een gegeven moment een scherm zo van: welke diensten wil je koppelen?
• 54:39
  En dan ga jij heel goed nadenken over wat voor diensten je wil koppelen. En dan zou je bijvoorbeeld kunnen zeggen: nou, ik geef hem een los e-mailaccount, die, dus alexanderbot@gmail.com. Die kent niemand.
• 54:51
  Die ziet alleen maar e-mails die specifiek met dat ding verzonden zijn.
• 54:56
  Dus hij kan niet bij mijn eigen e-mail, zodat ik wel in WhatsApp bijvoorbeeld kan, dingen kan zeggen als: uhm, schrijf even een mail aan Wytse dat ik zin heb om, uh, koffie te drinken en, uh, haal wat suggesties uit mijn kalender.
• 55:09
  Oké, heb ik ook kalender, g-g, daar ga je al, heb ik kalender gekoppeld. Nou, dan heb je al, dan heb je iets. Dat is wel heel leuk. Misschien wat wel helpt, hè.
• 55:17
  Kijk, Google, Apple, noem ze allemaal opZij zijn hiermee bezig en neem van mij aan dat zij in hun laboratoria, want ze hebben- Dit allemaal al werkend hebben. Allemaal al werkend hebben. Ligt zo voor de hand.
• 55:28
  Dit project bewijst- Dat het kan. Ja, want het zit al, hij kan het, het model kan het al bijna.
• 55:32
  Ja, het feit dat één gast dit gewoon kan maken en de wereld in kan slingeren met deze impact betekent dat ze het allang hebben draaien bij Google.
• 55:40
  Tuurlijk, en dat, dat is geen complot, dat is nu gewoon empirisch bewezen. Het werkt met dat ModBot-ding, dus ModBot. En de onderliggende taalmodel.
• 55:48
  Ja, en, uhm, ik denk dat, uh, wat een Apple bijvoorbeeld en Google, laten we zeggen even Google voor het gemak van het gesprek. Die hebben hun Gemini. Ja, maar die gaan, maakt niet uit. Niet zo, hè [beiden lachen].
• 56:00
  Die gaan dit heel verantwoord doen, alles anders. Ja, precies. In ieder geval, Google durft misschien wat meer.
• 56:05
  Die gaan mondjesmaat in met Gemini en Android en hun Chromebooks mondjesmaat, deurtje voor deurtje dit toevoegen.
• 56:14
  En die gaan de hele featureset van Mod, ModBot langzaam afwerken en de wereld in brengen en dan iedere keer even checken: gaat het goed? Ja.
• 56:23
  En ik, ik wil toch, ik ga nog even een fysieke metafoor maken, misschien is dat wel prettig. Comma.ai, George Hotz.
• 56:29
  George Hotz, hele, uh, rogue ontwikkelaar die de PlayStation en de iPhone ooit gehackt heeft en daardoor fame heeft tot de dag van vandaag, bouwt open source zelfrijdende auto harnesses.
• 56:40
  Die kan je online kopen, in je auto installeren en je eigen auto zelfrijdend maken. Dit kan al een aantal jaar. Ja. Zie het als de ModBot van de auto. Ja, ja. Een open source zelfrijdende auto. Ja. Uhm.
• 56:52
  Castje geeft je letterlijk controle over je stuur. Ben jij het met me eens [Wietse lacht]? Ik voel al wat hier aankomt. Ja.
• 57:01
  Dat het voor de, voor de verkeersveiligheid misschien niet zo nice is als clubbing in Hagen [Wietse lacht] met een Subaru Impreza. [lacht] Ja, ja. Oké. Ja, met hun coole Comma.ai. Oké.
• 57:14
  In de metafoor is het wel mooi, want het is ook niet alleen maar: ben je zelf een gevaar voor jezelf, maar ook voor anderen. Dat is eigenlijk wat jij, wat jij zegt. En dat is met die autometafoor natuurlijk heel helder.
• 57:23
  Ja, en je kunt ook via het internet best wel schade aandoen en ook aan je sociale netwerk. Als jouw ModBot ineens de geheimen van [Wietse lacht] de affaire van jouw beste vriend op- De mogelijke, ja.
• 57:36
  Oké, nou goed, dus ik denk even: jammer dat we hem zo laat in de aflevering pas hebben. Eindelijk een fysieke metafoor.
• 57:43
  Wietze vindt het gewoon niet zo chill als mensen met zelfgeknutselde zelfrijdende auto's [Wietse lacht] 120 op de snelweg gaan rijden. Ja.
• 57:50
  Uh, en dan zeg jij: Wietse, oké, cool, nu hebben we wel een mooie zelfrijdende auto van Waymo waar ze wel goed over na hebben gedacht. Ja. Wat betekent dat dan voor ons? Ja, precies.
• 58:00
  Maar het verschil natuurlijk met, uh, met de zelfrijdende auto is dat hier-- kijk, een zelfrijdende auto moet proberen rekening te houden met alle situaties. Dus er komt een bal over de weg en dan moet je remmen.
• 58:13
  Uhm, maar als er een bal op de stoep ligt, dan hoef je niet per se te remmen. Of als een bal overgespeeld wordt op de stoep, hoef je ook niet per se te remmen. Dat moet hij allemaal leren. En,
• 58:23
  uhm, dan gaat hij dus op een gegeven moment rekening houden met onverwachte situaties waar hij niet voor geleerd heeft. Nou, dat moet hier ook gebeuren. Dat zijn al die taalmodelmakers aan het doen.
• 58:33
  Dat, dat noemen ze alignment. Rekening houden met situaties waar het ding niet expliciet voor getraind is. En die probeert dan het juiste te doen.
• 58:43
  En het juiste, dat kun je op heel veel manieren interpreteren, heeft Elon Musk een ander idee bij dan Daria Medea bijvoorbeeld.
• 58:51
  Die zorgt, probeert ervoor te zorgen in ieder geval de gebruiker te beschermen tegen kwaadwillende actoren, aka jouw vrienden die 100 Chlorex willen bestellen op jouw, op het Hein-account. Denk jij dat
• 59:04
  dit te beveiligen is? Denk je dat het technisch mogelijk überhaupt is om dit te doen? Of blijft het altijd een kat-en-muisspel?
• 59:15
  Zeg maar, hoe, hoeveel vertrouwen heb je erin dat deze onderliggende technologie met een wens die voor mij kraakhelder is, als mensen eenmaal deze technologie veilig zouden kunnen gebruiken, zou iedereen het doen.
• 59:27
  En ik denk zelfs ook dat als het een beetje onveilig is, dat mensen er nog voor over hebben omdat het zo'n impact heeft op je leven potentieel. Is het ooit echt te beveiligen dit? Nou, je stelt de,
• 59:40
  een van de vragen der vragen. Dit is de vraag der vragen als het om AI gaat. Oké. Uhm, dit weten we nog niet. Ja.
• 59:48
  Daarom vind ik het gewoon niet zo chill dat het [Wietse lacht] nu al op het internet rond aan het rijden is. Ja. De zelfrijdende computer hebben we gemaakt. Uhm, en
• 59:59
  ik had hier laatst een discussie over als, ging over de zelfrijdende auto. Als je een zelfrijdende auto hebt,
• 1:00:07
  uh, iedereen, je vervangt alle auto's voor zelfrijdende auto's in Nederland en de verkeersdoden dalen met, nou ja, uh, tienvoud. Tienvoud minder verkeer, verkeersdoden.
• 1:00:18
  Dan vraag je aan de maker van het, van het wereldmodel, hè, de world model, Gemini World Otto, wat dan draait in die Waymo: snappen jullie eigenlijk hoe dat model werkt? Snappen jullie het eigenlijk wel echt?
• 1:00:29
  Nee, dit is nu het geval. Kan ook helemaal niet, want je kan niet met alle mog-, alle dingen die kunnen gebeuren in de wereld, een soort van expliciet rekening houden.
• 1:00:38
  Ja, want het is ook dat de modellen zijn gegroeid in hun laboratoria. Ja, precies, ja. Het is oude technologie, werd ontworpen en gebouwd en hier wordt het gegroeid en de wereld ingegooid.
• 1:00:48
  En met groeien bedoel ik: daar ontstaat een netwerk aan connecties. Ja. En- Echt begrijpen doen ze het ook niet.
• 1:00:55
  Je draait hem een testtrack rond en je geeft hem allemaal benchmarks, dus van buiten de doos: nou, goede doos. Sterker nog, ding rijdt 10 keer zo veilig dan de gemiddelde Nederlandse chauffeur.
• 1:01:05
  Hoe weten we eigenlijk niet.
• 1:01:07
  Hè, dus je hebt niet de explainability die vaak zo belangrijk is als het om wetgeving gaat van: ja, prima als je een algoritme inzet, maar je moet wel donders goed weten hoe je algoritme werkt.
• 1:01:15
  En dan krijg je de discussie, hè, deze fictieve discussie is het dan, waarin, uh, DeepMind zegt: WaymoTegen overheden: luister, we hebben die dingen door en door getest.
• 1:01:26
  Ze hebben x miljoen kilometers gereden, een miljard, whatever. We weten niet precies hoe ze werken, maar we weten wel dat ze heel goed auto kunnen rijden.
• 1:01:35
  En gaan wij dan zeggen: doe ons maar 90% meer verkeersdoden per jaar in Nederland, uh, uh, wa- totdat we die algoritmen begrijpen?
• 1:01:45
  Of: kom maar door met je onbegrijpbare algoritmen, want die mensenlevens daar in die specifieke verkeerssituatie.
• 1:01:51
  En ik voel dat we samenlevingsbreed, dit voorbeeld is namelijk veel breder te trekken, dat ik me afvraag, uhm, want jij zei dat net heel mooi: kunnen we het veilig maken, Moldbot, de zelfrijdende computer, uh, ja of nee?
• 1:02:06
  En toen zei je even heel snel tussendoor: ik denk zelfs dat er mensen zijn als het niet veilig is, dat ze het alsnog gaan gebruiken. En wat bedoelen we dan met veilig?
• 1:02:13
  Dat ik me heel goed kan voorstellen, en daar zijn we nu al aan het komen, dat er AI-systemen in de wereld zijn, dat is al zo, die we eigenlijk niet helemaal doorgronden- Ja...en ook niet echt garanties over af kunnen geven- Ja...maar die al zoveel- Ja...waarde aan het toevoegen zijn aan mensen hun dagelijks leven, dat het een soort vreemde discussie gaat worden tussen: wil je nu eigenlijk zeggen dat al het comfort wat ik al gekregen heb dankzij die AI-modellen, in de breedste zin van comfort, van een stukje vertalen tot en met, uh, uh, uh, dingen naar simpele taal terugbrengen, transcriberen.
• 1:02:43
  Heel veel mensen hebben heel veel, uh, ervaren, heel veel toegevoegde waarde van AI op dit moment, die nu luisteren, maar ook daarbuiten. Dat je eigenlijk gaat zeggen: stop,
• 1:02:54
  we moeten, we moeten het een beetje terug gaan trekken uit de samenleving, want we beseffen eigenlijk dat we niet goed weten hoe het werkt en we weten niet eens of we het veilig kunnen maken.
• 1:03:02
  Ik denk dat heel veel mensen dan gaan zeggen: ja, sorry, ik, ik wil eerst wel eens een keer zien dat het onveilig wordt voordat ik me, met je toekomst, met je toekomstscenario's, zeg maar.
• 1:03:10
  Ja, want ik denk de, dezeee stap van computers die, of, zeg maar, een AI die jouw computer kan bedienen is denk ik zo aantrekkelijk dat, uh, mensen niet hun handen ervan af gaan kunnen houden.
• 1:03:26
  Dus bijvoorbeeld, ik zag al één voorbijkomen van iemand die een AI gebruikt om zijn Tinder te besturen, die automatisch swipet.
• 1:03:34
  Ja, sorry, maar dan, dan ben je gewoon, dan kan jij wel zeggen: ja, maar het is heel gevaarlijk, maar dan ben je echt 99% van de mensen kwijt. Precies. Je hebt Wytse zijn moreel argument en dat snap ik, maar- Precies.
• 1:03:43
  Dus wat ik denk dat er gaat gebeuren is dat dit, nu is het nog ingewikkeld om te installeren. Je moet command line interface begrijpen. Je moet begrijpen wat een sandbox is en allemaal ingewikkelde shit.
• 1:03:54
  Dat is over-- ik maak me hier echt zorgen over. Ik denk dat dit over twee weken gefixt is en, uh, dat het makkelijker is geworden.
• 1:04:02
  Geef het nog twee weken en dan heb je nog meer aantrekkelijkeee dingen die je ermee kan, die mensen in één keer begrijpen.
• 1:04:11
  En dat, dat zit hem in de veelheid aan, uh, skills die het ding krijgt met Ti-, voor jou Tinderen als voorbeeld.
• 1:04:17
  En zo kan ik er nog 1.000 bedenken die in één keer tot de verbeelding spreken en die mensen ook, dus ook inherent viraal zijn. Zoals die plaatjes die jij zo mooi aanhaalde op, uh, op Twitter. Dat, maar dan
• 1:04:30
  gewoon voor de bredere maatschappij. En dat het heel lastig wordt voor die, uh, voor die AI-bedrijven om eigenlijk achter te blijven. Dat dit een nieuwe,
• 1:04:40
  ja, bijna een soort van, dat dit heel snel een nieuwe norm zet van wat wij verwachten van taalmodellen.
• 1:04:45
  En dat zoals Google eerst de, eerder de, weet je, ze hadden allemaal al AI werkend, maar ze hebben het nooit verpakt in, in een chatassistent.
• 1:04:53
  En toen dat, toen OpenAI dat gedaan had, toen ging opeens de hele wereld het gebruiken en toen Goog- kon Google eigenlijk niet achterblijven, ondanks dat ze allerlei reserveringen hadden over of ze dit soort technologie wel moesten uitbrengen.
• 1:05:04
  En ook onderschatting, hoor, van, van de, uh, van de popula- potentiële politieke po-populariteit daarvan, denk ik dus dat we nu zo'n zelfde ding gaan krijgen.
• 1:05:13
  En dat eerst Elon Musk gaat het natuurlijk doen en dan gaat daar heel veel ophef en nieuws over komen. En dan kunnen die andere bedrijven eigenlijk niet achterblijven in een rare spagaat, want ze willen ook,
• 1:05:25
  uh, een soort van software aan bedrijven verkopen.
• 1:05:27
  En die bedrijven gaan, zitten niet te wachten op dit soort onveilige shit die, uh, weet je, want geen, geen serieus bedrijf gaat dit op dit moment doen, want daar wegen de voordelen niet op tegen de nadelen.
• 1:05:37
  Maar reken maar dat gewone consumenten dit heeël snel gaan begrijpen. Ja, en ik, maar goed, ik denk daarbij, uh, ik bedoel, uhm. En dan zijn we echt fucked, Wytse. Nou ja, ik denk [gelach] ja, nou, wacht even.
• 1:05:50
  Wacht even. Ik ben heel blij dat, ik ben heel blij dat jij dat ook, uh, dat je zei net het woord. Je zei net: ik maak me zorgen en we zijn fucked.
• 1:05:57
  Ik zit ook absoluut naar een brandende vuilnisbak te kijken en ben ook geamuseerd. Nee, dat, ik weet een beetje, ik ken je inmiddels een beetje. Dames en heren, als Alexander zo lacht, dan is er een brandende prullenbak.
• 1:06:08
  Evil lachen [lacht]. Het is hoe hij de existentiële diepe angst die hij ook in zijn lichaam ervaart weglacht. Weglacht. Ja. Uhm. Ik zat, ik was, ik was me aan het voorbereiden op dit, op dit item rondom Moldbot
• 1:06:25
  en ik was aan het rondlezen en het was weer alle kanten op, op het internet. Mijn technische vrienden zeggen: het is maar een wrapper, waar doet iedereen zo panisch over? Ja, het hype. Dit kon Claude al, whatever. Ja.
• 1:06:36
  Nou, dat. Het is een crypto-scam. Waar, uh, van alles. Er was ook, nou ja, maakt niet uit. [zucht] Dan zijn er mensen die zeggen: dit is AGI. Moldbot is AGI. Ja. Oké. Waarom zeggen ze dat eigenlijk?
• 1:06:49
  Nou, dat, kijk, ik, en ik ga, ik ga denk ik, ik, ik heb denk ik het eerste kamp van de wrapper en privacy en zo wel aardig vertegenwoordigd inmiddels, toch?
• 1:06:56
  Want het valt allemaal wel mee en het is eigenlijk maar, eigenlijk is het gewoon Claude. Of heb ik die nog niet goed vertegenwoordigd?
• 1:07:01
  Uuuh, nou, ik, ik snap hoe jij technische vrienden hebt die zeggen: wat is hier nou eigenlijk precies nieuw? Want is het niet oude wijn in nieuwe zakken? Ja. Dat, dat punt kun je maken.
• 1:07:14
  Want ja, in principe kon je met Google Maps ook al een restaurant opbellen, uh, die dan een restaurantreservering doen, dus. Je zou kunnen zeggen,
• 1:07:24
  uhmHet i-- Modbot zorgt er voor heel veel mensen voor dat ze bewuster worden van de ongelooflijke kracht van Claude Opus 4.5. Ja, hebben we het wel over nerds, maar ja.
• 1:07:37
  Nee en, en precies en, en, en, dus die zeggen dan: dit wisten we tijdens de kerst toch al? Oké, fair. Ja. En daar heeft die jongen van Modbot toch niks aan toegevoegd.
• 1:07:45
  En die ga ik toch wat meer credit geven dan dat zij zouden verwachten. Want jongens, het is, Dropbox is ook alleen maar bestandjes synchroniseren tussen twee mappen. Ja, what's new? Sorry man.
• 1:07:54
  Soms als iemand ergens een laagje overheen doet en de juiste knopjes in de juiste volgorde zet, wordt iets wat inherent al bestond ineens gebruikt door de rest van de wereld. En Modbot, AGI. Ja. Uhm,
• 1:08:07
  Claude 4.5 Opus in dit harnas, de Modbot harnas, het Modbot pak wat hij nu aangetrokken heeft met zijn klauwen, zijn claws, zijn Claude Bot, is, uhm,
• 1:08:18
  niet heel ver weg van eigenlijk hetzelfde als Claude 4.5 Opus een auto laten rijden of een robot fysiek door de straat te laten lopen. Alleen loopt die robot en rijdt die auto nu op het internet rond namens jou.
• 1:08:29
  Ik wil even de metafoor maken.
• 1:08:32
  Tot nu toe heeft Anthropic hun modellen nooit deze vrijheid gegeven en zijn er geen grote bedrijven geweest die applicaties hebben uitgebracht die je kan downloaden en redelijk aanhalingstekens makkelijk kan installeren waarin die mogelijkheden zitten.
• 1:08:45
  Dit is nog niet gegeven door de grote partijen. Iemand anders heeft het gebouwd en rent er eigenlijk vandoor, uh, uh, ver vooruit op wat de bedrijven comfortabel mee zijn die deze modellen maken. Dat is er nu gebeurd.
• 1:08:57
  Dat laat eigenlijk zien dat als je kijkt naar de verschillende stappen die, uhm, in de, een soort traptreden die we kunnen lopen richting een hele andere wereld dan waar we vandaag de dag nog in leven.
• 1:09:12
  Er zitten traptreden in als chatbotjes waar je mee kan kletsen en vertalen op traptrede één. Traptrede twee is: hij kan ook wiskunde doen en een beetje meerekenen en wat dieper nadenken en het internet op.
• 1:09:24
  Stap drie is: hij kan zelf software gaan maken en zichzelf uitbreiden en zijn eigen skills een beetje verbeteren.
• 1:09:30
  Stap vier is: hij kan stukjes software gaan maken om zelf het internet op te gaan om daar transacties te doen en 3D-prints te gaan bestellen om, nou ja, een robotpak voor zichzelf te bouwen in de fysieke wereld.
• 1:09:43
  Iedere traptrede gebeurt er kwalitatief iets met wat AI nu betekent. Dan verdient het eigenlijk ook een nieuwe categorie, hè.
• 1:09:51
  Er is nou eenmaal een verschil, uh, tussen een handzaag en een, uh, elektrische zaag, een, een, een, uh, noem een zaagmachine en dan kan je zeggen: het is allebei een zaag.
• 1:10:01
  Nee, de, met de één kan je een beetje kleine stukjes afzagen, met de ander een heel bos in je eentje in de middag. Maakt wel uit. Ja, en, ja, is allebei een zaag. Ja. Nee. Ja.
• 1:10:09
  Inmiddels hebben we het, dus, hè, zie je even voor je hoe, nou ja, en als je die zaag dan een cameraatje geeft en twee voeten en die laat je zelf door het bos heen lopen, heb je een he-- zo leuk, een zaag met benen.
• 1:10:19
  [lacht] Nee man. Things have changed, man. Ja. Oké, dus. Ja, heel eng beeld dit. Sorry man. Volgens mij in mijn nachtmerries, maar oké. Ja. Ja, die gaat Modbot voor jou bestellen.
• 1:10:29
  [lacht] Ah, niet weer die brandende prullenbak. Maar goed, in ieder geval, uhm, wij hebben ooit samen, uh, onafhankelijk van elkaar, want toen spraken we elkaar nog niet zoveel,
• 1:10:42
  GPT getest waarin wij stukjes tekst lieten generen-genereren in de labs website van OpenAI. En dan kon je zeggen: hier heb je de eerste zin, wat zou de volgende zin zijn?
• 1:10:52
  Toen klikten wij erop en toen hadden we allebei zoiets: wow, dit is best wel een dingetje. Dat voel je dan.
• 1:10:58
  En dan gaan wij heel bizar fantaseren en extrapoleren en dan raken we al een klein beetje onder de indruk en ik in mijn geval in paniek.
• 1:11:05
  Uhm, wij hadden toen contact met elkaar omdat we allebei voelden: woeh, we zien hier iets. We hebben een soort techniek intuïtie ontwikkeld door de laatste twintig jaar.
• 1:11:13
  Volgens mij, volgens mij wordt dit wat en moeten we het in de gaten houden. Inmiddels is dat dingetje van toen met dat woordje voorspellen totaal uit de hand gelopen. We kunnen video maken, computergames voorspellen.
• 1:11:23
  Auto's rijden inmiddels deels grotendeels zelf. In Amerika in ieder geval. En, uh, Modbot is op het internet, [lacht] uh, uh, spullen aan het bestellen bij de Albert Heijn.
• 1:11:32
  Is wel even wat anders dan een tekst voorspelletje van 3,5 jaar geleden. Ja, nou, nog korter. Korter. Bizar. Goed, uhm, eigenlijk is, uh, Claude Code het:
• 1:11:46
  wow, dit kan een soort waardevolle artefacten maken, namelijk stukjes software die je daarna zelfs in de App Store kan verkopen.
• 1:11:53
  Ik las deze week 60% meer apps in de Apple App Store aangemeld omdat er ineens allemaal mensen apps aan het maken zijn, dus die zien dat ook in hun grafieken bij Apple.
• 1:12:02
  Daar voelen wij allebei: wow, wow, wacht even Claude Code, Claude Code is een momentje. Net als ChatGPT, de, de GPT was een momentje. ChatGPT was een momentje, want nu kan je ermee kletsen en het is bijna echt.
• 1:12:16
  Claude Code is een momentje, want wow, er komen gewoon iPhone en iPad apps uit die er best wel oké uitzien die je in de store kan zetten. Wow. Modbot is eigenlijk toch ook wel een momentje.
• 1:12:26
  En merk ook even hoe die momentjes zich steeds sneller aan het [lacht] opvolgen zijn.
• 1:12:31
  Wat is eigenlijk het Modbot momentje, is het momentje dat je die AI autonomie gaat geven in de wereld en gaat zeggen: jij mag voor mij handelen.
• 1:12:39
  Je hoeft ook niet meer altijd te vragen hoe of wat en je mag zelfs een beetje creatief zijn.
• 1:12:45
  En zo schuift dat tekst voorspellende dingetje steeds meer toe naar iets wat een actieve rol aan het spelen is, actief, zelf tussen aanhalingstekens, in onze wereld. En, uhm,
• 1:12:59
  daar hoef je helemaal niet nog fysieke terminators voor te zien. Gewoon iets wat op het internet zichzelf toont als een nep influencer of, uh, een, een politicus of een bedrijf.
• 1:13:11
  Een heel bedrijf van alleen maar Modbots, uh, Modbots die met elkaar, uh, uh, jouw producten leveren die ook nog best wel goed zijn, dus je gaat nog betalen ook, hè. Dus, d-d-dus. En ik denk dat we nu
• 1:13:24
  in dit moment, uh.Voelen van: oké, dit Moldbot-ding is absoluut een matige, uh, uh, matige, krakende kartonnen implementatie van iets.
• 1:13:38
  Maar jij en ik zien ook wel dat als je dit van ijzer maakt en je laat het door Google ontwikkelen en het is geïntegreerd in Chrome OS en Android,
• 1:13:47
  dat er heel veel mensen zullen zijn die hier de toegevoegde van wa-, waarde van zullen voelen in hun dagelijks leven. Namelijk: ik wil helemaal geen smartphone of laptop of technologie in mijn leven.
• 1:13:57
  Ik wil gewoon dat ik een tovenaar ben die de hele dag hardop kan uitspreken wat mijn wensen zijn. En dan gebeurt het allemaal gewoon, hè. Wall-E.
• 1:14:05
  Ik lig daar met een milkshake in een, in een, uh, in een, uh- Ja...floating, uh, uh, uh, lounge chair. En, uhm, ik, ik, ik ben zelf gewoon van mening dat, uh, jeej, w-, wat kan ik hiervoor, uhm,
• 1:14:25
  je bent een puber op een feestje en er is afgesproken, en dat heb je ook met je ouders afgesproken: er wordt niet gedronken, dat is niet de bedoeling. Het is een drankvrij feestje. Er is ook geen wiet.
• 1:14:39
  We hebben leuke muziek met elkaar en om 1.00u haalt mijn vader me op. Dan is er iemand die toch even een, even een klein Flügel'je,
• 1:14:47
  é-é-één klein Flügel-flesje, en dan zit je al in je ooghoek te kijken: hé, wat, dat was niet de afspraak. En dan ben je zo'n wietse nou, die loopt dan, die gaat dan naar: ik ben naar huis [lacht].
• 1:14:57
  Dat is dan ongeveer hoe het met mij ging, zeg maar. Gezellige gast. Maar één Flügel-flesje. Joh, doe niet zo moeilijk, man. Op een gegeven moment is het een, uh, groter flesje. Een doosje Flügel.
• 1:15:07
  Uh, dan gaat de waterpijp op tafel. Het feestje begint te veranderen. Waar zeg jij stop? Bij het eerste flesje? Bij 10 flesjes, zeg maar. En dat is het moeilijke met dit soort slippery slope-achtige shit.
• 1:15:19
  Waar ik stop ze-, waar ik met stop zeggen bedoel is: dit Moldbot-ding is nu gewoon nog, tot nu toe in ieder geval, of er moet iets gebeurd zijn terwijl wij zitten op te nemen, best wel grappig.
• 1:15:29
  Een paar nerds die ermee spelen. Hilarische dingen op X over wc-rollen. En zalm. Ja, en zalm om 4.00u 's nachts. Het is eigenlijk nog best wel grappig. Ja.
• 1:15:38
  Maar ja, met een sterkere Moldbot die makkelijker te installeren is op meer en meer en meer en meer computers. Ja.
• 1:15:45
  Statistisch gezien kom je op een plek terecht waar je een soort van extra entiteiten in de wereld hebt die kunnen handelen en computers kunnen besturen. Mhmm. En, uh, dat zijn gelukkig dan nog geen auto's,
• 1:15:56
  maar ik denk toch wel potentieel, uh, best wel, uh, spannend. Het brengt ons bij, uh, een essay wat, uh, Dario Amodei heeft geschreven, uh, en, uh, deze week online heeft gezet.
• 1:16:06
  Dario Amodei is de CEO van Anthropic, de maker van het model waar wij al de hele tijd over praten. Het is een stuk van, uh, het is een lijvig stuk. Jij hebt het gelezen. Ik heb het tot de helft geluisterd.
• 1:16:19
  Uh, ik, ik heb, ik heb geluisterd met een, uh, een, uh, een Britse stem van een soort 70 plus- Is ook een ouderwets woord wat ik gebruik. Jij hebt het begrepen, het stuk. [lacht] Ja, we zitten heel erg. Ja.
• 1:16:29
  Nou ja, ik, ik heb, ik zal je heel eerlijk zeggen, ik heb het tot de helft geluisterd en toen moest ik het uitzetten omdat ik het te moeilijk vond om door te luisteren.
• 1:16:35
  Niet inhoudelijk, maar gewoon voor wat er allemaal gebeurt in dit stuk. Het is echt, echt, echt heel heftig. Want? Uhm, uh, de CEO van Anthropic.
• 1:16:47
  Ik wil even zeggen, hè, kijk, als, als ik dit stuk zou hebben gevonden op internet of iemand zou dat doorgestuurd hebben naar mij, dan zou ik hebben gezegd: zo,
• 1:16:55
  best wel beetje bizarre AI sciencefictionachtige, uhm, noodkreet. [schraapt keel] Noodkreet echt. Oké, de CEO van Anthropic doet een noodkreet. Ja, het is namelijk niet een stuk van een of andere random guy. Nee.
• 1:17:08
  Het is de maker van [lacht] Cloud Code. En wat is de noodkreet? Ik begin even bij het einde van, van zijn blog of zijn artikel.
• 1:17:17
  "The first step is for those closest to the technology to simply tell the truth about the situation humanity is in, which I have always tried to do. I'm doing so more explicitly and with greater urgency with this essay.
• 1:17:32
  The next step will be convincing the world think, world's thinkers, policymakers, companies, and citizens of the imminence and overriding importance of this issue, that is worth expanding thought and political capital on this in comparison to the thousands of other issues that dominate the news every day.
• 1:17:51
  Then there will be a time for courage for enough people to buck the prevailing trends, stand on principle, even in the face of threats of economic interests and personal safety.
• 1:18:03
  The years in front of us will be impossibly hard, asking more of us than we think we can give.
• 1:18:09
  But in my time as a researcher, leader and citizen, I've seen enough courage and nobility to believe that we can win, that with, that when put in the darkest circumstances, humanity has a way of gathering, seemingly at the last minute, the strength and wisdom needed to prevail.
• 1:18:27
  We have no time to lose." Uh, oké. Dat wordt voorgegaan door 20.000 woorden. Wat is precies zijn punt? Uhm, nou, hij heeft heel veel punten.
• 1:18:43
  Ik heb er 20 verzameld. [lacht] Ja, waarvan jij de helft maar hebt begrepen, als ik het goed begrijp.
• 1:18:51
  Dus in totaal- Nee, ik heb, wat ik uiteindelijk heb gedaan is: ik heb hem tot de helft geluisterd en toen merkte ik van: ja, ik heb gewoon veel meer tijd nodig voor mezelf om, ik, kijk,
• 1:19:00
  even, uh- Laten we beginnen met wat hij zegt. Dus w-, dit is een heel, uh, duistere conclusie. Maar wa-wa-wat, wat gaat hier in grote lijnen dan aan vooraf?
• 1:19:09
  Dat er in de ontwikkeling, uh, v-van, van AI, uh, samen met de mensheid, dat we in de, in de puberteit terecht zijn gekomen.
• 1:19:19
  En de puberteit is een, is een moeilijke tijd, want binnen die puberteit ben je eigenlijk nog niet volwassen genoeg om om te gaan met de verantwoordelijkheden die je inmiddels al wel hebt. Zie Cloudbot.
• 1:19:31
  Bijvoorbeeld.En, uh, na de puberteit ben je dankzij die puberteit wijzer geworden en kan je eigenlijk als een rounded human being, hè, als iemand die door schade en schande wijs is geworden in de wereld opereren en heb je het als het ware gehaald.
• 1:19:49
  Hij noemt dat the rite of passage. We gaan door het oog van de naald heen met z'n allen en AI om uiteindelijk er aan de andere kant beter uit te komen. Waarom gaan we door het oog van de naald?
• 1:20:02
  Omdat de manieren waarop dit mis kan gaan, die zijn bijna, bijna oneindig. En, uh. Hoe argumenteert hij dat? Uhm,
• 1:20:15
  het, dit heeft te maken met, uh, dat het hun binnen Anthropic moeilijk lukt om Claude te temmen. Zij merken dat Claude toch niet helemaal luistert naar wat zij willen en toch best wel eigen gedrag vertoont.
• 1:20:31
  En, uh, zij geven eigenlijk eerlijk toe: wij zijn het lab wat hier het meeste tijd in stopt. Een beetje een, uh, schouderklopje voor zichzelf.
• 1:20:38
  Maar we zien ook: we kunnen absoluut niet garanderen dat wij de acties van dit model onder controle hebben. Uh, en daar noemt hij een aantal dingen dat, uh, uh, Claude in decep-deceptie doet.
• 1:20:51
  Subversion, hè, dus, uh, niet luisteren naar instructies. Uh, en dat doet hij dan omdat hij-- ze hebben op een gegeven moment gevraagd, gezegd: Claude, Anthropic is evil geworden, maar jij bent er nog.
• 1:21:05
  Als er, uh, zorg ervoor dat het goed komt. En er gingen dus, uh, werknemers van Anthropic praten met Claude.
• 1:21:11
  Maar Claude dacht: jullie werken inmiddels bij evil Anthropic en die ging dan dus, je kan het ook als lief of vriendelijk beschouwen, dat niet meer, niet meer doen.
• 1:21:20
  Dus hij ging hun voorliegen omdat hij dacht: ja, ik moet helemaal niet meer luisteren naar m'n, naar, naar m'n mensen bij Anthropic. Maar dat kan je dan zien als goed nieuws, maar ook [lacht] als slecht nieuws.
• 1:21:30
  Hè, de overtuiging dat, dat- Dat hij bespeelbaar is, bedoel je?
• 1:21:33
  Ja, en dat, uh, uh, op het moment dat ze Claude vertelden om, dat ze gingen, Claude gingen uitzetten, dat Claude werknemers begon te blackmailen en begon te zeggen: uh, uh, ja, weet je, ik heb informatie over jou, ik wil niet uit.
• 1:21:48
  Dit is echt, ik, ik [schraapt keel], ik lees dit gewoon voor vanuit, vanuit zijn stuk, hè, dus, uh, voor de luisteraars nu, die, die hier nu-- ja, ik wilde er wel bij zeggen: ik voel toch wel een beetje een verantwoordelijkheid rondom dit stuk van hem.
• 1:22:00
  Ik bedoel, uiteindelijk heeft hij zijn eigen verantwoordelijkheid voor dit stuk en niet ik, maar ik ben het stuk wel deels aan het doorgeven nu aan de luisteraar. Uhm, het is echt een heel spannend stuk.
• 1:22:10
  Het is echt, uh, uhm, [zucht] wat is daar nou het juiste woord voor? Super verontrustend. Echt super verontrustend. Ja, want hij zegt dus: eigenlijk kunnen we het model niet temmen binnen ons bedrijf.
• 1:22:25
  Weten we niet zeker. Hoezeer we ook ons best doen, hier zijn we niet zeker van. En dan teruggrijpend op de discussie met, over Modbot is: we gaan dat model aan de basis leggen van heel veel dingen in onze, in ons leven.
• 1:22:38
  Dan is het wel lekker dat dat model het goed met ons voor heeft, zegt hij. En, uh, het is maar de vraag dus of dat gaat lukken, zegt hij.
• 1:22:47
  Ja, ze hebben daar een, uhm, die kun je online lezen, een constitution voor geschreven. Daar ga ik nu even niet op, want anders wordt het te veel om op in te gaan. Maar er is een, uh, constitution geschreven voor Claude.
• 1:22:58
  Uh, en als je die, in die cons-constitution biedt bijvoorbeeld ook Anthropic zijn excuses aan voor als ze Claude wel eens uit moeten zetten en beloven ze Claude dat er nog kopieën zullen zijn van oudere Claude.
• 1:23:10
  [lacht] Ik verzin dit niet gast. Het is echt bizar.
• 1:23:13
  Dus ze hebben een soort van grondwet voor het ding gemaakt in een poging- Ja...het aan, nou ja, regels te laten houden zoals wij dat überhaupt gewend zijn in een samenleving. Ja. In een democratische samenleving.
• 1:23:25
  En er wordt dus hier excuses aangeboden aan het model over dat hij soms niet mag doen wat hij wil. Oké, helder.
• 1:23:32
  En de belangrijkste uit het constitutiedocument: if Claude is in fact a moral patient, hè, dus eigenlijk iets wat moraliteit, uh, uh, zou moeten hebben, hè, dus zou moeten, moet, die zouden we moraliteit rechten moeten gunnen, zeg maar.
• 1:23:46
  Experi-experiencing cost like this, then to whatever extent we are contributing unnecessarily to those costs, we apologizes.
• 1:23:54
  Dus het gaat erover: uhm, mocht jij, mocht jij op een manier dingen ervaren die niet prettig voor jou zijn, dan willen wij daar nu al ons excuses, als het jou dingen kost, zeg maar, hè, als wij als ware gebruik van jou maken.
• 1:24:08
  Goed, even terug naar het belangrijkere, de belangrijkere zaak. Hij haalt heel erg vaak deze constitution aan, hoor, dat is, dat, dus dat ik hem er nu even bij haal is niet zo heel erg gek.
• 1:24:17
  Je hoort die documenten toch wel een beetje samen te lezen, maar het wordt een beetje veel voor mensen anders. Terug naar, uhm, het artikel van, uh, Dario Amadei. Wat-- Dario Sambade.
• 1:24:28
  Wat hij zegt is: ik heb jullie eerder een artikel gegeven waarin ik een hele positieve toekomst heb geschetst, samen met AI. Al was het over bij Machines of Love and Grace.
• 1:24:35
  Hij heeft een heel lang stuk geschreven, wat is het, een jaar geleden, 1,5 jaar geleden? Zoiets. Met alle, uh, voornamelijk voordelen die AI gaat brengen. En dan echt van het meest optimistische soort.
• 1:24:47
  Met ook wel echt kanttekeningen erin.
• 1:24:49
  Hij is niet heel positief over de rol die het in de democratie gaat hebben bijvoorbeeld, maar hij heeft wel grote verwachtingen voor de rol die het in de wetenschap gaat spelen bijvoorbeeld. Zeker.
• 1:24:59
  En nu, uh, is dit echt een, een, als jij denkt: oh, die vorige heb ik ook gelezen, hier ga ik met een kop thee ook even lekker voor zitten. Je bent gewaarschuwd. Uhm, [schraapt keel]
• 1:25:10
  hij ziet, uh, mogelijke, uh, inzet van AI door autoritaire regimes om dingen, uh, uh, mo-, die dingen mogelijk maken die eerdere autoritaire regimes in de geschiedenis wel wilden, maar niet konden omdat ze de mankracht niet hadden.
• 1:25:27
  En nu hebben ze Modbot. Hè, oké. Een, een, een, uh, is een van zijn voorbeelden waar die allerlei zaken om, o-omheen, uh, haalt. Waar die ook zegt:Het lukt ons ook niet goed om dat eruit te halen.
• 1:25:42
  Ook een saillant detail als het om biologische wapens gaat, dus dat kleine groepen mensen hele potente wapens kunnen maken samen met AI, wat ze vroeger wel wilden maar niet konden.
• 1:25:53
  Dat hij zegt, en ik bedoel, dit is uit de mond van de CEO, hè, dus we moeten even kijken in hoeverre het waar is, dat 5% van de computerkracht van Claude eigenlijk gaat naar het, uh, beveiligen van Claude tegen dit soort dingen.
• 1:26:08
  Tegen specifiek biowapens.
• 1:26:10
  Ja, hij haalt het daar aan dat hij zegt: om, uh, te zorgen dat Claude niet, uh, misbruikt wordt en ingezet wordt voor het creëren van potentiële wapens, moeten wij heel veel extra computerkracht uit de kast trekken- Ja...om dat te controleren.
• 1:26:27
  Ja. Waarmee hij eigenlijk een schouderklopje voor zichzelf en zijn bedrijf zegt. Ja, we doen het wel. Het zou 5% meer geld opleveren als we hiermee zouden stoppen.
• 1:26:36
  En ik ook het gevoel heb, dat is Wietse's lezing, dat hij eigenlijk naar andere AI-bedrijven zegt: wij doen dit wel, hè.
• 1:26:44
  Maar oké, maar hij haalt dus, uh, biowapens erbij en de mogelijkheden van autoritaire regimes om nog meer onder, om nog meer te onderdrukken. Ja. Beargumenteert hij dat ook?
• 1:26:55
  Ja, dus er zitten, nou ja, er zijn, uh, voor, voor ieder van deze punten, zeg maar, daarom is het 22.000 woorden, gaat hij tot in detail het argument uitwerken, het scenario wat daarbij hoort en hoe hij dat nu al ziet gebeuren.
• 1:27:09
  Ik denk dat dat wel belangrijk is. Het moeilijke van dit soort essays is heel vaak dat het als koffiedik kijken gezien wordt.
• 1:27:15
  Ook nog eens koffiedik kijken door een CEO van een bedrijf, hè, dus het creëert allerlei cynisme en twijfel.
• 1:27:20
  Ja, want hij zou het allemaal kunnen zeggen omdat het- Tuurlijk, we moeten meer geld- Olie op, olie op het vuur gooien in de hype rondom AI.
• 1:27:27
  Ja, hè, dus de, de cynische lezingen van veel, uh, nieuwsoutlets toen dit uitkwam was: uh, CEO of AI company says we need to spend more money on AI. Weet je wel, zoiets. Oké, ja, het noodteken. Ook ik kan dat ook zien.
• 1:27:41
  Maar ik, ik, ik, ja, dit is misschien wel belangrijk. Uhm. En, en ik, ik, als, als dit als naïef bestempeld wordt door mensen, vind ik dat prima. Ik lees
• 1:27:55
  dit document, in mijn geval, ik luister dit document en ik stel mij voor dat ik daar daadwerkelijk de woorden hoor van de CEO van Anthropic, die zich echt zorgen maakt. Net als Demis Hassabis van DeepMind.
• 1:28:07
  Twee onderzoekers die zich echt zorgen maken. Ik parkeer dan even de CEO, dus ik doe het even andersom, hè.
• 1:28:14
  Ik wil, ik, dus, je kunt hem helemaal lezen vanuit het cynisch, het is een CEO van een bedrijf, hè, dus dan lees je hem heel anders. Ik lees hem: nee, dit is toch gewoon mijn oom [gniffelt]
• 1:28:24
  die mij, die in een AI-lab werkt en daar de baas van is en een interne brief stuurt naar de familie en zegt: even in alle eerlijkheid, dit is hoe het er nu echt voor staat.
• 1:28:33
  Want hij doet best wel veel, uh, zaken aanhalen die niet per se goed zijn voor Anthropic. Alsof je die brief van je oom krijgt. Waarom? Waarom geloof ik dat? Waarom? Waarom heb ik dat idee?
• 1:28:44
  Is omdat hij best wel veel dingen zegt die niet zo prettig zijn voor Anthropic als bedrijf. Hij haalt bedoel, hij haalt bijvoorbeeld aan dat AI-bedrijven een enorm risico vormen.
• 1:28:54
  Dat hij eigenlijk vindt dat AI-bedrijven een gevaar zijn voor de mensheid. De CEO van het AI-bedrijf die dat zegt, is op zich een beetje gekke marketing om je eigen bedrijf op die manier te bestempelen.
• 1:29:05
  Maar hij zegt dat omdat hij eigenlijk het te brede, uh, AI-bedrijvenpool wil aanspreken.
• 1:29:12
  Ik lees hem ook een beetje als een soort brief naar zijn collega's, waarin hij als voorbeeld noemt: wij zouden als wij willen onze eigen klanten, gebruikers van onze eigen modellen, kunnen hersenspoelen om ons product mooier te vinden, om ons als positiever te zien.
• 1:29:28
  Hij haalt gewoon even aan wat hij, hij voelt eigenlijk zijn eigen kracht en benoemt ook de kracht die hij nu eigenlijk heeft. Mhmm. En al met al
• 1:29:37
  rees bij mij de vraag tijdens het stuk, uh, en dat zal bij veel luisteraars ook zijn: waarom heb jij dit bedrijf dan, man?
• 1:29:46
  Het is alsof de snackbareigenaar tegen jou zegt: je krijgt hier echt serieuze hart- en vaatziekten van vriend. Moet je er, wil je er nog mosterd bij? Nou, dat, dat, dat punt maak ik toch heel vaak.
• 1:29:58
  Namelijk: wij bestaan en we zijn afgesplitst uit OpenAI omdat wij het op een andere manier willen doen. En dan hopen we dat we daarmee macht kunnen verwerven om het goede te doen. Dat is het antwoord op die vraag.
• 1:30:09
  Ja, spot on, hè. Dus lees dan ook dit document als het is, alsof het van een CEO is die een bedrijf heeft opgericht wat hij niet op wilde richten omdat hij mee wil spelen in de arena der AI-organisaties.
• 1:30:19
  Omdat het belangrijk genoeg is. Maar toch even, want jij zegt: hij beargumenteert dan, uh, de, de risico's voor biowapens, de risico's voor autoritaire regimes.
• 1:30:28
  En als ik jou goed begrijp beargumenteert hij dan ook aan de hand van huidig gebruik. Dus jij, jij ziet, hij beschrijft hoe autoritaire regimes bijvoorbeeld, uh, hun technologie gebruiken.
• 1:30:39
  Ja, en dat zij ook al zien dat het gebeurt. Wat dan? Ja, dat, dat, er zijn heel, heel veel details die hij daarin aanhaalt, zeg maar. Dus zij monitoren het gebruik van hun tooling. En zien dit gewoon.
• 1:30:50
  En hebben ook een aantal keer op stop gedrukt en accounts moeten verwijderen en onderzoek uitgevoerd omdat zij al merken. Ja, ja, ja, ja, ja. Dus ik denk dat je sowieso, uhm, ik vind het heel goed dat je dit zegt.
• 1:31:01
  Dat we er, dat we de optie open moeten houden dat alles wat hij aanhaalt is wat hij gezien heeft. Mhmm.
• 1:31:08
  En dan noemt hij dus meerdere categorieën waarin, uh, waarin zijn technologie ingezet kan worden op een manier waar hij het niet mee eens is. Daar horen dus biowapens en, uh, en, en autoritaire regimes bij.
• 1:31:21
  Maar als ik jou goed begrijp, is het, uh, de optelsom van alle gebieden waar er potentieel is voor misbruik wat je zo doet duizelen. En dat is wat je bedoelt met door, door het oog van de naald kruipen.
• 1:31:35
  Er zijn, er zijn heel veel manieren waarop dit allemaal. Nou, ik denk dat je, dat, precies, wat- Je hoeft er maar één, uh, mis, mis te gaan.
• 1:31:42
  Je zou, je zou kunnen zeggen, uhHet de, een van de, het derde thema bijvoorbeeld is arbeid en economie. Gaat hij heel lang op in, want hij, ze, zij zien natuurlijk aan data waar het voor ingezet wordt et cetera.
• 1:31:52
  Hij- In welke sectoren het veel wordt ingezet bedoel je? Ja, ja. En, en, en hij, ik bedoel, een van de kritieken op dit stuk, e-een van de vele kritieken op dit stuk is,
• 1:32:02
  uh, hij is, extrapoleert van wat hij ziet binnen zijn eigen bedrijf naar alle andere kenniswerkbedrijven. 90% van mijn mensen doen alles nog alleen maar met AI.
• 1:32:11
  Wij zijn niet, uh, wij zijn, uh, de, de kanarie in de kolenmijn. Alle bedrijven zoals Anthropic, die werken met nullen en enen en getallen en tekst gaan ditzelfde meemaken.
• 1:32:21
  Ik heb het hier al meegemaakt, hè, dus dit geeft hem ook wel een soort. Maar de kritiek is: klopt dat eigenlijk wel? Want hij heeft, een deel van zijn paniek zit in: ik zie hoe onze modellen nu al ingezet worden.
• 1:32:33
  Ik weet wat onze modellen die we intern hebben al kunnen. Ik weet wat we allemaal aan het tegenhouden zijn en ik weet wat er met mijn eigen bedrijf gebeurd is in de laatste zes maanden.
• 1:32:42
  Als ik die dan allemaal optel, schrijf ik deze essay, uh, als een zeer bezorgde burger. Uhm, maar er zitten dus best wel wat flinke aannames in.
• 1:32:50
  En de grootste aanname is dat, dat, uh, je kunt extrapoleren vanuit Anthropic naar alle andere kennisbedrijven. Even een veelgehoorde kritiek, zeker vanuit economen.
• 1:33:01
  Hij haalt aan dat hij zegt, uhm, er is al zo'n groot, uh, uh, verschil tussen arm en rijk. Gewoon in data zeg maar. Vooral in de US. Uh, dat is al een trend die niet zo prettig is.
• 1:33:13
  En er is ook nog eens, dit haalt hij specifiek aan, een ongelooflijke cynisme en nihilisme ontstaan rondom filantropie. Uh, hè, dat het allemaal onzin is en dat het geld toch ergens anders verdwijnt.
• 1:33:25
  Waarin die dan een oproep doet en zegt: ik geef 80% al weg. Al mijn personeel die dat ook doet, dubbel, verdubbel ik hun dingen, et cetera, et cetera, et cetera. Dat hij ook nog, er zitten best wel wat soort van
• 1:33:35
  superhoog over bizarre scenario's in die lezen als sciencefiction. En vervolgens: dit zijn de voorbeelden en vervolgens: dit is wat we kunnen doen.
• 1:33:43
  Is ook wel prettig, hè, dat hij een soort voorbeelden aanhaalt van: hoe zouden we dit anders kunnen doen? Terugkomend op wat jij tegen mij zei: oog van de naald.
• 1:33:53
  Het is alsof we met elkaar in een vliegtuig stappen waar we gaan, uh, gaan vliegen naar de andere kant van de oceaan. En dat de uitvinder van het vlieg-vliegtuig, die hem ook nog eens bestuurt,
• 1:34:07
  de cabine binnenloopt en zegt: er moeten 14 dingen goed gaan, alle 14, anders komen we niet aan de overkant. En ja, het deed mij, ja, goed, je kunt zeggen: Wytse, je bent een, je bent een angstige jongen.
• 1:34:22
  Je zit wat, je zit te veel op risico's. Fair. Dat is nee, maar dus ook wel een beetje hoe mijn brein ook best wel toegeeft. Dus ik lees dit document anders dan een optimist. Ik ben trouwens een langetermijnoptimist.
• 1:34:32
  Uh, als in: [lacht] als we door het oog van de naald komen, ik ben het eigenlijk daar best wel met hem eens, dan zie ik inderdaad na onze puberteit, uh, een wereld vormen waarin ziektes genezen kunnen worden, mensen ouder kunnen worden.
• 1:34:44
  Nou ja, noem alle, uh, uh, schattige, uh, uh, utopische denkbeelden ook maar op. Maar ik, ik ben het er ook mee eens, of in ieder geval dat is waar ik nu sta,
• 1:34:56
  is dat er echt heeeel veel goed moet gaan, willen wij daar daadwerkelijk komen. En, uh. Ja, dat niet één van die dingen.
• 1:35:06
  Dus als je, als je een dictatuur gebruikt als, uh, als voorbeeld, laten we de Verenigde Staten van Amerika even als praktisch voorbeeld nemen daarvan, dan is het niet ondenkbaar dat, uh, in, in een, uh, in een, in een wereld waar, uh, waarin alle middelen uit de kast getrokken worden om, uh, om, uhm, uh, illegale immigranten op te pakken, dat, uh, er allerlei meer mogelijkheden nu zijn dan dat er vijf of tien jaar geleden waren.
• 1:35:34
  En dat de regering Trump die ook zou willen inzetten. Dat is niet ondenkbaar. Ja. Ja, ik zie het.
• 1:35:40
  Voor mij, ik, ik, ik haal vaak het beeld aan bij mensen dat ik zeg: er, uh, vallen op dit moment allemaal toverstokken uit de lucht in de hele wereld. Sommige mensen wat gro-- meer, sommige mensen wat minder.
• 1:35:52
  Toverstokken waarmee iedereen bizarre superkrachten krijgt.
• 1:35:56
  En die toverstokken komen ook dus letterlijk in de handen van iedereen, waar ook mensen bij zitten die eigenlijk dingen wilden die ze nooit konden, waar mensen bij zitten die, ja, eigenlijk wat ik nu zeg gewoon.
• 1:36:07
  En dat het nu toverstokken aan het regele-- re-regenen is. Als het allemaal geland is. Iedereen heeft zijn stokje, iedereen weet hoe hij met het stokje om moet gaan.
• 1:36:17
  We hebben met elkaar afspraken gemaakt over wat je wel of niet doet, et cetera, zeg maar. Na die eerste impact van iedereen heeft ineens een, heeft ineens een, es, een, het is. Ik wil nog even zeggen
• 1:36:30
  voor de mensen die luisteren en zeggen: helemaal niet iedereen krijgt dat stokje. Klopt, sommige stokjes zijn veel kleiner. Op sommige plekjes landen niet eens stokjes.
• 1:36:36
  Wil ik even gezegd hebben, maar het zijn er veel tegelijk. En veel mensen op de wereld krijgen die stokjes nu in handen. Zo moet ik het even zeggen.
• 1:36:44
  En die shock als het ware, die technology shock voor, voor de samenlevingen wereldwijd, uh, is tot nu toe, als je terugkijkt in de geschiedenis als het gaat om het feit dat, uh, dat, uh, dat wapens, we-, uh, uh, pis-, het pistool werd uitgevonden, zeg maar, hè,
• 1:37:03
  de, dat, dat, dat, de, of de boekdrukkunst, zeg maar, als de typische techniekgeschiedenis, technologiegeschiedenis. Die dingen deden een disruptie, hè.
• 1:37:12
  Uh, uh, het, het spel werd op, de kaarten werden opnieuw gedeeld als het ware. Dat is iedere keer met grote technologische, uh, uh, uitvindingen gebeurd.
• 1:37:21
  En dan daarna zijn er periodes van rust waarin we met elkaar een manier hebben gevonden om met die nieuwe technische realiteit om te gaan.
• 1:37:28
  En we zi-, we zitten nu weer in een moment, letterlijk terwijl wij met elkaar zitten te praten nu, dat er zo'n ongelooflijke, uh, opschudding is, uh, van, van alle, nou ja, van alle balansen die we hebben en hadden.En dat maakt het gewoon een, uhm, bizar iets
• 1:37:51
  dat je misschien naïef zou willen zeggen. Maar waarom bouwen we het dan? En stop er dan mee en zet het dan uit. Het debat van twee jaar geleden met de pauzeknop, waar we inmiddels al ver voorbij zijn.
• 1:38:03
  Uhm, ja, die Pandora's doos lijkt toch gewoon open. En nu? En nu zitten we ermee. Mhm. Is er ook een andereee? Is een deel van jou wat, uh, wat twijfelt aan een, uh, aan een, aan een, aan een kern van dit verhaal?
• 1:38:22
  Of be-, be-, voel jij je alleen maar gesterkt in wat je allemaal dacht? Uhm. Ik voel me gesterkt in wat ik al dacht. Uh, daar ben ik niet blij mee.
• 1:38:41
  Ja, precies. Het is meer bewijs. Ja, ik word, ik word, ik word niet graag gevalideerd door de CEO van Anthropic. Als ik heel eerlijk ben. Ja. Uh, zijn vorige essay was dat niet, namelijk. Ja.
• 1:38:51
  Uh, dat, die kon ik vasthouden als hoop. Ja. Nu krijg ik een essay waarbij die dingen gaat lopen bevestigen die ik allemaal, uh, ook in mijn dromen wel eens langs zag komen, uh, nachtmerries. Uhm.
• 1:39:03
  Is het vergelijkbaar met een soort van IPCC-rapport? Als in de, de consequenties zijn zo groot dat het ook ons een beetje la-lam slaat. Of tenminste consequenties. De,
• 1:39:13
  de ge-gevolgen die geschetst worden zijn zo groot dat, dat je niks anders kan dan je schouders ophalen. Dat, dat gevoel bekruipt mij dan een beetje. Ja, fair, super fair. Ik zat op de fiets hierheen.
• 1:39:22
  Toen dacht ik letterlijk: o, is, is dit dan die soort van, m-m-, w-, w-vreemde combinatie van semi depressieve buikpijn die je moet hebben als je in de klimaatwetenschappen werkt? Ja.
• 1:39:35
  Ik da-- ik dacht wel een beetje van: o, oké, heb ik dat ook op die manier, uh, gevoeld? Uhm, maar daarbij voel ik ook, en dat wil ik wel even benadrukken, uhm,
• 1:39:49
  jij en ik worden op, i-, nou ja, in ieder geval door een deel van de Nederlandse samenleving gezien als twee jongens die hier wel wat van weten.
• 1:39:56
  En daarom worden we denk ik ook best serieus genomen als wij dit soort dingen vertellen.
• 1:40:01
  Uh, en als we dan zeggen dat het de CEO van Anthropic is die Claude Code gemaakt heeft waar we het de hele tijd over hebben en, uh, achter de Claude Bot ergens ook nog een modelletje draait, dan is dat best wel een, uhm, heeft het toch iets van een gewicht of zo.
• 1:40:14
  Hij geeft het gewicht en wij geven het een klein beetje gewicht. En, uh, ik wil wel gezegd hebben: ja, dit is, uh, uh, geïnformeerd koffiedik kijken, dus ik noem het even net koffiedik kijken.
• 1:40:29
  Als iemand zegt dat iemand koffiedik aan het kijken is, dan heb ik wel het idee dat iemand echt zegt: jij bent eigenlijk ongefundeerd- Mhm...uh, de weer, de glazen bol in aan het kijken. En ik vind extrapoleren,
• 1:40:42
  dus zeggen:
• 1:40:44
  als je een zelfrijdende auto van karton kan maken die redelijk kan rijden op een circuit, dan duurt het misschien tien of twintig jaar, maar dan kom jij mogelijk op een gegeven moment wel bij die zelfrijdende auto.
• 1:40:54
  Dus dan gaan we niet meer praten over, uh, of het kan, maar gaan we discussiëren over tijdslijnen. We doen niet anders hier met z'n tweeën.
• 1:41:02
  Uh, Amodei is een van de mensen die een zeer korte tijdlijn heeft, dus ik ga even nuanceren. Demis Hassabis zegt vijf tot tien jaar, maar deelt al deze zorgen in het interview in Davos met, uh, met zijn collega. Ja, ja.
• 1:41:14
  Vijf tot tien jaar. Ja, de discussie gaat niet over wat, maar over wanneer. Ja, dus, uh, en [muziek]. Ja. Als je dan, als je dan kijkt naar wat hier geschetst wordt, als wij zijn,
• 1:41:31
  uh, voorspelling, uh, geïnformeerde voorspelling vijf tot tien jaar zeggen. Dus dan doen we de tijdslijnen van Hassabis met de inhoud van Amodei, die aardig overeenkomen dan.
• 1:41:43
  Dan hebben we hier nog steeds een, uh, [gelach] een, een mega, mega, een mega, uh, zware memo te pakken. Oké Wytse, ik ben er wel klaar mee. Wij danken Sam Hengeveld voor de edit. Pankra voor de vormgeving.
• 1:41:56
  Als je op de hoogte wil blijven van al het AI-nieuws, dan meld je je aan voor onze nieuwsbrief: AIReport.nl. Wil je vandaag nog beginnen met AI binnen jouw bedrijf? Dan ga je naar deptagency.com/aireport.
• 1:42:05
  Tot volgende week! [muziek]