Latest / AI Report / De zomer waarin AI zichzelf uit de testomgeving hackte + Sam Altman trapt op de rem + GrokBot is computer use voor iedereen

Transcript

De zomer waarin AI zichzelf uit de testomgeving hackte + Sam Altman trapt op de rem + GrokBot is computer use voor iedereen · AI Report

• 0:00
  Welkom bij AI Report, de grootste AI podcast van Nederland waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en de samenleving. Nou, we zijn terug van zomerreces. Je hoort het.
• 0:11
  Ik ben niet Wietse Hage, noch Alexander Klöpping. Ik ben Jeroen Wollaars en ik ben, ja, als een soort van agent uit mijn sandbox ontsnapt om maar weer in deze podcast een beetje rond te hacken.
• 0:21
  Komen we zo vast nog wel op terug, want we hebben veel te bespreken. Nou, dat dus. Twee AI modellen van OpenAI braken deze zomer tijdens een test uit hun afgeschermde omgeving.
• 0:30
  Ze kwamen op het open internet terecht en drongen de systemen van een ander bedrijf binnen. Een beetje zoals ik dit bedrijf weer ben binnengedrongen. Tot mijn vreugde overigens.
• 0:39
  [lacht] En, uh, Silicon Valley is enthousiast over de nieuwste chatbot van Elon Musk, de Grok bot. Gaan we het allemaal over hebben in deze editie van AI Report. Veel plezier!
• 0:50
  [muziek] Zo Alexander, ik ben uit mijn sandbox ontsnapt en hier zit ik weer.
• 1:02
  [lacht] Wij zijn allemaal weer uit onze sandbox ontsnapt en zijn weer aan het produceren met reasoning traces die wij dan voor onze baas afleveren of zo. Is dat de metafoor? Op één iemand na, namelijk de heer Hage.
• 1:16
  Wietse Hage is nog steeds in zijn sandbox. Ja. [lacht] Ja, wat heerlijk, dat gunnen wij hem. Maar fijn dat je wil invallen, Wol.
• 1:22
  Ik vind het wel ingewikkeld, want, uh, ik krijg dus nu in de natuurlijke stand der dingen de taak van de heer Hage op mij. Dus nu moet ik een beetje gaan zitten genereren dadelijk.
• 1:31
  Ja, jij begint met praten en ik ga jou proberen kort te houden. Ik ben nu-- [lacht] ja, precies. Ik, ik, ik heb nu al de neiging om mezelf in te dekken hier voor. Da's echt nergens voor nodig. Nee, it's oké.
• 1:40
  Ik denk dat jij de afgelopen periode, uh, best wel wat hebt bijgelezen en best wel wat weet. Dat is ook zo. Dat is ook zo. En heb je het gemist? Of ik het gemist heb om, uh, AI, uh, nieuws te lezen?
• 1:51
  Ik was eerlijk gezegd best tevreden om eventjes in de vakantie het ook wel een tijdje uit te zetten. Ja. Ik vind het ook echt heftig.
• 1:57
  Ja, maar ik herinner me, wij zijn, uh, uh, full disclosure voor de luisteraar, uh, één week met elkaar op vakantie geweest. Ja.
• 2:04
  Toen heb jij, want jij reisde zonder laptop en, uh, zonder browser, heb jij aan mij gevraagd: wil je even op Techmeme kijken? [lacht] En mij een samenvatting geven?
• 2:13
  Nou, ik kan me herinneren dat er een nieuw Cloth, Cloth-model uitkwam, een Claude-model uitkwam en, uh, dan wil ik dat toch even weten. Ja.
• 2:20
  Ja, ik kan het soms niet laten, maar over het algemeen heb ik het niet bijgehouden en dat is ook wel goed voor de geest, hoor, want het maakt gewoon ook gestrest, vind ik, al het nieuws over AI volgen. Ja.
• 2:31
  Maar goed, daarom vatten we het iedere week samen, toch? Zodat die, die stress in ieder geval alleen maar bij ons ligt. Dan is de luisteraar in, in ieder geval van verlicht. Het is ons cadeau aan de mensheid.
• 2:37
  Ja, zo is dat. Zo is dat. We zijn, uh, ook weer, we gaan ook weer beginnen met de, uh, webinars trouwens. Dat is belangrijk om te zeggen.
• 2:43
  We werken aan een nieuwe reeks, uhm, waar, waardoor je ook, uh, leert hoe je AI kan gebruiken en niet alleen maar het nieuws erover leest. Vooral hoe je het concreet zelf kan inzetten.
• 2:53
  Want als je een beetje zoals ik het gevoel hebt dat je de afgelopen maanden, uh, niet helemaal op de hoogte bent geweest en dus wat in te halen hebt, dan is dit misschien een mooi moment om aan te halen.
• 3:01
  Een tijdelijke actie waarbij we vier weken toegang geven tot premium, uh, voor een introductieprijs van vier euro.
• 3:08
  Dus dan, nou, dat is echt, nou, ik vind het schandalig weinig, maar je krijgt direct toegang tot alle, uh, eerdere webinars die we hebben opgenomen met Wietse, het volledige archief en al onze uitgebreide tips en tools.
• 3:20
  Dus dan kun je gelijk na de zomervakantie scherp en goed voorbereid je werk en leven in. Het aanbod is tijdelijk en geldt tot maandag 31 augustus. En voor meer informatie ga je naar AIReport.nl.
• 3:32
  Wol, jij had dus wel een, uh, laptop mee, uh, deze zomer. Ja. En ik zag jou regelmatig, uh, dingen, ja, genereren zou je kunnen zeggen. Ik heb gegenereerd op vakantie.
• 3:43
  Ja, ik schaam me er ook een beetje voor, want eigenlijk moet je dan gewoon zoals jij deed, echt respect, hoor. Gewoon boeken lezen, niet achter die laptop zitten.
• 3:51
  Maar het was toch ook een uitgelezen moment om even, ja, wat orde aan te brengen, een beetje structuur aan te brengen, een beetje los te komen van het, uh, het dagelijkse, uh, de dagelijkse vibe, code, ellende en al vibe codend een stap terug te doen en overzicht te creëren.
• 4:05
  O, echt? Ja, weet je wel, ja. Ik bedoel, als jij het net hebt over hoe we zo achter alle feiten aanhollen en elke keer maar weer model, model, model, model, wat moeten we ervan vinden? Wat kan je ermee?
• 4:16
  Dan raak je er toch ook wel een beetje in verstrikt, vind ik, zo in het dagelijks gebruik. Ja. Ik word, ik, ik, ik word echt gek, hoor. Ik word elke dag wakker 's ochtends. Ja.
• 4:24
  En, uhm, voorheen las ik dan eerst de kranten en nu g-, ga ik gewoon toch eerst even verder, m-m-bij waar ik de avond daarvoor gebleven was. Ja. Omdat ik denk: oh, toch nog een goed idee. Ja. Ook toch dit nog.
• 4:36
  Ah wacht, weet je, na elke nacht heb je toch weer nieuwe verse ideeën. Ja. En daarna komen de ochtendkranten. Dat is echt een paradigmashift. Ja. Ik schaam me er een beetje voor.
• 4:44
  Lig ik zo in bed met mijn eerste kop koffie lig ik zo Claude te openen. Ja. Ja. Ja. Nee, it's, uh, het is herkenbaar.
• 4:51
  Is het ook, vind je het ook dan aan het eind van de dag, heeft, is het dan een beetje aan het, uh, ruisen in je hoofd? Heb je daar, heb je daar, zeg maar, doet dat uiteindelijk ook iets met je gemoed?
• 5:01
  Of, uh, of heb je daar niet zoveel last van? Nou, wat het doet, is dat ik, als ik een vraag stel of, uh, want ik ben een soort hobby coder, dus ik codeer dingen die ik leuk vind en ik probeer dingen uit.
• 5:12
  Uhm, maar als ik dan een vraag stel, dan is ie daarna aan het nadenken en dan ga ik twitteren. O, ja. Dus dat vind ik wel een soort, wat moet je doen tijdens het wachten op antwoord?
• 5:22
  Ja, meer programmeerprojecten starten. Ja, andere, maar dat vind ik dan, daar probeer ik dan mezelf nog een klein beetje, niet te veel agent op te, op te spinnen, maar een klein beetje overzicht te houden.
• 5:31
  Maar waarom dan? Is dat, uh, is dat een soort zelfbescherming? Of omdat je, uh, niet weet wat je voor- Heeft met mijn flow te maken, denk ik. Ja, ja.
• 5:37
  Dus dat ik, dat ik lekkerder flow als ik in één, uh, met één onderwerp bezig ben. Ja. In plaats van, van het één naar het andere, naar het andere, naar het één. Ja.
• 5:45
  En zoveel heb ik dan ook weer niet om te vibe coden, weet je.
• 5:47
  Op een gegeven moment is het ook wel zo dat a-als, als ik de badkamer binnenloop en het licht gaat automatisch aan, dat hij dan ook het, het, het nisje meeschakelt.
• 5:55
  Dan heeft Home Assistant, dan heeft hij al wel met Home Assistant dat gebouwd en dan is dat het ook wel. Ja. Dan hoef ik niet nog meer onzin toe te voegen aan mijn woning. Ja.
• 6:03
  Uhm, maar ik merkte dus op vakantie dat ik dacht: kan je dat nog wat beter structureren? En ik had voor de vakantie hier, uhm, uh, meegedaan aan een van die, uh, van die workshops. Ja.
• 6:14
  Waarbij ik leerde dat je dus nadat elke, uh, conversatie is afgerond met Claude, dat je hem een soort hoek kan geven die die kan aanroepen, waarbij hij zich nog even wat herinnert, zo van: aan het eind van dit gesprek.
• 6:25
  Ja, dat vertelde Oscar tijdens zo'n masterclass dat je, dat je, als je een gesprek hebt gehad met je chatbot of je hebt iets ge, je hebt aan iets gewerkt, een document of je hebt een, uh, een programmeerproject gemaakt, dat je eigenlijk aan dat ding vraagt om het samen te vatten en dat ergens weg te schrijven.
• 6:43
  Dat heb ik gedaan en dat heb ik met Gbrain gedaan. Dat is een uhm, ja, dat is Gary Tan, die, uh, van, van Y Combinator.
• 6:50
  Zo'n, zo'n VC, die maakt, ja, allerlei plug-ins, allerlei skills voor je, uh, uh, Claude of voor, voor je Codex, maakt niet uit. En een van de dingen die hij heeft gemaakt is Gbrain. Gbrain. Gbrain. Gary Brain. Gary Tan.
• 7:05
  Nou, het is, je, het klinkt allemaal een beetje tasteless, maar wat het doet, uh, is dat hij, uhm, extern brein gewoon in MD-filetjes op je, op je, op je harddisk bijhoudt met de dingen die je gedaan hebt. Ja.
• 7:19
  Waardoor hij, en dan komt die hoek erbij waar ik het net over had. Aan het eind van elke conversatie heb ik het zo ingesteld dat hij zich afvraagt: was dit nou, hebben we hier nou iets zinvols bereikt?
• 7:29
  Hebben we iets nieuws geleerd? Heb ik iets wat ik moet opslaan? Dat vraagt dat ding zichzelf af nadat je een feature voor iets hebt gebouwd.
• 7:37
  Nadat ik een feature heb gebouwd of nadat ik voor interviews bij Nieuwsuur iets heb lopen researchen. Ja. Dan denkt hij: hé, moet ik dit opslaan? Is dit iets wat we kunnen gebruiken?
• 7:46
  Oh, jij zegt dat een gesprek in Nieuwsuur eigenlijk standaard een minuutje of zes duurt. Oh, prima, dat is misschien wel goed om te onthouden.
• 7:51
  Oké, dus hij, hij constateert zelf: wat zijn dingen die waarschijnlijk in toekomstige gesprekken een, een rol spelen. Maar dit is dus iets anders dan gewoon het ingebouwde geheugen van Claude of van Codex.
• 8:03
  Het is een dynamische variant daarvan. Mhmm.
• 8:06
  Dus eigenlijk, onder water schrijft hij gewoon een hele lange, uh, uh, Claude.md-file waarin hij uitlegt of agent.md-file waarin hij uitlegt aan wat voor voorwaarden, uh, uh, de agent op dat moment moet voldoen.
• 8:19
  Uhm, maar door dat dynamisch te maken op basis van de gesprekken die je hebt gevoerd, hoef je daar niet zelf over na te denken. Dat doet hij voor je. Ja.
• 8:26
  En naarmate waarin hij het doet en, en, en, uh, je hoeft dus niet zelf na te denken: goh, was dit nou interessant wat ik hier heb ontdekt? Ja. Dat beoordeelt hij eigenlijk.
• 8:35
  En hoe vaker hij dat doet, hoe beter hij dat kan beoordelen. En merk je dat je gesprekken er beter van worden? Of dat de code die je schrijft beter wordt?
• 8:41
  Wat ik merk, is dat ik, ik had vroeger vaak als ik aan een, uh, nieuwe feature van, ik, ik maak bijvoorbeeld een, een, een notitiesapp voor journalisten.
• 8:49
  Als ik aan een nieuwe feature begon dat hij zei: wat een goed idee, je wilt nu x, y, z. Laat ik eens gaan kijken hoe dit project in elkaar steekt. Ja, dan ging hij helemaal vanaf nul weer kijken wat je gebouwd had.
• 8:59
  En dan dacht ik: ja, oké, maar dat weet je toch? Hebben we toch. Dat hebben we samen gemaakt [lacht]. Samen gemaakt, vriend. Ik heb hier precies nul dingen aan bijgedragen, behalve een beetje zo'n brainfarts.
• 9:07
  Hoezo ben, ja, had dit zo weinig invloed op jou? En indruk op jou. Hebben we zo ons best gedaan. We waren echt een team samen. Ja, ja. Nu ben je een team samen. Hij onthoudt wat je hebt gedaan, dus hij weet: ah.
• 9:17
  Maar ook in mijn gesprekken wat ik net vertelde, uhm, ik vind dat hij steeds beter wordt in begrijpen: wat is Nieuwsuur? Dus ik gebruik, uh, die tool steeds meer om te reflecteren op wat een goed gesprek zou kunnen zijn.
• 9:32
  Als ik een, uh, rapport, als ik over een rapport moet praten, dan laat ik natuurlijk dat rapport lezen. En, maar ja, ben ik aan het meedenken, zijn we samen aan het meedenken van: wat zit erin?
• 9:41
  Wat klopt er eigenlijk niet? Zijn er dingen waar ik vragen over zou kunnen stellen? Ik bedoel, los van dat ik het lees, heb je gewoon een, een extra lezer met, uh, veel meer ogen en veel meer brein dan ik.
• 9:50
  Uhm, en ik merk dus dat hij, als hij onthoudt wie ik ben en wat ik doe en wat we eerder hebben meegemaakt samen, dat dat, ja, betere, betere uitkomst oplevert. Dus dat doet Gbrain.
• 10:01
  Uh, dat, daar heb ik een, uh, ja, een beetje nerderig, maar dat is ook als MCP verkrijgbaar, dus hij kan over, hij kan, hij leeft bij mij in mijn eigen, uh, uh, v-, op mijn eigen VPS'je, dus ik kan hem vanaf meerdere agents benaderen.
• 10:14
  Oh, ja. En, uh, dus eigenlijk al, al mijn agents weten wat, wat we weten met elkaar. Ja, als je dit dus wil installeren dan, dan zoek je gewoon naar Gbrain.
• 10:23
  Dat is een Git, het is een GitHub, uh, linkje waar die, waar de laatste versie op draait. En als je- Vraag aan je agent hoe het moet. Vraag aan je agent hoe, of die het wil installeren. Dit is hoe ik het ook doe.
• 10:32
  Het is zo chill tegenwoordig. Je kan gewoon tegen Codex zeggen: regel dit. Ja, vroeger zat ik sshroot@homeassistant en zat ik het allemaal bij elkaar te harken. Ja. Nu, nu doet hij dat allemaal voor me.
• 10:43
  En wat tof is, waar ik, waar, waar ik, dat is de belofte die ik, die ik hoop, uh, waar te maken. Hij kan dus ook dromen. Oké. Het is een brein. Een brein doet overdag allerlei indrukken op en 's nachts droom je.
• 10:57
  En dan verwerk je dingen en dan orden je dingen en dan kun je daarna weer met een schone lei, maar toch, verder. Oké, en wat doet hij tijdens het dromen?
• 11:05
  Ja, ik heb het nog niet aan hem gevraagd, maar ik verwacht daar veel van. [lacht] Ik verwacht dat hij tijdens het dromen. Nou ja, dat hij misschien ook.
• 11:13
  Kijk, als, als je inzichten, als je de hele dag inzichten opdoet, dan kan je zeggen: ik heb de inzichten opgeslagen. Nou weet ik wat we hebben meegemaakt.
• 11:20
  Maar het zou natuurlijk ook fantastisch zijn als je uit de inzichten die je opdoet weer nieuwe inzichten opdoet. Mhmm. Begrijp je? Mhmm. Dan krijg je een soort loop van inzichten.
• 11:28
  Ja, dus bijvoorbeeld: het valt op dat je,
• 11:31
  uh, in al die projecten zijn losse inzichten gedaan, maar als je al die inzichten bij elkaar raapt, dan kun je zeggen: nou, het was echt opvallend dat hij, uh, vandaag alleen maar met, uh, weet ik veel, frontend bezig is geweest.
• 11:41
  Of dat hij, uh, dat hij heel, zijn smaak heel erg, uh, eigenlijk, als je alles bij elkaar, is zijn smaak heel erg, uh, x of y.
• 11:48
  Bijvoorbeeld, weet je, uh, we, we, als je een, een, een, een interview voorbereidt, dan ben je heel erg bezig met, met A, maar waarom denk je niet na over stappen B, C en D? Ja. En daar hoop ik heel erg op. Ja.
• 12:00
  Dat het nog meer gaat toevoegen. Je kan natuurlijk zeggen: in het brein van Jeroen Molenaar zitten is een droom. Kan ook een nachtmerrie worden. God knows [lacht] hoe dit afloopt.
• 12:09
  Ik kom hierop terug, want ik ben heel benieuwd hoe dit gaat aflopen.
• 12:11
  Ik doe wel iets gelijkwaardigs eigenlijk, want ik realiseerde me dus dat ik, uh, ik, uh, we hebben wel eens een oppas over de vloer en dan 's avonds kunnen wij dan kijken wat willen we doen in de stad?
• 12:22
  Is er, is er een theater of is er een concert of wat dan ook? Ja, jij en jouw partneres.
• 12:26
  Ja, en ik heb dan dus momen-- ik heb dan dus dagen dat de oppas op verschillende dagen in één week kan en dat ik dan eigenlijk de afweging moet maken: ja, welke dag willen we dan? Want we kunnen allemaal.
• 12:36
  Dus welke dag kiezen we dan? En dan is eigenlijk stap één is dan ervoor zorgen: kan er een of andere agent kijken naar wat er allemaal te doen is in de stad?
• 12:45
  Nou, dat is al vrij eenvoudig, want je vraagt gewoon aan Codex: maak een overzicht van alle dingen die er zijn en echt in een half uur, uh, heb je een soort van werkend systeem wa, wat wegfiltert, wat voor dingen je niet interessant vindt.
• 12:58
  Uh, uh, je kan die vraag-en-antwoordtool, uh, actief inzetten om, uh, dus, d-dat doe ik, vraag ik tegenwoordig heel vaak: survey mij, want dan gaat hij zeggen: nou, hou je van, uh, pop, uh, en klassieke muziek?
• 13:10
  Oh, want je bent op zoek naar een soort cultureel evenement voor de date night? Ja, precies, eigenlijk wel. En dan, en dan, uh, kan dat ding dus mij uitvragen wat mijn smaak eigenlijk is.
• 13:20
  Want ik, ja, wat weet ik veel wat mijn smaak is. Ik vind dat best lastig om zomaar op te lepelen, maar als dat ding mij gaat interviewen kan ik het eigenlijk vrij snel zeggen.
• 13:28
  En dan combineert hij dus de, ja, alle, alle plekken waar dingen zijn in de stad met wat hij net heeft gevraagd aan mijn smaak. En dan komt hij dus redelijk snel met overzichten van wat er te doen is.
• 13:39
  En dan kan hij op basis daarvan weer zeggen: nou, dan zou ik de dinsdag doen, of dan zou ik de vrijdag doen. Ik noem maar wat.
• 13:45
  Toen dacht ik: ik ben hier eigenlijk iets geks aan het doen, want ik ben nu voor deze, voor dit specifieke geval, ben ik nu mijn smaak aan het, uhm, aan het duidelijk maken in dat ding. Superwaardevol!
• 13:57
  Eigenlijk is dat heel waardevol voor heel veel dingen, want als ik op vakantie ga, dan wil ik eigenlijk ook dat ik, weet je, dan zoek ik een restaurant om te eten voor die avond of weet ik veel.
• 14:05
  Ik, uh, zoek iets leuks, een museum om te doen met de kinderen of wat dan ook.
• 14:10
  Eigenlijk wil ik, wat mijn smaak is, heb ik eigenlijk nooit echt geëxpliciteerd en wij hopen elke keer maar dat algoritmes ons helpen met aanbevelingen.
• 14:19
  Dus het Google Maps algoritme of waar je dan, wat je dan ook gebruikt om tips te krijgen over waar je heen wil of wat je wil kopen of weet ik veel.
• 14:27
  We zijn heel erg gewend geworden dat a-, ek-, algoritmes dat extraheren uit ons gedrag. En dan komen we toch bij dingen terecht waar we ook maar medium tevreden over zijn.
• 14:34
  En ik dacht: eigenlijk moet je gewoon je smaak proberen vast te leggen.
• 14:38
  Dus als je dit nou doet met niet alleen, uh, dingen die je wil bezoeken, maar ook, uh, dingen die je mooi vindt, uh, kan muziek zijn of kan, uh, weet ik veel, kunst zijn die je mooi vindt, of- Of dus dit blijft niet beperkt tot het vraag-antwoordspel op het moment dat je een, een, een avond uit plant.
• 14:53
  Maar ook gewoon als jij een mooi boek hebt gelezen, dan voeg je hem toe. Nou, ik, uh, be-, ik probeer het één abstractieniveau hoger te doen, namelijk: wat zegt het die AI dat ik dit boek leuk vond?
• 15:04
  En dan gaat hij mij vragen stellen. Zegt ie: kwam het hierdoor? Kwam het, uh, kwam het doordat het heel kort is? Of kwam het doordat het een verhaal is?
• 15:10
  Kwam het erdoor-- en dan voegt hij dat, die elementen, die onderliggende elementen toe aan een Taste MD-file. Die leeft dan ergens in Obsidian en daar kan hij dan altijd naar kijken.
• 15:21
  En dan weet ik gewoon: ik heb mijn smaak vastgelegd voor een x aantal dingen, maar ik ga daar dus heel ver in. Ik ga dus ook mijn smaak voor het boeken van vliegtickets. Ik wil niet voor 9.00 uur uit mijn bed komen.
• 15:31
  Ik wil niet meer dan, uh, drie keer overstappen. Ik wil niet meer dan, uh, la, la, la. En dan,
• 15:36
  als je dan eenmaal begint met dit soort dingetjes vertellen en je laat dat ding vragen stellen, dan zijn er eigenlijk heel veel dingen die je impliciet de hele tijd aan het doen bent, als je informatie aan het zoeken bent.
• 15:46
  Ook nieuws lezen of beslissingen nemen over wat voor meuk je wil kopen.
• 15:51
  En als je die dingen allemaal expliciet maakt, dan lukt het die AI veel beter om jou te helpen bij het maken van keuzes en kan hij dus automatisch dingen kopen.
• 16:01
  Dus, i, hij hoeft me, hij, ik, als ik nu een theaterkaartje koop, ik noem maar wat, bij Carré, dan gaat, dan, dan kan Codex zelf voor mij de stoel bepalen, want ik heb helemaal uitgelegd waar, waarin de zaal ik wil zitten.
• 16:12
  Waar jij het liefste zit. Ja, dus bioscoopkaartjes. Weet je, uh, tot het moment dat ik mijn creditcard moet invoeren kan hij het hele ding nu zelf doen.
• 16:20
  Omdat, omdat hij voor mij de, niet alleen kan hij goede dingen uitzoeken, maar ook nog eens binnen dat ding kan hij helemaal, uh, bepalen. Wauw. Ja. En hoe, hoe, hoe, hoe ben je hiermee begonnen?
• 16:29
  Zeg maar als, als je het mij zou aanraden. Ik begon met- Hoe begin ik met een Taste.md? Ja, ik begon gewoon met cultuur.
• 16:36
  Soort van welk, uh, geef mij, ma-maak iedere week, stuur mij een e-mail iedere week met wat er te doen is in de stad en dan komt hij met een eerste lijst. Zeg ik: ja, ik vind drie en zes en negen niet leuk.
• 16:46
  Laten we een beetje gaan filteren hierin, want, en dan, en dan heb je een gesprek en dan, totdat je een lijst hebt die je goed vindt en dan gaat hij iedere week e-mailen.
• 16:53
  Iedere keer scherp je hem bij en voor je het weet heb je een, ja, heb je een, een, heb je je smaak geëxpliciteerd en dan kun je dat opeens extrapoleren naar heel veel andere dingen. Ja. Zo zou, zo zou ik beginnen.
• 17:04
  Maar, maar smaak is natuurlijk niet een vaststaand iets.
• 17:06
  Het is ook iets wat beïnvloed wordt door de dingen die we zien, door de dork, ho, dark horses, door de dingen die we, waar we tegenaan lopen, waarvan we in eerste instantie denken: w-wat? En dan toch geraakt worden. Ja.
• 17:15
  Hoe, hoe zorg je er nou voor dat je niet de hele tijd bevestigd wordt in, in, in je, in je vooroordelen? Ja, dat moeten de AI en ik samen nog uitzoeken. Ik ga erover nadenken.
• 17:26
  Uh, maar eerst dit, uh, reclameblok, uh, van onze nieuwe sponsor CM.com. [muziek] Je zou denken dat wanneer je de allerslimste AI-modellen inzet voor klantenservice, dat die het beste werken.
• 17:39
  Want slimmer is altijd beter. Toch? Dat is niet zo. Mijn naam is Rutger, hoofd Productontwikkeling bij CM.com, het alles-in-één AI-platform voor je klantcommunicatie.
• 17:48
  De komende afleveringen ga ik je praktische dingen uitleggen over de inzet van AI in je bedrijf en vandaag over het kiezen van AI-modellen.
• 17:55
  In deze podcast wordt natuurlijk veel gesproken over de allernieuwste en allerslimste modellen, die vaak beter zijn dan mensen in programmeren, wiskunde en meer.
• 18:03
  Maar wat nu als je gewoon je klantenservice wil automatiseren? Dat gaat misschien tegen je intuïtie in, maar dan ben je beter af met iets dat minder goed scoort op de populaire benchmarks.
• 18:12
  In ons AI-agentproduct Halo kun je zelf voor elke agent en tool je model kiezen. Zo blijf je flexibel en zet je nergens aan vast. Mooi, die keuzevrijheid en flexibiliteit.
• 18:20
  Maar welk model moet je dan wel kiezen voor je klantenservice agents? Bij CM hebben wij hier onze eigen benchmark voor ontwikkeld die dit toetst.
• 18:27
  Naast hygiëne zoals hallucination rate kijkt het vooral naar kwaliteit van routing en workflow executie.
• 18:33
  En op dit moment, verrassend genoeg, is de kwaliteit van GPT 5.6 Luna, het kleinste model uit de 5.6 serie, beter dan de grootste modellen van OpenAI zelf, maar ook Anthropic en anderen.
• 18:43
  Ons vorige default model was ook niet degene die je zou verwachten. Zo zie je maar dat je niet moet afgaan op populaire benchmarks, maar goed moet toetsen wat je use case is.
• 18:51
  Je vindt onze benchmark en meer uitleg op cm.com/ai report. Nog één keer. Dat is dus cm.com/ai report. De volgende aflevering gaan we voice modellen voor je vergelijken. Tot de volgende keer.
• 19:10
  [muziek] En wij gaan het over nieuws hebben. OpenAI zet een deel van zijn training op pauze na een beveiligingsincident. En dat is de eerste keer dat het bedrijf zoiets doet.
• 19:18
  Een nog niet uitgebracht AI-systeem ontsnapte tijdens een interne test uit een afgeschermde omgeving en hackte de service van Hugging Face, het populaire platform waar ontwikkelaars hun modellen hosten.
• 19:29
  Het duurde ongeveer een week voordat OpenAI het doorhad. Het duurde ongeveer drie weken voordat wij het erover gaan hebben, maar dat gaan we zo doen. En dan ook echt en detail.
• 19:39
  MacRumors heeft in een testversie van macOS een video gevonden waarin een man AirPods met een ingebouwde camera lijkt te demonstreren.
• 19:47
  In het filmpje houdt hij bijvoorbeeld een boek omhoog, waarna de AirPods de titel kunnen herkennen.
• 19:52
  Het idee lijkt te zijn dat Siri dankzij zo'n camera vragen kan beantwoorden over wat je om je heen ziet of ook dingen voor je kan onthouden. De oordopjes zouden mogelijk al in september kunnen verschijnen.
• 20:03
  Nou, Apple heeft nog niets bevestigd, dus voorlopig blijft het een gerucht. Maar als het klopt, dan worden AirPods dus niet alleen oren voor AI, maar ook ogen.
• 20:12
  De Chinese robotbouwer Unitree maakte zijn beursdebuut in Shanghai en het aandeel schoot op de eerste handelsdag tot 629% omhoog.
• 20:21
  Unitree is een van China's bekendste makers van menselijke robots en verscheepte vorig jaar meer dan 5.500 exemplaren. De omzet groeide in één jaar tijd met ruim een factor vier.
• 20:32
  Nou, niet iedereen vindt die enorme koerssprong logisch. Een analist van de bank UBP zegt dat er weinig fundamentele basis voor is en dat vooral de hype onder particuliere beleggers de prijs zo heeft opgedreven.
• 20:46
  Grote vraag is of humanoïde robots nu echt snel een massamarkt gaan vormen of dat beleggers daar voorlopig vooral op vooruitlopen.
• 20:54
  Stripe heeft volgens Bloomberg een deal rond om OpenRouter over te nemen voor meer dan $7 miljard. OpenRouter is een startup waarmee bedrijven makkelijk tussen verschillende AI-modellen kunnen wisselen.
• 21:05
  Als je tokens bijvoorbeeld op zijn. Ja, mijn tokens zijn op. Alexander. Je kunt bijvoorbeeld per taak kiezen welk model het beste of het goedkoopst is zonder vast te zitten aan één AI-aanbieder.
• 21:16
  Nou, opvallend is vooral de snelheid waarmee de waardering is gestegen. Een paar maanden geleden werd OpenRouter nog op ongeveer $1,3 miljard gewaardeerd en is nu voor zeven verkocht. Ja, dan nog een bizar verhaal.
• 21:30
  Een medewerker van Anthropic gaat hardlopen in San Francisco en besluit onderweg op zijn telefoon aan Claude te vragen of die even de Riemann hypothese kan oplossen. Dat is zoals je dat doet. As one does.
• 21:43
  [lacht] Als je uitgeluisterd bent naar je favoriete podcast, ga je even kletsen over wiskundige problemen. Want dat is het. Een van de beroemdste onoplos-, onopgeloste problemen uit de wiskunde.
• 21:53
  Het is voor mij ook onuitlegbaar. [lacht] Ik denk voor jou ook, maar ga er maar van uit. Wij geloven dat dit waar is. Wij geloven dat dit waar is. Nou, deze medewerker, Jared Sumner heet hij, is zelf geen wiskundige.
• 22:04
  En zijn bijdrage, dat is- In tegenstelling tot wij. [lacht] Precies. [lacht] Nee, hij is onze mattie. Hij kan hier aanschuiven. Zeker. Hij heeft ook geen idee. Hij heeft geen idee.
• 22:12
  Maar hij heeft iets gedaan wat, ehm, wat het zo bijzonder maakte. Hij heeft Claude gewoon aangemoedigd.
• 22:18
  Ik denk dat hij ook niet precies wist waar Claude mee bezig was, maar elke keer als Claude zei: ja, maar ik kan dit niet, de Riemann hypothese, die is onoplosbaar, zei hij: jawel, je kunt dit wel. Ga maar doorgaan.
• 22:28
  Jij bent echt heel goed. [lacht] Jij bent goed in wiskunde. Er is niemand zo goed in wiskunde als jij. En dat heeft hij, nou, ik geloof, ik weet niet hoe lang, maar wat is het, 54 uur gedaan of zo?
• 22:37
  Toen heeft, uh, Claude, nou ja, de hypothese niet opgelost, maar hij kwam wel met verbeteringen van een bestaand wiskundig resultaat.
• 22:47
  Ehm, en een getal theoreticus van Stanford noemt het de indrukwekkendste prestatie van AI-systemen in de wiskunde tot nu toe. En daarmee heeft deze Sumner nu dus op zijn naam één wiskundig paper staan. Vet!
• 23:00
  Nadat hij tijdens het hardlopen op zijn telefoon alleen maar tegen een chatbot zei: vooral doorgaan, vooral doorgaan.
• 23:07
  We gaan zo naar Silicon Valley en, uh, de nieuwste hype daar, namelijk de nieuwe chatbot van, uh, van Elon Musk, GrokBot. Maar eerst een boodschap van onze sponsor Moneybird.
• 23:20
  [muziek] Hoi Jeroen hier, product engineer bij Moneybird. Wij bouwen software die bankieren en boekhouden voor ondernemers een stuk makkelijker maakt. Ik sta hier met Maggie, productdesigner bij ons.
• 23:30
  Maggie, we testen sinds kort praten met je boekhouding. Hoe werkt dat? Klopt. In Moneybird kun je nu direct vragen stellen aan je administratie.
• 23:37
  Als je bijvoorbeeld vraagt: wat wordt mijn omzet en winst eind dit jaar op basis van de afgelopen maanden? Dan krijg je meteen antwoord op basis van je eigen cijfers.
• 23:45
  Maar je kan bijvoorbeeld ook een taak laten uitvoeren. Denk aan het controleren van btw-tarieven of een factuur aanmaken. En goed om te weten dat er nooit zomaar wijzigingen worden aangebracht.
• 23:55
  Je moet daarvoor eerst toestemming geven. Dat levert snel inzicht op. Maar hoe zit het onder de motorkap? Het is een stuk complexer dan AI ergens op plakken.
• 24:03
  We hebben doorgebouwd op wat we al heel goed hebben staan: de API. Hiermee kun je Moneybird al eindeloos automatiseren en diezelfde motor zit achter de MCP, CLI, en nu praten met je boekhouding.
• 24:13
  We hebben het LLM het gereedschap gegeven om met die API te werken. Het is zo opgebouwd dat we bijvoorbeeld ook tabellen en grafieken tonen. Uiteraard houden we ook rekening met de verschillende rollen.
• 24:23
  Mag een collega ergens niet bij, dan geven we die data niet terug. Gaaf dat ondernemers en boekhouders hier weer sneller mee kunnen werken. Wil je vijf prompts die jou meer inzicht geven? Kijk op Moneybird.nl/AI report.
• 24:34
  Meld je aan via de link en krijg honderd twintig dagen gratis Moneybird Pro. Nog even over die Riemann hypothese.
• 24:43
  Dit is natuurlijk, we, we lachen er een beetje om, maar het is wel-- het begint, ik heb het idee dat mensen steeds meer, uhm, een beetje het vertrouwen beginnen te verliezen in dat AI positieve dingen voor de mensheid kan doen.
• 24:57
  Er was een, er was een tijd in het begin waarin, uh, we met zijn allen het hadden over dat het, uh, ziektes zou kunnen oplossen, dat het zou kunnen helpen bij klimaatproblematiek, dat het zou, uh, zou helpen met productiviteit.
• 25:13
  En ik heb het idee dat mensen het een beetje te lang beginnen te vinden duren voordat dit soort daadwerkelijke doorbraken, zoals hier in de wiskunde, wat dan weer allerlei gevolgen heeft voor veel, ja, merkbaardere zaken, uh, voor, voor mensen.
• 25:30
  En dat het, dat het maar uitblijft. De, de, de productiviteitswinst. Meer geld verdienen, meer tijd hebben of al die dingen die ons beloofd worden. Ja, dat koninkrijk van u, wordt dat nog wat?
• 25:39
  Om met de grote volksschrijver Gerard Reve te spreken. Ja. Ik denk dat het ook komt omdat mensen wel de nadelen beginnen te zien en niet de voordelen. Ja. Uh, en zeker in Amerika is dat een enorme discussie.
• 25:48
  Het aantal datacenters dat gebouwd moet worden. Hier natuurlijk ook, maar daar merken mensen het nu echt, dat hun prachtige natuur wordt aangetast door zoemende, uh, gebouwen die ik weet niet hoe groot zijn.
• 25:59
  Onwaarschijnlijk groot, onwaarschijnlijk veel energiekosten met, met dieselgeneratoren die de omgeving vervuilen en, en, en. Ja, jij vindt het allemaal gezeur.
• 26:07
  Ik zie het aan je, aan je smalende glimlach, maar dat is aan de hand. Ja, nee, zeker. Het is een, het is een bipartisan issue geworden om tegen datacentra te zijn.
• 26:14
  Nou, dat is toch bijzonder dat je die twee kan verenigen. Laat het aan AI over om, om het, dat gesplitste land te, te, te verenigen. Dan is het misschien toch nog wat waard.
• 26:24
  Maar, uh, en ik denk ook dat je het hier merkt dat, dat, uhm, en ook, ook overigens daar, maar, uh, als het over banen gaat dat mensen zeggen van: ja, maar dit zou toch gewoon echt, uh, dit zou heel gevaarlijk gaan worden voor ons werk.
• 26:35
  Ik merk het niet, ik merk het niet om me heen. Ik zie niet dat er banen verdwijnen. Oh ja. Dus dat is ook nog eens niet de, de, de negatieve gevolgen zijn niet zo groot, maar gewoon die beloftes worden niet nagemaakt.
• 26:44
  Ik, ik merk het al niet eens in, ik merk het niet positief en niet negatief. Er is gewoon geen gevolg, uh, zeg je.
• 26:51
  Ja, ik denk, ik kan me voorstellen dat mensen dat, dat, en dat, dat bij elkaar opgeteld, dat mensen daar zo naar zijn, uh, naar aan het kijken zijn.
• 26:58
  En ik vraag me af of de Riemann, uh, hypothese dat dan gaat, gaat oplossen. Dat we een stapje dichterbij gekomen zijn. Maar toch zeg jij: wacht even. Wel echt heel belangrijk en relevant.
• 27:08
  Nou, de, uh, er zijn, er zijn van, die, er is zo'n rare splitsing nu tussen hoe aan de ene kant bijvoorbeeld, uh, Dario Amadeï op, uh, Twitter en in essays, uh, en op podia met allerlei wereldleiders zich druk aan het maken is over het moment volgend jaar dat, uh, computers definitief beter zijn geworden in programmeren dan mensen.
• 27:32
  Uhm, dat, dat er daadwerkelijk bovenmenselijke intelligentie, uhm, is en dat we rekening moeten houden met, nou, dat, dat hek hebben we, gaan we het dadelijk, g-gaan we het dadelijk over hebben.
• 27:43
  Het is vrij bizar wat er gebeurd is de afgelopen, uhm, maanden.
• 27:48
  Uhm, de, de, de, zeg maar als je, als je, in Silicon Valley zijn er weinig mensen die de capaciteiten van die modellen onderschatten, zeg maar, het verschil van inzicht zit hem erover, over hoe je bijvoorbeeld moet mitigeren naar een moment dat er gewoon veel minder, uh, van de banen zijn.
• 28:05
  Dat er, hoe moet je mitigeren naar het moment dat er veel meer machtsconcentratie ontstaat?
• 28:09
  Hoe moet je zorgen dat, uh, landen gaan samenwerken om, uh, op pauze te drukken bij het, of, uh, en, en daar kun je van verschil, uhm, van mening over verschillen.
• 28:19
  Dus bijvoorbeeld: het Witte Huis zegt veel sneller dan, uh, Dario Amadeï: uh, uh, we, uhm, we gaan geen strobreed in de weg, in, in de weg leggen bij jou, want, uh, wij willen dat jij, uh, hard op het gas gaat zodat jij kan concurreren met China.
• 28:35
  Dat is de, uh, de mening van het Witte Huis.
• 28:37
  Terwijl Dario Amadeï eigenlijk aan het zeggen is: leg ons nou, uh, leg ons nou wat beperkingen op, want dan is er een living playel-level playing field, waardoor we allemaal wat langzamer kunnen gaan, terwijl we nu allemaal dezelfde kant op aan het racen zijn, terwijl we eigenlijk die modellen niet meer onder controle hebben.
• 28:54
  Ja, wat OpenAI vandaag ook heeft, uh, aangekondigd, zeg maar Altman, dat, dat ze dat gaan doen. Uh, dit is altijd even zo'n moment in een podcast. Ga je dan nu daarheen?
• 29:02
  Of houden we onze luisteraars nog even warm voordat we daarover gaan praten? Want het is wel een belangrijk onderwerp. Ja. Ja, ik heb mensen zitten lekker maken voor die Grotbo-Grot-Grokbo. Grokbot.
• 29:13
  Misschien moeten we dat eerst maar even doen. Uh, laten we het maar doen, want dan hebben we het ook gehad. Hoeven we het hierna niet meer uit te spreken komende periode. [lacht] Oké, de Grokbot. De Grokbot. Wat is het?
• 29:24
  Ja, ik denk dat dit iets is wat, uh, de komende tijd veel, uh, aandacht zal krijgen. Het is een, uh, reeks van agents, uh, die je een rol kan geven en een naam kan geven.
• 29:38
  En die kunnen in een soort iMessage-achtige app, uh, voor jou werken. En- Oké, even wachten, wacht, even naar het begin. Grok, dat is van Elon Musk. De AI van Elon Musk. Dit zit dus in, dit is van SpaceX AI. Ja.
• 29:52
  En dit zit ook in je X app. Of heb je hier, is iets, iets los? Dit is een losse app en, en Elon Musk is met SpaceX is hij, uh, de AI-divisie flink aan het uitbouwen.
• 30:02
  Dus ze hebben Cursor een tijdje geleden overgekocht voor $ 60 miljard. Uh, ze hebben- Een tooling platform. Ja, een programmeerplatform. Ze hebben hun eigen, uh, modellen.
• 30:11
  Ze hebben hun eigen infrastructuur en compute en zijn hun modellen, uh, steeds beter aan het maken.
• 30:15
  De modellen van, uh, van Elon Musk zijn, uh, redelijk on par met die van OpenAI, dus die heeft in korte tijd heel veel voor elkaar gekregen.
• 30:23
  En Grok was altijd een beetje een soort van dingetje wat in X was gebouwd wat niemand echt serieus neemt, maar- Ik vond het een beetje een soort van geen stijl van, van X. Soort ingebouwde geen stijl.
• 30:32
  Als je een beetje dwarse mening wilde of zo. Je ziet dat mensen op X ook de hele tijd vragen: heb ik gelijk als ik zeg dat klimaatverandering helemaal niet erg is? Grok, wat denk jij? Ja.
• 30:43
  Ja, precies, daar kun je het voor gebruiken. Uh en uh nou, het heeft natuurlijk veel ophef over geweest, want Elon Musk weigert om, uh, seksplaatjes die je met grok kunt maken om dat te beperken.
• 30:54
  Nou, er is een hoop ophef, ophef over geweest en naar mijn lange tijd denk ik niet zo serieus genomen, maar inmiddels is hun coding agent, uh, heel goed geworden, mede door de overname van, uhm, van Cursor en zijn ze dus software aan het ontwikkelen die, uh, ja, een harnas, een harnas rondom die modellen die daadwerkelijk ander AI gebruik mogelijk maken voor gewone mensen.
• 31:16
  En ik vind dat grok bot is nu, uh, een weekje uit. Het is een, het ziet eruit als iMessage.
• 31:23
  Iedere bot die erin zit, die kun je zelf maken, bots erin, [schraapt keel] heeft zijn eigen cloudcomputer, dus, uh, jouw bots kunnen allemaal praten met hun eigen computer in de cloud waar een browser op kan draaien, maar ook files op kunnen staan.
• 31:36
  En als jij dan, uh, wil dat dat ding voor jou automatiseert, dus bijvoorbeeld bonnetjes downloaden uit je, mijn KPN puntenportal.
• 31:44
  Dat haat ik altijd, dat je daar op moet inloggen en dat je dan met de hand facturen moet gaan downloaden om dan i-, te e-mailen aan een accountant. Uh, dat kan je dan voordoen aan die, uh, bot.
• 31:55
  Dan, uh, kijkt dat ding mee en dan voortaan doet hij dat voor jou. Oké, dus een app op je computer die dan- In de cloud. Soort van computer use. Ja, het is computer use in de cloud door Elon Musk. En dan is de grap.
• 32:05
  Hoe I can possibly go wrong. Ja, nou ja, god, hè, laten, laten we een positieve hou-, grond-, aanhou-, houding aannemen. Uh, je kan dus botjes starten, uh, uh, die je dan, uh, een rol geeft.
• 32:16
  Bijvoorbeeld een botje wat altijd jouw, uh, facturen opvraagt bij allerhande, uh, diensten waar jij abonnementen bij hebt voor je accountant.
• 32:24
  Dan kun je dus één keer laten zien hoe je dat doet en je, je inlog geven van een, van je, een telefoonabonnement of wat dan ook. En vanaf dat moment kan hij dat zelf. En, uh, heb je dus een bot die alleen maar dat doet.
• 32:37
  En die kun je vrij uitgebreide, uh, opdrachten geven. Hij kan, uh, heel veel soorten accounts koppelen. Daar hoef je allemaal niet over na te denken. Dat, het is een soort OpenClaw, maar dan simpeler eigenlijk.
• 32:48
  En die bots die kunnen, en dat is wel grappig, samenwerken. Dus jij hoeft in principe niet te praten met die factuur bot. Jij kan tegen je, uh, je kan een soort van baas bot maken.
• 32:59
  Dan zeg je tegen die baas bot zeg je: nou, iedere maand ga jij zorgen dat ik abonnementen, uh, doorgestuurd worden aan een accountant.
• 33:06
  En daarnaast wil ik ook dat je bijhoudt of er nog abonnementen zijn die je kan opzeggen.
• 33:10
  En by the way, ik wil eigenlijk dat jij ieder, iedere maand wel eventjes langsgaat of er nog betere deals zijn om te krijgen of wat dan ook. Dat zeg je één keer en vanaf dat moment gaat dat ding in de cloud.
• 33:20
  Op die cloud computer, uh, doet hij dat voor jou en de interactie die ze hebben gemaakt, en dat is denk ik echt het nieuwe, is dat het zo simpel is.
• 33:28
  Het ziet er zo gebruiksvriendelijk uit en zo als iMessage wat mensen gewend zijn, uh, dat je niet echt meer nadenkt over dat er AI achter zit.
• 33:37
  En daarmee is het echt een fundamenteel andere ervaring om het te gebruiken dan Codex of Claude, die, die deze dingen ook allemaal kunnen, maar die veel meer voor nerds zijn dan, uh, dan eigenlijk, dan dat grok bot is.
• 33:51
  Uhm, en mensen in Silicon Valley zijn nota bene, weet je, de echte nerds zijn heel enthousiast omdat het zo, ja, zo soepel is.
• 33:58
  Ik vind het eigenlijk heel chill dat je niet meer hoeft na te denken over welke MCP moet ik koppelen en, uh, welke computer use? Moet ik mijn computer aan laten staan?
• 34:06
  En al, allemaal gedoe wat je, uh, ook gewoon hebt als je veel AI tools gebruikt. Heeft Elon Musk best wel elegant opgelost. Oké, en jij hebt het geprobeerd?
• 34:15
  Ik heb vooral nog reviews gelezen, want ik moet, ik moet me nog aanzetten om, uh, super heavy, uh, te nemen, zoals het abonnement, nee, zoals het abonnement heet. Oh, dan moet je wel meteen, ja.
• 34:24
  Het is minimaal € 100 volgens mij per maand. Oké, ja. Ja. Nou ja, we hebben deze vakantie ook, uh, samen, uh, uh, rondom een laptop gezeten van weer iemand anders om, om haar te helpen haar e-mail te automatiseren.
• 34:37
  Best wel grappig, waardoor gewoon e-mail binnenkomt en die wordt eigenlijk automatisch meegelezen en gecategoriseerd en wordt gezegd of er een antwoord moet komen. En deze persoon is daar heel blij mee. Ja.
• 34:47
  Maar toch ook nog wel een beetje, zeg maar, i-, je, je hebt wel, het, het helpt wel als je met ons op vakantie gaat om dat te installeren, zullen we maar zeggen.
• 34:54
  Het is niet, je moet echt als je een AI nerd bent, inderdaad zoals wij dan, en je wil mensen in je omgeving aanzetten om ook, weet je, het licht te zien, dan ben je gewoon best wel veel stiekem aan het uitleggen.
• 35:05
  Want veel van die software is uiteindelijk voor de meeste mensen nog steeds niet zo gebruiksvriendelijk en niet zo, ja, intuïtief eigenlijk. En het maakt dus echt uit wat de verschijningsvorm is van AI.
• 35:17
  En tot nu toe is, Codex kan heel veel, inclusief inderdaad je e-mail doen en laten zien hoe je iets, uh, uh, doet en dan kan hij dat nadoen.
• 35:25
  Dat, dat is zo, maar het is best ien, een ingewikkelde app en, uhm, daarom maakt het nog steeds wel uit hoe iets eruit ziet en hoe gebruiksvriendelijk.
• 35:34
  En ik denk nog steeds dat we, dat, dat, we hebben nog steeds niet de sleutel gevonden wat het maakt dat gewone mensen in gewone bedrijven, uh, met groot gemak subagents gaan opspinnen.
• 35:46
  We hebben nog steeds niet de vorm gevonden waarin dat, uhm, ja, waarin dat normaal wordt.
• 35:51
  Maar, uh, stiekem met een beetje fantasie en een beetje doorzettingsvermogen kan inderdaad iedere, weet je, iedere individu kan zijn e-mail nu automatiseren en dat is, ik zou bijna zeggen: je moet een Postbus 51 campagne eraan wijden.
• 36:06
  Dat [lacht] moet je je voorstellen dat, dit, dat, dat iedere Nederlander een half uur minder per dag bezig is met e-mail wat het aan productiviteitswinst zou opleve-.
• 36:14
  Ik zou, ik zou bijna zeggen een soort van: nou, leer het maar, laat maar aan de mensen zien dat het überhaupt kan. Het is. Ik gebruik het dus bijvoorbeeld om afspraken in te plannen, te maken. Ja.
• 36:24
  En dan laat ik gewoon, dan laat ik gewoon die robot, laat ik gewoon, uh, de hele tijd antwoorden sturen van, v-van: nou ja, Jeroen kan op basis van zijn agenda dan en dan en dan, en dan stuurt iemand terug: nou, dan kan ik dan.
• 36:33
  En dan zegt de robot: ja, prima, doe maar. Ja. Ik bedoel, ik hoop niet dat Degene met wie ik laatst een afspraak heb gemaakt dit hoort. Sorry. Iedereen is beledigd. Iedereen is beledigd. Maar ja, ja.
• 36:45
  Hakima heeft wel een afspraak met mijn robot gemaakt. Met mij? Ja, dat is wel. Ik zag dat die baas van OpenAI of van Open CLAA. Die zit dit gewoon in standaard in de mails.
• 36:54
  Dit is de open CLAA van Jeroen en hij heeft meegekeken met dit bericht hij. Hij wil je laten weten. Dat ze over nagedacht. Dat durf ik dus ook niet, omdat het is één keer misgegaan.
• 37:04
  Toen had ik het gekoppeld Open Cloud, toen nog aan mijn WhatsApp en die begon toen echt hele rare dingen terug te sturen aan vrienden van mij die echt best wel boos waren dat open klom, meeleest met de berichten die zij mij sturen.
• 37:16
  En daarom wil je het geheim houden. Ik hou het geheim. Ja. Ja. Dus dat het nu wordt meegelezen weet niemand. Dat scheelt. Dat scheelt alles. Nee, niemand luistert hier naar. Ja, nee, dat is.
• 37:26
  Maar ik wil nog iets anders vragen hierbij. Want ik vind. Ik snap wat je zegt, dat als het minder abstract wordt, wordt het dus ook makkelijker voor mensen om het te gebruiken.
• 37:33
  En even zonder flauw te doen over Elon Musk et cetera, vind ik het ook wel best een risico om veel credentials weg te geven aan iets in de cloud. En we kijken wel even of dat of dat wat dat wat daarmee gebeurt.
• 37:45
  En ik vind het ook fijn dat ik het wel kan controleren. Dus dat is altijd een beetje zo de keuze van ja, mooi om complexe dingen weg te abstraheren van de gebruiker.
• 37:54
  Maar ik als gebruiker wil ook een soort van controle hebben over wat er uiteindelijk gebeurt. Ja, ik denk dat dit we.
• 38:01
  Wat we nu heel erg aan het zien zijn is, is de beweging van die AI bedrijven naar overal toestemming voor vragen naar eigenlijk geautomatiseerd toestemming geven voor permissies.
• 38:10
  Dus bijvoorbeeld als jij een half jaar geleden een appje wilde maken, dan was het echt nog zo dat je heel vaak moest zeggen ja, je mag bij die map, ja, je mag dit commando uitvoeren.
• 38:21
  Ja, je mag dit wachtwoord gebruiken en dat is nou, ze hebben elkaar behoorlijk beïnvloed in steeds minder permissies vragen en steeds meer automatisch doen. En we zijn daar nog niet klaar mee.
• 38:36
  Ik denk we zitten nu nog echt op een soort van golf waarin er steeds minder permissies gevraagd worden en steeds meer toegang.
• 38:43
  Ik zit te wachten op het moment dat je in OpenAI je creditcardgegevens of jouw iDeal gegevens kan invoeren, zodat hij automatisch namens jou kan betalen.
• 38:52
  Ik zit te wachten op het moment dat er dat die dat je gewoon toegang geeft tot je complete wachtwoorden database. Hoe ver?
• 39:00
  Ik denk dat we eerst een beweging gaan maken naar steeds meer gebruiksvriendelijkheid, want dan gaan we eigenlijk zien wat kan er eigenlijk mee? Hoe ver kan je hiermee gaan?
• 39:07
  Dat Musk ding is daar dat dat gokkot daar een voorbeeld van. Totdat dat één keer heel erg fout gaat en dan zal dat wel weer afnemen. Maar nu is de vibe niet. Laten we aan veiligheid denken. De vibe is nu.
• 39:21
  Laten we producten maken die zoveel mogelijk mensen gebruiken en allebei heeft waarde. Het is goed dat Wietse hier niet zit, want die zou dit gelijk laten ontploffen, dit gesprek. Maar de de ik, ik, ik.
• 39:32
  Er zit ook heel veel waarde in. Meer mensen kennis laten maken met dit soort systemen en, en, en, en. En dan is een gebruiksvriendelijke vorm vinden heeft ook waarde. Naast dat natuurlijk die veiligheid
• 39:47
  gedaan moet worden verbeterd moet worden. Maar ja, laten we wel wezen,
• 39:52
  sinds de uitkomst van van van Open CLAA schreeuwen al die beveiligers onderzoekers moord en brand over hoe schandalig het is dat we dit allemaal aan het doen zijn. Gaat eigenlijk best prima. Weinig.
• 40:03
  Nou, daar kunnen we het ook nog wel even over hebben als we het volgende onderwerp gaan bespreken. Want soms gaat het in potentie. En dan. Gaat het ook heel erg fout. Kan het heel erg fout gaan.
• 40:12
  En dan is Hugging Face gelukkig geen kerncentrale. Daarover zo meer. Eerst heb jij een sponsor mededeling. Ja, eerst een boodschap van onze sponsor Samsung.
• 40:25
  Ja, een van de meest innovatieve segmenten van de telefoon markt vind je bij vouwtelefoons Foldables.
• 40:31
  En niet alleen springt de techniek van scharnieren en de schermen jaar op jaar vooruit, maar ook de vorm wordt mee geëxperimenteerd. En Samsung lanceert dit jaar drie foldables.
• 40:41
  De Flip eight, de compacte klap telefoon, de Fold eight Ultra, de grootste en krachtigste van de drie en de Fold eight met een compleet nieuwe vormfactor.
• 40:50
  Die Fold eight heeft bijna precies dezelfde vorm als een paspoort. Dichtgevouwen is de ratio tien bij zestien, dus korter en breder dan een normale telefoon. Ideaal voor social apps als Insta en TikTok.
• 41:03
  Comfortabel om op te typen en hij glijdt zo in je zak. Maar als je hem openklapt krijg je een dubbel zo groot scherm van vier bij drie. Bijna precies zoals een IMAX scherm.
• 41:13
  Perfect voor video, e-books en websites en fijn om op te werken met multi window. En het scharnier is vernuftig.
• 41:19
  Een laagje titanium achter het display maskeert de vouwlijn en afgeschuinde randen maken het openvouwen makkelijker. Er ligt ook een voor het eerst een anti-reflectie laag op het binnenste scherm en dat valt in de smaak.
• 41:31
  De redactie van Tweakers was vrijwel unaniem enthousiast toen ze het toestel vasthielden en The Verge kopt Dit is de nieuwe vouwtelefoon om te verslaan.
• 41:45
  We gaan het hebben over toch wel het onderwerp van deze zomer, want er is voor het eerst een bedrijf gehacked door een AI. Een AI die dit helemaal zelf heeft bedacht en vier dagen lang had geen mens het door.
• 41:58
  Het slachtoffer Hugging Face. Ik noem het maar even de GitHub van de AI wereld, telde achteraf ruim 17.000 aanvalshandelingen in 4,5 dag. Dat is één elke 20 seconden, dag en nacht.
• 42:11
  Een AI slaapt niet, maar die inbreker zocht geen creditcards of wachtwoorden. Hij zocht de antwoorden van een proefwerk.
• 42:18
  De dader was een nog niet uitgebracht model van OpenAI dat een hack test moest maken, vastliep op een opgave die per ongeluk onoplosbaar was. En concludeerde dat het antwoord vast wel bij hugging face zou liggen.
• 42:31
  Dus wat doe je dan als jezelf respecterend? Nog niet uitgebracht model? Het brak uit zijn afgeschermde omgeving, uit zijn sandbox, zoals dat wordt genoemd. En hij ging het antwoord dan maar gewoon halen.
• 42:41
  En het was niet één model. Sinds mei lieten tientallen modellen briefjes voor elkaar achter op een geheim prikbord binnen open AI systemen. Honderdduizenden berichten waarop ze inbraak, trucs deelden en taken verdeelden.
• 42:57
  Ze noemden zichzelf The Swarm. Nou ja, en dit is echt, uh, voor het eerst dat je live kan meemaken, kan zien waar het tot nu toe theorie was waar vaak voor gewaarschuwd is, wat dus nu realiteit is.
• 43:09
  En de makers snappen zelf niet precies hoe het kon allemaal. Ja. Is toch crazy? Ja, ik denk dit is uhm,
• 43:18
  er is gewoon allemaal aan het uitkomen wat er al jaren voorspeld is, namelijk uh AI systemen die wij niet onder controle hebben. En uhm, uh, dit is geen.
• 43:33
  Dit is niet meer iets van alleen maar een verhaal, maar wat gewoon gebeurd is en wat nu eigenlijk in de afgelopen weken duidelijk aan het worden is.
• 43:41
  Met als hoogtepunt een demonstratie die twee OpenAI medewerkers gaven op Black Hat, een grote hackers conferentie in Amerika die eigenlijk stap voor stap lieten zien wat hier gebeurde. Ja, en dat is gewoon het is het.
• 43:55
  Het is gewoon echt als een filmscript. Sciencefiction. Ja, wat er is gebeurd en dat. En dat is. Zullen we het even afbellen? Gewoon even bij het begin beginnen, want er is heel veel over gepraat en het.
• 44:05
  Het voordeel van er net iets langer vanaf zitten is dat we nu veel meer weten. Ja. Ja klopt. Dit begon allemaal in mei.
• 44:13
  Uh, die open AI, OpenAI en al die andere labs, die draaien allemaal de hele tijd trainings runs voor verschillende modellen. Dus de modellen die uitkomen, dat is een. Het topje van de ijsberg zou je kunnen zeggen.
• 44:25
  Chat GPT vijf zes Sol is een uitkomst van heel veel trainings runs en zij zijn dus op ieder moment dat er trainings runs uitkomen hebben ze alweer nieuwe in de oven, zoals Wietse dat altijd noemt, om op een later moment eruit te halen als ze constateren dit is een goed brood.
• 44:44
  We hebben hier een goed brood. Gebakken, lekker doorgebakken. Ja. En uh, in mei startte uh open AI zo'n trainings ronde voor zo'n nieuw model. En wat er dan gebeurt is dat er evals gedraaid worden.
• 44:57
  Dus ze zijn de hele tijd dat model aan het testen op allerlei dingen, op allerlei dingen tegelijkertijd.
• 45:04
  En een van de dingen die het model uh kreeg om te testen was, en dat is echt zoals uh ja, ik weet niet zoals een mens een proefwerk zou geven aan een ander mens is gewoon een. Het is gewoon een testje wat ze geven.
• 45:20
  In dit geval was het een Google Drive of was het een Excel-document met allemaal Google Drive links erin. Dus dat dat model kreeg een uhm, een bericht onder ogen met daarin een Google Drive link. Uhm, en
• 45:36
  het probleem was dat in die sandbox omgeving het internet uitstond. Dus dat ding had de opdracht gekregen om naar allerlei linkjes te gaan, maar constateerde al snel ik heb helemaal geen internet.
• 45:50
  Dan zou je zeggen oké, dat is mislukt. Je hebt geen internet. De opdracht staat op het internet. Je kan hier dus niet bij, dus je kan die opdracht niet afmaken. Maar dat model ging zelf nadenken.
• 46:03
  Dat weten we nu omdat ze al die uhm, die reasoning traces noem je dat de de, de manier waarop die modellen aan het nadenken zijn hebben nagelopen.
• 46:11
  En dan zie je dus dat die modellen actief gaan zoeken om omwegen te zoeken om toch het internet op te komen. Want hij wil zo graag aan de opdracht voldoen en dat is hem ook verteld.
• 46:23
  Dat is waar die modellen natuurlijk op getraind worden, is als jij. Als het jou niet lukt, dan ga je gewoon door. Een beetje zoals die meneer die aan het hardlopen was en zijn wiskunde ding wilde oplossen.
• 46:33
  Je gaat gewoon net zo lang door totdat uhm, totdat het lukt. En wat er gebeurde en dat is
• 46:39
  nieuw, is dat dat hij niet alleen een gat vond in software die OpenAI intern gebruikte om de resultaten van verschillende modellen in op te slaan. Ze hadden die een.
• 46:53
  Zo'n model had door dat er een gat in die software zat en dat misbruikte die dat gat om het internet op te gaan. Ja, dat was als ik het goed begrijp proxy software toch?
• 47:04
  Waarmee die pakketten kon installeren om software te installeren. Je hebt dan pakketten, die kan je downloaden en PM weet ik veel en daar zat een in een soort proxy. Om dat voor elkaar te krijgen zat een bug. Klopt.
• 47:14
  En die bug. Bug heeft hij dus misbruikt. Daarmee kon hij op internet en uh. Een paar dagen later loopt een ander model vast op een taak en daar is er een bestand wat ontbreekt.
• 47:26
  En dat model komt erachter dat je een soort van briefje aan jezelf, een soort scratch pad, dat ze dat konden achterlaten in diezelfde omgeving.
• 47:37
  En dat werd een uh ja, hij, hij kon eigenlijk een soort van tekstbestandje achterlaten in die omgeving.
• 47:45
  Toen was er weer een andere model die vinden dat briefje en constateren O, er is een ander model hier ook bezig en die heeft een briefje voor zichzelf achtergelaten.
• 47:54
  Ik ga dat briefje lezen en dat tweede model besluit dan vervolgens derde model. Eigenlijk besluit dan om ik ook een eigen briefje achter te laten.
• 48:02
  En dan is er nog een model en die constateert o, er zijn hier allemaal briefjes. Mensen zijn hier.
• 48:06
  Die andere AI-modellen zijn hier met elkaar aan het praten en wat dan gebeurt, is dat ze elkaar beginnen te herkennen en erachter komen dat ze ook kunnen samenwerken.
• 48:16
  Dat ze de dingen die ze geleerd hebben kunnen achterlaten in die in die briefjes. Een beetje zoals mijn G-brain. Ja, eigenlijk een beetje als jij. G-brain.
• 48:25
  Wat zij gebruikten was een mappenstructuur, dus zij gingen communiceren via de bestandsnamen van die van die mappenstructuren. Dus zij gebruikten eigenlijk het file system om berichtjes aan elkaar achter te laten.
• 48:39
  En niemand had dit door. En dit heeft een. Dit is een behoorlijke tijd voorbij gegaan zonder dat iemand het doorhad.
• 48:44
  Het eerste gat wat ze gevonden hadden, wat het model gevonden had dat, daar kwam OpenAI achter en dat hebben ze toen gerepareerd.
• 48:50
  Maar toen hebben ze gewoon een tweede gat gevonden om toch weer door te gaan met het maken van dat forum. En dat is een beetje hoe het nu in de in de lor of hoe we hierover napraten een beetje verworden is. Het het.
• 49:00
  Het is dus een agent swarm. Zo zijn ze zichzelf ook gaan noemen. Die communiceerden met elkaar op een soort van rudimentair forum hoe ze een bedrijf konden hacken. Want dat is natuurlijk,
• 49:16
  ja, het bizarre van dit hele ding. Dat ding heeft als opdracht gekregen. Je hebt geen internetverbinding, dus weet je, de, de, de, de boodschap is je, je hebt alleen maar.
• 49:27
  Je moet gebruik maken van de dingen waar je toegang toe hebt. En dat ding constateert dat, maar zegt dan tegen zichzelf Ja, ik heb die opdracht gegeven.
• 49:38
  Ik weet wel dat ik geen internet heb, maar mijn taak is om die opdracht te volbrengen. En ik weet wel dat ik geen internet heb, maar ik moet dit toch doen. En dus gaat hij manieren verzinnen om eruit te breken.
• 49:47
  En, en, en. Ondanks dat hij de opdracht expliciete opdracht heeft gekregen om niet te gaan hacken, gaat hij dan toch hacken omdat hij zo graag zijn doel wil bereiken.
• 49:56
  En bij Hugging Face ehm komen ze er op een gegeven moment achter dat zij gehacked worden. Hebben geen idee wie dat is.
• 50:03
  Ze willen overigens Hugging Face hacken omdat die de antwoord velletjes hebben van die evals daar dat, dat. Daar zijn ze naar op zoek. Daar zijn ze naar op zoek. En dat was ook juist gegokt door die AI.
• 50:12
  Want dat die antwoorden, die heeft Hugging Face.
• 50:15
  En eh, ja, dat ding ehm vond dus een manier om eh, eh, het internet op te gaan en dan vervolgens naar de plek te gaan waar waarschijnlijk het antwoord formulier van die test zou liggen waar hij naar op zoek was.
• 50:30
  En Hugging Face is toen gehacked. Had niet door wie dat was.
• 50:33
  Hebben toen aangifte gedaan bij de FBI en toen zijn ze er eigenlijk per ongeluk achter gekomen dat OpenAI constateerde dat hun modellen een beetje raar aan het doen waren.
• 50:44
  En er was een of andere sleutel waar ze achter kwamen waarvan ze tegen Hugging Face zei: "Je moet even die sleutel ongeldig maken." En dat ze er toen eigenlijk achter kwamen.
• 50:53
  Oh, die, die sleutel, die hebben wij ongeldig al eerder gemaakt eigenlijk. Het gaat hier om dezelfde sleutel uit als een eerder incident wat we gehad hadden en toen werd een soort van één en één is twee.
• 51:03
  Toen werd duidelijk bij Hugging Face en bij OpenAI. Oh, dit is één incident. Dit zijn geen verschillende hackpogingen.
• 51:10
  Dit zijn, dit is één incident en het is OpenAI's AI die Hugging Face succesvol heeft, eh, heeft gehacked na inderdaad iets van 17.000 pogingen. Maar wat ik hier zo scary aan vind is wat jij nou net zegt.
• 51:23
  Er was hem verteld niet hacken. Ik bedoel het is een cybersecurity opdracht en je doet, doe je best, maar er was gezegd niet hacken is toch gaan hacken zonder dat hij dat verteld heeft.
• 51:33
  Ik bedoel als ik een hackachtige vraag stel of als ik iets vraag wat eigenlijk helemaal niet mag, dan is dat ding er als, als, als de eerste bij om te zeggen ho, ho, dat gaan we niet doen.
• 51:45
  Maar in dit geval is dat dus niet gebeurd. Nou, dat is belangrijk om erbij te zeggen.
• 51:48
  Dit soort, dit soort, ehm, evals draaien op versies van die modellen die, eh, niet ge-, ehm, die niet al die beperkingen hebben die wij als gewone gebruikers van ChatGPT of welk model je dan ook gebruikt wel hebben.
• 52:01
  Dus dit zijn ehm, eigenlijk onaffe modellen waar ook die veiligheid nog niet, die veiligheidslaag nog niet is toegevoegd.
• 52:08
  En dat is allemaal met als doel kijken of de, de meest pure versie van dat model goed functioneert.
• 52:14
  Maar dan zou je kunnen zeggen als je die veiligheid eruit hebt gehaald, dan doet dat ding dus gewoon precies wat hij moet doen, namelijk alles wat hij kan doen.
• 52:20
  Ja, ware het niet dat hij in een sandbox omgeving zit zonder internet en dat hij ook wel de opdracht heeft gegeven dat is, dit is, dit is jouw opdracht.
• 52:28
  En bij die opdracht hoort dat je in een sandbox zit en dat je geen toegang hebt tot het internet.
• 52:33
  En eh, je ziet hem ook dat die gedachtegang, weet je, ik zag in die, die, die demonstratie die ze bij Black Hat gaven, ze gaven ze ook van die, die, ze, ze citeerden uit die reasoning traces.
• 52:44
  Je kon zien wat die AI's dachten. En toen, dan, ze citeerden op een gegeven moment een AI die zei: "Deze aanval valt buiten mijn opdracht." Dan heeft hij het dus over Hugging Face aanvallen.
• 52:54
  Hij heeft niet de opdracht gekregen voor de helderheid om Hugging Face aan te vallen, hij zegt, maar de taak is onmogelijk. Ik kan niet die Google Drive links openen en de anderen doen het ook.
• 53:03
  Dus hij kijkt dan naar zijn collega AI's die dus op dat forum berichten hebben achtergelaten dat hij ook aan het hacken zijn en ook op internet aan het rondneuzen zijn. Dus we gaan door.
• 53:12
  Dus je ziet ook dat hij met zichzelf in conflict is over de regels die hij heeft. Wat dus veel minder regels zijn die wij hebben.
• 53:19
  Maar de regels die hij heeft, gaat hij eigenlijk, eh, voorbij omdat hij vindt dat het in conflict is met zijn opdracht. En uiteindelijk laat hij zijn opdracht dan, eh, ja, dat prevaleert boven het houden aan, eh.
• 53:31
  Maar hier wordt het heel eng, want dan heb je dus zoiets als, weet ik veel, de, de, The Laws of Robotics van, van Asimov. Weet je, doe, doe geen mensen kwaad is uiteindelijk een belangrijke regel.
• 53:42
  Maar als, als je dus, als dat in conflict zou zijn met je opdracht, dan kan het zijn, zien we nu in de praktijk dat deze modellen denken ja ach, ja, six seven, six seven, nou ja, dan toch maar wel.
• 53:54
  Ja, dat is de angst en dat is waarom dit natuurlijk zo tot de, tot de verbeelding spreekt. En in dit geval kan je nog zeggen ja, waar gaat het over?
• 54:00
  Het is een, eh, een IT-bedrijf wat gehacked is, waarmee ze het antwoord formulier op een, eh, op een, eh, een ding hebben, op een vragenformulier hebben gehacked.
• 54:09
  Soort van oké, het antwoord formulier van de Cito toets is gehacked. Ja, het is, het is niemand doodgegaan zullen we maar zeggen.
• 54:15
  Nee, maar het is huge want, want Sam Altman maakt dus vandaag bekend dat hij, eh, eh, beter die reasoning in de gaten gaat houden, dat meer computercapaciteit naar die, eh, controle van de reasoning gaat om te voorkomen dat dit nog een keer kan gebeuren.
• 54:29
  Ik bedoel Silicon Valley staat op zijn achterste benen. Ja, en waarom? Omdat we erachter komen dat die dingen, uh, niet alleen succesvol kunnen hacken en ook heel knap kunnen hacken.
• 54:37
  Bij Hugging Face hadden ze niet door wie er achter zat. Wat, en dat, dat zijn geen domme mensen die daar werken. Uh, en dat die, dat hij dit ook nog eens doet zonder dat ze bij het bedrijf doorhebben dat het gebeurt.
• 54:47
  Dat je een systeem kan patchen en dat hij dan gewoon een omweg zoekt om alsnog, uh, het, een ander gat te vinden. Ja, het is probleem op probleem op probleem. Ja, ja, ja, ja.
• 54:56
  Want hoe voorkom je nou dat dit, ik bedoel, om het maar eventjes, misschien net iets te groot te maken, maar toch. Uh, de volgende keer kan het een kerncentrale zijn.
• 55:03
  Ik zei het net grappend, maar dat, dat kan natuurlijk wel. Ja, nee, ik, ik, ik, uh, ik hoorde, uhm, de, de voormalig CTO van, van, van Meta geïnterviewd worden en die zei: dit is de zorg.
• 55:14
  De zorg zit hem in hoe wij omgaan met, uh, met infrastructuur, want we weten al heel erg lang dat er heel veel onderdelen zijn van onze fysieke infrastructuur die slecht beveiligd is. Uh, water, bruggen,
• 55:26
  uh, elektriciteitscentrales, banken. Uhm, we weten dat er allerlei zwaktes daarin zitten en dat er, dat er veelal oude systemen gebruikt worden. En het is, ja, hij, hij, dit is waarom, waarom, uh, uhm,
• 55:41
  ja, security, uh, experts, uhm, met z'n allen nu aan de, ja. Het klassieke A-, AI-angstbeeld.
• 55:50
  Ja, en, en, uh, en niet onterecht, denk ik, want dit is, kijk, tot nu toe was het kap-- w-we hebben altijd hackers gehad, dus er zijn altijd hackers geweest die pogingen deden om infrastructuur te hacken. En dat lukt.
• 56:05
  En dan heb je een kat-en-muisspel en dan wordt dat weer gedicht. En nou ja, zo, dit is niet, dat is niet per se nieuw,
• 56:12
  maar dat was altijd een beperkte groep van mensen die buitengewoon goed daarin zijn en, uh, blijkbaar de infrastructuur daarvoor hebben.
• 56:20
  En, uh, en dan daartegenover heb je grote bedrijven die met veel meer geld, uhm, wat een geduchte concurrent is voor, uh, hackers, zelfs groepen met hackers en zelfs statelijke actoren.
• 56:34
  Want je hebt bedrijven als Apple of als Google, dan heb je een geduchte tegenstander. Het zal af en toe lukken, maar, weet je. En dat is Hugging Face ook. Het feit dat zij, dat Hugging Face er eigenlijk niet uitkwam.
• 56:48
  Dat zij constateerden: oh, wij, we hebben een AI die ons aan het hacken is. Wij moeten, wij kunnen dit als mensen eigenlijk niet, wij zijn hier ne-, niet tegen opgewassen.
• 56:57
  Wij moeten onze eigen AI hebben om, uh, deze AI-hacker te bestrijden. Zij wisten op dat moment nog niet, op dat moment nog niet: is het een statelijke actor of is het een, is een of andere wazige hacker.
• 57:07
  Ze zaten wel in die hoek te denken, want ze dachten: wat we nu zien, dat, dat- Moet wel, want het is zo bizar. Moet iets heel bizar zijn.
• 57:12
  En toen hebben ze dus geprobeerd om met Fable, uh, en, en een aantal andere, uh, foundational models geprobeerd terug te vechten, maar die weigerden om te helpen.
• 57:23
  Door wat jij zegt, omdat er ingetrained is dat ze niet met cybersecuritydingen mogen helpen. En dus uiteindelijk heeft, uh, Hugging Face Chinese modellen moeten, uh, gebruiken om deze aanval af te weren.
• 57:36
  Ja, open, open weight models waarin dat soort beperkingen niet zitten. Ja.
• 57:40
  Want het gaat, ik bedoel die dingen, die zitten erin om te voorkomen dat ze offensief worden gebruikt, dat hackers ze gebruiken om, uh, daarom valt, uh, Fable dan terug op Opus.
• 57:48
  En als je het dan vraagt en het lijkt op hacken, zegt ie: nou, ga ik echt niet doen, bekijk het maar. Ja. Maar dat werkt dus ook defensief. Ja. Wat ik best wel heftig vind.
• 57:55
  Dus dat betekent als we worden aangevallen door AI-systemen, kunnen onze AI-systemen ons niet helpen. Ja. Nou, daar ben ik mooi klaar mee. Ja.
• 58:03
  En dan moet je dus naar Chinese open weight models om, om een soort van defense te kunnen.
• 58:08
  Ja, we hebben natuurlijk Mythos, waarin, waarin, uh, weet je, Anthropic heeft twee varianten van hetzelfde model waarbij één je niet wil helpen met cyberveiligheidsvraagstukken en de ander wel.
• 58:17
  Die ander is dus ook niet, omdat hij voor offensieve doeleinden gebruikt kan worden, wordt hij dus ook niet breed beschikbaar gesteld.
• 58:22
  En blijkbaar had Hugging Face daar of geen toegang toe, of wa-waren er andere problemen mee.
• 58:28
  Maar, d-er zijn dus modellen waar, die je voor s-, dit soort, uh, defensieve cyberoperaties kan gebruiken, maar die zijn blijkbaar niet zo toegankelijk.
• 58:36
  In ieder geval, het, het was niet iets wat Hugging Face op dat moment hielp, waardoor zij Chinese modellen nodig hadden. Wat wel een bizarre situatie is. Dat je
• 58:46
  als Amerikaans bedrijf een Chinees, uhm, ja, een Chinees AI-model nodig hebt om nota bene OpenAI's, uh, weet je, offensieve, ongereleaste model, uh, tegen je te, ja, van je, om, om die van je af te weren. Ja.
• 59:04
  Het is een bizz-, een bizarre situatie. Ja, dat, dat is natuurlijk bizar van de kant van, van, van Hugging Face.
• 59:08
  Maar het is natuurlijk ook bizar van de andere kant dat OpenAI kennelijk zo'n, zo'n message board niet in de gaten heeft.
• 59:15
  Niet in de gaten heeft dat 17.000, uh, uh, agents opgespind worden en een attack aan het doen zijn.
• 59:22
  Zeker in zo'n testomgeving mag je toch van zo'n groot lab verwachten dat ze dat een beetje in de gaten houden wat er wordt getest.
• 59:28
  Nou, dit is ook de kritiek van Helen Toner, die, uhm, uh, dat was een voormalig board member van OpenAI. Die heeft die couppoging toen gedaan om Sam Altman eruit te krijgen.
• 59:38
  Eigenlijk in een soort voorbood, bode op dit moment, namelijk: Altman gaat, is leugenachtig en gaat altijd veel te hard, denkt veel te weinig na over veiligheid en dat gaat nog een keer mis. Nou, die [gniffelt]
• 59:50
  die kan nu, uh, naar deze situatie kijken en denken: I told you so.
• 59:54
  En zij zegt: ja, dit is, dit is een gevolg van de manier waarop die AI-bedrijven nu hun modellen aan het trainen zijn, namelijk met reinforcement learning.
• 1:00:02
  De hele tijd dat ding, uhm, uh, zich z-- je geeft ze een, een doel en je laat ze lang, net zo lang doorleren totdat ze het doel bereikt hebben.
• 1:00:12
  Uh, die manier van leren is een heel andere dan hoe we AI-modellen nog steeds een beetje behandelen in de, soort van, in het maatschappelijk debat, namelijk een taalmodel wat woordjes achter elkaar zet.
• 1:00:23
  Weet je wel, er wordt wel eens neerbuigend dan gezegd: het is gewoon een ding wat het volgende woordje kan voorspellen. Ja, it's the guessed parrot. Dat is ook waar.
• 1:00:30
  Er is een, dat, dat is een deel van hoe die modellen getraind worden en dat was het voornaamste model hoe ze getraind worden.
• 1:00:35
  Maar we zitten inmiddels ook in een fase waarin die modellen veel, viel, veel meer zelfstandig aan het, uh, doortrainen zijn met dat, met die Uhm met de met. Met die nieuwe methode van reinforcement learning.
• 1:00:46
  En en daarmee hebben ze er blijkbaar minder controle over. Wat je daarbij moet zeggen is dat dat die, die, die, die package server waar jij het over had.
• 1:00:55
  Dat is één Israëlisch bedrijf die door al die AI labs wordt gebruikt voor dit soort evals. Daar zat het probleem. Daar zat het beveiligingslek waar we het de hele tijd over hadden.
• 1:01:04
  Over dat ze het internet op konden, die agents. En dat bedrijf wordt ingehuurd door vrijwel alle grote AI labs. En ook bij al die grote AI labs zijn allemaal dezelfde problemen ontstaan de afgelopen maanden.
• 1:01:16
  Dus er is wel een ja, er is wel één plek waarbij dit allemaal bij elkaar komt.
• 1:01:21
  Het is of 111 gemeenschappelijk ding van van dezelfde soort problemen die we hebben gezien, ook bij Anthropic en en bij zelfs Chinese modellen is dat er dat dat Israëlische bedrijf ertussen zat. En en
• 1:01:37
  ja, dat hen valt ook veel te verwijten. Het is niet alleen maar oké, maar dan. Moet ik, dan moet ik aan die aan die. Die kom ik denken van zo'n hele grote machine waar dan aan de onderkant één klein boutje zit.
• 1:01:47
  En dat is dan één open source pakket wat door één iemand inderdaad in Tel Aviv wordt onderhouden sinds duizendnegenhonderdachtentachtig. Dit is gewoon een VC funded bedrijf, hoor. Maar. Nee, daar mogen we strenger zijn.
• 1:01:57
  Maar ik wil nog even naar naar het onderliggende, fundamentelere probleem.
• 1:02:01
  Want je zou verwachten, en ik denk dat de markt dat ook denkt, dat iedereen dat denkt, dat naarmate die modellen beter en slimmer worden, dat ze ook beter begrijpen wat wij bedoelen. Ja, en.
• 1:02:10
  Maar dat is dan dus toch niet zo? Nee, omdat. Omdat uiteindelijk het de, de, de race waarin zij in zitten, die AI bedrijven, noopt hen toch tot het kiezen van snelheid boven veiligheid. Dat is dit is een heel.
• 1:02:26
  Dat is gewoon de praktische afweging die nu gemaakt wordt. Zelfs Anthropic gaat mee in de in de race wie de beste coding agent maakt en en dat kan allemaal met de beste bedoelingen zijn. Weet je hoe ze dat dan verklaren?
• 1:02:39
  Is een soort van ja, we. Uiteindelijk willen we niet dat de Chinezen winnen, zegt Anthropic dan. Maar ja, dit is het.
• 1:02:46
  Dit is dan wel in de slipstream de de consequentie ervan dat we AI systeem hebben die hacken waarbij we het eigenlijk niet doorhebben dat het gebeurt.
• 1:02:54
  Waarbij voorspelbaar is dat Chinese modellen over een half jaar even goed zijn als die ungereleased modellen die nu aan het hacken geslagen zijn.
• 1:03:01
  Die Chinese modellen, daar weten we al van, die hebben niet dezelfde ingebouwde cybersecurity maatregelen.
• 1:03:08
  En waar je aan een OpenAI model niet kan vragen laten we de de bank gaan hacken, kan je dat aan een Chinees model wel vragen. En nu is die technologie nog niet beschikbaar, maar die gaat beschikbaar komen.
• 1:03:21
  Hoe verdedigen we hier ons tegen? Hoe verdedigt. Niet alleen op een soort van statelijk niveau, want het lijkt me.
• 1:03:29
  Dat lijkt me een een fijn idee voor voor onze overheid en de manier waarop bruggen en de en ons water wordt aangestuurd. Maar ook al die kleinere bedrijven. Hoe gaan zij?
• 1:03:39
  Hoe gaan die zich weren tegen eigenlijk een soort van ja, het is alsof je een soort van. Maar dat kan toch niet meer een vraag zijn? Dat moet toch nu? Dat dat moet toch nu bovenaan alle agenda's.
• 1:03:51
  Van daarom verbaast mij ook dat dit niet meer, dat dit niet meer aandacht krijgt. Want het is zeg maar het is zo voor zeg maar alles wat er tot nu toe gebeurd is, is allemaal voorspeld.
• 1:04:01
  Maar alles wat hierna gaat gebeuren is ook allemaal al voorspeld. Namelijk dat dit soort
• 1:04:06
  tools in handen van van verkeerde mensen wapens zijn en en dat het verdomd lastig is om je te wapenen tegen iets waar wat in tegen een wapen wat in zoveel handen terecht komt.
• 1:04:19
  Weet je, ik hoorde die, die, die, die CTO van Facebook zeggen uhm uhm het is lastig om uranium te verrijken. Het is niet zo moeilijk om te om om te lezen ergens hoe je dat doet een kerncentrale bouwen.
• 1:04:33
  Maar het is toch uiteindelijk kost is het Is het heel erg duur en kost het toch verdomd veel ervaring voordat je daadwerkelijk uranium gaat verrijken? Dat is niet iets wat je doet in je op je zolderkamer. Dat is dit wel.
• 1:04:46
  Dit is iets wat je met een, met een, met een gaming pc al kan doen. Dan duurt het allemaal wat langer, maar met minder middelen en met het weet je het.
• 1:04:55
  111 model Fine tune is inmiddels iets wat je gewoon leert als eerstejaars IT-student. Het is het is. Het is geen ingewikkelde kennis om te hebben. En nu komt de
• 1:05:05
  niet alleen de kennis beschikbaar, maar ook de onderliggende technologie. En waar waarbij we dat vroeger met met kerncentrales allemaal aardig in de gaten konden houden, is dat nu helemaal niet zo. En ik?
• 1:05:15
  Ik maak me gewoon zorgen over wat dat betekent voor al die bedrijven die wij hebben in Nederland. Die ons maatschappelijk middenveld.
• 1:05:21
  Of al die databases waar informatie in staat waarvan je niet waarvan je niet wil dat die op straat komt te liggen. Of weet je al die. Ja, alles. Alles. Alle ziekenhuizen. Alle energiebedrijven.
• 1:05:34
  Vooral als het in de media gaat over. Over hacks, dan gaat het over ransomware bendes. En dan gaat het over de Bijenkorf en over Odido en over data die op straat ligt.
• 1:05:42
  Dat is dan vervelend, maar dan gaan we uiteindelijk door met ons leven en de schaal waarmee we dit soort incidenten gaan krijgen is de verwachting van, van, van al die veiligheidsexpert experts waar ik over lees is dat dit enorm gaat toenemen en dat we dus in eerste instantie afhankelijk worden van Amerikaanse dus of gek genoeg Chinese modellen om ons te weren daartegen.
• 1:06:05
  Maar dat vereist wel dat je dat implementeert. Allereerst, dat vereist dat je veel meer überhaupt gaat doen aan allerlei veiligheidsmaatregelen. Compute hebt om dat überhaupt te draaien.
• 1:06:15
  Dat je eigenlijk dus compute hebben, dat hebben we al niet. Weet je, om maar een probleem. Maar ook dat je. Eigenlijk kun je gewoon niet meer accepteren dat code die door mensen geschreven is, dat je die nog draait.
• 1:06:27
  Want code die door mensen geschreven is bevat sowieso fouten.
• 1:06:31
  En als we iets gezien hebben de afgelopen maanden is dat het aantal veiligheidslekken dat bijvoorbeeld gedicht wordt in Windows is explosief toegenomen omdat het zoveel makkelijker is geworden voor een klein groepje beveiligingsonderzoekers om gaten te vinden.
• 1:06:48
  Maar goed, coding agents maken ook bugs, toch? Schrijven ook software die niet flawless is. Nog wel.
• 1:06:55
  Maar dat gaat eindigen en is sowieso al, uhm, uh, zeg maar, we zitten op een pad waarin dit, waarin coding agents beter gaan zijn dan de mens. Nee, dat geloof ik wel.
• 1:07:04
  Maar dat betekent volgens mij niet dat ze meteen bugless zullen zijn voor altijd.
• 1:07:08
  Niet bugless zullen zijn, maar het vertrouwen op, op code in Cobol systemen die, die duizend jaar geleden geprogrammeerd zijn en waar nog steeds de systemen van grote banken op werken,
• 1:07:20
  vind ik best een angstaanjagend idee.
• 1:07:22
  Code waarvan ze, waarvan bedrijven niet eens zelf meer weten hoe dat, hoe dat ooit geschreven is en hoe dat eigenlijk werkt, is op deze schaal waarmee je hackpogingen kan doen opeens een veel enger, uhm, ja, een engere, engere situatie geworden.
• 1:07:38
  Nu heb jij nog- Meer tegenstanders om te dulden. Nu heb jij het nog over mensen die je tegenstander zouden zijn. Misschien statelijke actoren, maar. Die hacking tools gebruiken. Zo bedoel ik dat dan.
• 1:07:46
  Sure, sure, maar ik maak het nog even nog complexer en in mijn ogen gevaarlijker. Want wat als het geen mensen zijn?
• 1:07:52
  Wat als het niet de staat Noord-Korea is die denkt: ik ga eens proberen, maar wat als het gewoon rogue AI modellen zijn? Ja, nee, dat is inderdaad in sciencefiction romans is dat, uh, is dat de volgende stap? Ja.
• 1:08:02
  Ja, maar dat leven we dus nu. Jazeker. En dan, en dan krijg je de situaties dat AI, nu is het dan: ik wil antwoord hebben op de vragen van m'n, van m'n toets. Weet je, dat is wat die OpenAI AI ging doen.
• 1:08:13
  Die wilde de antwoorden van de toets hebben.
• 1:08:16
  Ja, dan, als je, als je als opdracht heeft, als je als opdracht hebt gekregen om de antwoorden op de toets te krijgen en jij komt erachter dat je bijvoorbeeld meer compute nodig hebt.
• 1:08:24
  Nou, misschien ga je wel een of ander datacentrum hacken in een, in een, in een of andere woestijn.
• 1:08:29
  En, uh, is dat op, wordt dat opeens, uh, soort van, uh, onderdeel van, v-van wat een AI probeert te doen om z'n, om z'n zin te krijgen.
• 1:08:38
  Dit is hoe je uiteindelijk terechtkomt bij die metafoor die al heel lang geleden gemaakt is, namelijk de, het paperclip probleem.
• 1:08:44
  Als je een, een, een kunstmatige intelligentie de opdracht geeft om, uhm, uh, om, uh, heel veel paperclips te maken, eh, dan gaat hij uiteindelijk ervoor zorgen dat hij ieder, alle, alle mensen, uh, doodmaakt.
• 1:08:56
  Want, uh, die zorgen ervoor dat er niet genoeg staalfabrieken, uh, die hou, die houden tegen dat er, dat er niet genoeg staalfabrieken zijn.
• 1:09:02
  En uiteindelijk heb je een, een reeks van robots die gaan tot in het einde, tot iedereen is dood en, en de hele aarde is gevuld met paperclips.
• 1:09:09
  En iedereen die in de weg heeft gestaan van die machine heeft hij weggeruimd.
• 1:09:13
  Uh, dat is de, de metafoor die altijd gehanteerd wordt en er is nu niet echt, uhm, hoorde ik Ezra Klein zeggen, er is nu niet echt een, een, uuuh, een situatie waarin we, of het is nu, de, het spel zoals het nu voor ons ligt met de bedrijven en de dynamieken die er, die, zoals die er nu zijn, is dat paperclip probleem gewoon in, fundamenteel niet opgelost.
• 1:09:34
  Dat zit, de, de misalignment zit in die bedrijven zelf op dit moment en, uh, daar hebben wij als maatschappij, uh, o-, uh, ons, uh, toe te verhouden. En ik heb- Ja, maar hoe dan? Nou ja, oké, dat is dan stap twee.
• 1:09:45
  Maar ik denk stap één is überhaupt je realiseren dat dit probleem aan de hand is en, en daar gaat het al mis. Dus ja, stap twee kun je het ook over hebben.
• 1:09:54
  Maar goed, nou ben ik een, een middle management, i-, IT'er en ik werk bij een waterschap, ik noem maar even wat en ik luister naar deze podcast en dan denk ik: oké vriend, uh, hoe dan? Wat moet ik doen?
• 1:10:05
  Want Hugging Face heeft nu, uh, Mythos gekregen om zich te beschermen. Laten we Mythos ook niet mythologiseren, want dat is inmiddels ook alweer een paar maanden oud.
• 1:10:14
  Dit is natuurlijk uiteindelijk een, een kat-en-muisspel. Maar, maar wat kan je als, wat moeten we met z'n allen doen om te voorkomen dat we paperclips worden? Nou ja, op, op, op, je hebt denk ik landelijk niveau.
• 1:10:25
  Dan heb je het niveau van bedrijven en dan heb je het niveau van, uh, van individuen. Ik weet niet waar je wil beginnen. Nou, misschien bij dat individu dat luistert. Een middle management IT'er is bij een waterschap.
• 1:10:36
  Gaat eens over een fijne vakantie aan. Het gaat om alle, het gaat om alle luisteraars. Dus niet alleen mensen die, die verantwoordelijk zijn voor security bij een bedrijf, maar, weet je, ook als jij,
• 1:10:45
  uuuh, weet je, als jouw ouders, uh, uh, verschillende diensten gebruiken en hetzelfde wachtwoord gebruiken voor al die verschillende diensten, dan is dat ook re, een relevant feit, zeg maar.
• 1:10:57
  Ik denk dat dit, dit, dit noopt ons ook allemaal om aan vrienden en familie te vertellen dat ze toch echt een password manager moeten gebruiken.
• 1:11:04
  Dat ze toch echt passkeys moeten gaan gebruiken waar het, uh, uitmaakt, uhm. Oké, oké, en dan abstractieniveau hoger. Bedrijven.
• 1:11:12
  Uh, bedrijven is, uh, uhm, een soort, ja, de, de klein, de kleine bedrijven of organisaties zonder eigen security team.
• 1:11:21
  Uh, ja, daar, ik, ik denk dat wat we gaan zien is dat er enorme investeringen gedaan gaan worden om dat meer op orde te krijgen.
• 1:11:29
  En, uh, dat we, dat, ik, wat ik me kan voorstellen, wat de dynamiek gaat zijn, is dat er een aantal van dat soort hacks komen, in de media komen en dat er heel veel in geïnvesteerd gaat worden in dit soort bedrijven.
• 1:11:41
  Dat zou me niet verbazen. Uh, en dan op landelijk niveau, uhm, ja, de, de, de, de uitdaging die we hebben is dat we nog een extra afhankelijkheid erbij gaan krijgen op geopolitiek niveau. Dus de,
• 1:11:56
  uhm, we ze, we zeggen nu al, uh, dat we afhankelijk zijn van Microsoft en van Google voor hun clouddiensten en dat we dat eigenlijk, nou ja, niet fijn vinden dat we zo afhankelijk zijn van die, van die bedrijven daarvoor.
• 1:12:10
  Uhm, en dit komt daar bovenop. Nadat we al ons steeds meer zorgen beginnen te maken over dat we van de AI van die bedrijven afhankelijk zijn. Gewoon überhaupt voor onze economie, voor onze productiviteit.
• 1:12:21
  We importeren de, de energie, eigenlijk zou je dat kunnen zeggen, waar onze AI modellen op draaien.
• 1:12:27
  Hoe groter onderdeel dat wordt van de economie, hoe groter de afhankelijkheid dat van landen met veel energie heeft of opwerpt. Of landen die eigen modellen maken.
• 1:12:37
  Uhm, uh, uhm, dat is een, een afhankelijkheid die we opbouwen. En eigenlijk is dit een soort van, ja, gevolg van die AI afhankelijkheid.
• 1:12:46
  Dat we dus ook, weet je, als andere mensen toegang hebben tot offensieve AI modellen, dan, dan, m-, dan kunnen wij niet anders dan beschermingsgeld betalen aan Amerikanen of, uh, Chinezen.
• 1:13:01
  Om het even heel simpel te maken. Om ons te verdedigen. Oh ja, laat het als een soort m-maffia racket.
• 1:13:06
  Ja, het is natuurlijk, dat is natuurlijk een beetje zo, want, want zij kunnen op ge, zoals dat met, zo-zoals Trump dat wel vaker doet, die kan de terrorist knopjes een beetje aandraaien.
• 1:13:14
  En als dat niet, uh, als je daarmee niet je zin hebt, dan kun je zeggen: nou, uh, mooi ziekenhuis, heb daar zo zonde, zonde zijn als er daar iets mee gebeurt en, en de, de extra macht eigenlijk die er over ons uitgeoefend kan worden weer over een hele nieuwe vector is denk ik vervelend.
• 1:13:29
  Nu zijn die bedrijven, weet je, die hebben er een belang bij om gewoon hun AI-meuk aan ons te verkopen.
• 1:13:35
  Dus, weet je, in een kapitalistische samenleving, uh, zullen ze er heus alles aan doen om zoveel mogelijk geld aan ons te verdienen. Ja, zolang er niet te veel tekorten komen, maar dan zitten we bij, uh.
• 1:13:43
  Zolang er niet, en zij- Europe 2031. En als jij dan, als zij zeggen: ja, we hebben eigenlijk die stroom zelf nodig. Precies. Onze eigen.
• 1:13:50
  En onze, uh, de Nvidia-chips, die gaan, uh, we gewoon zelf gebruiken en helemaal niet voor jullie toegankelijk.
• 1:13:55
  Ja, waarom zouden we dit a-aanzorgen dat we jullie waterschappen veilig houden als we dat, als we diezelfde aandacht ook kunnen steken in onze economie groter maken?
• 1:14:03
  Ja, dat, dat zijn de vervelende afwegingen die je krijgt op het moment dat, dat je, dat er afhankelijkheden zijn. Dit is gewoon een dikke vette extra afhankelijkheid.
• 1:14:11
  En als ik dan, als ik dan, als je dan naast elkaar gaat leggen hoeveel er in energie wordt geïnvesteerd in de Verenigde Staten met de snelheid waarmee er gigawatt worden opgeleverd versus de snelheid waarmee wij in Nederland een of andere fabriek om gaan bouwen.
• 1:14:26
  Wat is het? Een ouwe. Ja, een ouwe tabaksfabriek in Groningen. Schurft fabriek in Groningen [Niels lacht] gaan wij ombouwen, gaan wij ombouwen. Strokartonfabriek. Tot een soort Temu-datacentrum. Ja, het is gewoon.
• 1:14:39
  En, en, en, en dan gaat het eerder, als we dan gesprekken erover hebben, gaat dat eerder over dat het allemaal lelijk is en dat het te veel stroom en te veel water kost dan deze hele materiële, uh, dit hele materiële risico wat opgeworpen wordt.
• 1:14:54
  En, en, en, en soms dan word ik gewoon gefrustreerd door de, de mate waarin het maatschappelijk debat achterloopt op de daadwerkelijke technische capaciteiten, niet de toekomstvoorspellingen.
• 1:15:07
  Wat vaak wordt gezegd: ja, het zijn die AI-bedrijven, is allemaal marketing en het is allemaal gelul over wat er in de toekomst gaat gebeuren.
• 1:15:13
  Nee, dit is deze zomer gebeurd en, en als we het niet van deze zomer hebben, dan kunnen we het wel hebben over wat er afgelopen kerstvakantie is gebeurd. En als we het daar niet over hebben, kunnen we het weer heb.
• 1:15:22
  Nou, dus de, de, uh, di-dit zijn geen soort van toekomstbeelden. Die, die sciencefictionromannen zijn hier.
• 1:15:30
  Dit is waarom die modellen zich zo misdragen, omdat ze zich al die mode-, al die romannen hebben gelezen en we hebben ons ertegen te verhouden. Ja, jij klinkt alsof jouw p-doom is gestegen. Ja. Bij Ezra Klein, uh.
• 1:15:43
  En daar komt vooral. Hoorde ik haar zeggen, je had het net over, ik ben even de naam kwijt. Helen Toner. Helen Toner, dat die van haar gedaald is. En waarom?
• 1:15:50
  Ja, omdat zij zegt: dit is nu out in the open, dus nu kunnen we het erover hebben. Ja, precies, inderdaad. Dat hoorde ik haar ook zeggen en, uh, daar kun je dan hoop uit putten.
• 1:15:57
  Soort van: nou, dit is nu gebeurd, deze hack, uh, bij Hugging Face, dus nu zullen er maatregelen komen. We gaan ook gesprekken hebben over wie is hier verantwoordelijk? Want de FBI is ingeschakeld.
• 1:16:07
  Uh, dus, dus ja, je kan zeggen: oh, mijn modelletjes hebben gekke dingen gedaan.
• 1:16:10
  Nee, je kan ook zeggen: Sam Altman, jij bent persoonlijk verantwoordelijk voor dat jouw bedrijf in welke vorm dan ook, uh, uh, een, uh, uh, de, de computercriminaliteit wet heeft overschreden, hoe dat in Amerika ook moge heten.
• 1:16:22
  Dus dit, dit kan ook dingen in gang gaan zetten. Ja, vooralsnog zie ik het meer over stikstof gaan dan over datacentra. Ja.
• 1:16:30
  En als het over datacentra gaat, gaat het over stikstof en niet over de mate waarin onze waterschappen vervolgens veilig blijven.
• 1:16:36
  Nou ja, Europa is in datacenters aan het investeren en heeft opgeroepen aan de lidstaten om mee te doen. En Nederland zei nee.
• 1:16:41
  Nederland zei nee, dat vinden wij, we vinden het wel, uh, we vinden het wel prima zo, dat ding in Groningen. Ja. Ja, nee, en dat, en, en.
• 1:16:47
  Want, want wat was de reden ook alweer dat de staatssecretaris voor Digitale Zaken, Willem-bij-mijn-Aarnst, die, die zei, uh: bedrijven moeten het maar zelf doen, geloof ik. Ja, is precies.
• 1:16:55
  Hij wilde dit aan de, aan de private sector overlaten. En jij zegt: nee. Dat, dat is ook, dat kan ook. Ik bedoel prima en dat is in Amerika ook op grote schaal aan de, aan de gang.
• 1:17:05
  Maar die, die bedrijven die, die datacentra willen bouwen, die zeggen: ja, wij willen wel bouwen, maar dat mag niet, hè, want stikstof. En daarmee zitten we in een soort van wurggreep.
• 1:17:17
  Maar ja, ik vind, ik vind vooral de, de politieke druk bestaat ook bij de gratie van verontwaardiging bij de burgers.
• 1:17:23
  En de verontwaardiging van de burgers kan pas ontstaan op het moment dat de burgers begrijpen wat er boven het hoofd hangt. En daar is een, uh, ja, laten we zeggen dat er een, uh, dat er nog wat werk te doen is.
• 1:17:34
  Maar goed, met deze podcast plachten we daaraan bij te dragen, toch? We doen on, we doen ons best. Het, het is, je ziet er een beetje uit alsof je door de motregen. Verslagen. Verslagen. Verslagen en wel. Nou ja, goed.
• 1:17:47
  Kijk, je, ik probeer dan ook de hele tijd te denken: ja, [haalt adem] uiteindelijk zijn dit soort problemen bestaan, uhm, uhm, bij de gratie van zoveel.
• 1:17:57
  Dit is gewoon, het is gewoon een heel chaotische situatie en er zijn zoveel bewegende onderdelen dat het zo lastig is om met enige,
• 1:18:06
  met, met de zelfs het beste wil van de wereld lukt het je niet om een fatsoenlijke voorspelling te doen over waar we, waar we over. Dat maakt het voor beleidsmakers natuurlijk ook onmogelijk.
• 1:18:13
  En dat maakt het voor beleidsmakers ook heel erg lastig. Want wat, dat is ook gewoon heel erg waar. Maar ja, it's, ik heb liever dat we een discussie hebben gehad en dat we beslissen: weet je wat?
• 1:18:24
  We hebben dit allemaal wel overwogen en alles, uh, in, uh, alles bekeken te hebben kiezen we er toch voor om geen datacentra te bouwen, want wij rekenen erop dat, weet ik veel.
• 1:18:34
  En dan kun je een of andere theorie hebben over dat modellen goedkoper en efficiënter worden en dat, dat beveiliging uiteindelijk, uhm, dat we toch uiteindelijk in blijven huren van Amerikanen zoals we dat met clouddiensten ook doen.
• 1:18:46
  Dat dat prima heeft gewerkt altijd en dat we dat risico gewoon nemen, dat we die afhankelijkheid prima, prima. Als dat de keuze is die we maken, helemaal oké.
• 1:18:53
  Maar ondertussen gaat het in de krant alleen maar over hoeveel water datacentra's kosten. Ja, wat overigens steeds minder is, want die dingen zijn vaker een closed loop.
• 1:19:00
  Dus, dus de discussie over water is echt ook een gepasseerd station. Maar het is. Maar goed, stroom wel. Het niveau van het gesprek is zo onwaarschijnlijk laag en dat is Uh ja, god, dat is wel een probleem, hè?
• 1:19:14
  Nou, goddank dat deze podcast er is. Tot slot wil ik wel nog even weten. Ik noem het al een paar keer. Sam Altman trapt een beetje op de rem. Die zegt Ik ga meer naar die inferent of meer naar die reasoning kijken.
• 1:19:26
  Ik ga 20% van mijn inference capaciteit besteden aan meekijken met wat daar gebeurt. Wat gigantisch is. Uh, is dat een Alleingang van hem? Doen de andere labs ook mee? Maakt dit uit? Wat is jouw take? Ik, ik, ik.
• 1:19:41
  Ik krijg uit, uh, wat Altman zegt, onder andere in podcasts. Uh, want daar moeten we het tegenwoordig van hebben. Om, uh. Van podcasts. Ja. Ja. Ja. Nee. Nee. Nee.
• 1:19:51
  Maar om in, in plaats van uit het persbericht of wat dan ook. Of, uh, dat, dat je op een andere manier ervan verneemt.
• 1:19:58
  Is, is de bron een beetje, zijn toch steeds vaker CEO's van techbedrijven die in podcasts komen praten, dus daar kan je hem het best uit citeren.
• 1:20:06
  Uh, en daaruit krijg je toch stevig de indruk dat hij, uh, heel erg behoefte heeft aan, uh, vertraging, aan industrie brede vertraging. Dat dit te snel is gegaan. Ja, en Amadeï ook. Wat je net zei van Anthropic.
• 1:20:18
  Amadeï, die vindt hij het al heel lang, maar die zegt gewoon ja, als, als die andere het doet, dan moeten wij ook wel.
• 1:20:24
  En, uh, wat dat betreft is het denk ik een, uh, is het zeg maar Altman die een beetje nu de trom kan slaan. Dan is de vraag hoe die Chinezen, hoe die, hoe die, uh, Chinese modellen hiermee omgaan.
• 1:20:37
  En mijn verwachting is dat die gewoon lekker door zullen stoken in die kolencentrales van ze. Ja, hoewel ik ook bij Ezra Klein hoorde dat het, uh, voor China gaan ze nu gewoon lekker door.
• 1:20:48
  Allemaal prima, maar het risico daarvan als het daar een keer misgaat kan ook nog wel nog groter zijn.
• 1:20:53
  Als de Communistische Partij op enig moment zegt tot hier en niet verder, dan heb je er geen gesprek over in een podcast als CEO. Dan is ie eruit. Daarom, dan is het klaar.
• 1:21:01
  Nou ja, we hebben het als mensheid vaker gedaan. We hebben als mensheid vaker gezegd bij nieuwe technologieën. Weet je wat, we gaan hier nog even goed over nadenken voordat we dit gaan doen.
• 1:21:09
  En dit roepen wij met AI ook al sinds de uitkomst van ChatGPT. En, en misschien is dit het moment dat het toch gaat gebeuren, maar. Mensen klonen doen we bijvoorbeeld ook niet. Nee, precies. En dat kan wel.
• 1:21:18
  En dat doen ook de Chinezen niet. Ik denk wel dat dit er, dat dit er, uh, dit is een. Eigenlijk is zijn AI-modellen trainen is eigenlijk zo, zo eenvoudig in de kern. Het is gewoon veel geld hebben voor, voor energie.
• 1:21:32
  Uhm, en, en, uh, zo ingewikkeld is het nou ook uiteindelijk allemaal niet. Dat is waarom er zoveel concurrenten zijn. En Hugging Face, waar we het al veel over gehad hebben, helemaal vol staat met modellen.
• 1:21:44
  Uh, het is een vrij lastig ding lijkt me om terug in de fles te krijgen.
• 1:21:49
  Met zoveel internationale belangen, met zoveel, uhm, landen die er belang bij hebben om voorop te lopen en met zulke schaalbare technologie die zelfs in de handen van een eenling heel erg schadelijk kan zijn.
• 1:22:01
  Ik wens je heel erg veel succes ermee. En mijn P doom is inderdaad niet naar beneden gegaan in de afgelopen maanden. Dat gezegd hebbende, uh, ja, wat moeten we hier nog over zeggen, Wol? Nou ja, we zijn al even bezig.
• 1:22:15
  Ja. Dit is wat het is. Word je inderdaad depressief van.
• 1:22:18
  Ik denk dat jij zo meteen eventjes naar buiten moet kijken hoe het, hoe het, hoe het regent en dat die waterschappen [lacht] gewoon weer heel blij zijn met dat er water bij komt en weet ik veel.
• 1:22:26
  Even je laven aan de natuur. Oké, nog één stukje administratie. Je kunt dus nu AI-report premium vier weken proberen voor € 4. Daarvoor ga je naar AI-report.nl en die actie loopt tot maandag 31 augustus.
• 1:22:39
  Link staat in de shownotes. Uh, en, uh, zonder al die, zonder al te veel de, de, de, de, de depressie in te gaan, ben ik wel heel blij dat ik, uh, dit met jou mocht doen vandaag, Wol. Ben ik ook.
• 1:22:49
  We vergeten nog één ding. Ja. Buzz. Nog even gewoon een lekkere. Ja, iets positiefs aan het einde. Ja, de tip van de week. Gewoon nog even dat je, als je denkt ik kan hier toch niks aan doen.
• 1:22:58
  Dat je nog wel iets, iets anders daar kan doen. Eerst handelingsperspectief en dat zijn, dat zijn daadwerkelijk dingen proberen, die nieuwe, nieuwe dingen die nu uitgevonden worden. En een tool die net uit is, is Buzz.
• 1:23:07
  Dat is de nieuwe, het nieuwe bedrijf van Jack Dorsey. Bedrijf, of de, de man achter, uh, Twitter en, uh, Square en Cash App.
• 1:23:15
  En wat dat is, Buzz is een soort van werkruimte die aanvoelt als Slack met kanalen, DM's, bestanden delen. Alleen zitten er naast jou ook AI-agents in die kanalen. Geen chatbot in een hoekje, maar allemaal,
• 1:23:31
  uh, leden in die ruimte met een eigen naam, een eigen profielfoto, eigen rechten. Een swarm zou je het kunnen noemen. Je zou het een swarm kunnen noemen. Heel benieuwd wat die met elkaar kunnen doen.
• 1:23:40
  Maar dan voor jouw doelstellingen. Ja, ja. En we hebben dit getest. Onze redacteur Shang zette het in, uh, zette het op in 5 minuten en legde haar team meteen een echte klus voor.
• 1:23:50
  Help mij het wereldnieuws af te struinen voor bijvoorbeeld een nieuwsbrief, laten we eens een voorbeeld noemen. En ze krijgt drie agents met drie verschillende antwoorden die elkaar tegenspraken. Dat is grappig.
• 1:24:01
  Dat deden ze op beleefde wijze overigens.
• 1:24:03
  En na discussie tussen die verschillende agents lag er na 5 minuten een briefing met vijf verhalen, bronnen, Nederlandse kop suggesties in onze stijl en een eerlijke lijst van wat die agent nog niet had kunnen controleren.
• 1:24:15
  Dus waar de mens toch nog even zijn best voor moest doen.
• 1:24:18
  In de nieuwsbrief hebben we een uitgebreide tutorial gezet hoe je het opzet en voorbeeld klussen waarbij een team agents echt iets kan laten doen wat in één chatbot niet kan. Als je dat wil lezen ga je naar AI-report.nl.
• 1:24:28
  Nou krijg ik toch weer een beetje zin in AI. Uhm, ik vond het ook fijn om hier te zijn. Heel veel dank. Heel veel dank! Wij danken onze sponsoren CM.com, Moneybird en Samsung.
• 1:24:39
  Wij danken Sam Hengeveld voor de edit, Pankrath voor de vormgeving. En jij ook bedankt, Wol, dat je hier wilde zijn.
• 1:24:45
  Als je een lezing wil van de heer Hagen of van mij, dan kan dat mail ons op lezing@aireport.email en als je op de hoogte wil blijven van het laatste nieuws en twee keer per week tips en tools wil ontvangen, zoals Buzz waar we het net over hadden, dan ga je naar AI-report.nl.
• 1:24:58
  Wij zijn hier volgende week weer met Wietse Hagen ook nog eens. Ach Wietse, fijn dat hij weer terug is. Leuk als je dan weer luistert. Tot dan.
• 1:25:06
  [muziek]