Latest / AI Report / NLse MIT-professor over risico's van AI + heeft school nog zin door AI? | AI Report

Transcript

NLse MIT-professor over risico's van AI + heeft school nog zin door AI? | AI Report · AI Report

• 0:00
  Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.
• 0:09
  Je hebt het misschien al gezien, het is een lange podcast vandaag, maar man o man, volgens mij is het je tijd waard.
• 0:16
  Want Google DeepMind heeft een AI-systeem ontwikkeld dat zelfstandig nieuwe algoritmes kan schrijven en verbeteren. Met andere woorden: AI die AI beter maakt.
• 0:27
  En exact dat is een belangrijke voorwaarde voor de race naar Artificial General Intelligence.
• 0:33
  Wietse is onder de indruk van deze nieuwe uitvinding en voor meer context hebben we MIT-professor Michiel Bakker in de uitzending. Hij is AI Safety Researcher en heeft vier jaar bij Google's DeepMind gewerkt.
• 0:45
  Daarnaast in deze aflevering van AI Report: ons onderwijssysteem draait al eeuwen op hetzelfde model. Een docent deelt kennis, leerlingen nemen dat op en toetsen meten of die kennis is blijven hangen.
• 0:58
  Maar wat gebeurt er als AI-docenten 00.00u per dag en zeven dagen per week beschikbaar zijn, zich perfect aanpassen aan jouw leerstijl en nooit ongeduldig worden?
• 1:08
  En welke vaardigheden zijn straks werkelijk nog waardevol? En hoe bereiden we leerlingen voor op een arbeidsmarkt die we zelf nog maar nauwelijks kunnen voorspellen? Dit is AI Report.
• 1:28
  [muziek] Wietse, ik heb weer genoten van onze webinar. Mijn-- mag ik jou vertellen over mijn lievelingsmoment? Ga je gang.
• 1:35
  Er was, uh, voor de mensen die niet bij de webinar waren, er was een, uh, meneer die, uh, heeft leren programmeren in de tijd van ponskaarten en COBOL, oftewel lang geleden.
• 1:44
  En hij zegt: ik volg de ontwikkelingen van AI op de voet en ik ben er enthousiast over. Maar steeds meer bekruipt me het gevoel dat ik net op tijd met pensioen ben gegaan.
• 1:51
  Binnenkort zijn programmeurs namelijk overbodig en in de tijd die ik nodig heb om een eigen geschreven stukje code te debuggen, heeft een of andere nitwit al een hele webapp gemaakt door een beetje tegen Windsurf te zitten ouwehoeren.
• 2:03
  Kan ik binnenkort op de markt gaan zitten naast een klompenmaker en een mandvlechter om te laten zien hoe we vroeger software maakten? Ja, het is ook, uh, je- Heel mooi beeld.
• 2:12
  Je leest hem integraal voor, als in, het, hij kwam er ook lekker uit. Ja. Een heel mooi voorbeeld. Ja. Ja. Ja. En kan dat? Ja, uh, daar hebben we antwoord op gegeven in, tijdens de webinar. Dat is zo. Dat heb je gemist.
• 2:22
  Het spijt me luisteraar. Als je bij de volgende webinar wil zijn, dat is op 12 juni. Als je daarbij wil zijn, dan kun je je aanmelden voor AI Report, punt, e-mail. [muziek] Oké, we gaan naar het nieuws.
• 2:34
  Uh, Google heeft groot nieuws uitgebracht. Nieuws waar Wietse helemaal van van de leg is geraakt. Daar gaan we het over hebben. Onder andere met een gast, want die ga ik er gelijk bij vragen.
• 2:44
  Michiel Bakker, professor aan MIT. Welkom! Dank je wel. Michiel heeft onder andere bij DeepMind gewerkt in de tijd dat de ChatGPT-boem, uh, uh, bezig was en werkte daar aan taalmodellen.
• 2:57
  Uhm, en wij spreken hem dadelijk over onder andere AGI. Maar nu we je toch hebben, dacht ik, laten we toch ook eens eventjes, uh, uh, dit nieuws over Alpha Evolve. Ik ben heel benieuwd wat jij daarvan vindt.
• 3:07
  Wietse eerst om met jou te beginnen: wat is er gebeurd en, uh, waarom ben je hier zo opgewonden over? Nou, ik ben al een tijdje aan het wachten. Soort van een van de checkboxjes die ik dan in de gaten hou.
• 3:18
  En die komen ook een beetje uit al die scenario's over toekomst en AGI. Er zitten wat checkboxjes in van als dit gebeurt en als dat gebeurt. Dat zijn de puzzelstukjes die zorgen voor de volgende stap.
• 3:27
  Nou, een van die puzzel- Puzzelstukjes onderweg naar... Ja, een, een, een serieuze, uh, ja, mensachtige, of in ieder geval met iets wat intelligentie heeft dat de Nobelprijs zou kunnen winnen.
• 3:36
  Laat ik hem even sneller- Een AI die de Nobelprijs voor ons- Ja...zou kunnen winnen. Ja, en dan, dan heb je dus onder andere bijvoorbeeld nieuwe ideeën nodig in plaats van een soort nabraken. Dus je moet novelty hebben.
• 3:46
  En, uh, wat, wat serieus belangrijk is, is eigenlijk een, een AI die zichzelf kan optimaliseren. Ja, want voor de helderheid: dit kan nu nog niet.
• 3:55
  Het nabraken is wat jij, s-, uh, AI beschouwt als een soort van fancy autocomplete, die woordjes aanvult.
• 4:02
  En om de stap te maken naar dat hij daadwerkelijk nieuwe ideeën of onderzoek kan doen, daar zijn wij nog niet op dit moment. Nee, en ik denk dat in ieder geval, dat is wat ik kan vinden, dat we daar nog niet zijn.
• 4:13
  Wat er wel gebeurt is dat ze bijvoorbeeld, uh, een soort historisch terug, de historie terugspoelen.
• 4:17
  Dus dan zeg je eigenlijk: we hebben bepaalde dingen al uitgevonden in de wiskunde en dan gaan we een algoritme opnieuw laten zoeken en dan vertellen we niet dat wij dat al hebben uitgevonden en dan kijk je eigenlijk of hij dat ook kan.
• 4:27
  Want dan zie-, dan heb je dus niet iets nieuws, maar dan kan je een beetje het pad nog een keer bewandelen. Mhmm.
• 4:32
  Uhm, en je kunt natuurlijk problemen geven en op zoek gaan eigenlijk naar oplossingen die meteen toepasbaar zijn om die AI dan ook beter te maken. Mhmm.
• 4:42
  Want, hè, en AI is een enorme containerterm natuurlijk, maar er zit in ieder geval wiskunde onder en algoritme.
• 4:47
  En als jij dan natuurlijk een AI kan maken die algoritmen kan zoeken die efficiënter zijn dan de algoritmen die wij tot nu toe gevonden hebben, dan zou je kunnen zeggen: o, maar als die algoritmen dan voor jou ook belangrijk zijn, ben je eigenlijk je eigen motor aan het upgraden.
• 4:59
  Mhmm. Nou, dan, uh, is dit verhaal, en, uh, uh, Michiel gaat het nog even nuanceren straks, en dat is, uh, alleen maar mooi, denk ik voor de luisteraar. Die gaat de height er een beetje uit trekken.
• 5:08
  Uh, wat ik heb begrepen
• 5:10
  is dat er, uh, a-, i-, de, wat ik een, één hele mooie vind is dat er 0.7% in een datacenter van Google aan, uh, energie of eigenlijk efficiëntie is, uh, is verbeterd, waardoor de energie minder gebruikt wordt in het datacenter.
• 5:23
  Kan je zeggen 0.7, maar je kan je voorstellen op gigantische datacentra dat dat enorm is door, uh, een algoritme wat gevonden is of een optimalisatie die gevonden is door Alpha Evolve.
• 5:33
  Hè, dus dan kan Google zeggen: kijk, deze fundamentele technologie die wij hier uitgevonden hebben, die is ook nog eens in de Excelsheet, uh, bottomline levert het ons geld op.
• 5:43
  Nou, dat is voor iedereen binnen Google natuurlijk prettig, van shareholders tot degene die zeggen: waar zijn jullie eigenlijk mee bezig? En daarnaast is het zo dat
• 5:51
  de berekeningen, de, de, de fundamentele berekeningen die nodig zijn om bevol-, bijvoorbeeld taalmodellen mogelijk te maken, dat daarin ook een klein doorbraakje is geweest. Heel klein.
• 6:00
  Hoe klein eigenlijk, Michiel?Uh, uh, heel klein. [lacht] Vertel. Ik denk, uh, ik denk, la-laat ik het, uh, uh, niet helemaal nuanceren.
• 6:11
  Ik denk dat deze richting, dus AI die AI verbetert, uh, dat dat mega impactvol gaat zijn en al is.
• 6:18
  En als je kijkt hoeveel mensen die taalmodellen maken en die ook werken aan de veiligheid van taalmodellen, die werken aan het, uh, aanpassen van taalmodellen voor, uh, bepaalde bedrijven.
• 6:31
  Iedereen gebruikt nu al AI om die taalmodellen beter te maken of aan te passen. Dus het feit dat AI helpt om AI te verbeteren, daar zitten we denk ik al in en dat is hier een voorbeeld van.
• 6:43
  Waar denk ik een beetje genuanceerd moet worden is dat dit paper AlphaEvolve eigenlijk, uhm, een heel tof paper is met hele toffe resultaten, maar dat het qua methodes heel erg lijkt op dingen die zowel DeepMind zelf als anderen al hebben gedaan.
• 7:01
  Dus DeepMind had een paper twee jaar geleden waar ze min of meer hetzelfde deden. Uh, het is iets toffer en iets sneller en iets cooler en iets krachtiger.
• 7:11
  Vooral omdat het onderliggende model, dus ze gebruiken Gemini, uh, Google's taalmodel, veel beter is geworden.
• 7:17
  Maar de methode eromheen, dus dat je een taalmodel hebt die komt met oplossingen en met nieuwe algoritmes en met nieuwe optimalisaties. En dat je dan kijkt van: hoe goed werkt dit algoritme?
• 7:30
  En als het beter werkt, dus je komt bijvoorbeeld met twee oplossingen vanuit het taalmodel. Dan kijk je welke oplossing het beste werkt.
• 7:37
  Je neemt die oplossing en vanuit die oplossing, uh, uh, creëer je eigenlijk weer nieuwe oplossingen. En zo ga je door en door en door.
• 7:44
  En zolang je kan checken hoe goed een oplossing of een algoritme werkt, wat je, uh, met heel veel van dit soort computer science algoritmen, uh, heel makkelijk kan.
• 7:55
  Want je kan gewoon kijken: wordt het efficiënter of wordt het niet efficiënter? Dus zolang je dat kan controleren, heb je eigenlijk een taalmodel die dingen uitvindt.
• 8:04
  Een checker die checkt hoe goed het is en dan een soort evolutionair proces die vanuit die oplossing weer nieuwe oplossingen maakt. Ja. Dus dat is superkrachtig. Maar ik weet niet of dit paper per se zo nieuw is.
• 8:17
  Ja, ik denk ook als ik, als ik voor jou mag spreken, Wytse, dat de reden waarom je er enthousiast van wordt, is omdat het weer een stapje dichterbij lijkt te zijn in dit proces van AI's die AI's beter maken.
• 8:30
  Is dat de reden waarom je hier enthousiast van werd? Nou, ik denk dat, uhm, sowieso vind ik het wel interessant, uh, het idee van: blijkbaar is er vooral model swapping, hè.
• 8:39
  Dus er zit gewoon een sterker taalmodel in op een idee wat al was en al gevalideerd was.
• 8:44
  Hè, dus misschien als ik jou zo hoor, Michiel, zeg je eigenlijk: ja, als je mee had gelezen in eerdere papers, hè, wat ik niet heb gedaan in dit geval binnen deze. Nee, maar ik- Dat ze hetzelfde trucje herhalen.
• 8:54
  Ja, dan had, dan had je dit. Dan had je eigenlijk kunnen zeggen: ja, als je daar de laatste Gemini inklapt, dan ga je waarschijnlijk wel veel interessantere dingen krijgen.
• 9:01
  Toch jongens, ik vind het heel fijn dat jullie de hype eruit blazen. Uh, dat is prima, maar dit spreekt- Ik doe hem nog steeds wel, hoor. Ja, het spreekt natuurlijk enorm tot de verbeelding.
• 9:10
  En, en Michiel, jij bent AI, uh, veiligheidsonderzoeker. Zeg je dat zo in het Nederlands? AI safety researcher. Ja. En je bent, ik neem aan dat dit een belangrijk component is in jouw denken.
• 9:21
  Hoe dat de manier waarop wij als maatschappij en als mensen ons hebben te verhouden tot AI houdt heel, gaat heel erg samen op met dit idee van AI's die zichzelf verbeteren. Z-zeg ik dat goed? Ja, zeker.
• 9:35
  En ik denk dat, uhm, mensen hebben het al, nou, wat is het, uh, uh, 20 jaar over de singularity. En het was altijd dit begrip dat computers computers maken en computers computer verbeteren.
• 9:48
  En dit begrip dat een soort van ontastbaar was en honderden jaren weg leek, uh, dat komt nu wel heel dichtbij. En ik denk ook, ja, wat ik al zei, dat deze soort algemene innovatie.
• 9:59
  Dus je hebt een bedrijf in Japan, Sakana AI, uh, die echt heel erg tof werk doen, ook in dit veld.
• 10:04
  Dus AI's, AI scientists noemen ze het, dus AI's die eigenlijk nieuwe machine learning methodes bedenken, uh, dus nieuwe, nieuwe neurale netwerken, nieuwe manieren van optimaliseren.
• 10:16
  En ik denk dat dit algemene veld is superinteressant en wordt heel erg belangrijk en gaat ook echt heel erg zorgen voor een versnelling van het, uh, veld in de volste breedte.
• 10:28
  En dit bedrijf uit Japan noem je omdat zij een voorbeeld zijn van een bedrijf. Ik ken dit bedrijf niet, maar zij, wat doen zij dan? Waarom, waarom, waarom noem je ze in deze context?
• 10:38
  Ja, dus Sakana AI is een, is eigenlijk Japans bet op, uh, AGI. En, uh, Sakana is, is opgericht door een, uh, Google Brain onderzoeker. Dus Google Brain was Google's Google.
• 10:51
  Voordat het Google DeepMind werd, had Google twee AI divisies: Brain en DeepMind. En hij komt van, uh, Brain en hij is teruggegaan naar Tokio en heeft daar echt een waanzinnig goed AI-team opgezet.
• 11:03
  En Sakana is heel erg duidelijk van: oké, de toekomst wordt AI's die AI's verbeteren, dus daar gaan we vol op inzetten.
• 11:11
  En zij waren in de AI-community een, uh, maand, anderhalve maand geleden, uh, groot in het nieuws omdat ze op ICLR, dat is een van de drie grote AI-conferenties, hadden zij een paper gepubliceerd dat helemaal door AI was bedacht.
• 11:28
  Dus het idee was bedacht, uh, de experimenten waren gedaan om het te valideren. Het paper was geschreven door AI en zij kwamen met dat paper door de reviews.
• 11:38
  Dus als je een, een paper stuurt naar een AI-conferentie, dan is er peer review. Dus mensen checken: is dit werk nieuw? Uh, zijn de experimenten goed? Is het goed opgeschreven? Voegt het echt wat toe?
• 11:48
  En dit paper wat helemaal was bedacht, getest en geschreven door AI, werd door de human reviewers, dus door de menselijke reviewers, uhm, werd het, uh, gezien als een nieuw paper dat echt waarde toevoegt aan het veld.En daar waren ze niet geheimzinnig over.
• 12:07
  Daar waren ze ook wel eerlijk over dat dat door AI geschreven was.
• 12:10
  Daar waren ze eerlijk over en het was ook niet op de main track, dus niet op de hoofdconferentie, maar een workshop, dus een soort zijconferentie daarvan.
• 12:19
  En ze hadden ook met de workshop organisatoren afgesproken dat ze dit mochten doen, dus dat ze een paper mochten insturen dat door AI was gemaakt.
• 12:28
  Omdat ze natuurlijk niet, uhm, uh, de, de conferentie willen spammen met, uh, duizenden AI geschreven papers. Ja, dit is, w-w-wij hebben het vaker over, over AGI in deze podcast.
• 12:41
  Uh, dit is een van die momenten, Wytse, waar, waar je, bij, waar je, waarvan jij zegt: we gaan de komende tijd gaan we elementen zien waardoor we erachter komen dat dingen die we nu nog niet, uh, voor mogelijk houden met computers, dat die l-, dat die eigenlijk op hele, hele grote snelheid langzaam aan al die klaphekjes zijn aan het vallen naar elkaar.
• 13:04
  En daar hoort dit, dit dus bij. Zo'n paper die geschreven is door AI en die door peer review heen komt. Ja, ik denk dat het een beetje de witte rook, hè, in het Vaticaan, zeg maar.
• 13:12
  Je, i-ik zie dan een soort van 12 schoorsteentjes naast elkaar staan en iedere keer gaat er een, komt er een beetje rook uit. En ik, ik vind het wel, dus ja, je hebt gelijk.
• 13:19
  En ik vind het wel interessant om eigenlijk van jou te horen, Michiel, dat je zegt: ik, ik was daar eigenlijk al. Als in: ik ben niet zo verbaasd over deze paper, want die lag gewoon in de lijn.
• 13:28
  Sterker nog, het was eerder eigenlijk al. Je, je praat eigenlijk vind ik best wel casual [gniffelt] over het idee dat natuurlijk kan AI AI verbeteren, nat-, of zo.
• 13:37
  Terwijl je het ook net nog even zei: we dachten dat het 100 jaar weg was. Ja. Ik heb, ik bedoel, Alexander en ik worden ervan beticht, op de positieve zin, dat we dus [gelach] in een rare AI-bubbel.
• 13:46
  Maar jij doet nu naar ons alsof wij. Maar laat me daar een vraag van maken. Wat, wat is, wat, hoe denk je dat wij, uh, in de maatschappij, uhm, onderschatten over, uhm, over dit element specifiek?
• 14:00
  Computers die computers beter maken. Waar, waar zou jij nu, hoe zou jij beschrijven waar dat nu staat, dat veld? Ik denk: we zijn nu op het punt, uhm, dat het begint te werken.
• 14:13
  Dus dat heel veel van de code bij grote AI-bedrijven wordt geschreven, uh, door AI. Dat, uh, onderzoekers, uh, met AI, uh, gesprekken hebben over, om feedback te krijgen op hun ideeën, om nieuwe ideeën te krijgen.
• 14:28
  Dus eigenlijk zijn we nu in een soort tussenperiode waar, uh, de innovatie binnen AI-onderzoek niet meer alleen van mensen komt, maar in een, uh, soort samenspraak met, uh, de chatbots waar die bedrijven intern toegang toe hebben.
• 14:43
  En ik denk dat we binnen een jaar, twee jaar, dat we op een punt zullen zijn dat [kucht] er gewoon hypotheses worden getest elke dag, dag en nacht, die komen van, uh, AI-agents.
• 14:58
  Dus ik denk eigenlijk, i-i-, niet dat dit heel ver weg is, dat dit echt op een industriële schaal, uhm, getest en gebruikt gaat worden.
• 15:08
  En nu wordt het eigenlijk al gebruikt, maar dus meer via de soort van menselijke AI-onderzoekers. En is dat al dat onderzoek, gaat het allemaal over het verbeteren van AI zelf?
• 15:19
  Of, zeg maar, wat is de verhouding van waar deze, deze computertijd eigenlijk op gaat aan het v-, bij die AI-bedrijven die hun eigen AI aan het verbeteren zijn?
• 15:28
  Of in hoeverre, uh, doen ze dit ook voor andere, uh, s-, uh, delen van de wetenschap?
• 15:34
  Ja, uiteindelijk dus, uh, DeepMind is daar een beetje een uitzondering op de grote drie of grote vier, afhankelijk vanaf welke je erbij wil rekenen, uhm, dat zij ook een AI for Science team hebben.
• 15:46
  En daar wordt ook gekeken naar: kunnen we, uh, uh, kunnen ze nuclear fusion verbeteren? Kunnen ze biolog, uh, biologieonderzoek verbeteren? Dus, uhm, AlphaFold was een grote doorbraak daarin.
• 16:00
  Uh, maar de meeste AI-bedrijven die focussen vooral intern, dus op AI beter maken en een beetje op grote, uh, enterprise klanten.
• 16:10
  Dus stel jij hebt een grote, uh, telefoonbedrijf, uh, uh, telefoniebedrijf en die heeft een hele grote klantenservice.
• 16:18
  Dan ga je kijken met dat bedrijf van: hoe kunnen we, uhm, jullie agents maken die, uh, helpen om jullie proces te verbeteren. En die agents, die zou je dan weer kunnen laten creëren door AI. Mhm.
• 16:33
  Dus dit is wat mensen agent scaffolding noemen. En dat is eigenlijk waar je zegt: ik heb een probleem. Mijn probleem is dit. Dit is de definitie.
• 16:41
  Op dit probleem heb ik een dataset met goede antwoorden en slechte antwoorden. Dus ik weet wat goed en slecht is.
• 16:46
  En nu gaan we niet direct een taalmodel optimaliseren op dat probleem, maar gaan we kijken: kunnen we scaffolding, dus kunnen we een soort, uh, uhm, taalmodellen die samenwerken met elkaar, uh, in een soort groter netwerk van taalmodellen, in een soort groter netwerk van agents die samenwerken met elkaar om dit probleem op te lossen.
• 17:08
  En natuurlijk is het makkelijker om dat te doen voor AI-onderzoek zelf, want dan kan je het binnen het bedrijf houden.
• 17:14
  Maar dit gaat ook een grote impact hebben op, uh, de klanten die met die, uh, AI-bedrijven samenwerken.
• 17:20
  Wat vind je het coolste voorbeeld wat je in deze, in dit voorbeeld hebt gehoord van waar mensen aan werken of wat ze, uhm, ja, wat al in de praktijk gebruikt wordt?
• 17:32
  Ik denk dat Sakana AI, dus waar je zegt van: oké, dit gaat er komen en wij gaan ons hele bedrijf, alles hoe we onderzoek doen vanaf dag één inrichten op het feit, uhm, dat we AI-onderzoek gaan automatiseren.
• 17:46
  Want wat denk ik lastig is voor heel veel AI-onderzoekers zoals ik, dat wij 10 jaar lang in AI-onderzoek werken, onszelf als geniuses zien en opeens worden voorbijgestreefd door, uh, een AI-agent die ons zou moeten helpen met onderzoek doen en betere ideeën zou moeten hebben dan wij.
• 18:06
  Dus ik denk wat Sakana heel tof doet, dat ze zeggen: het zit in onze cultuur dat wij AI-onderzoek zelf automatiseren en wij zijn niet bang om onszelf quote-unquote buitenspel te zetten.
• 18:17
  Sterker nog, dat is het doel.Het is, uh, en, en want het in jouw verhaal, iets eerder in je verhaal had je het net over: er is een soort tussenfase nu, hè.
• 18:26
  Dus als, als ik het woord tussenfase hoor, dan weet ik: dat is dus een eindige fase.
• 18:30
  Het voelt nu een beetje alsof onderzoekers, uh, aan de ene kant een A4'tje met onderzoek laten uitprinten door een machine en die dan aan de andere kant in een scanner stoppen en dan weer [gniffelt].
• 18:38
  Er zit een soort human in the loop in dat proces, hè, van een soort node in het netwerk. Denk jij dat die, uhm, ik bedoel, denk je, gaan die nodes op andere plekken zitten?
• 18:48
  Gaan er minder nodes tussen zitten, human nodes?
• 18:50
  Of zie jij eigenlijk ook wel van: ja, weet je, op een gegeven moment wordt dat gewoon een bottleneck, die human node ertussen die nog interpretatie moet doen van zo'n paper.
• 18:57
  Misschien kunnen we gewoon meteen naar productie of kunnen we gewoon meteen naar het volgende algoritme. Want zitten wij daar dan nog te peerreviewen of zo?
• 19:04
  Ja, dus dit is een beetje een vraag: wat denk je-- dus, dit, dus als ik, als je me vraagt: wat denk je dat er gaat gebeuren, denk ik dat er steeds minder human in the loop zal zijn.
• 19:12
  Want, uhm, zeker met AI-onderzoek, als jij kan-- stel je doet pre-training, dus dat is de eerste fase van een taalmodel maken.
• 19:20
  Dan heb je een hei-heel duidelijk, uh, doel en dat is het, uh, beter voorspellen van het volgende woord, dus van de volgende token in een testdataset.
• 19:32
  En, dus je kan heel duidelijk meten of, en je weet ook hoeveel compute je spendeert aan bijvoorbeeld een operatie of aan training.
• 19:40
  Dus dan ben je eigenlijk in een omgeving waar je heel duidelijk kan meten, uh, wat goed en slecht is.
• 19:45
  En als je in zo'n omgeving zit waar je heel duidelijk kan meten, uh, wat een goede en een slechte innovatie is, dan kan je dingen als Alpha Evolve gebruiken om te zeggen: oké, dit is misschien een idee waar ik als onderzoeker mee start, maar dat, uh, algoritme, dus die Alpha Evolve, die gaat zelf met een taalmodel daar op voortborduren en nieuwe ideeën maken, testen.
• 20:08
  Uh, en uiteindelijk kan het wel zijn dat voor je dat in de grote training run doen. Dus die bedrijven doen eens in de zoveel maanden grote training run, waar ze soms honderden miljoenen in stoppen.
• 20:19
  Dat je dan zegt: oké, we gaan even alles checken wat het AI-model heeft gedaan om bijvoorbeeld te zorgen dat hij niet per ongeluk een test heeft uitgezet of dat hij niet een soort hack heeft gevonden om, uhm, uh, om de test heen te gaan.
• 20:34
  Dus ik denk dat je steeds minder human in the loop zal zien. Nou, als je me vraagt: wat zou er moeten gebeuren? Dus de normatieve vraag.
• 20:41
  Dan denk ik dat we zeker human in the loop moeten houden omdat, uh, we zeker van willen zijn dat die AI dingen doet die in lijn liggen met wat we willen dat hij doet.
• 20:51
  Maar het risico is natuurlijk dat, dat, uh, dat er een economische druk is om steeds meer mensen uit die, uh, uh, soort van onderzoekslijn of onderzoeks-, uh, groep te halen. Ja, om sneller te gaan. Exact. Ja.
• 21:08
  Dit leidt natuurlijk allemaal naar, uhm, een concept wat, uh, uhm, veel genoemd wordt en waar wij in deze podcast ook veel over praten, namelijk AGI, maar waar voor iedereen een andere definitie heeft.
• 21:20
  Wat is jouw eigen definitie van Artificial General Intelligence? Mijn eigen definitie is, de theoretische definitie is een AI die alle cognitieve taken kan uitvoeren die mensen kunnen.
• 21:35
  Uh, de meer praktische definitie is denk ik de, uhm, remote worker definitie die nu mensen soms hanteren is: kan je een, je hebt een bedrijf en je hebt een knowledge worker, een social media manager of een customer service agent die remote werkt, dus die nooit op kantoor is, uhm, die alleen maar spreekt via Slack.
• 21:57
  Uh, als die remote worker makkelijk kan worden overgenomen door een AI, dan ben je, denk ik, uh, en je kan dat doen overal in de economie waar je remote knowledge workers gebruikt.
• 22:10
  Dan ben je denk ik, uh, in ieder geval bij een vorm van AGI. En, en wat denk je dat de meeste mensen niet begrijpen aan de impact daarvan als dit zover is?
• 22:23
  Ik denk dat veel mensen denken dat op de een of andere manier we, uh, mensen in de loop zullen houden. Dus mensen zeggen vaak: oké, maar, uh, wat die AI gaat doen, die komt dan met allemaal, uh, oplossingen en ideeën.
• 22:39
  Maar er is still een mens die op de knop moet drukken en die moeten ze, moet zeggen: dit idee is goed en dit idee is slecht.
• 22:46
  Maar waar mensen denk ik niet over nadenken is dat ook die persoon die op de knop moet drukken van: het idee is goed of het idee is slecht, dat dat ook beter kan worden gedaan door een AI.
• 22:56
  Dus als je AGI serieus neemt, heb je alle cognitieve taken, of het nou het genereren is of het checken is, kunnen beter worden gedaan dan een AI. Dus ik denk dat ze dat een soort qua impact op arbeid onderschatten.
• 23:10
  En dan is er nog, uhm, companionship, dus vriendschappen over AI. Uhm, er is een soort het democratische of het geopolitieke risico.
• 23:20
  Dus als overal bedrijven volledig geautomatiseerd worden, dan is er een soort idee, weet je, dan gaan we allemaal op het strand zitten en, uh, dan gaan we onze hobby's doen en leuke dingen doen en met onze kinderen zijn, uh, en met onze huisdieren zijn en op vakantie.
• 23:36
  Maar uiteindelijk hebben wij deels zulke stabiele en goede en gezonde democratieën, uh, althans in, in [gniffelt], in een deel van de landen en vaak, uhm, omdat wij macht hebben door dat wij werknemers zijn.
• 23:52
  Weet je, wij kunnen het werk neerleggen en dan, uhm, brengen we schade toe aan de economie, dus dat geeft ons macht.
• 23:58
  En als alles uiteindelijk door AGI wordt overgenomen, dan is het de vraag: waarom zou de overheid nog, uh, mensen onderwijzen? Waarom zou de overheid goed voor mensen zorgen?
• 24:11
  Waarom zullen kapitaalkrachtige mensen, uh, zorgen voor de mensen die minder kapitaalkrachtig zijn?
• 24:16
  DusJa, ik, ik, ik kan heel lang doorgaan over wat mensen denken Als ik je mag, uh, onderbreken, want ik, ik, ik hoor honderd haakjes waar ik op in wil gaan [Alexander lacht] in mijn trouw.
• 24:26
  Maar allereerst su-super bedankt dat je het wat mij betreft zo helder uitlegt nu, want dit zijn heel veel punten waar ik denk dat er toch nog wel een stukje naïviteit is.
• 24:35
  Onwetendheid, een stukje in mijn ogen onterecht vertrouwen in een soort van: het komt allemaal wel goed schatje of zo. [lacht] Dat ik denk: nou ja- Er blijft altijd wel human in the loop.
• 24:44
  Ja, het komt en dan ga ik doorvragen: waarom dan? En dan wordt het vaak toch wel stil of zo. Maar kan jij voor jezelf, uh, hoe, hoe kijk jij daarnaar? Hoe verklaar jij, uhm, wa-wat is er, wat is er aan de hand? Zeg maar.
• 24:57
  Ik be-ik bedoel, we zijn geen psycholoog, hoor, maar wat, wat is er aan de hand? Waarom, wa, zijn mensen dat onderschatten? Geloven ze het eigenlijk niet? Is, is de fantasie te klein? Uh, zijn er andere problemen groter?
• 25:08
  Wa-wat is, wat, wat, Alexander en ik frustreren ons een beetje.
• 25:10
  Er zit, er zit toch wel een bepaalde zorg dat wij denken: zijn wij nou een beetje, een beetje, een beetje gek aan het worden of, of moeten we dit wel echt gewoon harder van de daken gaan schreeuwen dat hier iets mee moet?
• 25:21
  Ja, dus ik denk: je moet sowieso harder van de daken schreeuwen. En ik denk dat jullie, uhm, een hele goede daad doen door het hard van de daken te schreeuwen.
• 25:28
  Uhm, ik denk dat-- aan de ene kant is het natuurlijk heel lastig om te bevatten dat, uhm, e-, nu voor veel van ons werk zo'n groot en belangrijk en ook leuk onderdeel is van ons leven.
• 25:39
  Dat we daar niet meer op dezelfde manier, uhm, ons, weet ik veel, ons zijn of hoe we naar onszelf kijken uit kunnen halen. Dus ik denk dat het gewoon heel lastig is om dat echt te bevatten.
• 25:52
  Weet je, wat voor impact dat echt gaat hebben. En dat het heel, uh, soort, uh, bang makend is dat, dat het heel veel angst geeft om daar over na te denken. Ook voor mij. Weet je, ik haal zoveel plezier uit mijn werk.
• 26:05
  Uh, ik vind het fantastisch. Ik vind, uh, het, uh, werken met studenten, met postdocs, het onderzoek doen. Ik vind het allemaal fantastisch.
• 26:13
  Maar ik weet ook dat over vijf of tien jaar dat bijvoorbeeld het lesgeven, uh, dat, uh, dat waarschijnlijk niet meer door mij gedaan gaat worden. En dat is af en toe best lastig om te bevatten.
• 26:25
  En dan het andere ding is dat uiteindelijk de mensen die veel, uh, nadenken over impact op de samenleving zijn economen en economen hebben heel lang bij AI gezegd: oké, dit is een andere technologische revolutie.
• 26:38
  Technologische revoluties, uh, zorgen altijd weer voor nieuwe banen.
• 26:43
  We hebben dat gezien bij alle vorige technologische revoluties en zij maken eigenlijk altijd een argument van: de toekomst, uh, is uiteindelijk een soort extrapolation van wat er eerder is gebeurd.
• 26:54
  En als je dat argument maakt, dan is het heel lastig om tot de conclusie te komen: oké, dingen gaan nu echt veranderen en we gaan nu echt niet komen met, uh, nieuwe banen die, uhm, iedereen die nu werk heeft, uh, weer werk zullen geven.
• 27:10
  Dus ik denk dat er, uh, ja, dat het zowel intuïtief als als je daar op bepaalde manieren bepaalde frameworks over nadenkt, dat het lastig is om te beseffen dat dingen echt anders gaan worden.
• 27:21
  En AI, deze, deze discussie focust zich nu op de arbeidsmarkt. De impact van AGI op de arbeidsmarkt. Uhm, die grote AI-labs zeggen allemaal dat er juist meer werk gaat komen door AI. Geloof je dat dan niet?
• 27:36
  Ik, i-, het hangt ervan af wie je vraagt bij grote AI-labs, denk ik. Ik denk, uh, uiteindelijk- Het praatje wat ze ophouden voor, voor, voor senaten en voor journalisten. Ja, uiteindelijk weet ik het antwoord, uh, niet.
• 27:51
  Uh, weet je, uiteindelijk kan ik ook niet in de toekomst kijken, maar ik zie in ieder geval niet, uhm, welke banen dat dan, uh, zouden zijn.
• 28:00
  Weet je, er zijn mensen die zeggen: oh, maar in de toekomst wordt het dan misschien juist luxe om, uh, mensen aan te nemen.
• 28:07
  Dus, uh, als je een hele luxe winkel hebt in de PC Hooftstraat, dan zit daar opeens een, uh, menselijke receptionist, want dat straalt juist luxe uit. En dan denk ik: ja, dat, dat geloof ik.
• 28:19
  Weet je, ik geloof dat er dat soort banen zullen zijn en ik geloof dat dat luxe uit zou stralen.
• 28:23
  En dat er ook bepaalde ge-gereguleerde banen zijn en dat we in de politiek nog mensen willen en misschien in de gezondheidszorg en in de advocatuur nog mensen willen, uhm, maar dat dat niet op dezelfde, eenzelfde soort arbeidsmarkt is die voor iedereen werk kan verschaffen als die we nu hebben.
• 28:42
  En je zegt ook eigenlijk, uh, in de advocatuur en in de gezondheidswil-zorg wil je dan wel mensen, maar ook veel minder mensen als ik je goed begrijp. Ja, ja, ook veel minder mensen.
• 28:52
  En, uh, er zit natuurlijk ook een soort geopolitieke spanning dat als er andere landen zijn die meer automatiseren, uh, dan, uh, uh, land A en land B.
• 29:03
  Land A heeft, uh, re-, uhm, wetten dat er overal human in the loop moet zitten, uh, bij elk bedrijf en overal moet iemand- Waarschijnlijk de EU. Misschien heeft iets voor ons.
• 29:13
  [lacht] Die zegt of het, uhm, uh, of een antwoord goed of slecht is en een ander land heeft dat niet, dan is het uiteindelijk waarschijnlijk dat die economie die dat niet heeft, uh, beter draait.
• 29:26
  En het is voor mij heel lastig om deze dingen te zeggen, omdat ik het liefst zou willen dat we geopolitiek met iedereen, uh, afspreken.
• 29:34
  Oké, uh, het wordt misschien minder efficiënt, maar we willen juist mensen in elk proces houden om, uh, te zorgen dat mensen ook aan de macht blijven.
• 29:43
  Dat, uhm, mensen, uhm, uh, ja, een soort, uh, zeggenschap hebben over hoe de samenleving draait.
• 29:52
  Dus het is voor mij heel lastig, want ik het liefst zou ik hebben dat we geopolitiek, uh, afspreken met elkaar van: oké, we gaan veiligheid vooropstellen, maar als alleen de EU of alleen Nederland dat doet, uh, dan, uh, gaat dat uiteindelijk- Maar eigenlijk als ik jou goed begrijp, zeg je: uhm, AGI, dat gaat gebeuren over hoe lang eigenlijk?
• 30:13
  Wanneer gaat het klaphekje om?Ja, het, ik, het is een beetje aan wie je het vraagt. Ik denk drie, vier jaar misschien Drie, vier jaar. En dat is dan, hoe, hoe kwantificeer je dan of dat moment gebeurd is, ja of nee?
• 30:25
  Als alle 12 die schoorsteentjes, uh, roken natuurlijk. Exact. Dus als, uh, een AI alle cognitieve taken kan, kan uitvoeren, hè.
• 30:32
  Dus dat betekent nog steeds dat er in sommige gereguleerde industrieën, uhm, misschien we zeggen: oké, er is nog steeds een dokter, maar die kan het uitvoeren.
• 30:40
  Als die dokter eigenlijk, uh, zodra de patiënt weg is, dat AI zegt: oké, ik heb het gesprek gehoord en, uhm, dit is het ziektebeeld, dit is wat je moet doen. Ik heb alles al ingepland.
• 30:51
  Dan heb je wat mij betreft alsnog AGI. Dus dan heb je een soort, want dat is het beeld wat je eigenlijk schetst. Er zijn wel mensen aan het werk over, nou ja, technisch gebeurt het dan over vier jaar.
• 31:01
  Er zal nog wat tijd overheen gaan voordat het overal doorgevoerd is en al die soort van efficiëntiewinst of zo die overal te halen is, dat dat ook daadwerkelijk in de praktijk wordt toegepast.
• 31:09
  Maar waarschijnlijk snel als ik jou goed begrijp, want er is allerlei competitieve druk. Uhm, dan heb je mensen die nog over zijn in de arbeidsmarkt omdat wij als mensen dat eisen.
• 31:21
  Uh, dus bijvoorbeeld dat je alsnog met een dokter praat omdat je dat wil, in plaats van te videobellen met een dokter. Dat zijn de redenen waarom er nog werk is voor mensen.
• 31:30
  Dus er is niks fundamenteels aan wat die mensen kunnen. Uh, mensen die met hun hoofd of met hun, met hun, uh, zeg maar, uh, remote werk zouden kunnen doen. Er is niks fundamenteels daaraan wat nog
• 31:44
  nodig zou zijn over vijf jaar, als ik jou goed begrijp. Ja, en dit zijn cognitieve taken, hè. Dus, uh, robotica gaat veel langzamer. Dus een, uh, een, een hele goede stukadoor, dat i-i-is een AI voorlopig nog niet.
• 31:59
  Nee, maar toch, cognitieve taken, dat is een heel groot deel [lacht] van wat wij met z'n allen aan het doen zijn de hele dag. Ja, ja, en ik denk ook dat het niet is dat we opeens dat moment voelen.
• 32:09
  Dus we krijgen gewoon dat we steeds vaker vragen van: oh, hé, zou je, ik heb een draft geschreven voor een, uhm, uh, ik wil een poster uitsturen om, uh, mijn bedrijf op social media te promoten.
• 32:22
  Ik heb een draft geschreven. Zou je wat feedback kunnen geven? Weet je, dat is het stadium waarin we nu zitten. Uh, over een paar maanden zitten we misschien in het stadium van: hé, dit zijn de doelen die ik heb.
• 32:31
  Uhm, kan jij een eerste draft schrijven? Over een jaar zitten we hier. Dit is de API-toegang tot ons socialmediakanaal, uhm, en, uh, dit is onze, uh, user database. Zou je een, uh, draft kunnen schrijven?
• 32:46
  En over, uh, twee jaar zal die volledig, of over drie of over vier jaar zal die volledig autonoom wat verschillende, uh, uh, uh, berichten testen en er uiteindelijk eentje uitkiezen en dat dan aan iedereen laten zien.
• 33:00
  Ik denk dat het heel erg langzaam gaat en we daardoor niet echt het moment zitten, hebben van: shit, nu is het menens. Ja, ja, ja.
• 33:07
  Maar het is, het voelt voor mij ook een beetje alsof, hè, stel je hebt een, uh, oude directeur ergens van een bedrijf, familiebedrijf, heeft ie lang gerund.
• 33:13
  Uh, zijn zoon wil het niet opvolgen, dus hij huurt iemand in als de volgende, uh, dus tijdelijke interim-CEO en dat wordt de nieuwe CEO.
• 33:19
  En die gaat hem eerst schaduwen, zeg maar, een paar maanden, een paar jaar misschien wel. En die kijkt mee.
• 33:23
  En langzaam draagt hij die taakjes dag voor dag, week voor week, maand voor maand langzaam over aan zijn interim-CEO. Want er is al afgesproken bij aanname: jij wordt de nieuwe baas, hè.
• 33:32
  Dus eigenlijk is het een handover die daar, uh, uh, plaatsvindt. Een expliciete afgesproken handover.
• 33:37
  Maar het voelt nu alsof wij ook in een handover zitten, uh, waarin we niet met elkaar hebben afgesproken dat het een handover is. Als je begrijpt wat ik bedoel. Jazeker.
• 33:47
  En waarbij we ook niet echt de goede middelen hebben.
• 33:50
  Dus Anthropic heeft een hele, uh, uh, tof project, uh, Clio, waar ze eigenlijk een soort privacy preserving manier hebben om, uh, uh, analyses te doen op mensen die Claude tot AI gebruiken.
• 34:03
  En een van de analyses die ze doen noemen ze de economic index. En daar kijken ze: hoe gebruiken mensen Claude AI?
• 34:10
  En aan de hand van de prompts kunnen we bedenken: voor welke banen wordt Claude AI mor-meer gebruikt en voor welke wordt het minder gebruikt? En dan kunnen ze over de tijd zien hoe dat gebruik varieert.
• 34:21
  En ik denk dat alle grote bedrijven dat moeten doen, zodat we ook kunnen zien: oh, daar gaat het in één keer nu heel snel, daar gaat het niet snel. Uh, of het gaat, uh, in de hele economie heel snel.
• 34:31
  Want als klant van, uh, stel je bent klant van T-Mobile, dan zal je van buitenaf, zal je gewoon zien dat je bedrijf nu een betere service geeft dan het vorig jaar geeft.
• 34:42
  En, uh, dus je zal niet echt doorhebben dat, uh, zo'n heel bedrijf aan de achterkant, uh, aan het automatiseren is. Dus we moeten heel goed gaan monitoren: waar wordt AI gebruikt?
• 34:54
  En heel erg proberen voorspellingen te maken, onder andere met behulp van AI zelf. Dus te proberen te voorspellen, uh, waar gaan dingen heen? Waar in de economie, uhm, zal meer automatisering plaatsvinden?
• 35:08
  Wat voor rollen zijn we aan het automatiseren? Uhm, waar hebben we het idee dat mensen eigenlijk nauwelijks meer in de loop zitten? Zijn daar andere systemen die in de loop zitten?
• 35:18
  Hoe zorgen we dat er toezicht is op, uh, wat AI's doen? Dus ja, we moeten heel erg soort systemen creëren die, uh, dit gaan meten en, uh, die toezicht kunnen geven over AI-systemen.
• 35:32
  Verwacht jij dat, uhm, wat ik een beetje merk is, ik heb het er ook met veel mensen in mijn omgeving over gehad en die geven eigenlijk aan: joh, wij reageren gewoon minder emotioneel en primitief, of zeg ik wat primair moet ik zeggen, uh, op fantasieën.
• 35:45
  Hè, niet fantasieën als in je, wat je zegt is niet waar, maar scenario's. Laten we de positieve kant maken. Dus ze zeggen: joh, Wytse, ik kan jou volgen. Ik ken je al een tijd.
• 35:53
  Ik, ik durf echt wel te geloven dat jij niet hele, uh, onzin aan het uitkramen bent. Maar ik merk tegelijkertijd: ik kan hier nog niet zoveel mee.
• 36:01
  En sommige van die mensen de laatste maanden die beginnen mij nu te appen met: ik denk dat ik je nu begin te snappen, want iets heeft hen geraakt. Ze hebben deep research gedaan.
• 36:09
  Ze hebben een videootje van VIO2 gezien, iets, en dan, en dat is dan een soort van, uh, validatie van die scenario's. Ik denk dat, uh, Alexander en ik dat hier een beetje aan het doen zijn.
• 36:18
  Maar kan jij danWat ik nu een beetje om me heen roep, hè.
• 36:21
  Ik geef veel lezingen en dan krijg ik allemaal organisaties en overheid die allemaal adviezen aan mij vragen dat ik zeg: hé, ik ben ook maar een of andere gek, weet je wel.
• 36:28
  Nee, hoor, ik, ik probeer dan natuurlijk een beetje mijn best te doen om daar iets zin-zinvols over te zeggen.
• 36:32
  En een van de dingen die ik dan zeg is: ga er nou, dit, dit scenario is groter dan 10%, hè, veel groter eigenlijk als ik jou zo hoor dat, dat we gewoon binnen, uh, vijf jaar, uh, oog in oog staan.
• 36:43
  In ieder geval virtueel oog in oog, hè, in Teams [lacht] met iets dat op de achtergrond een uurtje kan gaan werken aan een pdf en een g-goed gesprek met ons kan voeren als een collega in een datacenter.
• 36:52
  Uhm, en dat ik, dat, dat, daar kunnen wij ons nu al op voorbereiden.
• 36:56
  De, de, de gesprekken al voeren, de, de documenten al klaarleggen en, en de raamwerken al ontwerpen, zodat wanneer de rest meekomt omdat die, omdat die hun voorbeeld hebben gezien, of hun softwarepakket of hun, ja, wat hun doet overtuigen dat het daadwerkelijk waar is.
• 37:12
  En dat jij dan gewoon kan zeggen: nou, ik ben heel blij dat jij er nu ook bent. Hier heb je een stapel papieren, whatever. Hier heb je een chatbot. Uh, laten we maar gaan kijken.
• 37:21
  Mijn vraag aan jou is: ben jij dat nu ook aan het doen voor je gevoel, zeg maar?
• 37:24
  Als in: ben jij nu omdat je dit zo gelooft ook een beetje aan het voorbereiden en voorsorteren van: oké, laat ik maar alvast wat dingen klaarleggen. Ja, wel een beetje qua leven dus bijvoorbeeld ik woon nu in Amerika.
• 37:38
  Ik, uh, zou op de lange termijn liever teruggaan naar Europa, uh, naar Londen of Amsterdam, waar ik vandaan kom.
• 37:46
  Uh, alleen ik denk nu van: hier kan ik meer impact hebben op dit moment en het is toch nog maar drie of vier jaar dat, uh, die impact echt belangrijk gaat zijn. Uhm, dus ik kan net zo goed daar nu voe-vol op inzetten.
• 38:03
  Ik ben nu midden 30, weet je, voor m'n, uh, uh, 40e zal er AGI zijn. Dan ziet toch alles er anders uit.
• 38:10
  Dus ik kan maar beter nu, weet je, ik werk keihard, maak hele lange dagen en soms lig ik in mijn bed en denk ik: ah, werk ik niet wat te hard?
• 38:18
  En dan denk ik: ah, het is toch nog maar, uh, vier, vijf jaar dat, uh, ik in ieder geval- Dit is toch bizar eigenlijk. Dit is toch hartstikke bizar wat je nu zegt.
• 38:26
  Als in ik, het is hartstikke rationeel, hè, dat wil ik, maar het is eigenlijk, we zitten hier een soort van met z'n drieën dit gesprek te voeren. Het is toch bizar? Ja, het is heel bizar. Ja, het is heel bizar.
• 38:36
  En het is grappig, want op, op, uh, MIT is iedereen bezig altijd met tenure.
• 38:40
  Dus hoe het op Amerikaanse universiteiten werkt: je bent, uhm, op een tenure track en, uh, na zes, zeven jaar krijg je dan tenure en dan mag je de rest van je leven blijven. En tenure is een soort de holy grail.
• 38:51
  Als je tenure hebt op een grote Amerikaanse, uh, onderzoeksuniversiteit, dan heb je voor altijd, weet je, de beste studenten, de beste postdocs, veel onderzoeksgeld en, uh, en ben je helemaal vrij om welk onderzoek te doen dan o-, te doen, uh, wat je wilt.
• 39:06
  En ik ben daar denk ik minder mee bezig dan, uh, m'n collega's die ook nog tenure moeten krijgen. Omdat ik ook denk: jongens, tenure, zes, zeven jaar weg. De wereld gaat er zo anders uitzien.
• 39:16
  Misschien, uh, zijn universiteiten helemaal niet meer de manier om onderzoek te doen.
• 39:22
  Misschien is die hele rol van onderwijzen, die, uhm, uh, superbelangrijk is natuurlijk bij universiteiten, is die helemaal niet meer relevant.
• 39:29
  Gaat niemand meer een vier jaar undergrad education doen, dus een bachelor education doen om dan een conventionele carrière te gaan doen.
• 39:37
  Dus als ik nu ga mikken of ga nadenken over iets wat zes, zeven jaar weg is, ja, dan gebruik ik mijn tijd echt niet goed. Uh, dus ik denk er heel erg over na.
• 39:45
  Maar ik ben met je eens dat het, uh, gek, dat soms als ik terug ben in Nederland, dat, uh, mensen net als bij jou ook denken dat ik, uh, ja, dat ik iet-iets, iets verkeerds eet of drink daar in Amerika.
• 39:58
  [lacht] En ik denk wat ik, ik weet van jou dat, voor mij was o1, hè, het eerste reasoning model van OpenAI was voor jou wel een momentje.
• 40:05
  Dat was wel een van die schoorsteentjes die ging roken zeg maar, als ik dat goed zeg. Uhm, is het nu zo dat er nog-- ik, ik wil hem eigenlijk andersom gaan stellen deze vraag.
• 40:13
  Zijn er schoorsteentjes die kunnen gaan roken, die, waar jij van zegt: hé, dit doet het eigenlijk tegenovergestelde voor mij nu.
• 40:20
  Nu gebeurt er iets, uh, waardoor ik mijn scenario weer ga aanpassen naar 10, 15 in plaats van, uh, 3 tot 5. Hmm. Dat is een hele goede vraag.
• 40:29
  Ik denk inderdaad, dus, uh, we hadden de, uh, soort GPT-series waar we telkens, uh, dus vanaf, uh, 2018, waar we telkens groter en groter en grotere modellen met meer data, uh, en, uhm, meer parameters en betere prestatie en telkens dat volgende woord beter voorspellen.
• 40:48
  Nu is de gamechanger of wat eigenlijk de, de paradigm, het paradigma waar we in zitten is die reasoning modellen, dus die nadenkende modellen.
• 40:57
  Dus bijvoorbeeld o1, maar ook Gemini, uh, 2.5 Pro, Claude 3.7 zijn allemaal modellen die eerst nadenken voordat ze een antwoord geven.
• 41:07
  Ik dacht tot een jaar geleden, voordat we o1 hadden, dus dat als ik het goed herinner september, uh, van vorig jaar, dacht ik helemaal niet dat we er binnen twee of vier jaar zou zijn.
• 41:18
  Ik dacht dat het misschien nog vijf of tien jaar kon duren, omdat dat paradigma van steeds grotere modellen, je moest een exponentieel groter model maken om een soort van, uh, klein stukje verbetering te krijgen en het leek heel erg te gaan afvlakken.
• 41:35
  En nu met die reasoning modellen hebben we een nieuw paradigma gevonden waar we eigenlijk heel erg aan het begin zitten.
• 41:39
  Weet je, het is nog geen jaar oud en waar we nog extreem veel ruimte hebben om te innoveren en te optimaliseren en om engineering te doen. Dus daarom zijn eigenlijk mijn tijdlijnen veel korter geworden.
• 41:51
  Omdat ik denk dat dit paradigma, dus, uh, nadenkende modellen, zal doorschalen tot AGI. Dus dat we eigenlijk helemaal niet meer baanbrekende innovaties nodig hebben om tot AGI te komen.
• 42:03
  Maar vanaf hieruit is het gewoon engineering en dingen bouwen en, uh, het paradigma eigenlijk alles eruit halen wat erin zit.
• 42:11
  Dat is- Nu kan het natuurlijk zijn dat het opeens afvlakt omdat, uh, o4 en o5 en o6 minder goed werken of reasoning niet goed werkt of er een ander probleem is, maar ik denk het nietMaar als ik het goed begrijp, want dat, dan is alleen nog maar verifiëren wat je zegt.
• 42:28
  Je pakt reasoning modellen zoals ze nu zijn en het is puur het element van meer computerkracht ertegen aan werpen wat de weg is naar AGI. Begrijp ik je goed? Ja, en meer verifiers.
• 42:41
  Dus hoe die, uh, reasoning modellen werken is eigenlijk, uh, stel jij wil een wiskundesom oplossen en die wiskundesom, die is precies op het randje van wat de AI aankan, dus die is eigenlijk net iets te moeilijk voor de huidige AI.
• 42:55
  Dan in plaats van één keer vragen of je die wiskundesom oplost, vraag je of je die wiskundesom duizend keer kan oplossen.
• 43:01
  En als er dan één keer het goede antwoord tussen zit, dan gebruik je dat goede antwoord om te zeggen: de volgende keer moet je het meer doen zoals dit goede antwoord.
• 43:09
  Dus dat is reinforcement learning en dat is hoe we, uh, schaken deden, hoe we Go deden, uh, hoe we al die agents in, uh, uhm, uh, computerspelletjes deden.
• 43:19
  Dat is reinforcement learning en, uh, dat, uhm, blijft, uh, denk ik doorschalen omdat je zodra je meer verifiers maakt, dus kijken of het antwoord goed of slecht is, kan je meer data genereren en dat leidt tot betere prestaties.
• 43:38
  Maar uiteindelijk zijn er nog heel veel mensen die die verifiers maken, dus die, uh, checken of een antwoord uiteindelijk goed is in, uh, theoretische natuurkunde, in wiskunde en in computer science en lastiger zou worden in andere wetenschappen en, uh, dingen die lastiger te checken zijn.
• 43:55
  En heb je dan nu wat bijvoorbeeld Sam Altman zegt, ve-, die zijn een tijd geleden eigenlijk rondom o1, hè, die hadden zij natuurlijk intern al gezien. Volgens mij heette dat toen nog iets van Orion of zo.
• 44:04
  Maar van: wij zien de weg, wij zien het pad naar AGI. Dat, dat eigenlijk echo jij dat hier toch? Dat je zegt: ja, eigenlijk is die opmerking die, die klopt.
• 44:13
  Uh, geen fundamentele uitvindingen meer nodig, uh, geen nieuwe paradigma om de finishlijn te halen. Ja, dat denk ik. Er, het enige waar nog misschien wat onzekerheid zit is long term coherence.
• 44:28
  Dus, uhm, als je een agent hebt en die moet een taak doen die een week is, die een week duurt of een maand duurt, uhm, hoe zorg je dan dat hij dat goed blijft doen? En daar zijn nu heel veel ideeën over.
• 44:42
  Dus je hebt bijvoorbeeld eerst één agent, die zet de planning uit en dan een andere agent, die doet de verschillende stappen.
• 44:48
  Uhm, dus ik denk dat we dat gaan oplossen op een manier die, uh, generaliseert, dus die voor alle soorten problemen werkt.
• 44:57
  Uh, maar daar zitten nog, uh, wat onzekerheden waardoor het zou kunnen dat het misschien nog vijf of zes of zeven jaar duurt. Wat is de status nu daarvan? Hoe lang kan zo'n agent nu aan, aaneengesloten werken?
• 45:09
  Het is, uh, dus dan kijk ik naar software engineering taken, dus naar programmeren en dan zit je op, uhm, je kijkt altijd naar de menselijke equivalent.
• 45:18
  Dus het is niet dat een agent een uur bezig is met het probleem oplossen, maar dat een mens een uur bezig zou zijn met hetzelfde probleem oplossen. En dan zit hij op een uur tot een paar uur.
• 45:30
  En je zou zeggen dat acht uur is genoeg, toch? Verdubbelt nu elke [gelach]. Acht uur is genoeg. Ja. Ja. Ook als podcasthost is een uur genoeg. Jazeker. Nou. Zeg het toch maar een keer.
• 45:40
  Staan die mensen vaak, denk ik, nog korter. Oké. Daarom maken wij steeds langere afleveringen. Ja, ik denk het. Ja, ja. Nee, maar. Daarom moet je richting Marc Ash. Ja. Vier uur. Ja. Oké, we hebben het over AGI.
• 45:53
  Betekent, en dus de, de, de gelijkschakeling aan menselijke cognitie. Denk je dat AGI automatisch leidt naar superintelligentie, waarbij dus beter wordt dan een mens kan denken? Ik denk van wel.
• 46:09
  Uiteindelijk is menselijke intelligentie, wij zijn een soort, uh, trade off, dus een soort afweging tussen hoeveel, uhm, energie hebben onze hersenen nodig, maar ook hoe groot, uh, willen we dat onze hersenen zijn om te zorgen dat we niet de hele dag met eten bezig zijn.
• 46:28
  Uh, en dus uiteindelijk is menselijke intelligentie is gelimiteerd door het lichaam waar we in zitten en door hoe we leven en hoe we ons voeden.
• 46:36
  En dat we moeten slapen en eten en dat we ook geëvolueerd zijn vanuit, uh, andere, uh, organismes.
• 46:45
  En, uh, uiteindelijk is die menselijke intelligentie is als je een soort lijn zou maken van, uhm, geen intelligentie tot een soort het maximale wat kan. En misschien is er helemaal geen maximum en is dat ongelimiteerd.
• 46:59
  Dan zijn wij gewoon een stipje op die lijn. En wij zijn een bijzonder stipje omdat het het stipje is wat wij allemaal zo goed kennen.
• 47:07
  Maar wij zijn ook maar een stipje en er is niet een soort limiet aan menselijke intelligentie dat dat een soort top is van intelligentie. En dus ik denk dat, uh, wij, uh, daar heel snel voorbij zullen gaan.
• 47:21
  En in sommige velden en domeinen zijn we er al voorbij. Mhmm.
• 47:24
  Bevindt dat niet, als je nu kijkt naar de menselijke geschiedenis, uhm, dus, uh, er is een hele geschiedenis vol met, uh, nou ja, oorlogen, maar ook revoluties, uitvindingen.
• 47:36
  Er is van alles gebeurd en als je in die tijd leefde, dan zou je kunnen zeggen: nou, ik leef in een, in een interessante tijd.
• 47:42
  Maar wat wij hier nu met elkaar zitten te bespreken, voor mij voelt het, dat is een soort van bias die ik dan heb voor mijn eigen leven misschien, dat ik denk: als je nou op een plek in de geschiedenis geboren kan worden, dus ik heb het niet over een plek op aarde geboren worden, maar een plek in de tijd.
• 47:56
  Dan zitten wij hier nu dat er, dat er mogelijk superintelligentie is binnen tien jaar. Dat is toch de, dat is toch, dat is toch het grootste ding op de tijdlijn voor een mens?
• 48:04
  Ik vind het, ik, ik, ik ben eventjes aan het realiseren dat, dat wij per ongeluk, [lacht] want dat, dat denk ik, m-, het is, het, het grootste nieuws [lacht] naast aliens meemaken of zo.
• 48:15
  Want hoe, hoe zie, hoe zit jij daarin, zeg maar? Je zit te glimlachen, dus ik, maar ja.Ja, heel erg dubbel.
• 48:22
  Dus aan de ene kant, uhm, vind ik het natuurlijk mega interessant en denk ik dat er heel veel positieve dingen kunnen gebeuren.
• 48:29
  Weet je, op, op het gebied van gezondheidszorg, uh, zou je allemaal nieuwe medicijnen kunnen ontwikkelen. Uhm, je kan, uh, grote wereldproblemen o-oplossen door misschien, uh, nuclear fusion, uh, makkelijker te maken.
• 48:43
  Uh, dus aan de ene kant vind ik het mega tof en interessant en ben ik zelf als AI-onderzoeker wil ik natuurlijk zien waar dit heen gaat, maar aan de andere kant lig ik er ook wel echt wakker van 's nachts.
• 48:54
  En zeker sinds, uh, midden vorig jaar dat ik echt denk: oh nee, het, het komt nu echt, uh, snel dichtbij. Dat ik er wakker van lig en denk van: zijn we daar als samenleving klaar voor?
• 49:07
  Ik zie niet echt hoe we, uh, de samenleving gaan indelen en hoe we daar nu klaar voor zijn. Hoe we de wereld gaan indelen. Hoe we gaan zorgen dat niet een paar landen alle macht hebben of alle compute hebben.
• 49:20
  Uhm, dus ik maak me ook wel echt zorgen. Laten we het over alignment hebben en laten we het ook over, over die geo-geopolitieke invalshoek hebben.
• 49:27
  Maar, maar daarvoor nog even, om-- ik vind Wytse's line of questioning wel heel sterk. De, dat is het menselijke aspect, want jij beseft je al deze dingen. Dat doe je niet in een vacuüm.
• 49:36
  Je hebt heel veel mensen om je heen met mensen die jouw ideeën toetsen. En, uh, dat zijn niet de, de domste mensen die op de planeet rondlopen.
• 49:45
  Dan schetst, dan, dan ontstaat er dus een beeld van, ja, hoe d-, hoe, hoe, hoe, hoe deze planeet gaat zijn om op te leven over vijf jaar. Uhm, laat het zeven jaar zijn en wees eens heel conservatief.
• 50:00
  Uhm, je zegt: ik heb er slapeloze nachten van. Wa-waar droom je dan over? Over, uhm, ja, i-, i-, over wat er gaat gebeuren. Over wat we gaan, uh, doen met de wereld.
• 50:17
  Over de rol die Europa zal vervullen. Over, uhm, uh, potentieel conflict met Taiwan, China, Amerika.
• 50:26
  Uh, over, uhm, uh, AI-vriendschappen en, uh, mensen die uiteindelijk meer gehecht zullen zijn aan een AI-vriend omdat die niet terug pusht en, uhm, alleen maar, uh, heel, uh, compassionate is en je altijd beter begrijpt dan, uh, je huidige vrienden.
• 50:46
  En, uh, dat, uh, die wereld, uhm, ja, allemaal nieuwe uitdagingen zal hebben die ik nu lastig vind te overzien, laat staan op te lossen. Uhm, dus dat is een deel van de dromen.
• 51:02
  En dan een ander deel van de dromen zijn ook wel, uh, de, uh, soort excitement en hoe interessant het is en, uh, hoe die technologie door zou gaan en wat die AI zal doen en wat een soort de form factor zal zijn, uh, en wat dat teweeg kan brengen.
• 51:19
  Maar als ik je goed begrijp is, is het, ben je totaal overweldigd. Wel een beetje ja. Ja, wel een beetje.
• 51:27
  Ja, ik wer-- natuurlijk werk ik, ik, uh, uh, werk hier aan, dus het is ook wel voor mij dat ik er langzaam steeds meer aan wen. Maar ik ben wel overweldigd van de impact die dit kan gaan hebben.
• 51:39
  En wat zou je dan van de daken willen schreeuwen als je, zeg maar, Nederlanders om maar als gewoon, nou ja, het is niet een random land, want je hebt een binding met Nederland.
• 51:49
  Wat is, wat, wat zou je, wat, wat zou je ze tegen, van de daken willen schreeuwen als het hierom gaat? Ja, dus ik denk dat in Nederland we aan de ene kant staan we er niet superslecht voor.
• 52:02
  We hebben een megagoed, uh, onderwijssysteem. We hebben goede, uh, onderzoekers. Uh, we hebben ASML, want er zijn weinig echte bottlenecks in de supply chain van de AI. Maar ASML is er zeker één.
• 52:16
  Dat is chill voor ons, miljard. [lacht] Dat, dat is, dat is chill voor ons, want dat geeft ons ook, uh, geopolitieke macht.
• 52:23
  Ik zou zelfs zeggen dat ASML inmiddels misschien wel de troef is van Europa, uhm, als het gaat om, uh, AGI. Niet alleen van, uh, Nederland, dus ik denk dat we ASML megagoed moeten beschermen.
• 52:36
  Weet je, er zijn, uh, a-altijd problemen rondom spionage. Ik, ik, volgens mij was er een Rus vorig jaar of twee jaar geleden, uh, die, uh, gepakt was voor, uh, spioneren op de ASML-campus.
• 52:50
  En dus ik denk dat we heel goed moeten nadenken hoe we onze soort AGI-parels beschermen, maar ook dat we een soort groot plan moeten opzetten nationaal van wat we, uh, zelf gaan doen.
• 53:02
  Uh, zowel hoe we onze samenleving gaan inrichten, maar ook hoe we gaan zorgen dat we niet volledig afhankelijk worden van Amerikaanse of Chinese modellen.
• 53:12
  Dus uiteindelijk, en je hoeft niet eens te geloven in AGI om te geloven dat uiteindelijk defensie bijna allemaal gestuurd zou worden en geoptimaliseerd zou worden door AI.
• 53:22
  Als defensie afhankelijk is van modellen die op afstand kunnen worden uitgezet, is dat natuurlijk niet een goed scenario. Hoe komen we nou nog aan nog 10 Mistrals?
• 53:32
  Ik denk dat we in Nederland in ieder geval moeten beginnen met één Mistral en dat een krachtige manier om dat te doen is niet om te zeggen: oké, we gaan, uh, net als Mistral ook, uhm, frontier models trainen zoals alle andere bedrijven die het doen, maar we gaan een nieuwe bet maken.
• 53:49
  Dus, uhm, we gaan bijvoorbeeld, uh, zoals Sakana AI vol inzetten op AI die AI maakt. Uhm, daarnaast denk ik aan hardware.
• 54:01
  We hebben, ik weet niet genoeg van hardware om deze claims te maken, maar ik kan me voorstellen dat het interessant is om na te denken: kunnen we naast dat we de machines maken die chips maken, kunnen we eigen chips gaan maken?
• 54:13
  Uhm, kunnen we capaciteit daar opbouwen? Uhm, ik denk dat we veel meer elektriciteit moeten gaan aanleggen omdat dat uiteindelijk de motor wordt van AGI.
• 54:23
  Dus ik denk dat we heel veel kunnen doen om soevereiniteitSoort van te bewerkstelligen of de kans daarop beter te maken die niet zijn: oké, we maken nog tien Mistrals En ik luister nu, hè, als luisteraar van en ik, ik zit op een positie waar ik iets kan doen, maar ik weet niet wat.
• 54:40
  Uh, wa-wat zijn handvatten? Wat moet ik nu doen? Is er een boek wat ik moet lezen? Is er iets wat ik beter moet begrijpen? Hoe, zeg maar, stel dat de urgentie wordt nu gevoeld, hè, dus dat hebben we voor elkaar. M-hm.
• 54:50
  Maar dan, dan wil iemand wil gaan handelen. Ja, dus het hangt een beetje waar, waar in de samenleving je zit.
• 54:58
  Uh, ik denk voor de meeste mensen is het in ieder geval belangrijk om niet je hoofd in het zand te steken, maar die, de AI-tools die er zijn, uh, dag in dag uit te gebruiken.
• 55:10
  Dus wees niet bang om, uh, je, uh, eigen baan of je eigen werk te automatiseren.
• 55:16
  Uiteindelijk zullen de mensen die het meest robuust zijn en de landen die het meest robuust zijn voor deze verschuivingen zijn de landen die heel goed AI kunnen gebruiken.
• 55:28
  Uh, dan denk ik voor de meer technische mensen, uh, probeer, uh, na te denken over wat voor, uh, capaciteiten, uh, en bedrijven er over vier of vijf jaar nodig zullen zijn.
• 55:41
  Bijvoorbeeld cybersecurity is iets, uh, waar als iedereen, uh, toegang heeft tot een AGI, wordt het ook veel makkelijker om, uh, computersystemen aan te vallen.
• 55:52
  Dus als jij een cybersecurity researcher of engineer bent, dan denk ik dat je megagoed gepositioneerd bent om daar, uh, nu alvast over na te denken en je carrière te pivoten in die richting.
• 56:05
  Als jij in de overheid denkt, uh, als je in de overheid werkt, ook probeer de overheid meer AI-vaardig te maken.
• 56:12
  Dus ik denk dat er aan de ene kant is er heel veel vaardigheid en voor de meer technische onderzoekers, ondernemers is het nadenken: hoe kan je hier, uh, op, uh, vooruit, ja, plannen.
• 56:25
  Maar help me dan toch deze aftakking maken. Waarom is er voor die mensen die jij nu noemt dan wel nog werk over zes jaar?
• 56:32
  Ik zeg niet dat er voor hen nog werk is over zes jaar, maar de komende zes jaar [gelach] zijn belangrijker dan ooit. Ja [lacht].
• 56:39
  En ik, en ik denk dat er nog wel overheden zijn over zes jaar en dat we nog steeds, uh, moeten beslissen hoe we kapitaal alloceren en, uh, dat er nog steeds pensioenfondsen zullen zijn die, uhm, megaveel kapitaal hebben die ze op slimmere of dommere manieren, uh, kunnen, uh, alloceren.
• 56:58
  Dus ik denk dat er nog steeds, uh, beslissingen moeten worden gemaakt. Alleen worden al die beslissingen, wordt daar, uh, AGI gebruikt om, uh, die, uh, soort van te helpen om die beslissing te maken.
• 57:12
  En in de periode daarvoor ben je dan aan het optimaliseren voor soevereiniteit, als ik je goed begrijp. Ik denk voor soevereiniteit en voor een soort AGI-robuuste economie.
• 57:22
  En zelfs als je, uh, de, de grap hiermee is dat ik denk van: als je minder bullish bent dan ik, en dat zijn heel veel mensen, ook heel veel mensen waarvoor ik heel veel respect heb.
• 57:31
  Er zijn heel veel mensen die ik heel erg respecteer die zeggen: ah, Michiel, uh, vijf jaar, dat is eerder 10 of 20 jaar, of de kans is niet, uh, 80 of 90%, wat ik denk, maar de kans is 10, 20%.
• 57:44
  Dat ik ook dan denk: als de kans 10, 20% is dat de samenleving zo erg gaat veranderen, dan moet je, dan moet je daar op voorsorteren en moet je daar in ieder geval rekening mee houden en moet je daar over nadenken en stappen nemen.
• 58:00
  Ja, ik ben er een beetje stil van. Uh. Ik ook [lacht]. Dat gebeurt niet zo vaak. Laten we een beetje, want ik wil, laten we het nog, nog iets preciezer maken wat dan de, wat jij verwacht van impact.
• 58:14
  Als je dus AGI als klaphek neemt, uh, en jij zegt: dat is binnen drie, vier jaar. Daar kun je over verschillen van mening, maar jij denkt dat die kans 90% is, als ik je goed begrijp. Ja, 80, 90%.
• 58:26
  Nou, oké, ik, daar doe ik het voor. Wat zijn dan de, uhm, zeg maar, als je het hebt over bijvoorbeeld, zeg maar, wat, wat zijn alle, alle, alle, uhm, want jij houdt je bezig met veiligheid.
• 58:39
  Wat zijn dan alle scenario's die door jou-- ik wil, ik wil het woord doemscenario's eigenlijk vermijden, maar je [lachend] ontkomt er niet aan als je het hebt over AI-veiligheid.
• 58:48
  Wat zijn de negatieve scenario's waar we de komende jaren het hart aan, hardst aan moeten werken om die te voorkomen? Zowel op het niveau van Nederland als op, op, op wereldschaal.
• 58:59
  Ja, dus ik denk de, de meest obvious is misbruik. Dus als jij, uhm, een AGI is een, uh, uh, superhuman of een ASI is een superhuman onderzoeker.
• 59:13
  Dus dat is een onderzoeker die beter biologie kan, die beter nucleaire fysica kan.
• 59:19
  En als zo'n onderzoeker in de verkeerde handen valt, dan, uh, kan jij, uh, bijvoorbeeld biologische wapens maken of grootschalige hacks uitvoeren of massamani-manipulatie doen, uh, wat nu, uh, heel erg lastig is.
• 59:35
  Dus daarom denk ik en, en AI-bedrijven zijn hier ook mee bezig om te monitoren wat er gebeurt, uh, met, uh, verzoeken via die API's. Dus om te monitoren: wordt het model, uh, misbruikt?
• 59:49
  Aan de andere kant heb je nu ook, en Mistral doet hier aan mee bijvoorbeeld, uhm, maar je ziet vooral de Chinese modellen die nu winnen in open source.
• 59:58
  Open source is, uh, fantastisch en open source-software heeft de wereld heel veel gegeven. Maar als je maar telkens grotere en grotere en grotere modellenUhm open aanbiedt.
• 1:00:09
  Die modellen, ook al zijn, uh, ze ge-safety tuned, dus ook al zijn ze veiliger gemaakt omdat de modellen open zijn, kan je ze heel makkelijk die veiligheid eraf halen en die modellen gebruiken voor wat je ze ook maar wil gebruiken.
• 1:00:23
  Dus om misinformatie te maken of je te helpen met een biologisch wapen maken. Dus ik denk dat misbruik, uh, superbelangrijk is en dat we, uhm, in de overheid moeten nadenken: hoe kunnen we dat tracken en meten?
• 1:00:39
  En dat bedrijven daar over na moeten denken. Hoe kunnen we dat tracken en meten?
• 1:00:43
  En hoe kunnen die bedrijven samenwerken door te zeggen: hey, uhm, deze persoon met dit IP-adres, die deed heel snel na elkaar een query bij OpenAI en Anthropic en DeepMind.
• 1:00:54
  En als je die allemaal samenvoegt, dan zien we dat, een patroon van misbruik ontstaan. Dus dat is één. Uh, en dan, uh, het andere is, uhm, misalignment.
• 1:01:08
  Dus dat is als jij een AI steeds meer, uh, macht geeft en AI zichzelf verbetert, uh, er steeds minder toezicht is van mensen, dan kan het zijn dat dat AI doelen gaat ontwikkelen die je misschien, uh, niet wil dat hij het ontwikkelt.
• 1:01:25
  Dus jij gaat op vakantie en zegt tegen AI: uh, maak zoveel mogelijk winst en jij komt terug en die AI heeft iets illegaals gedaan. Weet je?
• 1:01:33
  Dus we moeten heel erg nadenken over alignment en zorgen dat die AI's in lijn liggen met onze normen en waarden.
• 1:01:43
  En dat is veel van waar ik aan heb gewerkt en waar ik nog steeds aan werk is, is breed genomen wat ze noemen alignment research. Dus safety research om modellen veilig- Kan je daar nog heel even iets over vertellen?
• 1:01:54
  Want een van de dingen in alignment die moeilijk is, is scheming.
• 1:01:57
  Dus jij, d'r, dus er wordt eigenlijk op de achtergrond stiekem door dat model, die is zo slim dat ie weet hoe die jou voor de gek moet houden, dat ie aligned is, zeg maar.
• 1:02:06
  Heb, zie je daar, uhm, een soort positieve, uh, ontwikkeling in of innovaties dat je zegt: zelfs, zelfs dat scheming hebben we misschien nog wel iets wat we, ik heb het laatst tegen Alexander gezegd: dan moeten we maar kijken hoeveel stroom die dingen gebruiken en dan, dan maar een vol wattmeter eraan en zeggen: jij gebruikt wel heel veel stroom voor iemand die aligned is, maar wa-wa-wat zijn de soort intige, intelligentere oplossingen dan die ik, uh, aandroeg?
• 1:02:29
  Ja, wat een hele toffe ontwikkeling is, denk ik, is, want scheming heeft ook te maken met oversight. Weet je, als alles gebeurt in het model zelf.
• 1:02:37
  In het model zelf, uh, zijn het, uh, parameters, uh, dus getalletjes en is het heel moeilijk om te zien wat het model echt aan het plannen of echt aan het doen is.
• 1:02:48
  Nu sinds o1 zijn die modellen, die, uh, laten eigenlijk een soort chain of thought zien, dus die laten hun stappen zien hoe ze een probleem oplossen.
• 1:02:59
  En OpenAI had een, uh, paper een paar maanden geleden waar ze laten zien dat je die chain of thought kan gebruiken om, uhm, toezicht te geven op wat voor stappen die AI neemt.
• 1:03:13
  Dus om scheming tegen te gaan zou je bijvoorbeeld die tussenstappen kunnen analyseren en kunnen zeggen: oh, uhm, doet die AI iets wat, uh, ingaat tegen, uh, deze soort regels die we hebben voor de AI?
• 1:03:27
  Dus die reasoning modellen die hebben de, uh, soort snelheid van het veld nog, ja, nog meer versneld, maar hebben ook een soort nieuwe tool gegeven om scheming en alignment makkelijker te maken.
• 1:03:43
  En zijn er dan dingen waar Nederland iets zou moeten doen op dit vlak? Op het gebruik van misbruik en, en, en veiligheid?
• 1:03:50
  Ja, dus ik denk dat het in Nederland vooral gaat om, uh, capabilities, dus, uh, binnen de overheid zorgen dat er, uh, capabilities zijn, uh, om zodra AI meer gebruikt gaat worden door Defensie en binnen de overheid en binnen grote bedrijven, dat we, uh, toezicht kunnen geven.
• 1:04:14
  Het lastige voor Nederland is natuurlijk, wij lopen niet voorop, dus als we te hard gaan reguleren is er ook een risico dat we juist verder achterop gaan lopen.
• 1:04:23
  Dus ik denk dat het nu vooral gaat om capabilities en niet zozeer om al, uhm, wetgeving aan te passen om, uh, bijvoorbeeld meer checks of meer- Met capabilities bedoel je dan dus bijvoorbeeld hoe efficiënt, uh, Defensie AI kan gebruiken?
• 1:04:42
  Dat, maar ook dat er gewoon in de overheid mensen zijn die dit goed begrijpen. Dus bijvoorbeeld de Emiraten heeft een minister van AI.
• 1:04:50
  Ja, dat klinkt, uh, misschien een beetje sukkelig en, uh, doen voor de bühne, maar ik denk dat dat laat, dat, uh, de overheid dan laat zien, zowel binnen de overheid als aan de rest van Nederland van: jongens, we nemen dit bloedserieus.
• 1:05:04
  Als jij een goede AI-onderzoeker bent, kom voor de overheid werken, want we nemen dit bloedserieus en hier kan je impact maken.
• 1:05:12
  En hoe, hoe zouden wij dan als we onze leverage optimaal willen gebruiken, hoe gebruiken wij dan ASML om, om op grotere schaal onze zin te krijgen?
• 1:05:20
  Wat is, wat is de troefkaart eigenlijk die we in handen hebben met ASML wat mensen onderschatten?
• 1:05:26
  Omdat ASML, dus dit, ja, dit is niet, hier heb ik niet goed genoeg over nagedacht om hier een, uhm, een- Je zegt de troefkaart van Europa, dus ik ben benieuwd. Ja, ja, dus ik, ik weet dat we hem hebben.
• 1:05:39
  Ik weet niet hoe, weet je, ik zit niet genoeg in geopolitiek om te bedenken hoe we die optimaal kunnen gebruiken.
• 1:05:45
  De troefkaart die we hebben is dat ASML, uhm, op de kleinste feature size, dus de meest advanced, uh, chips, is ASML de enige die die machines kan produceren.
• 1:05:58
  Dus ASML kan onderhandelen met Amerika en zeggen: oké, wij, bijvoorbeeld, er is een scenario waar mensen rekening mee houden is dat Amerika op een gegeven moment zegt: okéUh, de innovatie en productiviteit komt allemaal vanuit AI-modellen, dus er zijn nauwelijks meer menselijke onderzoekers in de loop.
• 1:06:16
  Er zijn nauwelijks meer menselijke nul knowledge workers in de loop. Waarom zouden wij die AI-modellen nog exporteren?
• 1:06:23
  Dus waarom zouden we nog tokens aan de rest van de wereld verkopen als we al die innovatie en productiviteit in ons eigen land kunnen houden en gewoon producten en services kunnen verkopen?
• 1:06:32
  Dus op dat moment heeft Amerika het stelsel lopen heel erg voorop en troeven die zeggen: oké, we gaan de rest van de wereld uitsluiten van AI en daardoor hebben wij de beste defensie en de beste onderzoek en de beste services en de beste producten.
• 1:06:44
  En wij gaan eigenlijk intern, uh, onze economie waanzinnig groeien en de rest van de wereld zal niet meekomen.
• 1:06:51
  Dan kan Nederland bijvoorbeeld zeggen: oké, leuk Amerika, maar als jullie dat doen, dan verkopen wij geen, uh, machines meer van ASML aan jullie. Dus, uh, wij willen, uh, ook toegang hebben tot, uh, die beste AI.
• 1:07:06
  En wij willen meedoen in een soort dit innoveren en, uh, deze pro- Ja, meedoen, want anders krijgen we onze machines niet meer. Ja, ik zit, uh, ik zit te denken in termen van leverage.
• 1:07:15
  Ook omdat ik denk over onze economie en de soort van, ja, uh, uh, i-, de impact die jij beschrijft.
• 1:07:23
  Als ik het heel erg plat sla, is dat over vijf jaar eigenlijk al het kenniswerk niet meer gedaan hoeft te worden door een mens. Dat een bedrijf wel gek zou zijn om dan vervolgens alsnog die mens daarvoor te betalen.
• 1:07:35
  Want tokens zijn een stuk goedkoper dan die mensen aan het werk te zetten. Wat is, zeg maar, wat voor nieuwsbeelden heb je op je netvlies
• 1:07:45
  v-van wat er, wat dat voor-- dit is gewoon een economische schokgolf waar je over praat. En Nederland is niet een land, je zegt het heel, uh, diplomatiek door te zeggen dat we niet vooroplopen, maar,
• 1:07:55
  uhm, de, de, de, de mate van, weet je, wij, dus, d'r, d'r zijn geen serieuze gesprekken over in, in dit land.
• 1:08:03
  Niet dat het in andere landen zoveel beter gaat, maar de, de, de snelheid waarmee me-, waar-, waarmee, uh, bedrijven dit in, in [lacht] het is, het is een logisch gevolg van wat je zegt, dat bedrijven dit heel snel gaan doorvoeren.
• 1:08:16
  Dus wat, wat doet dat met, met een, met een economie van Nederland? Wat, w-, w-wat verwacht je dat daarmee gaat gebeuren? Je bent geen econoom, snap ik ook wel. I-ik ben geen econoom [lacht].
• 1:08:31
  Ik spreek wel heel veel economen, dus ik kan wel iets erover zeggen.
• 1:08:34
  Ik denk dat als de economie en als economische groei en innovatie en productiviteit vooral af gaat hangen van tokens, dat we er in Nederland niet heel goed voor staan.
• 1:08:46
  Nu is niet elke token elke andere token en je zou bijvoorbeeld modellen kunnen finetunen op, uh, uhm, iets waar Nederland goed in is, zoals het maken van chipmachines of zoals het, uh, uh, groeien van tomaten in kassen.
• 1:09:01
  En, uh, je zou als Nederland, uh, kunnen proberen om het toptalent dat nu in Amerika of in de UK zit proberen terug te halen en te zeggen: jongens, hier hebben jullie een zak geld en, uhm, jullie gaan een bedrijf opzetten zoals, uh, Sakana.
• 1:09:17
  Of jullie gaan, er zijn best wel wat dingen aan de frontier, zoals AI for science, zoals, uh, taalmodellen voor forecasting, uhm, waar niet superveel gebeurt en waar best nog ruimte is, zoals robotica.
• 1:09:30
  Uh, Monumental in Amsterdam is een supertof bedrijf, uh, die hieraan werkt. Er zijn best wel, uh, uhm, nog openingen die niet, uh, waar nog kansen zijn.
• 1:09:43
  En, uh, als pensioenfondsen en de overheid samen gaan zitten en, uh, uhm, wat Nederlandse miljardairs, dan denk ik dat het het beste zou zijn dat wij zelf ook een gooi gaan doen naar die AGI-race.
• 1:10:00
  Oké, en, want ik kan hier eindeloos met jou over doorpraten, maar dat moeten we toch maar misschien niet doen voor de luisteraar. Vier uur, toch? [lacht] hoe, hoe-- ik heb nog twee vragen.
• 1:10:11
  Eén is: hoe krijg je een bloeiende economie als mensen niet meer werken? Hoe kan dat?
• 1:10:20
  Ja, dus ik denk dat we heel goed moeten nadenken, en daar is Nederland natuurlijk waanzinnig goed in, dat we moeten nadenken over het verdelen van welvaart en dat we ook heel erg moeten nadenken over: hoe gaan we dit samen met andere landen oplossen?
• 1:10:32
  En dat is nu heel lastig met de politieke situatie in Amerika. Maar als je bijvoorbeeld het gebruik van AI of tokens, uh, belast, uh, en dan zorgt voor herverdeling van de welvaart, dan zou dat een kans kunnen geven.
• 1:10:46
  Uiteraard werkt dat niet als alleen Nederland het doet, dus het zijn allemaal, uhm, geopolitieke problemen, uh, maar dat zou bijvoorbeeld een oplossing kunnen zijn.
• 1:10:56
  Daarnaast moeten we in Nederland ook, uh, gaan accepteren dat misschien niet meer iedereen aan het werk is. En, uh, moeten de topeconomen in Nederland hier denk ik ook over na gaan denken. En bijvoorbeeld, ik zit op MIT.
• 1:11:11
  MIT heeft, uh, een van de beste, uh, uhm, economie departments in de wereld en ik probeer hier ook economen, uhm, daar meer over na te laten denken over hoe we die samenleving gaan inrichten.
• 1:11:27
  En dan de vraag die mij rest is: uhm, wat, uhm, wat maakt je heel erg opgewekt over de, over de tijd die gaat komen, anders dan de technische waanzinnige uitdaging?
• 1:11:39
  En dat is natuurlijk iedereen, iedereen nerd hart gaat hier ook harder van kloppen, dat begrijp ik ook wel. Maar zijn er elementen van het, het leven wat, wat je voor ons ziet, voor, voor
• 1:11:52
  over een jaar of vijf, waar je heel erg opgewekt van raakt? Ja, dus in theorie is dit technologie die de welvaart extreem hard zal laten groeien.
• 1:12:04
  Dus als wij het probleem van veiligheid en herverdeling oplossen, of, uh, in ieder geval daar genoeg progressie maken.
• 1:12:14
  En er zijn megagoede, uh, nonprofits, universiteiten, bedrijven, alle grote AI-bedrijven hebben, hebben, uh, groepen nu die nadenken: hoe zal de wereld eruitzien na AGI?
• 1:12:27
  Uh, hoe denken we naOver veiligheid van AI systemen.
• 1:12:31
  Dus als al die soort bedrijven, nonprofits, universiteiten, uh, overheden, uh, hier oplossingen voor weten te vinden en ik denk echt dat dat kan, dan kunnen we een nieuw tijdperk ingaan, uh, waar heel veel van de problemen die we nu hebben, uh, opgelost kunnen worden en, uh, waar we progressie kunnen maken op dingen als klimaatverandering, uhm, op, uh, bepaalde ziektebeelden waar, uhm, we al tientallen jaren aan werken en waar we in één keer veel meer progressie kunnen maken dan we ooit hebben gemaakt.
• 1:13:12
  Wytse, wil jij nog iets vragen aan Michiel? [lacht] Nou, ik, uh, ik zat een beetje-- ik zat mezelf ook een beetje te observeren. Ik merk, ik vind het sowieso wel echt superprettig om jou zo te horen.
• 1:13:23
  Ook al breng je niet enkel goed nieuws, uh, want je hebt ook zorgen en ik, ik waardeer heel erg dat je dat zo open vertelt ook. Uhm, ja, ik denk, ik denk vooral dat het, h-het idee dat er, uh,
• 1:13:37
  verschillende groepen op verschillende plekken in de samenleving wat te doen hebben de komende tijd. Uh, namelijk inlezen, begrijpen en vooral doorvoelen.
• 1:13:46
  Want, uh, ik, ik merk wel dat, we zitten in een soort fases in dat proces van, uhm, nou ja, dat je, dat je gelooft dat AGI eraan komt in je eigen leven. Laat ik het dan even zo beschrijven.
• 1:13:58
  En, uhm, het is wel belangrijk. Ik ben wel een soort, uh, blij dat ik dat gevoel nu heb, terwijl ik er eigenlijk nog niet echt mee geconfronteerd word.
• 1:14:09
  Uh, ik denk dat dat beter is dat je daar wat eerder al mee bezig bent om je voor te bereiden, omdat het, het heeft iets ex-existentieels. Er zit een soort rouw zit er nog bij zelfs.
• 1:14:18
  Soort een beetje vreemd rouw, uh, gevoel. En, uhm, ja, ik denk dat, ik hoop dat, dat, uh, dat, dat doe jij ook goed nuanceren.
• 1:14:27
  Ik hoop dat mensen ook begrijpen dat we echt wel ons best doen om niet onnodig, uh, op de alarmknop te drukken of zo, hè, dat je soort van met de hele grote bel door de straat loopt, uh, terwijl het allemaal, uh, wel meevalt.
• 1:14:40
  Ik denk gewoon dat er echt wel, en dat, dat, dat bekrachtig jij volgens mij alleen maar, veel indicatoren zijn, uh, die erop wijzen dat er iets substantieels gaande is en dat dat gaat gebeuren op een tijdslijn waarin we echt nog wel veel huiswerk hebben met elkaar om, uh, en ook vooral de experts die, die, die, als jij je hele leven met economieën bezig bent geweest, dan, dan heb je echt wel wat te doen, uh, nu.
• 1:15:02
  Is ook een beetje een oproep die we, die we allemaal doen hier. Hm. Uhm, ik heb, ik heb denk ik geen vragen meer. Ik heb, ik heb er denk ik duizend en daardoor geen.
• 1:15:10
  Maar je, uh, als ik jou goed begrijp zet jij, als jij drie stappen achteruit zet Wytse en je overziet dit gesprek een beetje. Ik heb het idee dat het je raakt omdat je, omdat je je geverifieerd voelt.
• 1:15:21
  Uh, nou, niet wat betreft het nieuws. Maar nee, grapje maar. [lacht] Nee, nee, ja, het begint, het begint allemaal, maar ge-, je, je, dit is validatie toch op een bepaalde manier?
• 1:15:29
  Nou ja, het is, uh, er zit-- wij hebben een AGI aflevering gemaakt. Uh, daar hebben we wat reacties op gehad van mensen en ik was een beetje zenuwachtig van: ja, zit ik dit, moeten we dit nou wel doen?
• 1:15:40
  Dat hebben we ook besproken, hè. Zitten we, s-, d'r, drinken we onze eigen limonade te veel, zeg maar.
• 1:15:46
  En, uhm, ik merk dat langzamerhand er steeds meer mensen, uh, komen vanuit verschillende hoeken die zeggen van: oké, uh, er is toch echt wel wat aan de hand nu en we moeten hier iets mee.
• 1:15:57
  En- Klinkt als een totale wappie. Ja, het heeft iets, uh, [Gelach] nee, maar ik bedoel, dat beschrijf jij toch ook Michiel, dat je zegt van- Jazeker.
• 1:16:05
  En, en, en misschien toch nog goed om nog een keer te benadrukken, je hebt het zelf net gezegd, in jouw omgeving daar binnen MIT.
• 1:16:12
  Mensen die ook, uh, verstand hebben van waar jij verstand van hebt, zijn niet allemaal in consensus op die tijdslijnen. Maar er zitten weinig mensen bij die over duizend jaar praten heb ik het idee.
• 1:16:22
  [lacht] Ja, er zitten bijna geen mensen bij en ik denk dat ook, uh, misschien het belangrijkste om mee te geven, ook al denk je dat het maar 10 of 20% kans is, dan moeten we hier iets mee.
• 1:16:34
  Weet je, je hoeft helemaal niet op de 80 of 90% te zitten. Uh, ook als de kans klein is, dan lijkt dit extreem belangrijk om hier over na te denken, uh, in alle delen van de samenleving.
• 1:16:48
  Uhm, dus, en ik denk ook dat misschien sommige mensen luisteren en denken: uh, uh, deze jongen die heeft het over AGI, maar die heeft ook niet echt de oplossingen, uh, voor wat we moeten doen als samenleving.
• 1:16:59
  En dat is ook omdat het gewoon een extreem lastig vraagstuk is en ik niet tegelijkertijd een computer scientist en econoom en politicoloog en socioloog ben.
• 1:17:08
  En dat we hier samen, uh, het klinkt een beetje cheesy, maar dat we hier samen over na moeten denken en dat er onderzoek moet komen en dat er bedrijven moeten komen en dat er de overheid er over na moet denken en, uh, dat dit samenleving breed moet worden opgelost.
• 1:17:25
  Ja, laten we gewoon zandzakken leggen voordat het water komt. Dat, dat kunnen wij toch hier? Dat kunnen we in Nederland heel goed. Dat kunnen we dan weer tering goed. God, wat een opluchting.
• 1:17:34
  [gelach] Michiel, uh, ontzettend, uh, ontzettend bedankt dat je, uh, met ons wilde bellen vandaag. Ja, jullie heel veel dank. [muziek] straks het hoofdonderwerp. We gaan het deze week hebben over onderwijs dus.
• 1:17:47
  Maar eerst vertellen Marjan en Lucas van Dept hoe agents werknemers in je bedrijf kunnen helpen om sneller content te maken, terwijl het zich wel houdt aan de stijl van je bedrijf.
• 1:17:59
  [muziek] Hi, ik ben Marjan van marketing- en techbureau Dept. Elke week bespreek ik met mijn collega Lucas hoe wij merken helpen in de wondere wereld van AI. Deze week: AI content playbook.
• 1:18:11
  Want we weten allemaal dat het voor marketingteams vaak nogal een challenge is om dingen aan te passen of op te zetten in hun marketingcampagnes. Lucas, hoe helpt zo'n AI content playbook hierbij?
• 1:18:21
  We hebben een AI platform ontwikkeld die werknemers van merken in staat stelt zelf, uh, visuele assets te creëren binnen de bestaande, uh, merkhuisstijl en richtlijnen van hun organisatie.
• 1:18:31
  En dit stelt werknemers van bijvoorbeeld Just Eat in staat om zelf assets te creëren, wat een hoop vrijheid en snelheid geeft.Oké, vertel daar eens wat meer over.
• 1:18:40
  Het zijn eigenlijk twee typen agents die met elkaar samenwerken en er zijn er dan meerdere van uiteraard. We hebben creërende agents en controlerende agents.
• 1:18:48
  Creërende agents helpen je om de content te creëren, de assets creëren die je nodig hebt en de controlerende agents die bewaken de huisstijl en de merkrichtlijnen.
• 1:18:56
  Uhm als je kijkt naar die creërende agents, moet je bijvoorbeeld denken aan dat ze je helpen om, uh, achtergronden van afbeeldingen achteraan.
• 1:19:01
  Als je een productfoto hebt die je in een asset plaatst, helpen ze je om, uh, de achtergrond te verwijderen en te zorgen dat die juist gepositioneerd is.
• 1:19:08
  Ze kunnen je ook helpen om het product in de handen van een model, uh, te plaatsen. Of het nou een echt model is of een AI-gegenereerd model. En zelfs ook om, uh, je beeld bijvoorbeeld te animeren.
• 1:19:17
  Want we weten op bepaalde kanalen gewoon een geanimeerd beeld veel beter presteert dan statisch beeld.
• 1:19:22
  De controlerende AI kijkt bijvoorbeeld naar de plaats van het logo, kleurgebruik, uh, en zorgt ervoor dat alles daarmee binnen de huisstijl en merkrichtlijnen gebeurt.
• 1:19:30
  Uh, en dit stelt, uh, nogmaals de marketeer of werknemer in staat zelf assets te creëren, waarbij je weet dat ze voldoen aan de kwaliteit die je als merk wil uitstralen. Duidelijk. Niet afwachten, maar doen dus.
• 1:19:42
  Want wie vandaag begint, loopt straks voorop. Ga naar The Agency dot com slash AI report als je meer wil weten. En tot volgende week!
• 1:19:50
  [muziek] Elke keer als je een nieuwsapp opent deze dagen, dan struikel je over artikelen over AI. En het lijken altijd dezelfde verhalen.
• 1:20:09
  Zo'n verhaal is: kunnen we eigenlijk nog wel iets vertrouwen in tijden van AI? En een ander verhaal is: heeft huiswerk in tijden van ChatGPT nog wel zin?
• 1:20:20
  En dat komt natuurlijk doordat scholen compleet in paniek zijn sinds de komst van ChatGPT. Maar die hele discussie hadden we al eerder.
• 1:20:29
  In de jaren 80 en 90 was iedereen in het onderwijs compleet in de war door de rekenmachine. Ja, die plastic calculator die nu ergens in een la ligt te verstoffen waarschijnlijk.
• 1:20:44
  Daar hebben ze ruim tien jaar lang over gedebatteerd. Ze vroegen zich af of kinderen nog wel moesten leren hoofdrekenen als zo'n machientje het kon overnemen.
• 1:20:53
  Ik weet nog dat ik in de wiskundeles zat, ergens, nou ja, eind jaren 90 waarschijnlijk, en mijn docent, zo'n klassieker met krijtvingers, doodserieus zei: "Je moet leren hoofdrekenen, want je hebt later echt niet altijd je rekenmachine bij je."
• 1:21:08
  Het idee dat we nu allemaal met een supercomputer in onze broekzak rondlopen was natuurlijk absurd. Maar wat we nu meemaken met AI maakt die hele rekenmachinerevolutie natuurlijk kinderspel.
• 1:21:19
  Want er is iets veel groters gebeurd en we moeten deze discussie beslechten in veel minder tijd. Hier hebben we geen tien jaar voor.
• 1:21:28
  Soms voelt het alsof we collectief in een soort tijdmachine zijn gestapt en plotseling in een nieuwe wereld zijn beland. Een wereld waarin alles wat we dachten te weten over onderwijs op losse schroeven staat.
• 1:21:40
  [muziek] Want ga maar na: we hebben eeuwenlang vastgehouden aan hetzelfde model. Een leraar voor de klas, leerlingen die braaf luisteren en toetsen om te checken of het eigenlijk allemaal wel onthouden is.
• 1:21:52
  Het was een systeem dat is gebouwd op schaarste van kennis. Maar nu, nu zwemmen we in kennis. Het is er altijd en overal, letterlijk in onze broekzakken en voor het eerst volledig op maat.
• 1:22:08
  En het dwingt ons een grote vraag te stellen. Terug naar het begin: wat is onderwijs eigenlijk? Is het nog steeds het stampen van feiten en formules?
• 1:22:18
  Maar de vraag die mij 's nachts het meest wakker houdt, is deze: op welke toekomst bereiden we onze kinderen eigenlijk voor?
• 1:22:25
  Want als AI de arbeidsmarkt zo radicaal verandert als wij aannemen, welke vaardigheden blijven dan echt waardevol? Dat is de vraag waar we het vandaag over gaan hebben.
• 1:22:35
  Over een onderwijssysteem in transitie, over de angsten en de kansen en over hoe we onze kinderen kunnen voorbereiden op een toekomst die we zelf amper begrijpen.
• 1:22:53
  [muziek] Ja, Wytse, we hadden het er al over, de rekenmachine en de discussie die daarover gevoerd is. En dat, ja, brengt mij tot de vraag of het eigenlijk allemaal wel klopt wat ik in mijn achterhoofd heb.
• 1:23:05
  Namelijk dat deze revolutie zo enorm anders is dan vorige technologische revoluties in het onderwijs.
• 1:23:11
  Want ik moet toch ook terugdenken aan de, weet je, als je helemaal teruggaat naar de basis, de uitvinding van het schrift, de boekdrukkunst, komst van massamedia, überhaupt het internet. Uhm,
• 1:23:22
  al die, uhm, technologische veranderingen of, nou ja, grote maatschappelijke veranderingen, zou je willen, zorgden er niet echt voor dat de structuur van het onderwijs nou heel erg veranderde.
• 1:23:34
  Die bleef juist, onder al die veranderingen bleef die heel consistent, zou je kunnen zeggen. Een leraar of een expert die kennis deelt met leerlingen in een tempo dat voor de gemiddelde leerling werkt.
• 1:23:44
  Dat is, wat dan ook de verandering was, ongeveer wel de structuur gebleven. En nu zit ik grote woorden te debiteren in mijn theatrale intro. Is het wel echt zo dat deze revolutie zo anders is?
• 1:23:59
  Is de paniek terecht, is eigenlijk mijn vraag. Ja, ik was in, uh, bij de intro, toen je over de rekenmachine begon.
• 1:24:05
  Toen dacht ik meteen: oh nee, ga nou niet doen alsof we een soort onterechte paniek hebben, want over de rekenmachine hadden we ook paniek. Snap je wat ik bedoel?
• 1:24:13
  Ik dacht daar, en, maar dat kwam eigenlijk daarna niet uit je verhaal. Toen dacht ik: oké, ook jij- Het duurde vooral heel lang. Dat was, uh, dat was het meest opvallende, vond ik.
• 1:24:21
  Dertien jaar hebben ze daarop gediscussieerd. En ik denk dat, uhmHet, ja, het idee dat we onze handenarbeid, uh, uit, uit, uh, hoe zeg je dat, uh, overdragen aan paarden en machines en zo, dat zit er al best wel diep in.
• 1:24:36
  En dan gaat die rekenmachine voor ons rekenen. Ik begin nog even bij die rekenmachine, waar een soort angst of paniek ontstond blijkbaar van: hmm, oké, maar wat als de rekenmachine er dan niet is of het niet doet?
• 1:24:47
  Moet je dit niet ook zonder rekenmachine kunnen? Het is een beetje het voorbeeld van piloten die vliegtuigen al heel lang op au-autopilot vliegen.
• 1:24:54
  Maar op het moment dat de autopilot stuk gaat en ook de tweede autopilot, want alles is dubbel uitgevoerd, dan kan die piloot het hele vliegtuig besturen. Mhmm.
• 1:25:02
  En dit zit voor mijn gevoel een beetje achter deze discussie ook van: als jij je rekenmachine niet bij je hebt, Alexander Klöpping, of als je rekenmachine het niet doet, dan heb je een probleem.
• 1:25:12
  Je, we moeten als het ware eigenlijk ook nog in een wereld zonder al die technologie kunnen leven, voel ik dan een beetje. Ja.
• 1:25:19
  En zou ik zeggen, dat is, dat zou je kunnen zien als een reden waarom je die, even de rekenmachine als voorbeeld.
• 1:25:25
  Maar het is ook nog eens zo, uh, wat de rekenmachine voor jou doet, hè, om dat te kunnen als mens, leer je eigenlijk iets aan om te kunnen, goed te kunnen rekenen waar jij wat aan hebt in je leven.
• 1:25:37
  Zelfs met rekenmachine. Maar als ik jou dan goed begrijp, zeg je: oude wijn in, in nieuwe zakken. Deze discussie hebben we eerder gehad.
• 1:25:43
  Dat is ook gesetteld op een soort van, uh, tussenversie, dus het was niet, het is niet dat mensen zeiden: nou, de rekenmachine is er, je hoeft niet meer te leren hoofdrekenen.
• 1:25:51
  Je moet eerst leren hoofdrekenen, was de conclusie van die discussie en daarna mag je je rekenmachine gebruiken. Dus je moet eerst leren vliegen, hoe een vliegtuig werkt en daarna mag je de autopilot gebruiken.
• 1:26:01
  Eigenlijk is die paniek dus allemaal onterecht, als ik jou goed begrijp.
• 1:26:04
  Nou, als je ervan uitgaat dat wij in dit geval AI, uh, in de breedste zin van onderwijsondersteuning, uh, inzetten als een tutor bijvoorbeeld, hè, wat jij in je intro zei.
• 1:26:14
  Uhm, de tutor die nooit slaapt, alles op persoonlijk doet en, uh, jou constant opnieuw, uh, gaat helpen met het geduld, ijzeren geduld. Mhmm.
• 1:26:24
  Ik denk dat zolang die tutor geconfigureerd is, uh, in de system prompt als in: dit is wat jij wel of niet mag. Als een soort Socrates die een leerling helpt het ook zelf te kunnen.
• 1:26:35
  Hè, dus van: joh, uh, beste leerling, ik ben er hier voor jou, maar weet op een dag niet meer en er zullen momenten zijn dat ik er niet ben en dan verwacht ik nog steeds wat van jou.
• 1:26:45
  Kijk, zolang we daar een soort balans tussen blijven zoeken. Uh, ik, ik, dit is een, een, een metafoor die we daarvoor zouden kunnen gebruiken is, zal de thin en de thick client.
• 1:26:53
  In, uh, dit is een hele nerdy metafoor, maar die gaat wel helpen. In, in computers en, en desktops, eigenlijk binnen bedrijven heb je de thin client. Dat is het dunste computertje wat ze kunnen maken.
• 1:27:03
  Het stomste computertje eigenlijk, het, het meest simpele stukje hardware. Dat is een thin, die is letterlijk dun. Dat is een heel klein dun, goedkoop computertje en bijna alle rekenkracht zit in het datacenter.
• 1:27:15
  Dus dat computertje is eigenlijk alleen maar een, uh, uh, uh, remote desktop, een, een soort interface naar het datacenter. Daar is het echte brein.
• 1:27:23
  Hè, dus het brein staat in Zeewolde en jouw computertje in Amsterdam is alleen maar een window into the, the, the matrix, zeg maar, supercomputer.
• 1:27:31
  En, uh, die, dus op het moment dat de, dat het datacenter het niet doet of, of de internet ligt eruit, dan zit jij een beetje naar, met die thin client samen achter je bureau zo van.
• 1:27:40
  En dan vraag je dingen aan die thin client en die zegt dan: connection lost. Ik heb eigenlijk geen brein. Ik heb net genoeg brein om met de big client of de, de thick client te kunnen praten.
• 1:27:49
  Ja, mijn wekker kon laatst geen verbinding maken met het internet en toen deed ie het niet meer. Ja, bleek toch ook een thin client te zijn. Ja.
• 1:27:54
  Nou, als je die dan doortrekt, dan gaan we de vraag stellen: hoe thin of thick, hoe dik of dun, hoe lokaal slim of extern slim willen wij dat wij als mens zijn?
• 1:28:06
  Hè, dus op het moment dat wij zeggen, even absurdistisch, hè: we leren een leerling eigenlijk niets meer, behalve op de snelst slimme manier interacteren met iets anders dat het wel weet. AI, AI-systemen.
• 1:28:19
  Dus de enige skill die je een leerling leert is hoe je uit AI het antwoord kan halen. Hè, het is een soort nachtmerrie van de mensen die toen de rekenmachine spannend vonden. Ja.
• 1:28:29
  Uh, dan, dan, dan zijn eigenlijk dus de leerlingen en daarmee de mensen van de toekomst, want daar praten we eigenlijk over, wij in de toekomst, zijn, uh, ontzettend dun. Dun in hun hoofd, zeg maar.
• 1:28:39
  Want op het moment dat die computer het niet doet en jij vraagt hun wat, dan kijken ze je glazig aan en dan zeggen ze: ja, sorry man, maar AI doet het niet, dus je moet even wachten, want, uh, pas als ik weer verbinding heb.
• 1:28:49
  Het is gewoon connection lost. No, no, no data found, zeg maar, in de ogen van een mens. En dat is, dat is, uh, volgens mij de angst van velen.
• 1:28:58
  Dat daar dus weinig meer aanwezig is in het individu, in, en misschien ook in de groep, hè, dan, in de mens eigenlijk. De me-, de hele mens zelf is heel dun geworden, mentaal dun.
• 1:29:08
  De andere kant van het spectrum zou zijn om te zeggen: wat, wat we bij een piloot eigenlijk doen is, als de autopilot niet werkt, als de verbinding het niet is, als het datacenter uitstaat, moet jij alles zelf kunnen.
• 1:29:22
  Dus we, we doen het een soort redundant opbouwen. Eigenlijk moet jij even slim zijn.
• 1:29:25
  Nou, dat gaat volgens mij in dit voorbeeld slecht op, want we hebben nooit van een leerling verwa-verwacht dat ze even slim waren als Wikipedia of whatever, hè, de supercomputer.
• 1:29:33
  Ja, of mil-, uh, zeg maar sommen op het moment dat ze groter zijn dan, uh, een bepaald getal in de miljoenen dat een kind dat uit zijn hoofd moet kunnen leren.
• 1:29:41
  Ja, in, in dat opzicht, dat is een beetje absurd, hè, de andere kant van dat spectrum. Zijn allebei twee een beetje absurde kanten. Ik denk dat we met elkaar op zoek gaan nu.
• 1:29:49
  Ik wou zeggen op zoek moeten gaan, maar dat gebeurt al, van: oké, als we dan zeggen: we willen niet een ultieme thin client maken van de mens, hè, dus de meest dun mentale mens ooit. Daar mag echt wel wat gewicht zijn.
• 1:30:00
  Daar mogen skills zijn. Dat we een set moeten gaan maken van de skills die aanwezig moeten zijn bij een mens zonder internet of een mens zonder connectie. Want ja, dat- Ja, ja.
• 1:30:11
  Ja, want, en wat dat internet impliceert, uh, die, dat buitenbrein, hè, uh, wat ze wel eens een, uh, exocortex noemen, hè. We hebben de neocortex in ons brein en de exocortex is al het denken wat buiten ons plaatsvindt.
• 1:30:23
  Jij haalde in het intro al aan, kijk, in mediafilosofie en dan spring ik even uit deze boom terug, hoor, maar in mediafilosofie word, jij zei: oude wijn, oude zakken.Kijk, het hele idee van een abacus of dingen opschrijven in een boek als een soort harddisk.
• 1:30:38
  Laten we nou nu niet doen alsof we nu ineens heel erg naar buiten gaan met ons denken. Alsof we niet voorheen al dachten met steentjes en, en, en, uh, dus- Het was al aan de hand, bedoel je?
• 1:30:48
  Ja, we zijn- Dat we het zijn gaan vatten in, uh, externe bronnen.
• 1:30:52
  Ja, bijvoorbeeld, ke-Kevin Kelly zegt altijd heel mooi: een vuurtje maken buiten en daar je vlees op bakken, dan heb je eigenlijk een externe maag, want dat rauwe vlees kan je niet eten. Ja.
• 1:31:02
  Dan ga je dat vuur gebruiken om het te bakken. Dan heb je ineens dus een combinatie van jou en vuur en dan kan je het toch eten. Ja.
• 1:31:07
  Nou, dan had jij dus, uh, uit de tijdmachine kunnen stappen en kunnen zeggen: nee [lacht]. Schandalig. Nu worden we een thin client. Kijk uit, weet je wel. Dus nou, dat vinden we dan.
• 1:31:16
  Maar tegelijkertijd, uh, kan ik, uhm, de andere kant op redeneren en zeggen: oké, dat we het, dat we een deel van ons verteringsproces hebben overgedragen aan een kampvuur.
• 1:31:26
  Betekent dat dan automatisch als een soort slippery slope, dat we dan net zo goed alles kunnen overdragen aan onze externe omgeving? Volgens mij ook niet.
• 1:31:35
  Hè, van, je zou kunnen zeggen: we waren al aan het overdragen, dus doe niet zo mal. En, en wat is dan de andere kant van het verhaal voor jou? Dus, zeg maar, is er een, t, uh, deel van jou die de paniek
• 1:31:48
  op een fundamenteler niveau wel terechtvindt? Nou, ik denk dat ik zo, dat ik, uhm- Het argument voor de thin client, of in ieder geval een herdefinitie van wat het betekent om een thin client te zijn.
• 1:32:00
  Ja, je bedoelt dat het, uh, b-bedoel je nu de mensen die zeggen: we moeten zorgen dat we zo dik mogelijk blijven in ons brein? Nee, juist het andere.
• 1:32:07
  O ja, dat, of ik die even kan, uh- Kan je die ook, uh, uh, want, uh, je zit nu helemaal op de gedachtegang dat we alsnog een thick client moeten zijn.
• 1:32:14
  Dat de, eigenlijk de redenering zoals met die, bij de rekenmachine plaatsvond. Eerst moet je het leren, zodat je daarna de AI kan gebruiken. M-hm. Kan je je ook voorstellen dat--
• 1:32:23
  je, je zou kunnen beargumenteren: de arbeidsmarkt verandert. Uh, we, de, uh, onderwijs is ook één groot opleidingsproces om te functioneren in economie.
• 1:32:31
  Ik snap dat dat een deel is van wat een opleiding doet, maar het is wel een relevant deel. Groot deel, hoor.
• 1:32:35
  En je zou kunnen zeggen: ja, uh, uh, f-, uh, op de, net zo, net zo min dat eerlijk gezegd voor de rekenmachine ook opging.
• 1:32:42
  Uh, o, i-, straks, uh, als je een baan hebt, als je eenmaal de middelbare school of de universiteit afkomt, uhm, dan heb je een werkplek waar je allerlei AI-tools kan gebruiken. Dus waarom zou je nog leren, uh, nou,
• 1:32:57
  noem het beroep en wat daar dan vervolgens tot nu toe nog uit je hoofd gestampt moest worden, maar wat we in, wat we allemaal aan het uitbesteden zijn.
• 1:33:05
  Nou, ik denk dat, kijk, vanuit werk en dus vaak dan bedrijven en organisaties.
• 1:33:09
  Voor een bedrijf of organisatie is er heel veel, uh, aan, uh, is het heel prettig eigenlijk om, uh, personeel te hebben en mensen die bij jou in dienst zijn, waarbij je eigenlijk niet zo heel erg afhankelijk bent van die specifieke individuen.
• 1:33:23
  Het is eigenlijk wel prettig voor de continuïteit van je bedrijf, hè, voor de stabiliteit van je bedrijf dat je zegt: nou, uh, mijn personeel hoeft niet te breed te zijn in hun kennis en kunde.
• 1:33:32
  Want als die kennis en kunde veel meer in de organisatie zit, in processen, in software, op harde schijven, in datacentra, dan, dan zijn die mensen, uh, ook makkelijker te vervangen en inwisselbaar binnen jouw bedrijf.
• 1:33:45
  Dus ik kan me wel voorstellen dat wanneer jij, hè, stel even, ik ga, ik sluit even aan op jouw verhaal.
• 1:33:52
  Je gaat naar een, uh, basisschool en een middelbare school en die werken volgens de filosofie van de brede mens, van een mens met veel kennis en kunde, van een, van een thick client.
• 1:34:02
  En dan, uh, ga je daarna de arbeidsmarkt in waar eigenlijk gevraagd wordt om een thin client. Namelijk iemand die, waarvan eigenlijk jouw collega's en werkgever zeggen: zit jij dit nou allemaal zelf te doen? Zo traag.
• 1:34:16
  Zonder Excel, uh, op een papiertje. Wat zit jij hier nou te rommelen, joh? Uh, dus wil je alsjeblieft zo snel mogelijk verbinding gaan maken met de cloud. Whatever that means, want daar doen wij allemaal ons werk. Ja.
• 1:34:27
  Dus, hè, leuk dat jij een, uh, als de stroom uitvalt, dat we jou nog even kunnen bellen. Ja, precies dat.
• 1:34:32
  Ja, en ik denk, dus, m-misschien wat je heel mooi aanraakt is, uh, de spanning tussen een soort idealistisch mensbeeld waarin je bijvoorbeeld autonomie en het individu en het feit dat we op, als we, a-als kleine groep op onze eigen benen kunnen staan, hè, want we hebben kennis en kunde lokaal.
• 1:34:49
  Dat is een wens v-van, van mensen. M-hm. En dat aan de, aan de andere kant een wens is van organisaties eigenlijk om te zeggen: ja, jullie, uh, we willen eigenlijk niet gelimiteerd zijn tot de mens. Ja.
• 1:35:00
  En ik kan hem, ik kan hem iets minder cynisch voor je maken, want als ik al dan organisaties erbij haal wordt het heel snel een soort van: o, dus een soort kapitalistische druk of zo. Wat in mijn ogen waar is.
• 1:35:08
  Maar [slikt] wat ook zo is, denk ik.
• 1:35:11
  Kijk, als wij met elkaar zeggen, uh, er is een correlatie tussen, k-kennis en de mogelijkheid van ons om onnodig lijden in de wereld te verminderen, hè, bijvoorbeeld door het uitvinden van, uh, betere energiebronnen, medicijnen, behandelingen, et cetera.
• 1:35:26
  Dan zou je het morele argument kunnen maken dat ons beperken tot ons vleesbrein, ons beperken tot niet. Ja. Dat het eigenlijk- Dat kunnen we allemaal. Ja, dat we eigenlijk vastzitten met elkaar in wat de mens kan.
• 1:35:37
  Ja, maar nog even zonder het abstractieniveau van het nut van werk, Wietse [beiden lachen], denk ik gewoon dat, uh, je voorbereiden op de arbeidsmarkt an sich, uh, een belangrijke, uh, soort van manier is waarop onze functia-, onze hele maatschappij nu functioneert.
• 1:35:51
  En je zou kunnen zeggen: de manier waarop wij ons onderwijs aanpakken is een soort van frontloading aanpak. Dus hele intensieve scholing in de eerste, nou, wat is het in, in, voor Nederlandse kinderen?
• 1:36:02
  Hoe lang, hoe lang krijg je onderwijs? 18 jaar of zo? Misschien, misschien nog iets langer, gevolgd door een carrière.
• 1:36:08
  En dat is omdat we uit een tijdperk komen waar kennis en, uh, de vaardigheden die je nodig had voor een baan st-stabiel bleven gedurende je werkende leven.
• 1:36:18
  En, uh, weet je, als jij een boekhouder was in de jaren 80, dan kon je grotendeels dezelfde expertise toepassen totdat je met pensioen ging.
• 1:36:25
  En je zou kunnen aannemen dat beroepen nu veel sneller gaan transformeren, gaan verdwijnen, uh, en dat, uh, uhm, werk wat hiervoor, uh, veel langer duurde voordat het verouderde, voordat een, voordat je je vaardigheden verouderde, dat dat nu heel snel zal gaan.
• 1:36:43
  Dat is iets wat wij volgens mij allebei aannemen. Zeker. Maar hoe verander je dan dieVerhouding tussen, zeg maar hoe, hoe, hoe maak je dan iemand klaar voor de, voor de arbeidsmarkt?
• 1:36:54
  Want dan is een thin client toch helemaal niet-- het is dan, dan is dat een thin client zijn is juist Goed. Goed, zou je kunnen zeggen. In ieder geval werkt goed.
• 1:37:02
  Zoals jij altijd verhalen aan het ophangen bent over dat je het fijn vindt om van model te kunnen switchen in je, in je coding app. Er is nu een beter model uit. Klik gewoon een ander model aan. Ja.
• 1:37:11
  Zo, ja, zo zou je in een economie ook over mensen kunnen denken. Dus ik denk dat, dat vind ik mooi dat je zegt, want, uhm, laten we de, je, er zijn twee, minimaal twee aspecten aan onderwijs.
• 1:37:22
  En hoe, hoe later in je leven of hoe, hoe verder je bent in onderwijs, hoe meer het richting beroepsonderwijs gaat. Dus het opleiden van iemand tot uiteindelijk een functie te kunnen doen. Of een baan of een carrière.
• 1:37:32
  Ja. Dat is een heel belang, heel belangrijk element. En er zit een stuk, uh, beelding in, als in hoe, hoe krijgen we het voor elkaar dat een mens kan bloeien?
• 1:37:40
  En dat heeft te maken met alle andere dingen dan kennis en kunde namelijk.
• 1:37:43
  En dat is op een basisschool en in de kleuterklas gaat het gelukkig nog niet over dat je daar moet bepalen of je bij, bij welk consultancy firm je wil gaan werken. Hoop ik. Ik ben, ik heb geen kinderen, ik hoop het maar.
• 1:37:55
  Maar goed, hè, dus daar gaat het, daar gaat het waarschijnlijk veel meer over die soft skills, over dat mens ontwikkelen. En wat, wat heeft een kind nodig?
• 1:38:02
  Maar naarmate je richting, uh, hoger beroepsonderwijs gaat, dan gaat het over de beroepen. Ja. En jouw, jouw punt is dan terecht.
• 1:38:09
  Oké, hartstikke leuk verhaal Wietze, over je thin client, maar uiteindelijk, hè, als jouw, uh, uh, kinderen, jij zou met hun naar open avonden gaan en daar sta, sta ik dan een soort van die opleiding te verkopen en ik sta daar thick clients te verkopen.
• 1:38:22
  Dat jij kunt zeggen: jongens, loop nog even met papa mee, want deze man heeft het niet helemaal door.
• 1:38:26
  Hier staat iemand die aan het leren is hoe je kolen moet schoppen, uh, scheppen of, uh, hoe je een paard-en-wagen bestuurt. Ja, dus dat is dat, hè, die, die, die wil nog Cobol programmeren, dat schiet niet op.
• 1:38:36
  Uhm, daarbij is dan wel, en dan, dan ga ik er even op in, de aanname dat dat beroepenveld, die carrière, dat, dat werk wat dan komt, uh, een grotendeels een augmentation paradigma is waarin AI ons als een thin client de rest van ons aanvult.
• 1:38:56
  Terwijl, het, dat, die aanname heb je nodig voor dit verhaal. Ja.
• 1:39:00
  Want als we dan ook nog gaan zeggen, hè, zie even voor je die thin client, dat dunne lijntje, zeg maar, wordt steeds dunner en uiteindelijk verdwijnt dat lijntje, want we zijn helemaal niet meer nodig, dan, uh, ik denk, d-dus laten we, ik ga nu proberen de vraag te beantwoorden: hoe bereid je je voor op een toekomst van, uh, serieuze augmentation door AI, maar nog steeds een thin lijntje, dik genoeg als het ware voor de mens om nog een toegevoegde waarde te hebben.
• 1:39:26
  Want als jij nu, de andere vraag, en die gaan we even parkeren voor nu, uh, uh, voor dit gesprek eventjes, is: hoe bereid je je voor op een wereld waarin de mens niet meer nodig is? Nee, precies.
• 1:39:36
  Want dat is zo'n soort van. Nee, we gaan uit van een wereld waarin mensen alsnog werken. Ja. Omdat dat, omdat dat belangrijk is in de economie. Daar is vraag naar. Precies.
• 1:39:44
  En dan, uh, dan is het een, uh, in de, in het geval van de piloten die al veel langer computers hebben, dus, hè, ik ga ze toch nog even gebruiken als voorbeeld, hebben we daar gekozen: jullie mogen vliegen op autopilot, maar als die stuk gaat moet je hem zelf kunnen besturen.
• 1:39:58
  Dat is ooit zo besloten. Nou, diezelfde keuze kunnen we voor andere beroepenvelden ook maken, hè.
• 1:40:03
  Dus je mag accountant zijn en de hele jaarcijfers opmaken, maar op het moment dat de, uh, computer stuk is, moet jij eigenlijk de geprinte versie van de jaarcijfers kunnen uitleggen.
• 1:40:13
  Daar doe jij dan 100.000 keer zo lang over. Maar voor het geval van een audit komen we gewoon met een bakkie koffie [lacht] bij jou zitten en dan ga jij regel voor regel aan de gang.
• 1:40:21
  Ja, uhm, je mag nog wel net je rekenmachine gebruiken, zeg maar. Zo'n stap doen we dan terug.
• 1:40:27
  Dus ik kan me voorstellen dat we voor bepaalde beroepen en taken gaan zeggen: oké, daar, doe daar dan maar wel nog die menselijke maat en die human in the loop en dan maar traag.
• 1:40:36
  Maar we moeten nog kunnen terugvallen op, want het is cruciale infrastructuur, hè, zoals een vliegtuig is cruciale infrastructuur op het moment dat hij in de lucht is.
• 1:40:43
  Uh, maar, hoor je me al aankomen, we kunnen dan ook de keuze maken dat we zeggen: ja, er zijn ook beroepen waar jij of waar niet van jou verwacht gaat worden dat jij het beroep ook kan zonder augmented te zijn.
• 1:40:55
  Hè, want dat is volgens mij een beetje het ding: kan jij zonder je cloud? Kan jij zonder je AI? En ik, ik kan me voorstellen dat er, dat er echt genoeg, uh, niet zo cruciaal is dat wij zouden durven om te zeggen.
• 1:41:07
  Laten we het concreet maken dan. En misschien iets wat, uh, iedereen wel tot bepaalde mate doet in zijn of haar werk. En dat is schrijven. Mhmm.
• 1:41:16
  Hoe denk je over de skill, het opbouwen van een betoog, zeg maar wat je leert op de middelbare school: een opstel schrijven waarbij je een conclusie moet trekken en onderzoek moet doen, boeken in moet gaan, voetnoten moet leren maken.
• 1:41:28
  Uh, dat blijf je doen tot, totdat je, uh, op het HBO, uh, uhm, of op de universiteit. Tot aan het eind van je opleiding ben je dat aan het doen.
• 1:41:38
  En het wordt gezien als een belangrijk deel van wat het onderwijs is, is het leren nadenken. En de uitingsvorm daarvan is dat je schrijft. Ja. Maar
• 1:41:48
  is schrijven an sich, denk je, een, een, een, is dat, hoort dat bij de thick client? Of kunnen we daar, uh, kunnen we dat uitbesteden via het zijn van een thin client aan een AI die kan schrijven?
• 1:42:02
  Nou, ik moet zeggen dat, uhm, kijk, de, even vanuit mijn docentenhart gesproken.
• 1:42:08
  De mooiste skills, uh, die je in mijn ogen een student kan geven, het is een mening, zijn skills die, g-die generaal, generalizen, zeg maar. Ik weet niet eens hoe dat, nee, die, die soort van. Generaliseerbaar zijn.
• 1:42:20
  Dank je wel. Kijk, uiteindelijk wil je, uh, bijvoorbeeld als je iemand vechtsport leert, Aziatische, een Aziatische vechtsport, dan leer je eigenlijk een mens ook, uh, barrières op-opwerpen.
• 1:42:34
  Een stukje zelfvertrouwen, uh, motoriek, dat is zo'n, uh, ja, zeg maar, zo'n efficiënte manier- Ja...om een hele, hele, heel boeket aan skills bewust en onbewust te leren.
• 1:42:48
  Het is de reden dat, uh, de Grieken zeiden: sport is het gymnasium zeg maar. Gym [lacht] is, is, is bijna even belangrijk als het brein.
• 1:42:56
  Want daar, dat, dat, uh, sterker nogDoor veel gebruik te maken van je lichaam wordt jouw soort van, uh, denken in ruimte in jouw brein over 3D-objecten beter.
• 1:43:07
  Zie je hoe dat een soort van als een inktvlek van alles verbetert? Nou, dus als je dan bijvoorbeeld tegen iemand zegt: uh, ik heb dit zelf meegemaakt.
• 1:43:15
  Ik ben vrij laat in mijn leven naar de universiteit gegaan toen ik dertig was en, uh, ik had in mijn brief die ik moest schrijven, dat is heel ironisch, maar had ik gezegd: ik wil leren schrijven.
• 1:43:26
  Dat was mijn br- slechte brief, [lacht] want ik kon het niet zo goed. Ik had, er was helemaal nog geen, uh, AI op het niveau dat we dat nu hebben, negen jaar geleden. Dus ik heb die brief geschreven.
• 1:43:35
  Heb ik echt een week over twee A4'tjes gedaan, want mijn brein werkt niet lineair, maar als een soort spinnenweb.
• 1:43:40
  Dus ik heb daar een soort spinnenweb terug proberen te werken naar een soort legoblokjes op elkaar gestapeld en een, een matige brief gemaakt. En daarop ben ik aangenomen.
• 1:43:48
  Omdat inderdaad een van de ideeën is als jij filosofie gaat studeren in dit geval, is dat jij essays schrijft. Dat is eigenlijk jouw eindproduct de hele tijd. Iedere acht weken vier essays. Echt.
• 1:43:59
  En als je niet van schrijven houdt en het niet kan, meld je jezelf dus aan voor een soort, m-, vreselijke marathon terwijl je knieën pijn doen. Wil ik toch even gezegd hebben. Zelf gedaan. Eigen schuld.
• 1:44:07
  Het was niet leuk, maar wat begon ik te merken, want ik kreeg vernietigende commentaren op mijn essays. Die waren niet best, dat ze zeiden: dat is nog niet zo.
• 1:44:16
  [lacht] Ik zit, besef me nu dat ik, dat ik wel gegroeid ben, maar ik ben er nog lang niet.
• 1:44:20
  Dat ze zeiden: ja, je bouwt een soort argument op, denk ik in dit ding of zo, maar je haalt een soort van veertien bijzaken aan die eigenlijk niet dienen ter ondersteuning.
• 1:44:30
  [lacht] Jij zit al naar mij te glimlachen van: klopt. En je, v-van mij probeer je ook nog eens vier dingen tegelijk te verdedigen en aan het einde hebben we eigenlijk niet echt een conclusie nu of zo.
• 1:44:42
  Weet je wel van: hebben we nu iets, hebben we nu op de toren van kennis van de mensheid daadwerkelijk een nieuw blokje gezet? Of heb jij er gewoon [lacht] soort tegenaan lopen schoppen?
• 1:44:50
  En dat mag in de filosofie, maar dat was niet het doel van die essays. Dus ik ben in drie jaar, uh, pijn en moeite, heb ik uiteindelijk mijn allerlaatste essay die ik ooit heb ingeleverd was en daar was ik erg trots op.
• 1:45:01
  Echt goed. Goed als in: ik had er over nagedacht, op, en ik heb leren denken, want dat was eigenlijk mijn punt. Door te schrijven. Ja, je hebt leren denken door te schrijven. Absoluut.
• 1:45:11
  Net als dat je, het, het, het ruimtelijk inzicht krijgt door karate. En omdat we dus weten dat er allerlei plekken zijn waarop jij skills kunt leren. Weet je wat is, Wytse, ik vind het zo verdomd demotiverend.
• 1:45:23
  Dat vond ik op de middelbare school al. Dat je dingen moest leren waarvan je wist dat dat kastje wat in je laatje lag dat allemaal kon fixen voor je. Het ingewikkelde, g-, uh, grafieken tekenen met cosinussen
• 1:45:34
  en, uh, op, met, met wiskunde is nog tot daar aan toe. Uh, en in onze tijd had je gewoon niet, uh, een alternatief voor het schrijven van een paper.
• 1:45:44
  Ja, je kon plagiëren, dat kon, maar je kon niet, weet je, j-je moest toch zelf een tekst schrijven. Er was gewoon geen alternatief, zoals bij, bij wiskunde er de rekenmachine was.
• 1:45:56
  En nu is die rekenmachine, ik probeer me gewoon voor te stellen hoe het is om nu een jong mens te zijn. Nu is die rekenmachine er voor al jouw vakken, voor alles waar je slecht in bent en waar je heel goed in bent.
• 1:46:06
  En om dan te zeggen: ja, maar doe het nou maar, want, uh, je leert allemaal, uh, je leert nadenken, hoor.
• 1:46:11
  Het moment dat je, uh, uh, weet ik veel, nou ja, een paper aan het schrijven bent over filosofie in jouw geval, maar het geldt over alles. Ik vind het nogal makkelijk gezegd tegen
• 1:46:22
  jongeren, kinderen, studenten, leerlingen, wat je wil. Om te zeggen: ja, uh, doe nou maar gewoon. Ook al kan die computer dit allemaal. Uhm, je leert er echt wel wat van, hoor.
• 1:46:34
  Nou, maar la-laten we het gesprek eens voeren met een, uh, met een meeste, met een lekker arrogant en, uh, uh, ontzettend lui, uh, uh, luie prins, ja, in een glazen kasteel, ergens in, uh, in een oud, uh, sprookje.
• 1:46:48
  De, de luiste prins die je maar kan voorstellen. Die heeft overal een lakei voor. Dus als we naar dat prinsje toe lopen en hij is inmiddels zeven en dan zeggen we: ga eens eten maken. Hop, ga eens eten maken.
• 1:47:00
  Dan wordt, komt het voor hem. Wat is één plus één? Wat is één plus één? Roept hij dan. En dan krijgt hij twee ergens.
• 1:47:05
  En iedere keer als wij iets vragen, of het nou fysiek of mentaal is, of allebei, gaat het prinsje naar een van zijn lakeien.
• 1:47:11
  Kijk, op het moment dat er dan gevraagd wordt: prins, hoe wil jij eigenlijk regeren over dit land? Wordt even gevraagd. Prins, wat vind jij eigenlijk? Wordt gevraagd.
• 1:47:19
  Kijk, op dat moment, uh, kijk, zolang, zolang de prins er akkoord mee is dat hij eigenlijk geen actieve rol speelt in het universum op dat moment, amper, behalve ademhalen. Ja, ik zeg het heel belerend nu wel.
• 1:47:30
  Is het oké. Ik vind het oké, maar ik, dan moeten we daarvoor kiezen. Of misschien moeten we mensen de keuze geven. Kijk, als, als iemand zegt: ik wil helemaal geen actieve rol spelen in de samenleving.
• 1:47:40
  Politiek interesseert me werkelijk geen reet. Laat het allemaal maar aan algoritmes over. Ik word, ik wo, ik, mij, weet je wat mijn doel is? The thinnest client on earth. Dat is mijn doel.
• 1:47:49
  Ja, goed, ik, ik moet zeggen: kunnen we dat, kunnen we die verantwoordelijkheid geven aan een kind?
• 1:47:53
  [lacht] Maar jij zegt dus eigenlijk de manier om, zeg maar, of de, de reden waarom je alsnog kinderen zou overtuigen om het toverstapje, toverstafje te laten liggen en in plaats daarvan toch het noeste werk zelf te doen is.
• 1:48:06
  Als jij iets wil veranderen in deze wereld, dan zou ik toch maar beginnen. Nou, het is, uh. Het is een disci-- je aan, aan, je spoort een discipline aan.
• 1:48:15
  Ja, ik, ik bedoel, ik ga to-toch even een oude Steve Jobs quote erbij halen, maar die heeft dan ooit in een interview gezegd: een van mijn grootste inzichten ooit is dat iedere, alles om me heen gebouwd is door een mens.
• 1:48:25
  Dat de hele wereld waarin je leeft, alle ideeën, alle fysieke objecten, alle politieke systemen zijn ooit bedacht. En dan zei hij daar achteraan: oftewel jij kan die veranderen.
• 1:48:34
  Maar, en jij zegt nu heel mooi, dat stel je eigenlijk hardop de vraag: kan je die veranderen als je ze eigenlijk niet begrijpt? Mhmm. Kan jij de wereld vormgeven als je de wereld niet begrijpt?
• 1:48:45
  Ja, alles kan dan via jouw toverstafje vormgegeven worden. En dus, dat, en ik denk dat, ik moet eerlijk zeggen dat ik, ik voel een soort passie erbij om tegen die prins te zeggen: wil jij, wil, wil jij wel bestaan of zo?
• 1:48:57
  Als een soort, uh, boze docent. Maar tegelijkertijd, als hij dan heel, uh, kwiek, kwiek was of zo, of een hele goede adviseur had, zou die kunnen vragen: hoezo dan?Mhm.
• 1:49:06
  Hoezo is het nou zo belangrijk dan dat ik echt besta? Laat me gewoon chillen. Alles om mij heen wordt geregeld, man. Ik, w-- dit is toch hoe het vroeger was?
• 1:49:14
  Zaten we lekker in een warmwaterbron als een stel aapjes elkaar aan te kijken. Ik wil terug naar de warmwaterbron. Maar toch, je leert nu om boekhouder te worden.
• 1:49:22
  Dan, dan moet er toch in jou iets zijn wat denkt: ja, dat slaat inderdaad eigenlijk nergens meer op, een opleiding tot boekhouder.
• 1:49:29
  Ja, dat ligt er denk ik aan of je— want dat is, dat is een onderliggend of een, of een belangrijke vraag is. Ik doe je aanname- Heel goed. Dat beroep gaat verdwijnen. Absoluut. Uiteindelijk wel.
• 1:49:38
  Uhm, of jij een meta-boekhouder wil worden. Wat bedoel ik daarmee? Ik gebruik even het woord meta.
• 1:49:43
  Wat we nu zien gebeuren is dat we van implementatie, hè, dus de frontlines van werk, in softwareontwikkeling is dat de regelcode typen, in het boekhouden is dat de cijfers controleren, aanklikken en z-- misschien zelfs even nachecken met je rekenmachine.
• 1:49:56
  Zie ik me dan zo voor me, zeg maar. [zucht] Nou ja, bonnetjes invoeren en zorgen dat het klopt in die systemen. Ja, natuurlijk.
• 1:50:02
  Dat, dat, uh, n-, d-, waar, waar wij, jij en ik, dan allebei van denken: dat wil je toch helemaal niet, hè, anders, a-a-wij, wij besteden dat het liefst uit. Ja, veel mensen doen dit. Zeker.
• 1:50:10
  En bedankt daarvoor, want het is echt, uh, uh, wat mij betreft onprettig. Maar, uh, dat op die plek, zeg maar, van het soort rauwe werk of het repetitieve werk of het invoerwerk, dat gaat er allemaal uit. Ja.
• 1:50:22
  Dat, dat is, heeft automatisering al gedaan, maar deze golf gaat dat nog veel meer doen. Dat betekent dat jij kan zeggen: oké, maar dat is wat ik deed, dus ik ga wat, ik ga heel wat anders doen, want dit is wat ik deed.
• 1:50:32
  Ik vond het ook nog eens leuk of ik kan niks meer. Er is een reden waarom jij zegt: ik ga weg.
• 1:50:36
  En je kunt ook zeggen: maar bedoel je dan dat ik eigenlijk in plaats van tien boekhoudingen, boek, boe, uh, tien, tien, uh, uh, bedrijven- Ja, ja, klanten. Klanten. Dat ik er duizend kan hebben.
• 1:50:47
  Kan ik straks tienduizend klanten servicen? Mhm. Hoef ik dat hele invoerwerk niet meer te doen? Word ik een soort orkestdirigent die, die agents staat te dirigeren?
• 1:50:56
  Kijk, als je dat beeld vet vindt, hè, dus het ging je, het ging bij jou voor het boekhouden nooit om het invoeren, maar om, weet ik veel, de BV Nederland draaiende te houden door middel van informatie.
• 1:51:05
  Ik noem maar even wat. Nou ja, gewoon doen wat je werkgever van je verwacht.
• 1:51:08
  Nou ja, kijk, daar, uh, daarin denk ik dus nu dat er van, van iedereen gevraagd gaat worden door, ja, noem het agents, noem het, uh, stukjes software die werk voor jou doen, uh, dat jij een soort manager van agents wordt.
• 1:51:21
  Ja. Dat je gaat dirigeren. Maar als je dit gelooft, dan, v-, dan g-, moet je toch ook geloven dat de opleiding moet veranderen. Nou, de vraag is- Of in ieder geval het deel wat je voorbereidt op boekhouder zijn.
• 1:51:30
  Dat begint dan al op de basisschool met re, met leren rekenen.
• 1:51:33
  Nou, a-a-als we er dus van uitgaan dat veel cruciale infrastructuur overgedragen kan worden aan systemen, dus we hebben daar geen thick clients nodig, maar thin clients.
• 1:51:41
  Oftewel mensen die net genoeg weten om de boel te managen, die een swarm van agents gaan monitoren, zeg maar.
• 1:51:47
  Uh, als we dat geloven en zeggen: er blijft zeker nog twintig jaar lang de vraag naar die monitors, dan zouden beroepsopleidingen, om het allemaal even te kaderen, nu vooral moeten gaan over het aansturen, managen en dirigeren van onderliggende systemen.
• 1:52:03
  Maar dit is nogal wat, wat je zegt, hè. Het is flink, ja, want [lacht] Het is een, want, uh, ja, oké, ja. Wa, e-en de vraag is of die, uh, zijn die onderliggende systemen niet best wel inwisselbaar?
• 1:52:14
  Hè, dus nu zijn beroepsopleidingen vaak nog heel erg gethematiseerd op een, een specifiek beroep.
• 1:52:19
  Maar is een swarm van design robots aansturen voor een internetbureau niet precies hetzelfde als een swarm van boekhoudrobots aansturen?
• 1:52:26
  Dat, dat denk ik niet helemaal, maar tegelijkertijd denk ik: misschien is, kan je best wel heen en weer jumpen. Misschien stuur je wel meerdere swarms aan in meerdere thema's. Ja.
• 1:52:35
  Dus waar leg je dan precies de verhouding tussen waar je het wel ingrijpend onderwijs moet veranderen omdat je mensen voor moet bereiden op de banen van de toekomst, waarbij jij nu een beeld schetst over het aansturen van agents.
• 1:52:47
  En waar begint dan de, uh, het leren nadenken? En dan heb ik nog, dan haal ik al die andere elementen: Bildung, uh, sociaal contact.
• 1:52:56
  Weet je, ik snap dat er allerlei andere belangrijke aspecten onder, maar even om, om, om het scherp te houden op, op arbeid: w-waar, waar eindig je dan eigenlijk met je, waar eindig je met het leren nadenken?
• 1:53:11
  Nou, de, ik denk, de vraag is denk ik een beetje of jij, dit is heel, uh, dubbel wat ik nu ga zeggen, maar mijn vraag is of je als mens met een te kleine skillset, een te klein brein,
• 1:53:28
  de juiste vragen kan stellen aan die AI's.
• 1:53:32
  Als we ervan uitgaan dat wij daar nog een rol hebben, om welke reden dan ook, juridisch, omdat we dat willen, whatever, het kan niet anders, AI blijkt niet snel slim genoeg te zijn, dat wij zeggen: oké, jij krijgt de rol van op, everybody is an operator now, hè, van de swarm.
• 1:53:46
  Kan jij dan als operator die swarm wel aansturen als je eigenlijk dommer bent dan je eigen swarm? Of in ieder geval eigenlijk helemaal niet zo goed begrijpt wat daar helemaal, wat daar gebeurt.
• 1:53:55
  Ja, in het geval van het doen van 1.000 boekhoudingen, v-, door één persoon. Ja. Technisch zou het kunnen, maar de vraag is of jij een goede mens, m-human in the loop kan zijn. Ja. Om dat werk te controleren. Exact.
• 1:54:06
  En dat is ondoenlijk. Ja, nou ja, of je moet het faken en heel de tijd alleen maar op accept, accept, accept drukken. Ja, accepteren dat. Ja, maar ik denk dus- Dat je het niet weet.
• 1:54:13
  Op het moment dat wij gaan zeggen: ja, die operators zitten daar enkel alleen voor de vorm. Je hoeft eigenlijk niet echt iets te weten.
• 1:54:19
  Dan hebben we zo'n thin client dat we eigenlijk in het full automation tijdperk belanden. Daar zit iets tussen waarschijnlijk. Ja, dat denk ik ook. Een stuk tijd sowieso. Ja.
• 1:54:26
  En mogelijk, uh, keuzes die we met elkaar gaan maken. Ja, en dan zeg je: in die tussentijd ble- lekker blijven opleiden om Excel helemaal, en, en, en soort van de basisbeginselen van, van boekhouden allemaal bijbrengen.
• 1:54:37
  Als jouw concrete vraag aan mij is: op basis van wat jij en ik tot nu toe voor ons zien, door alle boeken die we lezen en de mensen die we spreken en de fantasieën die wij hebben, vind ik het dan moreel verantwoord dat we het onderzi-, onderwijssysteem niet aanpassen?
• 1:54:50
  Nee, er moet iets gebeuren. Mhm. Dus als je daar een antwoord op wil: er moet iets gebeuren. Maar de, ik heb veel mensen in mijn leven die werken in onderwijs en niemand zegt tegen mij: er moet niets gebeuren. Nee.
• 1:55:03
  Er is, uh, er is, uh, van mensen met een vrij, uh, uh, grote blik, alsof ze net een spook hebben gezien, die ik spreek, tot mensen die helemaal hyped zijn, want die hadden een onderwijsvisie die eindelijk waar kan worden.
• 1:55:14
  Tot mensen die een soort van blokkeren en zeggen: joh, ik voel me eigenlijk existentieel zwaar bedreigd en ik maak me zorgen over de jeugd. Die, dat zijn een beetje de groepen die ik, uh, spreek.
• 1:55:23
  Maar er is, er zijn, ik kom echt weinigTot geen mensen tegen die zeggen: dit kan zo, kan zo verder. En we gaan ook zeker stilstaan bij de manieren waarop we kunnen gaan leren.
• 1:55:32
  Want dat, dat is, daar is ook een heel, uh, positief en optimistisch verhaal over te vertellen. Maar toch nog even over wat we dan moeten leren.
• 1:55:39
  In hoe, zeg maar, wat, wat hoor jij dan om je heen aan de, uh, in het, in het onderwijsveld zeg je dan, geloof ik, in, in het vak. Prima. Wat er, wat er, wat er moet veranderen aan, uhm, wat je leert.
• 1:55:52
  Nou, de, kijk, uh, die rekenmachine is in dat opzicht wel een mooi voorbeeld.
• 1:55:56
  Want, uh, als je natuurlijk eigenlijk ziet dat er al apparaten en software zijn nu, niet in de toekomst, maar nu, die eigenlijk gelijk of beter zijn dan waar je mensen nog voor aan het opleiden bent, dat is gewoon niet netjes, hè.
• 1:56:10
  Er is, uh, uh, een mooi artikel van de New York Times. Die zullen we linken. Uh, die gaat over radiologen.
• 1:56:17
  Mensen die heel de tijd, uh, röntgenfoto's bekijken en dat daar dan x jaar geleden al geroepen werd door een Nobelprijswinnaar: die mensen mag je niet meer opleiden, want ik vind het echt onverantwoord dat we dat nog doen.
• 1:56:27
  Want wat ik heb gezien, wat er nu kan en komt, dat is niet netjes. Nou, dat artikel ging erover dat er nog nooit zoveel vraag is geweest naar radiologen, hè, als een soort haha of zo, een soort gotcha of zo.
• 1:56:38
  Terwijl eigenlijk de eindconclusie was, nou, alle experts die in het interview aangehaald werden, de radiologen zijn al operators geworden, hè, dus die zitten achter meerdere schermen tegelijk samen met AI human in de loop te zijn.
• 1:56:48
  Dat is de realiteit van vandaag. Dus ja, de vraag is toegenomen, maar de baandescription is allang veranderd naar een operatorachtige functie. Dat eerste punt gemaakt.
• 1:56:56
  En punt twee is: ja, er is nu inderdaad een soort opleving nog, hè, een soort boom before the bas-, the bust van, van, van vraag daarnaar. Maar wij zien geen, uh, de experts aan het woord in het artikel.
• 1:57:08
  Wij zien ge-, nog steeds geen toekomst voor deze mensen.
• 1:57:11
  Dus ja, inderdaad, uh, de, uh, uh, o-, alarmistische oproep van: je mag geen mensen meer opleiden nu, want dat is, i-, uh, uh, ja, i-, niet moreel verantwoord, was te vroeg, maar de, de tijdslijn, of zeg je dat, de, de stappen die daar liggen, die, die kloppen gewoon nog steeds.
• 1:57:27
  Dus, [schraapt keel] uh, uh, uh, iets langer verhaal kort:
• 1:57:32
  wat we, als wij nu zien dat er systemen zijn die prematuur of at, uh, op, op een bepaald niveau iets uit kunnen voeren waar je specifiek mensen voor aan het opleiden bent om te doen, hè. Zeg, uh, tekst vertalen.
• 1:57:45
  Laten we hem gewoon even heel concreet maken. Iemand tekst vertalen. Ja, ik vind dat daar echt grote groepen voor opleiden is onverantwoord. Wat, uh, wat die taalmodellen goed kunnen, is dat.
• 1:57:54
  Dat is letterlijk waarom ze ontworpen zijn. Dus laten we daar, uh, van bepalen. Omdat de arbeidsmarkt daar geen, er gaat geen vraag meer naar zijn op de arbeidsmarkt, bedoel je?
• 1:58:03
  Dat is de reden waarom je dit niet meer zou willen geven. [schraapt keel] Nou, ik zou dan, uh, kijk, want er zijn allang, uh, opleidingen die mensen volgen uit passie. Ja. Dat mag, hè.
• 1:58:11
  Antropologie van een bepaald, uh, klein volk ergens of een oude cultuur. Daar zitten geen carrièrekansen achter vaak. Nee. Maar iemand zegt gewoon: ik vind dit gewoon belangrijk. Ja.
• 1:58:19
  En ik ga meedoen aan die stapel kennis daar. Ja. Fijn. Ja. Hè, als een student mij aanspreekt en zegt: joh, ik vind vertalen echt het allermooiste wat er is. Mhmm.
• 1:58:27
  En dan zeg ik: joh, maar daar kan je geen werk bij krijgen. Maak je geen zorgen, ik regel wel wat anders. Zeg ik: nou, kom maar binnen.
• 1:58:31
  Dat is, dat is even prima, hè, maar laten we niet mensen, uh, s-, ergens zweet en, uh, moeite in laten stoppen waar ze eigenlijk later geen, uh, geen baan mee kunnen, uh, mee kunnen. Dat is niet netjes, vind ik.
• 1:58:41
  Oké, is dat de kern van het, het wat we moeten veranderen in, uh, in, in onderwijs? Nou, als het dus- Toch de, dat is toch de, de, de, de banenmarkt waar je aan denkt. Beroepsonderwijs, hè.
• 1:58:52
  Dus als het, als het beroepsonderwijs, wat een heel groot deel is van onderwijs. Ja.
• 1:58:55
  Waar je opleidt tot een bepaald beroep, vind ik het heel belangrijk dat we jaarlijks meten of dat inderdaad nog, en dat gebeurt eigenlijk al nu, maar dat moet nog veel strakker gaan gebeuren.
• 1:59:04
  Zijn we hier aan het opleiden voor een beroep? Want er zijn al beroepen vervallen in het verleden en er zijn al opleidingen opgeheven. En dat zal nu een stuk sneller en breder gaan dan dat het voorheen ooit gegaan is.
• 1:59:14
  Wat je vaak hoort over AI in het onderwijs is dat de manier waarop onderwijs gegeven, uh, wordt ook heel erg kan veranderen.
• 1:59:21
  En het eerste wat natuurlijk, uhm, uh, dan in je hoofd schiet is dat er hyperpersoonlijk onderwijs, uh, gegeven kan worden. Dat is al heel lang een droom, heb ik altijd begrepen van onderwijsvernieuwers.
• 1:59:32
  Al sinds de tijd van Aristoteles hadden mensen erover dat, uh, er een soort van, dat je een-op-een mentorschap, dat dat de beste manier zou zijn om onderwijs te geven.
• 1:59:41
  En er zijn heel veel onderwijsstromingen en onderwijsvernieuwers geweest met de tijd.
• 1:59:44
  Die, uhm, ja, uh, soort van, ook wel heel erg inzetten op heel kindgericht leren of heel individueel leren in plaats van de grote g-, de grote gemiddelde, g-, het gemiddelde van de groep te gebruiken.
• 1:59:58
  Uhm, wat voor dromen denk jij dat er waargemaakt gaan kunnen worden die, uh, al, al honderden jaren, uh, waar mensen al honderden jaren over nadenken, maar wat nu opeens moet gaan kunnen?
• 2:00:12
  Wat, wat denk je dat er gaat gebeuren? Kijk, het is, uh, een, een kind of een jong, jongvolwassene of iemand bij een avondopleiding, maakt eigenlijk niet zoveel uit. Student, leerling. Ja. Kijk, als jij in een groep zit
• 2:00:27
  en er wordt een grap gemaakt en iedereen lacht en jij snapt hem niet. Ja. Er wordt een metafoor uitgelegd door jouw docent Hage die jij niet begrijpt. Ja, dan is dat een heel akelig gevoel.
• 2:00:36
  Ik heb dat ook wel eens meegemaakt als ik in een onderwijsgroep zat als student. Dat het lijkt alsof de hele klas het snapte en ik snapte het niet. En dat je dat dan niet durft te vertellen.
• 2:00:44
  Dat is de schaduwzijde van, uh, van klassikaal onderwijs.
• 2:00:49
  Kijk, als er op dat moment de mogelijkheid is om bijles te krijgen voor eeuwig in metaforen en vormen en met sleutels tot jouw brein die precies op jouw brein passen, daar ga ik natuurlijk niet, uh, uh, tegen zijn.
• 2:01:01
  Dat, dat kan ik eigenlijk, uh, grotendeels aanmoedigen als het ervoor zorgt dat de mensen die achterblijven, de mensen die drie keer zo lang nodig hebben, uh, de mensen die een ander soort brein hebben, die anders denken, die veel visueler denken, die veel auditiever denken.
• 2:01:14
  Dat die mee kunnen op een bepaalde manier en zich minder, uh, uh, ja, achtergesteld voelen. Dat lijkt me fantastisch. Ik ga er toch weer even een maar'tje aan toevoegen.
• 2:01:24
  Ik denk wel dat het eigenlijk wel ironisch is dat de beroepshard skills waar wij het nu samen over hebben, uh, dus, uh, zi-, een opleiding en onderwijs zien als jou klaarstomen voor de toekomst.
• 2:01:37
  Dat we eigenlijk samen concluderen dat er nog wat vraagtekens staan. Hele grote gigantische vraagtekens rondom die specifieke hard skills, hè.En dan vraag ik me af: de soft skills, hè, de stabiel doen, het socialiseren.
• 2:01:49
  Zijn dat eigenlijk wel dingen die een individu moet doen? Ja, zeg het me maar.
• 2:01:53
  Nou, ik heb om eerlijk te zijn het idee dat we eigenlijk een beetje in een soort, uh, jammere, s-, uh, split terechtkomen nu, waarin we hyperindividueel onderwijs kunnen aanbieden.
• 2:02:05
  Hè, dat kunnen die AI's nu vandaag terwijl ik met jou zit te praten. Als je wiskunde wil leren. Man, te gek, weet je wel. Ik gebruik het zelf, uh, supervaak om het op Zwitsers uit te leggen. Nou, dat is vreemd, hoor.
• 2:02:14
  Dus dat, dat [lacht] die split, die split waar ik over praat is eigenlijk de rare split dat als jij, uhm, zeg jij, ge-, je, jij kiest ervoor omdat podcasten inmiddels volledig geautomatiseerd is en het ondernemen wil je achter je laten.
• 2:02:29
  Dat jij zegt: ik ga me helemaal verdiepen in Noorse mythologie. Ja. Je hebt het nu over mij. Over een paar jaar als podcast, uh, geen, uh, geen vakgebied meer is waar je geld mee kan verdienen.
• 2:02:38
  De volgende update van NotebookLM, zeg maar. Precies, dan ben ik klaar en dan ga i-, dan ga ik me uit soort hobby richten op Noorse mythologie.
• 2:02:44
  Ja, dan, en dan kan jij, uhm, en dan heb jij, uh, de nieuwste Meta-bril die een soort magic leap is.
• 2:02:50
  Dus die, die, die projecteert als hologrammen die Noren in jouw kamer met kampvuur en al en muziek en weet ik veel allemaal. Ik heb hem middenin. Helemaal te gek.
• 2:02:58
  En daar ga jij op jouw tempo en dan roep jij: sneller, sneller, sneller [lacht] en schiet op, waarom duurt het zo lang? En dan, en dan ga, gaat dat ding, gaat teruglachen, want die vindt dat ook. Weet je wel. Ja.
• 2:03:07
  Je hebt gelijk, Alexander. Mhmm. Nou ja, whatever you need, what, whatever jouw stijl is van hoe jij dingen tot je neemt, gebeurt daar voor jou.
• 2:03:15
  Ik ga dan niet die deur opentrappen en zeggen: zet uit die troep, waar ben je mee bezig? Daar is een gelukkig mens. I don't care. Uh, good for you. Maar
• 2:03:24
  als daar het doel niet was: leren over Noorse mythologie, maar, uh, ik wil beter leren samenwerken of ik wil beter een, uh, actieve politieke burger zijn.
• 2:03:34
  Uh, ik wil, uh, uh, i-initiatieven gaan opzetten waar anderen bij betrokken zijn. Ja. Dan zou ik zeggen: ja, dan moet je toch die kamer uit waar jij alleen bezig bent en die AI in gaan zetten. En dat kan prima.
• 2:03:47
  Die AI is niet een soort van alleen maar inzetbaar voor individuen. Dat is onzin. Mhmm. Dan moet dat een groepsproces worden. Een plenair iets ook.
• 2:03:54
  Hè, en ik heb nu wel het idee dat, uh, als opleiden voor specifieke beroepen van jong naar oud, zeg maar, eigenlijk, uh, steeds minder relevant aan het worden is, omdat we think clients zijn die op hele abstracte niveaus van boekhouden tot, uh, uh, design swarms kunnen aansturen.
• 2:04:12
  Dus we merken eigenlijk dat dat hele specifieke, uh, uh, carrière opleiden, beroepsopleiden gaat er een beetje af. Dat gaat langzaam verdwijnen.
• 2:04:20
  Wat er overblijft is eigenlijk de, de rest van onderwijs, wat ook gigantisch is, wat veel meer gaat over hoe een mens kan bloeien, ontwikkelen, uh, uh, gelukkig mens kan zijn.
• 2:04:29
  Uh, m-mindfulness, vriendschappen, uh, uh, uh, organisatiestructuur, et cetera. En dan denk ik: oh, maar daar is meer nodig dan alleen maar hyperindividueel onderwijs. Mhmm.
• 2:04:39
  Dus ik vind het wel graag dat we een uitvinding doen waarin we de ultimate personal tutor uitvinden, terwijl die vooral geschikt is volgens mij om iemand heel erg persoonlijk als expert op te leiden tot een niche.
• 2:04:52
  Terwijl de skills die steeds zinvoller lijken te worden in onderwijs nu, die als het ware overblijven als het water weg is, dat die, uh, zich meer lenen voor, uh, collectief groepsonderwijs.
• 2:05:03
  Het is, het is echt wel een aanname van mij, hoor. Dus, uh, dus ik, ik zou zeggen dat.
• 2:05:07
  Maar je, de, hier zit de aanname onder dat er, dat er, want je zegt: het is een tussenfase, dat er, dat er straks gewoon echt geen werk meer is. Ja. Die aanname zit eronder. Nou ja, dat het, uh.
• 2:05:18
  Dat je niet hoeft te werken om de economie draaiende te houden. Nou, wat ik nu. De meeste van ons.
• 2:05:23
  Ja, nou, o-o-of, of eigenlijk wat ik een beetje uit ons gesprek haal nu, uh, wat we dan ontdekken als het ware, is dat ik, uh, me afvraag of die operatorfunctie, laten we hem maar even zo noemen, of die zo specifiek is of dat iedereen gewoon een soort basale operator, uh, opleiding krijgt of skillsets om uiteindelijk 100, in 100 verschillende werkvelden te kunnen werken, potentieel.
• 2:05:46
  Oké, als je het scenario even uitzet dat, uh, humanoids alleba-, alle soort van fysieke banen kunnen doen en dat we, uh, dat, uh, AI's zo slim zijn dat ze met elkaar onze hele economie aan het draaiende houden zijn.
• 2:05:57
  Dat, dat is nogal een aanname. Er zit nog wel een soort van portaal. Zeker.
• 2:06:01
  Uh, een alternatief portaal is er ook, waarin er alsnog hele grote groepen mensen alsnog arbeid verrichten omdat dat nou eenmaal moet, omdat die computer dat niet kan doen.
• 2:06:11
  Dus nou even afgezien van alle- Zeker...zelfontplooiing en andere, uh, redenen waarom we willen werken, maar gewoon eventjes voor het functioneren van een, uh, economie, dan zijn er nog steeds banen.
• 2:06:23
  En als ik jou goed begrijp wil je die mensen nog steeds opleiden met de basisbestanddelen voor die beroepen, uh, omdat het moet blijven doordraaien als de computer het niet doet. Voor bepaalde
• 2:06:35
  delen van onze samenleving denk ik dat het verstandig is dat we een human in the loop verlangen. Ja. Ja.
• 2:06:42
  Uhm, ik kan me zo voorstellen dat je blijft willen dat chirurgen kunnen blijven opereren met hun handen in plaats van maar, maar verwachten dat dat allemaal maar door robots gefixt gaat worden.
• 2:06:52
  En dat duurt dan waarschijnlijk drie keer zo lang of 10 keer zo lang. Ja. En dat is, en ook hun slagingskans is de helft zo groot, maar het kan nog. En voor vliegtuigen en voor. Ja.
• 2:07:00
  Nou ja, stel je voor dat dat, dat je dat aanneemt, dat we dat alsnog gaan. Misschien gaan we het ook wel eisen als maatschappij. Zou, zou ook nog kunnen dat de mensheid dit juist eist, dat deze dingen.
• 2:07:08
  Blijkbaar bij vliegtuigen gebeurd. Ja. Ik weet niet wat het verband is.
• 2:07:11
  Die Noord-Zuidlijn werd niet heel lang geleden in Amsterdam aangelegd en toen hadden ze, hadden ze letterlijk de keuze: doen we het met of zonder mens erin?
• 2:07:18
  Want dat, ja, die dingen die worden aanbesteed, uh, 10, 10 jaar of weet ik veel, in ieder geval heel lang voordat die metrolijn wordt aangelegd. Toen konden ze kiezen: doen we zonder of met mannetje erin?
• 2:07:26
  Nou, toen wilden we een mannetje, want we vonden het toch niet te vertrouwen, een metrolijn zonder persoon erin.
• 2:07:31
  Terwijl je kon diezelfde, ik was in een andere stad gereden, rijdt diezelfde metro daar, dus diezelfde stoeltjes en dezelfde vorm van die dingen, maar dan zit er niemand in.
• 2:07:38
  Het is gewoon een upgrade die je kan aanvinken denk ik bij dat- Ja...bij dat bedrijf waar je het koopt. Er is een, uh, een lijn in Parijs van, uh, noord naar zuid.
• 2:07:46
  Het is een metrolijn en die is helemaal automatisch en dan kan je ook voorin staan, zeg maar. Ja, precies. En ik stond daar dus twee jaar geleden of zo. [lacht] Toen stond ik soort van daar, toen stond ik daar.
• 2:07:56
  Toen dacht ik: wauw, dit is wel even een soort momentje of zo. Daar sta ik dan of zo. Ja. En, en als je dat dan een soort van breed trekt, dan.
• 2:08:02
  Maar goed, ikIk wil dus niet, uhm, uh, dat zeg jij ook niet, hoor, maar mijn, mijn argument of mijn, mijn wens is dus niet om ev-everywhere humans in the loop, maar een soort van afgekaderd deel van de samenleving waar ik zeg: dan duurt het maar langer of dan is het maar moeilijker, maar daar moeten gewoon mensen bij betrokken blijven.
• 2:08:21
  Ja. Maar ook een deel, bijvoorbeeld boorplatforms of zo, dat ik zou zeggen: juist niet. Omwille van de veiligheid.
• 2:08:26
  Ja, ja, ik kan me ook, uh, voorstellen dat er plekken zijn, b-, uhm, 's, 's nachts aan de weg werken op een snelweg. Waarom laten we dat door mensen doen?
• 2:08:34
  Laten we het alsjeblieft zo snel mogelijk stoppen, want het is levensgevaarlijk. [lacht] Dus, uh, dat wil ik ook even gezegd hebben.
• 2:08:39
  Ik ben niet een soort van overall human in the loop, maar ik kan me wel voorstellen dat we humans in the loop houden op bepaalde plekken. Maar is da-, zijn die plekken dan genoeg om, om iedereen op te leiden?
• 2:08:48
  Of is dat een soort van niche? Nee, in dit tussenscenario is gewoon een deel van de mensen hun werk kwijt. Ja. Ja.
• 2:08:54
  Ja, en, en, en dan is het nog steeds zo dat, uhm, ik was bij een, uh, vakschool een aantal maanden geleden en toen stelde ik de vraag aan een groep studenten. Dit is dus een, uh, houtbewerken, mode, garage, auto's.
• 2:09:05
  Echt vet. Ik vond het in ieder geval, ik hou ervan. Dus ik was daar en toen vroeg ik aan een, uh, groep studenten: oké, jullie krijgen, uh, vanaf nu krijg je € 10.000 per maand.
• 2:09:14
  Ja, ga er maar effe van uit dat ik dat regel tot, uh, tot je dood. Uh, wat doe je dan nu als we dat nu-- je hoeft nu alleen maar op deze tablet op een knop te drukken, effe je IBAN'netje invullen en dan gaan we.
• 2:09:26
  En toen, uh, was er de helft die zei: ik pak hem, deze kaart, zeg maar. Geef maar. Waar kan ik, uh, tekenen? Ja, ik ga Noorse mythologie studeren in mijn vrije tijd.
• 2:09:35
  Ja, of nou ja, of in ieder geval niet meer wat ik hier aan het doen ben. [lacht] Want dat was het, ze waren in opleiding. Ja, ja, ja. En, maar er waren er ook een aantal die zeiden: oh nee, zeker niet.
• 2:09:43
  Ik bedoel, ik zou hier zo lang over doen als ik zelf wil, was de feedback. Oh ja. Hè, want ik voel, ervaar druk. Ja. Maar ik wil dit allemaal leren. En toen zei ik: en wat als niemand meer wat bij jullie koopt? Whatever.
• 2:09:56
  Mhm. Dus, hè, dan komen we weer op het gaijke Formule 1-argument: er is iets wat wij ook nog gaan doen als het niet hoeft. Ik vind het gewoon vet om shit te maken. Ja, man. Ja. Jij ook. Ja. Ik ook, hè. Ja. Dus ja.
• 2:10:05
  Dus oké, dus dan, dan, dan settelen we voor dit, voor de, voor sake of discussion settelen op een soort van 14-urige werkweek waarbij de meeste mensen heel veel tijd over hebben om aan andere dingen te werken.
• 2:10:14
  En jij zegt dus eigenlijk: we staan in het onderwijs op een soort van, ja, een soort van rare splitsing, waarbij de dingen die ons opleiden tot die 14 uur die dan nog, die we dan nog gebruiken in onze week, daar zijn we dan heel erg aan het nadenken over hoe AI kan helpen bij het, uh, ja, opleiden tot die, tot heel goed zijn in die 14 uur.
• 2:10:31
  En de rest van de tijd kijken we naar AI, terwijl, daar moeten we juist niet naar AI kijken. Dan moeten we juist, nou ja, denken aan het sociale aspect. Ja. Aan, wat nog meer?
• 2:10:42
  Wat moet er dan in die, in die, in de tijd die op school gealloceerd wordt voor niet voorbereidend op beroepsonderwijs, waar, waar denk je dan aan?
• 2:10:49
  Nou kijk, als je, want we halen daar de plicht dus een beetje weg uit dat beroep, hè, want in essentie, of in ieder geval de,
• 2:10:57
  uhm, want d-, wat er in, er zit iets dwangmatigs in onderwijs, uh, zeker jo- bij jonge, uh, uh, studenten, zeg maar, leerlingen, uh, kinderen. Uh, dat wij, hè, met elkaar besluiten als de oude garde, uh, de volwassenen,
• 2:11:13
  dat daar iets geleerd moet worden, dat daar iets moet gebeuren waar die kinderen ook eigenlijk niet zoveel over te zeggen hebben. Met een leerplicht en een programma. Ja.
• 2:11:20
  En dan zeggen wij: ja, lui-, uh, maar ik weet niet waarom ik dit leer. Nou, dat, dat kom je later nog wel een keer achter. Vertrouw ons maar of, of hou gewoon je mond [lacht] en doe je ding. Mhm.
• 2:11:28
  Nou, dat af, afdwingen daarvan, zeg maar, dus het, het deel van het, van wat nu onderwijs is, dat dan moet, dat wordt moeilijker te verdedigen, omdat dan, uh, de meest slimme leerling uit de klas zegt: joh, ik heb het er gisteravond met ChatGPT eens goed over gehad.
• 2:11:42
  De helft van wat ik hier heel de dag moet doen van jullie is bullshit, want dit, dit, dit hele toneelstuk gaat nooit meer opgevoerd worden, joh. [lacht] Weet je wel, je za-, er gaat er ergens één zijn.
• 2:11:49
  Ja, zeker, dat zou ik geweest zijn op mijn, op mijn veertiende. Ja, dus leg mij, leg mij en jij nou maar eens uit waarom ik dit nog moet doen hier. Ja. [lacht] Dat prinsje. Ja, dat prinsje. Dat ben ik natuurlijk. Ja. Ja.
• 2:11:59
  [lacht] En, en uiteindelijk ga je in die, in die, uh, uh, in dat, dus het, het deel van onderwijs wat moet, want dat doen we nou eenmaal, hè, stel er geen vragen over.
• 2:12:10
  Dat gaat uit elkaar vallen, want da-da-dat, de keizer heeft geen kleren aan, zeg maar. Het is, dat gaat niet werken. Mhm. Maar, da-, dus, en dan gaat er dus overblijven, en laat hem even als gek beeld, uh, schetsen. Uh,
• 2:12:23
  ki-kind zit thuis en mag zelf bepalen om naar een, een schoolachtige plek te gaan waar hij of zij kan roepen: ik, uh, uh, wil, uh, Noorse mythologie doen. Mhm.
• 2:12:36
  En dat dan daar die school zegt: nou, daar hebben we een stukje AI voor. Ja, precies. Daar hebben we ook nog een specialist. Kom maar. Dit is volledig op maat, op, op, op ziel, spiritualiteit gedreven onderwijs.
• 2:12:45
  Maar zonder die druk van, uh, Niks moet. Moet kunnen doen voor die baan. En misschien kun je daar dan wel weer de, uh, het leren nadenken-ding onder leggen. Ja.
• 2:12:53
  Omdat je de hele druk weghaalt van, dit moet je leren voor de arbeidsmarkt later als je groot bent. Dus zo krijg je M&O op de middelbare school. Management en Organisatie krijg ik. Dan leer je boekhouding en maar.
• 2:13:03
  Wil ik allemaal krijgen. Ja, nou, dan ging ik echt, dan st-stierf ik in een hoekje dan. Dan had je A&M als profiel. Ja. [lacht] Ja, ja. A&M boys. Kan je heel ver brengen, hoor. Kan podcaster worden bijvoorbeeld.
• 2:13:13
  Heel goed. Uh, en, uhm, uh, nu ben je, jij brengt mij totaal van mijn apropos. [lacht] Ik zie me al helemaal zitten in die, in die, uh.
• 2:13:23
  Maar dan zou je dus kunnen zeggen: uh, als jij zelf de motivatie kan opbouw-, brengen voor een bepaald onderwerp, zoals die, die, uhm, leerlingen waar je het net over had, die, uh, die in een gara-, die aan het opl-opleid-, die een opleiding hadden voor ga-, voor om in een garage te werken, uhm, dan de helft van de mensen die zei: ik wil dit gewoon blijven doen, ook al, uh, is het eigenlijk niet nodig.
• 2:13:42
  Die groep mensen kun je alsnog motiveren door ze te laten leren over waar ze echt intrinsieke motivatie voor opbouwen en dan ondertussen in de system prompt verwerken wat het eigenlijk, wat de first principles van onderwijs zijn.
• 2:13:54
  Oftewel hetDat wij als maatschappij beslissen: dit is wat wij echt belangrijk vinden dat onze mensen alsnog leren op jonge leeftijd. En waar ze dan precies over leren interesseert ons werkelijk niets.
• 2:14:04
  Dat is de druk die vervalt doordat je de arbeidsmarkt uit de equation haalt. Maar dat je leert hoe je, nou, noem maar bijvoorbeeld probleemoplossend leert denken. Of nog een abstractieniveau, uh, uh, anders.
• 2:14:17
  Dat gaan we doen door jou te laten leren over waar de vakken er nou voor liggen. Ik vind het wel mooi, want wat je eigenlijk zegt is: we houden de leerplicht, maar wat je gaat leren kies je zelf.
• 2:14:26
  Dus jij komt naar school, maar wat je daar gaat doen, roep maar. De meest bizarre hobby's zijn geaccepteerd. Hè, Japanse kookkunst, astrologie.
• 2:14:34
  Je, je doet je ding, hè, wij bieden het aan je aan, uh, maar je hebt wel de plicht om iets te doen, iets te leren.
• 2:14:40
  Want wij willen als een soort paracetamol in de vla- Ja...toch nog een paracetamolletje mee, meedraaien erin. En dan, want, en daar wilde ik eigenlijk naartoe. Bijvoorbeeld burgerschap.
• 2:14:48
  Ja, daar wilde ik eigenlijk naartoe.
• 2:14:50
  En dat, dat is van, dat we dan toch met elkaar nog, uh, en dat is dan wij, de oude garde, wij, de volwassenen, uh, met elkaar zeggen: ja, als een mens opgroeit, als een mens ontwikkelt, een volwaardig mens of een volledig mens, of een volledig ontpopt mens, whatever, hoe we het noemen, een goede burger, whatever, uh, die heeft een bepaalde competenties nodig.
• 2:15:11
  Kritisch denkvermogen, uh, dingen kunnen onthouden zelf nog genoeg. Uh, ar, uh, uhm, uh, het is het, uh, falsi-falsificeren van argumenten of argumenten uit elkaar kunnen halen als een soort uienbol.
• 2:15:22
  Om te begrijpen dat de logica niet klopt, dat ze niet voorgelogen worden, et cetera. Noem het een kritische, uh, burger.
• 2:15:28
  Om, want we geloven nog dat politiek een democratie is waarin mensen een gedegen, uh, mening moeten hebben. Als we dat allemaal willen houden.
• 2:15:36
  Dus de, de, de aanname is: we willen actieve, uh, uh, burgers binnen onze samenleving, actieve buren. Om actief te kunnen zijn moet je x en y kunnen.
• 2:15:46
  Om x en y te kunnen gaan niet de meeste mensen zichzelf x en y vanzelf leren. Dus die verpakken we in iets waar ze intrinsiek voor gemotiveerd zijn.
• 2:15:54
  Dus dan wordt onderwijs zoiets, denk ik, dus veel meer een, een z-, een, een losse vorm van onderwijs waarin wel, uh, ja, om het zeg maar opinionated, hè.
• 2:16:02
  Dus er zitten wel echt wel dingen in die wij vinden dat moeten, maar die zijn, die zijn op zo'n manier v-, persoonlijk gemaakt en vermaakt dat de kans het allergrootst is dat het ons lukt om die soort, uh, ja, het gezonde, complete mens op te leiden.
• 2:16:17
  Dus ik volg deze, deze, het idee dat je moet leren hoe je die uienbol, zal je dat nogal goor verwoord, uit elkaar moet halen. [lacht] Goor. Dat is goor. Ja, namelijk het idee dat je, uh, argumenten moet leren herkennen.
• 2:16:30
  Weet je, kritisch leert nadenken. En als je teksten voor je ziet, dat je dan kan bedenken of je het ermee eens bent ja of nee, en of het klopt dat het er, wat er staat.
• 2:16:39
  Dat zijn competenties waarbij het mij dan heel aantrekkelijk lijkt om dat weer op individueel niveau door een of andere AI het te laten aanleren, omdat het dan weer op dat tempo. Ook, zou ik zeggen.
• 2:16:49
  Maar wat is dan, wanneer staat er dan een docent voor de klas? Zeg maar, schets mij, schets mij dan het beeld van hoe een basisschoolklas of een middelbare schoolklas er dan uitziet.
• 2:16:58
  Nou, ik denk dat, dat, uh, dit is wel mooi, want kijk, de facilitator van dat proces als het plenair is, als het klassikaal is, hè, want ik, ik verlang dus dat er niet alleen individueel, ook individueel, maar niet al enkel individueel.
• 2:17:11
  Sommige skills moet je in een groep leren. En groepen zijn leuk, want we zijn groepsdieren, als in groepswezens, laat ik het dan zo zeggen.
• 2:17:18
  Uhm, dan kan jij nog steeds tegen me zeggen: oké, facilitator klinkt als een rol voor een hologram. Nee, maar ik bedoel, dat kan Claude toch? Ja. Ik heb nu, ik heb nu nog niet- Dat is niet eens mijn punt.
• 2:17:30
  Mijn punt is: het lijkt mij bij welke dingen zijn mensen nou in groepen echt beter in staat om te leren dan, uh, met een AI? Want als jij die burgerschapselementen wil bijbrengen,
• 2:17:46
  dan kan dat waarschijnlijk effectiever in een set, in een persoonlijke setting met een AI. Inderdaad met een hologram of wat, wat dan ook de verschijningsvorm wordt. Dat, dat maakt me nou niet eens heel veel uit.
• 2:17:57
  Wat is dan het deel wat je echt nog klassikaal doet?
• 2:17:59
  Of zeg je dan: we nemen eigenlijk de kosten die je ook maakt door het klassikaal te doen, want je bent je weer aan het richten op de gemiddelde leerling en je bent, weet je, de mensen die heel goed zijn, de mensen die heel slecht gaan, die vallen toch buiten de boot.
• 2:18:11
  Hoe je het ook wendt of keert, je geeft niet iedereen optimaal les in de snelheid van de persoon die zij, uh, aankunnen.
• 2:18:19
  Dat, dat nemen we, die, die kosten als het ware, omdat daartegenover staat dat je groepsgevoel en andere dingen die bij dingen in klassi-klassikaal verband leren krijgt.
• 2:18:30
  Ja, en jouw aanname daarbij, uh, is, en dat is een prima aanname, dat als er ooit een ruimteschip was geland of whatever, met daarin een onbeperkte hoeveelheid docenten, leraren. Ja.
• 2:18:44
  Dat we die dan allemaal één student zouden hebben toegewezen zonder AI nog. Omdat we eigenlijk enkel en alleen klassikaal onderwijs zijn gaan geven uit een tekort. Ja.
• 2:18:54
  Eigenlijk wil, eigenlijk wilden we dat helemaal niet. Terwijl ik dus denk, maar dat kan ik echt niet hardmaken op dit moment, dus dat zal ik dan, uh, moeten bewaren voor een latere aflevering.
• 2:19:03
  Dat ik denk dat wat daar klassikaal gebeurt, dat, dat kinderen met elkaar daar in de klas zitten, dat dat waarde heeft. Mhmm. En dat dat, dat dat niet alleen maar is omdat daar nou eenmaal niet genoeg docenten voor zijn.
• 2:19:15
  Maar schets mij dan dat beeld. Hoe, wat, w-w-w-hoe, hoe groot deel van de dag is men klassikaal bezig en welk deel van de dag zitten ze met hun Vision Pro op? [lacht] Ja.
• 2:19:25
  Ik hoop zo dat dat niet het beeld van de toekomst is. Ik ook. Maar in ieder geval, wat dan ook de vorm is waar-waardoor je individueel onderwijs gaat krijgen. Nou, sterker nog, ik denk dus dat. Doe dat maar lekker thuis.
• 2:19:36
  Ja, ik vind het wel mooi hoor wat je nu zegt. Want eigenlijk waar je nu, kijk, de, de school, de universiteit, de onderwijsinstelling is onder andere een fysieke plek.
• 2:19:46
  Ja, voor een MOOC, hè, Mass Online Course of, uh, uh, uh, remote, uh, digitale opleidingen is dat al niet meer zo, hè. Dus daar, als je zegt: waar is de universiteit? Ja, dat is een kantoor ergens zitten wat mensen.
• 2:19:57
  Maar daar moet jij- Zoals tijdens covid ook destijds. Ja, daar moet je niet naartoe, hè. Mag niet of kan niet.
• 2:20:02
  Uh, ja, dusUh, maar de, de, de onderwijsinstellingen van nu en zeker, uh, uh, in het, uh, basisonderwijs zijn fysieke plekken vaak, uh, waar je naartoe kan. Waar, waar kamertjes zijn, waar ook nog klassen verdeeld zijn.
• 2:20:17
  Het is allemaal heel klassiek nog, zoals jij in de intro zei, hè. Omdat het de enige vorm is waarop we kunnen spelen met elkaar. Ja, maar ik, de, de, bedoel, de, de vraag is, uh, onder andere, uhm,
• 2:20:29
  kijk, is iedereen nou zo burgerlijk omdat ze geen fantasie hebben? Of is burgerlijk zijn gewoon ook prettig?
• 2:20:34
  Oftewel, vo, geven we die vorm, geven we die scholen nou zo vorm omdat we de fantasie niet hadden en de mensen niet hadden om er een nieuw instituut van te maken?
• 2:20:42
  Of heeft die, heeft dat instituut ook bepaalde kwaliteiten die prettig zijn? Hè, dat is een beetje de vraag hier. Jij duwt nu, heel, uh, mooi vind ik dat, van: joh, Wiets, noem dan die kwaliteiten.
• 2:20:51
  Sterker nog, teken mij dan die school. M-hm. Ja, nou, ik denk dat, dat het een, een, een, wel een fysieke plek is ook.
• 2:20:58
  Een plek, uh, het liefst op loopafstand, als ik het heel idealistisch zeg, maar in ieder geval met de fiets, hè. Je moet zo weer thuis kunnen zijn. Zoals dat nu gaat. Ja, dat is prettig. Dus die zou ik er even in houden.
• 2:21:09
  Uhm, en dan is dat een plek waarin, uh, leerlingen grotendeels de keuze kunnen maken over— wij hebben net bedacht: inhoudelijk mag je eigenlijk sowieso de keuze maken wat je doet, want wij fietsen die andere basic bildung skills voor jouw burgerschap er wel in.
• 2:21:25
  Zit in het system prompt. Hebben wij gefixt. Ja. Jij denkt dat je aan het basketballen bent, maar eigenlijk leer je over, uh, representatieve government. Prima. Ja, we weten nog niet hoe, maar dat fixen wij.
• 2:21:35
  Die, zo'n taalmodel kan dit. Ik denk als wij dit nu aan ChatGPT vragen: leg mij uit hoe geopolitieke situatie rondom, aan de hand van basketbalmetaforen. Hij komt er gewoon mee. Ja, ja, vet.
• 2:21:46
  Dus dat, dat, dat, dat hebben wij down, hè, omdat wij denk ik allebei geloven dat, uh, je moet, er zit een soort aanname in dat je mensen niet te veel moet dwingen, maar gewoon de vorm moet aanbieden waarin je ze alsnog een beetje kan leren.
• 2:21:57
  Ik sta daar ook wel achter. Zo ben ik ook altijd als docent geweest. Uhm, dat fixen we. Maar er zit dan ook een bepaald ding in de system prompt van het hele gebouw als het ware, die alle domotica bestuurt.
• 2:22:08
  Die de ramen open kan doen, maar ook kan zeggen tegen een leerling: wil je even daarheen gaan? Hebben we, uh, een soort groepscontacturen gedefinieerd.
• 2:22:15
  Omdat wij, hè, dat is mijn mening, maar als sociale wezens, uh, denk ik gelukkiger zijn als wij in ieder geval een x aantal uren per week onderdeel voelen van een groep.
• 2:22:25
  En dat gaan we ook stimuleren om onderdeel te zijn van die groep. Dan zijn er waarschijnlijk, uh, leerlingen met, met gelijke interesses die je kan groeperen op interesse, hè.
• 2:22:34
  Dus we gaan niet meer, uh, uh, groepen maken, uh, enkel op leeftijd of enkel op levensfase, maar ook op interessegebieden, hè, wat in later beroepsonderwijs al zo is.
• 2:22:42
  En dan zit er namelijk alle, uh, iedereen die filosofie wil studeren zit met elkaar in Utrecht in de filosofie studie, dus dan heb je ze ook al aardig gebokst, zeg maar.
• 2:22:50
  Dus ik denk dat we gaan clusteren rondom een aantal dingen, hè. Levensfase. Het mag allemaal geclusterd worden, zodat daar groepen gevormd worden. Omdat ik denk dat, uhm,
• 2:23:00
  als je ook optimaliseert voor, uh, ja, plat gezegd geluk, maar een vorm van, uh, zingeving en een prettig, prettig leven leiden. Dat daar groeps, dat daar groepen bij horen.
• 2:23:12
  Omdat je ook, uh, de vriendjes maakt op school, daar je toekomstige, uh, vriendennetwerk helemaal opbouwt. Misschien projecten samen gaat doen, hè, dus er ontstaan allemaal organisatietjes en zo.
• 2:23:23
  En misschien is het wel een soort cosplay in een wereld waarin AI alles heeft gedaan, maar who cares? Ik bedoel, dude,
• 2:23:29
  ik zou nog steeds wel een paar bedrijfjes weten die ik met jou op zou zetten in een wereld waar het niet meer hoeft, hoor. Waar het niet hoeft. Dude. Ja, dat is gewoon spelen, hè.
• 2:23:35
  Dus er moet een hoop gespeeld kunnen worden. Maar er zit wel een idee achter dat, dat vind ik even heftig om te zeggen, maar dat, heftig als in: ik hoor het mezelf zeggen en bijvoorbeeld denken: wat zeg je nou?
• 2:23:45
  Maar ik vind dat toch, dat ik denk dat, dat, dat hele jonge mensen niet per se altijd weten wat goed voor ze is. M-hm. En dat, dat wij daar een mening over hebben. Ja, sure. Nee, maar goed. Ja, jij zegt sure, maar dus.
• 2:23:54
  Ik vind dat niet te bedoelen. Ja. [lacht] Jij als vader hebt zeker. Ik weet dat je alles wil bevragen, maar deze vind ik vrij eenduidig om te begrijpen. Kinderen zijn gewoon fucking dom nog. Mag je best helder over zijn.
• 2:24:05
  Ja, die moeten een beetje hulp krijgen. Ja, uhm, en de rol van de docent is dan, uh, dat groepsgevoel. Ja, en de, de, de volwassenen in de ruimte ook, hè. De volwassene in de ruimte, norm overdragend.
• 2:24:19
  Ja, beetje spiegelen. Ja. Hoe, hoe, is er nog een rol voor kennisoverdracht van een docent?
• 2:24:27
  Is dat dan in die soort van, met die secundaire bedoening, bedoeling om dan uiteindelijk bildung en de sociale kanten van onderwijs en al die andere dingen die wij volwassenen verzinnen dat we dat toch echt belangrijk vinden voor onze kinderen.
• 2:24:42
  Gaan we dat dan doen via kennisoverdracht? Of, maar is dat nog een rol voor een docent over, over vijf jaar? Ik word er, ja, ik word er een beetje stil van. [lacht] Uhm. Het is toch oké?
• 2:24:58
  Er zijn meer dingen waar, wat een docent moet doen. Het is, het is ook. Nee, maar ik denk, ik bedoel als je kijkt naar, uh, Django Reinhardt, uh, is het, uh, uh, gypsy muzikant.
• 2:25:08
  Uh, daar in hun, uh, cultuur wordt, uh, de muziek, uh, die zij spelen, uh, doorgegeven door er gewoon naast te komen zitten. Ja, dus daar zit iemand op een instrument iets fantastisch te maken in ieder geval.
• 2:25:19
  Ik vind dat fantastisch mooie muziek. En als jij dat ook wil leren, dan ga je ernaast zitten. Ja. Dan pak jij een instrument en dan ga je het nadoen. Ja, er is geen bladmuziek. Ga er maar naast zitten. Kopieer maar.
• 2:25:29
  Dat is een mens. En dat w-w-werkt minder makkelijk op een YouTube-video of zo. Dus daar, daar is dan de rol voor die, voor die mens.
• 2:25:37
  Dus ik denk in bepaalde beroepen waar je je wil spiegelen van een fysiek mens en dat werk ook door mensen gedaan wordt nog, dat het interessant is om met een arts mee te kijken. Ja, ja.
• 2:25:46
  Hè, maar jij zei, ke, het woord kennis de hele tijd net. En toen dacht ik: ja. Ja, dat gaat eraan, hè. So, docent softwareontwikkeling. Ja.Ja, ook gewoon überhaupt uitleggen.
• 2:25:59
  Ik bedoel, uh, ga er maar aan om dat beter te doen dan een AI. Maar daarom zeg ik misschien is dat gewoon misschien dat je dat dan alsnog accepteert, want die mens gaat daar nooit zo goed in zijn als die computer.
• 2:26:08
  Het overdragen van kennis of uitleggen ga ik vanuit. Maar ja, je kan ook tolereren dat het daar minder goed in is.
• 2:26:14
  Omdat het omdat er, omdat je het alsnog in een klas gezamenlijk doet waardoor er discussies ontstaan of weet ik veel, kinderen boos op elkaar worden en je daar weer je tegenaan gaat bemoeien dat dat dan de functie is.
• 2:26:26
  Ja, maar goed, de vraag is dan of, en dat is misschien, uh, voor alle docenten die luisteren leraren, uh, cursist, mensen die cursussen aanbieden, noem het maar op. Ja. Coaches.
• 2:26:38
  Is de vraag gewoon denk ik vooral: waarom doe je het werk? Want ik heb het met softwareontwikkelaars ook vaak, hè.
• 2:26:43
  Ik maak altijd een onderscheid tussen mensen die software gebruiken om een doel te bereiken of software, software maken om een doel te bereiken versus mensen die software maken omdat software maken leuk is.
• 2:26:51
  Dat is echt een verschil. Nou, ik kan me voorstellen als jouw passie is om kennis over te dragen, laten we het even de, de, de koude kennis doen of de echte kennis kennis.
• 2:27:00
  Hè, dus je staat theoretische wiskunde uit te leggen op een, op een krijtbord of een overheadprojector, whatever. Ja.
• 2:27:05
  Dan denk ik dat, uh, als je, als je, als je plezier haalt uit die specifieke kennis overdragen dat het wel een, uh, uh, moeilijke tijd gaat worden, want dat, daar is gewoon veel minder vraag naar denk ik.
• 2:27:16
  Ja, is nogal wat. Dat vind ik wel een dingetje ja.
• 2:27:19
  Maar, en dit, dit, dit hoor ik al terug, hoor, want, uh, mensen die wat dichter op AI zitten, vaak ook mensen die lesgeven binnen softwareontwikkeling, ja, die kijken mij wel aan van: oef, ik heb, uh, gisteravond wat dingen zitten proberen met Claude, maar het was goed man.
• 2:27:32
  Het was echt goed. M-hm. Misschien moet ik het maar gaan voorlezen. Ja, als in zij misschien, om, je noemt softwareontwikkeling omdat zij toch eerder aan de voorfront zitten van waar het ook geïmplementeerd gaat worden.
• 2:27:41
  Omdat het zo dicht zit op wat daadwerkelijk, uh. Ze kunnen het beter begrijpen, want ze zijn software maker.
• 2:27:45
  Ze kunnen het, en, en hun, de killer app nu van taalmodellen is software maken, dus dat is een soort perfect storm.
• 2:27:52
  Nou ja, kijk, je zou ook kunnen zeggen de, de toekomst van een docent dicht in plaats van, uh, kennis overdragen waarvan je zou kunnen zeggen dat is een routinetaak.
• 2:28:02
  Uhm, zou je ook kunnen zeggen: ja, dan, dan valt, dan valt die tijd vrij, zoals in heel veel beroepen tijd vrij, uhm, komt en dat je die kan cons-, dat je die tijd kan gebruiken voor andere aspecten.
• 2:28:14
  Dus bijvoorbeeld in het onderwijs zou je kunnen zeggen, uh, de rol van creativiteit of van empathie of, uh, ja god, andere menselijke inzi-.
• 2:28:22
  Ik zat, ik zat een, een voorbeeldje te, uhm, te lezen over een, uh, over een onderwijssysteem wat op, op heel veel manieren geïntegreerd is in, uh, AI, die in heel veel manieren geïntegreerd is in het onderwijs.
• 2:28:35
  Dus een AI-systeem dat, uh, bijhoudt of kinderen aanwezig zijn, wat het inleverpatroon is van opdrachten, taalgebruik in essay, hoe ze digitale leeromgevingen gebruiken, zelfs bewegingspatronen, uh, door de school.
• 2:28:49
  Ik vond het een mooi Black Mirror-achtig scenario en het, uh, de, dit scenario gaat verder door, uhm, te signaler-, dat het systeem signaleert dat Emma, een normaal, uh, hoogpresterende leerling, de afgelopen drie weken een subtiele maar consistente verandering in haar gedrag vertoont.
• 2:29:04
  Haar essays bevatten meer negatief taalgebruik. Ze logt 's nachts in op het leerplatform. Haar scores dalen licht, maar gestaag en ze beweegt zich minder door sociale ruimtes in de school.
• 2:29:14
  Dat hebben die sensoren allemaal door. Ik ben blij dat je Black Mirror al genoemd hebt, maar ja. Nou ja, goed, dat spreekt voor zich.
• 2:29:20
  Uh, geen enkele indicator is op zichzelf alarmerend, maar het patroon wijkt significant af van haar baseline. Ik vind het ook mooi verwoord in dit soort, soort van robottaal.
• 2:29:29
  Het systeem genereert een signaaltje voor, uh, haar, hoe noem je dat nou net? Facilitator. [lacht] Is een ander woord voor wat we nu nog docent noemen.
• 2:29:38
  Noem het een mentor, die vervolgens een, uhm, gesprek plant met Emma en tijdens dat gesprek blijkt dat er ouders in scheiding, uh, liggen en dat dat, uhm, ja, dat dat aandacht behoeft.
• 2:29:50
  En waar, en dit is waar het van een Black Mirror scenario naar een heel positief scenario gaat, uh, uh, iets wat maanden onopgemerkt was gebleven, uh, opeens naar boven komt.
• 2:29:59
  En op die manier zou je, uh, gedrag wat, uh, waar misschien leerlingen stilletjes mee worstelen, kan een docent een veel grotere rol spelen, omdat die AI kan helpen met monitoren van die soort van welzijns, uh.
• 2:30:13
  Dus je kan je ook voorstellen hoe die systemen docenten gaan helpen bij juist ook die, ja, de, ik weet niet of je het nou soft skills moet noemen, dus, uh, dat dekt de lading eigenlijk niet.
• 2:30:23
  Maar op, op die tweesplitsing die jij voor je ziet, gewoon alles wat niet te maken heeft met beroepsonderwijs. Al die andere dingen die we wel belangrijk vinden van onderwijs, kan je alsnog een,
• 2:30:32
  een, een systeem hebben waar die docent, uh, mee helpt. Of ben ik nu echt soort van aan het solutionizen van problemen die er helemaal niet zijn? Nou ja, wacht even.
• 2:30:42
  Kijk, een aantal dingen natuurlijk is, want ik zat meteen te denken: oké, een systeem kijkt mee, hè.
• 2:30:46
  We zouden ook, [schraapt keel] laten we voor het gemak om even dat dystopische er, die dystopische angel er een beetje uit te trekken, zeggen: er zijn zoveel mensen vrijgespeeld nu dat we gewoon een hele groep mensen gaan inzetten om het welzijn van de leerlingen in de gaten te houden.
• 2:30:58
  Ja, precies. Dus welzijn monitoring systems zijn allemaal mensen. Ik word daar dan rustiger van. Maar we zijn nog steeds welzijn aan het monitoren.
• 2:31:05
  Dan, dan blijkt dus dat we blijkbaar in onderwijs gaan optimaliseren voor: hoe voelt eigenlijk een kind zich? Gaat het allemaal wel goed? Nou, dat klinkt tot nu toe wel fijn, hoor.
• 2:31:14
  Klinkt voor mij dat we de tijd hebben om te gaan zien hoe het met elkaar gaat. Ja. En dat alle, [schraapt keel] En heel veel mensen zijn die deze intrinsieke behoefte hebben. Of ze er nou voor betaald worden of niet.
• 2:31:23
  Precies. Om, om, wil je alsjeblieft een beetje in de gaten houden of het goed gaat hier met iedereen, zeg maar. En ik merk dus, hè, zolang dat mensen zijn, vind ik dat eigenlijk best wel mooi.
• 2:31:31
  Wanneer het algoritmes zijn, vind ik het allemaal fucking eng. Ja.
• 2:31:35
  Maar goed, uh, welzijn checks en ook, want daar, kijk, uiteindelijk komt het iedere keer weer opnieuw op neer dat er een cursor staat te knipperen van AI in de brede zin die aan ons vraagt: wat willen jullie van mij?Wat moet ik optimaliseren?
• 2:31:52
  Wa, dat ben ik, een optimalisatieproces. Het superalgoritme. En wat willen jullie nou met z'n allen doen? Wil je het overdragen aan mij en gaan chillen in een bubbelbad?
• 2:32:02
  Zeg het me maar, dan hoef ik je ook niet meer op te leiden als, uh, als actief burger, want ik heb je niet meer nodig. Ja. Wil je wel meedoen, dan moet je mij begrijpen. Dus dan moet je human in the loop.
• 2:32:10
  Dan moet ik jullie gaan helpen opleiden. Wil je niet dat je helemaal afhankelijk van mij bent, dan zal je zelf ook nog dingen moeten leren. Snap je hoe-- dus, dus het is echt. Ja, zeg het me maar.
• 2:32:19
  Ja, als ik nu de deur binnen zou schoppen in een of andere, uh, fictieve onderwijscommissie die dit allemaal bepaalt. Beetje eng dit, maar ja, oké. Een of andere sigaar rokende man. Ik ga gewoon kloppen. Ja, hé, pam!
• 2:32:29
  [lacht] En dan zeg ik gewoon: ik heb één vraag: willen wij dit overdragen of willen wij nog meedoen? Want als we het gaan overdragen.
• 2:32:38
  Dan zeggen ze allemaal: oké, ik wil meedoen, meneer Wietse, maar dan is toch de vraag: hoeveel dan? [lacht] Nou ja, oké, als iemand al zegt: nee. Dan ben je alweer weg. [lacht] Dag.
• 2:32:47
  Hier kan ik dus echt helemaal niks mee. [lacht] En dan smijt ik die deur even hard ook weer dicht zo en dan komt allemaal stof van het plafond zo. Een hele grote deur. Bam! Ja.
• 2:32:56
  Van het, van de grote onderwijs, uh, commissie. Ja. Maar goed,
• 2:33:00
  want, nee, m-, ik wil alleen maar zeggen, want, uh, ik merk, en dat, dat is wel, daar worden we nu, uh, volgens mij ietsje beter in dat jij nu een soort black hole in onze discussie erkent, hè.
• 2:33:09
  Want als ik zeg, hè: als alles straks geautomatiseerd is in de toekomst, dan is heel die vraag over economie en, en, uh, onderwijs onzin. Kan je nergens meer over praten. Dan stuur jij mij heel snel al weg.
• 2:33:18
  Dat je zegt: ja, het universum heeft ook een soort eindpunt, een heat death. Dat schiet niet op vriend. Hè, dus terug, terug, terug. Ja. We gaan nog wel meedoen. We willen ook nog meedoen. Ja.
• 2:33:27
  En wat moeten we, waar moeten we dan voor optimaliseren als we nog mee willen doen?
• 2:33:30
  En, en ik zou dan zeggen: in die optimalisatie waarin we dus mensen in kunnen zetten en AI in kunnen zetten, is dan de vraag: wat gaat AI dan wel of niet doen?
• 2:33:40
  En als die cursor knippert van AI, van: joh, uhm, ik ben jouw master AI meta-systeem in jouw onderwijsinstelling wat inmiddels een soort Apple Park is, hè, dat is die donut van Apple.
• 2:33:51
  Dat is nu, zus, overal liggen die donuts nu wereldwijd. En iedere, ieder mens, jong en oud kan daar heen om te leren.
• 2:33:57
  [lacht] Ja, je mag zelf weten wat, maar je moet wel komen, zoveel uur per week als een soort goede burger.
• 2:34:01
  En, en Alexander en, en Wietse fietsen dan een soort met een secret [lacht] system prompt fietsen we daar wat dingen in. Van basketballen tot, uh, gymmen en, uh, uh, schilderen. Jij wordt een goede burger. Jee!
• 2:34:13
  Dat, dan, dan is het nog steeds daar, uh, uh, de vraag: oké, je bent in die donut, je bent in het Apple park. Dit is een fijne plek. Uh, je mag zelf weten wat je wil.
• 2:34:23
  Wat ik daar zou zeggen, en dat was jouw vraag net aan mij: lopen daar nou nog docenten rond? En wat is hun rol? Wa-want dat, hè, uh, en zijn het dan een soort, uh, uh, facilitators?
• 2:34:34
  Ik kan me voorstellen dat, en dat is misschien wel heel idealistisch en naïef gedacht of zo, maar misschien zijn er wel klassieke klassen ook. Mhmm.
• 2:34:44
  Voor de studenten die zeggen: ik vind eigenlijk dat kla-- Wietse had gelijk. Klassikaal onderwijs zit een beetje in ons. Het werkt voor sommigen van ons en ik luister liever naar een mens.
• 2:34:54
  Soort Robin Williams met enorme passie die daar het mooiste verhaal staat te vertellen van de Dead Poets Society. Kijk die film.
• 2:35:01
  Dus ja, ik, ik, uh, maar het kan ook, het kan ook z-, we gaan er nu ook achter komen met z'n allen hoeveel van onze systemen er zijn gebouwd die eigenlijk heel artificieel waren, hè, wat jij een beetje intuïtief aanvoelt, dat er heel veel artificieel is aan ons onderwijssysteem.
• 2:35:16
  En dat de vraag is hoeveel van die systemen niet artificieel waren, maar echt een menselijke behoefte vervulden. Ja, precies.
• 2:35:22
  We, uh, ik, mijn, mijn, uhm, gevoel is inderdaad heel, je noemt artificieel, maar het is een soort van dat we het doen zonder dat we ook alweer weten waarom. Ja.
• 2:35:30
  Ja, er is zo'n heel bekend experiment dat ze een, een groep apen ergens in een kamer hebben zitten en die moeten dan op een knop drukken, aan een hendel trekken en aan een, aan een knop draaien en dan komt er een banaan.
• 2:35:39
  En dan op een gegeven moment gaan ze al die apen één voor één vervangen voor een andere aap, want dat test je dus mee of het doorgegeven wordt in de cultuur. Dan g-, zijn alle apen vervangen.
• 2:35:47
  Zitten ze nog steeds al die handelingen te doen. En op een gegeven moment s-stoppen ze met die knoppen aansluiten en kan je in essentie gewoon op één zo'n ding drukken, de laatste, en dan komt die banaan.
• 2:35:55
  Hè, dus je hoeft alleen nog maar de laatste handeling te doen. En die apen blijven dan al die handelingen doen omdat niemand meer vraagt: hé, moeten we nog eigenlijk wel met z'n allen in de klas zitten? Ja.
• 2:36:06
  [lacht] Want, was dat niet iets van, van vroeger? En dat is de grote test nu.
• 2:36:11
  Er gaat heel veel ge— en ik hoop een beetje dat, maar ja, of hoop, het lijkt me heel leuk dat we er ook achter gaan komen dat dingen die misschien verplicht leken of achterhaald, misschien toch waarde hebben.
• 2:36:21
  Ja, want we, we, we hebben natuurlijk een hele lange traditie van, uh, allerlei academische vakken: wiskunde, natuurwetenschappen, talen, geschiedenis.
• 2:36:29
  Die, uhm, die nu de basis vormen van wat wij als een goede opleiding beschouwen. Sterker nog, die vakken zijn zo,
• 2:36:37
  uh, uh, diep verankerd in het hele systeem dat we ze gebruiken als toelatingseisen voor dat je een bepaalde opleiding mag gaan doen. Uhm, en, uhm,
• 2:36:49
  dat is een soort van, ik zit te denken over die spanning, dus is een, is een negen, nu is een negen voor wiskunde, uh, nog steeds een betrouwbare voorspeller, althans zo accepteren we dat nu, uh, voor toekomstig succes in een opleiding ruimtevaarttechniek.
• 2:37:06
  Ik noem maar wat. Ja. Uuuh. Sterker nog, die hebben als, die hebben toelatingseisen voor cijfers ook. Ja, precies. Je mag niet eens meedoen als je het niet hebt bewezen in het verleden. Precies. Ja.
• 2:37:15
  Denk je dat dat, uh, blijft? Of gaat dat dan verschuiven naar die andere vaardigheden dus, uh, kritisch denken, uh, creativiteit, al die, alles wat met beelddenken te maken heeft. Uh, voor die specifieke opleiding?
• 2:37:29
  Ja, zeg maar, gaat het nog een, gaat het nog een relevante voorspeller zijn voor de toekomst, een hoog cijfer in wiskunde?
• 2:37:35
  Wat nu al gebeurt is dat mensen bepaalde toelatingsexamens kunnen doen of toelatingstests, toelatingsexamens voor opleidingen waar ze eigenlijk niet voor, uh, de cijfers hebben, de papieren. Hè, maar laat maar zien dan.
• 2:37:45
  Als je het kan laten zien mag het alsnog. Dat, dat gebeurt al. En, uh, binnen bedrijven, uh, dat jij een, een baan wilt en dat ze zeggen: nou ja, je hebt allemaal diploma's gehad, wel gehad en niet gehad.
• 2:37:56
  Dat laten wij heel even achter ons, want we hebben een enorm banentekort. We gaan jou nu even testen om te kijken waar jij, wat je eigenlijk kan, maar wat niet op papier staat.
• 2:38:06
  Hm.En wat je eigenlijk zou kunnen als we jou een beetje helpen. Hè, want dat ga je natuurlijk, je gaat natuurlijk de deur veel wijder openzetten Ja, omdat je fijnmaziger kan testen.
• 2:38:16
  Ja, en dan ga je ook zeggen van: joh, ik weet niet wat jij in het verleden allemaal gedaan hebt op die scholen waar je gezeten hebt, maar op jou, op die, op basis daarvan nemen we jou niet aan.
• 2:38:23
  Maar nu hebben we jou getest, hè, best wel grondig en we zien dat je bepaalde dingen al kan waar je helemaal niet wist en dat we bepaalde talenten bij jou zien waar we jou echt wel nog intern bij kunnen dooropleiden, hè, want dat is natuurlijk sowieso, uh, onderwijs wordt vaak gedacht, ik denk dan altijd aan basisonderwijs, terwijl ik ook genoeg mensen ken die altijd denken aan middelbaar onderwijs en genoeg mensen ken die denken aan universitair of, of hbo, uh, bachelor master onderwijs.
• 2:38:46
  Ja. Terwijl, er is een mega groep van mensen die onderwijs doet binnen werk. Leven lang leren. Uh, je hebt trouwens hele beroepsgroepen die heel de tijd moeten blijven leren, anders verliezen ze hun certificering. M-hm.
• 2:38:57
  Dus het is ook, uh, al vind ik het wel een logische, uh, loop in ons verhaal om het even te verdedigen dat we beginnen bij basisonderwijs en de kinderen en wat daar moet gebeuren, zeg maar, helemaal tot en met: je bent 71, je bent een beroep aan het doen waarin je constant moet blijven leren.
• 2:39:12
  Dat ik me daarin wel kan voorstellen dat, dat, daarin ga ik wel mee in jouw intuïtie van Wytse,
• 2:39:18
  uh, jij zegt: zitten we niet eigenlijk in die klassen met die leraren ervoor omdat we gewoon niet beter weten en in een soort van oud toneelstuk beland zijn? Even zo gezegd. Weet ik niet. Zou kunnen.
• 2:39:28
  Wat ik wel, hè, jou meer in volg is, dat hele idee van vakken en die platslaan tot getallen in rapportjes die je daarna kan gebruiken om naar de volgende level te gaan.
• 2:39:40
  Dat was natuurlijk gewoon omdat we niet beter konden. We hadden gewoon geen software, we hadden geen AI. Hè, dus wat gebeurde- Daar moeten we dan zo snel mogelijk mee stoppen. Denk ik wel.
• 2:39:47
  Met een negen eisen voor, uh, voor wiskunde voordat je een bepaalde opleiding mag doen.
• 2:39:51
  Het was gewoon een hele prettige manier om hele grote groepen mensen te, te categoriseren en daarna een soort funnels te kunnen maken naar instanties toe.
• 2:39:59
  Maar nu we systemen hebben die veel breder, veel dieper, veel inten-, ja, hoe zeg je dat, fundamenteler kunnen testen, is best wel, uh, best wel gaaf. Zeker.
• 2:40:08
  Ja, want ik, ik, maar, uh, niet meer testen, uh, dat, dat, dat zei jij niet, maar dat vind ik dan weer een andere kant van het spectrum. Oké, nou, dat is dan al één voorbeeld.
• 2:40:18
  Dus het, het stoppen met het doen van dat soort toelatingseis omdat we fijnmazigere systemen kunnen bouwen nu.
• 2:40:26
  Misschien iets dan abs-, op iets abstracter niveau, want ik zit gewoon, ik zi-, ik zit gewoon te denken na dit gesprek, soort van: oké, maar wat moet er dan allemaal concreet veranderen nu in het onderwijs?
• 2:40:35
  [lacht] Ik wil eigenlijk gewoon een soort van actielijst. W-wat vind je, ja, hoe moet dat? Wat vind je nu van de discussie, uh, over AI in het onderwijs als je echt he-even helemaal uitzoomt?
• 2:40:48
  Ve-vind je die discussie productief? Terugdenkend aan dat de rekenmachine voor 13 jaar een discussie heeft gezorgd. Ve-, heb je het idee dat het nu sneller zal gaan [lacht] met deze fundamentelere discussie?
• 2:41:00
  Vind je dat die goed genoeg gevoerd wordt? Nee, uh, want, en dat is mede door die rekenmachine, die rekenmachine is een, is een vrij statische technologie. Ja. Dat, dat, dat ding is in de fabriek ontworpen.
• 2:41:15
  Het blijft wat het is. Ja, je kon- Nou plakt de grafische rekenmachine niet uit, hoor. Wat ik daar allemaal mee deed, Wytse. Ja, je kon Mario.
• 2:41:23
  [lacht] Je kon Mario op je, op je grafische, op je- Op je Texas Instruments zetten. Ja, op je GR kon je dat doen, uh, dus dat is, ja, maar die helpt mij op zich al wel.
• 2:41:33
  Want wat daar dus gebeurde: de grafische rekenmachine kreeg een andere rol binnen mijn opleiding dan de rekenmachine, omdat zij doorkregen, er werden, mensen hadden complete CMS'en ervoor geschreven om hun hele boeken erin te laden.
• 2:41:45
  Ja, dat was echt supervet. Ja. Dus, uh, er werd echt software op gemaakt, hè.
• 2:41:49
  Dus, uhm, a-als we dan een soort spectrum hebben van een simpele Casio waarop je niet kan programmeren maar alleen maar rekenen, dan komt in de volgende stap, uh, in het spectrum die grafische rekenmachine en die beweegt dan toe naar A-AI aan de andere kant.
• 2:42:02
  Een of ander vloeibare Barbapapa. Ja, een heel breed spectrum. Superbizar. En dan, dat is gewoon een, een categoriefout, zoals een filosoof dat zou zeggen.
• 2:42:13
  Om dan te zeggen: de rekenmachine en onderwijs, AI en onderwijs, dat is, daar kunnen we iets van leren. Dat deed je aan het begin van deze- Ja, ik ben boos. Dat is eigenlijk gewoon een hele stomme metafoor.
• 2:42:22
  Nou, ik maakte, ik, ma-, ik, er was een subtiele paniek toen je dat deed aan het begin, toen daarna werd het alweer genuanceerd. Is oké. En het is de veelgehoorde metafoor, dus laat hem gewoon benoemen. Ja.
• 2:42:31
  En ik frustreer me erover omdat ik, kijk, AI, wat we dan vaak zien nu als taalmodellen, oftewel ChatGPT-achtige chatbots. Hè, laten we het daar even bij houden.
• 2:42:44
  A-, o-, het onderwijs en intelligente chatbots, om het even makkelijker te houden. Die systemen, die kun jij inrichten op een manier, dat heeft bijvoorbeeld Anthropic gedaan. Je hebt Anthropic, de makers van Claude.
• 2:42:58
  Die hebben Claude for Education uitgebracht op 2 april van dit jaar. Claude for Education, die is Socrates.
• 2:43:05
  Die is ingesteld, omdat zij bij Anthropic al voelden, ook, ook al zijn ze niet de grootste op aarde, zoals OpenAI, heeft Anthropic best wel wat, uh, teweeggebracht met hun Claude-modellen. Dat zij zeggen
• 2:43:17
  ook: dit, deze discussie over AI klopt niet.
• 2:43:20
  Laat ons nou een voorbeeld maken van hoe wij AI voor jou kunnen voorconfigureren als Anthropic zijnde, want zij zitten natuurlijk diep in de materie, waardoor die geen antwoorden meer geeft. Oké.
• 2:43:30
  Hij geeft gewoon geen antwoorden meer. Hoe werkt dat dan? Nou, op het moment dat een leerling of wie dan ook met die specifieke, uh, Claude praat, dan zegt Claude: oké, mooie vraag.
• 2:43:40
  Ik ga jou helpen om tot het antwoord te komen, maar jij gaat bij het antwoord komen. Dus ik kan jou de stappen ernaartoe.
• 2:43:47
  Ik kan je helpen met het, uh, met de, met de weg wijzen, maar ik zal jou nooit vertellen wat het antwoord is, want dat is niet het doel.
• 2:43:53
  En ik denk dan, maar, dus als jij AI neemt, chatbots als een soort statische antwoordgeefmachines waar ze over het algemeen niet eens voor gebouwd zijn, maar whatever.
• 2:44:03
  Je gebruikt een reasoning model o3, die kan wel rekenen en het internet op en Wikipedia en boeken lezen. Je hebt een superding. En dan zeg jij: nou, dat is toch dom?
• 2:44:11
  Als we dat aan onze tieners geven, als we dat aan onze kinderen geven, dan ontwikkelen ze geen spiermassa meer. Dan worden het enorme thin clients. Daar ben ik het mee eens.
• 2:44:19
  Oftewel: één regel toevoegen aan de system prompt.Never give, give answers. You're a virtual Socrates. Done. En ineens praten we over heel wat anders.
• 2:44:28
  Dus ik, ik, mijn frustratie die je nu hoort is dat we een, uhm, vloeibaar dynamische Barbapapa hebben waar we helemaal in mensenwoorden, in menselijke taal onze wensen naar kunnen uitspreken in de vorm van een system prompt, gaan belopen discussiëren alsof die system prompt optie er niet is.
• 2:44:46
  Mhmm. Dus, uh, de, wat je nu, de passie die je voelt in mijn stem is dat ik denk dat het l-, echt zonde van onze tijd is.
• 2:44:53
  Niet van jou en mij, maar wel van veel mensen die hierover discussiëren om de onderwijs- en AI-discussie te voeren.
• 2:44:59
  Zolang je, uh, niet, a-, uh, erkent dat die AI waar je over praat een maakbaar iets is, iets waar wij waarde in kunnen stoppen en, en eisen aan kunnen stellen.
• 2:45:11
  En dan moeten we met elkaar zeggen, uh, wat ze bijvoorbeeld bij Khan Academy hebben gedaan: oh, wacht even, wij gaan een wrapper bouwen om deze fundamentele technologie heen, zodat wanneer een leerling, een kind of een student interface met deze student e-educational tutor AI, dat die, uh, uh, uh, lawinehekken en bowlinghekken en allerlei, uh, kaders heeft waardoor die, die student uiteindelijk verder helpt en niet eigenlijk beschadigt.
• 2:45:39
  Want ik vind zelf dat op het moment dat jij leerlingen sec antwoorden geeft zonder enige context, dat je eigenlijk, uh, beter niks kan zeggen.
• 2:45:51
  En zou het dan kunnen zijn dat dat dan, uh, ik, ik moet dan terug, toch weer terugdenken aan mijn eerdere vraag over het schrijven. Je schrijft zodat je leert denken. Stel nou dat je, dat is jouw stelling althans,
• 2:46:03
  uh, zou het dan zou kunnen zijn dat je zo'n Khan Academy-achtig gebod of zo'n Anthropic for Education-model kan gebruiken om samen na te denken over, waarbij de output nog steeds is een filosofische paper afleveren zoals jij daar zelf problemen mee had.
• 2:46:17
  Uhm,
• 2:46:19
  dat dezelfde denkkracht eigenlijk gevraagd wordt door dat ding, omdat hij niet zomaar tekst gaat spuwen, maar jou de hele tijd confronteert met situaties waar je wat mee moet om dan uiteindelijk alsnog hetzelfde eindresultaat te hebben, namelijk een geschreven tekst, maar die de optelsom is van allerlei keuzes die je hebt gemaakt of overwegingen die je met dat ding hebt gedeeld.
• 2:46:38
  Bestaat nog steeds de kans natuurlijk dat je O, O3 met Claude for Education [lacht] laat praten. Tuurlijk. Nee, luister. Kijk, als jij niet wil leren- Ja, dat kan. Dan kon je ook zonder AI al. Ja, precies, ja.
• 2:46:48
  Je kan gewoon afkijken bij je buurman. Ja, nou ja, ja, dat is een lange kat-en-muisspel geweest waar, waar, waar leerlingen toch altijd aan het langste eind blijven trekken. Als jij, als jij echt niet wil leren- Ja.
• 2:46:57
  Dan hoeft dat niet. Dan kan dat. Dan kan dat, ja. Maar ik denk dat je, hè, doet even als docent.
• 2:47:02
  Maar even als, even als vorm inderdaad, dat dit misschien een manier zou kunnen zijn waardoor je hetzelfde bereikt zonder de, weet je, zonder je vingertjes te gebruiken om te typen, om ieder, ieder woordje achter elkaar te zetten.
• 2:47:11
  Nee, maar ik bedoel als je, als, zeg, uh, uh, fitness, hè, jij bent fit. Da-dat betekent dat je daar apparaten, apps en dingen voor hebt en goed eten en zo.
• 2:47:18
  Dat is, vereist best wel een ecosysteem om als mens fit te zijn.
• 2:47:22
  Als jij dan nu bij Unitree zo'n robot koopt en die robot naar de, uh, fitnessschool stuurt en dan op je bank chips gaat zitten vreten en dan komt ie daarna binnen, zegt ie: nou Alexander, ik heb weer even gewichten lopen heffen voor je, hoor.
• 2:47:33
  Is een totaal absurde situatie. Waar ben je mee bezig? Maar daar, daar snap ik. Nee, maar ik bedoel, als jij had gezegd: ik koop exact diezelfde robot, gewoon zelfde doos, zelfde ding.
• 2:47:42
  Alleen ik laat de system prompt aanpassen naar: ik wil fit worden. Mhmm. Dan zegt ie: hé vriend, ga je mee? Ja. Of, of ben jij, ben ik er nou sneller dan jij, vriend? Ja.
• 2:47:50
  En dan gaat ie je uitdagen en heeft ie, omdat ie ook nog input heeft gekregen tot jouw historie, weet ie hoe jij te triggeren bent. Sneller, sneller [lacht]. Jij rent mij er nooit uit. En dan pakt ie jou.
• 2:48:01
  Nee, maar ik bedoel, dat is dezelfde robot. Ik voel mij heel erg gezien op dit moment. [lacht] Goed zo. Nee, maar ik bedoel,
• 2:48:07
  je, je wil toch, je wil toch het eu-, da-daarom, als iemand al zegt: moeten we nou sport kopen, ku-, moeten we nou sport wel combineren met humanoids? Ligt er maar helemaal aan hoe die humanoid ingesteld staat. Ja.
• 2:48:18
  Dat is mijn punt. En dan zeg jij: ik ben heel erg gefrustreerd op de discussie zoals die nu gevoerd wordt. Want mensen praten over, ja, alsof het gewoon ChatGPT is zoals we het nu iedere dag gebruiken.
• 2:48:26
  En dan gaat het over huiswerk. Heeft het nog wel zin? En, uhm, ja, we gebruiken het als soort van feitenmachine en dat is een heel eendimensionale manier om ernaar te kijken. Mag je Wikipedia gebruiken?
• 2:48:36
  Mag je Google gebruiken? Zo, zo wordt AI ook besproken. Dus diezelfde dommige discussie over Wikipedia zijn we gewoon weer aan het herhalen, terwijl je kan- Is erachter nog, ja. Ja, precies.
• 2:48:44
  Terwijl je kan deze veel, uhm, ja, je, je, je kan deze technologie vormen zoals je wil. Doe dat nou gewoon. Ja, en dan heb je dus gedisciplineerde leerlingen nodig die zich daar ook naar gedragen.
• 2:48:57
  Die dan niet O3 een paper laten schrijven, maar Anthropic for Education daarvoor kiezen te gebruiken. En daar moet je ze dan maar op hun blauwe ogen op geloven. Nou, daar moet je met elkaar regels over maken. Ja.
• 2:49:08
  Dan zet je toch de VPN of de firewall zo in dat ze, w-oké, even een voorbeeld, hè: Wikipedia. Je zegt tegen studenten: je mag niet op Wikipedia. Niet omdat Wikipedia een slechte bron is.
• 2:49:18
  Dat is het trouwens deels niet meer tegenwoordig, hè. Dus, uh, uh, je, stel even je mag hem als bron gebruiken, uh, maar er zit een, uh, uh, programmaatje voor, een pagina voor, die heet Wiki Puzzle.
• 2:49:29
  Ja, iedere student mag naar Wikipedia toe, maar dat moet via een AI- Mhmm...die tegen jou zegt: oké, luister vriend, ik weet alles.
• 2:49:38
  Ik kan jou ook doorsturen naar de juiste pagina, maar jij moet mij eerst nog even wat gaan vertellen. Want die Willem, uh, Willem de Tweede. Wanneer was dat dan?
• 2:49:45
  En je moet er wel, mag er maximaal vijf jaar achter naast zitten, weet je wel. Dit is toch prima? We kunnen toch gewoon dat ervoor zetten? We kunnen toch frictie toevoegen? Ja.
• 2:49:53
  En, ja, goed, dus, en dat kan je allemaal, dat kunnen jij en ik in een middag doen. Ja.
• 2:49:57
  Dus daarom heb ik zelfs zoiets van, laat ik het zo zeggen: rauwe ChatGPT, hè, unfiltered, unchecked- Ja...toelaten in het onderwijs, onverstandig. En wat vind je dan vette voorbeelden van bedrijven die dit maken?
• 2:50:09
  Precies wat jij nu zegt. Nou, Khan Academy heeft dus gezegd: jouw AI-buddy, je Khanmigo, die heeft een batterij. Khanmigo. Khanmigo, Khanmigo, Khanmigo heet ie gewoon. Het heet zo. Ja, niet de beste branding [lacht].
• 2:50:20
  Ja. Maar goed, dus je amigootje, jouw, jouw buddy. Ja. Voor het basisonderwijs, voor de duidelijkheid. Volgens mij ook, uh, uh, preschool, high school, uh, ja, whatever. Jonge kinderen. Jonge kinderen, tieners.
• 2:50:30
  En wat gebeurt er? Je gaat met, dit kan je online allemaal zien. Die video is anderhalf jaar oud, dus als, d-hadden zij al echt leuke ideeën hierover.
• 2:50:37
  Dat zij zeiden in: oh, samenwerken met OpenAI, zit GPT-4 achterHij heeft een batterij Oh, is een fysiek ding dit? Nee, die zie je op je beeld.
• 2:50:46
  Oké Dus je gaat praten ermee en die Camigo heeft zo'n icoontje als op je smartphone in de hoek zit. Ja. Een batterij icoontje, die kan, die is groen, oranje, rood, leeg. Dat is bullshit, die batterij.
• 2:50:57
  Hij is echt als in, in het systeem. Want wat zeggen zij? Jij mag maar zoveel energie vragen van dit ding. Los van de duurzaamheidsdiscussie. Nee, als jij als kind AI in wil zetten, jouw AI buddy.
• 2:51:08
  Ten eerste geeft hij jou geen antwoorden en ten tweede op een gegeven moment is die leeg. Ja, want iedere dag krijg je een stukje buffer, een stukje batterij. Dude, dit is toch briljant? Ja, ik, en dat kan je zo bouwen.
• 2:51:19
  Dus ik heb dan zoiets van: oké, dus er moet een soort schermtijd op AI zitten. Kinderen moeten het zien als een schaars goed, zeg maar hun externe brein.
• 2:51:26
  Uh, ze moeten, ze worden een beetje gepest, uh, in de positieve zin gepest, dat ze niet het antwoord krijgen, maar ernaar toe geleid worden.
• 2:51:33
  Ja, volgens mij, uh, met de huidige, uh, taalmodellen die we nu hebben kan je dit al helemaal maken. Ja, en ik, ik moet ook zeggen ik ben altijd, uh, totaal in de war van, uh, van Duolingo.
• 2:51:45
  Ik moet altijd aan Duolingo denken in dit soort dingen.
• 2:51:47
  Dat heeft helemaal niks met AI te maken, maar het feit dat zij precies kunnen voorspellen wanneer je een vraag goed gaat beantwoorden en daarna ook weten op welk niveau ze je opdrachten moeten geven, zodat je zowel gemotiveerd blijft als dat je blijft leren.
• 2:52:00
  Zoals een goed casino je vaak genoeg laat winnen, zodat je wel geld in die slotmachine blijft flikkeren, maar dan met Frans. Ja. Ja, ik, ik kan daar gewoon heel veel, uh, ja, uhm, uh, bewondering voor, voor opbrengen.
• 2:52:15
  Je moet je, je moet opgaven krijgen waarbij de kans 83% is dat het antwoord goed is, zegt, uh, leert blijkbaar hun statistieken. 83% kans dat je het antwoord goed hebt.
• 2:52:24
  Dat is de sweet spot tussen dat jij blij blijft spelen iedere dag en dat je nog steeds wel wat leert in die overige, uh, uh, 17% dat je fouten maakt. Heel grappig toch?
• 2:52:34
  Ja, en ik denk in dat opzicht sowieso, hè, al die soort, uh, nudging, uh, achtige dingen die in die app zitten, hè, die gamification. Duolingo snapt het. Die heeft het helemaal uitgemeten.
• 2:52:43
  Die weet precies hoe de menselijke psyche gemotiveerd kan worden om een taal te leren. Ja. Dat ik zou zeggen, zeg maar,
• 2:52:49
  die potentiële dark patterns, weet je wel, die, die, wat ook gebruikt wordt in booking engines et cetera. Ja, daar zijn al drie kamers over. Ja, die mensen die daaraan werken, dat, die daar de boeken over schrijven.
• 2:52:58
  Ik zou zeggen: ga nou gewoon spin- Ga iets nuttigs doen. Spinazie. Ja. Ga spinazie nudgen. Wat morele ambitie. Ja, beetje morele ambitie, want volgens mij hebben jullie het spelletje inmiddels aardig door. Ja.
• 2:53:09
  Gebruik dat nou eens om, uh, die wereld een beetje mooier te maken. Ja, oké, dus je kan boos worden op die mensen die het nu inzetten om meer sneller Google AdWords te verhandelen op de achtergrond.
• 2:53:16
  Dat ben ik ook helemaal met je eens, want, want, want, uh, dat, dat snap ik. Maar ik vind- Orgaan매칭 aan donoren met dezelfde algoritme. Vroeger, iets leuks. Iedereen kan nuttiger dingen gaan doen.
• 2:53:25
  Maar ik vind dit dus ook over een sector waar ik het veel meer van verwacht en dat zijn de fucking onderwijsbedrijven zelf en de vonder-, onderwijsinstelling, instellingen zelf. Ja.
• 2:53:34
  Want die, er wordt heel veel gediscussieerd, maar ik zie weinig software verschijnen. We zijn toch verdomme 2,5 jaar verder sinds dat ChatGPT ontstaan is.
• 2:53:42
  En noem mij nou eens een paar goede voorbeelden van wrapper apps die jij zojuist beschrijft à la een, een AI die niet het antwoord geeft, maar, uh, wat problemen opwerpt en daarmee jou dingen effectief leert.
• 2:53:55
  Waar de fuck blijft het, Wytse? Ja, nou. Hoe kan dit? Dit kan een soort blind, blind, blinde vlek zijn van ons beiden, want ik, ik weet het ook niet.
• 2:54:02
  Ik ga het dan iedere keer weer dat Khan Academy voorbeeld maar aanhalen, wat inmiddels ook alweer 1,5 jaar geleden is. Ja.
• 2:54:08
  Terwijl je die, je kan die ideeën gewoon jatten naar een, uh, een Nederlandse of een Nederlandse versie. Kijk, er is, je hebt in Nederland heb je Squla.
• 2:54:14
  Dat is een, uh, een bedrijf waar ouders, uh, voor mensen die geen kinderen hebben, er niet mee plat gespamd worden, waarbij ouders hun kinderen bijles kunnen geven.
• 2:54:25
  Het is een soort Netflix-abonnement waar je dus geld voor betaalt om dan je kinderen les te geven die dan mee lijkt te lopen met wat ze op, op, op school leren.
• 2:54:33
  Uh, dat is gewoon een fucking grote industrie van mensen die, dit is private equity, hè, dit zijn mensen die erin zitten voor het geld. Laten we daar niet geen doekjes om winden.
• 2:54:42
  Die gewoon teringrijk worden met bijles organiseren voor ouders die twijfelen over of het wel hard genoeg gaat met hun kinderen. Dan denk ik: daar is zoveel geld te verdienen in die sector blijkbaar.
• 2:54:54
  Hoezo staan er geen bedrijven op die dat Squla kapot maken? Ja, daar moet, daar moeten- Zeg maar als je nog helemaal- Barrières tot, tot entry zijn die wij niet weten of zo. Ja.
• 2:55:04
  Of, of, of, uh, dit moet een moeilijk open te breken markt zijn. Want ja, uh, als je Duolan- Duolingo en Khan Academy in elkaar voegt als een of ander superdrankje. Ja.
• 2:55:14
  En dat aan elkaar vibe code met een paar mensen die nog beter dan we kunnen vibe coden, dan zou je toch kunnen zeggen dat je binnen drie maanden iets hebt van een goede demo.
• 2:55:21
  Misschien is dat, dat onze onder-onderwijsmethode in Nederland, uh, voor het allergrootste deel ook door private equity bedrijven gemaakt worden.
• 2:55:28
  Dat vind ik altijd een fascinerend gegeven, dat alle, werkelijk alle boeken die je op de middelbare school en op de universiteit krijgt, allemaal fucking private equity.
• 2:55:37
  Dat zijn bedrijven die er dus geen enkel belang bij hebben om, uh, iets fundamenteel te veranderen. En ik denk da-, ik, ik denk dan, ik bedoel dit is geen nieuwe kennis, dat is op, toch al een tijdje zo.
• 2:55:49
  Ik denk dan: de, de barriers to entry moeten toch een stuk lager ge-geworden zijn, want vroeger moest je dan inderdaad drukkerijen hebben en dan hele bataljons aan schrijvers die die studieboeken gingen maken en had je investeringskosten voor nodig.
• 2:56:02
  Maar die, die, de kosten om software te maken is toch gewoon minder geworden? Ik snap niet waarom die barrière niet, uh, waarom, waarom die barrière juist niet lager is geworden. Ik zou dat verwachten.
• 2:56:12
  Ja, dat is natuurlijk het verschil. Ik word er boos van. Ja, ik merk het. Ja.
• 2:56:14
  Ik denk, dat is natuurlijk een verschil dat, dat jij, kijk, de droom is dan, of in ieder geval iets moois is, dat jij thuiskomt en ziet dat jouw zoon bezig is met, op een app en dat jij zegt: wat is dit?
• 2:56:26
  Ja, dat is nieuw van school. En dat jij ziet: huh, dit is gewoon Duolingo. Als in, hè, zo goed en zo mooi. Ja. En dat jij ineens schrikt van: ja, er is iets gebeurd, zeg maar.
• 2:56:35
  Maar dan is het dus in jouw leven terechtgekomen, zeg maar. Ja. Spontaan. Ja.
• 2:56:40
  Dat duurt nog wel even, want dat, dat, dat, wer-, dat, dat speelveld staat, staat dicht, zeg maar, dat, dat schaakspel staat, staat schaakmat blijkbaar.
• 2:56:47
  Maar, uh, ik kan me wel voorstellen dat dit, uh, als we hier wat actiever naar zoeken. Ik laat me graag corrigeren door de luisteraar. Ja. Laat het weten. Ik ben oprecht nieuwsgierig. Ja.Ja, ik hoop dat ik ongelijk heb.
• 2:56:59
  Ik had mezelf dus voor dit gesprek voorgenomen om antwoord te krijgen op de vraag wat het betekent om onderwijs voor te bereiden op het AI tijdperk.
• 2:57:09
  En wat toch vooral bij mij blijft hangen is dat er van alles kan, maar dat we toch wel echt aan de slag moeten. Dat er heel veel geluld wordt en weinig gepoetst wordt. Vind je dat terecht?
• 2:57:18
  Want jij zit een beetje in die in die branche. Nou ja, ik, ik ben wel. Toch wel opgefokt van aan het einde van deze aflevering. Ja, ja, ja, ja, je wil resultaten zien. Ja. Ik denk dat.
• 2:57:30
  Nou, ik ben al heel blij met een soort brede, gedeelde urgentie langzamerhand. Omdat ik bedoel ons verhaal. Het is wel. Je bedoelt dat het niet alleen maar meer gaat over AI verbieden?
• 2:57:41
  Nou ja, kijk toen, a, uh, ik ga toch de rekenmachine er nog een keer bij pakken.
• 2:57:45
  Maar als die rekenmachine dan op de markt komt, breed betaalbaar zeg maar en bruikbaar dan, dan zal er vast iemand zijn geweest die toen zei: maar die rekenmachine is niet alleen maar, heeft niet alleen maar effect op het onderwijs, maar ook een effect op het bedrijfsleven.
• 2:58:00
  En een deel van het onderwijs doet beroepsopleiding voor dat bedrijfsleven. Dus die rekenmachine, die raakt ons via verschillende plekken tegelijk aan nu. Ja. En dat is ook in ons gesprek vind ik moeilijk gebleken.
• 2:58:12
  Als in best wel een uitdaging omdat AI die systeemtechnologie is die je. Stel dat voor het, voor het, om het gesprek makkelijker te maken. AI verandert enkel werk en heeft geen rol in onderwijs.
• 2:58:28
  Dan hadden wij, hadden nog steeds kunnen zeggen: nou, dan mag je nog steeds naar je onderwijs gaan kijken. Want waar je voor opleidt, beroepsonderwijs, is dat werk. En daar speelt AI wel een rol. Ja.
• 2:58:38
  Maar ons gesprek is nog moeilijker. Ja. Want [lacht] de, uh, het leraar zijn is ook een beroep. Uh, het onderwijs zelf leidt op voor, maar wordt ook, be-, uh, beïnvloed door.
• 2:58:48
  Die scholen, hebben HR afdelingen, hebben gewoon processen, processen die gemanaged moeten worden. Dus het is echt een soort van, uh. Ja, het zal alles omvatten.
• 2:58:56
  Alsof jouw, uh, fort, zeg maar van, uh, van onder water en door de lucht en door het raam en uit de modder. Je bedoelt te zeggen: het noopt tot, uh, enige, uhm, hoe zeg je dat? Je wordt er.
• 2:59:05
  Je wordt een soort van mild van tegen dat, dat het niet sneller gaat. Het is ook maar ingewikkeld allemaal. Ik denk dat we, dat we, uh, mijn frustratie over,
• 2:59:15
  w-, oké, stel dat je ziet dat AI via twintig verschillende wegen indirect en direct jouw, uh, onderwijs, uh, beïnvloedt, dan moet je ook nog begrijpen wat er eigenlijk daar met dat AI-woord bedoeld wordt.
• 2:59:25
  Dat het niet statisch is, maar dynamisch. Barbapapa. Ja. Dus ik, je moet eigenlijk, uhm, je bent als, wij zijn als het ware met z'n tweeën een soort kaart aan het uittekenen op tafel van: wat zijn de spelers eigenlijk?
• 2:59:35
  Wat zijn de kwaliteiten van die spelers, waar staan ze, et cetera. En ik denk dat, en ik snap je frustratie, maar dat we nog,
• 2:59:43
  ja, dat we nog probe-- het is alsof we gedropt worden in een nieuw speelveld waar iedereen nog een beetje aan het uitzoeken is wat er eigenlijk nu ineens allemaal aan de hand is.
• 2:59:51
  Dat is wel, uh, ja, de, de regels van het spel en de kaarten zijn zo veranderd. Ja, en ik voel, ik, ik voel dan ook nog wel een bepaalde mildheid tegen, uh, tegenover onderwijs professionals, tegen onderwijs instituten.
• 3:00:05
  Omdat ik denk: die hebben ook wel meer, i-, die hebben, die hebben last van al die verschillende niveaus waarop ze dingen moeten veranderen. Dat ik ook nog wel denk.
• 3:00:14
  En ze willen ook niet het kind met het badwater weggooien. D-, dus ik, ik heb, ik, ik voel daar nog wel enige genegenheid, moet ik zeggen. Maar van de bedrijven heb ik, begrijp ik er niks van dat er niet meer aanbod is.
• 3:00:29
  Ja. En nogmaals, laat me graag corrigeren door de luisteraar, van bedrijven die gewoon shit maken voor het onderwijs. Van uitgevers tot, tot startups die, uh, edtech maken, uh, om, om, om dingen vooruit te duwen.
• 3:00:42
  Dat Anthropic het is gaan maken. Ja, precies. Jesus Christ. Wat zijn zij nou weer aan het doen? Zij moesten die wrappers erop laten bouwen, dus dat. Ja. Dus als je programmeur bent, aan de slag.
• 3:00:53
  Wij danken Sam Hingenveld voor de edit van deze podcast. Wij danken Pankra voor de vormgeving. Als je een lezing wil van Wytse Hagen, van mij, dan kan dat. Mail ons daarvoor op lezing@aireport.email.
• 3:01:04
  Als je op de hoogte wil blijven van het laatste AI-nieuws en twee keer per week ook nog eens tips en tools wil krijgen om het meeste uit AI te halen, abonneer je dan op onze nieuwsbrief via aireport.email.
• 3:01:14
  Wil je vandaag nog beginnen met AI binnen jouw bedrijf? Dan ga je naar deptagency.com/aireport. En Wytse, mij rest jou hartelijk te bedanken voor deze toch weer leuke uitzending. Jij ook. Dank je wel man. Beetje lang.
• 3:01:28
  Komt goed. Tot volgende week. Joe!
• 3:01:34
  [afsluitend muziek]