Latest / AI Report / Estland is best wel een gaaf land

Transcript

Estland is best wel een gaaf land · AI Report

• 0:00
  [alarm] Oh! Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.
• 0:10
  De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.
• 0:18
  Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.
• 0:29
  Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.
• 0:40
  Koop de Philips S9000 Prestige bij jouw favoriete winkel. Laat me je voorstellen aan Pim Verlaan. Ik begin op een hele jonge leeftijd met beleggen. Die horizon die jij hebt gaat zoveel voordeel opleveren.
• 0:53
  Pim is een man met een missie. Iedereen veilig en verantwoord leren beleggen. Als je echt iets wil leren, leer het van iemand die één stapje vooruit loopt. Hij legt je uit op welke manieren je kan beleggen.
• 1:03
  Elke bank heeft eigenlijk zijn eigen beleggingsfonds. Ik hou daar helemaal niet van. Op welke manieren je beter kan beleggen en hij rekent je voordeel op de euro nauwkeurig uit. € 192.000 minder rendement.
• 1:15
  Zelf leren beleggen. Niemand vertelt dit. Pim dus wel in Jong Beleggen de podcast. Nou, dat is toch fantastisch?
• 1:30
  [muziek] Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wytse Hagen en Alexander Klöpping, je meenemen in de wereld van AI.
• 1:47
  Alexander, hoe was het in Estland? Ik heb met alle CIO's, want Estland heeft een CIO. Ze hebben ook een CDO en allerlei andere corporate IT-achtige namen in hun overheid zitten.
• 2:02
  En ik heb met alle CIO's gesproken sinds dat het land bevrijd is door de Russen in de jaren negentig. Of van de Russen bedoel ik in de jaren negentig, sinds de val van de Sovjet-Unie.
• 2:11
  En, uh, dat was wel vet, want dat beteke- Estland is een van de meest gedigitaliseerde, uh, overheden op aarde, misschien zelfs wel de meest gedigitaliseerde overheid op aarde.
• 2:24
  En zoals die, die mannen dat vertellen is in de jaren negentig was er dus geen infrastructuur. Uh, ze hadden geen manier om.
• 2:32
  Ze moesten alles opbouwen van een manier tot belasting te innen tot een database bij te houden met wie er eigenlijk in het land woonde tot, nou ja, gewoon de basale functies van een overheid moesten ze vanaf nul opbouwen.
• 2:44
  En aangezien ze geen geld hadden om Capgemini in te huren of, uh, weet ik veel wie er, wie wij zouden inhuren van die kut consultancybedrijven om dit allemaal op te zetten, hebben zij gewoon alles zelf gebouwd.
• 2:54
  En wat in Nederland, zeg maar, uh, die hele generatie van Rob Gonggrijp en Marleen Stikker ook wel die, die, die vroege internetmensen,
• 3:04
  uhm, die in Nederland, ja, uh, ISP's zijn begonnen en maar, maar, maar, uh, niet echt in de overheid hebben gezeten, zaten bij Estland juist in de overheid.
• 3:13
  En die hebben daar gewoon de digitale infrastructuur van de overheid gebouwd.
• 3:18
  En het gevolg is dus dat ze, ja, zij hebben een soort van, uhm, ze hebben een i-, ze hebben een i-, ze hebben een aantal basisprincipes, waaronder informatie mag altijd maar in één database staan.
• 3:30
  Dat noemen ze het only once principe.
• 3:32
  Dus als jij een, uh, uh, je geboortedatum ooit hebt ingevoerd bij de overheid, dan mag geen ander deel van de overheid daar nog om vragen omdat het, ja, één, één database of één deel van de overheid is dus verantwoordelijk voor dat stukje data.
• 3:46
  En als jij dan als andere, stel weet ik veel, je krijgt een kind of zo en je, je moet dan jouw inf-, jouw geboortedatum, uh, moet aan jouw kind gekoppeld worden in een database.
• 3:56
  Dan moet dus dat deel van de overheid dat opvragen bij de plek waar jouw, uhm, geboortedatum staat. En dat gaat via een systeem dat heet de X-road. Zo noemen ze dat.
• 4:05
  Dat is een soort middleware die ze gebouwd hebben al heel vroeg, waarmee alle overheden, uh, met elkaar kunnen praten via dit gestandaardiseerde protocol.
• 4:15
  Dat betekent dus dat omdat alle informatie maar één keer ergens mag staan, dat dat ding dus de hele tijd informatie aan het uitwisselen is en, uhm, dat jij controle hebt als burger over waar je informatie heen gaat.
• 4:27
  Uh, want voor sommige stukjes informatie moet je zelf toestemming geven voordat een overheid dat mag gebruiken.
• 4:33
  En aan de andere kant sommige dingen worden automatisch uitgewisseld, waardoor bijvoorbeeld je belastingaangifte vanzelf wordt ingevoerd. Dus aan de ene kant heb je een soort van logging dat je.
• 4:42
  Ze maken nu een app waardoor je elke keer als jouw data wordt opgevraagd je een pushbericht krijgt op je telefoon zodat je kan zien gaat dat goed?
• 4:48
  En als er dan mensen bij je data komen van de overheid die daar geen toestemming voor hebben, dan gaan ze de gevangenis in, want er staat een gevangenisstraf op.
• 4:55
  En aan de andere kant zijn sommige dingen gewoon zo automatisch dat je niet eens doorhebt dat er een overheid, uh, is.
• 5:02
  Nou ja, om dat verhaal te horen van hoe ze dat gedaan hebben en wat ze daar dan vervolgens mee willen, dat was echt heel erg cool. Kan je dan ook een soort audit log opvragen van wie dan bij jouw data geweest is?
• 5:14
  Zo van dit, dit zijn de. Wat vet! En je zei net zelf van allemaal zelf gebouwd ook, dus het is niet iets wat ze hebben gekocht of, uh, van een andere ander land hebben geïmporteerd. Nee, nee.
• 5:28
  En exporteren ze het inmiddels? Ja, volgens mij maken ze sommige delen open source. Uh, en dat X-road, dat proberen ze inderdaad actief te exporteren.
• 5:38
  Uhm, maar er zijn ook heel veel deeltjes, want het bestaat gewoon uit heel veel deeltjes, dit hele systeem. Heel veel is gemaakt in een soort van pri- publiek-private samenwerking.
• 5:48
  Er zijn ook allemaal commerciële b- bedrijfjes juist die dingen gebouwd hebben voor bijvoorbeeld het onderwijs. Ze hebben het beste onderwijssysteem ter wereld volgens de PISA-score
• 5:58
  en daar speelt onderwijs ook een rol in. Dus ze hebben een soort van Magister on steroids voor ouders die kinderen hebben en gewend zijn dat, uhmScores in magister verdwijnen.
• 6:08
  Uh ze hebben een soort van systeem gemaakt waardoor ouders uh heel goed hun kinderen kunnen helpen uhm met onderwerpen waar ze een beetje op achterlopen.
• 6:16
  En dat schijnt dan een van de dingen te zijn waardoor het zo goed gaat. Dus betere informatievoorziening voor uhm voor, voor ouders om te weten hoe het met hun kind gaat. Uh en dat is dan weer private samenwerking.
• 6:26
  Dus uh het is echt niet alleen maar dat er Estse overheid programmeurs zijn die alles maken. Ja, interessant. En uh en jij was daar uitgenodigd om, dat ze trots zijn om dat aan jou te laten zien?
• 6:39
  Of zat daar wel iets van een thema omheen of iets? Nou, ik heb mezelf uitgenodigd [gelach] want ik dacht uh. Dat is wel nieuwsgierig. [lacht] Ik dacht: ik wil dat gewoon zien.
• 6:48
  Maar ze hebben dus, ze hebben dus wel, ik ben niet de enige natuurlijk die dit interessant vindt.
• 6:53
  Ze hebben een soort van informatiecentrum waar dus de hele dag allerlei uh groepjes langskomen van mensen over de hele wereld die dan gaan horen hoe zij hun gezondheidszorg gedigitaliseer, gedigitaliseerd hebben, hoe hun rechtssysteem gedigitaliseerd hebben.
• 7:08
  Hun, ze hebben gewoon alles gedigitaliseerd. Dus als je, noem een niche uh binnen de overheid en ze hebben daar wel een presentatie en me-mensen bij die dat gemaakt hebben en dat vinden ze wel leuk om te vertellen.
• 7:19
  Ik heb wel het idee dat ze daar een soort van geopolitieke macht vandaan halen. En ze zijn natuurlijk het centrum van de NAVO qua cyber uhm aanvallen.
• 7:28
  Dus ze, zij zijn de, het land die de, ja de cyber defence van de NAVO zit in Tallinn en dat trekt ze ook een beetje naar zich toe.
• 7:36
  En dit, zoals zij zelf zeggen: het is niet de vraag of we nog een keer uh door de Russen bezet worden, maar vr-vooral wanneer dat gaat gebeuren. En daar willen we klaar voor zijn.
• 7:47
  Uhm dus hun hele digitale infrastructuur is ook ingericht op dat het op ieder moment aangevallen kan worden, met name door de Russen, en dat dat niet, uh dat ze, ze hebben een soort van
• 7:58
  uh kopie van de hele Estse digitale overheid uh in Luxemburg onder andere draaien, zodat ze, zodat dat gewoon ze over geswitcht kan worden mocht dat nodig zijn.
• 8:08
  En informatie zit in allerlei losse clusters waardoor als je één database binnenvalt, dan hebben ze een soort van economische afweging gemaakt van hoe duur het is om de keys van één database uhm ja, te, te, te hacken.
• 8:20
  Uh en ik, uh hebben ze gewoon een afweging gemaakt.
• 8:23
  Nou, als we het goed genoeg soort van clusteren in verschillende silo's, dan kun je wel één database pakken, maar dan heb je nog steeds niet uh heel relevante informatie.
• 8:32
  Vw uh dus dan heeft het geen zin als het ware om het te hacken. Dus ze zitten heel erg in de kern. Boeken zijn.
• 8:39
  Er zal vast wel, er zal vast wel, want je zegt deels open source, maar er zal uh iemand die er soort trots daar aan heeft gewerkt en daar een mooi boek van geschreven heeft.
• 8:47
  Soort van uh, weet je wel, The History of Developing uh E-governance in uh Estonia of zo. Zo'n boek. Ik heb het niet kunnen vinden en daarom heb ik alles maar uit eerste bron proberen te trekken. Ja, ik snap het.
• 8:57
  Uh en uh ja, het is wel, het is wel echt grappig en, en ze hebben dus dit jaar zijn ze klaar, want ze hadden een roadmap dus sinds de jaren 90, uhm om alle overheidsdingen te digitaliseren en het enige wat nog niet gedigitaliseerd was, was uh trouwen en uh sterven [beide lachen]
• 9:17
  . Dat is een beetje de middels van dingen. Ja, daar moest je nog voor langs bij een kantoor en, en die roadmap is dus sinds dit jaar af [lacht]. Dus ook die dingen kunnen nu uh via hun uh overheidsportal.
• 9:31
  En nu is dus de, de volgende, de volgende stap, want dit was een belangrijke soort van uh strik eromheen. Nu is de volgende stap dat ze allerlei proactieve dingen willen gaan doen.
• 9:40
  Dus nu zit het, nu hebben ze veel meer, ze runnen het bijna als een startup. Nu willen ze KPI's bereiken rondom gezondheidszorg en rondom klimaat uhm en andere grote onderwerpen waar ze.
• 9:52
  Ze hebben dus een kwart van de bevolking uh DNA hebben ze in kaart gebracht.
• 9:58
  Dus nu willen ze kijken: kunnen we p-persoonlijke gezondheidszorg gaan leveren middels AI uhm met de data die we aan elkaar kunnen koppelen, uh omdat we die data hebben van onze uh ingezetenen.
• 10:12
  Uh dus nu zijn er allerlei- Ik vind het wel interessant, want ji-jij zei natuurlijk net ook al aan het begin dat ze, ja, uh ze een principe hadden van alles één database.
• 10:21
  Uhm en is er, is er een soort principelijst ook of zo? Want het klinkt alsof ze het wel niet naïef aan het bouwen zijn. Er zitten wel allerlei idealen achter. Ja, nee, dus het is uh only once is een principe.
• 10:33
  Uhm en daarnaast is er ook een principe over het minimaliseren van de, de hoeveel, van de hoeveelheid data die opgevraagd mag worden.
• 10:40
  Dus iemand noemde een voorbeeld van dat, van de uh openbaar vervoer bedrijf in Tallinn, de hoofdstad, die uh OV-chipkaarten heeft en dat systeem wilde controleren of er een burger van Tallinn incheckte in de bus of dat het iemand was van buiten Tallinn.
• 10:57
  Want burgers van Tallinn mogen gratis met het OV en mensen van buiten Tallinn moeten ervoor betalen.
• 11:02
  Dus die systeem, de mensen die dat systeem maakten van die OV-chipkaart, die wilden weten van XRoad, dus dat, die middelwerker die informatie aan elkaar uh koppelt.
• 11:12
  V, mogen wij adresgegevens van de mensen die inchecken, want dan kunnen we checken of ze gratis mogen reizen. En toen zei het zo: [lacht] dit, was dan heel trots.
• 11:19
  [lacht] Natuurlijk hebben we dat niet gegeven, want het enige wat mensen, het enige wat zij nodig hebben om die specifieke ja dienst te kunnen verlenen, dus gratis, is weten: komt iemand uit Tallinn ja of nee?
• 11:31
  Dus toen hebben ze uhm, uh gespecificeerd dat het enige wat het OV-bedrijf mocht opvragen was een ja of een nee op de vraag- Ja mooi. Of die inwoner.
• 11:40
  En dat i, en dat wordt dus dan r-in real time gepullt uit die XRoad database op het moment dat jij je pasje bij die uhm bij die automaat in de bus ha-ha-hangt, uh houdt, uh om te checkken of je, of je gratis mag rijden ja of nee.
• 11:54
  Dus het is ook nog minimalisatie van uhm, uhm, uh van data. Uh logging is een belangrijk onderdeel, dus iedere burger heeft toegang tot de access logs. Ja.
• 12:06
  Die hebben ze een beetje naar beneden gedraaid omdat er te veel machine tot machine communicatie was.Ehm, in dat logging dus dat de, de echte verzoeken van mensen raakte daarbij ondergesneeuwd.
• 12:16
  Dus mensen snapten het niet meer. Dus ze zijn nu die hele logging interface aan het optimaliseren waardoor mensen beter begrijpen wanneer een aanvraag onderrecht is, zodat ze daar ook bezwaar tegen kunnen maken.
• 12:27
  Je kan dus zelf aangeven welke, bijvoorbeeld dokters welke delen van jouw patiëntendossier mogen bekijken. Dus je hebt, je kunt zelf je, de toegangsrechten instellen per medische, uh, uh, deel van je dossier.
• 12:44
  Zodat je bijvoorbeeld als een arts een second opinion wil, uhm, als je wilt dat een arts een second opinion geeft, dat die arts dan niet het, het resultaat of de analyse van de oorspronkelijke arts kan lezen en jij wel.
• 12:55
  Dat soort dingen. Ja, dit is toch goud? Ja, ik vind het heel vet.
• 12:59
  Ik, uh, voelt ook als een soort, uhm, dat zeg ik even naïef met wat ik nu van jou hoor, maar een, een soort Europees alternatief op een digitale overheid zoals je die in China ziet.
• 13:09
  Hè, in China is het, is het heel veel al, al deze data ook registreren, maar heb ik het idee dat je niet bij de access logs kan en niet consent gaat geven als er iets opgevraagd wordt et cetera. Dat vermoeden heb ik.
• 13:20
  En wat je nu beschrijft is, en dat sluit ook wel een beetje aan op waar we de vorige aflevering eindigden, hè, want toen, toen deed jij ook een soort appèl voor: joh, kunnen we niet ook fantaseren over hele mooie toekomsten met daarin technologie, zonder daar meteen een hamer op te gooien bij ieder idee.
• 13:35
  En wat je nu eigenlijk beschrijft is een, een digitale overheid, in ieder geval in hoe ik het nu hoor, waarbij er geprobeerd is om een balans te vinden tussen het gemak van al die data die opvraagbaar is, uh, en wat je daar allemaal voor voordeel uit kan halen versus: maar dat gaan we niet zomaar opengooien.
• 13:53
  Uh, we zorgen er wel voor dat het op een manier gedaan wordt dat andere waarden van de, die we als overheid, als burger belangrijk vinden ook, uh, uh, beschermd zijn. Ik vind dat wel, uh, wel heel mooi.
• 14:03
  Dit, dit klinkt dan wel als een, als een soort case study voor: je hoeft niet als je heel veel data hebt, dat dan ook maar meteen allemaal open te gooien. En, uh, het klinkt wel als veel meer werk.
• 14:14
  Vind ik niet erg, want, ja, je kent me inmiddels een beetje. V-van mij mag het tien jaar langer duren als het moeilijker is, wa-, als het goed, als het goed gebouwd wordt. Maar,
• 14:21
  uhm, en ik vind het boeiend dat je aan het begin zei dat dit de groep mensen is
• 14:26
  die misschien, uh, dat leg ik dan even in jouw mond, maar, uh, hier nu in Nederland veel meer tegen de overheid ageert of in ieder geval daar veel kritiek op heeft en dat het daar gebouwd is door diezelfde mensen van binnenuit.
• 14:39
  Het is misschien ook wel een beetje de historie, hè, dat gaf je zelf ook al aan van als er een soort blank slate is van een systeem, uh, ja, dan, dan kan je natuurlijk ook meer.
• 14:47
  Dat is, iedere ontwikkelaar die luistert denkt: ja man, lekker een nieuw bedrijf beginnen of, uh, hè, een, een project n-n-, versie twee gaan bouwen van een project en dan lekker opnieuw beginnen. Dat klinkt wel goed.
• 14:57
  Nee, zeker. Nou, dat heeft geholpen, dat ze opnieuw konden beginnen in de jaren negentig.
• 15:01
  Natuurlijk heeft dat geholpen, maar toch, het neemt niet weg dat je, als je een soort van fundamenteel idee over logging bijvoorbeeld, gewoon dat je als burger toegang hebt, uh, tot de, tot de, tot de access log, zeg maar, dat, dat voelt als een fundamentele waarde die we in Nederland gewoon niet, uh, belangrijk genoeg achten.
• 15:22
  Dus de, er zijn geen burgers die hier actief om vragen. Er zijn geen politici die actief hiervoor, uh, aan het, uh, ja, dit eisen, zeg maar.
• 15:30
  Van huisarts ging ik wisselen en dan moet je een formuliertje invullen waarin je consent geeft dat die data dan tussen die huisartsen uitgewisseld mag worden.
• 15:38
  En ik, ik, ja, ik gaf dat en dat was ook soort van sfeer van: sorry dat we dit moeten doen, naar mij. Zo van: hè, hier heb je nog dat formulier. Wij willen dit ook niet.
• 15:46
  Terwijl ik dan, ja, goed, ik sta daar, denk: wat mooi, weet je wel. Dus het is ook een soort sfeer van: hè, dat privacygedoe weer, die molen. Ja, ja. Die tand. En ik begrijp hem, hoor. Ik ben echt niet naïef.
• 15:57
  Ik snap dat, want het is frictie en het is gedoe en het klinkt allemaal paranoia. Maar ja, u, en dat vond ik ook mooi aan jouw verhaal dat je net zei: die access log was veel te, een log heb je maar zoveel aan.
• 16:07
  Uh, je hebt maar wat aan een log als die data, zeg maar, uh, goed gesorteerd wordt en je moet een soort, je moet UI hebben.
• 16:13
  Eigenlijk wil je gewoon een lekkere app die, die, die soort van ma-, met iconen en kleuren mensen helpt en er doorheen loopt van: joh, hier hoef je je geen zorgen om te maken. Dit is inter, dit is exter, extern.
• 16:24
  Het is, ja, heel, heel interessant. En dat doen ze dus ook, dat, dat UI-probleem een beetje aanpakken. In ieder geval. En het gaat wel echt heel erg iteratief allemaal.
• 16:33
  Dus sommige systemen zien er echt nog steeds uit alsof ze in het jaar 2000 gemaakt zijn. Dat dan dus ook weer wel echt. Dus er zijn hele lelijke dingen zitten er o-, zijn er ook onderdeel van.
• 16:44
  Als je die app ziet waarmee je stemt, want je kan dus stemmen in die verkiezingen, wat heel cool is, allemaal digitaal. Het gaat dus op de fucking blockchain een, een, uh, een hele, de hele ledger van de verkiezingen.
• 16:55
  Uhm, maar die app ziet eruit, dat is gewoon echt, zeg maar, je, je schaamt je dood als je ziet hoe het eruit ziet.
• 17:02
  Dus dan aan de ene kant is het heel vooruitstrevend en aan de andere kant voelt het als een reliek uit de oudheid die wij helemaal niet meegemaakt hebben, want wij hebben natuurlijk nog nooit online kunnen stemmen.
• 17:10
  Dus dat wel. Maar je, je merkt het, overal zitten dus die, die waarden van die hackers, de hackers uit de jaren negentig die het oorspronkelijke internet gemaakt hebben, die waarden, die zijn
• 17:22
  v-verankerd in het systeem en vervolgens raakt dus ook de hele bevolking doordrongen van die waarden. Omdat je toegang hebt tot logging.
• 17:29
  Dat, dat is mijn volgende vraag aan jou van: uh, ik heb in het verleden op veel kleiner niveau gewoon binnen bedrijven systemen gebouwd met daar bepaalde waarden in.
• 17:38
  Uh, niet in de orde van grootte van wat jij beschrijft.
• 17:41
  Maar wat je dan vaak ziet is dat die checks and balances die zijn ingebakken er op een gegeven moment uitgehaald worden of, ja, omzeild worden, want de mensen die die er ooit hebben ingestopt, die waarden zijn nooit expliciet ge, gea-, verankerd in de organisatie.
• 17:55
  Dus die techniek wordt uiteindelijk geërodeerd en dat waait dan gewoon, ja, dan gaat, er wordt een backdoor omheen gezet of een, uh, of een dingetje. Heb jij niet het idee dat dat daar ook,
• 18:05
  ja, ik doe, alles kan altijd gebeuren, maar heb je het idee dat dat daar
• 18:09
  door de bevolking en de mensen die er nu aan werken, beide partijen nog, uh, beschermd wordt?Nou, het valt me dus op hoe vaak zij veel van die dingen zijn.
• 18:18
  Dus sommige dingen zijn principes en sommige dingen zijn echt verankerd in de wet. Maar zoiets als gegevens niet mogen op of gegevens opvragen die je niet mag opvragen eindigt dus gewoon in gevangenisstraf voor mensen.
• 18:31
  En dat is iets, een verhaal wat ze elkaar ook de hele tijd vertellen. Dus mensen kennen allerlei anekdotes.
• 18:38
  Dat hebben ze dan op de voorpagina van de krant gestaan van mensen die in de gevangenis gegaan zijn omdat ze medische gegevens hebben opgevraagd van bekende Esten, om maar een voorbeeld te noemen.
• 18:48
  Dus het is gewoon onderdeel van de. Het is een soort meme als mensen de soort van de. En ik zit ook te denken dat zal dan. Ik weet dan weer te weinig van de geschiedenis van Estland. Wel een beetje, maar
• 18:59
  zit daar ook niet iets in dat het nog toen het gebouwd werd ook heel erg leefde van dit. Als we dit soort systemen gaan opzetten, dan moeten we gewoon heel erg oppassen.
• 19:08
  Want wie weet wie straks deze systemen in handen krijgt. Als dat er echt in zit, ja dan dan. Dan is dat een levend waardesysteem en niet een dogmatisch waardesysteem. Ja, ja, nee, maar dat, dat helpt.
• 19:21
  En misschien is het dus een, een ja. Misschien kan, kan je niet zoiets zo radicaal maken op het moment dat je niet die hele context meekrijgt van Estland inderdaad met de Sovjet-Unie.
• 19:31
  En dat het allemaal recent is en dat er toevallig te weinig geld is waardoor de nerds het dan maar gingen fixen omdat er. Nou ja, ze konden niet naar IBM gaan zeg maar om het gewoon uit een doosje te kopen allemaal.
• 19:42
  Misschien dat al die context nodig is om dit te krijgen, maar aan de andere kant. Maar het is er. Kan je natuurlijk. Dat is interessant. Ja en je en je kan alsnog je erdoor laten inspireren en bedenken dat is wel.
• 19:54
  Het is eigenlijk wel heel erg cool nu. Nu kunnen zij dus omdat het zo modulair is opgezet allemaal. En dus als je eenmaal in die aan die XRoad verbonden bent, dan moet je aan allerlei eisen voldoen.
• 20:08
  Dus ze kunnen ook allerlei beveiligingseisen opdringen. Om die reden Nerds zijn de baas over de XRoad, dus dat maakt dat telecomoperators die dan ook private bedrijven dus ook aangesloten. Dus iedereen logt.
• 20:18
  Het is alsof iedereen het is alsof je op je op je KPN account inlogt met je DigiD. Dat is in feite hoe het daar gaat. Meteen rillingen van als je het in onze context zegt. Maar in die context is het anders. Ja.
• 20:30
  Zij vinden dat volkomen normaal. Sterker nog, ze vinden dat heel handig, want betekent dat je ook niet je hoeft. Als je je aanmeldt bij.
• 20:36
  Bij een nieuw abonnement afsluiten hoef je niet opnieuw al je gegevens in te voeren, want dat gaat allemaal automatisch, want het is met hetzelfde login gedaan. En
• 20:47
  ja, het gevolg is dus dat die nerds ook al hun beveiligingseisen kunnen opdringen aan die private bedrijven. Op die manier omdat zij de baas zijn over een soort van het het smeermiddel wat in het midden zit.
• 21:00
  Dat vind ik ook nog wel grappig. En het betekent dus omdat het zo modulair is opgezet dat het bouwen van nieuwe diensten erop eigenlijk relatief makkelijk is.
• 21:09
  Want de hele data-uitwisseling, dat data-uitwisseling shit is allemaal al geregeld, dus betekent dat ze nu. Ze zijn nu met zo'n heel AI-project bezig. Ze gaan. Dit jaar willen ze dertig miljoen uitgeven. Dat is voor.
• 21:20
  Dit was mijn volgende bruggetje van oké, hoe zit het dan met het onderwerp kunstmatige intelligentie en dit hele verhaal daar? Nou, dat is dus dit is iets waar ze nu mee beginnen.
• 21:31
  En dan hebben ze een project voor gemaakt en hebben ze tachtig initiatieven die ze met AI willen ontplooien. En dat gaat dan van geautomatiseerde rechtspraak.
• 21:40
  Daar gaat bij ons in Nederland ook gelijk de haren van overeind staan. Want automatisch. Zij zijn dus heel erg trots. Ja, dat is het. Het heel. Het is best wel kapitalistisch land.
• 21:49
  Dat is misschien een soort van tegenbeweging van die van van, van, van de situatie in de jaren negentig. Maar het ook.
• 21:58
  Ik vind het wel heel verfrissend om met zoveel plezier te horen hoe zij zeg maar hun rechtssysteem dan efficiënter willen maken.
• 22:04
  Want ze zeggen er zijn gewoon heel veel dingetjes binnen het rechtssysteem die gewoon ongelooflijk veel tijd kosten voor advocaten en voor rechters. En met AI kunnen wij processen gewoon versnellen door beslissingen.
• 22:15
  Voorbeeld wat ik hoorde was beslissingen onder de € 7.000 boetes onder de € 7.000. Dat dat gewoon door een AI besloten wordt.
• 22:23
  En je zal always wel in beroep kunnen gaan en dan kan je alsnog kun je alsnog bij mensen terechtkomen.
• 22:27
  Maar om maar aan te geven de, de mate waarin ze bereid zijn om ja IT in, in, in die in die zone zich mee te laten bemoeien. Een ander voorbeeld was dat ze satellietfoto's gebruiken om
• 22:44
  satellietbeelden door AI laten analyseren om voor boeren om hun subsidie te krijgen. Want een, een, een voorwaarde om subsidie te krijgen is dat je je velden maait en ze kijken.
• 22:55
  Ze gebruiken dus die satellietbeelden om te kijken of je dat gedaan hebt en pas dan krijg je krijg je geautomatiseerd je subsidie. En, en een ander ding was dat ze werkzoekenden en
• 23:07
  werkgevers die banen in de aanbieding hebben ook al. Ook die shit is allemaal gestructureerd.
• 23:13
  Al die data is gestructureerd opgeslagen, dus de overheid kan actief mensen die een baan zoeken koppelen aan plekken waar banen zijn. En ook daar willen gebruiken ze AI om die koppeling te maken.
• 23:25
  Het is mooi dat data gestructureerd is, maar je moet ook nog wel even de koppeling maken. Dus die software moet je bouwen. Dat doen ze dus ook. Dus het is een.
• 23:31
  Het zijn heel veel voorbeelden van dingetjes die zij kunnen maken in heel veel verschillende disciplines van de overheid. Ook tussen die disciplines.
• 23:41
  Omdat al die gegevens gestructureerd opgeslagen zijn en er data-uitwisseling is. Als jij daar als consument toestemming of als consument als burger toestemming voor geeft.
• 23:51
  En in Nederland kunnen we niet, kunnen we niet meer doen dan binnen departementen een beetje klooien. En zij kunnen dat echt door een hele overheid doen.
• 24:00
  Is het dan misschien een te specifieke vraag, maar is het dan zo dat de boer toestemming geeft om zijn of haar land te laten scannen? Nou, sommige dingen leggen ze natuurlijk gewoon op. Ik bedoel ik, ik ga ervan.
• 24:13
  Ik weet het, ik weet het niet, maar ik ga ervan uit dat dat dit gewoon een voorwaarde is voor die subsidie. En sommige dingen doen ze omdat doen ze gewoon automatisch. Dus ik bedoel je, je belastingaangifte.
• 24:24
  Ze gaan niet vragen of je je banksaldo wil doorgeven of zo.
• 24:29
  Dat wordt gewoon gepolld.Ja en uh als er onderdeel iets onderdeel is van een van een recht uh van een recht rechterlijke uitspraak, dan wordt dat ook gewoon overruled.
• 24:39
  Maar wat ik voor me zie is een soort systeem met allerlei toegangsrechten.
• 24:43
  En sommige processen hebben gewoon hogere toegangsrechten en sommige mensen hebben hogere toegangsrechten en sommige dingen heb je geen keuze over. En over dingen waar wij in Nederland
• 24:52
  uh denken dat we de keuze over hebben en op de achtergrond toch allerlei informatie wordt uitgewisseld en dat het toch niet helemaal lekker werkt en zo. Zij hebben in ieder geval een systeem gemaakt wat transparant is.
• 25:03
  Ja, ik denk ook voor mijzelf persoonlijk dat in ieder geval het feit dat de data die er is, dat er bekend is wat er is en dat er bekend is wie er wanneer bij is geweest of bij wil.
• 25:15
  En dat ik daar ook nog zeggenschap over heb. Dat is volgens mij altijd een goed idee. Dat is gewoon goud. En dan gaan zij natuurlijk nog wel een aantal stappen verder.
• 25:23
  Ik zit ook tijdens jouw verhaal te denken uhm, dat vind ik dan wel weer mooi aan een soort gefedereerd Europa waarin we niet één grote groot blok zijn op alle vlakken, maar intern binnen dat binnen de Europese Unie een Estland hebben die op hun eigen manier dit doet.
• 25:40
  Want dit is wel binnen de EU, dus het moet dan ook wel weer voldoen vanuit boven aan wat daar dan opgelegd wordt. Uhm maar ik ben dus ik vind het ik ben. Ik ben eigenlijk hoe zeg ik dat?
• 25:52
  Ik vind het mooi dat zij dit lekker allemaal kunnen doen. Dat ik er zelf geen onderdeel van ben. Want ik vind het gewoon mooi dat zij dat. Dat ik. Dat ik daar geen burger ben, hoe gek dat ook klinkt.
• 26:02
  Totdat zij op een gegeven moment kanker genezen omdat ze die DNA scannen. En dan willen wij het ineens allemaal hebben. En dan zeggen wij thanks dat jullie wel jezelf hebben opgeofferd in die database, maar uhm
• 26:11
  ik ben wel een soort van. Ik vind het wel interessant dat zij dat met elkaar als een soort van sociaal experiment kunnen doen. Kijk, ieder kind die geboren wordt in Estland heeft daar natuurlijk weinig over te zeggen.
• 26:20
  Die wordt geboren in dat experiment. Maar goed, uhm experiment klinkt een beetje alsof ik het naar beneden haal, maar dat bedoel ik helemaal niet. Ik denk wel dat zij. Ja, maar het moet. Je moet meedoen. Je mag niet.
• 26:29
  Je kan niet op de uit uit die. Dan moet je verhuizen. Dan moet je naar een andere lidstaat of naar een ander land buiten de EU gaan. Uhm ja, het voelt ik ik zelf. Er zit altijd iets in.
• 26:43
  Hebben we toen ook tijdens de aflevering met Onno erbij over onderwijs gehad dat er intuïtief ook iets bij mij zit. Dat ik denk dat het goed is voor systemen om deels kapot te zijn
• 26:56
  omdat daar een soort ruimte door ontstaat. Dat is zeg maar eigenlijk het uh het beklagen op een soort totalitair iets.
• 27:03
  Er zit natuurlijk een als je een totalitair systeem bouwt dat alles kent, alles weet, dan kan je zeggen ja, maar als je dan jezelf gewoon goed gedraagt en je subsidies aanvraagt en lief bent en je hond netjes aangeeft bij de belasting, dan hoef je geen zorgen te maken dat die hondendrol gescand wordt met een satelliet.
• 27:20
  Uhm maar ik denk dat het.
• 27:22
  Ik denk dat het ergens uh ja, dat dat is hetzelfde als met iedere iedere wet die we hebben dat dat je een soort van periferie van de wet wil hebben waarbinnen je toch uhm in ieder geval in het klein dingen kan doen die misschien pas later legaal worden bijvoorbeeld.
• 27:36
  Er zijn best wel dingen die vandaag de dag legaal zijn, die vroeger illegaal waren en altijd in een soort schaduw waren. En dat dat. Ik weet niet hoe groot die schaduw moet zijn.
• 27:46
  Ik weet niet hoe breed die periferie moet zijn.
• 27:48
  Uhm als ik het dan even terughaal naar onderwijs voor de luisteraars die denken waar hij over wat voor drugs heeft, Wiet zit dan uhm in de In onderwijs zou je zeggen dat er een keer even de andere kant op gekeken wordt of een toets op een andere manier nagekeken wordt voor een student die niet helemaal binnen het systeem past.
• 28:05
  En die leraar kan toch nog even draaien aan een knopje links of rechts.
• 28:08
  Ik denk dat we, als we terugkijken in ons leven eerlijk kijken naar momenten dat dat kan van een docent tot en met een scheidsrechter tot een agent zijn geweest die zei van joh, knipoog doen we niet meer vriend, want je komt anders echt heel erg in de problemen en ik kijk nog één keer weg dat die ruimte in de in de samenleving waardevol is.
• 28:27
  Tegelijkertijd besef ik me dat in diezelfde ruimte gebeurt zoveel naars in die schaduw. Dus ik vind dat. Ik heb daar ook zelf een soort gevecht mee altijd.
• 28:35
  Het is een grappig punt wat je maakt, want ik heb dus ook met onderwijsexperts gesproken daar en die zeggen dus Estland heeft het beste onderwijs ter wereld volgens de PISA score methodiek.
• 28:47
  En uhm uhm je zou dus verwachten dat uh dat dat komt omdat ze elke test uh dat ze de hele tijd aan het testen zijn en dat dan in een of ander systeem gooien en dat dan een of ander algoritme bedenkt waar je waar je nu onderwijs moet krijgen.
• 29:02
  Maar ik denk dat we juist dus in Nederland die neiging heel erg hebben om alles te willen opslaan en alles alles te willen uh proberen te controleren.
• 29:13
  En wat ze dus in Estland doen is juist dat ze testen niet bijna niet en hebben en en gooien juist alle alle autonomie op de onderwijzers en de scholen.
• 29:25
  Dus ze maken ook weer een soort van vreemde tegenbeweging daar in een land waarin alles gereguleerd wordt om juist dat in het onderwijs heel erg vrij te laten. Je gaat daar pas op je
• 29:34
  zevende krijg je überhaupt pas voor het eerst inhoudelijk onderwijs waar we in Nederland met vier jaar al beginnen met basisonderwijs. Je hoeft pas heel laat te kiezen over om een beroeps uh richting te kiezen.
• 29:49
  Uhm en heel weinig wordt gedaan op basis van, van toetsen. Dus gek genoeg in.
• 29:56
  Ik snap heel erg wat je zegt, maar ik denk dat diezelfde ja, die chaos of die ruimte die je dus die die je beschrijft dat wij echt dat wij de neiging juist hebben om die in te vullen met allerlei controledrift.
• 30:08
  En dat in een in een land waarin dus in ieder geval een hele overheid in in een systeem hangt echt een heel goed gedocumenteerd strak systeem hangt.
• 30:18
  Dat ze dus juist in het onderwijs de neiging hebben om dat los om dat dan weer los te laten omdat ze.
• 30:24
  En ik weet niet, misschien idealiseren idealiseer ik dit nu allemaal en denk ik het is het beloofde land en we moeten alles doen zoals Estland en ik zit wel een beetje op een roze Estland wolk, dat geef ik dan gelijk wel toe.Maar
• 30:36
  ze zijn niet gestopt met nadenken, zullen we maar zeggen bij het, bij het soort van idee dat alles in een systeem kan. Ja, ik denk dat dat dat is ook wat ik je nu heel erg hoor zeggen die uhm met al die technologie.
• 30:51
  Ik zit te denken aan een beetje een vreemde metafoor misschien, maar als je denkt aan een mes.
• 30:56
  Stel dat jij uit een vliegtuig in een grote houten kist een hele collectie messen zou droppen op, op een land waarin koken heel belangrijk is, dan gaan die messen natuurlijk naar de keukens, want die gaan ze mee koken en dan denken ze wauw, we gaan tomaten snijden, want wij vinden hier koken is een grote waarde.
• 31:12
  Gooi dat in een ander land neer waar ze elkaar allemaal niet vertrouwen, dan wordt het een wapen.
• 31:16
  En er zit, er zit dus die, die technologie, die die is, is gestut op dat waardesysteem, op die cultuur, op die historie van zo'n land. En ik kan me heel goed voorstellen dat als je de software
• 31:28
  van Estland één op één pakt en geeft aan, ik noem het maar even de Nederlander die niet bestaat, maar de gemiddelde Nederlandse waarde en dat wij daar misschien hele andere data in zouden gaan stoppen of zouden zeggen zo te gek man, die kunnen we om de ombouwen naar een nieuwe magister, dan kunnen we die kinderen in de gaten terwijl, terwijl die Esten, terwijl ze in Estland misschien zouden zeggen van nee, nee, nee, tuurlijk niet.
• 31:48
  Dat is duidelijk binnen do, binnen dit domein. Dat is een domein gescoopt stuk software. En natuurlijk ga je onderwijs niet op dezelfde manier aanvliegen. En dat dit, dit is ja, dit is wat ik zelf
• 32:00
  fascinerend vinden en al jaren mee bezig ben, is van ja, wat zit er nou ingebakken in technologie? Want er zit heel veel in.
• 32:08
  Je zou het liefst geloven dat het allemaal neutraal is, maar inmiddels zijn we er wel een beetje vanuit verschillende hoeken mee bezig. Dat die neutraliteit er eigenlijk niet is.
• 32:15
  Want iemand die op het moment dat jij een hamer in je hand hebt, dan ga je toch een beetje op zoek naar dingen om op te slaan. Dat dat, dat is gewoon, snap je? En als je in een, met een auto rondrijdt, dan ben je een.
• 32:25
  Ben je een wezen in een auto. Dat doet toch wel iets met je. Dat maakt je niet meteen een heel ander mens forever. Maar in die auto en met die hamer in je hand ben je net even anders bezig.
• 32:34
  Tegelijkertijd is het maar net aan wie je die hamer geeft. Ook weer. Dus er zit een soort van kracht of een ma, ja, er zit een soort vormgeving in vanuit die gebruiker en een vormgeving in vanuit die techno, technologie.
• 32:47
  En die samen komen dan tot een soort van moeilijk te voorspellen ding. En dat vind ik wel ja, interessant aan, aan jouw verhaal. Dat het dan zo anders gaat op het onderwerp onderwijs. Dat is echt boeiend. Mm hmm. Mm hmm.
• 33:04
  Ja. De vraag is ook of het een controledrang was, dat hele systeem wat zij hebben gebouwd. Want dat is dus mijn blik erop, mijn, mijn Nederlandse blik. Dat ik denk o ja, dan kan je alles lekker in de gaten houden.
• 33:14
  Kan je in dit geval niet eens lekker in de gaten houden, maar dan kan je lekker voorkomen dat er enge dingen gebeuren. Want voor mij is controledrang komt voort uit het niet willen dat dingen misgaan. Ja, denk ik ook.
• 33:28
  Denk ik ook. Ja, het is een, het is. Het is zeker niet gebruikt voor controledrang, want dat was juist het systeem waar ze vandaan kwamen. Het moest vooral eerlijk worden. En uhm.
• 33:43
  Ja, het is heel moeilijk om te voorspellen dat inderdaad wat er zou gebeuren als je gewoon het hele systeem daar zou plakken en je zou dat kopiëren naar een Nederlandse situatie, zou het dan even.
• 33:53
  Ja, je kopieert de waarden niet mee zullen we maar zeggen. En ik, ik las een of ander onderzoek dat ze dat de, de hoe ze, ze polsen de hele tijd bij de bevolking in, in welke mate de digitale systemen vertrouwd worden.
• 34:05
  Uhm, want ja, dat, dat daar valt of staat het natuurlijk allemaal mee. Uhm.
• 34:11
  En, en elke keer als zij westers, west, westerse overheden voorbijkomen of westelijker dan Estland voorbij krijgen, dan, dan, dan zijn hier natuurlijk allemaal kritische vragen over in hoeverre dit niet een, een soort van de basis is voor een surveillance, surveillance staat.
• 34:28
  Maar de grap is natuurlijk dat zij daar uitkomen juist. Zij zeggen ja, punt één Facebook en Google weten veel meer van jou, dus waar heb je het nou eigenlijk over? De overheid is echt niet, weet echt niet zoveel meer.
• 34:42
  Nou, daar kun je over discussiëren of wat je daarvan vindt. En het het tweede punt is in ieder geval geven we onze burgers controle over wat ze, wat er allemaal is.
• 34:51
  Eén want een Nederlander heeft geen flauw idee in welke databases hij of zij allemaal staat en twee geen flauw idee waar die data allemaal heen gaat.
• 35:00
  En drie geen flauw idee hoe die waar die data, hoe die gebruikt wordt en hoe dat dan geïnterpreteerd wordt en wat het dan zeg maar zie.
• 35:08
  Zie de toeslagen affaire of dingen die we die een beetje doorsijpelen over hoe gegevens over gezichtsherkenning, dingen.
• 35:15
  Er is een een of andere ANPR-camera die registreert een nummerbord en dan vervolgens gaat die data van de politie gaat naar de marechaussee en marechaussee doet er weer zijn eigen slag overheen en die kopieert het dan weer naar de belastingdienst en die kopiëren en die combineren dat ook weer met allerlei gegevens.
• 35:31
  En je hebt geen flauw idee meer als burger hoe beslissingen genomen worden over, over jou. Het is vaak niet te herleiden. Vaak weten die overheden dat zelf niet eens en, en ontstaat er een soort beeld van jou
• 35:48
  waar je zelf geen controle meer over hebt. In dat opzicht. Zou ik, denk ik als ik jouw verhaal zo hoor. Wat ik zou willen pakken van Estland is de transparantie.
• 35:58
  Dus als het in een fantasie IT-project voor de Nederlandse overheid, dan zou ik zeggen we gaan geen nieuwe data opslaan na vandaag. Even pauze. Ja. Ik wil nu alles in kaart. Alles op één snelweg.
• 36:13
  Alles audit, alles logs, alles met push notifications in een app ontworpen door een team kickass UX-designers. En dan gaan wij eens even kijken wat er nu al gebeurt. Laten we daar beginnen.
• 36:24
  En als er dan weer vertrouwen komt toch? Ja, en als er dan weer vertrouwen komt. En als er dan het gevoel is van oké, we willen meer, dan kunnen we met z'n allen stemmen om te zeggen we doen een blokje erbovenop.
• 36:35
  Maar nu weet ik helemaal niet welke blokjes er zijn. Ja. Laat staan dat er blokjes op gaan zetten.Ja, en dat vertrouwen, want dat was inderdaad waar ik, waar ik, waar ik mee begon. Dat ze, ze, ze pollen dus de hele tijd.
• 36:46
  Wat is het vertrouwen in die IT-systemen? En dat vertrouwen is dus al sinds het begin consequent hoger dan de politici die op dat moment het land runnen.
• 36:54
  Dus er zijn meer mensen die vertrouwen in dat overheidssysteem, wat je zou kunnen zien als een soort van Big Brother ding, dan de daadwerkelijke mensen die aan de knoppen zitten.
• 37:04
  Nou ja, dat is toch, dat is toch wel grappig. Helemaal in een land waar ze dus zelfs de verkiezingen, uh, online doen. Ook dat weer eens vet jongen. En die ledger van hun zeg maar.
• 37:13
  Dus die database die daar, die draait niet mee als mirror, maar is de waarheid. Ik weet wel van projecten waar er gestemd wordt digitaal als een soort kopie en boven op papieren stemmen, maar dit is hun enige waarheid.
• 37:25
  Ja dus hoe het werkt is je stemt dan, uh, eerst kan je een week lang digitaal stemmen, uhm, dan stopt de digitale stemming en dan is er nog twee dagen stemmen op papier.
• 37:36
  Die stemmen die op papier zijn, die overrule de digitale stemmen als dat zo is. Dus iemand kan zijn digitale stem overrule met, door gewoon met papier te stemmen.
• 37:46
  En er is dus een ledger waarin jouw, uhm, uh, uh, waar een of andere hash gemaakt wordt van jouw, uh, BSN-nummer of in ieder geval het equivalent in Estland. Een hash van je BSN-nummer die, die verdwijnt in die ledger.
• 38:00
  Diezelfde hash is er dan ook van een digitale, uh, stem. En dus in die ledger wordt, cancelen die twee elkaar uit of cancelt een papieren stem de digitale stem uit als die er is.
• 38:14
  Uhm, en de eerste, dus dat is één ding en de eerste dertig seconden nadat je je digitale stem hebt geplaatst. En dan moet je dus een pas met die, met, met zo'n chip erop in je computer duwen.
• 38:25
  Ze hebben dus ook allemaal van die IBM laptops die we in Nederland alleen zien bij, als je bij Shell werkt en zo, maar dat zie je daar dus heel veel.
• 38:32
  Pasjes die in een computer verschijnen, uh, verdwijnen en dan, uh, stem je dus in een of andere Windows app. En dan, of hij is er ook voor de Mac. Maar goed, uh, ze, zij doen echt alles op Windows valt me op.
• 38:45
  Uhm, en dan krijg je een QR-code en die QR-code, de eerste dertig minuten dat je die QR-code scant met je telefoon kan je dan zien: oh, dit is mijn BSN-nummer en dit is mijn stem.
• 38:56
  Die twee datastukjes zijn aan elkaar gekoppeld en dan na dertig seconden of na dertig, uh, minuten, uh, breken ze die twee gegevens delen op.
• 39:05
  Eén gaat naar de ledger, uh, voor zeg maar de, de stembusresultaten en ander gaat naar, uhm, uh, het statistiekbureau om gewoon over langere periode statistieken te maken over hoe mensen in Estland stemmen.
• 39:20
  En die zijn dan niet meer aan elkaar te koppelen. Dus de stem op de partij is niet meer te koppelen aan jouw, uh, aan jouw persoonsgegevens, zeg maar. Uh, en, uh,
• 39:29
  uiteindelijk heb je dan verkiezingsresultaten die voor iedereen te bekijken zijn in een publieke ledger. Ik zit te denken aan, uh, heb ik je die metafoor van de, uhm, weerwolf wel eens verteld? Nee.
• 39:42
  Dat je, dat je, de, die is niet van mij hoor, maar dat is het een beetje het idee dat.
• 39:45
  Ik zit me nu zo voor te stellen dat stel dat, uh, jij en ik zo'n systeem, uh, uh, zouden bouwen als wat jij nu beschrijft, op welke manier dan ook, eigenlijk als overheid. En dan word je eigenlijk,
• 39:56
  uhm, als je het even op Star Wars houdt met de dark side. En, uh, de, is dat de Empire versus, uhm, de, uh, Jedi? Ik weet eigenlijk niet wat is dit slecht van mij, maar goed, de twee kanten. [lacht] De lichte.
• 40:08
  Ik weet er ook geen fuck van Wietse. Ja, de [Ivar lacht] wat slecht is dit? Oké, uhm. Iets met de Empire, ja.
• 40:14
  De mensen die de Force, de mensen die de Force hebben en de mensen die een minder mooie Force hebben, zeg maar.
• 40:20
  Is dat je eigenlijk, je begon het gesprek dat je zei: in Estland gaan ze ervan uit dat de Russen weer komen binnenvallen. Dat is gewoon een gegeven voor hen.
• 40:27
  En die metafoor van, uh, de weerwolf is eigenlijk dat je dus overdag als jij een weerwolf bent, je huis zo inricht dat als je 's nachts een weerwolf wordt, dat je jezelf al in een kooi hebt gestopt. Mhmm.
• 40:39
  Dus dan ga je, als je ziet dat het donker wordt buiten, sluit je jezelf op. Doe je een bakje water.
• 40:43
  Nou, dan breek je 's nachts die hele kooi af en 's ochtends word je wakker in die kooi met je kleren kapot en het bakje water is in, tegen de muur aan gegooid en dan weet je: nou, mijn huis staat er nog, want ik had mezelf netjes opgesloten.
• 40:53
  En het idee van die metafoor is dat je qua, uh, technische systemen als jij een groep, stel dat jij een groep mensen hebt, honderd mensen die bouwen aan dat systeem en alle honderd hebben ze de oorlog meegemaakt.
• 41:03
  Alle honderd zijn ze, uh, het is het cijferfreaks. Die willen het mooiste voor, uh, Estland. Dat je met z'n honderden een systeem bouwt
• 41:11
  wat je eigenlijk zegt dat het moment dat er honderd mensen zijn die het tegenovergestelde willen van dat die honderd mensen in het begin wilden, namelijk de nacht, de weerwolven.
• 41:20
  Dat jij een computersysteem hebt gebouwd dat zo redundant is dat je kan zeggen: oké, we kunnen op een knop drukken om het te wissen, of we kunnen, hè, we kunnen met een knop kunnen we het naar Luxemburg halen, waar we dan met die honderd, uh, overdag mensen naartoe gaan, zodat die honderd weerwolven niks hebben.
• 41:34
  Want dat is wel wat ik me bijvoorbeeld met stemcomputers, uh, waar ik het een en ander over gelezen heb.
• 41:40
  Wat mij toen raakte was heel erg het idee dat die papieren stemmen in die kasten kunnen sowieso door meerdere mensen opnieuw gelezen worden, hè.
• 41:47
  In de tussentijd kan je dan, ja, dan kost best wel veel tijd om dan al die stemmen te gaan vervalsen. Dus het is een soort, er zit een soort traagheid in die materiële wereld versus die digitale. Dat is één.
• 41:58
  En die zijn allemaal gefedereerd in stembureaus door een heel land op papier. Dus je moet ook nog overal naartoe rijden waar camera's hangen om dat te doen.
• 42:05
  Terwijl een digitale ledger, hè, in het geval van een, een blockchain zou je zeggen dat wetenschappelijk, theoretisch gezien kan je het niet aanpassen.
• 42:13
  Dat is nou juist de kracht van zo'n ketting van encryptie aan elkaar, hè. Een, een, een ketting van blokken die met elkaar versleuteld zijn, een blockchain.
• 42:21
  Uhm, maar toch is mijn, is, is mijn, ben ik dan benieuwd of zij, dat is m'n verhaaltje even rond, die dit hebben ontworpen, het hebben ontworpen op een manier dat ze zeggen: stel er zijn straks allemaal andere mensen die deze ze, achter het toetsenbord gaan zitten.
• 42:36
  Wat kunnen die dan? En hoe kunnen we nu al zorgen dat die dan weinig kunnen? JaJa, dat hoop ik dat ze aan de weerwolf denken in Estland. Ja, ja, ik heb het idee dat het zo is, maar. Dat denk ik ook als ik.
• 42:51
  Zie het antwoord hoe ze het hebben ingericht. Dat dat moet ik je, moet ik je voor schuldig blijven.
• 42:55
  Het is in ieder geval wel grappig dat degene die er in Nederland voor heeft gezorgd dat dat we nog steeds met pen en papier stemmen en ik, ik, ik vrijwillig dus vaak in stembureaus.
• 43:04
  Dus ik weet wat de consequentie daarvan is van het tellen van die stemmen. Dat is dus dat je duizenden papieren van A3 groot eerst moet uitvouwen en op stapels leggen.
• 43:15
  Dan leg je ze van die stapels weer op een andere stapel, dan leg je ze weer op een andere stapel en uiteindelijk gaat er dan een elastiek omheen en dan is het 4.00u s nachts en dan zijn je knieën naar de klote omdat je de hele tijd op je knieën hebt gezeten.
• 43:26
  Degene die ervoor heeft gezorgd dat we dat nog steeds doen is Rob Gonggrijp. En het is dus grappig dat ik zou zweren echt. En deze twee kennen elkaar blijkbaar niet.
• 43:36
  Rob Gonggrijp en de Estse Rob Gonggrijp, want er is dus een Rob Gonggrijp van Estland. Die die heeft daar gewoon dit systeem helpen bedenken.
• 43:46
  Terwijl in Nederland heeft Rob Gonggrijp geageerd tegen digitaal stemmen, terwijl ze dus daar hebben bekeken hoe kunnen we dit wel doen? En. Ja, dat is toch ik?
• 43:58
  Ik ben altijd tegen digitaal stemmen geweest door precies wat jij zegt. Het lijkt toch wel alsof ze een systeem hebben bedacht waardoor het wel degelijk kan. En het is bijna. Ik heb wel het idee dat.
• 44:08
  In Nederland is het inmiddels een dogma geworden om. Precies op papier te stemmen. Dan ben ik, als ik dan nog even dan. Wat is het voordeel behalve efficiëntie? Want die moet ik dan even als je efficiëntie zeg maar.
• 44:23
  Of is dit dat? Ja, nou dit zijn Er zijn voordelen, namelijk dat mensen die jonger zijn makkelijker stemmen. Dus op het moment dat je op je computer kan stemmen en binnenkort.
• 44:33
  Of ze willen een tijdje dit ook via de telefoon doen. Dat het dus laagdrempelig is om te stemmen dus dat meer jongeren gaan stemmen. Dat is één. Ja en twee is dat je de resultaten na 2.00u hebt in plaats van
• 44:46
  een week later. Ja, want voor mij. Kan je zeggen ja boeien. Maar persoonlijk denk ik als er als er een informatiesysteem is wat bruut traag mag zijn als dat ervoor zorgt dat het eerlijk blijft, is het.
• 44:57
  Het stemsysteem mag van mij een week duren en dan en dan met allemaal mensen met paard en wagen. Want zo zit ik er dan in omdat ik denk die snelheid dat dat de snelheid heeft niet zoveel voordeel in mijn ogen.
• 45:07
  Behalve het kost minder geld en tijd. Maar de opkomst en het gemak en daarmee dus de representatie aandragen als argument, daar ben ik dan wel weer iets gevoeliger voor.
• 45:20
  Nou, nu gebiedt de eerlijkheid te zeggen dat de opkomst in Estland altijd structureel laag is. Dus ongeveer de helft van de bevolking gaat stemmen. Dus dat is in Nederland veel meer.
• 45:29
  Nederland ligt toch al snel rond de 60%. Dus misschien. Maar ja, god, je weet niet als je digitaal stemmen in Nederland zou doen, hoeveel meer mensen dan zouden gaan stemmen.
• 45:38
  En op zich het idee dat ik geloof wel dat en dat is een aanname dat op het moment dat je de drempel verlaagt om te stemmen, dat dan ook meer mensen gaan stemmen. Maar ja, zeker weten doe ik. Niet.
• 45:52
  Die werkt dan natuurlijk weer op tegen de drempel dat de stemmen niet eerlijk zijn en wat je dan met wetenschap moet gaan bewijzen. Maar dat moeten dan genoeg mensen begrijpen. Want dat is natuurlijk bij hun ook.
• 46:00
  Jij en ik begrijpen dit eigenlijk ook niet, toch? Hoe dat dan zou moeten werken eigenlijk?
• 46:05
  Ik snap wel de stukken die je zou moeten koppelen aan elkaar en wat een ledger is en dat je dat kan encrypten en aan elkaar kan koppelen. Maar een papier snap ik, daar staat iets op, dat kan ik.
• 46:14
  Je kan zelfs zelf meedoen. Dat vind ik helemaal om eerlijk te zijn supergaaf dat je zelf mee kan kijken toch? Ja. Ja, behalve dat niemand dat natuurlijk doet. Dat is de maar het kan. Het kan, dat is waar. Het kan.
• 46:27
  Dat is waar. Wat heb jij deze week gedaan op AI gebied? Nou, ik was. Ik heb hier al een tijdje eerder naar gekeken en dat. Ik weet niet waarom ik dat erbij zeg, want dat doet er helemaal niet toe.
• 46:38
  Maar ik volg het al een tijdje. Dat vind ik dan waarschijnlijk cool als ik dat al een tijdje volg. Dat is een initiatief. Het heet Petals bloemblaadjes zeg maar. En
• 46:48
  dat is eigenlijk ja, ze noemen het zelf een een mix van taalmodellen en BitTorrent. Dat klinkt al goed toch? Gewoon even die samen zeker toch? Gewoon BitTorrent vet en. En voor de luisteraar BitTorrent.
• 47:01
  Dat is niet alleen maar te gebruiken om films illegaal te downloaden, maar je kan er ook bijvoorbeeld.
• 47:05
  Dat is het grote standaard argument altijd maar de nieuwe een nieuwe Linux distributie mee downloaden vanaf meerdere computers tegelijk.
• 47:14
  BitTorrent en een torrent, oftewel een wervelwind van bits waardoor je van iedere computer in de hele wereld in kleine stukjes weer iets in elkaar zet.
• 47:24
  Alsof zo poëtisch ja, alsof al je vrienden één zin van een boek hebben. En dan bel je ze allemaal op en heb je het hele boek weer terug. Ja, kon nog. Kon nog poëtischer.
• 47:33
  En in het geval van als je dat dan combineert met grote taalmodellen, dan krijg je petals. En die zeggen eigenlijk joh, we hebben allemaal niet allemaal.
• 47:45
  Veel van ons in die community hebben een grote GPU in hun machines in en dat kan zitten.
• 47:51
  Dat kan zelfs zijn een Mac machine, want daar zit de GPU en de CPU in één pakketje zeg maar de M1 en de M2 van Apple hebben best wel een bruut stuk GPU erin zitten en de meeste Windows machines hebben dan of een dedicated GPU chip in je laptop erbij zitten, want je bent een gamer of je hebt een dikke kaart gekocht want je moet video bewerken of je bent serieus onderzoeker en je kijkt naar dingen rondom kunstmatige intelligentie.
• 48:14
  Nou, heb het al vaak over gehad. Daar heb je specifieke hardware voor.
• 48:18
  Wat ze eigenlijk bij Petals zeggen is zullen we die nou gewoon allemaal op één hoop gooien met elkaar als een community, zodat we elkaars hardware kunnen gebruiken? En in essentie heel concreet is het dus zo
• 48:30
  als voorbeeld OpenAI heeft Whisper. Whisper is eenSpeech to tekst model taalmodel. Die hebben ze geopend source. Een van de weinige dingen die OpenAI daadwerkelijk op GitHub heeft gezet. Wat kan je daar dan?
• 48:44
  Ja sorry, daar kan je. En anders moet je jezelf niet open noemen. Dan vraag je erom, hè? [lacht] Als jij mister nice guy heet en je scheldt iedereen de hele dag verrot, dan heb je een slechte naam. Die.
• 48:55
  Heeft Elon bedacht. Elon Musk heeft de naam bedacht. Dat is ook niet de schuld van de huidige bewindvoerders. Precies. Maar met Whisper mp3'tje met tekst erin.
• 49:04
  Aan de andere kant een tekstfile met die tekst in de taal waarin de tekst gesproken is. Dat is fantastisch dat ze dat doen. Dat kan jij thuis draaien op een redelijk beefy machine.
• 49:14
  Heel concreet heb je daar vandaag de dag ongeveer acht gigabyte videogeheugen voor nodig. Dus dat is eigenlijk het intern geheugen op je videokaart. Verwar het niet met het intern geheugen van je computer.
• 49:24
  En zo'n acht gigabyte videokaart voor in jouw eigen computer of een recente Mac. Daar betaal je een X bedrag voor.
• 49:33
  Nou kan je dat leuk thuis doen, maar wat nou als jij een model wil draaien wat twintig gigabyte inneemt of veertig, of vijftig, of zestig? Misschien wel iets ter krachtig van GPT 3.5.
• 49:43
  Want je wil niet een tekst of speech naar tekst, maar je wil een soort fake intelligentie taal ding waar we nu al de hele week over praten, namelijk chatbots.
• 49:53
  Nou, als je dat dan wil draaien dan kan je eigenlijk petals gebruiken om in die. Ja, dat is. Dit komt iets dichter bij een cloud computer dan de meeste partijen die zeggen dat ze een cloud computer hebben.
• 50:04
  Want het is eigenlijk een combinatie van alle mensen die meedoen in die zwerm van petals die hun eigen GPU's, dan al niet Apple processoren, beschikbaar stellen om met elkaar als een soort,
• 50:17
  ja, publiek goed als het ware daar berekeningen op te doen. Het is een soort, ja, gedeelde supercomputer van mensen die meedoen aan dat project en ik voel wel een beetje aan.
• 50:31
  Vaak volg je dan iets en op een gegeven moment ga je een beetje kijken van is het de eerste hype voorbij? Want de eerste drie weken wil iedereen meedoen en dan zakt zoiets weer in. Dit, dit groeit wel, dit gaat goed.
• 50:41
  Er wordt veel aan ontwikkeld en ik vind het een mooi, een mooi initiatief om te zorgen dat het niet bij vijf hele grote partijen blijft. Al die processor kracht.
• 50:52
  Ja, maar is er, is er dan wel een soort van transactie op de achterkant? Er is nog iemand die moet betalen voor die videokaart, dus hoe verdient die dan zijn geld weer terug?
• 51:01
  Dit is allemaal net als hoe dat destijds ging met de Dutch Power cows op Tweakers. Voor de mensen die luisteren Dutch Power cows was proteïne folding met z'n allen. En je hebt, je hebt.
• 51:11
  Toen, daar had je ranglijsten, dus dan deed je het puur voor de fame. Ik, ik, ik ga ervan uit dat het hier. Er zit geen,
• 51:19
  hoe zeg je dat, incentive model achter met een blockchain waar je dan weer tokens kan verdienen of zo. Die bestaan ook, maar die heb ik dan weer even expres niet gelinkt omdat ik dan deze gaver vind.
• 51:29
  Hier gaat het echt op een soort van: ik geef het, want ik wil zelf ook mee kunnen doen, achtig ding. Maar als ik het goed begrijp kun je dus.
• 51:36
  Je hebt dus allerlei hele zware videokaarten waarbij die van Nvidia het gaafst zijn omdat ze de grootste capaciteit hebben, dus je de grootste modellen ermee kan trainen. Als ik het goed begrijp is dit dan eerder.
• 51:50
  Het is niet zo'n hele dure kaart zoals die, maar het is gewoon wat jij en ik in onze laptops hebben zitten en die bij elkaar allemaal opgeteld leveren dan alsnog veel computerkracht op. Begrijp ik dat goed?
• 52:01
  Je zegt het helemaal goed en ik heb ook antwoord op jouw vraag, want we zitten voor de verandering remote op te nemen nu voor de luisteraars.
• 52:07
  Normaal zit ik tegenover Alexander, nu zie ik hem op het scherm, maar ik kan daar. Dan hebben we een chat. Jee! En er is dus een health monitor voor petals.
• 52:15
  En daarop, dat is wat in hun GitHub omschreven staat van: joh, doe je mee en help je ons? Zet je naam erin, want dan kom je op onze ranglijst.
• 52:24
  Dit lijkt eigenlijk wel heel erg op de Dutch Power cows waar ik het in eerste instantie over had.
• 52:29
  Dutch Power Cows was trouwens niet het initiatief, maar de grootste groep vanuit Nederland, de Dutch Power Cows, die meededen aan, aan dat project. Moet ik even erbij pakken wat het was, want dat is wel eventjes netjes.
• 52:41
  De Dutch Power cows. Die deden aan van alles mee. Rosetta at home dus dat ging over signalen zoeken in het universum. Allerlei leuke, gave grote data dingen.
• 52:55
  En dan een beetje die Wikipedia vibes, weet je wel van waarom bestaat Wikipedia? Dat. Maar ik zal het even uitleggen voor de mensen, want je hebt echt de meest vage beschrijving ooit gegeven. Sorry.
• 53:05
  Het waren dus grote hoeveelheden data. Bijvoorbeeld signalen verzameld door satellieten die de, de, in de ruimte, naar de ruimte gericht stonden. En er gingen mensen op zoek naar patronen in de chaos.
• 53:19
  Normaal gesproken heb je daar hele grote computers voor nodig en hier waren er dus concurrerende teams van nerds. Want laten we wel wezen, geen normaal mens doet dit.
• 53:27
  Die een programmaatje op de achtergrond van de computer hebben draaien die dan een deeltje van die hele grote dataset ging proberen te verwerken op je eigen computer.
• 53:34
  En dan deed je samen een team, deed je een groter deeltje. En als jouw team dan dingen had gevonden die significant waren, dan was jij gaaf. Ja, en ik, ik ben het.
• 53:43
  Ik ben nog even aan het checken, maar het merendeel ging wel over folding. Dus het vouwen van proteïne. Ja, en daar waren wij, zeg ik even wij, want ik ben geboren in Nederland, als Dutch Power cows vrij groot in.
• 53:55
  Het is wel grappig, want die tijden zijn wel een beetje veranderd merk ik bij mezelf. Kijk, toen had je ook gewoon foto's van mensen die.
• 54:04
  Kijk, als jij natuurlijk werkt bij een IT partij of een universiteit en er worden servers weggedaan, want die worden afgeschreven na drie, vijf, acht jaar en die mocht je dan mee naar huis nemen en dan ging je een rek in je in je kelder maken.
• 54:15
  Is dit zo? Ja, dan had je van die. Had je mensen die heel trots gingen posten van: ja, kijk dan, ik heb dit, dit cluster thuis draaien. Maar dat gaat natuurlijk wel een beetje uit van één lage energiekosten.
• 54:28
  [lacht] Want uiteindelijk je geeft niet alleen maar je tijd, maar je geeft letterlijk je kilowatt dan aan, in dit geval proteïne folding.
• 54:36
  Dus dan zou je nog kunnen zeggen: joh, het idee ervan is dat we meer met medisch het een en ander kunnen daarmee.
• 54:43
  Dus dan lever jij je persoonlijke kilowatts in voor the greater good als het gaat om lichamelijke gezondheid.
• 54:49
  Maar dat waren.Eh, ja, het was wel een beetje je, zeg maar, met een hele dikke auto op video gaan lekker roken, die één op drie rijdt om te laten zien dat hij veel herrie maakt.
• 54:59
  In deze tijd is dat misschien, uh, iets minder handig of zo. Maar hoe makkelijk is het nu om, uhm, om, om rekenkracht te kopen?
• 55:06
  Want ik heb, ik, ik zat een stuk te lezen van, uhm, twee investeerders die in AI-bedrijven investeren en die hebben gewoon een eigen supercluster gebouwd.
• 55:15
  Dus die zijn gewoon duizenden Nvidia H100's gaan kopen om, uh, om, uh, om rekenkracht in te, re-rekenkracht in te kopen.
• 55:24
  En dan is dus het voordeel van investeringen van deze VC aannemen dat je er rekenkracht bij cadeau krijgt, zullen we maar zeggen.
• 55:31
  Er zijn-- ik las ook dat, uh, er waren allerlei videokaarten van Nvidia die Nvidia vorig jaar nog heeft afgeschreven. Uh, die lagen in magazijnen weg te rotten omdat niemand ze wilde hebben.
• 55:42
  En toen opeens kwam dus deze hele AI-hype en opeens konden ze een paar weken geleden de prijzen verhogen met 20% omdat er opeens weer zoveel vraag naar is. Ja.
• 55:52
  En dat in feite ieder cloudcentrum waar je rekenkracht wil kopen nu, uh, om een model te, te trainen, als je dus je eigen model wil trainen, dat dat al volgeboekt zit de komende jaren.
• 56:04
  Dus dat het heel moeilijk is om daar, om daar tussen te komen. Hoe, hoe doe je dat nu als je een bedrijf, uh, hebt? Dat vind ik een mooie en het is bijna eng, want alsof je mijn lijstje hebt gelezen.
• 56:13
  Want mijn volgende link was, die ik nu in de chat heb gezet, dat gaat over training a cluster as a service by Hugging Face.
• 56:20
  Uhm, even voor, voor de, ja, voor de helderheid: je hebt dus het trainen van modellen en het resultaat ervan is dan een model. Bijvoorbeeld Whisper, hè, dat model kan je dan thuis draaien.
• 56:32
  Je hebt het trainen en het daadwerkelijk draaien noem ik het maar even. Hè, het mooie, het mooie daarvan is dat je eenmalig dan, niet eenmalig, maar een keer een heel groot, uh, model traint.
• 56:45
  Wat je dan ook vervolgens op een veel kleiner stuk hardware, want je traint dat op een supercomputer en daarna kan je het op één grafische kaart uitvoeren. Uh, dus je hebt- Ja, grappig.
• 56:54
  En in, maar in beide gevallen worden er kilowatts verstookt. Je gaat kilowatts verstoken tijdens het trainen en daarna ga je kilowatts verstoken tijdens het in gebruik nemen van en gebruiken van dat getrainde model.
• 57:04
  Dus dat zijn twee dingen eigenlijk. Ja. Nou nu, wat ik je nu heb gelinkt is en dat vond ik zelf fascinerend, want dat had ik eigenlijk nog niet helemaal zo concreet gezien.
• 57:12
  Hugging Face hebben we het wel eens eerder over gehad. De GitHub voor AI, zullen we het maar even zo noemen, waarop allemaal modellen staan, uh, uh, die je zelf kan, uh, gebruiken.
• 57:22
  Moet je altijd even goed letten op de licentie die erbij zit, maar je kunt ze in ieder geval testen. Uh, die hebben, bieden nu aan training clusters, clusters as a service.
• 57:29
  Dus stel dat jij een model wil trainen op hele specifieke data, hè. Je hebt bijvoorbeeld, uh, allemaal oudere Nederlandse geschiedenisboeken en je zegt: ik wil eigenlijk een taalmodel maken op oud, uh, Nederlands.
• 57:39
  Dan zou je dat doen door zo'n cluster te huren.
• 57:42
  En dan zeg ik hier, hè, met mijn lekenverstand zeg ik: ik wil een 30 miljoen, 30 miljard parameter multimodaal, en nu zeg ik het allemaal of ik dit allemaal weet, hè, dat weet ik helemaal niet, model.
• 57:54
  Zes, doe maar 6 miljard tokens met 500 accelerators. Ik ga ervan uit dat die hoe meer- Het klinkt alsof dit dus iets te maken heeft met de grootte van de trainingsset.
• 58:03
  Dus bijvoorbeeld jij bent een advocatenkantoor en je wil gaan trainen op alle ju-, alle juridische documenten die jij ooit hebt geproduceerd.
• 58:10
  Dan gooi je die hele drive wordt een, wordt een, een, wordt de basis om een model op te trainen die dan uiteindelijk in jouw stijl nieuwe contracten gaat maken.
• 58:19
  Dat heet, dat, dat is die, die, het aantal tokens, dus het, het aantal letters in feite die in de contracten staan, staan in verhouding tot het aantal tokens. Ja, het is en- Te gebruiken. Ja, precies.
• 58:28
  Dus de tokens is inderdaad ook als jij bijvoorbeeld praat met, uh, ChatGPT, dan heb je ook een token limit en dat is eigenlijk hoeveel je erin mag gooien.
• 58:36
  Een token is bijna een woord, maar niet helemaal, dus daarom noemen ze het niet words, maar tokens. Maar dat, dat, dat is, uh, hoe zeg je dat? O, ja. Dat is verbonden aan het aantal woorden, maar dat, niet helemaal.
• 58:47
  Uhm, het, en het aantal parameters, daarvoor, uh, moet je, a-, uh, kunstmatige intelligentie gestudeerd hebben of meer weten over hoe AI werkt. En dat weet jij en ik niet helemaal.
• 58:56
  Misschien moeten we ons er eens wat meer in verdiepen, maar ik weet wel dat hoe meer parameters, ook niet helemaal waar, maar dan he-, dan wordt het een groter model en daarmee een slimmer model.
• 59:05
  Maar groter is niet altijd beter. Dus een beetje gevaarlijk wat ik nu zeg, want je kan ook, je hebt ook hele sterke kleine modellen die heel erg goed gefinetuned zijn achteraf bijvoorbeeld. Ja.
• 59:13
  En je hebt weer hele grote modellen die heel erg dom zijn.
• 59:16
  Maar als we hier met 30 miljard parameters multimodaal model met 600 miljard tokens gaan trainen met 500 accelerators en ik zie als ik, als ik, als ik die accelerators verhoog naar 1.000 of naar 500, dan gaat het sneller.
• 59:30
  Dan zouden we 16 dagen op 500 accelerators voor $358.000, uh, [gelach] zouden wij ons model hebben getraind.
• 59:38
  Om even aan te geven over wat voor orde van groot-- en dan hebben we een model wat we daarna nog moeten gaan draaien op ons GPU-cluster om het uit te voeren, wat veel kleiner kan zijn. Ja.
• 59:48
  En, uh, het is wel interessant want ik kreeg hier een vraag over. Een luisteraar, uh, die zei: hoe zit het eigenlijk met al die kilowatts? Hoe zit het eigenlijk met de footprint van die grote, uh, AI-modellen?
• 1:00:00
  En tre-, en dat was niet eens het onderscheid tussen trainen en uitvoeren. Daarom maak ik dat onderscheid alvast even.
• 1:00:05
  En ik ben het een beetje gaan uitzoeken, want ik had al gezien op, uhm, Hugging Face, uh, waar we het nu ook over hebben, dat zij, dat sommige partijen, waaronder Meta en nog een aantal, bij de, de, uh, omschrijving van hun getrainde modellen er ook bij zetten hoeveel kilowatt het gekost heeft om het te trainen en wat de bron van die kilowatts waren, hè.
• 1:00:27
  Als een soort energielabel.
• 1:00:28
  Ja, het is, en Meta zet er dan, en Meta zet er dan, uh, bij, uh, want ze, want het is natuurlijk ook wel een beetje dat de enige die het erbij zetten zijn natuurlijk de partijen die trots zijn op het feit dat ze het getraind hebben met, in hun, met hun woorden groene energie.
• 1:00:42
  Dus hier staat bijvoorbeeld een kopje carbon footprint, hè, dit staat bij een van hun grotere taalmodellen. Uhm, uh, 3.3 miljoen GPU hours.
• 1:00:52
  Nou, dat staat er bij een H100, hè, dat is de kaart op dit moment, de goudstaaf van Nvidia, TDP dus, uh, thermalDissipation weet ik niet zo goed, maar in ieder geval 350 tot 400 watt trekt zo'n kaart als die onder load zit.
• 1:01:06
  En dan 300, 539 is dat ton? Nou ja, een hoop. En dan staat erbij 100% offset bij Meta Sustainability Program. Uhm. O ja, grappig ja. En dan, en dan zijn ze daar trots op.
• 1:01:21
  Maar daar heb je in ieder geval een beetje een idee. Want ik wat jammer vind nu van deze pagina van trainingen clusters service. Niet alleen, zet dan niet alleen die $ 358.000 daar neer, maar ook die kilowatts eronder.
• 1:01:32
  En dan misschien kan je zelfs nog een source kiezen. Ik noem maar wat, want ik denk wel dat, uhm, dat is een beetje hoe ik er dan in sta. Uh, kan je ook een beetje koppelen.
• 1:01:42
  Je bedoelt een source voor energie, bedoel jij? Ja, want nu zeg ik eigenlijk, uh, ik wil een cluster trainen. Ik zet een paar knopjes aan en uit en aan onder, onderaan de streep staat daar een getal $ 358.768.
• 1:01:56
  Compute plus service. Ik ga ervan uit dat er nog een beetje geholpen wordt in een paar uurtjes. Het liefst wat ik hier ook bij zou zien is wat dat dan kost in energie, want dat zit erin verpakt.
• 1:02:05
  Je gaat een significante hoeveelheid energie verstoken. Dan wil je ook kunnen kiezen waar dat vandaan komt.
• 1:02:11
  Ja, en mijn punt was een beetje, uh, toen ik daar wat meer over nadacht, dat ik dacht: hmm, weet je, het lijkt ook een beetje op het cryptomining, uh, uh, verhaal, hè.
• 1:02:21
  Daar zit een enorme carbon footprint aan Bitcoin en dat, dat heeft, nou, daar zijn de meningen over verdeeld. We moeten nog maar zien hoeveel waarde dat heeft.
• 1:02:28
  Volgens sommige mensen vandaag de dag al, volgens sommige mensen voor de toekomst, voor sommige mensen nooit.
• 1:02:33
  Uh, uh, je mag zelf kijken in welk team je zit, maar het komt er wel op neer dat we daar wel wat energie aan het wegblazen zijn. Uhm. Ja.
• 1:02:41
  In dit geval zou je natuurlijk kunnen zeggen, dat is een beetje mijn, uh, ja, hoe zeg je dat, uh, uh, manier om die discussie helder te krijgen.
• 1:02:49
  Als het een cluster is die aan het trainen is om, uh, kernfusie mogelijk te maken, dan ben je natuurlijk eigenlijk die kilowatts aan het gebruiken om te zorgen dat je minder kilowatts nodig hebt in de toekomst, hè, dus dan, dus dan heb je eigenlijk, daar zou niemand tegen moeten zijn bijna in mijn ogen.
• 1:03:05
  Want als je, als jij met tien kilowatt kan zorgen dat je straks 20 miljard kilowatt niet hoeft te gebruiken, dan is die trade off gewoon fantastisch.
• 1:03:12
  Als je zou weten dat je zeker weten iets uitvindt waardoor je die kernfusie kan maken.
• 1:03:16
  En hierbij denk ik dat stap één in ieder geval zou zijn om wat Meta nu al een beetje doet, hè, omdat ze zo mooi al die energie certificaten hebben ingekocht. Waarschijnlijk willen ze die ook kunnen laten zien.
• 1:03:26
  Ik ben even cynisch, maar ik snap dat wel, uh, dat we de kosten ook weergeven, in ieder geval in kilowatt, zodat je een beetje een footprint idee hebt.
• 1:03:35
  Want, uh, het is, het is niet iets kleins in het geval van, uh, kunstmatige intelligentie. Die twee zijn wel een beetje met elkaar verweven. Dat energieverbruik en modellen trainen en uitvoeren.
• 1:03:48
  Zijn het nou allemaal open source modellen die je op Hugging Face kan gebruiken?
• 1:03:52
  Of zijn er dan ook, uh, zijn er, zijn, zijn het ook proprietary dingen die je alleen maar mag proberen en dan als je er echt serieus dingen mee wil doen, dan moet je ervoor betalen zoals bij OpenAI.
• 1:04:01
  Ja, ik maakte net al een beetje die asterisk, uh, of die voegde ik al toe.
• 1:04:06
  Waar ik achter kwam is, en daar ben ik, uh, ik was met Whisper bezig en toen zei iemand tegen mij: heb je wel gecheckt eigenlijk of je dan Whisper ook wel commercieel mag inzetten? Want dat is iets van OpenAI.
• 1:04:16
  En mijn grapje heb ik al eerder gemaakt, maar je weet nooit hoe open het is. Nou, in het geval van Whisper zit daar best wel een, een brede license op. Maar Meta bijvoorbeeld, die ook heel veel uitbrengt.
• 1:04:26
  Al die lama's en alpaca's, die komen allemaal bij Meta vandaan. Daar, uh, is wat ge-, gesteggel rond geweest, want ze waren er heel erg vaag over.
• 1:04:34
  Nu zijn ze er iets, uh, duidelijk in geworden, maar het is niet een: joh, zie maar wat je ermee doet license.
• 1:04:42
  Kijk, als jij, als jij natuurlijk het werk van Meta, open source werk van Meta pakt, dat hernoemt en dan aanbiedt één op één als commerciële dienst op het internet. Ah, oké.
• 1:04:50
  Dat is, hè, dat is een beetje die open source achtige ethos. Dat zit er een beetje achter. Uh. Dat willen ze niet.
• 1:04:56
  Nee, maar het is wel, dat was een beetje mijn naïviteit, uhm, want ik heb ook wat mensen om me heen naar dingen toegewezen op Hugging Face en daar zeiden zij toen later van: joh, kijk, als je een GitHub repository met iemand deelt met code erin en je zegt: kijk, een gave
• 1:05:10
  plug-in voor Chrome waardoor je x of y kan.
• 1:05:13
  En, uh, dan, dan zit daar vaak een license bij, hè, een, een open source license, MIT of een GPL waar dan in staat van: joh, je mag het best gebruiken, maar je mag het niet anders noemen bijvoorbeeld.
• 1:05:24
  Of je moet altijd laten weten dat je ons was, uh, dat je ons gebruikt. Ja. Of als je er iets aan verandert, moet je teruggeven. Heb je allemaal regels. In die AI modellen wereld is dat nog een beetje aan het ontstaan.
• 1:05:35
  Zijn we nog een beetje aan het zoeken hoe dat eigenlijk werkt en wat is train-- want je hebt bijvoorbeeld nu ook, wat heel veel gebeurt, is, uhm, je hebt een model, uh, zeggen we dat we even heel veel parameters pakken waar heel veel tokens in kunnen, dus dat is lekker groot, maar die willen we dan eigenlijk nog finetunen, hè.
• 1:05:51
  Een van de trucs die OpenAI doet waardoor GPT-4 zo krachtig is en indrukwekkend, is omdat daar heel veel alignment gedaan is. Hebben we het eerder al eens over gehad, hè.
• 1:05:59
  Die, die antwoorden worden getoond aan mensen en die klikken dan: ja, goed, nee, niet goed. Wel goed, ja, niet goed. En dan, ma-maak je hem eigenlijk, nadat het model al getraind is, ga je hem daarna nog even finetunen.
• 1:06:10
  Letterlijk. Je gaat hem, uh, schaven. Wat nu gebeurt is dat. Heel veel mensen in Nigeria in, in sweatshops. Reken erop dat dat mensen zijn. Krijgen allerlei. Precies.
• 1:06:19
  Die niet met een, uh, goede arbeidsvoorwaarden dat doen, uh, met een, met een mooie lamp en goede koffie zeker niet. Een soort van hele enorm digitale sweatshops. Precies.
• 1:06:27
  Die zijn keuzes voorgelegd krijgen over wat is, uh, als, als, als dit de input is, is het dan, dus bijvoorbeeld, uh, weet ik veel. Schrijf een gedicht en dan komen er twee voorbeelden van een gedicht.
• 1:06:37
  Welk gedicht is beter? En dan moeten die mensen kiezen welke beter is. En dat is dan weer een heel klein beetje extra informatie voor dat model om te, om te begrijpen wat mensen goed vinden. Ja.
• 1:06:46
  En zo is dat model ge-, uh, gefinetuned. Precies. En de, uh, reactie vanuit partijen als een OpenAI of Meta of noem ze allemaal maar op zou zijn: dat hoeft gelukkig dan maar één keer.
• 1:06:58
  Als we eenmaal dat gevangen hebben, dieMenselijke intelligentie. Dus we, dat is, dat is een heel eng argument, want de geschiedenis zit vol met: als we nu even door het moeilijke bos lopen, daarachter schijnt de zon.
• 1:07:10
  En wat er allemaal in het bos gebeurt geeft dan niet zo heel erg. Het is een heel gevaarlijke logica. Maar wat is er nu gebeurd, is dat bijvoorbeeld, dat is niet, dat weet ik niet, maar ik noem het even als voorbeeld.
• 1:07:21
  Je hebt Claude, uh, de, een van de GPT, uh, grote taalmodellen, concurrenten van OpenAI vanuit Entropic heten hun volgens mij.
• 1:07:31
  Wat die zouden kunnen doen, dat weet ik niet zeker, maar ik weet dat andere partijen het wel doen, is zeggen: we trainen een model en daarna gebruiken we GPT-4 van OpenAI om hem te finetunen. [lacht] O, ja.
• 1:07:44
  Ik weet, ik bedoel, ik weet niet dat zij dat doen, maar ik weet wel dat het heel erg gebeurt met open source modellen. En dan krijg je dus: jullie mochten ons open source model niet gebruiken.
• 1:07:53
  En dan zeg jij: maar dat doe ik ook niet. Ga dan maar eens bewijzen dat jouw model gefinetuned is door hun model. Nou ja. Ja. Dit soort gekkigheid.
• 1:08:01
  Maar toch, want er zijn dus allerlei, uh, modellen die met elkaar, uh, concurreren, uhm, om de grootste hoeveelheden developers aan zich te, te binden die ermee gaan werken. Of, uh, uhm, ja, wat kun je nog meer?
• 1:08:16
  Zorgen dat zoveel mogelijk mensen het gaan gebruiken waardoor je meer API calls kan verwerken waar je betaald voor krijgt. Dan heb je een aantal grote bedrijven die met elkaar concurreren.
• 1:08:25
  Facebook kiest er nadrukkelijk voor om het model te open sourcen, dus eigenlijk het aan de gemeenschap te geven.
• 1:08:31
  En dat als jij nu een bedrijf begint, dan kun je daadwerkelijk, uhm, Llama in je app gebruiken waardoor je, uh, waardoor je een eigen, ja, model verder kan finetunen op een manier zoals je dat zelf wil. Uhm,
• 1:08:45
  waarom denk je dat, dat, dat Facebook er nu voor kiest om dat te open sourcen in plaats van de strategie van Microsoft en van Google te volgen?
• 1:08:53
  Ik denk, en dat zou in essentie zou de Microsoft en Google dat ook kunnen doen. Maar dan maakt Meta allemaal, uh, hoe zeg je dat, uh, uh, gokken, uh, inleven, fantaseren, wat ik nu doe. Ik kan me voorstellen dat
• 1:09:09
  de moat, zoals we dat in VC-wereld noemen, dus eigenlijk wat, dat wij, als jij een bedrijf, uh, gaat, gaat investeren, dan wil je eigenlijk zien van: wat is jullie moat?
• 1:09:17
  Want als je alleen maar een UI bent over OpenAI heen, dan kan OpenAI jou heel makkelijk Sherlocken. Ik ga veel aan dingen aanhalen uit eerdere afleveringen om, om te checken of iedereen ons allemaal luistert.
• 1:09:28
  Het is een soort, ik creëer een soort thought chain, niet een blockchain van. [lacht] Dus je kan het alleen maar blijven luisteren als je het allemaal opstapelt in je hoofd. Maar goed, uh.
• 1:09:37
  Is je moat groot genoeg om niet gesherlockt te worden, ja. Jij hard. Heel mooi.
• 1:09:41
  [lacht] Uhm, nu is het zo dat ik denk dat voor Facebook slash Meta om die modellen te open sourcen, dat zij gezien hebben, want Facebook heeft wel heel erg een open source verleden.
• 1:09:52
  Ik, er zullen veel mensen zijn die luisteren, die denken: boe, Facebook, bababa. Maar ik bedoel met React en ik kan een lijstje afgaan aan dingen die zij aan de, aan de wereld geschonken hebben.
• 1:10:02
  Uh, uh, ze hebben best wel mooie dingen gedaan op het gebied van open source, ook.
• 1:10:06
  Uh, maar kijk, al die dingen die zij de wereld ingooien, die krijgen ze daarna weer terug, hè, even in een gek beeld, twee weken later, beter.
• 1:10:14
  Het is alsof ze een auto maken vanuit de Volkswagengroep die vervolgens de wereld ingaat en dan krijgen ze hem terug geüpgraded, gratis door de community en die kunnen ze dan weer intern gebruiken.
• 1:10:24
  Dus, uh, de vraag is dan: als de modellen die Facebook naar buiten gooit niet hun moat zijn, hè, dus niet de IP, niet de waarde hebben, dan is het waarschijnlijk de data die Facebook hee-heeft, dat denk ik, waardoor voor Facebook om een Llama te releasen, hè, een large language model, uh, Llama, die vervolgens twee maanden later weer binnen komt lopen bij hun, drie keer geüpgraded, gratis door de open source community en die ze daarna kunnen gaan toepassen op hun dataset waar de open source community niet bij kan.
• 1:10:54
  Ja, ja. Ik denk dat het best wel een goede deal is voor hen.
• 1:10:57
  En ook omdat ze niet first mover waren, hè, want OpenAI, uh, en eigenlijk Google, die had het op de plank liggen, is het denk ik wel als je die, als je dat een beetje afweegt van: oké, we zijn niet de eerste, dus we moeten iets bieden waardoor we s-ze kunnen inhalen of bij kunnen benen.
• 1:11:12
  En we hebben eigenlijk dat model niet nodig, want we hebben de data en daar kan niemand bij.
• 1:11:18
  Het zou bijvoorbeeld voor een partij als, uh, Google met hun YouTube waar we het de vorige keer ook over hebben gehad of Twitter met hun, uh, uh, tweets realtime.
• 1:11:27
  Zij zouden prima hun modellen kunnen open sourcen, want zolang je geen toegang krijgt tot die firehose van Twitter met recente tweets of in het geval van YouTube de recente video's en het hele archief, denk ik dat je model zelf niet jouw, uh, intellectual property hoeft te zijn.
• 1:11:43
  I-- gekeken vanuit een puur, ja, kapitalistische mindset van: wat is waarde en wat kunnen we, waar kunnen we waarde uit halen, zeg maar.
• 1:11:50
  Het is zo moeilijk om je, om het in het Engels te zeggen: to, to wrap your head around de soort van strategische keuzes die nu op dat niveau worden, worden gemaakt met de hoeveelheden geld en dus ook CO₂.
• 1:12:02
  Want het is in dit geval redelijk, uh, ja, met elkaar, uh, dat loopt eigenlijk met elkaar op, zeg maar. De hoeveelheid wat het kost om een model te trainen, omdat het voor grootste deel energiekosten zijn.
• 1:12:14
  De, de miljarden die nu worden uitgegeven aan het trainen van die modellen en dus de onderliggende keuzes over hoe je zo'n model, uh, released en welk, welk doel je daar dan in, uiteindelijk mee hebt.
• 1:12:25
  Ik weet niet, het, het laat mijn hoofd toch wel een beetje spinnen.
• 1:12:27
  Als je zo le-- net, net opleest wat het kost om even een clustertje op, uh, Hugging Face aan te zetten, wetende dat, zoals het OpenAI kreeg eerst een investering van een miljard van Microsoft en toen was het geld op en toen, uh, waren ze, toen waren ze in paniek en toen, uh, hebben ze met na, na wat kleinere investeringen uiteindelijk nog een keer 10 miljard opgehaald.
• 1:12:48
  Mijn dollar. Maar god, miljardje meer of minder, wat maakt het ook uit? Wat maakt het ook uit, ja.
• 1:12:52
  Het gaat gewoon allemaal op aan compute power en het feit dat Amazon dit waarschijnlijk ook aan het doen is en dat Google dit ook doet en dat Facebook dit dus ook doet. Ja, het is gewoon, ik weet niet.
• 1:13:07
  Ik weet het, ikZo moeilijk om voor te stellen.
• 1:13:10
  En als je hem nu, als je het cirkeltje dan rond maakt met petals waar we net over hadden, met die BitTorrent for language models, is het natuurlijk hilarisch als, uh, mensen Llama gaan downloaden van Meta, dan met petals allemaal gaan distributed retrainen en dan gaat, dan gaat Facebook zelf naar die pagina toe, downloadt weer dat ding en gaat hem intern toepassen.
• 1:13:32
  Dus op die manier hebben ze eigenlijk over onze rug met onze kilowatts die we allemaal samen in hoop en hoop en ooit hebben hun model verbeterd. [lacht] Ja. Kan Mark Zuckerberg weer een extra huis kopen.
• 1:13:42
  Het scheelt ze wel carbon credits inkopen, want die leggen ze gewoon bij ons. Ik, uh, vraag me af wat de Estse overheid ermee zou doen. Misschien een, uh, Llama gebruiken om dan een, uh, een chatbot te maken. Die, uh,
• 1:13:59
  die, uh, die waardoor je kan zeggen dat je dood bent gegaan en dan dat de Xroad automatisch, uh, die data verwerkt bij de belangrijkste instanties. En dan hopen dat het klopt, zeg maar.
• 1:14:13
  [lacht] Het nieuws over mijn dood is grotendeels overtre-, overgebracht, toch? Dat was hem. Maar, en ik zit nog te denken dat, ik heb ooit gezien, uh, ik heb dat nooit
• 1:14:23
  behalve op een plaatje in het echt gezien, maar het is zo'n logische stap.
• 1:14:26
  Dat waren, in de datacenters heb je allemaal maten, net als met containers heb je allemaal van die, uh, ISO-gecertificeerde maten, zodat alles- Standaardmaten. Ja, standaardmaten. M-hm.
• 1:14:36
  En, uh, zo heb je in die, heb je in een rack, in een rack heb je 1U, 2U, uh, noem maar op en dat is, een 1U is eigenlijk als iemand wel eens in audio gewerkt heeft zit dat, die werken ook vaak met racks in van die, uh, flight cases.
• 1:14:48
  Het zijn van die grote zwarte dozen die op het podium staan met wieltjes eronder en daar zit allemaal apparatuur in die voldoen ook aan diezelfde standaard. Uhm, 1U is, is echt, uhm, niet zo hoog.
• 1:14:59
  Dat is echt een pizzadoos. Platgeslagen computer wordt ook vaak pizzadoos genoemd door de mensen die in die industrie werken. Die gaan dan weer even een paar pizzadozen in het sch-, in het rack schuiven.
• 1:15:08
  Nou, dat, dat, uhm, dat waren vroeger meer mensen dan tegenwoordig, want ik heb dat ook nog gedaan. Lang, lang geleden. Ik ben ook al oud, maar tegenwoordig is het allemaal weg geabstraheerd achter API-calls en.
• 1:15:19
  Maar er is uiteindelijk iemand die ergens weer iets gaat ophangen. Misschien is het tegenwoordig een model. Ja, zeker.
• 1:15:23
  Maar er zijn gewoon blazende, dat is ook, uh, als we hem nog even koppelen aan, uh, het kilowatt verhaal.
• 1:15:31
  Je, als je za-, zou gaan luisteren wat zo'n Nvidia cluster doet als daar een model op getraind wordt, dat is gewoon een schreeuwend warme bom is dat gewoon. Rawr. Echt heftig. Wat wou jij zeggen?
• 1:15:43
  Want je bent ook in datacenters geweest denk ik. Ja, ja, nee, ik, ik, ik knik alleen maar. Jouw zo van: zeker, het is heftig.
• 1:15:49
  Ja, nee, want ik, en ik zat te denken dat, uh, wat ik toen heb gezien, dat was eigenlijk een, uh, nou stel je do-voor een pizzadoos en die kunnen heel, uh, diep zijn. Dus leg even drie pizzadozen achter elkaar. Of 2,5.
• 1:16:00
  Heb je ongeveer een server. Die heb je ook weer allemaal maten in. Maar een beetje gemiddeld server is zo 2,5 pizzadozen naar achter en de hoogte is een pizzadoos.
• 1:16:06
  En die schuif je dan op elkaar op een stapel in zo'n rack en dan weer racks naast elkaar en dan weer verdiepingen. Je ziet het wel voor je hoe dat blijft stapelen. Uhm, [slikt]
• 1:16:15
  dit was een partij en die zei: "Zullen we die gewoon aan je muur hangen thuis? Draai gewoon die 2,5 pizzadozen op zijn zij, schroef hem aan op de plek waar je verwarming hangt."
• 1:16:23
  En toen was het van: zet er een, zet er een bitcoin miner op en als het dan koud is in je huis klappen we dat ding aan, gaan we bitcoin minen en warmen we je kamer op. Nu zou ik dan zeggen: hang hem in petals.
• 1:16:33
  Hang een GPU-cluster in de vorm van een mooie radiator met een mooie hoes eromheen aan je muur en let's go! Wauw. Toch? Laten we dan slim zijn als we het toch overal gaan ophangen.
• 1:16:43
  Maar Mies, dan wil ik wel gewoon er iets voor terugkrijgen, hè. Ja, nee, dat begrijp ik. Nou ja, goed, dan zou je misschien moeten zeggen van daardoor doe jij mee en kan jij tegen dat model praten. Alleen als je meedoet.
• 1:16:54
  Een soort tit for tat. Ja, oké. Dan, uh, bouw je een soort karma op. Je hebt het trouwens in Bitcoin ook. Geef mij gewoon. Je wil geld, hè.
• 1:17:00
  Gewoon tokens en dan kies ik wel of ik het wil geven aan tijd op dat cluster of dat ik gewoon euro's voor terug wil. Prima, als dit toch is waardoor het toegankelijk wordt, die, die data, die datakracht.
• 1:17:11
  Ja, ik vind het wel een, uhm, ja, het is nooit te zonde om iemands zwembad op te warmen of zo, maar dat je in ieder geval wat nu, ja, ik weet niet.
• 1:17:19
  Het idee dat je dan een datacenter hebt waar het kneiterheet wordt binnen, wat dan teruggekoeld wordt door de airco en zo is, kan eigenlijk allemaal niet meer zo goed nu. Als, die warmte moeten we iets mee. Ja.
• 1:17:30
  Ik, ik, ik den- ik denk trouwens, dit is puur naïviteit, hoor.
• 1:17:32
  Ik ga ervan uit dat er, daar ga ik gewoon even van uit voor de luisteraars die een datacenter runnen, dat er inmiddels buizen doorheen liggen die de grond ingaan en gewoon teruggeleverd worden aan het netwerk.
• 1:17:41
  Ik mag het hopen, mag het hopen, maar, uhm, ja, die warmte moeten we- Het is ongetwijfeld zo. Maakt het niet minder vet om een taalmodel te trainen, uh, aan de, op de plek waar nu een radiator hangt.
• 1:17:54
  Kan het wel iets hebben. Toch? Dat is mooi. En er zijn dus cases of zo waardoor je zo'n server op zijn zij, uh, aan je muur kan, uh, kan hangen. Nou, het is een lichte dystopische aflevering geworden.
• 1:18:05
  Het Estland verhaal heeft voor jou ook een dystopisch bijklankje. En, uh, dit, uh, eindigt toch ook weer op een dystopische wijze. Het is ons weer niet gelukt om je vrolijk nieuws te brengen.
• 1:18:14
  Volgende week proberen we het weer nog een keer. Tot volgende week! Tot dan! Doei. [lacht] [afsluitend muziekfragment]