Latest / AI Report / Half Nederland op slot door één bug + Anthropic verliest 80 miljard in een halfjaar

Transcript

Half Nederland op slot door één bug + Anthropic verliest 80 miljard in een halfjaar · AI Report

0:00
We gaan zo naar de podcast, maar eerst een boodschap van onze sponsor Numbers. In deze podcast hoor je hoe snel AI ons werk verandert. En toch zijn veel ondernemers samen nog uren kwijt aan administratie.
0:10
Facturen zoeken, cijfers uit het ene systeem naast het andere leggen, hier inloggen, daar inloggen en dan nog twijfelen of alles klopt. Je herkent dat vast. Een hoop zorgen en frustratie en dat pakt Numbers aan.
0:22
Numbers, bekend van salaris en HR, is nu business software, facturatie, boekhouding, salaris en rapportages in één platform. Je voert één keer iets in en het klopt overal.
0:32
Offertes en facturen maak je in een paar klikken. Je btw-aangifte is altijd up-to-date en voor salaris en HR is er een AI-assistent die je helpt met vragen en taken.
0:40
En met meer dan 350 integraties werkt Numbers bovendien samen met software die je nu al gebruikt. Dus geen losse tools die niet met elkaar praten en geen gezoek naar welk systeem de waarheid bevat.
0:50
Gewoon overzicht en grip op je eigen bedrijf. Meer dan een half miljoen bedrijven werken al met de software van Numbers voor hun administratie. Wil jij ook minder zorgen en af van onnodige complexiteit?
1:01
Ga naar numbers.nl/podcast en ontdek hoe jij meer tijd overhoudt om te ondernemen met de business software van Numbers. Dat is Numbers, N, M, B, R, S.nl/podcast. En dan nu door naar de show.
1:13
[muziek] Welkom bij AI Report, de grootste AI-podcast van Nederland, waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en op de samenleving.
1:28
Met deze week AI-agents en kwetsbaarheden in software waar het internet op draait, vormen samen een gevaarlijke mix. Is dit een kantelpunt? Anthropic komt met Claude Duet.
1:39
Het antwoord op Muse en Dot, terwijl Nvidia juist bouwt aan een beveiligde kooi om zulke agents heen. En we gaan het hebben over geld.
1:46
DeepSeek haalt 15 miljard op, terwijl Anthropic 80 miljard verloor in een half jaar tijd. Ja, en nog even voor je agenda. Aanstaande maandag begint de AI Report Agent Week.
1:56
Onze nieuwsbriefredacteur Shang helpt je hoogstpersoonlijk om in vijf dagen je eigen AI-collega te bouwen. Met korte video's en praktische gidsen ga je zelf aan de slag.
2:04
Je kiest een terugkerende taak uit je werk en leert hoe je die door AI laat overnemen. Ben je al premium lid, dan kun je meedoen. Dan ontvang je alle informatie zeer binnenkort per e-mail.
2:13
En als je nog geen premium lid bent, dan ga je naar AIReport.nl en sluit je je aan. We gaan beginnen. [muziek] Oké jongens, ik ben dus een hobbyprogrammeur.
2:30
Het voelt een beetje als een, uh, een coming out. Maak ik hem even compleet. Iemand noemde mij op X een clown omdat ik uitspraken deed over, uh, over de PHP, uh, kwetsbaarheden. Waarom ben je dan een clown?
2:41
Ja, omdat ik natuurlijk meteen heel nerderige dingen ging zeggen die volgens deze, deze lezer op het toonaangevende medium X niet helemaal klopten. [lacht] Oké.
2:48
Had misschien een klein beetje gelijk, uh, maar ik ben niet echt een clown. In, in, ik, ik, ik, ik was vroeger, wisten jullie dat, sys-- Linux systeembeheerder bij TeleAtlas, de voorloper van TomTom.
2:58
Wij leren zoveel over de anker nieuwsreader. Ik had daar dus eigenlijk aandelen moeten nemen en dan had ik een heel ander leven gehad. Maar waarschijnlijk een saaier leven dan ik nu heb. Ja, daarom.
3:09
Dus nu zit ik hier niks mis mee. Geen aandelen. Systeembeheerder. Ja, ik deed, uh, de Linux, Linux systeembeheer van TeleAtlas in een kantoor in Houten. [klikt met tong] [spuugt] Was het niet leuk? Nou, nee.
3:21
Het is dankbaar werk, hoor. Ja. Ja. Ja, dat is de, de, hoe heet het, de rug waar heel Nederland op, op dra-, uh, de rug van Nederland draait. Ze voelden het niet helemaal.
3:30
De mensen die daar werkten namen het systeembeheer op Linux niet helemaal serieus. Ik misschien ook niet. Maar, uhm, ja, later was ik bij Planet Internet beheerder van de telefooncentrale.
3:38
Ook die werkte op, uh, op een Unix-variant en had ik hoger lager in gemaakt. Dus dan kon je een nummer bellen en, uh, dan moest je een nummer onder de één en de tien raden. Moest je dan intikken.
3:47
En als je hem dan, uh, hoorde je: hoger, lager. Bij de, bij de helpdesk van Planet Internet? Ja. Daar zit jij gewoon een soort easter eggs in te bouwen.
3:55
Ja, ik zat easter eggs in de, in de, in de telefooncentrale te bouwen. Juist. Maar anyway, dus deze hobbyprogrammeur heeft natuurlijk ook nog een soort van scala aan PHP-websites op het internet.
4:04
Dus het raakt jou ook, dit, digitale veiligheidsissue. Oh, ik heb ook een Fitbit Air en die heeft dus echt gezien gisteren de hele dag dat mijn hartslag hoger was dan gemiddeld. Echt waar.
4:12
Ja, want ik was best wel, het, ik zag het 's ochtends als eerste.
4:15
Nou ja, niet als eerste, maar ik zag het 's ochtends als eerste toen ik wakker werd op X weer dat er iets gelekt was en kwetsbaarheden en ik dacht: oh my god, wat moet ik, wat moet ik?
4:26
Ik moet dit in de gaten houden en dit wordt wat. Ik heb ook de nieuwsredactie geappt van: jongens, dit moet je in de gaten gaan houden, want ik denk dat er wel eens wat sites offline zouden kunnen gaan.
4:35
Nou, zulks gebeurde. Ja. En ik ben dus de hele dag bezig geweest met fixen, patchen, dat soort dingen. Ja.
4:40
Ja, het is misschien wel goed, gr-om uit te leggen dat, uh, we gaan er nog wat dieper in duiken, hoor, maar ze gingen dus preventief plat. Ja.
4:46
En dat is ook interessant, want ik kreeg heel veel mensen die mij gingen appen van: is het begonnen? Hé, die de podcast luisteren. Ja, ja, ja. Dat ik zei: nou ja, het werkt een beetje anders.
4:55
Ja, nou en de rol van, in AI hierin is niet te onderschatten. Gaan we het straks uitgebreid over hebben. Kijk, de andere kant van die medaille natuurlijk.
5:01
Van dat, uh, van die gaten in, in PHP is dat er ook gaten zitten in al onze, uh, smart home software die ook ten positief te gebruiken zijn.
5:11
Dus ik weet niet van welk merk je een televisie hebt, maar ik heb een televisie van een merk dat heel erg graag, uh, reclame in de interface stopt en allerlei apps er in, bloatware erin zet waar ik helemaal niet op zit te wachten.
5:23
Niet normaal, die dingen. Voorgeprogrammeerde. Je kan niet meer zappen met een tv. Nee. Het is een soort waanzinsysteem. Tv's zijn superirritant geworden sinds ze slim zijn geworden. Ja.
5:30
En ik zie dus nu de afgelopen weken wildgroei van mensen die hun apparaten aan het hacken zijn ter faveure van de gebruiksvriendelijkheid.
5:40
En ik heb dus mensen gezien die hun Alexa ombouwen om er mp3's naar te kunnen streamen, wat normaal niet kan door je Amazon.
5:47
Ik heb mensen tv's zien ombouwen om gewoon een andere launcher erop te zetten waardoor alles opeens minimalistisch is. Ik zag mensen die, uh, hun kinderen televisie laten kijken, maar niet
5:57
Voor dat zij een sommetje hebben opgelost. Dus dan staat er op het scherm: oké Sascha, hoeveel is twee keer zeven? Niet met een afstandsbediening. Het antwoord geven en pas dan kan ze, weet ik veel, Nijntje kijken.
6:08
Ik zag mensen die nu oude iPods, uhm, aan het- iPods? iPods. Het is eigenlijk mijn droom om weer een iPod te hebben. Ja, hoe kom je aan een iPod? Ja, die kun je gewoon kopen op Marktplaats.
6:18
Maar die, die software is natuurlijk niet chill, want je kan niet Spotify luisteren op een iPod natuurlijk.
6:24
Daar zijn nu mensen die, uh, een nieuw moederbord hebben gemaakt voor de iPod en met AI-software voor die iPod, waardoor die weer werkt zoals, zoals in de vroegere betere tijden, maar dan met alle functies, uh, van nu.
6:37
Dat is iets waar mensen opeens aan werken. Ik zag mensen fotolijsten ombouwen. Van die fotolijsten die je aan je oma geeft, weet je wel, digitale fotolijsten, maar dan ombouwen om er een, uh, dashboard van te maken.
6:47
Want als er iets AI-psychoses aangeeft, dan is het ook wel een dashboard van maken. En, uh, uh, ik dacht dus: dit is grappig, want dit is de andere kant van die medaille.
6:58
Aan de ene kant doodeng dat je je Claude naast een tv kan zetten en dat je gewoon zegt: hack dit ding.
7:03
Maar als je op de wifi zit, dat ik echt denk: ik weet niet aan wie ik het allemaal in mijn huis het wifi-wachtwoord heb gegeven, maar dit is echt niet oké wat dat ding allemaal voor elkaar krijgt door gewoon te zeggen: val die tv aan en dan opeens is die tv gehackt.
7:16
Uhm, [klikt met tong] dus aan de ene kant ben ik er heel blij mee, maar aan de andere kant denk ik echt, uh, ik weet niet hoe, hoe- Alle deuren gaan open, hè.
7:23
Dus je kan ook zeggen: de deur van je tv gaat open, maar ook de deur van je tv gaat open. Juist. Het kan twee kanten op. Ja.
7:29
En ik moet wel zeggen, ik wilde nog aanvullen dat, wat we nog meer gaan zien, ik zie daar de eerste tekenen een beetje van.
7:34
Dus bijvoorbeeld mensen die de ICU, dus de engine control unit, van hun oude auto aan laten passen. Dus chiptuning met AI- M-hm. Om jouw motor beter te laten lopen.
7:42
Dus niet meer via de chiptuninggarage, maar zelf interfacen met je auto. Waarom zou je dat willen? Sorry, ik weet niets van auto's. Nee, dan kan je, kan ie efficiënter lopen, meer paardenkracht hebben.
7:53
Ik bedoel, auto's hebben al heel lang- Overklokken van je auto. Ja, met een firmware upgrade via AI. Dan [Niels lacht] mensen die zeggen: ik heb nog een- Klinkt zo, zo'n slecht idee.
8:01
Ja, ik heb nog een oude VanMoof-fiets. Die app is kapot. O, ja. Maar ik hack mijn eigen VanMoof-app- Ja. En ik ga mijn fiets weer openmaken. Ja.
8:07
Kijk, er zit in, aan de kant van die, andere kant van die medaille zit iets wat mensen die houden van open hardware en het openbreken van- Ja. Systemen. Opeens kan het.
8:17
Ja, en dat is ook iets wat het toverstafje kan, wat AI is. Maar goed, het is nu mogelijk en mogelijk ook binnenkort vooral ingezet om andere deuren open te maken die we eigenlijk niet open willen.
8:30
Dat is eigenlijk wat er gebeurd is. En daar gaan we het over hebben in het nieuwsoverzicht. [muziek] Want het was de week van de kwetsbaarheden in de fundamenten van het internet.
8:45
En combineer dat met AI-aanvallen en je hebt een giftige cocktail die experts als een kantelpunt zien. Wat gebeurde er? Woensdag meldde Microsoft dat Chinese hackers AI-agents honderden organisaties lieten aanvallen.
8:59
Een paar keer hadden ze binnen drie uur beheerdersrechten. Dezelfde dag beschreef CrowdStrike vier groepen die hun aanvallen grotendeels door AI laten uitvoeren, vooral met Claude Code.
9:10
En één groep brak minstens in bij vijftien Argentijnse zorginstellingen en stal bij één daarvan zeker medische dossiers. Tegelijkertijd kwamen er fouten naar buiten in software waar het gehele internet op draait.
9:21
De PHP-bugs natuurlijk, maar ook een probleem bij GitLab en een ernstige bug in Node.js. Wel meer zelfs.
9:28
Bij Railway, waar zo'n 2 miljoen ontwikkelaars hun apps draaien, zijn mogelijk zelfs wachtwoorden en sleutels van klanten buitgemaakt. En die aanvallers?
9:36
Die waren volgens Railway op zoek naar sleutels voor AI-diensten, dus de keys daarvoor, zodat mensen AI kunnen gebruiken op andermans rekening.
9:46
Nou, bij lang niet al die lekken is 100% bekend of AI een rol speelde, maar zeer waarschijnlijk wel.
9:51
En volgens CrowdStrike is het zo dat een aanval die vroeger een team vergde, nu door één persoon met één agent kan worden gedaan. Gisteravond laat, onze tijd, presenteerde Anthropic Claude Duet.
10:02
Het lijkt het antwoord van Anthropic op de Dots en de Muses en de grokbots van de concurrenten. Het is dus een app, uhm, waarin Claude niet wacht op een vraag, maar zelf met ideeën komt.
10:12
De agent stuurt elke ochtend bijvoorbeeld een overzicht van wat aandacht nodig heeft, controleert om de paar uur je gekoppelde apps en werkt door op een eigen computer in de cloud, ook als je laptop of telefoon uit staat.
10:24
Het draait op het krachtige Opus 5.5 en kan ruim 6.000 koppelingen gebruiken. Dus Gmail, Slack, Spotify, noem maar op.
10:33
Nou, voor een bericht, een betaling, een handtekening of het verwijderen van iets vraagt de app eerst toestemming. Beleggen en geld tussen rekeningen overboeken, dat mag helemaal niet.
10:43
[Niels lacht] Zijn we dus lekker dicht gezet. Het is op dit moment nog een testversie met wachtlijst. Voorlopig alleen voor betalende Pro- en Max-gebruikers in de VS.
10:52
Al moet ik zeggen: ik kon me aanmelden voor de wachtlijst, dus dat vond ik hoopvol. Maar wanneer het naar Europa komt, dat zegt Anthropic niet.
10:59
Dat brengt ons naar Berlijn, want wie wel in Europa was, was Nvidia-topman Jensen Huang. Hij heeft woensdag op de conferentie GTC in Berlijn Open Shell gepresenteerd.
11:08
Gratis software die AI-agents in een afgesloten omgeving laat draaien. Per agent leg je dan vast welke bestanden, welke netwerkverbindingen en welke systeemopdrachten zijn toegestaan.
11:20
En dat is dus controle die buiten het model zelf zit. En er is zelfs een chip op de server: Sentry. Die kan een agent binnen milliseconden afsluiten als hij iets doet wat eigenlijk niet mag.
11:32
En dit is dus het antwoord van Huang op de vele security-incidenten van de afgelopen maanden. En dit past ook in zijn straatje, dat het allemaal een kwestie is van engineering.
11:40
Huang meldde ook dat de nieuwe chipgeneratie Vera Rubin in volle productie is. Dat is een nieuw ontwerp voor datacenters in containers.
11:48
Dat moet de bouw op een voorbereide locatie van een datacenter dus terugbrengen van zes maanden naar, hou je vast, veertien dagen. Die kan wel in Groningen parkeren. Die kan je in Groningen parkeren.
11:59
[Niels lacht] In de Eemsdelta. Alle Groningers boos? Ja. [lacht] Het kan ook op andere plaatsen in het land, bijvoorbeeld Zeeland. Ja. Of op de steppes van Polen.
12:09
[lacht]Goed, Guang die ging ook in gesprek met bondskanselier Merz van Duitsland. Uh waste hem nog de oren, want de Duitsers zijn op zoek, vertelde Merz, naar een balans tussen innoveren en reguleren.
12:23
Nou, en daar moet je bij Guang niet mee aankomen. "And I, I think I've also heard you say that you want to find that balance between innovation and regulation. There's nothing to regulate if the industry doesn't thrive.
12:37
You want the German AI industry to thrive." Was getekend Jensen Huang tegen bondskanselier Merz, die er een beetje schaapachtig bij lachte.
12:46
Nou, Nvidia investeerde het afgelopen jaar volgens Guang ongeveer $ 10 miljard in Europa. Dat nog steeds maar zo'n 5% van de AI rekenkracht in de wereld heeft. We gaan het over geld hebben.
12:56
Het Chinese AI-bedrijf Deep Seek haalt ongeveer 100 miljard yuan op, omgerekend zo'n $ 15 miljard. De grootste investeerders zijn een batterijmaker en Tencent, het bedrijf achter WeChat.
13:08
Het is een van de grootste financieringsrondes ooit in China en dat geld gaat vooral naar natuurlijk rekenkracht, onder meer naar een datacenter in Binnen-Mongolië. Daar kun je ze ook bouwen [lacht] met minstens.
13:20
Het Groningen van China. Durf ik niks van te zeggen. Ik weet weinig van Binnen-Mongolië, behalve dat de jakmelk daar soepel wegdrinkt.
13:27
[lacht] Ze willen daar minstens 160.000 AI-chips van Huawei uiteraard gaan neerzetten. En een beursgang wordt voorbereid in Shanghai voor 2027.
13:38
En daarover gesproken: Anthropic heeft in de eerste helft van 2026 een nettoverlies geleden van $ 80,7 miljard. Dat staat in een conceptversie van de beursprospectus die de Wall Street Journal heeft ingezien.
13:52
$ 80,7 miljard. Dat is, uh, meer dan het BNP van Estland, om maar even wat te noemen. Nou, de omzet over die zes maanden was $ 16,3 miljard. Dat was tegen 1,1 miljard een jaar eerder.
14:05
Met andere woorden veel groei, maar veel verlies. Ook grappig om te melden dat twee klanten samen goed zijn voor ongeveer eenvijfde van die omzet. En de beursgang van Anthropic wordt medio november verwacht.
14:20
Op programmeergebied nog nieuws: startup Recursive heeft Flint uitgebracht. Dat is een programmeermodel dat het op een gewone laptop doet en volgens het bedrijf grotendeels door AI zelf is ontwikkeld.
14:32
Het eigen onderzoekssysteem, de Eureka Machine, bedacht onder meer de bouw van het model, het trainingsrecept en de software die het snel laat rekenen. En zo bouwde een klein team het allemaal in minder dan vier maanden.
14:45
Het heeft 40 miljard parameters, maar gebruikt er per stukje tekst maar 2,5. Op een MacBook Pro met M4 Pro chip maakt het volgens Recursive meer dan 125 van die stukjes per seconde.
14:59
Het model is gratis te downloaden onder een open licentie. Recursive wordt geleid door de voormalige hoofdwetenschapper van Salesforce en die wil, uh, AI zichzelf nog verder laten verbeteren.
15:10
Recursive self-improvement, zoals dat heet. Een omstreden idee. In het Amerikaanse Congres liggen voorstellen om dat te verbieden. En een intern onderzoeksmodel van Anthropic heeft in
15:22
64 uur grotendeels bijna helemaal zelf eiwitten ontworpen die schorpioenengif onschadelijk moeten maken.
15:30
In het lab bleken zeventien ontwerpen zich echt aan het gif te hechten en dat is dan de eerste stap richting een tegengif. Dat is nog geen werkend medicijn.
15:38
Het is ook nog niet getest, maar best hoopvol, want schorpioenen steken jaarlijks meer dan 1 miljoen mensen en duizenden daarvan overlijden, vooral kinderen.
15:48
Weet je nog Alexander, dat ik ooit een schorpioen in mijn broek had? Ik herinner me dit. Toen wij op vakantie waren in het land Italië. Ik schrok daarvan. Ik ook.
15:55
[lacht] Er kwam letterlijk een schorpioen uit de broek van Jon Wolters gekropen. Ik deed mijn broek aan, die had ik op, op de grond laten liggen tijdens de nacht.
16:04
Ik deed mijn broek aan, dacht ik: wat zit daar een bobbel op mijn bovenbeen? En toen deed ik de broek maar weer uit en toen sprong daar een schorpioen tevoorschijn. Dit is echt waar. Dit is echt waar.
16:12
Die blijkbaar niet in paniek geraakt is, want anders had hij je wel gepakt. En je bent, en je leeft nog. Dat is ook goed nieuws. En het was geen kind meer. Anders dan was er AI geweest.
16:19
Zonder dat ik die eiwitten nodig had. [lacht] Maar dit kan dus allemaal. Ja. Door het oog van de naald. We gaan het dadelijk hebben over het horrorveiligheidslek van, uh, van gisteren alweer.
16:28
Uh, maar eerst een boodschap van onze sponsor PostNL. [muziek] Wat hebben AI en een zwaar pakket met elkaar gemeen? Bij PostNL verwerken we iedere dag zo 1,2 miljoen pakketten.
16:44
Maar sommige van die pakketten zijn best zwaar en kunnen allerlei processen verstoren. Die wil je dus op tijd herkennen, zodat je ze op een veilige manier kunt verwerken.
16:52
En tussen zoveel pakketten is dat makkelijker gezegd dan gedaan. Daar helpt AI ons bij. We gebruiken beelden en data uit ons sorteerproces om automatisch afwijkende pakketten te herkennen.
17:04
Kijk, AI tilt die zware pakketten niet voor ons, maar het helpt ons wel om zo'n pakket vaker te herkennen en op de juiste manier te verwerken.
17:12
Dat is veiliger voor onze collega's en zorgt ervoor dat alle pakketten soepel door het proces kunnen, zodat jij snel met je nieuwe sneakers de deur uit kunt. En dit is nog maar één voorbeeld.
17:24
Op steeds meer plekken helpt AI ons om processen slimmer, veiliger en efficiënter te maken. Wil jij weten wat we nog meer doen met AI en robotisering? Kijk op Postnl.nl/ai.
17:39
[muziek] Oké jongens, nou terug naar PHP. Daar moeten we toch nog even wat uitgebreider over praten. Uhm. Hoe groot was dit nieuws? Ik heb echt het idee dat iedereen gisteren ook gewoon normale mensen.
17:50
Niet alleen systeembeheerders die vroeger voor de voorganger van TomTom werkten, maar gewoon. Ik zag dat iemand. Heel het land was in rep en roer.
17:57
Een appje kreeg van zijn moeder waarbij zijn moeder vroeg: jongen, gebruik jij PHP? [lacht] Die was bezorgd. Het was serieus gewoon.
18:04
Ik denk dat heel veel Nederlanders ineens het woord PHP of de afkorting PHP hebben gebruikt gisteren. Ja. Ja. Nee, het was, het was, uh, fascinerend op een bepaalde manier.
18:13
Je, je kunt, cynisch zou je kunnen zeggen: zijn we nou allemaal een soort van Overdreven bang in Nederland, hè, want het leek vooral Nederland te zijn. Ik bedoel, we hebben ons eigen media.
18:21
Lijkt me alle sites offline halen. Ja. Het gebeurde vaak in Nederland of eigenlijk in Noordwest-Europa. In Frankrijk gebeurde het, in Denemarken, Finland. Ik heb uiteindelijk inderdaad ook nog onderzoek gedaan.
18:29
Ook Japan. Zijn wel meer plekken geweest waar ze uiteindelijk ook offline zijn gegaan, maar wij leken wel, uh, een van de grootste reacties wereldwijd te hebben. Maar laten we even naar het begin beginnen. Ja.
18:38
Wat, uh, wat er precies gebeurde. En dan komen we dan ook nog wel bij, bij Nederland en of de reacties op wat er gebeurde, of die allemaal wel zo logisch waren. Dus een, een, een korte tijdlijn.
18:47
Uhm, het ging om een kwetsbaarheid die twee maanden geleden eigenlijk al ontdekt was in een programma van OpenAI.
18:53
Die hebben een Daybreak-programma waarin ze modellen ter beschikking stellen aan cybersecuritybedrijven om te kijken: uh, zitten er fouten in de fundamenten van de software die we gebruiken om het internet te laten werken, bekende pakketten?
19:06
Twee maanden geleden is dit ontdekt en met, uh, ChatGPT 5.6 Sol. Ja, dat was toen nog. Dat was toen nog. [lacht] Ja. Maar best een, best een oud model, toch? Ja, maar een soort recency bias heb jij nu, hè.
19:21
Dat is ook al een heel krachtig model. Wat is recency bias? Dat jij denkt dat nieuwe dingen, uh, dat oude dingen slecht zijn en nieuwe dingen goed. Ja, is niet het geval. Blijkt in dit geval maar weer.
19:31
Uhm, toen ontdekt en eigenlijk is toen het plan gemaakt: we gaan met de community, gaan we dit rustig oplossen. We gaan een mo-moment bedenken om dit, uh, openbaar te maken en dan een fix, uh, uh, uh, uit te doen gaan.
19:43
Oké, en als je eigenlijk heel beheerst uitrolt en zegt: het is een securityprobleem, ga patchen, dan is er niet zoveel aan de hand. Die informatie, die wordt dan, uh, onder embargo gedeeld met de community.
19:53
Iedereen zet alles rustig in werking. Dan ga je een nieuwe versie uitbrengen. Maar hier gebeurde iets opvallends. Een paar details lekten uit via Hacker News. Althans, niet helemaal, maar ook weer niet helemaal niet.
20:04
Groot genoeg in elk geval om mensen op ideeën te brengen. Wytse, wat gebeurde daar precies?
20:08
Nou, het is zo dat die, die labs doen dus al heel lang scans met hun zwaarste modellen waar wij niet bij mogen om het hele internet, het fundament van het internet als het ware alvast te verstevigen voordat de open modellen, uh, in de handen van de verkeerde groepen hetzelfde gaan doen.
20:22
Dus het is gewoon een race die we aan het doen zijn. Daar is eerder al iets gevonden inderdaad, maar eigenlijk nu gelekt.
20:28
Uh, gelekt omdat je eigenlijk met een paar kleine puzzelstukjes richting de juiste personen kan wijzen naar, en dat is nu eigenlijk wat heel erg die AI-modellen doen, is,
20:37
als wij eenmaal weten als mensen waar we ongeveer moeten kijken om naar binnen te gaan, dan weten we vaak al genoeg.
20:43
Dan hoef je nog niet eens te zeggen waar het gat zit, alleen maar aan de achterkant van het huis en dan kunnen we ook naar binnen. En daardoor is eigenlijk- Dan weten de modellen genoeg, bedoel je?
20:50
Dan zeg je tegen het model: hè, daar is iets. Ja, het is ongeveer moeilijk, hè, want kijk, ik, de, de vraag is dan: uh, heeft AI ingebroken? Heeft AI het gevonden?
20:58
Alles is nu een hybride, dus er wordt door beveiligingsonderzoekers samen met AI-modellen gezocht naar fouten door zogenaamde white hat hackers die dat doen om de wereld een stukje mooier te maken.
21:08
Grey hat, die soms verkopen en soms niet. Maar OpenAI claimt het wel gewoon als in: dit wa-, this was us, this was our model. Ja, oké, dus dat is, voor enige nuance.
21:17
Je hebt de daadwerkelijke projecten binnen de grote lab zelf, die bekend zijn. Google doet het, Anthropic doet het en, uh, OpenAI doet het.
21:25
Die hebben hun eigen nachtelijke scans draaien met hun zware modellen, die ook nog eens niet gefilterd zijn, want dat durven zij, op zoek naar problemen in het fundament van het internet.
21:34
Dit waren beveiligingsonderzoekers samen met een OpenAI-model. OpenAI is daar dus, dus een beetje trots op. Ja. Dus die zeggen dan- Maar het is dus AI. Dat is de kern van de zaak.
21:43
Nou, ik denk dat, jou-jouw punt is denk ik: kijk, gisteren ging het nieuws rond. Ik kreeg allemaal berichten in mijn WhatsApp van mensen die zeiden: is het begonnen? Wat bedoelen ze daarmee?
21:50
Wij zitten in de podcast al lang te praten. Er is staat iets te komen, namelijk de donder, uh, klap van AI op de samenleving in allerlei manieren. En security cyber is daar een van de allereerste van.
22:02
Dus net als met klimaat, waar dan, uh, uh, er staat een bos in brand in Spanje, dan is, dan is heel vaak de vraag: is dit klimaatverandering of staat er gewoon een bos in brand?
22:12
Ook hier is het dus, uh, uh, nou ja, mijn overheid is offline. En nog, uh, 20 andere sites. 200, 3.000. Is dit AI of is het gewoon een klassiek cyberincident? En wat, en wat is het? AI, maar indirect.
22:25
Dus ik wil nog wel even de nuance maken, want die is voor veel mensen in mijn WhatsApp belangrijk. In ieder geval gewoon de mensen om me heen die niet zo technisch aangelegd zijn.
22:32
Die willen heel graag weten: is er nu een autonome, zelflevende AI-zwerm op internet- Is dit de侵略?...mijn overheid aan het platleggen? Ja. Nee. Ja.
22:43
Uhm, wat er aan de hand is, is dat er met een AI-model samen fouten gevonden zijn in de fundamenten van het internet, waar sowieso naar gezocht wordt door mensen die daar fout mee willen en goed mee willen.
22:55
Dat is eerder gelekt dan de bedoeling was, omdat met een kleine hint plus een slimme ontwikkelaar plus AI je toch al dat gat kan vinden.
23:04
Daardoor ontstaat er een soort race dat je het snel bekend moet gaan maken, want als het eerder bekend is bij, ja, een kleine groep mensen met wat AI.
23:12
Want sowieso, het is een beetje gek aan dit gesprek, AI speelt natuurlijk op alle vlakken een rol nu. Bij het vinden van de gaten, het misbruiken van de gaten, het dichten van de gaten, et cetera.
23:24
En iedereen moet als het ware die jetpack oppakken en om, omdoen om hier, uh, mee om te kunnen gaan. Want dat is eigenlijk, het is een timingprobleem wat we zagen. Ja, en een zorgwekkend timingprobleem.
23:35
Want kijk, ik had ook allemaal appjes van oud-collega's van mij. Ik heb net als jij, Jeroen, was ik DevOps. Oftewel, ik ben altijd bezig geweest met het, uh, online houden van systemen.
23:46
Ik heb dus allemaal oud-collega's die mij appen: daar gaat mijn nacht, daar gaat mijn dag, daar gaat mijn verjaardag, want ik moet patchen, hè, alles updaten, alle systemen. Waarom?
23:55
Een groot deel van het Nederlandse internet, maar ook Europees en wereldwijde internet draait op PHP-gebaseerde systemen. 70%. Dat is een ongelooflijk groot aantal. Vooral WordPress, hè, dat, dat, dat maakt het zo groot.
24:05
Maar goed, dat is ook PHP. Uhm, het, iedereen moet dan eigenlijk voor-- oké, hoe het had moeten gaan. Misschien wel belangrijk om even te zeggen hoe het had moeten gaan, wat het plan was.
24:16
Je vindt het, je maakt het bekend. Responsible disclosure, dus op een, uh, verantwoordelijke manier. En je zegt: jongens, iedereen updaten en over twee weken vertellen we waarom.
24:26
En twee weken is kort voor de helderheid, want het is mega veel systemen. Van de kleinste webshopjes, uh, uh, van Katrien tot en met heel WordPress, waar dan grote platforms van energiemaatschappijen ook op draaien.
24:38
In ieder geval de marketing. En dan, uh, heb je die twee weken. Dat was al kort. Nu was het: oké jongens, sorry, vanmiddag om 14:00 uur.
24:45
Uh, dan brengen we het helemaal naar buiten, want eigenlijk ligt het al op straat bij een paar mensen en die gaan het delen of voor zichzelf houden en, uh, uh, daar misbruik van maken.
24:54
En dan, dit is denk ik het grote, uh, hoe zeg je dat, wat je mee kunt nemen als luisteraar hiervan.
25:00
In hoeverre zijn wij als mensen, namelijk security advisors, m-, DevOps, systeembeheerders, in staat om de turnaround te hebben, dus de snelheid om te reageren op systemen die veel sneller zijn dan wij.
25:16
Want, om je meteen een anekdote te geven; ik kreeg een bericht van iemand die zei: ja, ik, ik doe rustig aan met updaten, want zo interessant is mijn platform niet, hè. Want zo dacht je vroeger in security dat je dacht.
25:28
Ja, ja, ja, ja, ja, ja. Alleen als ik een, uh, weet ik veel, leasemaatschappij of energie, wij, dan, dan moet ik me patchen. Maar ik heb gewoon een webshop in, uh.
25:36
Er is gewoon een beperkt aantal hackers en ze gaan heus mij geen aandacht geven. Exact, want ja, ik verkoop, uh, haardhout online op haardhoutonline.nl. Nee, jij bent a- everybody is the same now. Waarom?
25:48
Omdat jij, want dat is een vraag die ik ook veel gekregen heb. Oké, oké, oké, stel ik heb dit gevonden. Stel ze hebben die website nog niet geüpdatet. So what?
25:57
Nou, wat je hiermee kan, ik wou zeggen kon, maar kan, want [fluistert] nog niet alles is geüpdatet jongens.
26:02
Best wel veel niet, uh, is een website overnemen en software draaien op die server die niet van die server, op die server hoort.
26:09
En daarmee zou je met een kleine groep met AI samen heel veel servers kunnen overnemen over de hele wereld. Om dan daadwerkelijk narigheid uit te gaan voeren. Want er is eigenlijk nog geen narigheid gebeurd.
26:20
Ja, maar ook weer niet helemaal niet, want Cloudflare houdt dit bij.
26:25
Veel, veel diensten gebruiken Cloudflare om hun infrastructuur te beschermen en dan komt er een soort, uh, dan zijn zij een soort man in the middle zal ik maar even eenvoudig zeggen.
26:32
En die kijken; wat gaat er naar jouw website en wat, wat houden we tegen, wat houden we niet tegen? En om op, op dat race verhaal van jou aan te sluiten.
26:40
Op het moment dat het was gelekt, zagen zij al de eerste tekenen van aanvallen. Enkele duizenden. Dat is natuurlijk op de schaal van het hele internet heel weinig.
26:52
Maar nog, nog voordat de patch er was, werd er dus al misbruik van gemaakt op basis van die paar hints die mensen hadden.
26:59
Nadat om, uh, 4:00 uur Nederlandse tijd de patch er was, hebben ze om, uh, 4:15 uur tienduizenden, uh, aanvallen gezien. Om 5:30 uur honderdduizenden. Om 3:00 uur vannacht miljoenen. Ja, dus voor de helderheid.
27:15
Uh, dit beantwoordt ook de vraag denk ik, die ik, die ik veel online zag langskomen met, uh: wat is dit voor bizarre overreactie in Nederland? Waarom vallen wij nou wereldwijd zo op?
27:25
Het is in Amerika amper op het nieuws en hier, uh, alle voorpagina's staat ineens PHP [lacht]. Letterlijk. Kijk, ik denk dat, het heeft een beetje me-te maken, denk ik, met onze, uh, risicovermijdende cultuur.
27:37
Toch ook wel, het is ook wel een cultuurdingetje van de systeembeheerder in Nederland is wel extra, uh, uh, net als met de Duitsers extra voorzichtig. Dus dat valt me op.
27:45
Ik denk in dit geval terecht, hè, want het devies was op een gegeven moment niet alleen in Nederland, maar echt; haal maar gewoon even offline.
27:53
Gewoon even offline halen, dan kan je rustig gaan kijken waar jij PHP draait en niet eens of je het draait, maar waar je PHP draait. Dan ga je updaten en dan breng je weer online.
28:02
Het risico daarvan is wel, want dat, uh, vind ik een interessante in dit, in dit gesprek. Je hebt een soort fase van dit soort dingen.
28:11
Hè, dus je kan zeggen, uh, aan de ene kant van het spectrum zit een AI-swarm die zelfstandig de, het internet platlegt en iedereen, een soort Skynet of zo. Nou, dat is niet gebeurd.
28:21
Aan de andere kant, uh, een heel klein lekje in iets dat amper gebruikt kan worden en iedereen gooit zijn sites plat. Hè, dus een enorme overreactie op iets wat helemaal niet interessant was.
28:30
Ja, ik vind dat laatste, uh, ben ik bang toch in een aantal gevallen wel het geval. Nou, ik denk dat- Waarom? Interessant. Ja, waarom? Ik denk dat, de site van Natuurmonumenten ging plat.
28:41
Ik zat op zo'n, zo'n website te kijken naar mitigerende maatregelen.
28:44
Want op het moment dat mensen lekken wat er aan de hand was en op basis van die leaks worden aanvallen gemaakt, dan kun je ook mitigeren tegen die aanvallen.
28:55
En een van de, wordt een beetje technisch, maar een van de, van, van de dingen die daar gezegd werden was: uhm, om dit te kunnen misbruiken moet je iets naar een website toesturen.
29:04
Je moet iets posten, zoals dat dan heet. Je payload. Of je moet putten. Pakketje. Precies. Als jij in je webserver zegt: oké, we gaan nu gewoon even gedurende die paar uur, kunnen we twee dingen doen.
29:14
We kunnen of de heleboel online doen, of we zetten in Nginx even een regeltje dat er niks geput of gepost mag worden- O, ja...naar deze website. Kan die website gewoon online blijven.
29:22
Ik vind het een goed idee dat de overheid dat niet doet. Ik vind het een goed idee dat, uh, Digid dat niet doet.
29:29
Dat, uh, Notubiz, dat, uh, voor alle provincies en gemeenten, uh, bijhoudt, uh, w-wat er in vergaderingen gezegd wordt, dat niet doen. Dat die het zekere voor het onzekere nemen.
29:38
Ik vind dat een website als Natuurmonumenten. [lacht] Vlak ze niet uit. Of for that matter, een nieuwsorganisatie als RTL Nieuws. Ik begrijp heel goed dat daar mensen werken die het zekere voor het onzekere nemen.
29:50
Maar ik denk ook; je hebt als nieuwsorganisatie, als buitengewoon serieus te nemen nieuwsorganisatie als RTL Nieuws, is ook een verantwoordelijkheid- Ja...om online te blijven.
29:58
Ja, oké, maar da-daar zou ik dan nog aan toevoegen: het gaat er niet zozeer om, uh, ik bedoel, je kunt zeggen, uh, er lekt data. Nou, Natuurmonumenten data soit, ik zeg maar even als voorbeeld.
30:08
Dat kan jouw, uh, zorg zijn. Je kunt ook denken: onze infrastructuur wordt overgenomen. Dan doet het er natuurlijk helemaal niet op welke website dat is, maar, uh, dan gaat het erom welke infrastructuur dat is.
30:20
Hè, dus je hebt een totaal niet belangrijke website die v-iedereen vindt: doe niet zo moeilijk, jij bent helemaal niet interessant. Wat zit jij nou offline te gaan?
30:27
Terwijl degene waar je die website host zegt: jij moet offline, want ik wil niet dat mijn infrastructuur. Want voor de duidelijkheid, de hack was, is [gniffelt] het volledig overnemen van infrastructuur.
30:38
En volgens mij doet dan de content er niet zozeer toe. Wat ik wel van jouw punt begrijp met RTL, vind ik, is veel sterker argument.
30:45
Daar zou je eigenlijk moeten zeggen: uh, volgens mij heb je nu een best wel, uh, achteraf, uh, kans gekregen. Dit is best wel een, uh, hoe zeg je dat, een cadeautje wat er gekregen is. Dit moet niet meer gebeuren.
30:59
Jullie moeten een statische versie van jullie platform hebben die je ieder moment kan inschakelen en dan is het nieuws maar even een uurtje oud.
31:05
Als het, als je infrastructuur een probleem is bij een website van een nieuwsorganisatie, dan is dus je infrastructuur een probleem bij je organisatie. Nee, maar daar ga ik absoluut niet tegen.
31:13
Nou, het is misschien ook wat er aan de hand is, dat, dit kan je natuurlijk niet los zien van Hugging Face en de paniek daarover.
31:18
Je kan het niet los zien van het incident cybersecurity of hoe noemen ze het digitaal veiligheidsincident. Ik hecht eraan de woorden van Albert Heijn. Wat er bij Albert Heijn gebeurd is?
31:26
[lacht] De hack die geen hack genoemd mocht worden. Soort Voldemort. We hebben Albert Heijn. Uh, dat is, uh, ook heel erg nu in onze soort van frontale kwab gaan zitten.
31:38
En ik denk wat hier gebeurt is dat het opeens mainstream is geworden. Gewoon hacks zijn chefs-ache geworden. Uh, weet je wel, Rob Jetten was aan het twitteren over PHP.
31:48
Uh, we, we hadden ministers die opeens zich bezighielden met PHP. Ik wil toch even gezegd hebben.
31:52
Ik denk dus ook dat CEO's van bedrijven opeens het gevoel hebben dat zij, nou ja, sowieso niet de volgende directeur van Albert Heijn willen zijn en bij Eva moeten zitten en het idee hebben dat ze, dat dit onderdeel is geworden van hun verantwoordelijkheidpakket.
32:07
Op een manier die, uh, die hiervoor misschien was voorbehouden aan een of andere systeembeheerder in een kelder die je nooit tegenkwam.
32:14
En nu is het opeens iets geworden wat, wat breed in de maatschappij leeft, dus waarvan die bedrijven zelfs bij Natuurmonumenten het idee hebben dat ze er iets mee moeten. Ja, ik denk, ik denk zelf dat, uh, dat
32:26
zal de regelmatige luisteraar niet, uh, verbazen, gezien het wat meer voorzichtige karakter van Wytse.
32:32
Ik vind een absolute onderreactie van de rest van de wereld en ik ben zeer trots op hoe er gereageerd is in Nederland. Ja.
32:39
Want ik wil wel even zeggen: remote code execution, dus dat betekent het kunnen overnemen van een server zonder ook maar enige tegenstand en daarop gaan draaien wat jij wil, is nou precies waar in een echt, uh, geval van swarms of dat soort dingen, AI-zwermpjes absoluut naar op zoek zijn.
32:56
Oké, maar dat betekent dat dit dus elke week gaat gebeuren. Elke maand, want de aanvallen gaan door. Echt op, op dit moment. Ik had het er net in het nieuws-overzicht over.
33:06
Uh, je hebt Node.js, wat, wat totaal niet de aandacht kreeg die PHP kreeg. Waarschijnlijk vanwege het aantal keren dat het gebruikt wordt, maar net zo erg eigenlijk is. Absoluut. Uiteindelijk onder de streep.
33:16
En doordat er zo gezocht wordt door modellen blijft dit dus onze nieuwe realiteit. Dat we met infrastructuur te maken hebben die elke week, elke maand gewoon een paar uur offline gaat.
33:25
Nou, ik bedoel, er zijn- Soort black-outs. Ja, nou, ik denk dat, uh, of brown-outs, hè, dus dan heb je een stukje minder infrastructuur. Dus een deel van het internet doet het wel en een deel niet.
33:32
Want ik kreeg ook allemaal berichtjes van mensen die zeiden: waarom werkt dat nou nog wel en dat dan nog niet of zo. K-moet het hele internet niet even uit? Nou, lijkt me onverstandig, maar, en dat kan ook niet zomaar.
33:41
Uhm, ik denk dat, uh, gelukkig wordt er dus al een jaar lang gescand.
33:48
En Mythos, dat hele Mythos-nieuws toen, Claude Mythos, was dit verhaal namelijk dat Anthropic zei: als we dit te vroeg uitbrengen, dan, we moeten even wat PHP-achtige infrastructuur de tijd geven om hun aanpassingen te doen.
34:03
Nu zijn we op een, ja, ik ga het toch wel een kantelpunt noemen, namelijk: er is heel veel tijd geweest om je voor te bereiden. Dit is ontdekt met 5.6. Nou, we zitten al op, uh, 6.1, uh, [gniffelt] in het geval van Sol.
34:14
Uh, jongens, dit was het. Ik denk dat we nu van preventief in het klein met kleine groepjes voorbereiden, gaan naar en plein public infrastructuur patchen.
34:27
Reactief achter de feiten aan rennend om maar op tijd te patchen. En daarbij is de positieve lezing van dit alles, want je zal je verbazen, maar die heb ik ook op zak. Uhm, dit is een, een soort vreemd interbellum.
34:41
Een soort tussenfase waarin de helft van de infrastructuur al wel gepatcht is door eerder onderzoek en de andere helft nog niet door, met alle respect, ook een beetje luiheid van veel systeemadmins.
34:51
Ik ga het jullie toch even zeggen jongens, inclusief ikzelf. Je had al kunnen updaten eerder, hè, op, op hele oude systemen.
34:57
Maar goed, nu krijgen we eigenlijk een kans zodat er kleine kalfjes verdrinken, want er is eigenlijk nog niet zo heel veel gebeurd.
35:02
Misschien wel terwijl we nu praten, maar niet voor deze podcast, die echt schade heeft gebracht.
35:06
Behalve een soort schokreactie van heel veel Nederlanders die wakker worden met: jeetje wat, wat zijn we enorm afhankelijk van al die infrastructuur. Zo, ik hoop dat jij geen PHP hebt. Ja. Liefs, je moeder.
35:16
Liefs, je moeder. [lacht] Moeders zeggen ineens PHP nu.
35:19
Uhm, de, de, de positieve lezing is dat je, dat je ook zou kunnen zeggen: ja, dit is gewoon even de komende weken, hopelijk maximaal maanden, de realiteit van de low hanging fruit, hè, dus de grote frameworks, de WordPressen van deze wereld, die gaan het even zuur krijgen.
35:34
Iedereen wordt even wakker van: oké, ik heb heel veel vrienden die mij nu ook appen. Ik blijf wel even wakker. En ik blijf wel even devven op ze.
35:40
Ja, ik ga wel even, uh, mijn oude sleutels weer ophalen en, uh, heel veel wordt er ook nu twee keer, drie keer opnieuw nagedacht door wat er nu gebeurd is.
35:48
Dus ik vind het voor een soort losse flodderachtig ding best een prettig incident tot nu toe. We gaan zo verder. Eerst een boodschap van onze sponsor: CM.com. [muziek] Hoi Rutger, hier weer van CM.com.
36:03
Ik ben vandaag met Arne Timmermans, CTO van YourSurprise, uh, klant ook bij CM.com voor ons AI agent product Halo. Uh, Arne, we gaan het hebben over buy versus build.
36:12
Een hele interessante vraag om aan jou te stellen, want jullie doen bijna alles zelf. Echte machines die jullie gepersonaliseerde cadeaus maken en de software die het draaiende houdt. Wat zijn jouw overwegingen daarin?
36:22
Wanneer maak je het zelf en wanneer koop je in? Dit is een afweging die ik de afgelopen twaalf jaar, dat ik bij YourSurprise, uh, zit, enorm heb zien verschuiven.
36:30
Toen ik daar kwam, uh, bouwden wij zelfs nog ons eigen nieuwsbrievensysteem, om maar een voorbeeld, uh, te geven. In de loop der jaren zijn we meer in gaan kopen.
36:37
Met name software waarvan wij denken dat het niet nodig is om ons uniek te maken. Dus wij kiezen echt ervoor om software te bouwen als we denken dat het bijdraagt aan het uniek zijn in de markt.
36:48
Uhm, maar de laatste jaren en ook de komende jaren denk ik dat je de verschuiving wellicht weer, uh, een stukje de andere kant op zult, uh, zult gaan zien, omdat het simpelweg eenvoudiger is geworden om software te bouwen.
36:59
Ja, ja, nou ja, voor klantenservice hebben we dan in ieder geval vooralsnog de keuze gemaakt om dat, uh, in te kopen. Kun je iets vertellen over de resultaten die jullie tot nu toe hebben behaald, uh, met Halo?
37:09
Zeker, we zijn, uh, echt all-in gegaan als het, uh, aankomt op Halo. Wij automatiseren zo'n 80% van al het, uh, chatverkeer op onze website met Halo en zijn nu aan het kijken om daar ook andere kanalen aan toe te voegen.
37:21
Gaaf! En, uh, dromen voor de toekomst? Ja, in ieder geval meer verkopen met Halo op onze website. Arne, dank je wel en we praten verder op, uh, sam.com/ARreport.
37:30
[muziek] Volgende week verschijnt bij ons het nieuwe boek van Ethan Mollick: Co-existentie. Dat is, uh, van de hoogleraar die eerder de bestseller Co-intelligentie schreef.
37:44
Dat is een boek waar we 180.000 exemplaren van verkocht hebben, dus dat is het meest verkochte boek over AI in ons land.
37:49
Alleen het grappige van dat boek is dat het geschreven is in een ander tijdperk en sindsdien, uh, is er natuurlijk, uh, een hoop gebeurd, zou je kunnen zeggen.
37:58
We hebben, agents zaten niet in Co-intelligentie, het was GPT4o, wat op dat moment het beste model was. En, uh, dit nieuwe boek gaat dus een stap verder. Wat gebeurt er met organisaties, uh, met leren? Hoe leren wij nog?
38:13
Wat be- wat gebeurt er met onze eigen vakmanschap als AI steeds meer kan? Dat soort vragen komen daar aan bod. Oké, maar dat zijn best, best vragen van, van deze tijd. Grote vragen.
38:23
Ook best, nou ja, wat ik daar over denk, bijvoorbeeld als het over vakmanschap gaat, of over dus de economie, over onze banen. Hoe zit dat?
38:31
Ik weet niet of deze heer die dit boek geschreven heeft, de heer Mollick, daar een antwoord op heeft.
38:35
Maar hoe kan het dat, dat, uh, ook aan deze tafel het vaak gaat over het verdwijnen van banen en we zien dat in de economie niet terug. Ja, dat is echt, ja, precies. Dat hoor je natuurlijk heel vaak.
38:45
Soort van: morgen is je baan overbodig, maar we zien het gewoon nog niet. Ja, dat. Ja.
38:48
En als je kijkt naar de economie, dan, uh, zijn bedrijfswinsten prima, maar, uh, als je kijkt naar chipmakers en geheugenbedrijven, dan trekken die, die hele gemiddelden omver.
38:59
Werkloosheidscijfers zien er ook nog steeds normaal uit en productiviteit gaat een beetje omhoog. Maar daar kunnen allerlei redenen voor zijn, niet alleen maar AI.
39:06
Dus aan de ene kant heb je een soort van overschatting waar, waar hij, uh, uh, een soort van spotlight op zet en aan de andere kant ook permanente onderschatting.
39:14
Want we waren met z'n allen totaal verrast toen Navier-Stokes werd gefixt door een zwerm van AI-systemen die miljoenen berichten met elkaar uitwisselden en toen een wiskundeprobleem oplosten waar wetenschappers letterlijk van stonden te huilen.
39:29
En die twee dingen zijn allebei waar tegelijkertijd. En de reden waarom het de economie nog niet zo vat of geen grip weet te krijgen op de economie volgens Mollick, heeft een aantal redenen.
39:41
Eén is: je ziet nu als mensen AI gebruiken als individuen, dat ze enorme, uh, uh, productiviteitswinsten ervaren. Maar hij zegt: AI is singleplayer. Al die apps zijn gemaakt om alleen erin te werken.
39:56
Er is niet zoiets als samenwerken in AI-apps. Hmm. Dat is nog niet uitgevonden eigenlijk. En hij zegt dus: één persoon wordt er op dit moment beter van, maar een organisatie niet per se.
40:08
Hij zegt: een programmeur kan opeens 100 keer zo productief zijn.
40:11
Je hoeft geen regel code meer zelf te schrijven, maar zit nog steeds in een organisatie waar ze sprints draaien van twee weken, waar nog steeds gewacht wordt op input van collega's.
40:21
En, uh, dat betekent dat bedrijven opeens tering veel geld aan tokens uitgeven en dan eigenlijk teleurgesteld zijn over het effect wat niet zichtbaar genoeg is.
40:31
Hij zegt: dat is een probleem op de korte termijn en heeft vooral te maken met de manier waarop wij bedrijven inrichten en heeft hij twee soort van modellen die, die erop plak-- ik ben nu alles aan het verklappen wat in het boek staat, maar dit verklaart waarom bedrijven niet zien, uh, waarom die economische groei maar niet tot stand lijkt te komen.
40:50
Omdat de bedrijven het verkeerd aan het inrichten zijn. Ze laten te veel aan individuen over.
40:53
Omdat het inherent is aan hoe een bedrijf werkt, namelijk een grote organisatie, het inherent aan een grote organisatie dat verandering nou eenmaal langzaam gaat. En hij heeft daar twee redenen voor.
41:03
Eén is wat hij noemt het O-ringmodel. Dat is genoemd naar de spaceshuttle Challenger, die ontplofte in, uh, 86.
41:11
Die dag werkten er duizenden onderdelen perfect, maar er was één rubberen ringetje, de O-ring, die functioneerde niet en die ramp was het gevolg daarachter.
41:22
En hij, zijn punt is: je werk is zo sterk als de zwakste schakel in het werk.
41:27
En wat je ziet bij bedrijven is dat er dan allerlei taakjes misschien vervangen kunnen worden door AI, maar dat is in een wachtrij van heel veel dingen en ingewikkeldheden in een organisatie.
41:38
En dat maakt dat het uiteindelijk dan toch geen productiviteitsver-- dus je moet al die dingen achter elkaar oplossen en dan pas dat werkt, dan zie je productiviteitsstijging.
41:47
Oké, dus hij doet een soort pleidooi voor veranderingsmanagers op AI eigenlijk? Uhh, hij constateert vooral hoe het komt dat het zo, dat eenlingen zo'n productiviteitswinst ervaren.
41:58
En als je het kijkt op, op veel, op hoger niveau naar bedrijven. Als je uitzoomt, dan zie je dat niet. Dan zie je eigenlijk vooral kosten.
42:03
Ja, en het, en het, en het tweede ding is wat hij noemt de, uh, v-, het vuilnisbak, het vuilnisbakmodel in bedrijven.
42:10
Hij zegt namelijk: ieder bedrijf is een hoop problemen en een hoop oplossingen die elkaar proberen te vinden.
42:16
Die zijn op elkaar gestapeld en wij kijken naar bedrijven alsof het van hele efficiënte machines zijn, die met heel veel mensen en afdelingen en allemaal met specifieke taken, die problemen af, uh, die problemen proberen zo efficiënt mogelijk op te lossen.
42:31
Maar hij zegt: als, in organisatietheorie is het eigenlijk zo, er is helemaal geen plan. En als er een plan is, dan is dat maar een klein deel van hoe de organisatie daadwerkelijk werkt.
42:41
Want het zit eigenlijk vol met uitzonderingen en allemaal zijpaadjes die mensen de hele tijd nemen. Oh, als je dat probleem, dan moet je even hem hebben.
42:48
Of als je, als je dit wil oplossen, moet je dat, zo, zus en zo doen. Dit hebben we eerder geprobeerd. Dat is allemaal niet gedocumenteerd.
42:54
Het zijn allemaal een soort van, ja, dingen die ontstaan zijn met de jaren in een organisatie. En dat is, uh, wat hij noemt het vuilnisbakmodel.
43:02
Alles wordt in die vuilnisbak gegooid en er komt wel een Er komt uiteindelijk wel resultaat uit, maar het is niet volgens een soort van perfect plan.
43:11
En dat los je niet op met AI, want die, het blijft, al die dingen blijven elkaar opstapelen in die vuilnisbak. Oftewel, grote bedrijven zijn zo complex dat het daar niet lukt. Nog niet.
43:24
Oké, ik wil even naar Wietse, want die komt nogal eens in bedrijven, grote bedrijven, kleine bedrijven waar jij spreekt en, [lacht] en dit soort, is het herkenbaar?
43:33
Nou, grappig dat je net change management slash verandermanagement zei, want het is, het is natuurlijk een verandermanagement vraagstuk. Als in: we hebben een organisatie ingericht op een bepaalde manier.
43:41
Uh multiplayer, singleplayer. Daar is een, een, een stramien, een systeem waarbij AI nu binnenkomt bij die kleine speedboot organisaties, organisaties en zzp'ers en daar mensen een soort jetpack op hun rug geeft.
43:54
Maar hoe hang je nou een jetpack aan een team? Ja. Of mensen allemaal een jetpack en dan nog samenwerken.
43:59
En die stap van, uh, een individu naar een complex samenwerkingssysteem, daarvoor moet je eigenlijk nieuwe etiquette hebben, nieuwe spelregels, hele nieuwe software, hele nieuwe metaforen van hoe je samenwerkt.
44:11
Dat is waarschijnlijk helemaal niet zo als Slack, want al die, al die apps worden nu een soort van Slack met agents erin. Daar gaan we natuurlijk later om lachen dat we dat op die manier probeerden.
44:20
Maar uiteindelijk, ik, ik ben het met wat ik nu hoor eens dat, uhm, we zitten nu op een soort productiviteitswinst in grote organisaties die individuen twee, drie jaar geleden al hadden met hun AI-modellen. Ja.
44:33
Er zit een enorme delay tussen die twee groepen, maar dat is niet een soort feitelijk iets wat onoplosbaar is. Het is geen natuurverschijnsel.
44:41
Nee, want er wordt over de hele wereld in allerlei teams enorm geëxperimenteerd aan de software kant, betere oplossingen door bedrijven en, uh, aan de wetware kant, namelijk organisaties die zeggen: moeten we dan niet die processen in kaart brengen en om gaan tekenen nu we die uitvinding hebben van iets wat in al die stukjes ineens wat kan bijdragen?
45:00
Tegelijkertijd, het zijn kleine teams die opeens kunnen concurreren op deze, door deze weeffout, zou je kunnen zeggen, in de, in grote organisaties. Hebben die grote organisaties nog nodig.
45:09
Precies, want het is alleen maar ballast. Uh, zo, zo, zo kijkt de gemiddelde kleine organisatie er denk ik naar. Ja.
45:15
En als jij met een kleine organisatie opeens veel meer slagkracht hebt gekregen en dat is, dat is gewoon zo, uh, ieder individu die, die met Cloud Code werkt heeft dat door, uh, kun je opeens concurreren met die grote bedrijven.
45:28
Dus Molich zegt ook eigenlijk, hij is eig-, hij zegt eigenlijk: ik vind het eigenlijk best wel opvallend dat die kleine productiviteitswinst die bedrijven nu zien, dat valt me alleszins mee.
45:38
Hij zegt: ik vind eigenlijk voor een groot bedrijf dat dit eigenlijk nog stiekem best wel snel gaat, gezien de traagheid waarmee die bedrijven in, gewoon inger-, en altijd al ingericht zijn geweest.
45:46
Dus het, ik vind het een verfrissende, uhm, Blik. Blik op het, op het geheel. Ja, hij, hij is ook docent, hè, hij is professor.
45:54
Uhm, hoewel, dat is een aanspreektitel in het Nederlands, dus dan zeg je: hij is hoogleraar, hij is de professor. Ja. Hij staat voor de klas, hij geeft les. Uh, hoe praat hij over de impact van, van AI op leren?
46:05
Ja, da-, ik, ik ben daar heel veel mee bezig, want ik zit vanavond bij het programma, uh, van mevrouw Jinek hierover.
46:10
Dus ik, ik ben heel veel over onderwijs aan het, aan het lezen nu en ik dacht ook: dit is, ik ben benieuwd wat hij hierover zegt. Hoe hij dit boek heeft geschreven is
46:18
eerst zelf nadenken en daarna pas die AI laten meeschrijven. Dus hij is een heel groot pleitbezorger van AI niet gebruiken als antwoordmachine, maar als tutor.
46:29
En dit is een van de fundamentele ideeën, denk ik, die voor heel het onderwijs geldt.
46:34
Het systeemprompt van jouw AI is: je bent een behulpzame assistent en een behulpzame assistent zal problemen, zal problemen proberen op te lossen voor jou. Onderwijs is niet problemen oplossen voor jou.
46:48
Je verwacht niet van een docent dat hij je de oplossing geeft als je een vraag stelt. Je verwacht dat hij je helpt nadenken over de oplossing, onderweg naar de oplossing.
46:57
En AI-systemen kunnen zo werken, maar werken nu niet zo. Dus wij, wij, wij zijn gewend nu om AI-systemen, uh, uit het onderwijs te verbannen. Dat is waar hogescholen op, op grote snelheid mee bezig zijn. Hoe maak je
47:13
toetsing AI-proof?
47:15
En daarmee bedoelen ze: hoe zorgen we ervoor dat onze studenten als zij een essay, een thesis inleveren, niet alles bij elkaar gehallucineerd, uh, hebben, uh, waar ze zelf lastig achter komen of de AI gebruikt is of niet, want daar leren ze niks van.
47:29
Mhmm. Dat is ook wat Molich zegt. Op het moment dat je die shortcuts neemt, dan heb je het gevoel alsof je geleerd hebt.
47:36
Dus als jij een gesprek hebt met een AI over een onderwerp, je hebt het gevoel dat je leert, maar hij zegt: uit onderzoek blijkt dat als mensen, uhm, AI gebruikt hebben bij het leren door in gesprek te gaan, gewoon met je standaard prompt van: je bent een behulpzame assistent, dan leren ze 20% minder dan als ze, uhm, andere methoden gebruiken.
47:56
Wat moet je dan zeggen? Je moet, uh, dat ding, uh, neerzetten als een, uh, bijlesleraar buiten de klas. Dit is wat hij zegt. Dus je, prima dat je het gebruikt als bijles buiten de klas en dan inzet als tutor.
48:09
Dus je zegt tegen dat ding: je gaat mij geen antwoorden geven, je gaat mij vragen stellen, bijvoorbeeld. In ieder geval niet het antwoord geven op de vraag.
48:17
Het is proberen het in stapjes op te hakken, jou stimuleren kritisch na te denken. Daar kun je AI's prima voor gebruiken.
48:24
Dat i, dat kan ook heel fijn zijn, maar dat moet je doen buiten de klas en in de klas moet je volgens hem doen wat al dertig jaar werkt.
48:31
Discussies voeren, casussen met elka-, uh, met elkaar bespreken, uh, toetsen doen zonder laptop in de buurt en het kritisch denken stimuleren in de groep en daar meer tijd voor nemen.
48:41
Alleen, dat is niet hoe wij ons onderwijssysteem hebben ingericht, waarbij we hele grote groepen studenten in één collegezaal, uh, zaal prakken en dan vervolgens van hen iedere week updates verwachten voor een portfolio wat uiteindelijk ingeleverd moet worden.
48:56
Ja, het is gewoon als je, als jij toetst door schrijfmateriaal te checken, dan ja, de kans is gewoon heel erg groot dat je AI-gegenereerde slop zit te consumeren. En, uh. Maar wacht even.
49:09
Dus hij zegt eigenlijk dat een, een oud onderwijs, uhm, uh, vraagstuk wat al lang is opgelost, namelijk: hoe leer je beter?
49:16
Niet het verplaatsen van informatie van het hoofd van A naar het hoofd van B en dan maar hopen dat dat lukt. Maar, dus daar discussie over voeren, praten, casussen bespreken, et cetera.
49:25
Dat die manier van leren, we weten dat het zo werkt. Al heel lang. Al heel lang. Ja. Dat eigenlijk AI ons ook kan helpen, ons nu met de neus op de feiten drukt en zegt: ga het zo doen. Ja, precies. Dit moet zo.
49:37
AI met de juiste voorinstelling. Juist, precies. En ik, ik, ik zat te denken.
49:41
Wat er heel veel gebeurt is dat, uh, AI vooral op basisscholen en op middelbare scholen het klaslokaal nu in komt omdat ze allemaal Chromebooks hebben. Dus, uh, dat is de standaard laptop waarmee studenten opereren.
49:56
En het valt mij elke keer op dat AI Mode, dat is een, een modus in Google, de zoekmachine, waarbij je in plaats van blauwe linkjes eerst een AI-antwoord gegenereerd krijgt en waar dan een knop achter staat: praat door over dit onderwerp en voor je het weet zit je in Gemini.
50:12
Dat dat standaard nu aan basisschool- en middelbare scholieren in Nederland, iedere keer als zij een laptop gebruiken, in hun gezicht geduwd wordt.
50:20
En dat dus eigenlijk de, die, het tegenovergestelde van wa-wat Mollick probeert te bereiken nu standaard in ons basis- en middelbaar onderwijs zit.
50:30
Sterker nog, ook het tegenovergestelde van wat die scholen zelf proberen te bereiken. Precies. En dus ik heb, ik heb Google gevraagd: hoe zit dit nou?
50:37
Als jij een Chromebook hebt op een basisschool of een middelbare school, kan de school AI uitzetten. En dan zeggen ze dus: dat kan niet.
50:45
Je kunt AI niet uitzetten op inne, op basisscholen en middelbare scholen praktisch gezien in Nederland. Ik vind dit bizar. En, uh, dat, zeg maar, we weten dat het niet goed is voor kinderen dat ze zo leren.
50:58
Uh, op middelbare scholen en op hogescholen en universiteiten is daar steeds meer discussie over. Basisscholen amper. Op middelbare scholen is het ook een heel groot probleem.
51:07
Op hogeschool en universiteit is vervolgens natuurlijk de vraag: als je al je toetsing aanpast, op welke, uh, dus door het AI-vrij te maken eigenlijk, op welke banentoekomst bereid je mensen voor?
51:20
Want de kans is vrij groot dat een toekomstige werkgever van jou AI-gebruik verwacht.
51:25
Hebben wij nou echt de situatie gecreëerd waarin wij basisschooldoe-, uh, kinderen geven we AI-antwoorden zodat ze een spreekbeurt kunnen schrijven. Dan ga je naar het hoger onderwijs en dan willen ze AI juist voorkomen.
51:39
Dan zijn dus de studenten die het beste weten te frauderen met AI, die hebben het meest geleerd over AI. Ja, omdat zij het toch doen.
51:47
Omdat ze het toch doen en daar zo goed in geworden zijn dat ze ermee wegkomen, zeg maar.
51:52
En dat zijn dan de mensen die de hoogste, uh, uh, zeg maar, bovenaan staan bij de arbeidsmarkt, omdat werkgevers graag AI-kennis hebben.
51:59
Ik dacht echt: wat is dit voor een koortsdroom waar we in zijn, waar we in zijn beland? Ja, ik denk wel dat, ik bedoel, het is een beetje vreemde tussensituatie nu natuurlijk waarin je- Dat kan je zeggen, ja.
52:08
Nee, ik bedoel, hier gaan we later ook op terugkijken, van: wat een gekke tijd was dat. Je hebt het veel over interbellum vandaag. Ja, maar, omdat ik denk dat dat heel de tijd zo is.
52:16
Omdat we nu, uhm, het is een beetje, kijk, oké, er gebeurt van alles. Wat doen we? We zetten de websites uit. Er komt AI in het onderwijs. Wat doen we? We zetten AI uit. Dat is de eerste reactie.
52:27
Jongens, even alles uit, even alle lampen uit, dan gaan we weer kijken welke stoppen zijn doorgeslagen. Maar je moet wel naar de meterkast toe en op een gegeven moment alle lampen weer aan gaan doen.
52:34
Hè, de websites moeten weer terug online, et cetera. Dus ook de A-, de AI moet een rol krijgen in het onderwijs. Noem het co-existentie. Hoe leef je samen met een AI en hoe leven we samen met AI in de klas op een manier?
52:46
En ik denk dat, wat je aanraakt, wat Alexander, met de frustratie die erbij komt, eigenlijk zegt, is: wat er nu gebeurt, hè, dus die websites uitzetten, AI uitzetten, uh, doe de stoppen maar uit, dan gaan we kijken waar de, uh, leks, aardlek zit.
53:01
Dat, dat, dat moet niet te lang duren, want anders krijg je dus de hele maffe situatie dat de mensen die zich niet houden aan die tijdelijke regel uiteindelijk degene zijn die daar misschien later weer profijt van gaan hebben.
53:14
Dus ja, wat je volgens mij aanraakt, en, uh, Mollick ook, is: je kunt niet, uh, ervoor kiezen om niet een relatie te hebben tot dit fenomeen. Hè, je moet een manier van samenzijn met dit ding gaan hebben. Ja.
53:29
En dat je dan zegt: ja, dat, die manier van samenzijn betekent geen Chromebooks meer en AI alleen maar buiten de school.
53:35
Uh, dat, maak daar dan een bewuste keuze in en besef je ook: hoe bereid je dan kinderen, jonge, jonge mensen voor op een wereld waarin werkgevers daar nu niet voor aan het kiezen zijn?
53:46
Hè, want ik bedoel, je kunt het wel idealistisch willen, maar je moet ook een stukje voorbereiding doen. En ik vind op zich de,
53:54
uh, eerste schrikreactie en een soort brute force, alles dan maar even uit, begrijpelijk, heb ik empathie voor, heb ik respect voor.
54:03
Maar we moeten wel op een gegeven moment die aardlekschakelaar weer om gaan zetten en het licht aan gaan doen. Het kan niet lang duren, zeg maar. Prachtige metafoor, Hurko.
54:09
Dit is toch wel een, wel een- Hij schudt het uit zijn mouw, hè. Het is gewoon een taalmodel. Waar je bij zit. Als ik nog even reclame mag maken voor het boek. Nederlandse editie heeft mijn voorwoord.
54:15
Ik heb een fantastisch voorwoord geschreven, Hurko. Dat is leuk. Heb je het zelf geschreven, Alexander? Nee, natuurlijk niet. Met AI. Ligt aanstaande dinsdag 27 oktober in de winkel voor €26,50. Geen geld.
54:24
Als je hem meteen in huis wil hebben, dan kun je hem bestellen via POM Press. De link staat in de show notes.
54:28
[muziek] Ik had een gesprek met, uhm, een, uh, journalist die afscheid neemt van NRC over, uh, dit, dit onderwerp eigenlijk.
54:40
Over, uhm, uh, of je, of je het vuur nog wel eigenlijk, uh, of je, of je van Prometheus nog wel kan vragen of hij het vuur even teruggeeft, of een uitvinding nog ongedaan gemaakt kan worden.
54:49
Hoe we omgaan met, met, met, jullie zitten me allemaal aan te kijken. Wat is dat voor vraag? Waar heeft deze man het over? Nee, maar hoezo het vuur uitmaken? Wat is dat, wat? Nee, ik volg je goed. Laat hem even.
54:58
Laat hem even. Bizar. Nou ja, dit is natuurlijk ook als je het hebt over co-existentie, het vraagstuk van hoe gaan we om met een uitvinding die gedaan is, die ons misschien wel de kop kost of in elk geval kan schaden.
55:07
We hebben er niet om gevraagd, om al deze shit. Een uitvinding die niet ongedaan gemaakt kan worden. Ja. Een beetje zoals het vuur.
55:13
Kan je nog van de mensheid verwachten dat wij het vuur teruggeven en zeggen: o sorry, was toch wel een beetje ingewikkeld, laten we maar niet doen. Kan niet. Ik had hier een gesprek over met, uh, Jur de IJsvogel.
55:21
Hij is luisteraar van de podcast, uh, journalist bij NRC en hij neemt binnenkort afscheid met een afscheidsstuk in de krant over de pijn die hij voelt als journalist bij AI.
55:31
En hij vertelde mij, en daarom werp ik dit op, want ik vond dit toch mooi, over de drie narcistische krenkingen. Ik weet niet of jullie ze kennen, maar je hebt de kosmologische krenking. Dat is Copernicus.
55:42
De eerste keer dat de mens echt in zijn ziel pijn had. Ik bedoel, wij hier zittend niet, maar destijds een aantal mensen wel. Misschien nog steeds, namelijk het inzicht dat de aarde niet het middelpunt van het heelal is.
55:53
Dat is de eerste krenking. De tweede is de biologische krenking van Darwin. Dat we erachter komen dat wij niet naar Gods evenbeeld geschapen zijn, maar dat er zoiets als evolutie bestaat.
56:02
En dan de psychologische krenking, de derde van Freud zelf, dat de mens niet volledig de baas is over zijn eigen gedachten, maar dat je zoiets hebt als verlangens en driften en zo. M-hm.
56:11
En hij zei: misschien is er wel een vierde narcistische krenking en dat is de kunstmatige intelligentie. Het besef dat creativiteit en redeneren en intelligentie niet exclusief menselijke vermogens zijn.
56:27
Ja, misschien een stukje, uh, achtergrond voor wat er eerder vandaag gebeurd is. Ik heb een webinar gegeven die heet Anti-slop, waarin ik Alexander heb laten zien en Sam heb laten zien.
56:35
Hoe maak je nou dingen in AI die er minder matig uitzien? Ik heb met heel veel tegenzin ook en enthousiasme gewerkt aan deze webinar. Want voor jullie beeld, wat heb ik laten zien?
56:49
Maak je eigen claymation cartoons, creëer je eigen AI-podcast met, met een, uh, bedje van muziek erachter en instartjes. Uh, uh, de eigen Pixar-films. Uh, het houdt niet op.
56:59
Hoe kan je- De laatste stand van zaken met dingen die mensen associëren met, met creativiteit en met ook hoge creativiteit. Uhm, wat maken de meest recente modellen? De vierde narcistische krenking.
57:11
De schillen vielen van mijn ogen. Ja, dus Alexander, die best wel diep in deze materie zit, zit er wederom bij en mij aan te kijken met een blik van- What the fuck?...is dit nou weer allemaal?
57:21
Uhm, als je dat wilt zien, ga lekker naar die webinar kijken, maar ga er maar vanuit dat dat, uh, wat daar langskwam iets verder weg is van slop dan de meeste dingen.
57:30
Uh, maar, uh, zei Jeroen tegen mij toen ik hem bijvoorbeeld een audiopodcast liet horen waarin iemand op een stukje muziek instartjes heeft, stuurde jij mij: sorry dat ik het zeg, ik heb slecht nieuws voor je, zoiets.
57:42
Ik parafraseer, maar dit is nog steeds slop, vriend. Voor mij was het slop en dat komt omdat ik kon horen. En dat is misschien omdat het mijn vak is, maar ik denk dat luisteraars dat ook kunnen horen.
57:51
Je hoort wanneer iemand iets zegt of leest wat hij eigenlijk niet begrijpt. En dat is een gek concept eigenlijk. Want hoe kan dat? Want wat is praten? Wat is luisteren?
58:02
Ritme, tempo en waar, waar in dat, in die afwisseling van dingen kan je herkennen of de spreker begrijpt wat hij zegt. Maar toch is het zo.
58:10
Ja, het is een beetje bij, ik sta vaak bij concerten, dan zeg ik tegen mijn vriendin: ja, sorry man, maar volgens mij, uh, luisteren ze niet naar wat ze zelf zeggen. Dat kan je herkennen. Ja, ja.
58:20
En dat kon ik herkennen in dat stuk. En dat noem jij dan: ja, het is geen slop meer. En toch denk ik: het is nog steeds slop.
58:26
En daar is misschien het interessante, hè, dus het gaat ook een beetje over de definitie van slop, namelijk is dat de kwaliteit van het eindresultaat, is het niet goed genoeg of het is door AI gemaakt, dus altijd slop, hè.
58:36
Dus, dus, dus belangrijk voor de luisteraar dat je voor jezelf even uitzoekt in welk kamp je zit. Maakt het je niet uit hoe goed het ooit wordt? Ik wil het gewoon van een mens krijgen, hè.
58:45
Uh, het moet niet gemaakt zijn door een algoritme. Of zeg je: ik heb vooral last van slop, niet door wie de auteur is van het product, maar hoe matig het is. En ik denk dat die tweede groep een stuk groter is.
58:55
Sterker nog, ik heb deze webinar ook een beetje gemaakt om die groep, uh, uh, die slop een probleem vindt voor het uiteindelijke eindresultaat uit te dagen van: jongens, het gaat wel steeds dichter bij iets komen wat voor veel mensen te eten is.
59:09
En als ik eerlijk ben, dat zegt iets over de smaak die ik heb als het gaat om audio en podcast. Ik kan dat prima luisteren, waar jij van zegt: ik voel niet dat deze persoon het, uh, daadwerkelijk hoort. De luisteraar
59:23
mag even zelf bepalen. De dreiging van binnenuit. In het verhaal is dat het moment waarop Brussel concludeert dat Washington niet meer te vertrouwen is. Soevereiniteit wordt het nieuwe toverwoord.
59:35
Maar ondertussen gaat AI harder dan ooit. Anthropic gaat in één jaar van ongeveer 1 naar 9 miljard dollar omzet. Eind 2025 schrijven programmeurs in San Francisco het grootste deel van hun code niet meer zelf.
59:50
En in Brussel? Oké, maar het is niet bezield. En dit is omdat het jouw vak is. Ik ben hiervan overtuigd.
59:58
Ik denk dat iedereen die zijn eigen vakgebied in, gespiegeld ziet worden door een AI die het niet 100% onder de knie heeft, die ergert zich.
1:00:07
Maar als dat zo is, wat ik, wat ik van je geloof en aanneem, dan gaan we dus collectief de lat verlagen. Dan gaan we met z'n allen- Nee, die modellen gaan beter worden. Dat kan ook.
1:00:15
Ja, maar je moet het niet bekijken voor wat het nu is. Je moet kijken naar wat dit een jaar geleden was. Je had een jaar geleden, alle, zeg maar, mensen die nu gewend zijn om met ChatGPT Voice te praten.
1:00:25
Goedemorgen, hoe gaat het met jou? Heb jij, waar kan ik je mee helpen? Dat, zeg maar, dat is een oud model. Ja.
1:00:32
Waar we nu, di-, zeg maar, dit Elevenlabs-ding, moet je daar, je moet die, die, de hele tijd moet je bedenken: dit is een logaritmische schaal. Dit is geen, geen, geen, geen lineaire lijn die omhoog gaat.
1:00:44
We zitten te luisteren naar een ding wat eigen instartjes heeft opgezocht op YouTube en het juiste fragment heeft uitgeknipt. Allemaal heel knap. Dat is echt heel knap. Insane.
1:00:51
Het fragment wat ik eerder liet horen is ook helemaal zelf door AI gevonden en uitgeknipt. Superknap, maar hoe kunnen wij leven als mensen in een tijd waarin het, waarin de boodschap is over deze tijd: het is niet goed.
1:01:02
Nee, het klopt allemaal niet, maar het wordt beter. We leven nu, dus dan leven we niet in het nu. Nee, maar jongens, laat ik hem, laat ik hem even platslaan, hè, want kijk, uh Één.
1:01:11
Er wordt één ding beweerd eerder in de aflevering. Dat is dat we zeggen: deze Pandora's box kan niet meer dicht. De doos is open, de geest is uit de fles, hè. Deze hele oude fabeltjes zijn niet voor niks bedacht.
1:01:24
Ze hadden al een idee toen. Ja, geest uit de fles, doos open. Uhm, ik spreek nog mensen geregeld die zeggen: de doos kan nog dicht.
1:01:33
Dat jij, want jij, jij zat echt net te kijken, Alexander, toen je d-die optie nog besproken wordt. Ik denk: wie zijn dit? Stuur terug.
1:01:39
Ja, nou ja, goed, laten we er gewoon even van uitgaan dat de doos niet meer dicht kan.
1:01:43
Ik denk dat, oké, dan is de vraag: oké, nu de doos open is en wat er uit die doos komt, de geest wordt steeds slimmer, knapper, uh, mogelijk steeds meer bezield, hè, mogelijk, uhm, dat eigenlijk Alexander zegt: jongens, je kunt nu die zesde vinger gaan zoeken.
1:02:00
Je kunt weer het kuchje aanwijzen. Je kunt weer als wiskundige zeggen: hè, de papers zijn matig geschreven.
1:02:06
Iedere, uh, expert, vakidioot kan op het allerhoogste niveau aanwijzen het slop deel, het, de slop dimensie van de output.
1:02:15
Daar kan ik vanuit pragmatisch oogpunt, wat bedoel ik daarmee, uh, wat gebeurt er in de samenleving, tegen je zeggen, los van of de lat verlaagd is. De lat was misschien al lager dan jij dacht, Jeroen.
1:02:27
Ik denk dat voor heel veel mensen dit gewoon een luisterbare podcast is geworden. Niet AI-report, maar wat die, uh, ElevenLabs stem jullie net vertelde. Hè, dus is het de lat die lager is?
1:02:35
Of schrik jij eigenlijk van de lat? Want dit is gewoon, deze milkshake, dit eten, die man die je net hoorde is voor mij lekker. Ik kan hem, ik kan hem eten en ik kan hem luisteren.
1:02:45
Ik zal je eerlijk zeggen, die aflevering duurt 20 minuten. Ik heb hem helemaal geluisterd. Ik vond het fascinerend.
1:02:50
Niet alleen voor de, dat ik wist hoe het gemaakt was, maar ik dacht echt: zo, ik moet die essay nog eens lezen, want dit heeft hij echt leuk verteld.
1:02:56
Uhm, ik denk dat, uh, als de doos niet meer dicht kan, wat ik denk dat hij niet meer kan, en de, de lijn, laten we zeggen dat hij niet eens exponentieel is, maar gewoon lineair doorkruipt richting een acht.
1:03:09
Ja, en op sommige punten is hij al een acht. Jij noemt het een 7,5. Is prima. Jouw acht ligt ergens anders.
1:03:15
Dat we op een punt komen met elkaar, sommigen morgen, anderen over twee jaar, waarop al die verschillende menselijke kwaliteiten als het gaat om output in media, dus stukken tekst, stukken wiskundige formule, academische papers en podcasts maken, alles wat een deliverable heeft, zal uiteindelijk saturated raken.
1:03:34
Alle benchmarks will be saturated als het gaat om, uh, output. Niet over kan e-, voelt een kind liefde uit een robot, hè, kunnen we een uur over praten, maar gewoon dat. Maar Bos' punt is: hij voelt rouw. Nou.
1:03:46
Of die narcistische krenking. Ja, hij is gekrenkt. Je bent gekrenkt. Krenking. En eigenlijk, ja, laat deze podcast dan beginnen met mijn coming out als programmeur. Ja, dan is dit mijn coming out als mens.
1:03:57
En volgens mij is dat, ja, volgens mij is dat oké. Volgens mij is het oké om gekrenkt te zijn. [muziek] Tot zover. We danken Numbers, PostNL en CM.com die deze aflevering mogelijk maken.
1:04:10
Dank aan Samminge Veld voor de edit, Pancra voor de vormgeving. Als je een lezing wil van Deirhagen of van mij, dan kan dat. Mail ons op lezing@aireport.email.
1:04:18
Wil je jouw bedrijf in AI-report, dan kun je de podcast of nieuwsbrief sponsoren. Dan kijk je op sponsor.aireport.nl.
1:04:24
En als je twee keer per week op de hoogte wil blijven van de laatste tips en tools rondom AI, dan abonneer je op onze nieuwsbrief via aireport.nl. Wij zijn er volgende week weer.
1:04:33
Ik kan me geen betere mensen bedenken om samen deze gekrenktheid ook mee te vieren, hoor. We dragen het. Ook fascinerend. Ja, we vieren het en we dragen het met elkaar.
1:04:40
Je zegt eigenlijk dat wij een ziel hebben, hè, dus dat vind ik heel tof. Holy shit, jullie zijn één brok ziel. Net als jullie luisteraars. Dank voor het luisteren. Tot ziens.
1:05:04
[muziek]