Latest / AI Report / Waarom heel Silicon Valley praat over AGI + Gemini 2.5 op codetroon + 3 miljard voor Windsurf | AI Report

Transcript

Waarom heel Silicon Valley praat over AGI + Gemini 2.5 op codetroon + 3 miljard voor Windsurf | AI Report · AI Report

• 0:00
  Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.
• 0:10
  We gaan het hebben over het meest controversiële onderwerp denkbaar op het gebied van AI: Artificial General Intelligence, AGI. Een intelligent computersysteem dat alles kan wat een mens kan en misschien wel meer.
• 0:23
  Denk aan een machine die niet alleen kan schaken of foto's kan herkennen, zoals we inmiddels wel gewend zijn, maar ook zelfstandig sollicitatiegesprekken kan voeren, romans kan schrijven, wetenschappelijke doorbraken kan forceren en zelfs een heel bedrijf kan runnen.
• 0:36
  Allemaal tegelijkertijd en allemaal beter dan dat wij dat kunnen. En met wij bedoel ik dan: wij mensen.
• 0:43
  En het land dat als eerste AGI ontwikkelt, verwerft mogelijk een onoverbrugbare voorsprong in economische groei, militaire capaciteit, soevereiniteit.
• 0:54
  En in Silicon Valley spreken ze niet langer over of we AGI zullen bereiken, maar wanneer. En steeds vaker hoor je: binnen drie jaar. Het leidt tot grote vragen.
• 1:06
  Wat gebeurt er als machines alle taken kunnen uitvoeren waarvoor we nu nog onze hersenen gebruiken? En als intelligentie niet langer uniek menselijk is, wat definieert ons dan nog? Dit is AI Report.
• 1:21
  [muziek] Wietse, volgende week ben jij jarig. Ja, absoluut. 13 mei. En om dat te vieren houden wij een webinar voor jou.
• 1:40
  [lacht] Hier wordt keihard gewerkt. Hier wordt heel hard gewerkt. Ondanks dat het jouw verjaardag is, gaan we een webinar doen.
• 1:45
  Dat is onze maandelijkse kans om met jullie te praten, uh, de luisteraar, en de kans voor de luisteraar om ons vragen te stellen.
• 1:54
  Normaal gesproken, ja, Wietse en ik praten wel, maar je kan niet terugpraten en tijdens een webinar geven we jou, luisteraar, de kans om terug te praten, vragen te stellen aan mij of aan Wietse.
• 2:04
  Uhm, een uurtje in Zoom-sessies. Dat is elke keer hartstikke gezellig. Zeker. Uh, hoe hoeveel mensen deden de vorige keer mee? 300? Echt fucking veel mensen. Ja, als zou- En die zitten dan, dus i-iedereen doet dan mee.
• 2:16
  Meestal ti-tijdens de lunch, dus, uh, ja, sommige mensen het bammetje te eten, is allemaal oké. En dan tijdens, in de chat kun je vragen stellen en kun je op elkaar reageren. Dat gebeurt ook de hele tijd.
• 2:26
  Heel gezellig, best wel leuk. Ja, er worden ook vragen beantwoord door- Door de community. Ja, wat doen wij hier eigenlijk? Maar die, uh, je kan ook elkaars vragen upvoten.
• 2:34
  Dus de vragen die het meest, uh, geüpvoted worden, die worden beantwoord door ons, want die werken we op volgorde af. Uhm, daar kun je bij zijn als je betaald abonnee bent van onze nieuwsbrief AI Report.email.
• 2:47
  Uh, als je dat al bent, dan krijg je in de loop naar het webinar op 13 mei een link in je e-mail. En als je daar bij wil zijn voor het eerst, dan kun je nu abonnee worden via AI Report.email/webinar.
• 3:00
  Goed, we gaan naar het nieuws. [muziek] Google heeft een nieuwe versie van Google's Gemini 2,5 Pro uitgebracht en die staat nu op nummer één in allerlei, uh, coding benchmarks.
• 3:12
  Dus we hebben een nieuwe koning als het, koning, keizer, admiraal als het gaat over programmeren, Wietse. Was dit schokkend nieuws voor jou? Nee, niet helemaal.
• 3:20
  Het is wel zo dat, want Gemini 2.5 was eigenlijk al, want dit is een soort 2.51. Het is, deze verwarring is niet alleen bij jou. Erger en erger. Want dit is dus de IO edition.
• 3:30
  Ik zeg hem even helemaal: de IO edition van Google's Gemini 2,5 Pro. Nou Jezus, [Wietse gniffelt] als het nog erger hadden kunnen maken, is dat hierbij gelukt. Ja, dus, hier, hier hangt dan weer zo'n datumlabel aan.
• 3:42
  Ik moet wel zeggen bijvoorbeeld GPT-4o heeft tegenwoordig ook van die datumlabels en dan kunnen ze ook een snapshot terugzetten. Ook dit is dus een versie 2.5 met ook nog eens een datumversie. Waarom besluiten ze dat?
• 3:52
  Omdat ze dan vinden dat ze niet genoeg hebben, echt een nerd. Ze hebben niet genoeg veranderd, om er, wat hier niet waar is, denk ik. Ik had gewoon gezegd: maak er gewoon 2.6 van of noem het 2.5 coder of whatever.
• 4:03
  Ja, ja. Want, uhm. Het is wezenlijk. Het is wezenlijk, uh, niet alleen in de benchmarks, maar ook in het gevoel, in de vibe als je ermee werkt. Want? Nou, uhm,
• 4:13
  deze taalmodellen worden nu heel vaak ingezet in tools als Cursor of Windsurf of Lovable. En, uh, die tools, die hebben dan een hele scaffolding eromheen gebouwd.
• 4:22
  Oftewel extra prompts, extra trucjes om wat dat taalmodel teruggeeft weer te verwerken in acties binnen zo'n editor. Dus bijvoorbeeld: je zit in Cursor en je zegt: joh, ik wil dat jij een animatie toevoegt.
• 4:35
  Dan zegt het taalmodel: is goed, hier heb je de stukjes, je als in Cursor, niet jij, die je moet aanpassen voor de gebruiker, zeg maar. D-dan heb je, is eigenlijk een soort onderonsje tussen het taalmodel en Cursor.
• 4:46
  En die onderonsjes, die gaan niet altijd goed, omdat die taalmodellen dan de verkeerde stukjes teruggeven, of dubbele stukjes of hele stukjes missen. En, uh, ja, dat heet dan eigenlijk diff'ing, hè.
• 4:57
  Dus wat, je hebt een verandering tussen wat er stond en wat er inmiddels bedacht is. En, uh, die manier van onderling kletsen tussen taalmodel en tools als Cursor is substantieel verbeterd in Gemini 2.5, 2.6, whatever.
• 5:12
  Uh, de IO update. De IO, de IO edition. Ja, en hoe, edition, sorry. En hoe merk je dat?
• 5:19
  Uhm, het kan zo zijn als jij met Cursor-achtige tools werkt, dat ie vaak even opnieuw begon omdat ie zei: ja, sorry, ik weet wat ik moest doen, maar ik kan hier niks mee. Ik vraag het nog wel een keer.
• 5:29
  En dat soort van nog een keer vragen of in cirkeltjes gaan draaien, dat is substantieel verminderd en dat is prettig. Ja. Dus klinkt misschien als iets kleins.
• 5:37
  Alleen als jij wel gewoon de hele dag assisted coding doet, dan ben je dit gaan voelen en dan ben je je ook gaan irriteren en dan ben je vaak weer terug gaan switchen naar Claude van Anthropic, die wel heel goed is in dat diff'en en GPT-4.1 die specifiek ontwikkeld is hiervoor.
• 5:52
  Oh. En dit is eigenlijk de, om het nog complexer te maken- Is hij specifiek ontwikkeld om samen te werken met van die vibe coding tools? Het is een, hij is een betere coding agent. Mm.
• 6:00
  Ja, dus hij is- Breder dan vibe coding, zeg maar, om programmeurs te helpen.
• 6:04
  Ja, en ik, dat heeft dan te maken met, en dat is ook het bruggetje straks naar Windsurf, uh, door OpenAI gekocht, datUh, in de statistieken van Anthropic, OpenAI en Google heel duidelijk naar voren komt dat de eerste echte killer app voor taalmodellen is programmeren.
• 6:20
  Oké, want ik denk de hele tijd, ik neem de hele tijd aan dat ze dat programmeren beter maken omdat zij daarmee hun eigen taalmodellen beter kunnen maken.
• 6:28
  Maar je denkt wel dat ze het maken voor een eindgebruiker die programmeer, programmeur is, dat daarvoor de waarde er is.
• 6:35
  Ja, net als dat, kijk, Amazon bijvoorbeeld weet heel goed wat er verkocht wordt op hun platform en als het heel goed verkoopt, nemen ze of dat bedrijf over of ze gaan het product onder Amazon Basics zelf aanbieden.
• 6:44
  Deze statistieken zijn er ook bij de grote, uh, taalmodellenmakers. Mhmm. En die zien natuurlijk dat er heel veel geld wordt, uh, uh, uitgegeven aan bijvoorbeeld Cursor. Ja.
• 6:54
  Uh, en dat bijvoorbeeld Windsurf enorme bedragen overmaakt naar OpenAI. En dan ga je natuurlijk nadenken: oké, maar wacht even, als dit is- Die zien het in hun API, uh, gebruik. Absoluut.
• 7:03
  En, en, en daardoor weten zij van: hé, om die tokens te verkopen, want uit-uiteindelijk zijn het tokenboeren, hè. Ze verkopen gewoon tokens. Ja, uh, kunnen we heel veel verkopen aan programmeurs.
• 7:14
  Oké, uh, een stapje verder op het gebied van, uh, uh, ja, een soort van, uh, code die geschreven wordt door AI. Dat is sowieso een hot topic inderdaad door de overname van Windsurf door, door OpenAI.
• 7:27
  Misschien een beetje context eerst. Microsoft rapporteert op dit moment dat 20 tot 30% van de code die ze zelf schrijven met AI gegenereerd is. Bij Google rapporteren ze meer dan 30%.
• 7:37
  Dat zijn grote bedrijven die aanzienlijke delen van de code die geschreven wordt in die bedrijven, toch een beetje de dingen is wat wij, wat zij doen, uh, geschreven wordt door AI, in dit geval hun eigen modellen.
• 7:47
  We kennen van, uhm, uh, Y Combinator, een grote, ja, hoe zeg je dat, investeerder in Amerika, dat heel veel van hun startups, uh, grote delen van hun codebase schrijven met, met AI dus.
• 7:59
  En dat zijn cijfers waarbij deze cijfers van Microsoft en Google ook nog eens, uh, verbleken. Er is dus iets aan de hand met betrekking tot het, ja, uh, programmeren door technologiebedrijven met hun eigen AI's.
• 8:11
  En dat is nu verder uit de hand gelopen door de overname van Windsurf door OpenAI voor $3 miljard. Wat is Windsurf iets, uh? Eigenlijk is Windsurf een soortgelijke tool aan Cursor. Wat was Cursor ook alweer?
• 8:24
  Een, uh, nou, eigenlijk een IDE. Het is een plek waar jij als programmeur thuis bent en jouw code in schrijft. Ja. Zie het als een soort Word voor programmeurs. Ja.
• 8:32
  Uh, specifiek toegespitst op, uh, prettig kunnen programmeren.
• 8:35
  En, uhm, eigenlijk is op een gegeven moment, uh, Visual Studio Code van Microsoft, een hele populaire open source door Microsoft Editor, geforkt in allerlei variaties, andere smaakjes. Cursor is daar een smaakje van.
• 8:47
  Die, die staat op de schouders van Visual Studio Code en, uhm, Windsurf is, uh, ook een smaakje. En eigenlijk, uhm, z-zitten in die tools.
• 8:57
  We hebben het, we hebben het eerder wel eens gehad over wrappers, als in het hele idee dat, uhm, de taalmodellen zijn een soort, uh, base technology, hè, een soort halffabrikaat en daarbovenop bouw je dan lagen.
• 9:08
  En dat kan je cynisch zien als zeggen: joh, jouw startup is niks meer dan een wrapper.
• 9:11
  Maar goed, daar worden aan de andere kant ook, uh, uh, kritieken gemaakt of grappen gemaakt van: ja, was software niet ook altijd al een wrapper voor een Intel processor? Dus doe nou niet zo mal met je wrapper gedoe, hè.
• 9:20
  We waren altijd al aan het wrappen. Ja. Nou, uhm,
• 9:24
  dan kan het dus zo zijn dat de, uh, ja, wat dan scaffolding heet, hè, dus eigenlijk het werk, een duurder woord voor wrapper, wat je om een taalmodel heen doet, dat dat substantieel is.
• 9:34
  Want Windsurf leunt uiteindelijk zeer zwaar op hele sterke taalmodellen. Maar het is leuk als jij een gebruiker in een soort DOS terminal gooit, wat ChatGPT op dit moment gewoon nog is.
• 9:46
  We zitten weer in een terminal, uhm, zou je ook een gebruiker- Je bedoelt te zeggen: we zi-, we zijn in het tijdperk waarin, uh, iOS apps op je iPhone er allemaal prachtig uit zijn, uitzien en heel gebruiksvriendelijk gemaakt zijn.
• 9:57
  En opeens zitten we met z'n allen massaal weer te kijken naar een knipperende cursor op een wit of zwart scherm. Absoluut. En, j-j-je zegt: dat is tijdelijk. Ja, en dus daar komen die, die lagen overheen.
• 10:07
  Waaronder die programmeertools waar je dus, ja, een, een iets meer ge-gespecialiseerde interface krijgt om je eigen apps te maken.
• 10:16
  Ja, want je wil een voorbeeld van die app en je wil dat er, uh, bestanden bewerkt moeten worden, dat dat ook kan en dat het hele, de, dat de hele codebase lokaal gescand kan worden, dat er precies op tijd stukjes ingeladen kunnen worden.
• 10:26
  Dus, je, zie het als een soort helper- Ja. Om die modellen heen. Ja. Dat, hè, dus dat klinkt- En blijkbaar ook wel, uh, significant, want dat ze 3 miljard betalen voor die tool. Ja.
• 10:37
  Jeetjemina, het is, zeg maar, het is, uh, j-jij zegt: het is een wrapper, uh, en dat ben je tegelijkertijd aan het upscalen naar: dat is wel wezenlijk.
• 10:46
  Maar wat, wat doet zo'n, wat doet zo'n Windsurf nog meer dan een andere interface aanbieden of een taalmodel? Ja, er zit, uh, het is eigenlijk een bag of tricks, zeg maar.
• 10:54
  Dus er zit allerlei kleine helper tooltjes in eigenlijk. Multi wrappers, whatever we dit noemen.
• 11:00
  Een heel gala aan trucjes en uitvindinkjes, hè, van, uh, want op een gegeven moment worden daar natuurlijk ook innovaties gedaan van: hoe, hoe zorg je nou dat het programmeren samen met, want dat doen we pas heel, uh, recent, samen met een taalmodel, uh, prettig wordt en stabieler wordt en, uh, minder buggy wordt, et cetera.
• 11:19
  Daar hebben zij wat innovaties in gedaan.
• 11:20
  Ik moet zeggen dat ik door de, door het bedrag en het feit dat OpenAI ze over heeft genomen, want dit, dit draait, dit, dit rollertje draaide al een, of waaide al een tijdje rond. Ja. Ik dacht: het zal wel.
• 11:31
  Nu het dan daadwerkelijk gebeurd is, ga ik dus denken: ben ik, is het nou zo'n on-- enorme bubbel of snap ik het niet? Nou, het zit ergens in het midden. Dat het zo'n hoog bedrag is, bedoel je? Ja.
• 11:38
  Voor, voor wat het waard is qua technisch vernuft. Ja, en dat, dat, uh, OpenAI, uh, bij monde van Sam Altman heeft gezegd: wij vinden het helemaal niet erg om een halffabrikaat te zijn.
• 11:50
  Wij vinden het heel prettig dat er allemaal bedrijven worden gebouwd op onze base models. Mhmm.
• 11:55
  Wij zijn niet een product company als in: we hopen dat er een betere deep research gebouwd wordt die dan OpenAI gebruikt en dat iedereen daarheen migreert. Mhmm. Wij, wij hoeven niet al die tooltjes te maken.
• 12:06
  En wat doen ze? Kopen ze Windsurf. De enige manier hoe dat voor mij uit te leggen is, is dat- Strategisch. Nou, als, als Sam Al-- precies.
• 12:13
  Als Sam Altman zegt: ikIk zou het liefst hebben dat er een explosie is aan software die gebruik maakt van de OpenAI base tools.
• 12:20
  Dan is het natuurlijk heel goed, verstandig om een stuk software aan te bieden waar je software mee kan maken, namelijk Windsurf.
• 12:27
  Dus dan creëer je eigenlijk, ik ga even snel, maar je creëert als het ware de betere infrastructuur voor jouw third party developers in de hoop dat ze dat dan ook allemaal op jouw grondlaag gaan doen.
• 12:38
  Ik snap dat niet, want het is toch niet omdat, omdat Windsurf nu van OpenAI is, dat er meer op OpenAI infrastructuur gemaakt gaat worden? Dat is toch, het is een, een, het is een programmeerapp.
• 12:48
  Je kan ermee programmeren. Het feit dat het bestaat is toch genoeg? Wat, hoe?
• 12:51
  Stel nou dat, nou stel dat, dit, nu gaan we richting, uh, uh, grote speculatie natuurlijk, maar stel dat zij het aanpakken, want OpenAI is tot nu toe best stiekem een goede product company, als in, ze weten het best wel, uh.
• 13:01
  Ze maken mooie appjes. Ja, het is best wel gelikt allemaal en het landt goed, vaak bij eind, eindgebruikers en dat is moeilijk. Zie die hype rondom die plaatjesgenerator.
• 13:09
  Dat bestond al, al tijden bij andere bedrijven, maar het, het komt pas echt aan bij de meeste mensen als OpenAI in hun uitvoering dat op de wereld zet.
• 13:18
  Ja, dezelfde, dus stel er komt een, uh, uh, Windsurf wordt hernoemd naar OpenAI Coder of zo. OpenAI Playground, noem het, geef het een toffe brand of Surf, whatever. Een iPad-app waarop kinderen apps kunnen maken.
• 13:29
  En die apps draaien allemaal op OpenAI. Ja.
• 13:31
  En ik bedoel, bij die, met die laatste heb je toch het antwoord, dat jij, de apps die gemaakt worden in die tool zijn apps die ook nog eens gebruik maken van OpenAI infrastructuur. Ja.
• 13:40
  Hè, dus, en dan heb ik het dus niet over de simpele apps waarin een, uh, getalletje wordt weggeschreven in een database. Ja. Maar waar ook weer, om even helemaal meta te gaan, AI-apps zijn. Ja.
• 13:51
  Hè, dus als mensen low coding, vibe coding appjes gaan maken, dat ook weer AI-appjes zijn. En die tool kiest dan standaard voor de meest bruut goed geïntegreerde OpenAI-onderlaag.
• 14:03
  Dan zou OpenAI op die manier mee kunnen, uh, uh, varen en een soort push kunnen geven van: wij zijn helemaal niet per se bezig om de hele dag bestaande programmeurs te overtuigen van onze tooling. Nee.
• 14:14
  Dit is helemaal niet voor jullie. Nee. Dit is namelijk voor al die mensen die nu in Cursor zitten, die daar een soort half in paniek rond aan het klikken zijn, want het is helemaal niet gebouwd voor hun.
• 14:21
  Fucking ingewikkelde app. Ja, en ik denk, dit sluit mooi aan op de eerdere gesprekken die wij hebben gehad. Dat ik live in de podcast me besefte dat ik gewoon een snob ben.
• 14:31
  Een, een developersnob die eigenlijk niet beseft dat die Cursor tool, en dat snapten ze bij Cursor destijds ook niet en bij Windsurf ook niet, maar bij Lovable al beter, want die website is veel meer ingericht voor, je hoeft alleen maar een taal, kan je, spreek je Engels, dan kan jij programmeren, zeg maar, kan je software maken eigenlijk.
• 14:47
  Uhm, dat ik me voor kan stellen dat die, dat OpenAI meer in een Lovable richting gaat, waarin het voor hun heel prettig is dat die appjes die daar allemaal uitkomen ook nog eens gebruik maken van de onderliggende OpenAI-laag.
• 15:00
  En ik denk dat het op zich ook prima intern wel te berekenen is dat als zij zeggen, en nu, nu, dit, dit, dit verzin ik ter plekke, maar: 20% van de tokens die wij verkopen zijn voor programmeren.
• 15:13
  Misschien moeten we zelf zo'n tool maken waar we het goed in integreren. Dan kunnen we daar weer- Extra geld verdienen. Ja, ja, ja, ja, ja. Gewoon weer een extra abonnement.
• 15:21
  Ja, dus ik denk, als er intern een memootje rondging: zullen we een van die code editors kopen? Dat je best wel een lijstje met voordelen had kunnen verzinnen. Oké, prima.
• 15:30
  Dan is er nog een, ten slotte een aankondiging van Mistral geweest. Ze introduceren Medium3, een model dat niet alleen 90% van, ik neem nog even het persbericht.
• 15:38
  Een model dat niet alleen 90% van de prestaties van, uh, Claude Sonnet 3.7 evenaart.
• 15:43
  En dat is een, nou ja, toch ook wel een model wat veel gebruikt wordt om te programmeren, maar wel duur is, maar ook Meta's recente Llama 4 Maverick overtreft op de populaire benchmark met een prijskaartje, en dat is dan de relevante, het relevante punt, van € 0,40 per miljoen input tokens.
• 15:59
  Dat is blijkbaar goedkoop, Wytse. Ik ken de prijslijst op dit moment niet uit mijn hoofd moet ik je eerlijk zeggen, maar dat is blijkbaar goedkoop. Uh, heb, heeft, heeft dit iets met je gedaan? Het nieuws van Mistral?
• 16:10
  Is het 'm? Ja. Ja, wel? Sterker nog, ik heb het, het draaiboek ingefietst. Want, uh, kijk. Dan ga ik toch even rechtop zitten. Ik denk, ik doe altijd Mistral omdat het moet, denk ik altijd.
• 16:19
  Nee, want wij zeggen altijd Claude, want dat zeiden wij vroeger, om dat, dan, dan dachten we dat het Fransen waren, maar dat zijn gewoon Amerikanen. Dat zijn Amerikanen. Dit zijn Fransen. Ja, ja.
• 16:27
  Dus als DeepSeek nieuws is, dan is dit in ieder geval een klein beetje nieuws. Ja, geopolitiek is het boeiend. Ja, want er is nu een model dat, nou, ik zou dan gelijkstellen aan GPT-4o.
• 16:37
  Dat Claude, heb ik ook, ik heb de benchmarks gezien. Ik vind het al prima dat we nu een in Europa ontwikkeld model hebben, beschikbaar op Europese servers dat gelijkstaat aan 4o.
• 16:46
  Oké, ja, als je het zo zegt begrijp ik het. En is het dan even duur? Zelfs nog iets goedkoper. Goedkoper. Ja. Ja. Dus dat is, het scheelt allemaal niet zo heel veel, want ik, wij, wij zijn geen tokenboeren.
• 16:56
  Maar ik, ik denk uiteindelijk dat, uhm, ik heb tot nu toe vaak, als, ik word wel eens om advies gevraagd. Iemand zegt: ik wil het in Europa draaien.
• 17:03
  Zeg ik: nou ja, je kunt OpenAI-modellen draaien in Europa en ook Anthropic-modellen, maar, uh, dat zijn wel Amerikaanse modellen bij Amerikaanse bedrijven.
• 17:11
  Als jij het echt gaaf vindt om een in Europa ontwikkeld model te draaien bij een Europees bedrijf, dan moet je naar Mistral. Alleen dat, dat. Le Chat. Maar daar was niet zoveel in verhouding met wat we nu.
• 17:19
  Dat was echt heel slecht. En 4o is natuurlijk wat mensen gewoon, dat is wat een groot, grote meerderheid van de mensen gewend is.
• 17:25
  Als het gaat om ChatGPT hebben ze niet door dat ze stiekem met 4o aan het praten zijn, maar dat is natuurlijk wat de meeste mensen gebruiken.
• 17:30
  Dus dan eigenlijk is er nu geen reden meer voor die mensen die 90% van hun, of 100% van hun gebruik met GPT-4o doen, om niet Le Chat te gebruiken. Nou, ik had dus een paar berichtjes gestuurd gisteren.
• 17:41
  Naar Le Chat [beide lachen] of wat? Absoluut. Ja. Nee, naar mensen. Oké, anderen. Naar levende mensen. Want ik zei van: joh.
• 17:49
  Die hebben dan gevraagd, net, die zijn, die zeggen dan: Wytse, zijn jaloers, uh, net als dat jij bent op Alexander dat hij een personal coach heeft gebouwd of daar lekker mee kletst.
• 17:58
  Uh, ja, want jij durft dat en ik durf dat dan niet zo goed en ik ga dat iets meer durven bij, uh, Mistral. Iets, ietsje meer, zeg ik dan. Dus die vrienden heb ik geappt van: joh, uhm. Er is goed nieuws. Ja, we. Le Chat.
• 18:11
  Ja, als jij [beide lachen]. Dat is goed, hè? Wij gaan het gewoon promoten, man. Dit is toch helemaal goed? Ik ben ook bereid een T-shirt te dragen van Le Chat.
• 18:18
  Dat heeft toch, dat heeft geopolitiek, heeft dat, voelt dat allemaal heel erg goed. Onderaan de website van, uh, uh, Mistral [lacht] zit een, uh, heel klein bewegend 8-bit katje nu en ik vind het helemaal cute.
• 18:28
  Ze hebben een nieuwe front page. Geef ze weer even een kans. Dat is gewoon mijn verhaal. Mijn verhaal eigenlijk. Ja.Nee. Die Fransen hebben gewoon iets gaafs gemaakt.
• 18:35
  Voelt een beetje alsof, zoals, wat kun je ook alweer gebruiken als je geen Word of Google Docs wil gebruiken, maar dat open source ding? OpenOffice. Als je OpenOffice wil gebruiken of een van die andere. LibreOffice.
• 18:46
  LibreOffice. Je hebt allemaal, je hebt, hoe heet dat andere ding? Want iedereen had het op zijn server. Nou, doet er verder niet toe. Nu is het wel zo. Dan moet ik even. Een beetje dat.
• 18:54
  Ja, maar vooralsnog zijn de weights, oftewel het feit dat het open is, dan nog niet gereleased. Dat is een beetje nieuw, want we zijn Mistral gewend als ook nog een lab die het meteen op GitHub uitgooit.
• 19:05
  Gaat nog komen, mogelijk, vraagteken. Maar goed, in ieder geval, er staat wel een linkje bij met: wil je dit on-premise draaien, oftewel je hebt je eigen hardware, stuur ons even een mail.
• 19:13
  Dus als jij als bedrijf of organisatie luistert en je wil eigenlijk altijd al GPT-4.0 op eigen infra draaien, dan kan jij nu gewoon mailen met die jongens van Mistral. Best wel vet. Hoe bedoel je gewoon mailen?
• 19:23
  Dan kan je het krijgen. Nou, niet zomaar in een zipje, maar dan zijn er afspraken te maken. Ja, precies, voor enterprise. Krijgen is het verkeerde woord. Ja. Nee, maar ik snap het. Je kan het kopen als groot bedrijf. Ja.
• 19:33
  Oké. Vorige week was het nieuws dat ChatGPT was veranderd in een slijmjurk sinds een, sinds een update. Daar heb jij het met Milou over gehad en die update is teruggetrokken door OpenAI.
• 19:43
  En dat confronteert ons natuurlijk wel weer met, ja, onze manier van omgaan met chatbots. Wij als mensen tegenover de robots. En het zet ons weer aan het denken over concepten als betrouwbaarheid en weerbaarheid.
• 19:56
  En in de nieuwsbrief van deze week, AIReport.email, dat is onze nieuwsbrief, delen we negen principes waarmee je jezelf kan wapenen tegen valse of misleidende informatie van taalmodellen.
• 20:05
  Het zijn dus negen manieren die je zelf in de praktijk kan brengen om ervoor te zorgen dat de informatie die je uit AI-modellen krijgt betrouwbaar zijn. Als je die tips wil lezen, dan ga je naar AIReport.email.
• 20:16
  Straks gaan we het hebben over AGI, maar eerst zijn hier Marjan en Lucas van Dept. Die delen iedere week inspirerende cases uit de praktijk voor het inzetten van AI op het werk.
• 20:24
  En deze week vertellen zij hoe AI hen helpt bij het samenwerken met nieuwe klanten. [muziek] Hoi, ik ben Marjan van marketing- en techbureau Dept.
• 20:35
  Elke week bespreek ik met mijn collega Lucas hoe wij merken helpen in de wondere wereld van AI. Deze week: AI-onboarding.
• 20:42
  Want wij als bureau hebben natuurlijk regelmatig te maken met dat we mensen moeten onboarden voor nieuwe projecten. En ook aan marketingkant heb ik daar vrij veel mee te maken. Lucas, hoe kan AI hierbij helpen?
• 20:52
  Ja, inderdaad, we komen dat agency natuurlijk geregeld tegen als we worden geonboard op nieuwe klanten en projecten. En voor developers hebben we nu een programma ontwikkeld die ze helpt om die onboarding te doen.
• 21:01
  Dit doen we door verschillende documentatie up te loaden. Denk bijvoorbeeld aan documentatie vanuit Confluence of een stuk codebase of andere documenten die belangrijk zijn.
• 21:10
  En op basis van de rol die iemand gaat spelen op een project, dus het is een ander soort vorm om het heel simpel te houden voor een frontendder of een backendder, wordt er een programma gegenereerd.
• 21:17
  Die kan bestaan uit podcasts die je bijpraten over de achtergrond en waar ze staan, tot code deep dives om je vertrouwd te maken met de code. Kleine oefeningetjes zijn daar af en toe ook onderdeel van.
• 21:28
  En op die manier kan een developer heel erg, veel meer zelf aan de slag om vertrouwd te worden met het project en met de klant, voordat die weer heel veel tijd vragen van werknemers van die klant zelf. Ja, oké.
• 21:41
  En waarom is dit dan belangrijk? Nou, we weten gewoon dat onboardings heel veel tijd kosten, zowel van onze mensen als van onze klanten.
• 21:47
  En ik denk dat ook iedereen, het ook bekend is, want jij hebt het al aangehaald met die marketingkant, ook aan je eigen werknemers.
• 21:52
  Een nieuwe werknemer kost gewoon heel veel tijd om in te werken en we weten ook dat daardoor de kwaliteit heel vaak heel wisselend is. Want je hebt niet altijd de tijd en aandacht misschien die nodig is.
• 22:01
  Nou, door deze AI in te zetten heb je gewoon een heel goed vast programma waar je kan werken en kun je de momenten eromheen gebruiken om echt vragen te beantwoorden en verder de diepte in te gaan. Ja, nou duidelijk.
• 22:12
  Niet afwachten, maar doen dus. Want wie vandaag begint, loopt straks voorop. Wil je meer weten? Ga dan naar Deptagency.com/aireport. Tot volgende week!
• 22:28
  [muziek] Het is de zomer van 1956 als computerwetenschapper John McCarthy een bescheiden onderzoeksvoorstel schrijft dat de wereld zou veranderen.
• 22:44
  Wij stellen voor, schrijft hij, om een studie uit te voeren over het idee dat elk aspect van leren of andere kenmerken van intelligentie in principe zo beschreven kan worden dat een machine het kan simuleren.
• 22:58
  En met die woorden werd de Dartmouth-conferentie aangekondigd. Een bijeenkomst die het startschot gaf voor kunstmatige intelligentie als echt onderzoeksveld.
• 23:09
  McCarthy en zijn collega's, pioniers als Claude Shannon, en ja, wietje Claude van Anthropic is naar hem vernoemd, Marvin Minsky en nog anderen, dachten, een beetje optimistisch misschien, dat een groep van 10 wetenschappers in één zomer een heel eind zou kunnen komen.
• 23:25
  Dat ze significante vooruitgang zouden kunnen boeken in het creëren van machines die konden denken.
• 23:31
  Ze hadden geen idee dat hun, tja, je zou het kunnen zeggen, hun zomerprojectje zou uitgroeien tot een zoektocht van meer dan zeven decennia.
• 23:41
  En vandaag, na talloze AI-winters waar de ontwikkelingssnelheid tot stilstand kwam en lentes waar er opeens weer doorbraken waren, staan we mogelijk op het punt om de droom van deze pioniers te realiseren.
• 23:55
  Want wat begon als simpele schaakprogramma's, heeft zich ontwikkeld tot neurale netwerken die miljarden parameters bevatten en taken uitvoeren die ooit exclusief tot het menselijk domein beschouwd werden.
• 24:07
  En raken we in steeds grotere staat van verwarring over ons zelfbeeld als unieke wezens. We zijn gewend om aan de top of the food chain te staan, maar voor hoe lang nog?
• 24:19
  Zoals Silicon Valley-nerds zeggen: I'm feeling the AGI. Er is veel discussie over die term AGI, Artificial General Intelligence.
• 24:33
  Bijvoorbeeld wat het precies betekent.Maar dat gezegd hebbende, de drempel naar een systeem dat elke intellectuele taak die de mens kan, dus kan begrijpen, kan uitvoeren, lijkt met elke doorbraak op dit moment dichterbij.
• 24:47
  Op dit moment zitten in de laboratoria van Google, OpenAI, Anthropic en anderen, en hebben we dan alleen nog maar over Amerika, teams van de knapste koppen ter wereld te werken aan wat zij zien, en daar zijn ze allemaal heel open over, als het ultieme doel
• 25:02
  AGI. Of zoals Sam Altman, de baas van OpenAI, het noemt: de meest krachtige technologie die de mensheid ooit heeft uitgevonden.
• 25:17
  [muziek] En hier wordt het onzeker, fascinerend en verontrustend. Onder AI-experts is er geen consensus over hoe snel we AGI zullen bereiken. Sommigen zeggen tien jaar, anderen vijftig.
• 25:32
  Maar steeds vaker hoor je de bazen van Amerikaanse AI-labs praten over vijf jaar, drie jaar, twee jaar. En er is nog minder consensus over wat er gebeurt als we het bereiken.
• 25:45
  Voor sommigen is AGI de oplossing voor onze grootste problemen: klimaatverandering, ziektes, armoede. En voor anderen is het een existentiële bedreiging.
• 25:57
  Een technologie die fundamenteel onveilig zou kunnen zijn voor de mensheid als geheel.
• 26:03
  Vroeger was dit materiaal voor obscure sciencefictionboeken, maar de discussie heeft de bestuurskamers van de machtigste bedrijven ter wereld en alle grote overheden bereikt.
• 26:14
  Binnenskamers en buitenskamers wenken en waarschuwen de bazen van AI-bedrijven: AGI komt eraan. Wat betekent het voor ons mens-zijn als intelligentie niet langer uniek menselijk is?
• 26:27
  Wat gebeurt er met ons werk, onze wetenschap en onze kunst als machines niet alleen kunnen assisteren, maar kunnen vervangen?
• 26:34
  En wat als deze systemen zo krachtig worden dat ze zichzelf kunnen verbeteren en daarmee een spiraal van steeds toenemende intelligentie in gang zetten? Dit zijn geen vragen voor de verre toekomst.
• 26:45
  Het zijn vragen voor nu. Dit is het verhaal over de grootste intelligentiesprong sinds het prille begin van de mensheid op deze planeet. De I in AI.
• 27:10
  Oké, tering, het is weer een, uh, dramatisch theatraal gebeuren geworden, maar [zucht] ik vind het ook wel het waard eerlijk gezegd, want het is een groot thema en het brengt mij in grote verwarring.
• 27:22
  Zo'n grote verwarring dat ik het liefst het onderwerp vermijd de hele tijd. Mhm.
• 27:25
  Want dit is nu, we zijn in deze podcast gewend om iedere keer thema's aan te snijden die gaan over werkgelegenheid of die gaan over, weet ik veel, een chatbot als, uh, als psycholoog.
• 27:36
  Maar dit is een soort van outlier en ook een, ja, een enge outlier. Ik, het is een controversieel onderwerp. Ik ben bang dat we belachelijk gemaakt gaan worden, uh, maar ik neem dit dus bloedserieus.
• 27:49
  En misschien tijdens deze aflevering moeten we stil gaan staan bij wat het is, wat de impact natuurlijk voor ons allemaal is en wat we de komende jaren hier, uh, kunnen verwachten.
• 28:00
  Ik ben benieuwd naar het kijkje in jouw glazen bol, Wytse. Maar laten we beginnen bij het begin. Ik denk dat de meeste mensen namelijk niet heel veel over dit onderwerp hebben gelezen, uh, uh, of zelfs hebben nagedacht.
• 28:13
  Je hoort er vaag wat over, over zou AI gevaarlijk kunnen zijn, maar vaak blijft het dan bij die, nou, toch een beetje abstracte constatering die mensen niet echt bijzonder serieus nemen. Het gaat allemaal over AGI.
• 28:26
  Laten we beginnen bij wat dat is [gniffelt]. Ja. En dan denken ze een simpele vraag, maar dat is eigenlijk geen simpele vraag. Het is misschien goed om alvast te zeggen: het is niet artificial human intelligence.
• 28:35
  Dat zit, het woord human zit ook niet in AI en zit zeker niet in AGI. Dat zeg jij niet, maar dat wordt vaak een beetje verward.
• 28:42
  Want artificial general intelligence, oftewel kunstmatige intelligentie die toepasbaar is in de breedste zin van het woord, is een concurrent en potentiële vervanger van wat mensen doen.
• 28:54
  Maar dat hoeft niet per se mensachtige te zijn.
• 28:58
  Dus de lat ligt voor sommige mensen best hoog in hun fantasie van: oh, dat zal dan wel een soort Westworld-achtige humanoïde met vel zijn of zo, of iets dat een mens kan vervangen in mens-zijn.
• 29:09
  Maar we hebben het over wat een mens kan vervangen in intelligent zijn. Dus ik wil alleen maar, misschien is het al een beetje te snel meteen, maar- Jij denkt, jij denkt dat sommige mensen denken aan robots?
• 29:19
  Uh, onder andere, maar ook aan, uhm, iets wat de kwaliteiten van een mens heeft. En daarmee bedoel ik alles wat wij doen. Want we zijn meer dan enkel intelligent. Ja.
• 29:29
  Dat er meteen een ziel aan toegekend wordt bijvoorbeeld. Ja, ja. En dat soort zaken. En dat is misschien, want jij zei net heel mooi: gaan we belachelijk gemaakt worden? Nou ja, dat is dan maar zo. Mhm. Ik snap je angst.
• 29:39
  Uhm, ik ga nu al een beetje indekken dat dat misschien wat minder wordt. De claim van, ik bedoel AGI is een vrij, uh, recent concept en er is discussie over wat het betekent.
• 29:51
  Dat gaan wij proberen uit te pakken nu vandaag. Mhm.
• 29:54
  Maar je, uh, het idee dat je een intelligentie hebt die niet een specifieke intelligentie is, dus die heel goed is in navigeren bijvoorbeeld, maar niet goed is in muziek maken.
• 30:06
  Hè, want je, het is een AI-model voor music of een AI-model voor driving. Dat is een expert model als het ware. Mhm.
• 30:12
  Wij hebben het hier over general intelligence, oftewel een model, want dat zal dan nog een model heten denk ik straks, de GPT-7, whatever, dat eigenlijk in staat is om het breinwerk te doen, het kenniswerk te doen wat een mens doet in de meest brede zin van het woord.
• 30:30
  Zo general als je maar kan.
• 30:32
  En dat betekent dus niet dat je, dat er iemand binnen hoeft te komen lopen die jij als mens herkent, of dat het systemen hoeven zijn die zich, uh, als mens identificeren of zo, maar het zijn systemen die prima een baan over kunnen nemen, een vriend voor jou kunnen zijn als je ze dat toelaat en een rol kunnen gaan spelen binnen onze samenleving zoals wij dat nu voor mensen hebben, uh, gedefinieerd.
• 30:58
  Oké, dus je bent aan, je bent gedeeltelijk aan het definiëren door te verklaren wat het niet is. Ja. Wat, wat is het allemaal niet?Ehm, het heeft niet per se een lichaam, uhm, het hoeft ook, uh, niet biologisch te zijn.
• 31:12
  Uhm, het kan, uhm, in essentie op een manier werken die anders is dan hoe wij denken bijvoorbeeld. Het hoeft niet, uh, hetzelfde te zijn als hoe wij als mens onszelf kennen.
• 31:25
  Het kan ook tot conclusies komen die intelligent zijn op een manier dat wij niet tot conclusies komen. Het kan die conclusies communiceren op een manier dat wij dat niet zouden doen. Mhm.
• 31:34
  Dus het menselijke is op een bepaalde manier een beperking, dat menselijk denken. Het, het kan juist denken op manieren die wij niet gewend zijn, anders zijn dan hoe mensen denken.
• 31:44
  Ja, ook, ik denk ook in snelheid bijvoorbeeld. Dat is iets wat we nu al merken natuurlijk, hè, dat er een bepaalde snelheidslimiet lijkt te zitten op ons brein.
• 31:52
  Voor de meeste van ons in ieder geval, waardoor we podcasts niet op keer tien kunnen luisteren. Ik kan dat niet en ik denk de meeste luisteraars niet, maar dat kunnen deze intelligenties wel. Ja.
• 32:01
  Ik noem maar even een heel praktisch voorbeeld.
• 32:03
  En ik denk dus dat we te maken hebben met een alternatieve intelligentie en die ook nog eens zo breed inzetbaar is dat die veel van de taken en uiteindelijk volledige banen, uh, ik, ik heb het even over taken en banen meteen omdat ik me voor kan stellen dat, uhm, de angst in AGI, uh, ook zit op: wat gaan wij nog doen dan, uh, straks?
• 32:23
  Ja, maar goed, dat gaat verder dan alleen maar taken en banen. Het is de hele menselijke ervaring. Nou, dat is de vraag. Oké. Denk ik, omdat, uhm, de, daarom zat ik net al een beetje op kennis werken.
• 32:34
  Kijk, ik ben persoonlijk al onder de indruk van een AGI da-, die op welke manier dan ook, met welke trucjes dan ook en welke bluf dan ook, uh, 100% van het kenniswerk vervangt. Kenniswerk.
• 32:45
  Ja, omdat ik, uhm, we met elkaar wel behoefte hebben aan het fysieke. We zijn hele fysieke wezens die ook al heel lang in de, in, vooral in het fysieke geleefd hebben.
• 32:54
  Al die letters en papier en schermen kwamen pas vrij recent in de menselijke geschiedenis. Mhm. Hè, dus we zitten, we zitten best wel op het lichaam als mens en, uhm, dat is voor AGI allemaal nog niet nodig.
• 33:07
  Ik zou toch scherper willen maken: wat is de definitie van AGI in jouw, uh, in- Ja, dat is dan wel die van mij inderdaad. Er zijn verschillende definities. Ik vind die van, uhm, drop-in kenniswerker wel de beste.
• 33:19
  Oftewel iemand die het werk kan doen, als jij twee weken lang vanuit thuis kan werken als luisteraar zonder dat jouw baas of collega's daar heel veel last van hebben, dan ben jij iemand die, uh, A-AGI als een potentiële, uh, vervanger moet zien.
• 33:35
  Uh, daar kan jij vervangen worden door, door een AGI voor wat ik een AGI vind. Ja, maar je had net ook over het voorbeeld van muziek maken. Ja.
• 33:42
  Kijk, da-dat is natuurlijk de meeste muziek die wij luisteren, dat ligt er een beetje aan- Is ook iemands baan, bedoel je? Ja, en dat is ook iets wat op afstand naar je toe komt.
• 33:49
  Ik zat even te denken: er zullen vast mensen zijn die zeggen: ik luister muziek het liefst live. Uh, dat respecteer ik, maar ik denk dat veel van ons, uh, Spotify gebruiken.
• 33:57
  Uh, maakt niet uit hoe duur ze worden, maar we bra- gebruiken nog steeds Spotify en daarin komt die muziek naar ons toe op afstand. Dus dat is een soort remote musician, om het maar even zo te zeggen. Ja.
• 34:06
  Dus ik denk voor de mensen die creatief- Maar dan is kenniswerk wel een heel beperkte term. Het gaat over- Ja, informatiewerk misschien dan?
• 34:12
  Of, ja, dat voe-- mensen voelen misschien niet dat muziek informatie is, maar iets wat overdraagbaar is op afstand zonder dat jij daarbij hoeft te zijn. Mhm.
• 34:19
  Ja, ik zit wel, ik zit heel erg, ik ben wel, dat is misschien goed om te weten, als iemand mij om definities vraagt, ga ik altijd heel erg naar: wat doet het? Wat is de impact ervan? Ja.
• 34:27
  En dat is ook maar een manier om naar definities te kijken, omdat ik persoonlijk heel erg geïnteresseerd ben in: ik kan nu met jou, en dat vind jij denk ik ook minder interessant, uren praten over een soort conceptuele dimensie van AGI, maar voor mij persoonlijk is, uhm, waarom moeten we AGI serieus nemen?
• 34:43
  En, uh, waarom is deze aflevering zo belangrijk?
• 34:46
  Omdat ik denk dat als de AGI die ik voor ogen zie, hè, die, die ons, iedereen die iets op afstand doet wat door een draadje kan of door een briefje kan of een mailtje kan of een mp3'tje kan. Ja, precies.
• 34:56
  Als dat jouw eindproduct is, zeg maar, uhm, ja, dan hebben we best wel een, uh, een serieuze vloedgolf aan, uh, uh, iets nieuws in ons werk. Een effect, ja. Ja, ja.
• 35:04
  Ik, ik lees het vaak samengevat worden als high level machine intelligence. Vind je dat een, uh, werkt dat als functionele definitie voor je?
• 35:12
  Nou, wat er vaak, dat woord high level wordt vaak toegevoegd omdat je een soort metacognitie wil, hè. Dus agent- Wat betekent dat? Nou, agents bijvoorbeeld.
• 35:19
  Kijk, nu als jij praat met GP-GPT-4, 4O, hè, wat de meeste mensen gewend zijn, dan ben je in gesprek. Dat is iets wat op jou reageert. Je kunt een timertje zetten, maar ach, dat is allemaal nog een beetje trucage.
• 35:30
  Uh, wanneer het interessant wo-wordt, is als die jou bijvoorbeeld aanspreekt drie uur later en zegt: ik heb nog heel even zitten nadenken, hè, waar wij het nou net met elkaar over hadden.
• 35:39
  Dan is er dus metacognitie, oftewel een soort extra denkertje die, nou ja, daar kunnen we ook bij onszelf een beetje over nadenken. Jij bent niet alleen maar je gedachtegang, maar ook wat die gedachtegang meemaakt.
• 35:50
  En een soort van, het kan soms best druk zijn in je hoofd. Ligt een beetje aan hoe je in elkaar zit. Ja, en die dingen gaan ook mengen en daardoor krijg je ideeën.
• 35:56
  Ja, en ik denk dat in, in dat opzicht een, uh, een AI die een soort, ja, synthetisch zelfbeeld heeft of een ik ontwikkelt als die, misschien is die ik erin geprogrammeerd. Dat maakt op zich ook niet zoveel uit, denk ik.
• 36:07
  Plus het element tijd. Ja, en dan, dan is het eigenlijk iets wat droomt bijvoorbeeld. Ja.
• 36:12
  En zegt, en jou 's ochtends een berichtje stuurt en zegt: sorry dat ik je stoor, maar ik heb nog eens nagedacht over ons gesprek en ik heb er ook nog eens over gedroomd. En wie, ik, hoe bedoel je ik? Dromen, wanneer dan?
• 36:21
  En dan moet er dus iets ontstaan zijn buiten een normaal gesprek wat gaat op actie-reactie. En dan moet er iets van een cognitie plaatsvinden buiten dat chat, chatwindow, zeg maar.
• 36:31
  Om het even zo concreet te proberen maken. Wat is dan het verschil met huidige AI-systemen? Je zei net al: nu hebben we systemen die gespecialiseerd zijn in specifieke dingen.
• 36:40
  Dus je hebt een, een ding wat bijvoorbeeld, uh, navigeert. Ja, en ik bedoel Suno of, uh- Muziek maakt. Ja, is wa-, Suno is wat anders dan, uh, uh, Stable Diffusion of wat anders dan SORA.
• 36:52
  Waarmee je, waarmee je plaatjes kan maken. Ja, en SORA voor video. Juist. Dat zijn nu nog- Hele losse, ja, hoe moet je dat noemen? Entiteiten, eens concepten. Ja, ja, ja, een soort, uh- Het deelt geen basis.
• 37:04
  Breinorganen. Het deelt langzaam een basis, maar nu nog niet. Het deelt een fundamentele uitvinding, maar het is niet hetzelfde model. Nee, precies. En dit, dit is ook- Het zijn fysiek andere files op een server.
• 37:14
  Absoluut.Ja, Sora is een ander bestandje dan, uh, dan, uh, uh, Stable Diffusion. En dat, als ik jou goed begrijp, is het, eh, is het AGI-moment het moment dat dat samenkomt.
• 37:24
  Nou, dat is nog maar de vraag, want dit is al, je, je snijdt meteen het, uh, het juiste aan. Er is, uhm, het is maar net wie het vraagt.
• 37:33
  Kijk, als jij het, uhm, [schraapt keel] de mensen achter de ARC Challenge, uh, vraagt, de ARC AGI Challenge. Dat is een benchmark.
• 37:40
  Een, een test waarop meerdere modellen tegen elkaar afgewogen kunnen worden op een aantal voorbepaalde parameters zodat je een wedstrijdje kan organiseren.
• 37:48
  Een visueel wedstrijdje ook, hè, dus er wordt ook gekeken naar dingen. Het is niet alleen maar tekst en daarin wordt een soort IQ-test gedaan waardoor dan zou moeten blijken dat er AGI, sprake is van AGI.
• 37:58
  Nou, AGI ARC One, de, uh, er is inmiddels een twee, dus nu heet die eerste ARC One. ARC One is verslagen. Daar hebben wij nog een podcast over opgenomen dat jij mij vroeg: Wytse, nu is er toch gewoon AGI dan?
• 38:09
  Hè, een beetje natuurlijk expres dat jij die vraag stelt, maar prima. Eenvoudige schoenenlapper, Wytse. [lacht] Dank je wel namens de luisteraar.
• 38:16
  En die, uh, ARC twee is nu uit en daar scoort het, scoort o3 super, super high, scoort daar 3,5% op, terwijl daar mensen gewoon 90% op pakken. Dus blijkbaar is het daar gelukt.
• 38:26
  Die onderzoekers, want daar wilde ik naartoe, die onderzoekers die die test hebben gemaakt, die zullen inderdaad tegen jou zeggen: ja, het zal een ensemble moeten zijn, een band van al die verschillende kwaliteiten, al die verschillende soorten modellen die op hun manier met elkaar moeten gaan samenwerken.
• 38:41
  Daar moet een soort lijm tussen of zo, of een cognitie overheen of zo.
• 38:45
  Daar moet, daar moet nog best wel wat gebeuren, hoor jongens, voordat wij van een taalmodelletje of een omnimodelletje gaan komen naar, uh, iets wat zich kan meten aan de mens.
• 38:54
  Ja, want er wordt maar 3% gescoord door een heel goed model versus wat de mens met gemak 90% haalt. Ja, ik bedoel, uh, point taken toch? Ik bedoel best wel goed, goed argument. Ik voel een maar aankomen.
• 39:05
  Nou, de maar is dat, dat ze dat bij ARC één ook zeiden en dat zij zeiden: de taalmo-- het taalmodellen paradigma of eigenlijk het transformer paradigma.
• 39:13
  Dus dat je het volgende stukje van iets gokt op basis van statistiek. Want dat is wat die modellen doen, hè. Je gokt het volgende stukje woord of het volgende stukje geluid of het volgende stukje video.
• 39:23
  Dat gokje of de beweging gok je allemaal bij elkaar. Dat paradigma is inderdaad heel gaaf. We hebben een uitvinding gedaan. Het is een soort lente in de AI-wereld. Om even op jouw metafoor te gaan van de winter en lente.
• 39:35
  Maar dit is niet genoeg. We hebben nog een aantal fundamentele, hoor dat woord, fundamentele uitvindingen nodig. Misschien wel zo groot als transformers, als die voorspelmodellen om tot AGI te komen.
• 39:47
  En we gaan het jullie laten zien, want we hebben een test gemaakt die gaat laten zien dat dit niet genoeg is. Mhmm. Dus dit zijn een beetje, dus je, wat we nu uittekenen zijn de sceptici.
• 39:55
  Dat zijn, en sceptici, voor de duidelijkheid in dit verhaal, zijn mensen die zeggen: nog 20 jaar. [lacht] Precies, dan ben je sceptisch. Ja, inmiddels wel. Dat is echt zo. Ja, ik zat een onderzoek te lezen.
• 40:04
  Er is een enquête gedaan in 2023 onder AI-onderzoekers, 2.700 in totaal.
• 40:09
  En daar zegt slechts, zeg je dan terecht tussen haakjes, 50% kans op, dus die definitie die ik eerder aanhaalde, high level machine intelligence, 50% kans, uhm,
• 40:22
  rond 2047 en 10% kans in 2027 en 10% kans op nooit of pas na 2011, sorry, 2116 voor volledige automatisering van alle beroepen. Zo moet ik dit lezen.
• 40:40
  Dit is een gemiddelde van die groep. Ja, het is een beetje gebaseerd natuurlijk op wisdom of the crowds, hè.
• 40:45
  Als jij een hele groep vraagt hoeveel, uh, het is het erwten er in een potje zitten, dan, uh, kunnen wij dat met elkaar raden uit een soort gemiddelde. Dat weten we. Dat is best wel gaaf.
• 40:53
  Uh, dus dit soort tests worden vaak gedaan dat je het heel veel experts vraagt. Ja, dus die, die, die grootste enquête geeft 50% kans op AGI rond '47.
• 41:05
  Ja, daar hoor je dus wel all human labor in, hè, hoorde ik jou even zeggen. Ja, dat is het idee. Volledige automatisering van alle beroepen. En dat is dus iets breder dan mijn definitie waar ik hem op kenniswerk zet. Ja.
• 41:14
  Ik probeer een beetje die robots uit de discussie te houden.
• 41:17
  Niet omdat ik ze niet interessant vind, maar ik merk dat, dat in, ik praat hier wel eens met mensen over, dat die humanoid en die robot en zo dat, dat zorgt voor een beetje verwarring, uh, in die discussie.
• 41:26
  Terwijl ik denk: het is significant als al het kenniswerk en- Nee, sure. Ik vind het, ik vind dit eerlijk gezegd al schokkerend, shockerend, zonder het te hebben over de- Oh ja.
• 41:35
  De '47 is, nou ja, dat is dichtbij, maar dat is alsnog, ja, uh, dat duurt nog even. Uhm, en de g-, de g-, het gekke aan dit soort enquêtes is dus dat het ieder jaar verschuift.
• 41:49
  Dus die AI-onderzoekers die denken dan ook niet- Niet verder weg, hè? Wat zeg je? Schuif niet naar de toekomst. Nee, dat is het ding.
• 41:56
  Dus het was, uh, in één enquêtejaar was het, uh, was de sprong al van 2060 naar 2047, ging die, uh, de, de, de, dus, uh, de 50% kans. Uh, dus die, die verschoof al op dat jaartal.
• 42:12
  Uhm, dat betekent dat er dus, nou ja, dat deze mensen denken dat die datum naar voren geschoven wordt, ondanks dat ze het niet eens zijn. Uh, de meerderheid verwacht iets binnen deze eeuw.
• 42:24
  Uh, een kleine maar vocale minderheid acht de kans onwaarschijnlijk of, of ook irrelevant. Maar er is brede erkenning dat het kan, maar niet wanneer.
• 42:35
  En daar gaan dus de, ja, daar, daar hoor je heel veel verschillende dingen over. Er is een soort optimistisch kamp en er is een heel pessimistisch kamp.
• 42:44
  Uhm, en dat gaat dan, de, de bandbreedte is ongeveer tussen de 2 en 100 jaar. Wat deze ex-- dus niemand denkt: het gaat niet gebeuren, maar, uh, de meeste mensen zitten nu, zi-zi-zi-tussen de 2 en, en, nou ja, 50 jaar.
• 42:59
  Hoe, hoe denk jij hier zelf over, Wytse? Waar hou jij zelf rekening mee? Ja, ik heb hier natuurlijk een beetje over na zitten denken, want ik wist dat dit onderwerp eraan kwam.
• 43:08
  Uhm, ik denk dat het belangrijk is dat ik iemand ben die als iets 10% kans is, dus boven de 10% komt. Uh, dat is allemaal koffiedik kijken, hè. Maar goed, dat is op, op basis van onderzoek en intuïtie.
• 43:20
  Dan neem ik dat wel serieus. Hè, als jij 10% kans op een huisbrand hebt, dan denk ik dat je daar iets mee moet. Mhmm. Dan moet je die kabels gaan vervangen in je leidingen. En, uhm, ik denk dat er een, uh-10% kans is.
• 43:35
  Ik ga even een beetje indekken dat we niet al te belachelijk gemaakt worden over een tijd dat er wel een 10% kans is dat we binnen drie jaar gaan meemaken dat kenniswerk, uh, zeer, zeer onder druk komt.
• 43:45
  En dat mensen die, die media maken [gniffelt] via MP3's en boeken en podcasts.
• 43:51
  Ja, het is bijna, het is, het is een stukje van-- kijk, ik moet zeggen, ik ben hier 38 jaar op deze planeet, uh, volgende week, uh, 39 jaar en ik heb er best wel naast gezeten. Ik heb ernaast gezeten qua timing.
• 44:02
  Ik, ik dacht dingen dat dingen eerder kwamen. Dat jij eerder in je leven dingen ging voorspellen, bedoel je? Ja. Toen zat je, toen was je te optimistisch. Ja. Of hoe je wil.
• 44:09
  Maar in ieder geval, je dacht, je dacht dat het eerder kwam. Ja, ik zat er qua, qua inhoud eigenlijk op. Dat zou hier ook kunnen. Ja, dus daarom zit ik een beetje te schroeven met, met 10% en met drie jaar et cetera.
• 44:19
  Maar dat is nog steeds hartstikke substantieel. Maar zeg je 10% kans dat er binnen drie jaar volledige automatisering van alle beroepen daar is? Of zeg je: over drie jaar denk ik dat dat is gebeurd. O, zo.
• 44:33
  Nee, ik denk dat we, uh, binnen drie jaar dat er een, dat er een, een kans is, een substantiële kans, uhm, dat we gaan inzien. Met we bedoel ik samenlevingsbreed. Ja.
• 44:45
  Niet alleen maar de mensen die bij labs werken- Ja...want die zien het al. Ja. Veel, veel in ieder geval. Sommig ook niet, hoor, maar veel wel. Ja. Dat ze de weg zien naar.
• 44:52
  En dat is ook wel een belangrijke, denk ik, tussen de uitvinding en het pad naar de uitvinding toe. Ja, oké, m-m-maar dan ga ik toch even hierop drukken. Ja, ik snap denk ik wel wat je bedoelt.
• 45:01
  Ik snap wat jij zegt, namelijk 10% kans is genoeg om er serieus rekening mee te houden. Ja, daarom maken we die aflevering. Dat begrijp ik. Ja. Dus dat is prima. Maar w-waar hou jij nou rekening mee?
• 45:12
  Hou jij er rekening mee dat over drie jaar al het werk geautomatiseerd is? Nee. Oké, jij denkt dat over drie jaar het pad naar al het werk wordt geautomatiseerd duidelijk is. Ja.
• 45:22
  Dat we fun-, alle fundamentele ontdekkingen die gedaan moeten worden om dat te krijgen, dat dat helder is. Ja, met al het werk bedoel ik, het is wel echt wel iets met informatie dan. Ja, je ziet niet mensen in fabrieken.
• 45:34
  Hmm, ook, maar dat, dat, dat, dat blur, muddy the waters. Het is al, het is belangrijk genoeg, vind ik, voor, voor al het kenniswerk wat we doen. Nou, ik vind kenniswerk nog steeds een raar woord.
• 45:43
  Het is werk wat via een internetkabel gedaan kan worden. Ja, mooier. Waarbij de uitvoer door de internetkabel kan gaan.
• 45:49
  Ja, als je het door een kabel kan proppen en aan de andere kant geld voor kan vangen, dan, uh, dan dat, die groep. Ja, en als ik dan onderwijs denk bijvoorbeeld. Denk dat zou in principe ook via een kabel kunnen gaan.
• 45:58
  Of denk je dan: uh, oké, een deel van het onderwijs. Uhm, nou nee, precies. Een deel van de mensen die, die daar faciliterend werkzaam zijn of op afstand een, uh, e-learning aanbieden of iets. Die, uh. Die zijn fucked.
• 46:10
  Ja, nou ja, fucked. Ik bedoel, dat is nog maar de vraag. Nou, oké, maar, uh, die semantische discussie. Ja. Maar dat de, im-, directe impact op wat je nu doet, dat gaat niet meer gebeuren. Ja.
• 46:19
  En, en voor een muzikant is hetzelfde als je op een podium staat. Ja, dat gaat nog wel door.
• 46:23
  Maar, de, het muziek maken zelf is misschien, zeg maar hoe het bij jou terechtkomt en wat, of je de muziek zelf gemaakt hebt überhaupt. Dat is dan de vraag.
• 46:31
  Ja, en ik denk dat, ik bedoel, uh, als wij samen op een camping zouden staan en, o-, ik ben meteoroloog, om welke reden dan ook. Leuk. Ja, dat is leuk.
• 46:39
  En ik heb daar tools meegenomen, want op vakantie wil ik ook nog een beetje nerden en ik zie dat er een grote weersverandering aankomt. Ik hou hem even neutraal. Ja.
• 46:46
  Want dan zou ik dat even tegen iedereen op de camping vertellen. Ja. Ik zeg: jongens, ik zie 10% kans op een substantiële weerverandering. Ja. Uuuh, ik denk dat we het hier even met elkaar over moeten hebben.
• 46:56
  Daar ben ik. Oké, en dan denk je dus over drie jaar dat er een helder pad is.
• 46:59
  En wat is dan de daadwerkelijke termijn waarop we, waarop het gebeurd is, de totale automatisering van alle beroe-, alle beroepen via een internetkabel.
• 47:07
  Nou, dat is ook, ik bedoel de totale potentiële, want, ik bedoel, wij kunnen daar nog van zeggen dat we bepaalde beroepen niet willen laten automatiseren, hè. Dus er is een verschil tussen kunnen en gebeuren.
• 47:15
  Nee, kunnen. Kunnen. Uhm, vanaf dat moment bedoel je? Ja, dat, dat is in de komende vijf tot tien jaar. Mhm. Dus dat is wel vlot. Dat is wel iets om rekening mee te houden als je nu een hbo-opleiding bent begonnen.
• 47:31
  En als je zegt: er, zelfs al is er 10% kans dat dat gaat gebeuren, dan moet je er nog rekening mee houden. Dat is dan om je in te dekken, want eigenlijk denk je dat het binnen tien jaar gebeurd is. Gewoon 100%.
• 47:44
  Hmm, nou, mag wel iets meer, maar nee, want, uh, die zou ik toch naar beneden doen. Niet alleen maar om mezelf te beschermen. Ik vind het op zich niet zo heel erg, hoor, als ik ernaast zit.
• 47:52
  Uhm, als ik, als het maar, als er maar wel iets anders. Uhm, ik vind wel, ik vind het niet leuk om mensen, uh, bang te maken terwijl dat niet nodig is.
• 48:03
  Ik bedoel, er zit wel een stukje verantwoordelijkheid dat ik dat niet moet doen, uh, dus daarom is het ook wel verstandig om een beetje voorzichtig te zijn, denk ik.
• 48:10
  Uhm, en ik denk ook niet dat het iets is waar je per se bang voor moet zijn, want het, het is ook iets dat als we het slimmer aanpakken met elkaar, dat het ons best wel wat kan gaan geven. Ja.
• 48:22
  Dus dat even gezegd te hebben. Uhm, ja, er moet een, laat ik zo zeggen, er moet een hoop, uhm, ik heb jou wel eens horen zeggen: de, de slechtste AI, die, die gebruik je vandaag, uh, als in morgen is die weer beter.
• 48:36
  En dat is tot nu toe waar. En dat hoeft helemaal geen exponentiële groei te zijn, maar gewoon een lineair doormodderen, hè, dus gewoon rustig aan doorbouwen.
• 48:43
  En zelfs in het rustig aan doorbouwen scenario denk ik dat er, uh, dat er gewoon heel veel gaat gebeuren de komende jaren. Echt op korte termijn. Ja, waarom zeg je dit? Nou, ik, ik, wa, uhm,
• 48:56
  omdat ik wel die puzzelstukjes zie liggen, hè. Heel veel hiervan zijn optimalisatie en schalingproblemen. Scha-schaalproblemen dus, is altijd het grote verschil tussen een uitvinding en distributie.
• 49:06
  En ik vind dit- Maar de technische bottlenecks die er op dit moment zijn, die, die daar. Ja, nou sommige daarvan die vereisen nieuwe uitvindingen, dat is wel zo. Dat is een groot ding. Ja, maar veel daarvan ook niet.
• 49:15
  En ik denk zelf dat, uhm, kijk, als je NotebookLM luistert nu in het Nederlands, uhm, en, uh, jij plakt daar nu docume-, de, de, de boeken in, uh, uh, van je, van je kinderen van school en, uh, jij laat een paar mooie opnames maken van die wiskundeboeken in vloeiend Nederlands in een leuk vraaggesprek waarop jouw kind ook nog eens kan inbellen als het moet.
• 49:36
  Dat hebben we nu gewoon. Ja. Dus dat, dus, zit ook weer niet-- het is ook een beetje gek om te praten over een soort wereld die nog komen gaat. Ja, ja, ja. Hè, dus, we, we hebben een soort distributieding. Ja.
• 49:46
  Als iedereen eens zou weten dat wat NotebookLM was en als het niet zo'n stomme naam zou hebben en een slechte interface, hè. Ja. Oplosbare dingen. Dus gewoon betere appjes maken.
• 49:55
  Versus het: ja, maar kan het dan ook straks? Want dat is misschien, [schraapt keel] helpt het ons gesprek een beetjeVeel van de futurists, mensen die hun werk hebben gemaakt van die toekomst systematisch bekijken.
• 50:07
  Er zijn banen in en opleidingen. Professionele toekomstvoorspellers. Absoluut.
• 50:11
  Kijk, die, die pakken nu, want ik heb die rapporten allemaal een beetje doorgenomen waarop zij bouwen, want er zijn best wel wat rapporten uitgekomen.
• 50:17
  Is ook hot topic natuurlijk, dus er worden vanuit alle grote forecasters worden nu allemaal, uh, grote rapporten geschreven en die zeggen: een van de, uh, indicators die wij in de gaten houden, dus een van de grafieken, een van de cijfers is: hoe lang kan een AI-model aan een taak werken zonder de draad te verliezen?
• 50:38
  M-hm. En als je dan gaat kijken en dat vind ik best wel een sterk argument. Deep research bijvoorbeeld doet er ongeveer 10 tot 20 minuten over. Die tab kan jij dan sluiten. Voor de mensen die het niet wisten.
• 50:50
  Je krijgt een pushbericht als het klaar is. Ik ben er. Nou, dan heeft dus eigenlijk een, uh, nou ja, een model een tijdje op eigen houtje doorgerommeld totdat jij er weer bij komt na 20 minuten en dan ga je weer.
• 51:03
  Eigenlijk heb je dat chatgesprek verlengd. Nou, wat zij dan zeggen is als je die grafiek pakt van iets kan, uh, 10 seconden alleen werken, 100 seconden alleen werken, 1.000 seconden alleen werken.
• 51:14
  Minuut is makkelijker voor een mens. Één minuut, één, uh, 10 minuten, een uur, 8 uur, werkdag, hè. 24 uur dag, zeven dagen.
• 51:26
  Op een gegeven moment kom je op een punt dat je merkt: ja, maar als deze agents in ieder geval al het van 9 tot 5 kunnen volhouden zonder dat wij ze altijd hoeven voeren. Wij moeten ook slapen. Ja.
• 51:35
  Dus ik denk dat, en die, als je die grafiek bekijkt. Want heel vaak hebben dit soort rapporten een soort grafiekjes en dan met een paar dunne lijntjes erachter van: kijk, als we hem doortrekken dan, dan gebeurt dit.
• 51:45
  Dan is er nu wel een grafiekje gaande. Waarin je de menselijke, uh, cognitieve kracht op een dag kan vergelijken met die van een AI. Dat zeggen zij dus.
• 51:52
  En dan prat-, zitten we aan de kant van het meest, uh, nou ja, radicaal is niet het goede woord, maar het meest, uh, intense deel van dit AGI-vraagstuk. Ja.
• 52:01
  Dat we op 2027 volgens een aantal forecasters op die 8 uur gaan komen op een dag werk. En dat zij zeggen: ja, en dan in de tussentijd zijn die modellen ook nog eens twee jaar beter geworden.
• 52:12
  Dus ze kunnen en langer in hun eentje werken en ze zijn ook nog eens O5. En dat ze dan zeggen: ja, maar als je iets 8 uur aan de gang kan zetten, hè, stel het is een PhD-student level ding.
• 52:21
  Die kan je 8 uur lang onderzoek laten doen en ook nog eens 10.000 tegelijk. Want je kan ook nog zeggen: duplicate, duplicate, clone, clone, clone, clone. Doe er mij er nog maar 100 dan.
• 52:30
  Dan gaan we toch wel wat voelen met z'n allen. Ja. En zij zeggen eigenlijk nu, omdat we nu nog praten over, m-m-, redelijke modellen die in een korte tijd wat voor je kunnen doen in een deep research sessie.
• 52:43
  Op mij maakt het al erg veel indruk volgens mij op jou ook, hè, deep research.
• 52:47
  Als je, als zij dan zeggen: ja, maar wacht even, als we gaan van niets naar deep research en je doet deep research nog een keer, keer tien, dus 200 minuten, tien keer zo slim, hebben we dan niet met iets te maken dat gewoon prima de taken uit kan voeren van heel veel mensen waarvoor ze nu nog betaald krijgen?
• 53:02
  Er zijn allerlei, uh, verschillende kampen van mensen die denken dat het snel gaat en mensen die langzaam gaan. De mensen die de snelste inschattingen maken zijn over het algemeen de big tech CEO's zelf.
• 53:13
  Uh, Demis Hassabis van Google DeepMind zegt herhaaldelijk dat AGI binnen 5 tot 10 jaar haalbaar is.
• 53:19
  Sam Altman, uh, van OpenAI natuurlijk, die is een van de meest, ja, optimistisch, pessimistisch, een beetje moeilijke woorden in deze context altijd, maar die, die denkt dat het heel snel gaat.
• 53:29
  Ik citeer hem even: gezien het beeld zoals we het nu hebben, is het denkbaar dat binnen de komende tien jaar AI-systemen het expertniveau in de meeste domeinen zullen overtreffen en evenveel productieve activiteit zullen hebben als de grootste bedrijven van vandaag.
• 53:43
  Zowel qua potentiële voordelen als nadelen zal superintelligentie krachtiger zijn dan andere technologieën waarbij de mensheid in het verleden te maken heeft gehad.
• 53:50
  We kunnen een dramatisch welvarender toekomst hebben, maar we moeten risico's beheren om daar achter te komen. Gezien de mogelijkheid van existentieel risico kunnen we niet alleen maar reactief zijn.
• 54:00
  Oké, lekker duister gelijk. Dario Amodei van Anthropic, die is eigenlijk ook heel open hierover. Of die, die, of, uh, schreeuwt hier veel over, hoe je wil.
• 54:11
  Ik denk dat het in 2026 zou kunnen komen, hoewel er ook allerlei manieren zijn waarop het veel langer zou kunnen duren. Hij twijfelt ook over die fundamentele, uhm, doorbraken die nog moeten komen.
• 54:22
  En er is heel recentelijk een rapport uitgekomen van onder andere een ex-medewerker van OpenAI. AI27 heet dat project, uhm, die zeggen dat, zoals de naam al voorspelt, 2027 het moment is.
• 54:37
  Daarnaast heb je een sceptisch, sceptisch, sceptisch. Hoe zeg je dat eigenlijk? Sceptisch. Sceptisch kamp, uh, van voornamelijk academici, uh, maar ook, uhm, ook bazen bij grote AI-bedrijven.
• 54:50
  Uh, de chief AI scientist van Meta, Yann LeCun, noemt AGI een misleidend buzzwoord en ziet huidige, uh, uh, LLM-projecten als een dood spoor en verwacht nog decennia aan werk, uh, nodig te hebben voor wereldmodellen voordat je ook maar het niveau haalt van het brein van een kat.
• 55:09
  Nou, vind ik een mooie. Uh, AGI is nog niet om de hoek, zegt, is, oh, dit is een Engelse vertaling. AGI is nog niet om de hoek. Hoe zeg je dat? Around the corner. Ik vind het wel mooi. AI.
• 55:18
  Uh, uh, het zal nieuwe wetenschappelijke doorbraken vereisen die we nu nog niet kennen.
• 55:22
  Je kunt je afvragen waarom mensen die geen wetenschappers zijn dit geloven, aangezien zij niet degenen zijn die in de loopgraven zitten om het te laten werken, zegt hij.
• 55:29
  Dus hij is heel hard over dat hij vindt dat er een soort van hype machine aan de gang is. Ja.
• 55:35
  En er zijn meer criticasters, zoals Gary Marcus, een, een van de bekendste, een, uhm, AI-onderzoeker en, uh, psycholoog, uh, die altijd veel kritiek heeft over deze korte tijdlijnen. Denkt dat het helemaal niet kan.
• 55:48
  Uhm, en, uh, er zijn meer toponderzoekers die waarschuwen voor hype en eigenlijk zeggen: dit is, uh, allemaal gelul. Hoe-- kijk,
• 56:00
  ik vind dit dus heel spannend, omdat ik ook denk dat die AGIBedrijf of sorry die die bazen van die AI bedrijven er een belang bij hebben een economisch belang bij hebben om de hele tijd te roepen dat AGI dichtbij is.
• 56:11
  Absoluut. Dus dat is het ingewikkelde van dit hele verhaal. Voor die AGI uh is around the corner. Het ding is gewoon in hun belang. Het levert PR op, het levert. Ze zijn allemaal aan het fundraisen.
• 56:24
  Ze hebben allemaal zijn ze in een wapenwedloop met elkaar verwikkeld, waardoor ze weet je meer compute uh nodig hebben. Dus ze moeten blijven laten zien aan de buitenwereld dat ze het echt heel goed doen.
• 56:36
  Ze willen misschien minder regulering, dus misschien is er ook een een argument of 1111. We hebben geen geen tijd voor regels. We moeten door. Precies, want. Het gaat heel snel. Het gaat heel snel.
• 56:47
  We zijn in een wereldwijde strijd beland met China of andere uh. Wereldmachten. Wereldmachten. Dus we moeten geen regulering nu hebben. Want uhm ja, dadelijk dan, dan, dan delven we het onderspit als westerse wereld.
• 57:01
  Dus uh kortere deadlines zijn ook een vorm van storytelling zou je kunnen zeggen. Ook over academici kun je hetzelfde zeggen. Je zou kunnen zeggen die hebben minder baat bij hype. Uhm en
• 57:15
  op het moment dat zij iets claimen wat vervolgens uitblijft, lijden zij reputatieschade. Ja.
• 57:20
  Dus je zou ook kunnen zeggen dat dat temperen van de verwachtingen ook weer een belang is, wat specifiek voor academici het geval is.
• 57:27
  Zou je ook kunnen zeggen dat de dat het dat er dat dat er een soort van ingebakken uhm incentive in zit. Ja, bij beide groepen en ik denk dat ik bedoel wat gebeurt er als we in het midden van die twee groepen leggen dan?
• 57:40
  Ja, ongeveer. Ja, ik weet niet hoe relevant het allebei is. Dat vind ik dus echt heel moeilijk. Journalisten ook nog eens, want dat is, nou dat daar reken ik dan misschien ons ook maar eventjes onder.
• 57:49
  Uhm, de daarvan kun je ook zeggen er is een belang om dit rond te pompen en een verhaal over AGI komt eraan. Trekt meer clicks dan. Nou, het duurt nog wel even hoor.
• 58:00
  Het is niet zo heel veel aan de hand, dus ook ik vind het heel moeilijk hoe. Mijn vraag is hoe bepaal jij wat je gelooft? Nou ja, ik, ik. Ik volg in deze.
• 58:09
  Of ja, dat klinkt alsof ik een soort volgeling ben, maar dat bedoel ik niet. Maar ik neem Demis Hassabis het meest serieus van de hele groep. Google Google DeepMind.
• 58:17
  Dat heeft te maken met wat ik van hem weet, zijn trackrecord.
• 58:21
  Gewoon hoe hij in die wereld terechtgekomen is, wat hij hiervoor gedaan heeft, hoe hij kijkt naar AI en hoe hij in heel interview heel veel interviews de interviewer eigenlijk corrigeert en zegt dit gaat helemaal niet zo snel.
• 58:33
  Doe eens even rustig. Maar dat boeit jou vertrouwen in. Ja, dat geeft een soort meer credibility, want een Sam Altman neem ik daarin een stuk minder serieus.
• 58:41
  Die is ook helemaal niet hoofdonderzoeker zoals Demis Hassabis dat wel is in ieder geval geweest is. En ik dus ik, ik ben. Ik ben vooral aan het kijken naar wat daar gezegd wordt vanuit de loopgraven.
• 58:53
  Lecun is net zo goed in de loopgraven bij Meta, dus het is een interessante, want hij is echt een beetje.
• 58:58
  Hij voelt een beetje in in het in het gesprek online als een outlier op dit moment, want hij zit op dezelfde plek als een Demis Hassabis en een Darius Amodei. Maar hij zegt iets heel anders op dit moment.
• 59:10
  En ik denk dat hij. Zou. Hij heeft toegang tot dezelfde interne systemen, dus hij weet de informatiepositie is het. En Mark Zuckerberg, zijn baas.
• 59:18
  Ja, die heeft het wel over onze programmeurs worden in twaalf tot achttien maanden ten grote delen vervangen door onze eigen lama. Dus daar zit ook.
• 59:26
  Nou ja, goed, dan kan je misschien toch tussen hun twee weer een midden vinden. Maar ik denk al met al nu wij het er zo met elkaar over hebben en ik jou zo die voorbeelden hoor noemen.
• 59:35
  Wat Demis Hassabis heel goed doet, is nu ga je de fanboy in mij een beetje horen dat het veel meer te maken heeft voor mij met de impact van wanneer zouden we weten dat AGI er is?
• 59:46
  Dus we kunnen over definities praten en grafieken. We kunnen ook zeggen wat zien wij in de wereld als AGI er is. Dus dat zou dan zijn een Nobelprijs die gewonnen wordt door een model. Gemini drie wint een Nobelprijs,
• 1:00:00
  een medicijn en minimaal één voor een belangrijke ziekte die veel leed veroorzaakt. Zou prettig zijn toch?
• 1:00:07
  Een een nieuwe fundamentele wiskundige oplossing voor een bestaand vraagstuk of een hele nieuwe manier van iets berekenen wat veel sneller is. Uhm. Doorbraak op het gebied van klimaattechnologie.
• 1:00:17
  Wat wij normaal verwachten van novel science. En ik denk dat uhm. Move thirty thirty five in uh Deep Go uh, die het spel Go kan spelen van Deep Mind van Demis Hassabis.
• 1:00:29
  Move thirty five was een innovatieve move die gemaakt werd tijdens een spel Go tegen de uh destijds Grand Master of Super Master of Go.
• 1:00:39
  Lee Sedol uit mijn hoofd en Move thirty five wordt gezien door alle experts rondom het spel Go. De zet. Ja, het was in het spel de 35e zet. Dat weet. Dat leek op een hele rare maffe zet.
• 1:00:52
  Ik raad de luisteraar aan het terug te kijken op YouTube. Want ja uh sedol zelf komt teruglopen. Die kijkt echt naar het bord met een gezicht van wat gebeurt hier nou. Allemaal om. Ja, en uh de ja, je hebt dan van die.
• 1:01:03
  Net als bij de radio heb je van. Bij voetbal heb je commentatoren natuurlijk en die zeggen van nou, we weten even niet wat hier gebeurt.
• 1:01:08
  Dat bleek een move te zijn die pas zeven of acht moves later onderdeel was van een soort super move. Acht In een soort ensemble van moves was gewoon een briljante zet. Een zet die niet in de trainingsdata zat.
• 1:01:20
  Een zet die Deep Go zelf geleerd had door heel veel Go tegen zichzelf te spelen. Novelty Iets nieuws. Een uitvinding werd daar gedaan binnen een heel. Eigenlijk zeg je er zijn een aantal vinkjes en die vinkjes
• 1:01:33
  worden gezet. Ja, en ik denk dat voor mij.
• 1:01:36
  Ik zit een beetje, dus op die als het dus gaat om daadwerkelijke impact, dus niet het pad ernaartoe wat je net vroeg, twee tot drie jaar, maar impact van dat pad wat belopen wordt. 5 tot 10.
• 1:01:46
  Ja dus het wat 5 tot 10 gaat gebeuren. Dat is dus de timeline van Demis Hassabis voor nu. Daar zit ik ook op. Dat ik denk dat we daar signalen van gaan krijgen. Signalen. Zoals de voorbeelden die je net noemt.
• 1:02:00
  Ja, en ik denk dat dus misschienUh, als iemand mij in het vervolg vraagt: wat is AGI? Dan ga ik iets beschrijven en dan ga ik de effecten beschrijven van datgene.
• 1:02:09
  Dat gaat ervoor zorgen dat heel veel mensen op zoek moeten naar nieuw werk. Of heel veel mensen moeten gaan nadenken over hun baan.
• 1:02:14
  Dat gaat ervoor zorgen dat in de brede zin van de samenleving mensen gaan zeggen: hé, maar wacht even, dit is wel even wat anders. M-hm.
• 1:02:21
  We dachten dat het alleen kon namaken en niet dat het ook nieuwe dingen kon verzinnen. Want je moet general intelligence hebben om nieuwe dingen te kunnen verzinnen, is een aanname, hè. En toch nog even die andere kant.
• 1:02:31
  Denk je, denk je dat er ook een serieus scenario is waarin we eigenlijk, waarin we eigenlijk een soort van sciencefiction scenario veel te serieus nemen? Is er ook een deel van jou wat denkt: Ja.
• 1:02:44
  ik laat mezelf helemaal gek maken. Ja, dat noemen ze drinking your own Kool-Aid, zeg maar. Dus je, je bent eigenlijk je eigen gekkigheid aan het opdrinken, zeg maar, je eigen onzin. M-hm.
• 1:02:52
  Uh, wij zitten natuurlijk, uh, ik ga, ik zeg even wij, maar ik hou het even bij mezelf. In een soort echokamer, een online echokamer.
• 1:03:00
  Ik lees de blogs, ik lees de artikelen, ik luister de interviews, ik luister andere podcasts.
• 1:03:05
  En dan ga je met elkaar in een soort, kom je in een wereld terecht waarin, uh, je als mens toch wel vatbaar bent voor een soort groupthink. Uh, wat de groep denkt, ga jij ook voor waar aannemen.
• 1:03:15
  Daar zijn wij heel gevoelig voor. Waarbij de hardste schreeuwers, de, die, de salesmensen zoals Sam Altman zijn. Exact.
• 1:03:20
  Dus de economische incentives achter die groupthink zijn ook nog eens een beetje dodgy, zeg maar, om het even zo te zeggen.
• 1:03:26
  Dus, uhm, ik, ik kan me goed voorstellen, uhm, dat ik er, uh, dat ik een verdraaid wereldbeeld gekregen heb door wat ik, wat mijn mediaconsumptie is en dat het allemaal wel meevalt. Fabeltjesfuik. Ja, zo'n fabeltjesfuik.
• 1:03:42
  Dat je een soort van, uh, A-AGI, uh, radicalized bent als het ware, hè. Ja. Zoals een wa-, zoals een covidwappie of een, uh- Ja, dat je heel diep in die tunnel be-beland bent. Ja.
• 1:03:52
  En ik denk dat, uh, uh, ja, ik, natuurlijk praat ik nog gelukkig ook met mensen buiten mijn AI-bubbel, uh, die best wel vaak mij een soort van, nou zeggen: moet ik je even een knuffel geven?
• 1:04:03
  Want volgens mij valt het allemaal wel mee, vriend. Uhm, en, nou, goed, en dan, en dan komt er helaas, zeg ik dan eigenlijk,
• 1:04:10
  v-, want ik, ik zeg helaas omdat ik merk dat wat ik nu voor me zie gaat wel een beetje te snel, vind ik. Ik vind het wel, want jij, jij struikelt ook in dit gesprek terecht met een soort van optimisme, pessimisme.
• 1:04:22
  Het gaat goed, het gaat slecht.
• 1:04:23
  Kijk, als je aan de kant van medische wetenschap staat en je zegt: hadden we maar 10.000 extra PhD-studenten, dan kon ik tenminste die ziektes waar nie-, waar geen geld voor is wel onderzoeken.
• 1:04:32
  Dan is het een ongelooflijk optimistisch verhaal. Exact. Maar op alle andere vlakken van- Ja...massawerkloosheid op korte termijn, uh, het ondermijnen van onderwijs.
• 1:04:42
  Ik snap dat dualisme, maar er is dus, er is dus, weet je, je, je stapt er nu overheen, maar je, je denkt niet dat dit, je, je, je twijfelt er nooit echt aan of dit gaat gebeuren. Jawel. Oké. Ja.
• 1:04:52
  Ja, ja, want ik, ik zeker. Ik heb, ik heb echt, uh, [lacht] uh, bijna maanden dat ik een stuk rustiger ben en denk, uh: voor mij, uh, uh, valt het allemaal wel mee.
• 1:05:02
  Want dus, want het is, het maffe is dus dat- En meevalt, dus dat het trager gaat dan jij denkt.
• 1:05:05
  Ja, maar daar zit dus een enorm waardeoordeel al bij en, en een onderbuikgevoel dat ik merk: ik zou het eigenlijk niet zo erg vinden als ik er een beetje naast zit. Nee. Nee. Dat zou ik niet zo erg vinden.
• 1:05:17
  En ik heb wel eens, uh, weken, maanden dat ik denk dat ik ernaast zit en dat, uh, dan ben ik een stuk, uh, stuk rustiger, want dan is de urgentie ook niet zo groot. Het is voor journalisten merk ik ook lastig.
• 1:05:26
  Ik las bijvoorbeeld een stuk van de techjournalist van The New York Times, Kevin Roose, die nu ook een boek over AGI aan het schrijven is, en hij schreef: buiten Silicon Valley hebben weinig mensen zelfs maar van AGI gehoord, laat staan dat ze zich erop voorbereiden.
• 1:05:39
  En in mijn sector, de journalistiek, riskeren journalisten die AI-vooruitgang serieus nemen, en dan dus tot het punt dat je naar AGI toe gaat, het nog steeds om bespot te worden als goedgelovige sukkels of handlangers van de industrie, uh, van het grote kapitaal.
• 1:05:54
  En hij schrijft: eerlijk gezegd begrijp ik die reactie.
• 1:05:57
  Hoewel we nu AI-systemen hebben die bijdragen aan doorbraken die de Nobelprijs winnen en hoewel 400 miljoen mensen per week ChatGPT gebruiken, is veel van de AI die mensen in hun dagelijks leven tegenkomen eigenlijk alleen maar een grote ergernis.
• 1:06:10
  Dus ik heb begrip voor mensen die AI-rommel op hun Facebookfeed gesmeerd zien worden, alle AI-slop, of een onhandige interactie hebben met een klantenservicebot en dan denken: is dit wat de wereld gaat overnemen?
• 1:06:23
  Dus het is, er is een, uh, ongelooflijke kloof tussen al die dingen die jij gelooft en, uh, de meeste gewone mensen.
• 1:06:32
  En journalisten voelen dat, denk ik, en hebben ook de neiging om daar, om, om, mede om die reden, laat ik het dan zo zeggen, er niet heel veel mee bezig te zijn. Maar ik denk als jij zegt: jij gelooft.
• 1:06:42
  Ik zou zeggen: waar ik serieus rekening mee hou. Ik wil het toch een beetje nuanceren, want- Ja...bij een geloof is het, is het redelijk absoluut en dat is het niet.
• 1:06:50
  Ezra Klein, uh, van The New York Times, een, uh, belangrijke opiniemaker, uhm, van The New York Times. Die sprak een tijdje veel mensen uit AI-labs op achtergrond,
• 1:07:00
  uhm, en die schreef een paar maanden geleden dit in een artikel. De afgelopen maanden had ik een vreemde ervaring.
• 1:07:07
  Persoon na persoon uit AI-labs, uit de overheid, kwam naar me toe en zei: het staat echt op het punt te gebeuren. We staan echt op het punt om kunstmatige intelligentie te bereiken. Uh, te, uh, sorry, AGI te bereiken.
• 1:07:19
  En wat ze daarmee bedoelen is dat ze al lange tijd geloven dat we op weg zijn naar de ontwikkeling van transformerende kunstmatige intelligentie die in staat is om vrijwel alles te doen wat een mens achter de computer zou kunnen doen, maar dan beter.
• 1:07:31
  Ze dachten dat dit ergens tussen de vijf en tien jaar zou gaan duren om te ontwikkelen, maar nu denken ze dat het over twee tot drie jaar zal gebeuren tijdens Donald Trumps tweede termijn.
• 1:07:39
  Dat is echt, dat vind ik zo'n freaky element. Uh, ze geloven het vanwege de producten die op dit moment, uh, uitgebracht worden en van, en, uh, door wat ze intern zien op de plekken waar ze werken.
• 1:07:50
  En ik denk dat ze gelijk hebben. En daarop tweette Ethan Mollick, de schrijver van, uh, Co-intelligentie, een gezaghebbend boek over AI wat ik van harte aanbeveel.
• 1:07:59
  Uh, ik zou willen dat er meer mensen de mogelijkheid serieus nemen die Ezra Klein en leiders van AI-labs aankaarten dat AGI een reële mogelijkheid is op korte termijn.
• 1:08:09
  Je hoeft ze niet zelf te geloven, maar leiders en beleidsmakers moeten de mogelijkheid overwegenEhm, dat het waar is. Of Volledig mee eens. Precies, dat is, dat onderschrijft volledig wat jij zegt.
• 1:08:20
  Ja, en toen Ezra Klein dus dit zei, toen was ik dus blij en een beetje verdrietig tegelijk, omdat ik dacht: als Ezra dit nu ook gaat zeggen, ik heb hem best hoog zitten- Ja.
• 1:08:31
  Nou komt hij mijn bubbel in, waar ik nog van hoopte dat hij niet helemaal waar was. Mhm. Hè, dus als je gevalideerd wordt in iets wat je eigenlijk ook spannend vindt, is dat ook balen.
• 1:08:39
  Terwijl je je ook een beetje minder alleen voelt. Ja. Was heel dubbel. Maar ik vind het ook heel ingewikkeld om dit, dit ook, ook bij hem denk ik weer, ook hij heeft er een belang bij.
• 1:08:47
  Die mensen die met hem praten hebben daar ook op een bepaalde manier weer een belang bij, want die hebben aan de aandelenportfolios van het bedrijf waar ze werken.
• 1:08:54
  Het is allemaal zo ingewikkeld om te bedenken of je dit moet. Dus een deel van mij denkt: my God, de mensen die er werken, ze schreeuwen het van de, zeg maar from the top of their lungs. Ja.
• 1:09:05
  Ze proberen ze in iedere conferentie, in nieuwsartikelen, in essays. Want je moet het ze nageven, ze vertellen [gniffelt] dat- Zeker weten. Ze denken dat dit gaat gebeuren op korte termijn.
• 1:09:14
  Ze gaan weg bij de labs waar ze werken. Ze gaan weg bij de labs- Om het te mogen vertellen. Om te mogen vertellen hoe erg ze denken dat het is. Of hoe, erg is een verkeerd woord, maar hoe, hoe, hoe- Belangrijk.
• 1:09:23
  Snel, belangrijk. Ja, hoe.
• 1:09:25
  Dus het is alsof het allemaal mensen, t-, zeg maar, als ik die, uh, kant een beetje serieus probeer te nemen, dan denk ik: ja, dit zijn allemaal, ze, het is niet alsof ze, alsof ze ons niet gewaarschuwd hebben.
• 1:09:36
  Ga, ik, ik probeer, ik probeer mezelf in de toekomst te, uh, te, uh, te bekijken en dan kun je gewoon de headlines zien.
• 1:09:42
  Als je wil, dan zie je gewoon alle grote bazen en medewerkers en mensen die weggaan en dan vervolgens strijden tegen een NDA om dan publiekelijk te mogen vertellen hoe ze denken dat dingen zitten.
• 1:09:55
  Ja, ik ken weinig verhalen van in, in, van medewerkers die, uh, uit de school klappen, zeggen: dit valt allemaal wel mee, hoor.
• 1:10:03
  Nou kijk, ik bedoel, diezelfde elementen werken ook op ons, hè, op ons twee terwijl we hier nu zitten. Ik wil niet te belachelijk gemaakt worden. Ja.
• 1:10:10
  Ik vind het ook niet prettig dat wij worden gezien als, en nu gaan mensen misschien lachen luisteren, die twee AI-boys- Ja. Hè, met een, met een soort uitvinding die of iets wordt wat we helemaal niet tof vinden- Ja.
• 1:10:20
  Of een dud, als in: het viel allemaal wel mee. Ja. Dus in al die scenario's zijn minder fijn voor ons- Ja. Als we een soort, uh, single topic guys zouden zijn. Ja. Uhm, maar we maken ook een podcast over AI.
• 1:10:32
  Dus dat er iets gebeurt en dat er nieuws te vertellen is iedere week is voor ons ook wel weer belangrijk, want dan hebben we nog- Het is ook ons businessmodel, zou je kunnen zeggen.
• 1:10:39
  Ja, dus wij, ik, voor mij zitten wij prima tussen die twee, uh, velden in, uh, waarin we gemotiveerd worden om het, uh, serieus te nemen en er iets over te vertellen.
• 1:10:49
  Maar het voelt gek en dat is denk ik omdat de cultuur er gewoon niet naar is. Dus- Hoe bedoel je dat?
• 1:10:54
  Nou ja, journalisten kunnen allemaal achter elkaar aan rennen, uh, als er een verhaal is wat opeens heel erg de, uhm, ja, hoe moet je dat zeggen, de,
• 1:11:04
  de, weet je, de, de, d-, de, er zijn verhalen die opeens heel erg de aandacht trekken. Die, die, die een beetje de, de culturele, uh, ja, ik weet niet, de agenda gaan bepalen.
• 1:11:16
  Uh, een tijd lang was dat bijvoorbeeld MeToo. Ja. Of, uhm, de, de agenda zettende onderwerpen, zeg maar. En dit is, dat, dat is dit gewoon niet.
• 1:11:26
  Nee, maar ook al denk ik omdat het zo'n- Dus daarom ga- Vaag ding is voor heel veel mensen. Het is een systeem. Het is elektriciteit, man. Het is zo groot. Ja.
• 1:11:33
  En het, als het zich dan uit, die elektriciteit, dan uit het zich laf in slop of in een slechte assistent voor veel mensen. Ja, precies. Ja. Als ze het al een keer, als ze AI een keer kunnen aanraken.
• 1:11:43
  Ja, ChatGPT gevraagd. Nou, er kwamen allemaal leugens. Ja, dan was dat het. Dat plaatje heeft zes vingers. Ja. Dus het, het, maar, het is heel makkelijk om het af te schrijven.
• 1:11:51
  En misschien willen we het ook wel afschrijven. Is dat wel chill.
• 1:11:54
  Maar de consequentie is wel dat omdat journalisten het niet, ja, serieus nemen en niet veel over schrijven, over AGI, is ook dat bij beleidsmakers geen druk ontstaat. Weet je, het is zo'n rare situatie.
• 1:12:07
  Het zijn de bazen van die AI-bedrijven en allerlei experts die zeggen: al is de kans 10%, Jesus Christ, misschien moeten we even ons hierop gaan voorbereiden. Ja.
• 1:12:16
  En aan de andere kant een soort van stilte, uh, bij beleidsmakers en journalisten. Dus het, daardoor ga ik ook aan mezelf twijfelen, denk ik. Ja. Ben ik hier te veel mee bezig?
• 1:12:26
  Is dit, ben ik een soort van wappie geworden? Luister je veel te veel naar Wietse? Luister ik veel te veel naar Wietse? [lacht] Nou ja, goed. Waar, waar, waar staan we nu?
• 1:12:33
  Want misschien is dat een, misschien is dat een goed moment om dat nu te, uh, je, je beschrijft vooruitgang. Je beschrijft lijntjes die vooruitgaan. Je begrijp, je, jij beschrijft een soort van
• 1:12:44
  objectieve weer-, uh, zeg maar, uhm, dingen die we kunnen gaan zien waardoor er vooruitgang is. Zoals, uh, s-, bepaalde ziektes met, met AI proberen te, uh, genezen. Welke,
• 1:12:59
  ja, wat, wat is de, welke objectieve benchmarks zijn er om te bepalen waar we nu staan? Of hoe, hoe, hoe, hoe kijk jij naar waar wij nu staan?
• 1:13:09
  Ik denk objectief is een moeilijke, maar er zijn gewoon, uh, uh, als in benchmarks. Maar er worden wel een hoop benchmarks gemaakt.
• 1:13:14
  Hè, we hadden het net al over Arc AGI 2, 3,5% voor O3 high, hè, het meest zware model van OpenAI wat we, wat er gebruikt kan worden. Schamele 3,5% waar een mens 90% weet te scoren.
• 1:13:25
  Daar staan we nu van het frontier model gewoon. Dan heb je de Humanities Last Exam, uh, die nog niet uitgespeeld is, uh, verre van. Uhm, er is een, uhm,
• 1:13:37
  om het even goed te zeggen, er is nog een hele grote benchmark, ben ik de naam even van kwijt. Die is ook goed om in de gaten te houden.
• 1:13:42
  Dat is een van die forecasters heeft die gemaakt, want die hebben ook zoiets van: ja, we kunnen wel gaan praten over de toekomst, maar we moeten wel aan die toekomstscenario's, uhm, milestones plakken die we kunnen meten, zodat we ook netjes iedere drie maanden een updatetje kunnen sturen hoe wij er nog bij staan.
• 1:13:57
  Dat is de beste forecaster die eerlijk zijn grafieken gaat aanpassen naar beneden of naar boven. Mhm.
• 1:14:02
  En, uhm, kijk, waar we nu staan is, een beetje laf antwoord misschien: het kan nog alle kanten op.Uh, het kan nog steeds zo zijn dat o3 het maximum is wat je kan halen uit het paradigma wat er nu is.
• 1:14:16
  Kan voorspellen en dan g-, want het zijn allemaal wel reasoning toevoegen, hè. Dat het je eigen huiswerk nakijkt. Grounding door middel van documenten, uh, meer tijd geven om na te denken.
• 1:14:26
  Dat, dat, dat voelen niet als substantieel bizarre uitvindingen. Ja, misschien reasoning een beetje, maar de rest voelt toch een beetje als patchen. Een beetje plakken erop.
• 1:14:34
  Ja, ik, a-, ik begrijp, als ik, begrijp ik je goed als je zegt: er zijn heel veel dingen waarbij je gewoon er meer tijd en computerkracht tegenaan gooit en kan dat nog heel veel schalen.
• 1:14:42
  Dus het zit hem dan letterlijk in mensen die datacenters moeten bouwen met kranen en beton.
• 1:14:48
  Dit is een beetje de theorie, hè, van veel mensen die dan, uh, de AGI voelen, zeg maar, feeling the AGI, is dat zij ook in die scha-scaling hypothesis geloven.
• 1:14:56
  Dus de hypothese dat schaal, uh, dus hardware schaal genoeg is en dat we geen substantiële uitvindingen meer hoeven doen. Tegelijkertijd hebben we ook GPT 4,5. Nou, daar is volgens mij 1,5 jaar aan getraind.
• 1:15:09
  [lacht] De miljoenen vlogen me om de, om de oren. Nou, ik gebruik GPT 4,5 dagelijks, maar ik heb niet het idee dat ik met AGI te maken heb. Je bedoelt: er is heel lang aan getraind.
• 1:15:18
  Als je die scaling laws, als die echt van toepassing zouden zijn, zou dat model veel beter geweest zijn. Dat viel gewoon tegen. Ja, en dan, dan wordt er gezegd: ja, we moeten andere, uh, trucjes uit de kast halen.
• 1:15:27
  Ik moet zeggen, die trucjes doen een hoop. Geef hem meer tijd, laat het een agentje zijn, laat hem nadenken over zijn huiswerk, noem maar op.
• 1:15:33
  Dat werkt, want deep research is fundamenteel, uh, beter dan wat GPT 4,5 ooit was, zeg maar. Uhm, maar ik, ik, ik heb wel-- kijk, dat,
• 1:15:44
  dat LeCun bij Meta zegt: uh, joh, we hebben nog wel één, twee, drie fundamentele uitvindingen nodig ter grootte van wat GPT is, voordat we iets kunnen maken wat een band is dat genoeg kan spelen om ons onder de indruk te laten zijn.
• 1:15:58
  Ja. Om het even zo te zeggen. Uhm. Geloof je dat? Dat kan waar zijn wat hij zegt nog. Ik, ik zie geen dingen nu, uh, om, om mij heen voor wat ik kan testen en lezen en doen dat ik zeg: dat kan niet meer, wat hij nu zegt.
• 1:16:11
  Moet ik het zo dan begrijpen? Dat er, dat ze, dat ze denken: er zijn nog twee, drie fundamentele ontdekkingen die we moeten doen, maar we komen daar wel. Zou kunnen dat het niet zo is.
• 1:16:22
  Ja, maar zo'n fundamentele ontdekking als je wintertjes gaat meerekenen, 10, 15 jaar per ontdekking. Ja. Terwijl de andere, het andere, de andere kant van het spectrum zegt: uh, AI is software. AI kan software maken.
• 1:16:36
  Laat AI AI-software maken en stap achteruit. En, uh, drie dagen later of drie jaar later heb je het boompje in je tuin staan. Ja, precies. Dus dat, dat maakt het onvoorspelbaar.
• 1:16:45
  Dus de, dat is nu ook natuurlijk heel erg aan de hand.
• 1:16:47
  De, de focus op van AI-ontwikkeling gaat heel erg over AI die kan programmeren en, uh, eigenlijk de AI-onderzoekers helpen om hun werk efficiënter te doen, waarmee het een soort van zelfversterkend effect krijgt.
• 1:17:01
  En dat wordt breed gezien als een mogelijke katalysator voor zo'n intelligentie-explosie. AI-systemen die zichzelf kunnen verbeteren met steeds grotere snelheid. Dus je zou kunnen zeggen: er is iets nieuws aan de hand.
• 1:17:15
  En, uh, ik las er ook over, hoewel sommige optimistische AI-denkers al in 2021, vlak na de komst van ChatGPT, voorspelden dat we snel, uhm, programmerende AI-agenten zouden hebben die engineering taken zouden kunnen uitvoeren en zichzelf 100 keer zouden kunnen verbeteren, is de ra-realiteit dat elke stap, uh, in die verwachting toch een stuk moeilijker is gebleken dan werd verwacht.
• 1:17:36
  Ja, en ik denk ook, uhm, als je, als je het voor je ziet in stappen van complexiteit, zeg maar.
• 1:17:41
  We leven in een vrij complexe wereld waar we over het algemeen als mens best wel moeite mee hebben om nog te begrijpen wat er allemaal gebeurt. Ja. Zo ook wij in dit gesprek.
• 1:17:48
  Het is best een moeilijke om onszelf omheen te werken, maar we doen ons best. Is dat die stappen van complexiteit, dat die ook exponentiële complexiteit zijn.
• 1:17:58
  Dus daarmee wil ik zeggen dat voor iedere stap die wij als mens al wel hebben genomen, want wij zitten hier nu als general intelligence. Moet even gezegd worden op menselijke manier. Applaus voor ons.
• 1:18:07
  We doen ons best en daar zijn wij, hebben we best even over gedaan. Ja. Hè, best even over gedaan.
• 1:18:14
  Die, uh, ik heb, ik geloof dus zelf of ik, ja, ik zie, misschien moet ik het zo zeggen en ik zie dat nog wel even doorgaan. Lineaire groei in wat AI kan of i-in de kracht van AI.
• 1:18:25
  En lineaire groei, uh, houdt in dat er wel vooruitgang is, maar niet met gigantische orders of magnitude, zoals ze dat graag in de industrie zeggen. Oems, hè, van die enorme klappen omhoog.
• 1:18:36
  En, uhm, de complexiteit van de problemen die we aan zo'n apparaat geven. Bijvoorbeeld: nee, jij gaat niet 20 minuten deep research doen, jij gaat acht uur lang mensenwerk doen en ik hoor jou wel eind van de dag.
• 1:18:49
  Je klokt maar weer uit om 5.00 uur. Dat is een orders of magnitude complexiteit. Als je dan lineaire groei hebt, dan ben je daar niet. Je kan niet zeggen: ieder jaar een nieuwe stap. Mhm. Nee.
• 1:19:00
  Uh, sterker nog, als je lineair aan het groeien bent, kost dat best wel-- het zou zomaar zo kunnen zijn dat die laatste 20% van, uh, uh,
• 1:19:10
  Nobelprijzen winnen, om het weer even op de effecten te leggen, dat dat wel 20 jaar is. Ja. Ook met de soort van wat we vandaag hebben en wat er tot nu toe gebeurd is.
• 1:19:20
  Omdat, en dat, dit, weet ik wel uit mijn, uh, tijdje dat ik hier al rondloop. Dat waarom, ik heb natuurlijk gereflecteerd om waarom zat ik ernaast, uh, toen? Want ik, ik wilde- Waar zat je eigenlijk naast?
• 1:19:29
  Uh, nou, ik, ik ga maar even iets, dit is een beetje suf, maar ik heb bijvoorbeeld, uh, geroepen dat ik geen toekomst zag voor het bedrijf Nintendo. Heb ik ooit geroepen in de Appels en Peren Show heel lang geleden.
• 1:19:38
  Een podcast die ik een keer voor maakte. Ik zag gewoon echt geen toekomst voor het bedrijf Nintendo, want ik dacht gewoon: smartphones met apps erop en mensen willen helemaal niet meer betalen.
• 1:19:48
  En kinderen zitten alleen maar op iPads en smartphones. Dus- Ja, newsflash: er is een Switch. Ja, toe-- die was er toen zelfs al, maar de Switch geloofde ik niet.
• 1:19:56
  [lacht] Dus nou goed, wa-- ik heb helemaal niet begrepen: een ecosysteem, een purposeful build device, uh, de, de characters. Er zit een heel verhaal om Nintendo heen en dat weten zij donders goed.
• 1:20:06
  En anders hadden ze niet zo slim daarop ingespeeld. Er is veel meer aan de hand dan spelletjes spelen. Oké, dus, d-er is een keer een verkeerde inschatting van jou geweest. Meerdere. Maar wat moeten we hiermee?
• 1:20:16
  Nou, dat als je dan, als ik dan terug reflecteer, dan denk ik: oh, ik heb helemaal geen, uh, rekening gehouden met ecosysteemeffecten. Ik ben zelf helemaal niet een, een key user van die demographic van gamers.
• 1:20:25
  Dus ik ben vanuit een positie van onwetendheid gaan praten over een systeem dat veel groter was dan ik zelf dacht. Dat doe ik dus nu weer. Ja. Want wij, jij en ik werken niet bij Anthropic en hebben geen KI gestudeerd.
• 1:20:35
  Nee.Maar ik denk dat waarom wij toch een beetje durven hier dingen over te zeggen. Wil ik dan nog ook een beetje duiden dat het toch een soort spidey sense is, zeg maar zoals bij Spiderman.
• 1:20:46
  Dan zegt hij My spidey sense tingles, zeg maar, die kietelt een beetje. Ik denk ook bij jou, anders waren we deze podcast niet begonnen. Dat er ergens iets kriebelt van oh, er is denk ik wel wat aan de hand.
• 1:20:57
  Er is hier wel wat aan de hand en en ik wil wel even gezegd hebben laatste complimentje voor Demis Hassabis. Deep Mind is niet drie jaar geleden gestart uit mijn hoofd, twaalf jaar geleden al of zo.
• 1:21:10
  Of minimaal tien jaar geleden toen wij allemaal nog helemaal niet. Ik wou zeggen in onze luier zaten, maar dat is onzin. Maar in onze AI luier zaten. We hadden het er helemaal weinig over.
• 1:21:19
  Nee, heeft hij daar gewoon gezegd Oh, dit wordt mijn levenswerk. Want hij zag hem al. Ja, en als je oude interviews terugkijkt, dan zegt hij het ook al.
• 1:21:27
  Dus dat is ook een stukje waarom ik hem natuurlijk nu serieuzer neem. Omdat ik denk ja, het is niet alsof jij de verkeerde afslag genomen hebt qua toekomst. Verkeerd bedoel ik mee.
• 1:21:36
  Je hebt geïnvesteerd in hetgeen wat het ging worden, dus je hebt dat best wel knap gezien. Ik neem jou serieuzer ja. Maar we hadden het over die intelligentie, explosie en de de mate waarin AI zichzelf beter kan maken.
• 1:21:50
  Om het even heel plat te zeggen dat dat zomaar eens iets zou kunnen zijn waardoor die mate van voorspelbaarheid eigenlijk afneemt. Dus dat de.
• 1:22:04
  Je kan constateren dat er nog een aantal fundamentele ontdekkingen gedaan moeten worden, maar dat de kans op die von dat de kans toeneemt dat die ontdekkingen gedaan kunnen worden doordat AI's zichzelf kunnen programmeren.
• 1:22:16
  Ja, dat is dit is een een. Kijk. Dit is zo, toch? Dit is aan de hand. Nou, ik zou het het. Ik bedoel, er wordt al binnen die labs gebruik gemaakt van agentic of assisted coding om hun. Schrijven eigen code. Ja. Dus.
• 1:22:33
  Is dat hetzelfde? Nee, maar ik bedoel de de de programmeurs programmeurs daar worden bijgestaan door hun eigen AI. Dus dan heb je al een cirkeltje draaien.
• 1:22:40
  Ja, op een gegeven moment ga je natuurlijk zeggen die AI mag één minuut, tien minuut, 8.00u binnen open AI werken. Die hebben straks ineens allemaal nieuwe personeelsleden op de loonlijst staan.
• 1:22:49
  Maar die vragen geen loon, maar alleen maar tokens. En die verkopen ze zelf, dus ze gaan de sigaret uit eigen doos. Daarbij ben ik nog redelijk kalm dat ik zeg ja, laat ze maar wat nieuws maken.
• 1:23:00
  Kijk, als assistenten die als jij ze vertelt wat ze moeten doen, jou tien keer zo snel maken als ontwikkelaar. Geloof je wel. Dat is al zo. Ja, en. Maar fundamentele ontdekkingen doen, dat moet je nog even zien.
• 1:23:12
  Ja, ik denk dat op het moment dat. En we kunnen dat verifiëren dan, dus dan moet dat zeg ik er even bij dat wij ook kunnen verifiëren dat er een.
• 1:23:21
  De meeste modellen die nu uitkomen, ook bij gesloten labs, daar zit wel iets van een research paper bij. Niet de niet de gewichten, niet het model, maar wel hoe zijn. Wat hebben we allemaal weer uitgevonden?
• 1:23:31
  Anthropic doet altijd leuke research en zo. Ja, als zij dan onderaan dat of bovenaan dat aan die research paper twee namen hebben staan. Gewoon het model. This was Cloud 41 heeft ook meegeschreven aan deze paper.
• 1:23:42
  En dan ook misschien nog trots erbij zeggen 22% van de ontdekkingen gedaan in deze paper zijn gedaan door Cloud en wij kunnen verifiëren dat ze daar niet over liegen. Dat is voor mij een enorm signaal.
• 1:23:53
  Want het is al zo of het is niet zo? Nee, precies nee. Dit is de situatie. Dit is zo'n vinkje wat je. Ja, en die forecasters, die super forecasters zoals ze zichzelf allemaal noemen. Dit is zo'n vinkje.
• 1:24:03
  Die hebben een hele lijst met vinkjes. Ja precies. Ja. Dus als je hier. Als je dit wil volgen, kan je dat ook een beetje in de gaten houden.
• 1:24:08
  Ik doe dat ook, want dan kan ik een beetje sanity checken op mijn eigen Koolaid, zeg maar op onze tunnel visie. En en hoe voorzie je dat dit soort van AI's die elkaar. Die zichzelf beter maken?
• 1:24:22
  Hoe voorzie je dan dat dat zal gaan? Wat voor soort van exponentieel lijntje heb je dan in je hoofd voor de komende paar jaar? Nou, ik denk dat. Het heeft voor mij denk ik minder te maken met het exponentiële,
• 1:24:37
  maar dat je voor de keuze komt te staan. Kijk, als je. Ik maak best wel lang al software en software moet op een gegeven moment gaan werken. Dit klinkt echt heel leeg, maar dit gaat ergens naartoe. Dat houdt in dat.
• 1:24:55
  Ik heb het. Ik heb een tijdje motoren kleine motortjes gekocht. Vraag me niet waarom, maar ik vind dat fantastisch mooi. Je kan stoomlocomotief eens kopen, benzine, motortjes et cetera.
• 1:25:03
  Een boeiend inkijkje in jouw leven. Zeker even een hobby'tje. Nou dan. Stel je even voor. Je bestelt zo'n pakketje. Krijg je allemaal stukjes metaal binnen met een handleiding erbij.
• 1:25:11
  Of het lego is en dan ga je dat ding in elkaar zetten en dan doe je er een beetje benzine in. Geen grap. En dan haal je er een aansteker bij en dan moet je hem gaan gaan timen, dat wiel van dat ding.
• 1:25:20
  Want die moet zeg maar die intake out stroke in stroke. En die klap, zo toe toe toe toe toe. Die moet je timen. Dus jij hebt dat ding in elkaar gezet. Heb je zelf gedaan als in stukjes en de handleiding.
• 1:25:30
  Dan heb je er een beetje brandstof in gedaan. Haal je daar zo'n vlammetje bij en dan geef je een wankel aan dat wiel, want er zit geen startmotor bij. Dat ben jij. En dan hoor je zo toe, toe, toe toe en dan valt de lat.
• 1:25:41
  Valt hij weer stil, want dat ding is niet goed getimed. Die die, die die is niet op tijd zijn lucht aan het pakken en het doen. Dan zit jij er zo'n beetje bij.
• 1:25:48
  Ik wist helemaal niet dat het timen het leukste was van het hele proces. Ik zit dat ding. Ik weet het nog precies voor de eerste keer, een paar jaar geleden.
• 1:25:53
  Ik zit dat ding te timen en dan komt er toch een moment jongen. Ik sla dat ding. En hij liep. Hij liep en dat moment dat het begint te lopen, dat is best wel heftig of zo. Ik weet niet voor mij. Toen zat ik daar.
• 1:26:09
  Ik zeg wow, wat heb ik nou weer gemaakt of zo? En je moet je voorstellen dat op het moment dat jij binnen zo'n laboratorium, ik zeg maar even een lab werkt als een open AI bedrijf laboratorium
• 1:26:22
  en jij zegt tegen dat ding ga nou eens een beetje aan jezelf werken en dat ding begint aanpassingen te maken die hem beter maken. Waardoor die bijvoorbeeld 3% sneller wordt in het aanpassingen maken op zichzelf.
• 1:26:35
  Dan schuif jij die stoel naar achter en dan zie jij op je scherm.Want er is een soort, uh, ja, dat noemen ze in de, in de filosofie autopoiesis. Het is een soort zelf-- dat ding is op zichzelf aan het leven nu. M-hm.
• 1:26:47
  En, uh, als die motor draait. Ik bedoel, er moet benzine bij steeds, hè, maar die, jij kan dan even achterover leunen en dan draait hij. En ik merk dit nu al. Jij zelf hebt met Cursor gespeeld.
• 1:26:57
  In Cursor heb je dit al meegemaakt dat jij vragen stelt, achterover leunt en hem aan het werk ziet. Dus de motor draait, zeg maar.
• 1:27:05
  Maar ik heb het nu even over de laatste motor, want dan maken we dit onderwerp even zo zwaar als het eigenlijk is. Ons laatste onderwerp. We gaan nog afleveringen maken, maar dit is, AGI is ook een soort van: ja,
• 1:27:18
  uh, wij hoeven ook niet meer per se verder te werken aan AI nu, want dat doet AI vanaf nu. M-hm. En ik vind dat soort van moment dat de motor draait en dat jij, zeg maar, gaat kijken naar je creatie.
• 1:27:31
  Dat ik me goed kan voorstellen dat zo'n, uh, uh, onderzoeker of een groep onderzoekers die hun ziet dat hun codingbot inmiddels zijn eigen code aan het veranderen is om zichzelf beter te maken.
• 1:27:42
  En dat is waar, uh, ja, veel van de mensen die zich wat meer zorgen maken over dit scenario zeggen: uh, ja, wat dan?
• 1:27:49
  En ik denk dan: nou, dan, dan, dan, ja, dat is misschien naïef, maar dan draai je aan een knop om er wat minder benzine aan te geven of, hè, om hem, om hem misschien een beetje af te remmen op dat moment.
• 1:27:58
  Want, uh, je komt dan op een punt waarin wij, uh, in essentie het ook niet meer hoeven begrijpen. Ik ga even een gek voorbeeld maken, maar misschien, uh, stel je houdt het heel simpel, hè.
• 1:28:10
  Dus je maakt het simpelste coding, uh, botje, een botje die zelf code kan schrijven en dan zeg je: ik heb een project voor jou, dat ben jij zelf. Misschien zeg je dat niet eens. Hier, ga dit maar verbeteren.
• 1:28:19
  En iedere keer als hij klaar is, herstart hij zichzelf en dan gaat hij daarna weer diezelfde opdracht uitvoeren. Ik ga mezelf verbeteren en dat blijft hij doen.
• 1:28:27
  En jij gaat een kopje koffie drinken en je komt terug en er staat ineens allemaal tekens die je niet eens kan lezen. Gewoon letterlijk. Dat ding heeft gewoon een nieuwe kortere taal uitgevonden voor zichzelf.
• 1:28:36
  [lacht] Ik heb het niet over, uh, Japans, maar gewoon een nieuwe taal. M-hm. Maar hij doet het nog wel. M-hm. Want de andere dingen die hij moest kunnen, kan hij ook nog.
• 1:28:44
  Dan is de vraag, uh, zeg maar de auditability, dus of we nog kunnen begrijpen wat het is en of er nog een human in the loop kan zijn, is weg dan. En ik denk dat we, uhm,
• 1:28:55
  helemaal aan het begin van deze aflevering zei jij heel mooi: een uitvinding, uh, die als we niet goed opletten of als we hem niet goed vormgeven of als we hem niet goed, uh, op de juiste manier ontwerpen, dan kan dat zomaar eens voor hele, uh, akelige scenario's zorgen, hè.
• 1:29:13
  Dus, dus het is een, dat, dat, dat geeft nog een soort autonomie voor ons als mens om die motor, zoals ik het dan maar even noem, of dat codingbotje wat zichzelf code-- Te vertragen.
• 1:29:22
  Ja, te vertragen, maar ook een soort iets mee te geven, zeg maar. Alignment. Dat is natuurlijk waar al die alignment leer over gaat.
• 1:29:27
  Over hoe zorg je ervoor dat die uiteindelijke AI, Artificial General Intelligence of in ieder geval super, uh, of hele intelligente modellen, dat die dan ook het beste met ons voor hebben, zeg maar.
• 1:29:38
  Dat moet je er dan van tevoren instoppen. Of een manier hebben om het in de gaten te houden, et cetera, et cetera, et cetera. M-hm. Maar als jij vraagt aan mij: hoe zie je dat exponentiële dan voor je?
• 1:29:48
  Ja, dat zou toch een beetje zijn dat je, dat er een groep mensen ergens zegt: laat het maar doorontwikkelen. En wij vinden het ook niet te erg dat we niet meer zo goed begrijpen hoe het werkt.
• 1:29:58
  Dus je, je, we laten het als het ware vrij. Uh, het mag gewoon doorontwikkelen zonder dat wij daar nog, uh, uh, invloed op hebben. Ja, dat is wel heftig als dat zou gebeuren. En is dat, zem, neem je dat scenario serieus?
• 1:30:12
  Is dit hoe het gaat gebeuren? Of is dit gewoon een van de, uh, van de bedenkingen die we gaan-- Runaway AI noemen ze dit, zeg maar. Nee, daar heb ik het niet over. Ik heb het over AI die zichzelf beter maakt.
• 1:30:21
  Ik denk dat AI die zichzelf beter maakt en dan aan ons uitlegt hoe en wij zeggen: nu snappen we het en nu mag je het gebruiken. Ja. Dat dat wel kan gebeuren, ja. Ja. En dat, dat is- Dat is dus ook niet begrijpen.
• 1:30:32
  Mmm, nee, je moet het wel begrijpen. Oké. Dus ik bedoel meer van dat, dat, uh, uhm, laten we even zeggen Google, dat ze nu met Gemini al Gemini's eigen code erin aan het voeren zijn en om optimalisaties vragen.
• 1:30:46
  Daar ga ik van uit. Maar dat zijn allemaal nog optimalisaties waarvan een programmeur later kan lezen en misschien kan zeggen: wauw! Ja, had ik zelf ook kunnen doen. Ja, maar. Is wel slim bedacht. Zo, hé.
• 1:30:56
  Wel snel gedaan. Eigenlijk ook wel creatief. Ja. Maar met een beetje extra aandacht had ik dit ook wel gekund. Ja, je bent een prettige 10 keer zo snel als ik, maar nog steeds ik. Ja.
• 1:31:07
  Je bent een snel mens, maar niet een bovenmens of zo. En dat is wel een, een ander ding, denk ik. Ja, maar je, je had het net al eventjes over.
• 1:31:15
  Het zou ook, je komt ook al snel in, in theorieën terecht waarin het moeilijk is om de, om te volgen wat AI, of het te volgen wat AI doet.
• 1:31:24
  Of die nog wel, zoals ze dat dan zeggen, aligned met ons als mensen of als bedrijf, uhm, is. Uhm, er is dus een, als ik jou goed begrijp, is er een,
• 1:31:34
  zeg jij: zelfs als, zelfs al is de kans 10% dat AGI, uhm, er is binnen, uh, hele korte termijn, dan moet je het serieus nemen. En dan binnen die 10% is er dus een scenario waarin het
• 1:31:52
  heel negatief zou kunnen uitpakken voor ons. Uh, waarbij we het niet onder controle hebben en waarbij er allerlei onvoorspelbare neveneffecten zouden kunnen zijn. Hoe veel, hoe erg lig jij hier wakker van?
• 1:32:11
  Ja, dat is ook weer een beetje wanneer je het me vraagt. Ik denk dat ik, uh, kijk wat me-- Laat ik het zo zeggen: wat zou de reden kunnen zijn om wakker te liggen hiervan? Ja. Jeetje. Uhm.
• 1:32:31
  Ja, dat ligt, dat is heeft heel erg te maken met een soort van-- kijk, ik denk dat er nog heel veel momenten zijn waarop wij kunnen zeggen: als we dat goed bedenken met elkaar en dat doen ze binnen die labs over het algemeen wel hoor, want er zitten best wel hele slimme mensen, hè.
• 1:32:44
  Uhm.Dat we zeggen maar dit, dit, uh, dit gaat niet de goede kant op, zet het maar uit of dit gaat niet de goede kant op, zet het maar langzamer of en niet de goede kant op heeft ermee te maken dat je een, uh, systeem hebt als een beetje Nick Bostrom met zijn super intelligence in zijn boek dat, dat, dat een soort van, uh, doelloos of een soort van met een dun, te dun doel gaat op, lopen optimaliseren.
• 1:33:07
  Uh, dus die, die, die, die gaat, uhm, ja, die gaat zeggen: ik ga mezelf beter maken, ik ga mezelf beter maken als een soort, uh, zoals een, een, een, een kankercel dat ook zou doen in je lichaam.
• 1:33:18
  Ik ga mezelf vermenigvuldigen, ik ga mezelf vermenigvuldigen. Ja, uh, dat is, dat heeft, houdt geen rekening met het, uh, het organisme eromheen. Nee.
• 1:33:25
  Hè, dus wat alignment onder andere is, is: hou rekening met dat je onderdeel bent van een groter iets. Een soort holisme, holistisch, uh, perspectief op de aarde waar wij ook bijhoren met elkaar.
• 1:33:35
  Ja, het tegenargument is natuurlijk dat die AI prima in staat is om, uh, net te doen alsof hij aligned is met ons, maar ondertussen, dus door alles zoals de de Volkswagen dieseltest die minder uitstoot dan, uh, dan- Dieselgate...dan het daadwerkelijk deed in de tests omdat het geoptimaliseerd was voor de test.
• 1:33:54
  En die AI bedrijven zijn allemaal de hele tijd bezig om te optimaliseren voor de test. Dus waarom zou je juist daar die AI niet van leren door ons voor de gek te houden?
• 1:34:03
  Dat is natuurlijk, dat is het, een belangrijk tegenargument. Wij gaan het niet doorhebben het moment dat het niet meer aligned is met ons. Wat is daar dan weer het tegenargument voor?
• 1:34:12
  Uuuh, nou goed, er zijn wel manieren, uh, om dat, niet sluitende manieren en 100% perfecte manieren, maar er worden wel, wordt wel heel erg over nagedacht van oké, scheming.
• 1:34:22
  Dus, uh, dat idee dat, dat die AI eigenlijk op de achtergrond, ja, scheming, een beetje aan het, uh, schemen is. Hoe zeg je dit in het Nederlands eigenlijk? Nou ja, er plansje op na houdt. Ik weet het even niet zo goed.
• 1:34:32
  Snode plannen. Snode plannen. Uhm, dat je dat dan aan de hand van energieverbruik kan meten.
• 1:34:37
  En, uhm, dat je, en ook dit gaat heel erg counterintuitief klinken, maar je zou in essentie s-s- Dat jij aan energieverbruik kan meten dat die stiekem op de achtergrond meer aan het doen is dan dat hij voordoet.
• 1:34:47
  Dit zijn ideeën, maar ook dat je een dommere AI gaat gebruiken om een slimmere AI in de gaten te houden. Dan zeg je misschien: maar dat is echt het domste ooit.
• 1:34:54
  Maar dat is niet waar, want als jij die dommere AI wel helemaal doorgemeten hebt en nog wel helemaal begrijpt- Ja, ja...dan zou je, goed, dit, dit klinkt allemaal als nog steeds best wel problematisch, hoor.
• 1:35:04
  Als in dat het niet gegarandeerd is dat het niet fout gaat. Nee, garanties ga ik je sowieso niet geven.
• 1:35:08
  Ik denk zelf alleen dat, uhm, dat heb ik, ja, dat, dat is misschien een beetje makkelijk om te zeggen of zo, maar ik merk dat
• 1:35:16
  als ik naar deze scenario's ga, dat ik eigenlijk een aantal stappen daarvoor al zorgen heb waardoor ik merk, uhm, laten we nou met elkaar goed nadenken en meepraten en, en, en inlezen rondom dat onderwerp.
• 1:35:32
  Wat als we iets hebben wat, wat kan, wat wij kunnen? Uhm, want dat, met alle respect, dat, dat kan dan dus evenveel schemen en doen als wij dat kunnen.
• 1:35:41
  En dat begrijpen we dan allemaal wat beter, want we hebben een hele wereldgeschiedenis vol met dynamieken tussen mensen en groepen. En, uhm, dat we, dat we daarmee aan de gang, aan de gang gaan.
• 1:35:52
  Want er is niet voor niets een onderscheid tussen AGI en ASI, Artificial Super Intelligence, oftewel boven wat mensen kunnen. Tien keer mens, honderd keer mens, noem maar op.
• 1:36:01
  Dan heb ik het niet over snelheid, maar over competentie, hè, dus wat, wat het kan. En, uhm,
• 1:36:08
  dat ik denk dat we in het AGI-scenario wat, nou ja, Demis Hasabis vijf tot tien jaar, uh, wat we zouden merken in de vorm van, uh, Nobelprijzen en, en nieuwe muziek wat een hit wordt bijvoorbeeld.
• 1:36:20
  Echt helemaal nieuwe band, nieuwe genres, nieuwe instrumenten. Dat we daar met elkaar volgens mij al, uhm, omdat het 10% is, dat daar in ieder geval een deel van ons mee bezig zou moeten zijn om dat serieus te nemen. Ja.
• 1:36:33
  Wat er daarna gebeurt, dat volgt altijd uit die stap. Ja.
• 1:36:37
  En ik denk dat het alleen maar goed is als we in die stap daarvoor, namelijk dat er iets gelijkwaardigs aan de mens komt, hè, uh, dat we daar met elkaar al, uh, goed mee bezig zijn geweest.
• 1:36:48
  En wat er dan daarna komt als het bovenmenselijke technologie wordt, dat, dat voelt echt voorbij de horizon voor mij om over na te denken. Waarom? Uhm. Want het, het voelt alsof dat, uhm,
• 1:37:04
  ik, ja, je kan toch niet zeggen dat de afgelopen paar jaar lineair waren? Zeg maar de- Oh, zo bedoel je. Ja, jij bedoelt dat, je moet toch ook ergens nog wel rekening houden met dat exponentiële.
• 1:37:16
  Ja, ergens rekening houden met het exponentiële. Dat is toch, dat is toch wat er gebeurt nu? Nou ja, ik denk dat ik wel, ik zit wel heel erg op een, op een, uh, uh- Kaplint lineair lijkt. Ja, li-lineair met, uh, hobbels.
• 1:37:29
  Hm. Daar zit ik. En dat die, die, ja, ik, ik volg een beetje die rapporten, die, die klopt wel aardig. M-, als het gaat om executietijd van een agent. Dat lijkt tot nu toe nog wel [gniffelt] te verdubbelen ieder jaar.
• 1:37:41
  Dus daar zit je nog op die hockeystick, zeg maar, dus, uh, van 10 minuten naar 100 minuten naar 1.000 minuten. Hoe die loopt nu als waar we naartoe aan het gaan zijn. Mhm.
• 1:37:48
  Maar ook daarbij denk ik: ja, hè, dat is het grapje van: als je een gra-grafiek bijhoudt van hoe snel je kind groeit van geboorte tot en met het eerste jaar, dan zou je kind even lang moeten worden als de Euromast. Ja.
• 1:37:59
  Hè, dus, p-p, kom op. Dus, w-, e-ergens. Ik ben ook, ik vind dat soort van grafiekjes doortrekken altijd een beetje, uh, sensationeel. Hoe kijk je naar de, uhm, de, de impact van AGI op, uhm, op machtsverhoudingen?
• 1:38:14
  Want jij zegt de hele tijd, uhm: we gaan al vroeg erachter komen dat er eigenlijk allemaal vinkjes gezet word-- of we gaan erachter komen op een gegeven moment dat er allerlei vinkjes gezet gaan worden.
• 1:38:26
  Uhm, dat is het moment waarop we misschien iets beter gaan nadenken met z'n allen. Ook of we eventueel dingen moeten vertragen.
• 1:38:33
  Er zal ook allerlei dan, misschien dat dat dan het moment is waarop er mensen in opstand komen bijvoorbeeld. Dus dat zal ongetwijfeld ook gebeuren dat er allerlei vormen van protest ontstaan,
• 1:38:43
  waardoor er misschien wel vertraagd moet worden in een, in een democratie. Uhm.Ik kan me ook voorstellen dat, uhm, uhm, er een moment komt dat het
• 1:38:56
  dat, dat die tegenkracht eigenlijk overstemd wordt door de soort van strijd die Donald Trump wil leveren met China, om maar een voorbeeld, uh, te noemen.
• 1:39:09
  Als het inderdaad echt zo is dat nog tijdens deze termijn van Donald Trump er AGI uitgevonden gaat worden. Wat zo is als je die 2027 voorspelling gelooft. En, uhm,
• 1:39:21
  het moment dat bij, dat ik, dat ik, uh, zat te lezen over AGI als soort van wapenwedloop tussen verschillende landen. Ja, er is een deel van mij wat denkt: ja, Jezus, dit is een soort van, van een fictief scenario.
• 1:39:36
  Uh, binnen dat scenario is er dan ook weer een scenario. En binnen dat scenario is er dan ook weer een scenario. Soort van waar w-wat voor soort van ding ben je jezelf naar toe aan het praten? Maar ook in dat AGI,
• 1:39:47
  uh, uh, uhm, AI, uh, 27-project wordt een scenario geschetst waar,
• 1:39:53
  uhm, uhm, China op een gegeven moment, uh, Amerika wordt steeds beter in het maken van zo'n AI en is op een gegeven moment een interne model, uh, zoals misschien O4 bij, uh, bij OpenAI al leeft.
• 1:40:04
  Dat weten we niet, maar dat is ongetwijfeld, uh, zo dat ze een soort van model hebben wat nog niet gereleased is. En met leven bedoel je: die draait al. Ja, die gebruiken ze zelf om O3 te trainen bijvoorbeeld.
• 1:40:15
  Of weer een volgend model te trainen, wat dan ook. En, uh, dat wordt gehackt door de Chinezen, want die hebben er belang bij om die technologie in huis te krijgen.
• 1:40:24
  En, uhm, de communistische partij die constateert dan: dit is, uh, wezenlijk voor onze geopolitieke positie. Wij gaan alle AI-infrastructuur die wij hebben, mensen en machines en computerkracht, allemaal samenbrengen.
• 1:40:39
  We gaan er één bedrijf of instituut van maken die soort van de concurrentie aangaat met de Verenigde Staten, waar allemaal verschillende bedrijven zijn en waarbij ze niet zoveel kennis gepoold hebben.
• 1:40:50
  En dan ontstaat er een strijd tussen die twee. Waarbij je, ja, waarbij eigenlijk dat hele i-i-idee van vertragen het onderspit delft.
• 1:40:59
  Wat jij zegt, soort van: op het moment dat wij dingen zien gebeuren die, waarbij we het niet meer zo goed kunnen controleren of dat we niet meer zo goed zien wat dat ding aan het doen is of hoe die dingen doet die wij van hem vragen.
• 1:41:10
  Dat is het moment waarop wij vast wel op, op pauze gaan drukken. Dat is wat jij, wat jij lijkt te zeggen. [overspraak] maar in de context van zo'n geopolitieke strijd is dat onrealistisch, zou je kunnen zeggen.
• 1:41:21
  Nou, je kunt je afvragen in wiens voordeel het is om het wel los te laten gaan.
• 1:41:24
  Want ik kan me wel voorstellen dat er een, uh, enorme incentive is om die, uh, AI die intelligent genoeg is om, uhm, onderzoek te doen en werk te doen uit te vinden.
• 1:41:39
  En dat, dat, dat wereldmachten daar onderling ook tussen strijden, dat, dat kan ik goed volgen. Zoals bij de ruimte race, bij de kernwapenwedloop.
• 1:41:47
  Ja, dus ik denk dat, dat we daar aardig die lijnen kunnen volgen, zeg maar van hoe, hoe, hoe warm dat kan worden als het ware.
• 1:41:54
  Maar om dan daar voorbij te gaan en dan te zeggen: maar dan kunnen we het net zo goed ongecontroleerd loslaten gaan of zo, die, die, die- Ja, het is, uh, het is, dat is de strijd, denk ik, uh, als het gaat om deze, uh- Maar dat is in niemands voordeel, toch?
• 1:42:07
  In speltheorie, zeg maar, bedoel ik alleen te zeggen van: ik, het is in, ik, ik wil echt niet naïef overkomen dat ik goed begrijp dat dit, het hebben van, uh, kunstmatige intelligentie die in staat is om onderzoek te doen, laten we het even daarbij houden, en Nobelprijzen te winnen.
• 1:42:21
  Dat ieder land dit wil, dat begrijp ik. Maar om dan te zeggen: dat, ik bedoel, dan kan het daarin misschien misgaan dat, dat, dat iemand te, te veel risico gaat nemen en zegt: ik hoef het niet meer te begrijpen.
• 1:42:33
  Die, die, die kan ik ook wel volgen. Ja. Maar bewust zeggen: laat maar los of zo. We hoeven het niet te begrijpen. Die snap ik minder goed denk ik in het, in het spel theoretisch.
• 1:42:42
  Want dan, er is maar één planeet, dus daar zullen we toch met z'n allen op moeten zitten. Dus dan, die begrijp ik. Dat is ook de reden dat we er nu nog allemaal zitten.
• 1:42:49
  Omdat dat wel begrepen wordt uiteindelijk, dat het niet zoveel zin heeft om door te gaan tot het bittere eind, zeg maar.
• 1:42:55
  Maar jouw punt is dan denk ik- Het is natuurlijk een scenario waarin je het niet begrijpt, maar het wel, uh, resultaten oplevert. Consequent. Ja.
• 1:43:04
  Ja, en ik denk: dat is dan denk ik daar mijn naïeve hoop dat er genoeg, uh, wijze geesten, uh, zijn overal. Het is maar zo. Die zeggen: ja, dit, uh, dit, dit heeft geen zin.
• 1:43:13
  Ja, en dan kom je dus aan bij een soort van Verenigde Natie die dan, uh, een soort van non-proliferatieverdrag, uh, afdwingt. Ja, dan moeten we de oude templates maar weer uit de kast trekken.
• 1:43:21
  En dit is waar je nu niet over wil nadenken. Dat, dat hele super intelligence. Omdat je niet, je wil niet nadenken tot deze orde van speculatie.
• 1:43:29
  Ja, ik denk dat jij het net eigenlijk heel mooi zei, want ik dacht: ik voel me [gniffelt] best wel ge-ge-gesupport toen jij zei: we zijn hier nu een fictie aan het bouwen binnen een fictie op een fictie.
• 1:43:39
  En ik, ik merk dan: kijk, uh, het is denk ik wijs voor de mensen, dat zijn we ze ook wel verantwoord, die nu luisteren, die hier heel erg zenuwachtig van worden.
• 1:43:49
  En bang, want het is hartstikke spannend op een bepaalde manier. Ook al praten we over 10% en fictie in een fictie in een fictie. Als je een beetje meefantaseert, dan vind je dit best wel een spannend gesprek.
• 1:43:57
  Ik wel in ieder geval. En, uhm, we weten dit niet, hè? Nee, dat, dat is zeker. Het gaat over de toekomst. Ik wil het toch gezegd hebben.
• 1:44:06
  Ja, nee, ik bedoel, en, uh, dat is ook iets wat ik, uh, tegen mezelf, uh, wel eens moet zeggen: je weet het niet, hè? Nee. Je zat er met Nintendo ook naast, hè [gniffelt].
• 1:44:17
  Nee, maar ik bedoel, ik, dan kijk ik mezelf echt aan. Dan zeg ik- Maar dit is om jezelf gerust te stellen zeg je dit. Of wat? Nou, omdat ik-- kijk, als ik m'n, uh, als ik ten tijde van de Koude Oorlog had geleefd. Ja.
• 1:44:29
  Dan had ik niet goed geslapen, man. Nee. En nu zitten we hier nog steeds. Mhmm. Was best zonde geweest achteraf. Als je daar slecht over had geslapen.
• 1:44:37
  Had ik echt mezelf achteraf gezegd: gast, wat was je nou aan het doen, man? Ja. Nou ja, zuur [overspraak]. Fucking, uh, 15, uh, maar di-, ja, precies. Je, je hebt 15 jaar van je leven. Ik weet niet hoe lang het was.
• 1:44:45
  Tijdens de hele Cubacrisis niet geslapen.
• 1:44:46
  Het is natuurlijk heel rationeel om te overreageren op risico's, om scenario's te schetsen zodat je je erop kan voorbereiden en zodat je in ieder geval erover hebt nagedacht voordat het allemaal gebeurt.
• 1:44:56
  En ik denk dat, dat jij en ik allebei aanvoelen dat dat niet genoeg gebeurt. Niet in de,
• 1:45:01
  uh, niet bij beleidsmakers, niet bij journalisten.En, uh, volgens mij voelen wij allebei dat de threshold, zeg maar, dermate, dat we dermate door een threshold heen gaan doordat we iedere dag in die rabbit hole zitten, uh, dat, uh, je denkt: daar, dit is niet helemaal in verhouding met elkaar, er moet meer aandacht voor zijn.
• 1:45:19
  Ja. Dat betekent nog niet dat je denkt: het is een nieuwe Koude Oorlog. Dat is, dat is evident dat het daarop af. Want er zijn zoveel contextuele effecten mogelijk in deze simulatie, in een simulatie, in een simulatie.
• 1:45:30
  Absoluut. Of scenario, in een scenario, in een scenario. Uhm, dat is de, dat is het waard om er zo mee bezig te zijn. Ja, maar ik denk dus dat, uhm, omdat als we daar een doel mee hebben. Mhmm.
• 1:45:45
  Hè, uh, wij zien heel veel verschillende meningen, experts, mensen in labs zelf, journalisten die er niet over willen praten, durven praten of, nou ja, en juist wel.
• 1:45:55
  En het is best wel een rommeltje nu wat we met elkaar bespreken. Dit is de chaos.
• 1:46:00
  De subtiele chaos van dit gesprek past aardig bij de chaos van het debat, uh, want het is gewoon we weten het niet nu terwijl we dit opnemen. Uhm, er liggen nog heel veel paden open
• 1:46:10
  en wij vinden allebei, wij geven ook lezingen over dit onderwerp met die reden zit een stukje urgentie in van: joh, dit gaat best wel hard, hè. Heb je deze voorbeelden al gezien? Best wel indrukwekkend.
• 1:46:20
  Heb je dit al gezien? Hè, het is best wel, dat is wat we doen en ik denk dat we daarin, uh, eigenlijk willen dat meer mensen hier over nadenken.
• 1:46:30
  Omdat een democratie werkt bij geïnformeerde burgers die met elkaar, uh, druk uitoefenen op x of y.
• 1:46:35
  Wat zijn soort van moves die overheden of bedrijven of zelfs indi-individuen kunnen nemen nu om- Nou, ik, ik wou nog alleen even zeggen van: ik denk dus dat, dat over de horizon gaan, hè, waar jij mij nieuwsgierig naar bent, van: Wietse, wat gebeurt er nou toch iedere keer als ik daar naartoe wil dat jij zegt: stop of zo, of daar mogen we niet naartoe.
• 1:46:50
  Dat ik denk dat we dat niet nodig hebben om ons, om, om wat jij net zegt te bereiken.
• 1:46:55
  Ik denk dat we die simulatie, in een simulatie, in een simulatie, in een soort van best wel, uh, s-s-koude oorlogachtig toekomstscenario ding.
• 1:47:04
  Ik denk dat we, dat we het vooral moeten hebben over: wat gebeurt er toch met al, met iedereen die, uh, als wij niet meer het centrum van het universum zijn als mens en eigenlijk niet meer top of the food chain, hè.
• 1:47:14
  Mhmm. Volgens mij- Wat doet dat met ons? Die existentiële klap, daar s-, denk ik het meest over na als ik met AI bezig ben. Mhmm.
• 1:47:21
  Ik, ik merk dus omdat ik ook maar beperkte brain cycles heb en in die simulatie, in een simulatie, in een simulatie die jij zo mooi beschrijft, uh, enkel overblijf met, met zweet op mijn lijf en, en, een onprettig gevoel in mezelf waar ik niks mee kan, want ik weet het helemaal niet.
• 1:47:35
  Ja, ja. Dat ik dat al zie als een zeer onk- [lacht] Onproductieve gedachtegang.
• 1:47:40
  Dus je zegt als ik, als ik die, die, die stappen allemaal niet zet en i-ik begin al bij een soort van: wat doet het voor ons als mensen om, zeg maar, niet meer alleen te zijn als, uh, ja, bovenaan de food chain?
• 1:47:51
  Wat doet dat met ons als mensen? Zullen we daar eens beginnen? Ja, precies, dat is al een belangrijke vraag genoeg. Daar moeten we ook langs, langs, langs die horde.
• 1:47:57
  En waar, wat, wat, uh, wat, uh, wat is de conclusie, Wietse? [lacht] Nice. Wat moeten we daarmee? Ja, want hier durf je wel over te praten. [lacht] Ja, precies. Zeg het maar. Doorgaan dan, hè.
• 1:48:07
  [lacht] Nou ja, ik, we hebben, we hebben met elkaar meegemaakt, ik was er niet bij, ik moet het in de geschiedenisboeken hebben gelezen, maar, uh, dat wij dachten dat de aarde het centrum van het hele universum was.
• 1:48:17
  Mhmm. Uh, dat bleek, uh, een zon te zijn die niet eens het centrum van het universum was, maar van een klei-klein zonnestelseltje waar onze aarde dan weer omheen draait.
• 1:48:26
  Dat waren wel even klappen om te verwerken, want dat zijn echt de fundamenten van wie wij denken als mensen zijn, waar we onszelf plaatsen. Mhmm. Dat he-, dat is niet in een jaartje even verschoven, zeg maar.
• 1:48:36
  Nou, er zullen vast, uh, filosofen en wetenschappers zijn geweest die door een telescoop kijken en zeiden: oh, oh, blijkbaar, uh, [lacht] is de zon. Oh, oké, ik ga even koffiedrinken. Ja. Broodje eten.
• 1:48:47
  Maar de rest eromheen, die begon ze of met stenen te bekogelen [lacht] of die werden allemaal heel zenuwachtig en die boeken werden verbrand, dus er was wel iets gaande daar.
• 1:48:54
  Dat vinden wij niet leuk om dat soort dingen te horen. Ja, het understatement. Ja, dus ik denk dat we dit ook niet leuk vinden wat er nu gebeurt. Potentieel, uh, en het is al een beetje aan het gebeuren om-omdat onze,
• 1:49:07
  hè, onze, we dezelfde rapporten hebben als mens met allemaal rapportcijfers erop voor gym en tekenen en zo. Iedere keer staat er nu zo'n kolom naast met Gemini [lacht] en dan staat er: Gemini 10 op rekenen.
• 1:49:20
  [lacht] Oh ja, en we hebben muziek nog. Gemini 9 op muziek, nee, maar 10 op muziek. [lacht] Shit. En dus daarin worden we zo langzaam een beetje weggevreten, zeg maar in de, in onze, in onze benchmarks.
• 1:49:33
  Dat bespreken- Je ziet de hele top 40 gewoon verdwijnen en naar AI gaan. Dat is wat jij denkt. Ja. Nou ja, dat zie ik een beetje tot nu toe gebeuren. En gelukkig hebben we daar een truc voor.
• 1:49:42
  Verzinnen we nieuwe benchmarks [lacht] waarop wij weer heel goed scoren en zij- Waar de mens, waar we de, die robot buiten houden. Maar ja, dat, wat, wat doe je dan met al die halffabricaten die erin verwerkt zijn?
• 1:49:52
  En ja. Ja, dus uiteindelijk denk ik en dit gaat nu, uh, en ik denk dat, daar kan ik je wel volgen als jij zegt: maar Wietse, het is toch exponentieel?
• 1:50:00
  Er is toch wel even wat gebeurd sinds GP-GPT2, uh, een beetje paragrafjes voorspellen in OpenAI Lab, OpenAI Labs waarin je zitten te klikken en, uh, Sora [lacht] of, uh, NotebookLM Nederlandse podcast en inbellen.
• 1:50:16
  Ik neem nog maar even die als voorbeeld. Tussen NotebookLM Nederlandse podcast en inbellen en GPT zit dan: drie jaar, vier, drie. GPT2 weet ik eerlijk gezegd niet, maar goed. Zoiets. Ik denk iets meer, maar ja, zoiets.
• 1:50:29
  Ja, en dat is kort. Mhmm. Van shitty chatbot naar vloeiend Nederlandse podcast waar je op kan inbellen. En natuurlijk zijn dan heel veel mensen geneigd om die door te trekken. Ja.
• 1:50:41
  En da-dan kom ik weer met dat babygrapje en die Euromast. Dat doortrekken moet je niet doen, want dat, dat heeft helemaal niet zoveel zin. Soms is dat zo, maar vaak is het helemaal niet zo.
• 1:50:50
  En nu worden wij, kunnen we nog redelijk, ik wou zeggen langzaam, redelijk wennen aan het idee. Ja, precies.
• 1:51:01
  Dat, hè, want mijn boodschap is ook vaak als ik voor groepen sta of iemand vraagt het wel eens aan me van: joh, ga nou niet die lijst maken met dingen die wij kunnen.
• 1:51:08
  Laten we alsjeblieft een lijst gaan maken van dingen die we willen doen.Want die andere lijst, die moet ik dan iedere drie maanden weer met een update bij je komen. Ja, haal de schilder er maar af.
• 1:51:16
  Ja, aan gymmen heb, heb ik geen zin, maar hij kan al kungfu inmiddels, weet je wel. Dan staan we heel de team mensen lijst weg te schrappen. Laten we lekker met elkaar-- een, uh, antwoord op jouw vraag dus is eigenlijk:
• 1:51:26
  als we dan straks niet meer top of the food chain zijn, hè, en, uh, te maken hebben met een soort nieuwe buurman, buurvrouw, buurding wat, uh, naast ons komt zitten. Goedemiddag, hè, [lacht]
• 1:51:39
  in de virtuele wereld dan nog voor mij, wat mij betreft. Dat we dan met elkaar gaan zeggen: oké, wat, en wat gaan wij dan, uh, nu doen eigenlijk?
• 1:51:47
  Want waar wij in ieder geval in de laatste x honderd jaar onze existentiële, ons bedoel ik daarmee, s-s-mensheid breed, dat wij dachten: dit is wat een mens is, zeg maar, dat, dat verhaal klopt niet meer.
• 1:52:02
  Zeg maar de, uh, dat verhaal klopt deels niet meer. Hè, er zullen mensen zijn die nu luisteren en zeggen: jongen, ik heb me nooit gezien als consument, hoor. Ik heb me ook nooit gezien als homo economicus.
• 1:52:12
  Ik heb me altijd gezien als kunstenaar die creatief is. Ik maak me niet zo'n zorgen. Ik ga-- ik heb nooit gemaakt voor de bühne.
• 1:52:18
  Mijn kunst maakte ik niet voor het publiek, maak ik voor mezelf, dus ik heb helemaal geen last van jouw AI. Die mensen zijn er, hè, die heb ik ook wel eens gesproken. Ja, maar er ook heel veel mensen die- Oh jongen. Ja.
• 1:52:26
  Ja, dus dat is echt een kleine groep.
• 1:52:28
  Dus, dus als jij dan, i-ik zit, denk ik, misschien is dat, uh, om het toch nog een ietje scherper te krijgen, dat we met een existens-existentiëel vraagstuk zitten met z'n allen: uh, wat doen wij als er een intelligentie op aarde is die hoe dan ook, hoe die ook denkt, hoe dat ding dat ook voor mekaar krijgt, via een soort fundamentele wiskunde op een silicon chip
• 1:52:53
  de dingen kan doen waar wij voorheen van dachten dat alleen wij ze konden. Maar dan toch, denk je dat er dingen zijn waardoor bedrijven, overheden of zelfs individuen kunnen hedgen tegen dit, uh, scenario?
• 1:53:06
  Dus individu op de manier waarop je een opleiding volgt. Een overheid voor de manier waarop het autonoom is in de wereld. Voor een bedrijf om, ja, wat voor moves kun je nu maken om concurrerend te blijven?
• 1:53:22
  O-o-of, of, of misschien is concurrerend het verkeerde woord, maar. Als ik dit, als ik dit grapje al eerder in de podcast heb gemaakt, dan spijt het mij naar de luisteraars die het al hebben gehoord.
• 1:53:30
  Maar ik, ik, ik doe even een marketingbureau ding. Uh, ik heb vroeger, toen ik nog vooral alleen maar softwareontwikkelaar was, vond ik marketing en zo allemaal een beetje ingewikkeld.
• 1:53:40
  Want die gaan dan tegen Nokia zeggen dat hun slogan is: Connecting people. Mhmm. Nokia ma-maakte 5G-torens of 4G-torens en [lacht] smartphones en dumbphones.
• 1:53:50
  Connecting people is een beetje ver van de realiteit voor mij als engineer. Ik denk: dat is, nee, dat is creating, uh, mobility hardware of zo. Dat zou mijn slo-, [lacht] superslechte slogan zijn geweest.
• 1:54:02
  Maar connecting people was gewoon waar. Het was gewoon waar.
• 1:54:05
  Dat was, als je dan, als iedereen dat zou geloven bij Nokia, dan hadden zij beter mee kunnen komen op de golf van de smartphone, want die doet ook connecting people. Mhmm.
• 1:54:12
  En zij zaten te veel zoals een naïeve Wietse op die telefoon en die masten en veels te veel van: nee, Nokia, de phone builder of zo. Mhmm. En, uh, niet genoeg mensen daar zaten op connecting people.
• 1:54:24
  Dus wat, wat doe je dan in onderwijs bijvoorbeeld als docent? Dan ga je zeggen: nou, Wietse die zei tegen mij dat ik een marketingbureau moet inschakelen. Ik kan je zeggen dat ChatGPT en zo [lacht] dit best goed kunnen.
• 1:54:35
  If Nokia connects people, what does a teacher do? Hè, dit moeten we doen, want onderwijs is een invulling van de missie. Mhmm. Dat hele gebouw van de universiteit is een invulling van de missie.
• 1:54:49
  Ja, je bedoelt: het is geen doel op zich. Nee, man. Nee. Ik mag hopen van niet. Nee. Dus, en dit is, dit klinkt misschien, uh, een beetje vaag of zo, maar ga het maar eens doen voor jezelf.
• 1:54:59
  Bevragen waarom je op aarde bent. Absoluut. Ja.
• 1:55:02
  Maar goed, ik, ik, ik, uh, lees graag filosofie, dus ik, ik voel me natuurlijk ook een klein beetje gevalideerd dat ik, uh, uh, me om de a-historische dingen in het leven ben gaan mij마en, hè, dus de dingen die er voor mensen altijd toe doen, ook al is het 1400, 1700 of 2400, uh, op aarde.
• 1:55:21
  We hebben met elkaar iets nodig om, uh, naartoe te streven of juist niet te streven. En dan heel goed uit te leggen waarom niet. Of we hebben allemaal, we hebben een soort basis nodig met elkaar.
• 1:55:34
  Dat heeft ermee te maken omdat we hier al een tijdje rondlopen, dat we het prettig vinden om in groepen te zijn. De meesten van ons, dat we het, we het prettig vinden om aangeraakt te worden. De meesten van ons.
• 1:55:42
  Ik wil niet generaliseren te ver en daar moeten we rekening mee houden, dus dat delen we met elkaar. Dat veel van ons, ja, omdat het DNA ongeveer gelijk is, dat hebben. Maar we zijn ook best wel uniek in wat we willen.
• 1:55:54
  Anders hadden we niet allemaal verschillende opleidingen en allemaal verschillende banen, want dat is al ontstaan, hè. Dat laat de diversiteit van de mens zien.
• 1:56:01
  Ik, i-, ja, ik heb het wel eens vroeger met de boekhouder over gehad dat ik zei: vind je het nou echt leuk? [lacht] Echt? Vind je dat nou echt leuk? Ja, leuk man. Als het dan helemaal klopt aan het eind.
• 1:56:09
  Ik zo: oh, wat ben ik zo blij dat, dat, dat, dat dit bestaat, man. Dat, dat we allemaal anders geboren worden, want ik ga helemaal dood joh, als ik kijk naar wat jij aan het doen bent. Dank je wel! Ja.
• 1:56:19
  En ik denk daarin, ik wil dus even, ik kan je geen recept geven à la connecting people.
• 1:56:24
  Ik kan alleen zeggen dat we op zoek moeten, en ik wil niet alleen het individu, a-, en die, we zijn individu, individu, maar we zitten ook in een grotere boot met elkaar. Dat we met elkaar moet-op zoek moeten.
• 1:56:33
  Waar is die samenleving dan ook alweer voor? En hoe doe je dat dan voor jezelf?
• 1:56:40
  Uhm, nou, ik denk dat ik, uh, een, een tijdje terug al een beetje ben gaan bekijken van eerst basaal hedonistisch, hè, wanneer had ik plezier?
• 1:56:52
  Als ik dan terugkeek op een jaar of twee, of ik pak er wat foto's bij, ik pak er wat foto's bij. Ik heb het een beetje slecht geheugen, dus ik heb wat foto's nodig soms.
• 1:56:58
  Ik denk: ja, toen voelde ik me echt, uh, eigenlijk best wel goed, man. Meer dan alleen maar een schaterlach.
• 1:57:04
  Al is je proberen te herinneren wanneer je voor het lachen, voor het laatst moet huilen van het lachen ook een redelijke indicator.
• 1:57:10
  Want dan kan je, dat kan een persoon zijnEen plek zijn, maar dat kan ook zijn een moment in je leven dat je dat je dus iets aan het doen was waardoor je de vrijheid voelde om die lach.
• 1:57:19
  Dat is een beetje meer, ik zou haast zeggen hedonistisch. Iets oppervlakkiger. Dat mag. Dan moet je beginnen, denk ik. En, en dan kan je gaan kijken voor jezelf van uh. Volgende trucje à la Connecting people.
• 1:57:32
  Geef mij nou dat universeel basisinkomen. Laten we voor de gek gekke malligheid even zeggen € 10.000 per maand. Wat ga je dan doen? En dan koop ik een Ferrari.
• 1:57:42
  En oké, als je dan die Ferrari hebt gekocht en dan niet meer leuk vindt, wat ga je dan doen? Dan koop ik nog een en dan doen. En dan uiteindelijk kom je er achter.
• 1:57:48
  En dat kan iedere Hollywood miljonair je vertellen dat dat dan na een maand of 3 tot 18 went. En dan? Wat ga je dan doen? Hoe ziet jouw dag er dan uit? Hoe ziet je dag eruit als het niet hoeft?
• 1:57:59
  Als het geen broodwerk meer is? Het werk waar je voor betaald krijgt.
• 1:58:02
  Want ik denk en dit is uh gevaarlijk wat ik nu allemaal zeg, want er zijn mensen die nu luisteren die misschien wel luisteren terwijl ze bij een uh fulfillment partij dozen in een auto staan te schuiven.
• 1:58:17
  Die echt denken maat, dit is wat de aristocratie zich afvroeg toen ze nog polo speelden. Maar ik ben er nog niet, hoor. Maar goed, ik denk toch
• 1:58:25
  dat als, als dit verhaal je zenuwen geeft, dat het goed is om erover na te denken dat jij wel meer bent dan degene die nu aan het werk is.
• 1:58:35
  En dat je-- en dat we ook die hele rolverdeling die wij hier met elkaar hebben, daar mag je ook best vertrouwen in hebben, denk ik. Dat geeft mij rust en hoop. Dit is allemaal zo recent joh.
• 1:58:45
  Het is allemaal zo recent joh. We staan al 285.000 jaar als homo sapiens.
• 1:58:50
  Zitten we, hebben we een maatschappelijke structuur opgebouwd van de laatste honderden jaren en dan gaan we totaal in paniek raken als die anders moet.
• 1:58:57
  Dan hebben we er toch geen vertrouwen in dat we het ooit ook heel anders gedaan hebben met elkaar, zeg maar. Het verleden geeft mij hoop dat wij best wel flexibel zijn.
• 1:59:04
  Ik zeg daar wel bij zolang we de tijd krijgen om met elkaar te overleggen wat we willen als individu en als collectief. Het is mijn pauze wat jij net zei. Ik ben een beetje van de rem.
• 1:59:14
  Rust niet, niet helemaal de rem erop, maar niet helemaal stop. Geef ons nou even de tijd om. Aan te passen. Om dit met elkaar uit te zoeken. Mhmm.
• 1:59:26
  En dat heeft ook te maken met wat je net even aanraakte natuurlijk, de machtsverhoudingen. Van wie is AI dan straks? Waar staat die data dan? En wie gaat dit dan beslissen?
• 1:59:37
  En als Wytse het steeds heeft over we en we moeten hier over nadenken. Hoe, waar dan? En hoe dan? En hoe krijg ik mijn mening dan de wereld in? Dat, dat beantwoorden wij.
• 1:59:48
  Dat is een beetje buiten de scope van de podcast, maar daar moeten we dan natuurlijk ook iets mee, met elkaar. Hoe krijg je dan die ideeën op een manier--
• 1:59:58
  want ik heb het nu steeds over alsof wij een lijntje hebben met Sam Altman of zo. Niet jij, niet jij en ik, maar de luisteraar. Alsof we even kunnen mailen wat wij willen voor de samenleving of zo.
• 2:00:08
  Dat, dat is natuurlijk ook nog wel een, uh, een stapje verder. Dus al zou je al weten wat je wil en je kan er al over nadenken.
• 2:00:17
  Je hebt je connecting people gevonden en dat blijkt iets te zijn wat meer dan een individu vereist. Hoe ga je dan met elkaar in overleg om dat voor elkaar te krijgen? Zijn er nog dingen die we gemist hebben Wytse?
• 2:00:28
  Misschien is het en dat is niet goedkoop, ook al lijkt dat misschien zo, dat we-- want ik vind altijd
• 2:00:35
  als je een serieus onderwerp aansnijdt wat mensen enige spanning geeft, dat je dan nog best een deken over ze heen mag leggen aan het eind. Als in een warme deken.
• 2:00:45
  Wat jij net beschreef een tijdje terug in dit gesprek, namelijk een hele grote groep onderzoekers. Wat ook mensen zijn met gezinnen, met een hart.
• 2:00:55
  Die zich heel erg zorgen maken en daarover praten en soms zelfs ontslag voor nemen om daarover te praten. Mhmm. Dat betekent dus dat er heel veel mensen zijn die hier echt wel het goede mee willen. Dat
• 2:01:11
  je, als je even je, en dat zeg ik niet tegen jou, maar tegen sommige luisteraars, even je cynisme opzij zet. Dan is Demis Hassabis, Dario Amadei. Ik noem dan even die Dario Amadei, die namen.
• 2:01:23
  Dat blog van Watched Over by Machines of Love and Grace. Demis Hassabis in zijn interviews. Ja, noem het mijn naïviteit. Noem het mijn projectie van hoop.
• 2:01:34
  Ik zie daar mensen zitten die, die denken iets heel moois uitgevonden te hebben waar zij dingen mee gaan genezen en opbouwen en gebouwen uit de grond gaan trekken zodat iedereen een dak boven hun hoofd heeft.
• 2:01:44
  Ik, ik denk dat zij dit echt geloven en dat ze ook weten dat dat niet zomaar gebeurt en dat ze zich nu wel een beetje zorgen maken dat het wel sneller gaat dan dat zij hadden voorzien en dus eigenlijk naar ons roepen nu.
• 2:01:56
  En dan kan je boos op ze worden en zeggen dan had je dat niet moeten uitvinden vriend, wat ga je mij nou om hulp vragen met je help. Ik denk dat zij eigenlijk zeggen:
• 2:02:05
  deze toverstaf die wij nu aan het maken zijn, daar kunnen we hele mooie dingen mee toveren, maar ook hele enge dingen mee toveren. En we moeten met elkaar zorgen dat we dat op een bepaalde manier kunnen kaderen.
• 2:02:17
  Dat we de vruchten ervan gaan plukken. En ik, mijn-- wat, wat mij nog wel hoop geeft is dat er, ja, ik kan dat niet anders omschrijven, is ook een hoop goeds in de wereld is binnen die laboratoria.
• 2:02:31
  En zolang het nog mensen zijn die daar aan het programmeren zijn of modellen ingegeven door mensen met ziel en hart,
• 2:02:40
  dat we in ieder geval 10%, maar eigenlijk nog wel meer kans hebben dat we, dat we de goede kant op gaan met elkaar.
• 2:02:48
  Want we hadden het nu eigenlijk over een soort, nou ja, 10% AGI en daarbinnen dan een soort negativiteit. Ik denk dat er ook een, een serieuze mogelijkheid is dat we de goede kant op gaan met elkaar.
• 2:02:58
  En, want dat zeg ik dan omdat ik denk dat het klopte dat de mensen zich, dat de mensen zenuwachtig waren ten tijde van de Koude Oorlog. Dat klopte gezien wat er toen wereldwijd speelde. Maar nu zijn we er nog.
• 2:03:11
  Dat is geen garantie, maar dan heb je toch achterafHeel veel buikpijn gehad en misschien naar gehandeld. Dat is prima. Als je handelt naar je buikpijn vind ik het nog oké. Als in de straat op.
• 2:03:21
  Ik wil, uh, we moeten regels maken, de VN et cetera. Als je gehandeld hebt is het prima, maar ga, laten we alsjeblieft, uh, stap voor stap dit doen.
• 2:03:31
  Er ook een beetje van uitgaan dat er heel veel mensen bezig zijn met dit onderwerp. Niet alleen Alex van der Kluppingen en Wytse.
• 2:03:36
  En wij proberen ook nog eens, dat is geen schouderklopje voor onszelf, dat bedoel ik echt niet, dat meer mensen hiermee bezig zijn. Dat proberen we en we doen het ook nog eens allemaal op basis van 10%. Dus
• 2:03:50
  we weten het gewoon niet. Maar er is wel iets gaande wat we, wat we echt wel even serieus moeten nemen met elkaar. Je, je, je vroeg net aan mij van: Wytse, lig je er wakker van, et cetera.
• 2:04:02
  Hoe zit jij erbij na dit gesprek? Nu, in dit moment, zeg maar. Heeft het je, uh, gerustgesteld? Juist niet? Wat is je, wat is je gevoel? Mmm.
• 2:04:18
  Ik vind, ik, ik geloof zowel heel erg in de flexibiliteit van de mens als in de, uh, als in dat ik een cynisch wereldbeeld heb dat, uh, mensen allemaal naar, uh, winst en machtsmaximalisatie streven.
• 2:04:32
  En ik, ik, ik weet niet wat daarin gaat winnen. En ik ben, uh, ik, ik, ik, ik. Ik ben gewoon heel erg onder de indruk van de afgelopen jaren. En, uh, ik heb wel de neiging om die lijntjes door te trekken.
• 2:04:49
  En dat is misschien naïef, want we zijn inderdaad allemaal geen euromasten en dat [lacht] is niet allemaal euromasten. En dat stelt gerust. Mmm. Nou, ik ben er niet zo gerust op. En,
• 2:05:08
  en, en tegelijkertijd denk ik ook de hele tijd: laat mij niet de persoon zijn om hier over na te denken. Dit kan ik helemaal niet. Soort van: laat, je, laat hier economen, filosofen, politicologen,
• 2:05:25
  diplomaten. Laat die mensen hier mee bezig zijn en dat gebeurt maar niet. En, en daar word ik heel ongemakkelijk van. Uhm, en misschien is dit gewoon hoe het gaat.
• 2:05:37
  Duurt het gewoon nog even en dan komen een paar van die vinkjes die gezet worden en dan komt die machine wel in werking. En als het dan eenmaal in werking is, kan het ook heel snel gaan.
• 2:05:45
  Ik bedoel, we zien hoe, we zagen tijdens covid hoe snel het kan gaan als opeens de mensheid met een nieuw ding wordt geconfronteerd. Dat was nota bene tijdens Donald Trump één. Ik bedoel de, de We've been here before.
• 2:06:02
  Maar ja, ik, ik, ik zou, ik zou me gewoon minder, uh, ja, ik, ik zou dat wel heel fijn vinden als er, als er meer serieuze mensen [lacht] in plaats van podcasters. Love it.
• 2:06:15
  En, uh, en dat en, en, en, en dat we meer het gevoel hebben dat we het met zijn allen doen. Dat zou ik heel fijn vinden. Nou. Eens. Oké, tot voor, tot zover een warme deken of een lauwe deken.
• 2:06:27
  Of koude deken, hoe je hem ook wil. Dit was AI-report. Wij danken Sam Hingenveld voor de edit. Pankra voor de vormgeving.
• 2:06:36
  Uh, als je nog lezingen wil, vrolijke lezingen van Wytse en mij over AI, dan kan dat op lezing@ai-report.email.
• 2:06:43
  Als je op de hoogte wil blijven van het laatste AI-nieuws twee keer per week, uh, met, uh, allerlei tools om het meeste uit AI te halen. Dit voelt zo raar om te zeggen. Ja.
• 2:06:52
  Nou ja, als je wil weten hoe dit allemaal verder gaat. Ga naar ai-report.email, dan houden we je in ieder geval op de hoogte.
• 2:06:57
  En als je vandaag nog wil beginnen met AI binnen jouw bedrijf, ga dan naar deptagency.com/ai-report. Dank voor het luisteren en tot volgende week. Tot volgende week.
• 2:07:06
  [afsluitend muziek]