Latest / AI Report / Alexander kan eindelijk programmeren + DeepSeek haalt Amerikaanse modellen in + de 'ziel' van Claude gelekt

Transcript

Alexander kan eindelijk programmeren + DeepSeek haalt Amerikaanse modellen in + de 'ziel' van Claude gelekt · AI Report

• 0:00
  Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Met deze week: DeepSeek is terug.
• 0:11
  Het Chinese AI-lab dat in januari de wereld op zijn kop zette en beurzen deed crashen, komt met twee nieuwe modellen en je gebruikt hun technologie waarschijnlijk al zonder dat je het weet.
• 0:22
  En als je dat problematisch vindt, dan komt het Franse Mistral deze week met een alternatief. We gaan het over allebei uitgebreid hebben. Er is een bijzonder document gelekt van Anthropic's Claude.
• 0:31
  14.000 woorden over hoe hun AI moet denken, zich moet gedragen en hoe het zich moet voelen. Een zeldzaam kijkje achter de schermen.
• 0:42
  En een klokkenluider waarschuwt: die gezellige humanoïde huisrobot kan een gat in je schedel slaan. Dat en meer in AI Report. Veel plezier!
• 0:59
  [muziek] [lacht] Ik ben nog even aan het bijkomen. Het is een bijzonder gezicht. Dat ding heeft een gat van twee centimeter in een muur geslagen, zegt een klokkenluider. We gaan het daar straks over hebben, Wytse.
• 1:12
  Heftig, man. Ja, dit is heel, heel, heel eng nieuws. Waarom vind je dit zo grappig? Ja, dit, het contrast is gewoon heel groot tussen veel plezier. [lacht] En, maar dit is de wereld. We moeten onze ogen niet versluiten.
• 1:23
  Er zijn voordelen en er zijn nadelen. Een nadeel is een gat in je hoofd door je huisrobot. Goed, daar straks meer over.
• 1:31
  Wytse, ik heb gisteren de hele dag zitten, ik heb de hele dag vrij geroosterd, uh, om te programmeren met Claude Opus 4.5. Ik had een hele blije Alexander op de app. Ja, bij mij is er een luikje in mijn hoofd opengegaan.
• 1:46
  Ik kon, ik kon, ik kon er ook slecht van slapen, moet ik zeggen. En dat komt omdat ik geen, uh, programmeur ben, zoals jij weet. Uh, maar echt voor de, voor de luisteraar: ik kan echt helemaal niks aan programmeren.
• 1:58
  Ik kan, ik, ik, ik denk dat ik begrijp wat het verschil is tussen een CSS-file en een HTML-file, maar dan houdt het op. En, uhm, [klikt met tong]
• 2:07
  ik zat een video te kijken op YouTube van een, uh, vrouw die Chief Product Officer is bij Webflow. Zij was aan het uitleggen hoe zij Cursor gebruikt om,
• 2:20
  uh, allerlei werk wat zij doet, zoals, uh, wat iedereen doet, zoals e-mailtriage. Dus, uh, uh, uh, jezelf door je mail gaan en dan kijken: welk mailtje ga je beantwoorden, welke ga je archiveren?
• 2:32
  Dat is onderdeel van ieders werk, uh, maar ook meeting voorbereiden. Dus wie, met wie zit ik straks in een meeting en, uh, wat hebben we de vorige keer eigenlijk allemaal gezegd? Uhm, en LinkedIn-posts schrijven.
• 2:45
  Iets wat velen van ons ook doen en, uh, met verschillende mate van plezier.
• 2:50
  Zij heeft dus voor al die dingen, liet zij zien, heeft zij agents draaien in Claude, uh, sorry, in, uhm, in Cursor, waar zij in de, ja, in zo'n command line interface, in zo'n MS-DOS-achtige interface,
• 3:05
  ja, praat met dat ding en dat ding vertelt haar dan hoe haar agenda is, uh, deze week en waar ze zich op moet voorbereiden en hoe ze welke dagen ze misschien beter haar best moet doen om meetings eruit te gooien, omdat het niet past bij haar doelstellingen.
• 3:18
  En, uh, die e-mailtriage. Dus wat zij heeft, zij, zij heeft een aantal van dat soort processen op de achtergrond werken en zij gaat dan uitleggen hoe ze dat gedaan heeft.
• 3:27
  En toen viel bij mij het kwartje over hoe makkelijk dit is. Het ziet er heel intimiderend uit, zo'n interface van zo'n programmeertool, maar het deed mij opnieuw proberen hoe dit is om, uh, hiermee te werken.
• 3:39
  En ik, ik, ik merkte dat ik, uhm, uhm, ja, dat eigenlijk voor het voor de zoveelste keer nu probeerde en dat het deze keer echt klikte.
• 3:50
  En de eerste tool die ik ben gaan bouwen was een soort van feedreader voor podcasts, dus dat ik- Zat jij ook echt in Cursor of zat je in Claude Code?
• 3:57
  Nou, eerst heb ik, eerst heb ik Claude Code geprobeerd, want die heeft sinds deze week een nieuwe functie in de Claude-app waarmee je Claude Code kan gebruiken in de Claude-app.
• 4:07
  Ja, op het web in pla-- en in, en op je- Op het web en in de app. En de Mac-app, zeg maar, wat eigenlijk een beetje. Ja, maar niet meer dat je een Visual Studio Code hoeft te installeren, of.
• 4:15
  Het is iets minder DOS-erig, om het even zo te zeggen. Het is nu echt een soort van waar we gewend waren van, van, uh, van die AI-clients zoals ChatGPT en Claude. Gewoon de app op de Mac, zeg maar, of op je computer.
• 4:27
  Uh, dat je wel, uh, hele simpele tooltjes kan bouwen.
• 4:31
  In die zijbalk is nu er een soort van knopje gekomen waarvan je kan, van swe-- van chat kan switchen naar programmeren en dan gaat dat ding dus echt iets maken voor je en dan opent zich een browservenster met het ding wat je net gevraagd hebt.
• 4:46
  En dat is een stuk, uh, makkelijker te verkroppen voor niet-programmeurs als ik dan dat ik naar een terminal moet kijken. Want dat is toch wel een beetje eng, hoor, voor mensen zoals ik. Heel intimiderend.
• 4:56
  Heel intimiderend. En hier opeens zit het gewoon in je appie en kun je er tegen praten in het Nederlands, zoals ik gewend ben om te praten tegen Claude. En maakt dat ding websites.
• 5:07
  En toen ik dat eenmaal dacht, dacht ik: oké, nou, nu heb ik eraan geproefd. Nu durf ik de overstap naar Claude te maken of naar Cursor te maken. Cursor gedownload. Dat is ook makkelijker geworden.
• 5:18
  Er zit nu een agent mode in, wat in feite alle programmeercode gewoon verbergt. Dus het enige waar ik naar kijk is een chatbalk en een browservenster ernaast.
• 5:28
  En in chats vraag ik: dit is wat ik wil en het browservenster updatet dan en dan gaat hij ook kijken of het gelukt is.
• 5:34
  En voor het eerst heb ik gewoon een werkende tool gemaakt die voor mij heel wezenlijk is, namelijk dat ik DWARcash-podcasts downloaden, transcriberen en, uhm, uh, ja, een soort van hertalen naar een, uh, journalistiek artikel in plaats van gewoon gesprekstranscript, want dat is helemaal niet leuk om te lezen.
• 5:51
  En dit werkt nu, Wytse. En ik denk dat, misschien is het wel leuk om in te haken op jouw, uh, verhaal eigenlijk, jouw anekdote.
• 5:58
  Want wat er deze week gebeurde bij Anthropic is dat ze Bun hebben overgenomen en ik dacht: ga ik het erover hebben in de podcast. Maar nu kan het eigenlijk dankzij jouw setup.
• 6:05
  WantBun is een cruciaal onderdeel van de programmeertoolset van heel veel softwareontwikkelaars. Doet er even niet toe wat het doet, maar het is heel belangrijk en het is ook heel belangrijk voor Cloud Code om te werken.
• 6:16
  Zie het als een hoofdingrediënt van Cloud Code. Die, uh, partij die dat maakt was tot nu toe nog geen geld aan het verdienen. Had wel allemaal geld al opgehaald en zo, maar nog geen geld aan het verdienen.
• 6:25
  Maar de meeste mensen in softwareontwikkeling hadden door: dit is een cruciaal onderdeel aan het worden van het software-ecosysteem, dus die partij gaat nog wel een manier vinden om daar geld aan te verdienen.
• 6:35
  Zij zijn nu gekocht door Anthropic. Zulke overnames zijn altijd een heel interessant signaal.
• 6:39
  Het is zoals ook bij de overname van, mogelijke overname van Windsurf of de overname, of, of de investering vanuit ASML en Mistral. Dat wij achter ons oor zitten te krabben.
• 6:47
  Wat is het strategische, uh, 3D, 4D, uh, schaken wat hier plaatsvindt, wat wij niet begrijpen? Soms is dat 4D-schaken er helemaal niet en maken wij er een heel complot bij.
• 6:57
  Maar in het geval van de overname van Bun, B U N, door Anthropic is die er wel.
• 7:01
  Wat er eigenlijk nu aan het gebeuren is, is dat Anthropic met Cloud Code, uh, doorheeft: dit is een tool voor softwareontwikkelaars, hè, die, die zichzelf al programmeer-noem, programmeur noemden, maar nog meer een tool voor een soort democratisering van software maken op maat.
• 7:17
  Voor mensen zoals ik. Absoluut. Die helemaal geen software kunnen maken. Ja, maar dat vereist nog wel een aantal stappen, hè.
• 7:23
  Dus ik ben even benieuwd, want kan jij nu wat jij gebouwd hebt ook met mij delen op een URL waar ik het kan gebruiken? Of draait het alleen op jouw laptop?
• 7:31
  Het draait nu op mijn laptop, maar ik heb ook een, een, uh, goed gevoel erbij dat als ik dit naar het web zou willen krijgen, dat, dat, dat ik dit kan. Dat je aan een eind zou kunnen komen, toch?
• 7:40
  Ja, ik denk dat ik namelijk een commit op GitHub kan doen, Wietse. Ja, jij gaat het gewoon doen. Ja.
• 7:46
  Nou, en het, het interessante is dat, eigenlijk lijkt het er nu op omdat, uh, Anthropic zo'n, uh, i-, uh, infrastructuur, infrastructuur partij heeft overgenomen.
• 7:55
  Net als dat ASML lithografiemachines bouwt, uh, is Bun zo'n heel belangrijk deel in het ecosysteem, waardoor mensen de puzzelstukjes bij elkaar zijn gaan leggen van: maar wacht even, die tools zoals, uh, Lovable, die tools zoals Vercel v0.
• 8:11
  Gaat Anthropic nu software helemaal opnieuw uitvinden? Ja, je bedoelt het hosten van die software?
• 8:16
  Ja, dat jij straks op het web praat en niet alleen maar meer artifacts maken, maar custom tools die jij daarna kunt publiceren op een URL wat draait in de cloud van Anthropic, hè.
• 8:29
  Zij regelen het allemaal voor je, waar jij een Stripe-koppeling kan maken en jij jouw podcast to news article feature ding als startup kan lanceren op de rug van Anthropic. Ja.
• 8:41
  En waar Anthropic ook een x procent gaat pakken van wat jij verdient met jouw nieuwe ding. Ja. Dus zie even de mogelijke inkomstenstroom.
• 8:49
  En voor de luisteraar die wat dieper in deze materie zit, zie Anthropic ook als speler in het aanbieden van op maat gemaakte just in time software die ook nog eens een hosting cloudplatform gaan bieden. Ja.
• 9:02
  En dat is best een flinke stap.
• 9:03
  En ook een mogelijkheid voor Anthropic om naast tokens te verkopen en maandabonnementjes op cloud, mogelijk ook een stukje geld te kunnen gaan verdienen aan de startups die gaan bouwen op de rug van Anthropic.
• 9:13
  Ja, of gewoon individuen die, uh, die denken: ik heb gewoon een probleempje. Waarom zit ik dit met de hand te doen? Uh, ik ga een, ik ga een tooltje maken die dit voor mij automatiseert.
• 9:24
  Dat dat een gedachte is die überhaupt in je kan opkomen, dat is natuurlijk een hele grote groep mensen die dan heel erg afhankelijk gaat zijn van die tooltjes, want je wil dan opeens niet meer zonder.
• 9:32
  Ja, en jij wil dan zeggen: oké, hij moet ook die podcast, uh, in, opslaan in een archiefje, hè. Als die iemand een keer gedownload heeft, moet ie hem niet nog een keer downloaden.
• 9:40
  En op een gegeven moment ben je dus aan het toevoegen. Storage, een stukje database en Bun, zeg maar, als een soort hoofdingrediënt wat ze nu hebben overgenomen, gaat heel erg helpen qua groep ontwikkelaars.
• 9:49
  Die zitten er nu bij, hè, want er zitten hele slimme mensen daar, want die maken een soort van grondinfrastructuur, maar ook allerlei connectors met andere online services, waardoor dit soort dingen dus ook echt kunnen.
• 9:58
  En jij dus ook zonder dat jij gaat zeggen: ik wil graag, uh, object storage bij Amazon S3. Jij gaat gewoon zeggen: zorg dat die podcast niet nog een keer gedownload wordt. Ja.
• 10:07
  En dan is het gewoon zo ergens in de cloud, buiten jouw laptop. En dat is best wel een, uhm, ik denk dat die- Oké, maar dat is toekomstmuziek. Maar ik zit dus, sinds wanneer is Opus 4,5 uitgekomen? Twee weken geleden?
• 10:18
  Ja, zoiets.
• 10:19
  En, en die, want dat wil ik nog wel even zeggen, want, uh, ik, de vibecheck nu en die ga jij nu onderschrijven, is dat Opus 4.5 van Anthropic niet alleen in benchmarks het leuk doet, maar echt veel beter geworden is in software bouwen.
• 10:33
  Het werkt gewoon. Dus waar, waar ik hiervoor, ik heb heus wel eerder zitten af en toe m'n vink, m'n teen in het water gestoken, maar dan elke keer liep ik toch vast.
• 10:39
  Het was, het kwam best een eind en daar werd ik enthousiast van. Maar het liep vast op zo'n manier dat ik, ja, dat ik dan maar opgaf op een gegeven moment.
• 10:46
  Op een gegeven moment dacht ik zo van: ja, zo hoeft het van mij niet. En nu merk ik, dus het, ja, er is een soort versnelling in gekomen waardoor ik het kan vertrouwen opeens. En dat het echt maakt wat ik wil.
• 11:00
  En, uh, dat was gewoon niet zo een half jaar geleden en dat is met Opus opeens wel het geval.
• 11:05
  Dus dit is, het, het heeft echt mijn, uh, ik, ik, ik ben er al een dag van aan het stuiteren omdat ik de hele tijd denk: Jezus, maar als ik dit kan maken.
• 11:15
  Ik, ik ben echt aan het, hoe moet ik mijn tijd anders gaan in-- ik zit nu, nu denk ik dus echt: oh, ik moet tijd gaan vrijmaken om hier nu serieus mee te spelen, zodat ik ook de tijd kan investeren in het weghalen van allerlei taakjes die ik gewoon doe.
• 11:28
  En opeens is mijn slagkracht gewoon 1.000 keer groter voor mijn gevoel. Ja, want je moest constant andere mensen vragen, zoals aan mij, van: Wietse, kan je even meekijken, tooltje, dit of dat?
• 11:38
  En ineens heb je nu ook die kracht en die macht om dat te doen. En dat is best wel een, een, uh, bevrijding ook, denk ik. Maar echt.
• 11:45
  Ja, en het is, wat jij dus eigenlijk zegt, is: als ik nu 2 uur per week besteed aan x of y en daar nu even 20 uur tegenaan gooi om dat voor altijd weg te automatiseren, heb ik die 2 uur na 10 keer weer terug. Ja.
• 11:57
  En denk ik opeens, soort van: ik zie die abonnementen, goedkoop abonnement is €20, maar ik zie ook die abonnementen ontstaan van, of die, het abonnement van €200. Opeens denk ik: nou. Misschien is het het wel waard.
• 12:07
  Misschien doe ik het maar, want dan kan ik verschillende agents naast elkaar. Dat wil ik.Vet interessant. We gaan naar het nieuws switchen, want er is een hoop gebeurd. Ja, Deep is terug. We hadden het er al even over.
• 12:19
  Deep maakt dus open source modellen. Chinees AI lab. En die modellen zijn allemaal gratis te downloaden. Die kan je ook aanpassen en daarna gebruiken.
• 12:29
  En dat staat in contrast met gesloten modellen van bedrijven als OpenAI en Google, waarbij je alleen via hun servers en abonnementen toegang krijgt.
• 12:38
  Nou Diepsik is dus open source en lanceert deze week twee nieuwe versies.
• 12:42
  Als je het precies wil weten Deep V3, punt twee en die scoort op bijna alle tests vergelijkbaar met OpenAI's type vijf en Googles vlaggenschip model Gemini drie.
• 12:54
  Die speciale versie presteert net zo goed op internationale wiskunde kampioenschappen als de slimste mensen. En die kloof lijkt dus te krimpen tussen Amerikaanse gesloten modellen en deze Chinese open source modellen.
• 13:05
  En stiekem is hier nog wat extra's aan de hand, want zonder het te weten gebruik je waarschijnlijk al allerlei Chinese AI modellen.
• 13:13
  Recent onderzoek van MIT toont dat Chinese open source modellen zoals die van Diepsik voor het eerst de Amerikaanse hebben ingehaald in wereldwijde downloads 17% marktaandeel tegenover 16% voor Amerikaanse ontwikkelaars.
• 13:26
  Steeds meer Amerikaanse startups bouwen hun producten op Chinese modellen. Die app die teksten voor je samenvat. Of die tools die e-mails voor je schrijft.
• 13:33
  Het zou zomaar kunnen dat onder de motorkap een Chinees open source model gebruikt wordt. Simpelweg omdat het sneller of goedkoper is.
• 13:41
  En dat roept dan ook weer vragen op over de tientallen miljarden die investeerders hebben ingezet op OpenAI en Tropic. We gaan het daar straks meer over hebben.
• 13:47
  Als je liever geen Amerikaanse of Chinese AI wil, dan is er een Europees alternatief, bijvoorbeeld Mistral. Het Franse AI lab lanceerde Mistral drie, een familie van tien nieuwe open source modellen.
• 13:57
  Het grote model is een van de eerste open source modellen die multimodaal en meertalig is. En multimodaal betekent dat het zowel tekst, geluid als beeld kan begrijpen en maken.
• 14:06
  Dat zie je normaal gesproken alleen bij de gesloten modellen van OpenAI en van Google. Die kleinere modellen zijn zo compact dat ze draaien op je laptop of zelfs in je browser. En de testscores zijn niet wereldschokkend.
• 14:18
  Mistral presteert vergelijkbaar met oudere modellen van ChatGPT en Diepsik, maar dat is ook niet het punt.
• 14:23
  Met open modellen blijft die data van jou en als je dus privacy belangrijk vindt of wil nerden zoals finetunen aanpassen voor specifieke toepassingen, dan is Mistral een serieus alternatief.
• 14:33
  Gaan we het ook verder over hebben? En tenslotte herinner je je nog die gezellige huis robot van Figure die je vaatwasser kan inruimen. Dat bedrijf wordt aangeklaagd door een voormalig hoofd productveiligheid.
• 14:46
  Hij claimt dat hij werd ontslagen nadat hij waarschuwde dat de robots krachtig genoeg zijn om de schedel van een mens in te slaan.
• 14:55
  Volgens processtukken die liggen bij een Amerikaanse rechtbank, had een robot tijdens een storing al een gat van ruim een halve centimeter in een stalen koelkast deur geslagen en daarbij een medewerker op een haar na gemist.
• 15:08
  Figure AI noemt de beschuldigingen onwaarheden. De zaak zou een van de eerste klokkenluiders zaken rond de veiligheid van humanoids kunnen worden.
• 15:16
  Goed, we duiken straks dieper in diepziek Mistral en een uitgelekt document van Claude. 14.000 woorden over hoe Anthropic hun AI heeft gevormd. En er staan wat bizarre dingen in.
• 15:26
  Maar eerst hoor je Marjan en Lucas van Dept. Hi. Hier marketing en tech bureau Dept. Elke week bespreken we hoe wij merken helpen in de wondere wereld van AI.
• 15:38
  Deze week hoe we Inter Milan helpen om met behulp van AI een loyalty programma vorm te geven. Lucas, vertel. Ja, Forza Inter.
• 15:45
  We zijn al vijf jaar de digitale partner van Inter en na de website en de app zijn we afgelopen jaar aan de slag gegaan met hun loyalty programma.
• 15:52
  In dit programma worden fans eigenlijk beloond voor hun engagement met Inter.
• 15:56
  Het gaat niet om dat ze hun spullen kopen per se, dus het maakt niet uit of je naar een wedstrijd gaat, een shirtje koopt of video's bekijkt in de Inter app.
• 16:02
  Inter wil laten zien dat ze de tijd die fans in de club steken enorm waarderen. Check. Next level punten sparen dus. Vertel.
• 16:10
  Ja, met meer wereldwijd meer dan 80 miljoen fans is het vrij lastig voor Inter om iets te bedenken wat voor iedereen werkt en wat echt voelt als fan. Dat je dichter bij de club komt.
• 16:20
  En daarom kwam Inter eigenlijk met die vraag naar ons toe. Of we ze konden helpen een programma te maken wat zo persoonlijk mogelijk is.
• 16:27
  En dankzij de inzet van AI kan dit eigenlijk over de volle breedte en ook op schaal. Het begint ermee dat iedereen die in het programma komt zijn eigen Inter AI avatar kan maken.
• 16:37
  Dus je kan een soort voetballertje maken van jezelf in een Inter shirt. Nou, hoe leuk is dat? En er zit een slimme engine in die ziet wat je leuk vindt. Dus als je veel filmpjes kijkt, je gaat vaak naar wedstrijden toe.
• 16:47
  Ook je locatie maakt uit. Ze hebben enorm veel fans in Azië bijvoorbeeld. En die zorgen dat de beloningen die je krijgt en de content wordt uitgeleverd past bij jouw profiel.
• 16:56
  Wat we onder andere doen is kijken naar iconische momenten uit het verleden. Dus bijvoorbeeld een goal uit de jaren zeventig. En die koppelen aan momenten van nu.
• 17:04
  En op die manier de verbanden leggen die voor fans een reden geven om nog een keer in de geschiedenis van de club te duiken, bijvoorbeeld. Check. En dan spaar je dus wel voor iets. Ja, je spaart punten.
• 17:14
  Die punten kun je inzetten om om content te unlocken. Maar je kan ook uiteindelijk sparen voor korting op tickets voor de wedstrijd of. Of speciale merchandise.
• 17:22
  Dus een speciale merchandise die je alleen maar kan verdienen, niet kan kopen. Nou, dat zien we natuurlijk vaker, dat merken dat doen. En de beloning die je krijgt hangen af van het type profiel dat je hebt.
• 17:31
  Dus als jij in China woont, heeft het minder zin om je korting te geven op een kaartje voor de wedstrijd. Dus zul je eerder sparen voor merchandise of of content. Kortom niet afwachten, maar doen.
• 17:42
  Wil je weten hoe je van jouw klanten fans kunt maken? Kijk dan op Dept agency dot com slash AI report. En tot volgende week!
• 17:52
  Nou, je hoorde het al, veel beweging in de hoek van open source modellen deze week, zowel uit China als in Europa. Laten we beginnen in China. Deep Seek 3.2. Wietse catchy wat? Je hebt het geprobeerd.
• 18:07
  Ja, nou ja, wat opvalt is dat we hadden destijds R1. Dat was een beetje die revolutie in januari. Dit heet niet R2 maar is een base model. Maar een base model, die kan ook redeneren.
• 18:18
  Dat.We hadden een beetje het onderscheid tussen redeneermodellen en niet-redeneermodellen, maar langzaam begint het allemaal een beetje te vervagen omdat er routers voor zitten en zo.
• 18:27
  En dat je modellen hebt die zelf kunnen kiezen tussen die twee modi. Ik heb DeepSeek even getest, gewoon met een paar even vragen. Je kan die reasoning traces zo leuk meelezen.
• 18:35
  Ja, zij, zij zijn de enige die zich niet beperken. Ja, die hebben eigenlijk die in-innerlijke dialoog gewoon opengezet en dat is gewoon heel in, fascinerend om mee te lezen.
• 18:43
  Dus dat vond ik eigenlijk wel leuk om weer even te doen. Ik had niet een soort wereldschokkende van: wauw, oké, dit is echt wat anders of zoiets.
• 18:49
  Maar inderdaad, als je gewend bent geraakt aan wat een Gemini kan, dan komt dit in de buurt.
• 18:55
  Ik moet wel zeggen dat, benchmarks is natuurlijk sowieso een beetje een vraagteken, want hoeveel van de benchmarks belandt in de modellen, hè? Dus de modellen zijn op een gegeven moment goed in de test als het ware.
• 19:04
  En, uhm, het is zelfs, dat kwam ook een beetje uit het interview van Dworkes, wat jij hebt laten samenvatten door je eigen tool, uh, is dat, uh, Ilya Sutskever zei: we zijn aan het overfitten.
• 19:14
  Heel veel van de partijen zijn zo druk met benchmarks.
• 19:17
  Die willen zo graag goede grafieken dat ze eigenlijk vergeten dat het uiteindelijk gaat om wat de eindgebruiker heeft aan die modellen en niet hoe goed de grafieken zijn. Ja.
• 19:25
  Dan nog doe ik dus even mijn vibecheck bij DeepSeek en dacht ik: oké, grappig, ze kunnen weer aardig meekomen met de rest van het veld.
• 19:32
  Wat ik het opvallendst vond aan dit nieuws is, uhm, hoe de mate waarin dit dus onder, onder de motorkap gebruikt wordt door allerlei bedrijven die blijkbaar nu als methode hebben: we, we gaan eerst een functie maken.
• 19:45
  Stel je bent Airbnb en je hebt een functie gemaakt waar jij AI voor wil hebben. In bijvoorbeeld de manier waarop mensen zoeken naar appartementen. Dan, dan maken ze die functie met een gesloten model.
• 19:56
  Wat ze dan ook gebruiken met, met, uh, uhm, OpenAI of met, uh, met Claude. Lekker snel prototypes maken. Lekker snel prototypes maken, want dat is gewoon het beste.
• 20:06
  Maar vervolgens realiseren ze zich dat als ze het in de app willen verwerken, zoals, zoals, uhm, Airbnb het in haar app wil verwerken, dat het heel duur of traag is.
• 20:16
  Dus je, je maakt een grote afhankelijkhei-heid van een ander bedrijf. Het is gewoon heel duur of het is heel traag. En dan zeggen ze dus: ik zag een voorbeeld van iemand die dit deed.
• 20:23
  Dan vervangen ze dat stuk door een gelijkwaardig open source model en dan draaien ze het vervolgens op hun eigen servers en kunnen ze de snelheid optimaliseren en kunnen ze het goedkoper maken.
• 20:32
  Is dit een soort van standaard manier van werken? Je prototype het met een groot model en vervolgens draai je het op een Chinees model zonder dat je het de mensen vertelt. Uhm, ja, ik denk dat.
• 20:43
  Kijk, het is wel even een aantal nuances.
• 20:45
  Want, het, dat er op de achtergrond bij bijvoorbeeld Amerikaanse, maar ook Europese bedrijven gebruik gemaakt wordt van die Chinese modellen, daar zou je uit kunnen halen: oh, roepen ze dan gewoon de servers van DeepSeek in China aan en gaat mijn data daarheen?
• 21:01
  Dat is niet waar dit over gaat. Dit gaat over het, het pakken van de modellen die DeepSeek vrijgeeft. Het letterlijk downloaden van het model. En dan draaien op eigen infrastructuur.
• 21:09
  Dus Airbnb huurt ergens een stuk datacenter, installeert daar, zeg ik even zo, de DeepSeek-modellen en daar gaat dan de data tussen heen en weer. De servers van Airbnb en de eindgebruiker.
• 21:20
  Maar op de achtergrond maken ze gebruik van de intelligentie die uit de modellen van DeepSeek komt die zij geïnstalleerd hebben.
• 21:26
  Het voordeel daarvan voor hun is dat je die afhankelijkheid kwijt bent van de grote frontier labs, hè, Anthropic, Google's, uh, en OpenAI's. En dat je die modellen nog kunt gaan doortweaken.
• 21:36
  Je kunt een beetje op maat gaan maken. Je kunt gaan kijken: kunnen we niet een kleiner model gebruiken en nog kleiner, om te zorgen dat de snelheid omhoog gaat en de kosten naar beneden. En jouw vraag: gebeurt dit vaker?
• 21:46
  Absoluut, omdat je uiteindelijk, ja, als jij een restaurant hebt waar je de pizzadeeg, uh, letterlijk uit een, uh, klein Italiaans dorp haalt, maar je merkt dat je met wat ander deeg, uh, kan mee mengen en het smaakt ongeveer hetzelfde.
• 21:57
  Ja, dit is eigenlijk, uh, ondernemen. Ja, en ik moet ook zeggen, ik hoor dit dus best wel vaak, ook van mensen die, uhm, hmm, ook een beetje proberen te voorspellen hoe het allemaal zal gaan de komende jaren.
• 22:10
  Dat zij zeggen: ja, dat, het is heel goed mogelijk om, uh, als Nederland ook concurrerend te blijven door, uh, gewoon, uh, Chinese modellen bij bijvoorbeeld de overheid te gebruiken, uh, en die lokaal te draaien.
• 22:23
  Dat je Qwen of inderdaad die modellen van, uhm, van DeepSeek in KPN-datacenters hebt draaien om gevu-- allerlei gevoelige data waarvan je niet wil dat dat op, uh, Amerikaanse servers staat, uh, ja, met AI te bewerken.
• 22:39
  Ja, het is misschien wel goed om nog even terug te gaan, hè. We hadden de Llama-modellen van Meta. We hebben eigenlijk na Llama 4 niks meer gezien. Het is een soort stil bij Meta nu.
• 22:48
  De Llama's waren de eerste voorbeelden van vooral speelgoed destijds. Ja.
• 22:52
  Maar toen ook al waren er een aantal bedrijven die dachten: nou, als we die Llama nog een beetje doortrainen op specifieke dingen, dan kunnen we daar misschien wat mee. Er zit waarde in.
• 23:00
  En wat je eigenlijk nu ziet, dit is ook de roddel, ik zeg er even het woord roddel bij, uh, in de wandelgangen rondom de Mistral-modellen. Hoeveel van de mo-- hoeveel van dat model is eigenlijk een beetje DeepSeek?
• 23:12
  Ja, dus jij hebt het nu over bedrijven die DeepSeek draaien. Mhmm. Maar je hebt natuurlijk ook AI-labs onderling die elkaars kunstjes zien. Mhmm. Doordat het open modellen zijn, hè.
• 23:21
  Dus op een gegeven moment krijg je op zijn minst academische wetenschappelijke invloeden vanuit de DeepSeek-paper in de Mistral-modellen, zeg maar, dus Chinese innovatie in Europese modellen en vice versa.
• 23:32
  Maar je kunt ook kijken: hoeveel stukjes zijn niet gewoon echt één op één overgenomen? Hiermee zeg ik niet: Mistral 3 is hetzelfde als DeepSeek V3. Dat niet, maar er zijn overlappen en er wordt nu een beetje gezocht.
• 23:43
  Daarom is het nog een roddel van: hé, hoeveel, a-, zijn we niet gewoon, kunnen we niet alle mooie stukjes bij elkaar plakken en een soort, nou ja, om het heel schattig te zeggen, een wereldmodel te maken.
• 23:53
  Hè, niet een world model, maar een model van de wereld à la Benelux. VN-model. Ja, een VN-model. En
• 23:59
  al met al is het nu boeiend, ook voor mij, om te zien, omdat ik bekijk die open modellen vooral vanuit een soort individuele democratisering van AI. Ik kan het draaien op mijn eigen smartphone.
• 24:10
  Terwijl het element wat ik nog wat minder zag, hè, tot een jaar geleden. Ik zag dat Mistral aangeboden werd bij Microsoft in Azure. Huh? En dat de GPT open source modellen van OpenAI gingen draaien bij Groq met een Q.
• 24:23
  Dat ik dacht: wacht even, is die open sourceUh ethos, zeg maar. Het feit dat de modellen te downloaden zijn, is niet enkel alleen voor hobbyisten die schattig dat thuis doen.
• 24:34
  Nee, het is ook mogelijk om ze commercieel in te zetten als belangrijk stukje denken in jouw bedrijf en software. Mhmm. En dat vind ik wel een, een, een interessante nieuwe ontwikkeling als je kijkt.
• 24:47
  Open source gaat over zoveel meer dan alleen maar, je kunt het open maken, je kunt er zelf mee spelen.
• 24:53
  Het gaat ook over: dit geeft bedrijven de mogelijkheid om intelligentie in te kopen op een andere manier dan enkel tokens aan te schaffen bij Anthropic en OpenAI.
• 25:01
  Denk je dat volgend jaar normaal, zeg maar, als we hier over een jaar weer zitten, dat het dan normaler is geworden om open source modellen te gebruiken?
• 25:07
  Ik denk het wel, omdat dit eigenlijk ook een beetje is wat open source sowieso is, hè, dat heel veel, uh, ook, uh, als jij naar de instellingen gaat van je Android of iOS, uh, toestel kan je bij about kan je gewoon zien wat voor open source er allemaal in zit.
• 25:21
  Ook bij Apple en Google, hè. Android is deels open source. Maar toch, ik gebruik standaard nu, uuuh, weet je, allemaal gesloten modellen voor alle belangrijke dingen. Ah, jij bedoelt als eindgebruiker?
• 25:30
  Ja, ik denk- Ja, en ook, en, en ook wel de, de, de, weet je, tussen apps die ik gebruik. Ook de Airbnb app inderdaad en al die andere apps die ik gebruik.
• 25:39
  Ik kan me heel goed voorstellen dat zonder dat jij dat echt doorhebt, er allerlei open source modellen draaien aan de achterkant in bepaalde processen, in apps waar jij niet eens merkt dat dat aan het gebeuren is.
• 25:51
  Jazeker, want het is gewoon economisch gezien, uh, interessant. Oké, Europa dan. Mistral, je noemde het al even, lanceerde deze week de derde versie van haar product met tien nieuwe open source modellen.
• 26:04
  Zijn dat dan allemaal verschillende, uh. Ja, met verschillende taken en verschillende groottes. Ja, waar moet ik dan aan denken? Want groot en klein begrijp ik.
• 26:11
  Groot kan veel, dus tekst en beeld en geluid en dat allemaal, uh, kunnen produceren en lezen. En kleine modellen, die, uh, kun je lokaal draaien, zijn sneller en goedkoper. Maar wat zit daar dan tussen? Waarom tien?
• 26:25
  Nou, je kan, je kunt ze hebben die wa, die beter zijn met beeld, minder goed met tekst, die wel kunnen reasonen en niet kunnen reasonen.
• 26:31
  En zo kan je een beetje per taak, zeg maar, dus de allerkleinste bijvoorbeeld, die kan, uh, objecten herkennen in plaatjes en die draait zelfs in je browser. Dus je opent een website.
• 26:42
  Het model wordt ingeladen vanaf die website op jouw lokale computer. Je doet je webcam aan, je houdt een appel in beeld en hij zegt: ik zie een appel.
• 26:49
  Maar dan kan je niet zeggen: kan je me nog een leuk gedichtje vertellen? Ja. Kan hij doen, maar dat is een matig gedicht. Ja.
• 26:53
  Hè, dus zo zie je eigenlijk dat de, ja, aan de hand van een beetje de, uh, de toepassing, hè, dus wil je het edge, oftewel aan de rand van het internet, nou, dat is iemands eigen toestel, hè, dus in de browser op de rand, uh, enkel om, om, om objectjes te herkennen, want iemand is met lego bezig.
• 27:09
  Uh, of wil je reasoning doen en wil je wat meer nadenken? Maar, en dat is wel een interessante: hoeveel kennis heeft dat kleine modelletje nodig?
• 27:18
  Hè, want als je, zeg maar, een, een goede denker hebt, hè, dus een model dat redelijk kan redeneren maar eigenlijk weinig weet en jij zorgt dat die kennis er op tijd aan toegevoegd wordt, uh, uh, op het moment dat het nodig is, kan je best wel wegkomen met die kleine modellen ook.
• 27:32
  Ja. Dat is een beetje de, waar we volgend jaar hopelijk wat meer van gaan zien. Ja, wegkomen zeg je dan, dus dan, dan, zeg maar, het haalt het niet bij DeepSeek en al helemaal niet bij die grote Amerikaanse modellen.
• 27:41
  Maar jij zegt dus eigenlijk: dat is niet erg, want afhankelijk van waar je het voor gebruikt kan dat prima zijn en kan het dus, uh, ja, uh, z-, op een bepaalde manier zelfs goedkoper zijn dan het gebruik.
• 27:52
  Nou, misschien, misschien helpt het, want het is, dit is in, in het geval van, uh, Android, uh, laatste versies en iOS, meest recente versies op de wat duurdere iPhones zo. Jij kan bijvoorbeeld eigen emoji's maken.
• 28:05
  Nou, dan kan, dan zeg je: doe deze drie emoji's tot een nieuwe emoji maken op iOS. Dat is een heel klein modelletje die dat specifiek lokaal voor jou doet. Ja.
• 28:12
  Uh, als je zegt: kan je deze tekst voor mij corrigeren, dan gaat het door een tekstcorrigeerdingetje heen. En eigenlijk wat Mistral nu doet.
• 28:19
  Dankzij Mistral kan je nu een beetje onder de motorkap kijken van wat er bij die grotere partijen ook allemaal leeft, namelijk expertmodelletjes- Ja...toegespitst op bepaalde taken en doelen.
• 28:30
  En daarom is het ook logisch dat Mistral die hele, dat hele boeket naar buiten gooit nu. Want dat is eigenlijk ook wat de, uh, klanten vragen.
• 28:38
  Dit is ook aangestuurd op wat zij voelen dat de markt verlangt, namelijk mooie gefinetunede minimodelletjes. Ja. Ja, het zou wat zijn, hè, als we hier niet meer over hoeven na te denken.
• 28:48
  Dat je gewoon een ChatGPT-achtige app hebt die dan voor jou zegt: ik ga dit naar Mistral brengen, deze vraag, want dat kan echt prima. Ja, ja, en eigenlijk die, die routing, zeg maar.
• 28:57
  En nu gebeurt er routing, maar, uh, bijvoorbeeld binnen OpenAI, maar die blijft alleen maar naar OpenAI routen. Tuurlijk, ja.
• 29:02
  Uiteindelijk wil je een multi router hebben- Ja...en dan niet op het, je wilt dit woord helemaal niet gebruiken wat ik nu zei.
• 29:07
  Je wilt gewoon AI als eindgebruiker gebruiken en het wordt vanzelf, uh, de goede kant op gestuurd.
• 29:13
  Ja, en in, in die zin is het natuurlijk, want, uh, de, uh, op, op iOS gaat het in ieder geval nog zo zijn dat er zowel Gemini gebruikt gaat worden als OpenAI als Apples eigen model.
• 29:24
  Ja, wat jij net beschreef is wel heel erg in de buurt van wat Apple heeft gelanceerd al aan de techneuten in dit geval. Juist. En wat we van Google absoluut niet hoeven te verwachten.
• 29:32
  Die gaan gewoon- Zijn maar niet in hun voordeel. Nee, die gaan gewoon log in binnen Gemini model. Wel mini, allemaal verschillende Gemini's, hè. Ja. Dat hele boeket, maar allemaal Gemini. Precies.
• 29:40
  Je gaat niet opeens met ChatGPT praten via de assistent van Google, want hij heet Gemini en dat is wat je zal krijgen.
• 29:47
  Ja, het is, het, het, het, het roept toch wel de vraag op dat er een alternatief is die, waarvoor je gewoon als simpele ziel als ik, dat dat ding, dat je kan zeggen: nou, als het even kan, doe dan de Europese en als dat te moeilijk is voor dat ding, dan vraag het maar aan de Amerikaanse.
• 30:02
  Ja, en al, al is het maar een, uh, uh, een knopje waarop je gewoon zegt: oké, stay within my jurisdiction of zo. Dat je de optie hebt om te zeggen: je mag naar buiten fanen, zeg maar, maar ik wil consent geven.
• 30:11
  Of: joh, ik zet hem op yolo mode, het boeit me gewoon niet. Ja. Hè, ik, ik, ieder zijn ding. Ja. Maar het zou wel prettig zijn als we daar iets meer in te zeggen hadden, ja.Uhm,
• 30:22
  ja, wat moeten we verder nog over zeggen, Wytse? Wat, uh, Mistral, het gaat ons niet, uh, het gaat niet, uh, opeens dat we in al die testen mee gaan komen als Europa, want het, het haalt het nog niet bij DeepSeek.
• 30:34
  Maar met al die kleine modellen zou het zomaar nog steeds heel boeiend kunnen zijn. Het is een, uh, ze hebben investeringen van ASML en Nvidia natuurlijk gehad. Samenwerking met HSBC en Stellantis.
• 30:45
  Uh, SAP hebben ze net een grote samenwerking mee aangekondigd. Dat is niet klein. De, het Duitse SAP, zeg maar.
• 30:50
  Dat is, nou, er zullen luisteraars zijn die meteen zeggen: o ja, nou, die zijn, misschien fronsen ze een beetje van: jeetje, dat is het- Het kut software, maar wel groot.
• 30:58
  Het is, het, het hoeft niet kut te zijn als je het goed bouwt, wil ik toch even zeggen. Maar de implementaties zijn vaak toch wat complex.
• 31:04
  En voor eindgebruikers die dan in een fulfillment center werken, denk je, denken: jeetje. Ik haat SAP. Precies. En, uh, maar daar is gewoon iets niet goed gegaan.
• 31:11
  Het is een beetje een, het lijkt een beetje een enterprise-isch saaie samenwerking, maar het is wel flink, want eigenlijk is het een beetje de handen ineen slaan van grote Europese reuzen. Precies.
• 31:19
  En dat is, uh, eigenlijk alleen maar gaaf. Ja. Vind ik wel. Maar wat gaan ze dan doen? Dat is dan, uh. Nou, ik, ik denk, de, uh, pure, uh, fantasie, maar ik denk dat ik aardig in de buurt kom.
• 31:29
  Uh, het bouwen van al die flows, hè, die N8, N-achtige synthesizer flows, blokjes met touwtjes ertussen, die worden nu door Microsoft en Google op allerlei plekken uitgerold.
• 31:39
  Uh, je kunt je voorstellen dat binnen SAP, wat uiteindelijk informatiemanagementsystemen zijn, hè, daar zou je bijvoorbeeld een LMS in kunnen bouwen voor je onderwijs, maar ook een compleet logistiek operating system.
• 31:48
  Daarom is SAP zo breed, uh, dat het daar voor gebruikers en architecten ook tof zou kunnen zijn om meer grafisch flow building te doen, waarbij AI een handje helpt.
• 31:57
  Dus- En waarbij er een voordeel ta-te halen valt ten opzichte van de concurrentie dat je een Europees model gebruikt?
• 32:03
  Nou, me-mogelijk zelfs dat Mistral zorgt dat er een Mistral SAP getuned model is wat SAP goed begrijpt. Juist.
• 32:10
  En dat SAP eigenlijk de opdracht neerlegt bij, uh, Mistral: kunnen jullie ons helpen zorgen dat wij AI kunnen integreren o- en niet gebruik hoeven maken van die grote gesloten modellen?
• 32:22
  [muziek] Er is een document uitgelekt van de firma Anthropic dat ze het soul document noemen, de ziel van Claude. En dat doet natuurlijk de wenkbrauw fronsen. Wat is een zieldocument als we het hebben over een taalmodel?
• 32:39
  Het is ook geen klein zieldocument. Het zieldocument bevat 14.000 woorden aan interne instructies en die bepalen dus hoe Anthropic's AI denkt, zich draagt en voelt.
• 32:52
  Onderzoeker Richard Wise wist het te ontfutselen door slim te prompten en Anthropic heeft de authenticiteit bevestigd. Heb je een deel, ik ga er niet van uit dat je het hele document hebt gelezen.
• 33:00
  De helft heb ik gelezen, ja. O, je hebt de helft daadwerkelijk gelezen. Vond jij, ik moet eerlijk zeggen. Hoe leest dit document? Het, uhm, ja, hoe zeg je dat nou? Uh, beetje bizar. Uh, onwerkelijk.
• 33:11
  Dat is misschien het juiste woord. Maar, d-w-wat voor dingen staan erin?
• 33:14
  Wat is- Nou goed, ik bedoel, je hebt in, uh, in de sciencefiction heb je, sciencefiction heb je Asimovs, uh, robotic laws, zeg maar, dat je mensen niks aan mag doen, et cetera.
• 33:22
  Ik zou deze uit mijn hoofd moeten weten, maar dat weet ik niet. Dat zijn eigenlijk een soort, de geboden voor robots, ja, uit de sciencefiction. Dit document is dat, maar veel meer, hè.
• 33:31
  Zie het als wat normaal de bedrijfsmissie zou zijn, hè.
• 33:34
  Dus jij wordt in het onboardingproces als nieuwe werknemer van, uh, SAP, krijg je ook even het SAP missiedagboek te lezen of handboek en dat zijn ook 14.000 woorden. Zo leest ie.
• 33:45
  En waarom, waarom het zo'n bijzonder document is, is omdat er eigenlijk wordt Claude aangesproken. Hallo, dit ben jij. Dit is jouw taak. Jij bent de meest behulpzame, mensachtige.
• 34:00
  Er wordt heel de tijd subtiel, ze, you're, you're like a human, but not a human, hè. En je, je, je neemt de rol in van een vriend. Maar weet wel, je kan geen echte vriendschap aangaan.
• 34:09
  Maar het is, het is een heel, ik moet zeggen, ik las hem en ik dacht: jeetje, dit lijkt me best wel [gniffelt] moeilijk als ik aan de andere kant zou zitten als model om deze opdracht goed te begrijpen, want het is de ene na de andere nuance op de opdracht.
• 34:21
  Ja, want dit is dus belangrijk om erbij te zeggen: het is niet het systeemprompt, want dat is de fundamentele instructies die bepalen hoe een AI-model zich gedraagt.
• 34:30
  Dat is eigenlijk het DNA van een AI-assistent, die bepalen wat het, uh, wat het model wel en niet mag doen, hoe het moet reageren, wat voor persoonlijkheid het uitstraalt. Dat heeft ieder AI-bedrijf.
• 34:40
  Niemand deelt het overigens, behalve Anthropic, uhm, maar dat is iets anders. Dit is dus een onderliggend document waarmee ze Claude hebben gevormd. Het DNA achter het DNA zou je kunnen zeggen. Precies.
• 34:51
  Dus dat, dat film, wil veel meer, ja, het is een beetje moeilijk om dat onderscheid te maken.
• 34:55
  Het is dus niet zozeer wat ie doet en welke persoonlijkheid ie heeft, maar het is meer een soort van: wat ben jij eigenlijk voor soort wezen? Nou, sterker nog, ik denk, je zegt het wel mooi.
• 35:06
  Het, wat mij betreft is het de grondcontext, namelijk: wat ben jij eigenlijk? Ja. En daar staat: nou, je bent gemaakt door Anthropic.
• 35:14
  Wij, w-, ik, ik ga het even zeggen zoals ik het heb onthouden, hoor, maar er staat ongeveer, zoals ik het heb onthouden: eigenlijk willen we jou niet maken, want jij bent ook heel potentieel gevaarlijk.
• 35:25
  Ja, ze zeggen, Anthropic schrijft in dit document dat ze oprecht geloven dat ze een van de meest transformatieve en potentieel gevaarlijke technologieën in de menselijke geschiedenis bouwen. Maar toch gaan ze door.
• 35:38
  Niet uit een soort van cognitieve dissonantie, schrijven ze, maar als bewuste gok. Als er krachtige AI sowieso gaat komen, dan is het beter om safety gerichte labs aan de frontier te hebben.
• 35:51
  En daarom noemt Anthropic Claude in dit document de grote gelijkmaker, omdat iedereen toegang verdient tot substantiële hulp die vroeger was voorbehouden aan geprivilegieerden. Jeetjemina.
• 36:02
  Ja, dit is nog maar echt een van de zinnetjes in 14.000, hè. Ja. En iedere zin is zo geladen en vol als dit. Het is allemaal krentenbrood, iedere zin. Er zit echt veel in. Wat, w-zeg maar, wat vind jij van die framing?
• 36:13
  En, en waarom, waarom vertellen ze dat aan, aan Claude? Ik heb het document eigenlijk op twee manieren proberen te lezen. Ik heb hem gelezen als onboardingsdocument voor mij, alsof ik bij Anthropic ging werken als mens.
• 36:24
  Ja, ja. Want daarmee kan je ook een end komen met het document, hoor. Wat voor bedrijf willen wij zijn? Ja, precies. En wat, wat willen wij met de wereld? Besef even wat de missie is, zeg maar.
• 36:31
  Welkom, mocht je ons nog niet kennen, hierbij, zeg maar.
• 36:33
  En dit is waarom we onze keuzes maken.Daarnaast kun je hem lezen als het onboardingsdocument voor Claude, namelijk een soort mensachtige entiteit die gecreëerd is door Anthropic.
• 36:43
  Uhm, ik, ik gebruik net het woord onwerkelijk en bizar, omdat, uhm, kijk, ik weet van systeemprompts.
• 36:52
  Ik weet dat you're a helpful assistant, hè, dat zou je een soort, uh, dat zou een goede boektitel [gniffelt] kunnen zijn. Die is er waarschijnlijk al, want dat is een soort van de grond van alle AI-assistenten gebleken.
• 37:02
  OpenAI's uitvinding, denk ik, die zin. Uhm, dit is you're a helpful assistant. En by the way, hier nog even wat nuance op die zin en dan 14.000 woorden. Wat, wat ik denk als ik dit lees is, uhm,
• 37:16
  als je de, de-- ik vind het bijzonder dat Anthropic denkt en zij kunnen het weten, zij zeggen, dat dit document wat doet. En daarmee bedoel ik: wat doet als in invloed heeft op hun Claude. Ja.
• 37:27
  Hè, dus, uhm, want ik heb heel vaak, ik lees veel over hoe je een goede prompt schrijft. Uh, prompts moeten niet te lang zijn, want dan krijg je prompt infighting.
• 37:35
  Als ik dit document, ik denk: daar voldoet het op geen enkele manier aan, want het is echt: je bent lief, maar niet te lief, maar soms wel lief, maar mogelijk te lief en daarom niet altijd lief. Succes!
• 37:43
  Dit is letterlijk, iedere zin is zo'n een-- en, ze zeggen ook, ik heb een beetje comments gelezen van mensen eromheen.
• 37:49
  Ja, we hebben geprobeerd om als het ware in de nuance het model naar, naar, naar links en naar rechts en naar boven en naar beneden, naar voren en naar achter te bewegen in de hoop dat hij in het midden ergens eindigt.
• 38:03
  En daarom spreekt bijna iedere opdracht zich nagenoeg tegen. Want ja, je, je, je mag niet praten over onderwerpen als suïcide.
• 38:11
  Maar als het gevraagd wordt door een verpleegster die op dat moment iemand aan het helpen is, ja, dan wel. Mhm. En dat zit er dus ook allemaal in. En dan ook weer nuance daarop. Goed, dus wat vind ik ervan?
• 38:20
  Ik vind het een heftig document om te lezen. Uhm, ik vind het bijzonder dat deze blijkbaar ingezet is op een andere plek dan de systeemprompt, hè. Jij noemde het het DNA achter het DNA.
• 38:29
  Dit document is er al tijdens het, het trainen. Ja, dat maakt het bijzonder, hè. Dit is niet iets wat hij meekrijgt als jij een opdracht hebt gegeven, maar hiermee, want dat doen normaal gesproken AI-labs.
• 38:38
  Die voegen een systeemprompt toe nadat ze het model getraind hebben. Maar Anthropic gebruikte dit document, uh, al tijdens het trainingsproces. Ze hebben Claude er letterlijk mee gevormd, dus.
• 38:49
  Ja, en je kunt even- Het is een hele andere aanpak. Even voor, voor zover ik dat weet. Je hebt het pre-trainingdeel. Dat kan je net zo goed het trainingdeel noemen. Dat is namelijk het bakken van het LLM-brood.
• 38:59
  Daarna doe je nog reinforcement learning of andere technolo-- technieken om het model eigenlijk, uh, te tunen naar het zijn van een helpful assistant. Uh, daarna doe je nog een systeemprompt toevoegen.
• 39:11
  Uh, hoeveel daarvan al zit in het proces van finetunen weet ik niet zo goed, maar dat is nog een laag. En dan heb je nog de eind-, eindgebruiker die zelf nog eroverheen gaat lopen, uh.
• 39:19
  Dus je kan, het is best wel een spekkoek aan, aan mogelijke aanpassingen. Dit document, het, de naam Soul Document is trouwens niet door Anthropic gegeven, maar door degene die het gelekt heeft.
• 39:29
  Anthropic zegt niet hoe ze het noemen, uh, maar ik vind het wel, ik snap hem wel een beetje, want ziel lijkt dan ook te liggen achter de systeemprompt, zeg maar. En ook wat vager dan de systeemprompt.
• 39:39
  Dit document, uh, is aanwezig vanaf het allereerste begin. En ja, het is een beetje bij het, uh, creëren van het model.
• 39:46
  En ja, hoe ik het lees is, het is bijna alsof als het model voor het eerst online komt, uh, dan i-, zit dit er al in. Ja.
• 39:56
  Dat is een beetje anders dan, uh, ja, het voelt bijna als, ik ben een beetje, beetje moeilijk om al die menselijke metaforen te gebruiken, maar dat dit op een soort meer intuïtief, aircotes, niveau erin verwerkt zit.
• 40:06
  Maar nog even over dat, dat safety gericht, hè, dat ze dus eigenlijk zeggen: de, de, dit is eigenlijk heel gevaarlijk wat we aan het doen zijn, maar, uh, het gaat toch gebeuren, dus dan kunnen we maar beter meedoen.
• 40:16
  En wij vertrouwen ons eigen- Ja...ethiek wel. Uh, dus dan, in ieder geval doen we mee in een race en dan hebben we een kans om te winnen. Maar dit komt uit de koker van de CEO, denk ik, hoor.
• 40:26
  Dit is echt Darius Amorzegi speaking. Precies. Dit is wat hij in interviews ook heel de tijd zegt. Maar dat, dat dat marketing is, dat begrijp ik. En ik begrijp ook dat het iets is wat je echt kan voelen.
• 40:37
  Uh, ik wil dat verder niet in twijfel trekken, maar het zal allebei waar zijn. Maar waarom vertel je het aan de bot op deze manier? Wat, wat heeft, wat, waarom?
• 40:48
  Ja, omdat je, omdat je er denk ik niet vanuit mag gaan dat Claude weet wat Claude is. Nee. En Claude weet wie Claude is.
• 40:58
  En ik denk dat, door, een van de moeilijkste dingen binnen organisaties is om de tacit knowledge, dus de kennis die niet expliciet uitgesproken wordt, maar wel aanwezig is binnen die organisatie, hè, bijvoorbeeld de organisatiecultuur.
• 41:11
  Maar is het dan zo simpel dat als je als gebruiker een vraag hebt, namelijk: hé, uh, waarom, uh, bouwen jullie eigenlijk deze technologie als jullie, uh, denken dat het allemaal zo gevaarlijk is?
• 41:19
  Dat hij dan die vraag kan beantwoorden en eigenlijk een soort van corporate woordvoerder is. Is dat de reden waarom ze dit doen? O, ja, zo zou je hem ook kunnen bekijken.
• 41:26
  Of is dit soort- Dan is het geen handig document, hoor, want dan had ik, als het echt daarvoor was, hadden ze hem echt anders moeten schrijven. Oké. Want ik bedoel, dat deze niet gepubliceerd is door Anthropic zelf.
• 41:35
  Dat kan je ook vragen, hè. Waarom staat het niet op hun website of in hun, waarom moeten- Want normaal gesproken is alles heel open wat zij doen, dus het is opvallend dat ze dat in dit- Dit is geëxtraheerd. Ja.
• 41:43
  Uh, ik vind het ook bijzonder trouwens dat het document gewoon nagenoeg één op één aanwezig is in het model. Want het model heeft over het algemeen alleen maar gewichten en patronen en niet data, zeg maar.
• 41:52
  Het is niet de bedoeling dat er- Nee...dat, dat het er zo één op één, uh, uitgehaald kan worden. Dat heeft, uh, waarschijnlijk te maken met op het moment waar het erin gestopt wordt.
• 41:59
  Het zit zo diep dat het er gewoon woord voor woord in zit, zeg maar, in plaats van dat het gewichtjes zijn. Het is een soort van de oerhandleiding. Uhm, ja, ik denk, het is ook een beetje een, een aanname van Anthropic.
• 42:10
  Zij weten meer van hoe hun modellen werken dan ik, maar het voelt ook een beetje als een soort aanname van, uhm- Het zal wel ergens goed voor zijn. Ja, laten we dit er maar instoppen gewoon.
• 42:19
  Wa-, het, het is alsof ze een interview hebben gedaan bij alle, uh, zeg maar, OG, hè, de o-, originele team van Anthropic en hebben gezegd: als wij nou eens expliciet zouden maken wat wij impliciet allemaal vinden en waarom we samenwerken, wat zouden we dan tegen Claude moeten zeggen als wij er niet meer zijn?
• 42:35
  Ja, in het begin was Claude natuurlijk een heel irritante taalmodel om te gebruiken, want alles wat een beetje leek op, uh, waar dat, het was zeg maar een heel, uhm-Uh, er zit een soort van ingebouwde politieagent in.
• 42:48
  Soort van, als je dan, stel je voor, ik, uh, was, uh, ik heb wel eens gedaan dat ik boos was op iemand en dat ik dan, uh, vroeg: hoe schrijf ik een bitsige mail terug, uh, naar de, naar deze persoon die mij onheus bejegent?
• 43:00
  En dat hij zegt: het is niet, uh, de bedoeling dat je mij gebruikt, uh, om onaardige mailtjes te typen voor mensen. Dat ik echt dacht: flikker op, wat is dit nou weer voor iets?
• 43:09
  En hier, daar zijn ze wel beter in geworden.
• 43:11
  En in dit, uhm, in document wordt ook die, die voorzichtige of irritante of prekerige kant, wordt ook behandeld en het wordt, uh, benoemd als een risico dat net zo reëel is als schadelijk of oneerlijk gedrag.
• 43:23
  Het document somt een waslijst op van ongewenst gedrag: onnodige disclaimers, moraliseren zonder dat erom gevraagd wordt, neerbuigend doen over het vermogen van gebruikers om hun eigen beslissingen te nemen.
• 43:35
  Uhm, dat staat er allemaal in.
• 43:36
  En dat hij daar een soort van, uh, positie in moet nemen, namelijk, uh, dat, uhm, iemand die oncomfortabel zou zijn bij zowel schadelijke antwoorden als overdreven voorzichtige antwoorden is wat ze willen.
• 43:47
  Dus ze willen een soort van middenvorm tussen. Het is ook niet goed als hij te voorzichtig is, wil ik, dat wil ik maar, uh, uh, benoemen hier.
• 43:54
  Sterker nog, dat ze dat net zo gevaarlijk vinden als schadelijke antwoorden geven. Waarom denk je dat dat is? Waarom is dat even gevaarlijk?
• 44:03
  Nou, omdat ik denk dat, uh, iemand niet serieus nemen of iemand, uh, indirect kleineren of iemand, uhm, niet het vertrouwen geven dat je zelf beslissingen kan nemen.
• 44:14
  Je kunt iemand ook opties voorleggen in plaats van zeggen: dit is wat je moet doen. Hè, dus je kunt een beetje meer afstand geven van: oké, luister, je kunt deze mail terugsturen.
• 44:24
  Ik vind het best wel een pittige mail, maar ja, het is uiteindelijk aan jou of je die mail verstuurt, hè. Dus het heeft volgens mij te maken met, uh, eigenlijk: waar leg je het moraliseren neer?
• 44:35
  Hè, dus wie gee-- hoeveel autonomie geef je aan degene die met Claude praat? En hoeveel autonomie geef je aan Claude?
• 44:40
  En ik denk dat, wat heel mooi in dat document terugkomt, is een beetje dat spelen en dat gevecht met hoe, hoe, in hoe z-, in hoeverre, uhm, vertrouwen we eigenlijk degene die met Claude praat?
• 44:53
  En hoeveel leggen we eigenlijk aan verantwoordelijkheid neer bij degene die met Claude praat? En hoeveel verantwoordelijkheid ligt er bij Claude?
• 44:59
  En ik denk dat OpenAI, die hier ook heel erg veel last van heeft, zeker omdat, er zijn best wat mensen die GPT-5 echt, 5.1 heel irritant vinden omdat je daar zo weinig, s-, uh, autonomie krijgt.
• 45:11
  Hè, er wordt heel veel voor jou weg, uh, geguardraild, zeg maar. Uh, die is minder stoer. Dat het voor die, uh, AI-bedrijven nu [schraapt keel] best wel een uitdaging is: wie geven we waar genoeg autonomie?
• 45:25
  Want dit is ook als het gaat om AI voor tieners of AI voor scholieren, et cetera, heel erg de vraag van: waarschijnlijk moet die, mijn mening, die knop van hoeveel autonomie je daar geeft en hoe moraliserend je bent een stuk harder aanstaan.
• 45:38
  Om daarmee bedoel ik te zeggen dat je wat minder autonomie legt bij die tiener en zegt: luister, in deze levensfase, ik ga deze mail gewoon niet voor jou schrijven. Dit gaan we gewoon niet doen.
• 45:48
  En ik wil je wel zeggen waarom ik het niet wil doen, maar ik ga hem je niet geven. Ja.
• 45:51
  Terwijl je misschien, als je het zeker weet, hè, dit is nog een van de dingen waar OpenAI bijvoorbeeld mee bezig is: hoe komen we erachter wat de leeftijd is en de volwassenheid van onze gebruiker? Ja.
• 45:59
  Van joh, hier heb je die mail, aan jou wat je ermee doet. Ja. Maar ik zou het niet doen. Dat zou je er dan nog bij kunnen zeggen, hè. Ja. Dus, maar al met al is het een interessant historisch artefact, dit document.
• 46:11
  Omdat toen ik het aan het lezen was, dacht ik ook: jeetje, heb ik dit dan allemaal als mens zelf geleerd of zo? Ja, precies, dat, het is, dat, dat vind ik zo interessant aan überhaupt die prompts lezen.
• 46:19
  Dat je, je gaat ook aan je eigen manier van leren denken. Ja, omdat iets wordt expliciet gemaakt- Precies...wat impliciet is. Precies. Precies. Dus, uh, het noopt mij altijd, ook altijd tot zelfreflectie.
• 46:29
  S-, is dit hoe dit werkt? Doe ik dit zo? Ja, en ik denk ook, ik, ik zeg ook heel vaak tegen mensen: je kunt denken: ik kan leren met AI, hè, bijvoorbeeld, ik wil meer weten over, nou ja, leg, zeg iets leuks. Filosofie.
• 46:41
  En ik ga samen met AI leren. Dat ik dan ook altijd zeg: ja, je kunt op die manier leren, hè, dus er is een soort levenscoach of zo. Of die gaat jou wijzen naar de juiste boeken en jou vragen stellen of zo.
• 46:50
  Maar ik vind eigenlijk ook het hele idee, dat is even op een ander level, leren over jezelf, leren over ons als mens door AI als een spiegel in te zetten. Ja. Want dit document is een spiegeldocument. Ja.
• 47:03
  En er zit, er komt ook volgens mij voort in dat document, staat er ook, uh, je kunt, uh, je bent gebaseerd op alle menselijke cultuur en kennis.
• 47:13
  Daardoor mag je ervan uitgaan dat je eigenlijk best wel goed snapt hoe mensen zijn. Dit soort, dit soort zinnen staan er dan in.
• 47:18
  Ja, het is, ik zeg, het is- Er staat ook in: sommige menselijke concepten zijn misschien een aangepaste vorm van toepassing, andere helemaal niet.
• 47:25
  En misschien zijn er aspecten van Claude's bestaan die geheel nieuwe kaders vereisen om te begrijpen.
• 47:31
  Dus het is, naast dat j-, dat ie, dat je eigenlijk tegen dat ding zegt: jij begrijpt mensen heus wel, zegt ie ook: eigenlijk ben jij iets anders.
• 47:38
  En, en benader dat met een vorm van nieuwsgierigheid in plaats van alles te mappen op die menselijke concepten die jij zo goed kent. Zeker.
• 47:44
  Sterker nog, ik werd wel een beetje- Fascinerend...blij van deze zin, omdat ik dacht van: ja, als je niet nadenkt over artificiële intelligentie, maar alternatieve intelligentie, hè, iets wat naast de mens staat als een soort nieuwe bloem in het boeket en niet een, uh, uh, soort simulacrum van wat mensen zijn.
• 48:02
  Ja. Een soort mensnadoenend ding. Ja. Wat, wat de meeste modellen nu wel zijn, die proberen een mens na te doen. Dat je zegt: hoe ziet eigenlijk die soort machine wiskunde intelligentie eruit?
• 48:14
  Hè, wat is, uh, hoe verbreedt dat de totale pool van intelligentie, hè, waar mensen ook in zitten? Ik denk ook dat het, [klikt tong]
• 48:23
  mijn mening, hoor, maar wat prettiger zou zijn als het minder voelt als iets wat ons nadoet, maar iets wat ons aanvult. En niet alleen maar: AI is maar een tool.
• 48:32
  Nee, het is een vorm van intelligentie die wij niet hebben.
• 48:35
  Hè, en dat hoeft niet eens superintelligentie genoemd te worden, maar alternatieve intelligentie die eigenlijk de breedte van het intelligentiespectrum voor ons wezens verbreedt.
• 48:44
  Waarin Claude dus wat anders is dan een nepmens. Ja. Whatever that is.Straks gaan we nog even hebben over AGI. Wanneer komt het? Waarschijnlijk niet volgend jaar, maar eerst de tip van de week.
• 48:58
  Typeless is een tool die we in AI-report behandelen. Dat is een dicteer-app die typen overbodig maakt. Die werkt in ieder programma op je computer, Windows en Mac, waar je tekst kan invoeren.
• 49:08
  Dus dat kan in Gmail, in Slack, in Notion, in chat. Maakt eigenlijk allemaal niet uit.
• 49:12
  Als je de Fn-toets ingedrukt houdt, dat is die toets links onderin en dat is een soort walkie talkie, kan je hem ingedrukt houden en dan verschijnt die tekst op je computer.
• 49:19
  Het verschil met gewoon dicteren is dat Typeless gelijk je teks, tekst netter maakt. Dus, uh, en, uh, uh, nou ja, tussenwoordjes die je gebruikt worden allemaal weggehaald.
• 49:30
  En als je jezelf halverwege in een zin corrigeert, dan hou je alleen de uiteindelijke versie over. En je kan zelfs, uh, de transformatiefunctie gebruiken en daarmee kun je rommelige aantekeningen, uh, dicteren.
• 49:42
  Dan die tekst selecteren en dan eigenlijk een, sp-, ja, soort spreekprompt eroverheen uitspreken. Een magische toverspreuk zoals: maak hier een professionele e-mail van. En het maakt dus niet uit in welke app je zit.
• 49:54
  Uh, binnen een paar seconden verschijnt dan een soort van nette geformatteerde mail met aanhef en afsluiting.
• 50:01
  Beetje jammer is dat het, uh, beperkt is, de gratis versie, tot 2.000 woorden per week, maar daar kom je eigenlijk best wel een eind mee met de gratis versie.
• 50:07
  Uhm, en als je dan deze, uh, gebruik, gebruikt en je zit aan die 2.000 woorden, kun je ook overs-, overstappen naar concurrerende tools zoals Super Whisper. Die heeft, geeft ook weer 2.000 woorden gratis.
• 50:17
  Of Whisper Flow, die geeft ook weer 2.000 woorden. Het is eigenlijk allemaal precies dezelfde app, uh, en dan hoef je eigenlijk nooit die $12 per maand te betalen. Nou, dat is een handige tip.
• 50:25
  En ik denk: praten tegen je computer, dat is voor heel veel mensen gewoon nog best wel een bizarre ervaring. Ja. Het is wel, zeg maar, als ik het wel eens laat zien aan mensen, dan- Hoe goed het is, bedoel je?
• 50:33
  Ja, en als je dat, dat dan weer gaat combineren met waar jij het eerder over had, namelijk software power door tegen je computer te praten, dan gaan er voor mensen nog wat meer luikjes open. Ja, ja, ja.
• 50:41
  Nou, we hebben dit, uh, geprobeerd en de recensie ervan vind je in onze nieuwsbrief, uh, AI-report.e-mail. Ten slotte, Wytse, Dwarkesh, uh, ja, ik zou bijna zeggen vriend van de show.
• 50:53
  Uh, zouden we willen, maar dit is een, uh, belangrijke persoon in Silicon Valley die, uh, al die, uh, die AI-wetenschappers, uh, spreekt en interviewt, vaak voor zijn 3 uur durende podcast.
• 51:06
  Uh, Ilya Sutskever was te gast inderdaad een, uh, paar weken geleden. En een belangrijk, uh, we hadden het er vorige week eventjes over. Een belangrijke conclusie die Sutskever trekt is:
• 51:19
  uhm, het is een beetje klaar met het, uh, be-verbeteren van de modellen door maar puur meer rekenkracht ertegenaan te gooien. Uh, er moet een nieuwe grote uitvinding gedaan worden, want anders komen we er niet.
• 51:31
  En Dwarkesh schreef een post over de stand van AI-systemen, uh, op dit moment. Gewoon een soort van overzichtspost. Even drie stappen achteruit, kijken waar we nu staan.
• 51:42
  Ik vond het een heel interessante post om te lezen. Ik raad het echt van harte aan. Het is een kort, kort artikel, uhm, maar ik vond het best wel goed.
• 51:49
  En hij zei dat hij zich aansluit bij Sutskever in de zin dat hij denkt dat het ook aan het stagneren is, dat het langer gaat duren voordat we bij AGI zijn.
• 52:01
  Wat hij overigens definieert als 95% van het kenniswerk automatiseren. Uhm, en dat het belangrijkste, uh, ja,
• 52:11
  bewijs, anders dan de onderliggende wetenschap die Sutskever aanhaalt, is dat je nu aan die AI-bedrijven kunt zien hoe ze zich, uh, wat ze nu doen. Je kan aan hun gedrag zien dat zij denken dat het langer gaat duren.
• 52:25
  En het voorbeeld dat hij noemt is dat ze bij Anthropic nu heel veel tijd aan het steken zijn in hun modellen finetunen op Microsoft Office-gebruik.
• 52:34
  Want hij zegt: het feit dat ze daarmee bezig zijn, dat ze zo specifiek tooling aan het trainen zijn op specifieke software, betekent dat het ze niet lukt om het generaliseerbaar te maken.
• 52:46
  Ze hebben het opgegeven voor de korte termijn en denken dus dat om, om economische impact te maken, je dan dus niet generaliseerbare AI gaat maken.
• 52:54
  Een AI die begrijpt in één keer dat je Excel kan gebruiken, maar dat hij ook begrijpt hoe je, nou, noem eens iets geks, een heel ander stuk software kan gebruiken omdat hij nou eenmaal heeft geleerd software te gebruiken.
• 53:05
  Nee, het is specifiek getraind om Excel te gebruiken en dat zijn toevallig tools die veel in het, uhm, ja, in het zakelijke leven natuurlijk gebruikt worden, op werk gebruikt worden en daarmee zou het economische impact kunnen maken.
• 53:18
  Ik vond het een grappig, uh, idee.
• 53:20
  Ik heb wel vaker gehoord als AI-bedrijven zich opeens op user interface gaan richten, dan is dat ook een teken van dat ze stiekem op de achtergrond, uh, zich realiseren dat, dat het, dat de boel langzamer gaat dan ze zouden willen.
• 53:33
  Want dan is opeens, is opeens interface iets om te optimaliseren. Want dan, ja, dan is een soort van, uh, dan ga je gewoon makkelijker nieuwe gebruikers binnenhalen, want die begrijpen eerder waar je het over hebt.
• 53:42
  Maar dat, als je, als je een, een echte wetenschapper bent, hou je daar natuurlijk je neus voor op, want je bent bezig met de fundamentele wetenschap erachter.
• 53:50
  En datzelfde, uh, ja, vinkje ging opeens aan in mijn hoofd toen hij het had over optimaliseren voor Excel.
• 53:57
  En daarom, zegt hij, daarom ben ik het met Sutskever eens dat dit, volgens mij zegt hij, 10 tot 20 jaar, v-, gaat duren voordat, voordat 95% van het huidige kenniswerk geautomatiseerd kan worden door dit soort systemen.
• 54:10
  Uhm, ik vond het interessant. [kucht] Hij, hij zegt niet: AGI gaat niet gebeuren. Dat zeggen ze allebei niet. Ze zeggen allebei: dit gaat gebeuren. De vraag is wanneer.
• 54:20
  En, uh, de, de meest optimistische mensen denken: ja, wat er gaat gebeuren is: er komt een AI-versie van Ilya Sutskever en die gaat al die problemen oplossen.
• 54:30
  Dus zolang wij maar daaraan blijven doorwerken, aan een wetenschapper in de cloud maken, dan gaat die doorbraak er komen.
• 54:37
  Dus die, die, die gaan er gewoon vanuit dat die tussenstap, ge, gehaald gaat worden op kortere termijn dan over 10 jaar. Uhm, maar we zijn er in ieder geval nog niet.
• 54:47
  En ik denk dat het belangrijke contrast is met iemand als Sam Altman, OpenAI, die eigenlijk anderhalf jaar geleden ongeveer al zei: we weten hoe we het moeten doenWe zien het. We, we hebben de hele weg ernaartoe al.
• 55:01
  Het enige wat we nu nog hoeven doen is dat uitvoeren. Ilya Sutskever zegt: we weten het nog niet. Nee. We weten nog niet hoe we er moeten komen. Ja.
• 55:08
  En die, en die mag je best serieus nemen, want die was er ook vroeg bij. Ja.
• 55:11
  En ik denk dus het meningsverschil is: is het een kwestie van uitvoeren van de al gedefinieerde stappen naar een kennisverwer-- werker vervangende superintelligentie?
• 55:21
  Of moeten we nog terug naar het laboratorium om opnieuw nieuwe uitvindingen te gaan doen die mogelijk kunnen leiden tot een vierde AI-golf? Het maakt niet uit welk nummer je eraan geeft, laten we zeggen nummer vier.
• 55:31
  En dat duurt nog wel 10 tot 20 jaar. En persoonlijk denk ik, gezien ook, en ik weet niet hoe jij daarin zit, maar ik vind het, ik ze-- ik hoop het misschien wel dat het wat langer duurt, als ik eerlijk ben.
• 55:42
  Dat geeft ons wat meer tijd om met elkaar te wennen aan allerlei automatisering- Ja...op een veel hoger niveau. Uhm, ik kan me tegelijkertijd wel voorstellen dat, en daar zit denk ik een beetje de discussie,
• 55:54
  als jij-- ik moest daar net aan denken toen je het over Anthropic had, die nu eigenlijk op allerlei specifieke, noemen ze skills.
• 56:01
  Ja, de office skill, de word skill, uh, alle skills op alle verschillende stukjes software. Terwijl, dat is een beetje een rare move, want je kan net zo goed de meta superskill doen, namelijk: je bent intelligent.
• 56:12
  Je kan deze systemen net als een mens allemaal gebruiken, zeg maar. Dus het feit dat ze aan het specialiseren zijn op softwareniveau vind ik inderdaad een mooi signaal.
• 56:20
  Een duidelijke bewijslast dat ze niet doorhebben nog hoe ze naar boven toe moeten, namelijk naar een soort generaliseerbaar ding wat al die software tegelijk kan gebruiken.
• 56:28
  Nou, als je het negatief wil zeggen is het dus de schijn ophouden dat je echt wel impact op de, op de economie gaat hebben, uh, door, ja, dit soort, uh, trucjes uit te halen.
• 56:38
  Als je heel cynisch wil zijn, is dat wat je kan zeggen.
• 56:41
  Zeker, je kunt een beetje door, uh, rook en, uh, en, uh, spiegels, zeg maar, op z'n, op z'n slecht Nederlands kan jij, kan jij nog best wel lang doen, uh, met allerlei gave demo's alsof je onderweg bent en weet hoe je moet komen bij- Oh, demo's.
• 56:56
  Het kan, het kan, weet je- Nee, maar ook toepassingen, hè. Ik bedoel inderdaad van: kijk, we kunnen dit hele, uh, deze hele PowerPoint in elkaar klikken en moet je voorstellen wat we nog meer kunnen.
• 57:04
  Alleen- Ja, of, of, of dat doen met Excel. Er zijn heel veel mensen die hebben, die werken in Excel de hele dag. Ja.
• 57:09
  En dan zou je alsnog soort van miljarden kunnen opleveren voor die bedrijven omdat ze al die mensen overbodig gemaakt hebben.
• 57:15
  Dat is denk ik, uh, reëel, uh, dat als je gaat trainen op Excel en je wordt heel goed in Excel, dat er gewoon heel veel mensen zijn die dat als werk hebben, die gewoon dat werk niet meer hoeven te doen.
• 57:26
  Nee, precies, maar het is natuurlijk een groot verschil- Is alsnog een, uh, soort van impact op de economie, maar niet 95% van het kenniswerk overbodig maken.
• 57:32
  Nee, en vooral tijdslijnen, hè, want ik denk dat, uhm, de, er wordt, uh, [gniffelt] het is het AI 2027. Nou, dat is nu, uh, uh, best wel dichtbij, zeg maar. Dat klopt al niet meer. Dario Amodei zegt '26, '27, hè. Ja.
• 57:44
  '26 is heel dichtbij. Ik vind het wel boeiend, hoor, want je, leg het maar in een soort spectrum. Je hebt Sam Altman, die kan je in mijn ogen moeilijk serieus nemen.
• 57:51
  We weten even niet zo goed wat hij allemaal zegt, want, de, veel van wat hij gezegd heeft klopte ook niet. Dario Amodei, Dario Amodei van Anthropic heb ik wel iets hoger zitten dan, dan Sam Altman als ik eerlijk ben.
• 58:01
  Dat hij nog steeds aan zijn twee, drie jaar timeline vasthoudt voor grote economische impact, wel belangrijk, hè, kan nog steeds waar zijn als het een Excelbotje is, wil ik, wil ik toch even aan hem geven.
• 58:11
  Daarnaast heb je dan Demis Hassabis en Ilya Sutskever, die allebei altijd al op langere tijdslijnen zaten.
• 58:18
  Ik denk alleen wel, en ik ga even speculeren, want we zitten toch aan het einde van de show, dus laten we even losgaan.
• 58:24
  Ik kan me wel voorstellen, ik moest toen jij net zat te praten over specifiek tunen op Excel, dat ik dacht: ah grappig, je krijgt eigenlijk een soort zwerm van getunede skills en botjes en agents die al die specifieke dingen kunnen.
• 58:39
  Maar toen dacht ik ook: als je dan kijkt naar wat je bijvoorbeeld in de natuur noemen ze dat een compound eye. Dus dat is het oog van een insect. Die bestaat uit allemaal minilensjes.
• 58:46
  Als je dan inzoomt zie je een soort van dome van allemaal stukjes oog. Mhmm. Wij hebben niet een compound eye. Bij ons wordt alles samengevoegd ergens in de, aan de achterkant van je oog.
• 58:54
  Zij, daar, daar heb je allerlei oogjes die samenwerken tot één oog. Werkt een beetje de andere kant op als het ware.
• 59:00
  Uhm, je kunt natuurlijk ook een soort compound intelligence hebben straks, waarbij het een meer bijna een semantische of conceptuele discussie wordt.
• 59:08
  Dat Ilya Sutskever kan zeggen: ja, uh, inmiddels zijn bij Anthropic door 20.000 specifieke expert agents te combineren met daarboven een agent orchestrator, is er een compound AGI uitgevonden die bestaat uit allemaal tussenexperts.
• 59:24
  Ja, daarvan zeg jij: dat kan net zo goed heel wezenlijk zijn. [lacht] Ja. Het is dan, daar kijken we dan op neer, want het zijn allemaal losse modellen en het is niet gegeneraliseerd.
• 59:31
  Maar ja, als het nog steeds, uh, uh, zeg maar de Zuidas overbodig maakt, heeft het nog steeds wel impact op de Nederlandse economie. Ja, en ik ben, ik bedoel, dat is, uh, soort van de antifilosoof in mij.
• 59:41
  Uh, daarmee bedoel ik, als filosoof zou ik me dan-- dan wordt het dus een conceptuele semantische discussie waar je nog steeds aan het praten bent over: ja, maar dat is eigenlijk niet echt de AGI die we vijf jaar geleden of 10 jaar geleden bedoelden, hè, want die moest generaliseerbaar zijn.
• 59:56
  En, en dan zou ik zeggen als antifilosoof- AGI is, is wel een beetje in het, in het, in de afkorting zit dat: generaliseerbaar. Nee, maar bedoel general intell-intelligence.
• 1:00:04
  Terwijl wat je dan gaat zeggen is: de nieuwe compound AGI die we hebben gebouwd, die bestaat uit een zwerm van 20.000 subagents, kan inmiddels al die taken die Dwarkesh heeft gedefinieerd als AGI vervangen. Ja.
• 1:00:16
  En dan kan je terecht wetenschappelijk academisch zeggen- Het is nog steeds niet generaliseerbaar, maar het is het wel. De hele Zuidas met hun dozen en hun cactussen naar buiten loopt. Ja.
• 1:00:24
  Dus, uh, uh, dat, ik, ik ben toch ook wel een beetje met impact bezig altijd. Ja, ja, ja.
• 1:00:29
  En daarmee wil ik niet, uhm, kijk, want een zwerm van 20.000 experts die je stuk voor stuk moet gaan finetunen en trainen is echt een beetje een brute force lompe manier van het nabouwen van een mens die als baby zelf in de wereld leert spreken.
• 1:00:43
  En, uh, uh- Maar het zou dus kunnen dat we daar, dat we dat gaan doen de komende jaren. Dat we- Ja, gewoon hack.
• 1:00:49
  Dat er gewoon heel veel bedrijven gaan zijn die voor allerlei losse sectoren en allerlei losse stukjes software gewoon gespecialiseerde modellen gaan maken. En dat dat ook is wat al die consultancybedrijven gaan doen.
• 1:01:01
  Dat dat is wat al die startups in Silicon Valley gaan doen. Kies je sector- Ja...en implementeer in die sector.Dat zou kunnen. In plaats van een soort van, ja, magische, magische robot die alles in één keer kan.
• 1:01:16
  Ja, en ook generaliseerbaar is in, uh, het wat dan het wereldmodel heet, die ook toevallig kan gedichten en auto's kan rijden, zeg maar. Want dat zou dan dat super generaliseerbare ding moeten zijn.
• 1:01:25
  Dat is, dat is de, de, de, de droom. Ja, en ik denk dat, uhm, in dat opzicht een van de andere onderdelen van dit hele geheel, uh, die ook moeilijker blijkt in de praktijk dan in het laboratorium.
• 1:01:37
  Want dat is vaak ook, hè, hebben we, hebben we ideeën over hoe we richting een soort van veel intelligenter systeem zouden kunnen in het lab versus is dit ook uit te rollen naar een agent die een bedrijf zou kunnen inzetten zonder dat er allerlei problemen komen?
• 1:01:50
  Mhmm. Een van de fenomenen, dat heet online learning. Dat klinkt echt als: huh, hoe bedoel je [lacht] een, een, een online learning omgeven voor Neda- voor, voor Nederlandse kinderen?
• 1:01:59
  Nee, online learning is: nu zijn de modellen die waar wij mee interacteren zijn statisch. Die zijn al klaar. Je kunt ze door tunen, maar dan moet je ze openmaken en door tunen en dan weer online brengen, zeg maar.
• 1:02:12
  Maar online learning zou inhouden dat jij praat met Claude. Claude kijkt naar wat jij zegt, doet, uh, research en doet tool calls en gaat het web op en doet stukjes software schrijven.
• 1:02:24
  En de volgende dag als jij terugkomt, nee, terwijl jij praat, wordt Claude slimmer. Mmm. We gaan het, dus, want nu is het training runs, hè.
• 1:02:33
  Dus je hebt iedere keer, zeg maar, een met, ja, ik zeg even een doodstatisch model. Je krijgt iedere keer een nieuwe versie van een model wat op een gegeven moment gestopt is met trainen in de tijd.
• 1:02:41
  Wij zitten nu tegen een model te praten wat uit- Ligt een beetje aan wie. Voor mij is die van OpenAI knowledge cut off is een jaar geleden zelfs, hè. Dus ook nog van: in, in welke context ben jij gebakken? Ja.
• 1:02:51
  Hè, w-wie was de president? Ja. En wat is er gebeurd in het nieuws, zeg maar. Zonder dat jij het web op hoeft.
• 1:02:57
  Maar het zou natuurlijk interessant zijn dat als, uh, de x miljoen gebruikers, laten we even bij ChatGPT houden, de x miljoen gebruikers eigenlijk de hele dag live, online, real time input geven aan ChatGPT door hoe ze, en dat ChatGPT on demand real time aan het evalueren is tot een nieuwe AI.
• 1:03:16
  Sommige mensen denken dat ChatGPT zo werkt, absoluut niet.
• 1:03:19
  Wat ze kunnen doen is natuurlijk al die duimpjes naar beneden en omhoog, hè, en al die antwoordlogs die ze hebben geanonimiseerd, uh, teruggeven aan de volgende trainingsrun.
• 1:03:28
  Maar dan doe je toch iedere drie, zes tot een jaar, zeg maar. Het schijnt trouwens dat OpenAI al, dit is, was wel interessant, séante rumor deze week, is dat OpenAI al sinds GPT-4 geen nieuwe base model getraind heeft.
• 1:03:41
  Dus dat alles wat er tot nu toe gebeurd is, is trucjes eroverheen.
• 1:03:43
  Wat een beetje aansluit op jouw verhaal van: je kunt nog heel lang doen alsof je onderweg bent naar iets door onderweg heel de tijd trucjes te doen om het zo te laten lijken.
• 1:03:51
  Uh, OpenAI heeft blijkbaar niet meer een hele, Gemini-3 Pro van, van Google is een vanaf de grond af opnieuw getraind model. Daarom is hij ook zo spectaculair.
• 1:04:01
  Zo'n vanaf de grond af nieuwe run, hè, en heel nieuw brood bakken schijnt OpenAI al 1,5 jaar niet meer te hebben gedaan, want, want het lukte niet.
• 1:04:09
  Dat is best wel [lacht] op een gegeven moment loop je dan toch achter, hè. Dat voel je nu ook.
• 1:04:14
  Wat je uiteindelijk met dat online learning zou doen, en daar wordt allemaal oefeningen mee gedaan in labs, is een model wat als het ware vloeibaar is, wat, uh, onafgebakken blijft.
• 1:04:25
  Maar wat be-bedoel je hiermee te zeggen: het zou zomaar eens weer sneller kunnen gaan als, als hier een doorbraak in is? Wat ik hiermee wil zeggen is: dat is nog zo prematuur.
• 1:04:36
  Vloeibare modellen online laten leren terwijl ze in gesprek zijn. Ja.
• 1:04:40
  Sterker nog, de, uh, academici die ermee bezig zijn, die zeggen in interviews: we moesten het al snel weer uitzetten, want de gebruiker kan eigenlijk het model kapot maken. Ja, ja.
• 1:04:49
  Hè, en dan als we er duizenden mensen tegelijk mee laten praten, dan raa- zijn we 2 uur later ons model kwijt, want die is omge-omgevormd naar iets anders. Ja.
• 1:04:57
  Dus als we in het laboratorium nog deze fundamentele problemen hebben, dan gaat online learning niet gebeuren binnen 12 maanden. Ja, ja.
• 1:05:04
  Dus misschien was mijn punt: er zijn, en dat zal Ilya Sutskever op zijn manier denk ik wel mee eens zijn, hoop ik, er zijn genoeg gave nieuwe, uh, venues, nieuwe, uh, trapjes die we aan kunnen leggen richting dit, maar die zijn absoluut niet 12 tot 18 maanden ver weg.
• 1:05:21
  Die vereisen fundamenteel academisch onderzoek. Iets wat bijvoorbeeld een Ilya Sutskever binnen zijn lab aan het doen is en, uh, is niet even een tweak op het huidige paradigma. Dat vereist echt nieuwe uitvindingen. Ja.
• 1:05:33
  Mijn mening is dat ik denk dat je met ducttape en, en, en wat trucage tot een punt kunt komen, en volgens mij ben je het met me eens, dat je alsnog een enorme economische impact zal hebben.
• 1:05:44
  Terwijl de filosofen en de academici zich nog druk maken om de definitie van AGI, zijn er inmiddels wel binnen 5 tot 10 jaar, hè, of 3 tot 5 jaar misschien zelfs, heel wat mensen die de druk gaan voelen van deze nieuwe automatiseringsgolf.
• 1:05:58
  Hij zegt er nog één interessant ding over en dat is, uh, dat vaak wordt gezegd is dat, uh, diffusie altijd heel lang duurt.
• 1:06:03
  Dus diffusie is blijkbaar een begrip in de economie over de snelheid waarmee nieuwe technologieën ook daadwerkelijk gebruikt worden.
• 1:06:10
  Want uitvinden is één ding, maar er dan voor zorgen dat mensen het gaan gebruiken, dat duurt langer. En, en, en men zegt, er is een stroming van mensen die zegt: zelfs als die technologie allemaal zo snel vooruitgaat,
• 1:06:22
  en daar kun je vraagtekens bij zetten, dan, zelfs als dat het geval is, dan nog gaat het heel lang duren voordat het in de economie zit. Kijk maar naar alle voorgaande technische revoluties.
• 1:06:33
  Het is ook een beetje twerkation standpunt om eerlijk te zijn, die constant zegt: als je kijkt naar alle eerdere tech revoluties, het duurt gewoon nog wel even. Precies. Ondanks van wat er kan.
• 1:06:42
  Maar hij zegt hierbij: uhm, dat is ook weer niet iets om je op blind te staren.
• 1:06:47
  Want kijk, ma-maak in je hoofd de vergelijking: hoe lang duurt het dat als jij een geschooldeUhm, immigrant je land binnenlaat om bepaald werk over te nemen.
• 1:07:00
  Er is een bepaalde economische wens en dit is, dit gaat dan over kenniswerk.
• 1:07:04
  Hoe snel kun je immigranten aan het werk krijgen als zij bij, i-in je economie komen om je economie erop vooruit te laten gaan bij dingen waar je gebrek aan hebt? Dat zal vrij snel gaan.
• 1:07:15
  Dan moet je dus ook aannemen dat dat met AI-systemen zo snel minimaal zal gaan. Vond ik ook nog een, uh, grappige lens om door te kijken.
• 1:07:23
  En ik denk dus daarbij gezegd hebbende dat de lat die Dwarkesh dus legt, is dat wat hij ziet als AGI, 59% van het kenniswerk, lijkt op iemand die je binnen een organisatie brengt zonder goede onboarding, zonder goede handleiding.
• 1:07:37
  Die eigenlijk, z-, als een intelligent mens dat kan, door simpelweg goed op te letten, integreert en zichzelf onboardt in een organisatie. Dus zijn, dat is zijn lat voor AGI.
• 1:07:47
  Vo-- vind ik best een goede lat, hè, van: we gaan niet, uh, prompts moeten verzinnen. Nee, zoek het maar uit. Hier, je, in de, in het hol van de leeuw. Ga maar leren.
• 1:07:55
  En ik denk dus dat, daar zit dus ook dat leren en online leren in, hè. Dat moet dan werken. Je moet modellen hebben die kunnen bewegen in het moment en aanpassen en zichzelf kunnen aanpassen en zelf leren.
• 1:08:05
  Anders kan je niet komen tot zo'n, uh, fundamentele, uh, uitvinding waar, die eigenlijk een soort zelfdiffusie gaat doen. Dus ik denk dat, om er een beetje een knoop omheen te doen, de,
• 1:08:18
  mijn persoonlijke, uh, toevoeging aan, aan, hieraan zou zijn dat wat ik nu zie gebeuren met dingen als computer use en het aanklikken van dingen in Excel, hè, ook al is het fine-tuned computer use, om even terug te komen op wat jij eerder in het gesprek zei.
• 1:08:32
  Gecombineerd met videomodellen zoals Vio, waarin entiteiten gecreëerd worden die 26 talen spreken en gewoon tot jou spreken in een Teams-call misschien wel.
• 1:08:41
  Dat als je kijkt naar, als je nu real time Vio hebt, hè, dus Vio4 zou dan misschien Vio4 mini zijn of Vio4 supernano banana, whatever, hoe ze het gaan noemen.
• 1:08:51
  Die kan real time entities creëren die Nederlands spreken in een Teams-call of een, uh, Google Meet, die op de achtergrond een zwerm van computer use experts aansturen die rondklikken in software.
• 1:09:03
  Dat ik denk dat je al snel tot iets gaat komen waar je een mens eigenlijk niet meer voor hoeft te trainen om ermee te werken.
• 1:09:08
  En ik vind dat diffusieargument een beetje gevaarlijk, omdat ik denk: techdiffusie ging ook heel erg vaak traag, omdat je mensen helemaal moest onboarden, om het woord maar te blijven gebruiken, namelijk op trainen, mensen trainen om gebruik te maken van die nieuwe technologie.
• 1:09:24
  Ik doel, de reden dat de iPhone tot de dag van vandaag iPhone heet, terwijl het een zakcomputer is, wat al een rare term is, is omdat het de brug was van de telefoon naar de, naar de zakcomputer.
• 1:09:35
  Mensen wisten al wat telefoons waren en daardoor kon je ze een telefoon verkopen.
• 1:09:39
  Dus je kan van die bruggetjes gebruiken en oude metaforen, zeg maar, een soort, uhm, trucje eigenlijk om mensen, uh, makkelijker te kunnen onboarden in de volgende tijd of zo.
• 1:09:49
  En ik denk dat, uhm, als deze AI's zich kunnen tonen binnen Teams-calls en op de achtergrond kunnen run-, rondklikken in bestaande software, dat dat een techrevolutie is die mogelijk diffusie gaat doen op een ander tempo dan dat we voorheen gewend waren, omdat de remmende kracht van leren weg is.
• 1:10:08
  Nou luisteraar, u doet het er maar mee. Uh, wij danken Sam Hengeveld voor de edit en Pankra voor de vormgeving. Als je een lezing wil van dit orakel, dan kan dat. Mail ons op lezing@aireport.email.
• 1:10:17
  Je kan ook een lezing van mij krijgen, kan ook.
• 1:10:19
  En als je op de hoogte wil blijven van het laatste AI-nieuws of twee keer per week de laatste tips en tools wil ontvangen, zoals dat Typeless wat we deze week testen, dan kun je je abonneren op onze nieuwsbrief.
• 1:10:27
  Helemaal gratis via aireport.email. Wil je vandaag beginnen met AI binnen jouw bedrijf? Dan kun je naar deptagency.com/aireport en wij zijn er volgende week gewoon weer. AGI of niet. Tot dan. Tot dan.
• 1:10:43
  [muziek]