Latest / AI Report / GPT-6 Astra is er. Is dit AGI? + OpenAI lost 90 jaar oud wiskundeprobleem op

Transcript

GPT-6 Astra is er. Is dit AGI? + OpenAI lost 90 jaar oud wiskundeprobleem op · AI Report

• 0:00
  Samsung lanceert dit jaar drie foldables. De Flip8, de compacte klaptelefoon, de Fold8 met een compleet nieuwe form factor en de Z Fold8 Ultra, de grootste en krachtigste.
• 0:10
  Vandaag de AI-laag die Samsung op zijn nieuwe foldables heeft gezet. Om te beginnen Photo Assist, de foto-editor in de galerij.
• 0:17
  Je typt of zegt wat je aangepast wil hebben: een object weghalen, iets toevoegen, een achtergrond opvullen en de AI vult de foto aan.
• 0:25
  Op het opengevouwen binnenscherm kun je het origineel en de bewerking naast elkaar leggen. En het werkt in gewoon Nederlands, wat bij dit soort functies nog lang niet vanzelfsprekend is. En dan Semantic Search.
• 0:37
  Eindelijk alles op je telefoon vinden met natuurlijke taal, niet alleen met trefwoorden. Je pakketje dat onderweg is, je werkschema voor morgen. Die ene foto van dat etentje.
• 0:46
  Je vraagt het in gewone woorden en je krijgt één antwoord terug, dwars door je apps en meldingen heen. En Now Nudge gaat nog een stap verder, want die wacht niet totdat je iets vraagt.
• 0:55
  Hij kijkt mee met wat er op je scherm staat en biedt op dat moment aan wat je waarschijnlijk nodig hebt. Chat over een afspraak? Dan schuift je agenda ernaast open. Vraagt iemand om foto's van vorige week?
• 1:06
  Dan staan ze klaar om te delen. Dat meekijken klinkt misschien nogal intrusive, maar het gebeurt allemaal op de telefoon zelf. Je scherm wordt continu geanalyseerd, maar die analyse verlaat het toestel nooit.
• 1:20
  [muziek] Welkom bij AI Report, de grootste AI-podcast van Nederland, waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en de samenleving. Met deze week: GPT-6 Astra is uit.
• 1:33
  Voor iedereen met een betaald ChatGPT-abonnement, uh, kun je erbij. En OpenAI beweert dat we hiermee het tijdperk van AGI betreden.
• 1:41
  Datzelfde OpenAI claimt een voorheen onoplosbaar wiskundeprobleem te hebben opgelost met AI. En alsof dat nog niet juicy genoeg is, dan moet het bedrijf zich nu verdedigen tegen een beschuldiging van plagiaat.
• 1:54
  En een onderzoeker die bij OpenAI en Anthropic werkte, stapt op met een boodschap die enorm resoneert op dit moment in kranten en op tv: deze bedrijven gokken met ons leven. Dat en meer in AI Report.
• 2:14
  [muziek] Ik had deze week voor het eerst dat het me allemaal een beetje te veel wordt. De, de barrage aan, aan nieuws.
• 2:23
  Dus ik, zeg maar, ik ben gewend voor deze podcast dat we het nieuws bijhouden [lacht] en, uh, ik doe dat ook voor mijn lol, laten we wel wezen. Ik zit niet alleen maar de hele week over AI te lezen voor deze podcast.
• 2:34
  Ik vind het gewoon ook heel interessant. Maar ik, maar deze week, ik weet niet wat het is, maar het is, het is de combinatie van, uhm, de hele, de, hoe lang de Hugging Face OpenAI-hack door ettert.
• 2:47
  Dat is echt, dat is best bizar hoe lang dit nieuws aan het dooretteren is. In combinatie met steeds, uhm, uh, meer aandacht vanuit de politiek voor het onderwerp.
• 2:59
  En dus ook Bernie Sanders, die in Amerika een wetsvoorstel heeft gedaan om, uh, AI-bedrijven te dwingen op pauze te drukken. In Nederland zijn er Kamervragen nu voor het eerst gesteld daarover.
• 3:10
  Uh, in combinatie met gewoon al het geweld rondom Astra wat uitkomt.
• 3:15
  Dus mensen die gewoon vette shit maken en waarbij mijn hoofd elke keer gaat vliegen om te bedenken: oké, dit is heel vet, maar dat betekent ook XAI Z en dan raak ik ook weer in paniek. Ik weet niet.
• 3:27
  Ik heb nu pas, lang verhaal kort, [lacht] ik heb nu pas wat jij volgens mij al jaren hebt. Namelijk dat het gewoon gaat duizelen.
• 3:35
  Ik weet niet wat je hiermee moet, Wietse, maar ik, [lacht] Nee, ik laat je nou gewoon even praten. Dat is ook belangrijk. Uhm, nou ja, ik zou zeggen: [lacht] welcome to the club. Ja. Ik ben blij dat je er bent. Ja.
• 3:45
  Nee, ik, ik, uh, uh, ik heb het ook wel hoor, want kijk, ik denk dat we, we hebben een soort tech-tember, een soort klassieke technologiewereld die nu een beetje, nou ja, gewoon weer telefoontjes aan het releasen is en gewoon zoals vroeger, uh.
• 3:56
  Je bedoelt, uh, de klap iPhone? Ja, toen het allemaal nog zo eenvoudig [lacht]. Toen de wereld nog eenvoudig was. We hadden gewoon- Toen we naar, ja, jij wist gewoon in het cadans van het jaar.
• 4:03
  In september komen Apple en Google met nieuwe dingen. Dan heb je nieuwe telefoons en nieuwe features en iedereen is blij. En kijk, het kan nu dit. En dan met de kerst gaan we ze kopen.
• 4:12
  Ik heb hier jarenlang- Gaan we in de rij staan bij- Podcasts over gemaakt. Ja. Ja. Ja. Ja. En, en nu, uh, neemt dat dan, uh, dat, dat krijgt in mijn, in mijn attentie denk ik, uh, 3% ruimte.
• 4:21
  Ja, het is ook niet zo vrolijk meer. Nee, dit, het doet, doet niet zoveel voor me. Uhm, ik zit het echt een soort van cynisch met vrienden heen en weer te appen, zo van: heb je ook gezien?
• 4:28
  Ja, de, de, ik heb de samenvatting even. Ja, het is wel grappig, hè? Nou ja, oké. En dan ga je weer verder of zo. Dus, maar goed, er is wel tech-tember bezig, dus in september is het ieder jaar raak. Altijd al. Ja.
• 4:38
  Qua technologienieuws bedoel je? Ja, dus dat, dat creëert, dat is je eerste bowlingbal in je tas, zeg maar, van aandacht die jij moet dragen nu. Ja.
• 4:44
  Daarnaast de model releases, hè, dus gewoon de modellen van de verschillende labs. Die zijn steeds sneller aan het opvolgen. Dat is een beetje die versnelling waar we natuurlijk al een tijdje over praten. Ja.
• 4:53
  En dat betekent ook dat, ja, wij meer te bestre-bespreken hebben. Het is alsof wij met z'n tweeën naast een trein rennen die steeds wat harder gaat. Maar wij hebben gewoon een menselijke snelheid die we kunnen.
• 5:02
  Niet Usain Bolt. Ja. Het is gewoon wat wij kunnen. Ja. Hè, dus daarin zie je ons nu sowieso hijgen en puffen naast die trein. Niet uit medelijden, dit, hè, doen we zelf, maar dit is niet te doen.
• 5:11
  Dus, uh, dan ga je een beetje uitzoomen. Dat waren we al een beetje aan het proberen. Meer abstraheren, modellen samenvatten in clusters, want je kunt het niet meer. Gemini Flash 3.8. Dat werkt niet, zeg maar.
• 5:21
  [lacht] Dus, maar goed, dan, d-dus je hebt, zeg maar, de tech-tember onderstroom. Daar overheen heb je allerlei technologie dingen die kunnen.
• 5:29
  Daarnaast heb je de labs die intern met hun modellen, die soms twee keer zo ver zijn als de modellen die wij hebben, allemaal testjes aan het draaien zijn. Testjes die uit de hand lopen. Hugging Face hack. M-hm.
• 5:38
  Maar ook, uh, uh, ontdekkingen doen. Kijken, uh, even goed op het gaspedaal drukken van een nieuw model wat wij nog niet kunnen gebruiken.
• 5:44
  Oh, en by the way, die modellen ook gebruiken om die volgende modellen te ontwikkelen. Dus, dus. Ja.
• 5:49
  Dus ik, ik wil alleen maar zeggen: je hebt een soort samenkomst van, uh, september met allerlei versnellingen eromheen die allemaal op elkaar inwerken. M-hm.
• 5:58
  En ik denk dat die een soort Uh ja, dat rare uh momentum uh wat je krijgt dat dat vuur daadwerkelijk een beetje begint te branden nu.
• 6:07
  Het is zeg maar het uh slome begin van een vuur voorbij, is voor twee jongens die naast dat vuur zitten en een soort van als voetbalverslaggevers proberen dat een beetje. Het vuur is opeens ook achter ons.
• 6:18
  En uh, en het is echt intens. En dat maakt, dat misschien is wat er aan het gebeuren is op dit moment is dat het, dat het veel meer de begeestering van uh een veel groter publiek uh begint te vatten.
• 6:32
  Omdat, om allerlei redenen. Dus de, de, de, de, er komt de hele tijd nieuws uit wat iets met AI te maken heeft. Of mensen praten in de bus of in de trein erover. Of, ik denk dat het gewoon een onderwerp is wat opeens
• 6:44
  mensen nog veel meer dan een jaar geleden bezighoudt. En dat maakt ook dat het
• 6:49
  moeilijker wordt om te volgen, want daarmee wordt ook de uhm, de, de, de, de, de, hoe moet je dat nou zeggen, de gedetailleerdheid van ieder, ieder. AI is een veelomvattend onderwerp.
• 7:01
  Het gaat over heel veel verschillende dingen en in al die losse takken begint er nu een soort van verdieping en discussie plaats te vinden in het hele maatschappelijke debat.
• 7:10
  En dat maakt ook dat het steeds overweldigender wordt om te volgen. Kijk, vroeger kon je gewoon, was Twitter volgen al heel heftig en nu moet eigenlijk, ja, er is zoveel meer bijgekomen. Misschien dat dat het ook is.
• 7:20
  Dat ik mezelf, dat ik de hele tijd denk wij moeten dit, wij moeten dit helpen duiden. Ja, als een soort van uh, dat was onze missie toch of zo? En het wordt vrij onmogelijk.
• 7:30
  Ja, en ik denk dat, we hadden het eerder over de bliksem en de donder of de donder en de bliksem, hè.
• 7:34
  Dus de flits van de technologie en dan het effect van die technologie op de samenleving in de vorm van het geluid wat je pas na de bliksem hoort. Ja.
• 7:40
  Dat ik, ik heb een aantal mailtjes gehad en berichtjes van vrienden om me heen die zeiden van: oh, ik, ik hoor het al wel, hoor. Dit is een beetje het geluid wat ik hoor binnen mijn bedrijf. Ja. Die dan merken. Ja.
• 7:48
  En ik denk dat dat gerommel als het ware in de verte wel een beetje dichterbij aan het komen is. En hoe meer gerommel er straks hoorbaar is, hoe meer wij dat dan denken te moeten duiden.
• 7:57
  Ja, nou, laten we het hebben over het gerommel en al het nieuws van de afgelopen week. [muziek] Donderdag kwam OpenAI met GPT-6 Astra, zijn krachtigste model tot nu toe.
• 8:12
  En het zit gewoon in het goedkopere plus abonnement van €20 zonder extra kosten. En dat is de moeite waard om te noemen, want het is vaak zo dat de beste modellen tegenwoordig onderdeel zijn van de duurste abonnementen.
• 8:22
  En dit keer dus ook het goedkopere €20 abonnement. OpenAI-president Greg Brockman zegt dat we ons nu in het AGI-tijdperk bevinden, met AGI die zo slim is als een mens.
• 8:32
  En ook Nvidia-topman Jensen Huang zei woorden van die strekking, wat dat dan ook precies betekent. Maar de grootste stap zit, zit in iets wat in die discussie eigenlijk een beetje ondersneeuwt.
• 8:43
  Astra kan namelijk heel goed een computer bedienen zoals jij dat doet.
• 8:46
  Hij kan niet alleen formulieren invullen, klantgegevens bijwerken in een systeem dat je bedrijf in 2011 kocht, maar ook afspraken bij een gemeente regelen.
• 8:54
  Dus heel aardse zaken, maar ook zeer complexe 3D-ontwerp programma's bedienen. Dat betekent veel. Daar gaan we het straks uitgebreider over hebben.
• 9:03
  Dinsdag claimde OpenAI dat een intern model, een van de zeven Millennium Prize-problemen heeft opgelost. Dat zijn wiskundepuzzels waar een prijzengeld van $1 miljoen op staat.
• 9:12
  Het gaat om de, en dan hoop ik dat ik het goed uitspreek, Navier-Stokes vergelijkingen, die beschrijven hoe vloeistoffen en gassen bewegen.
• 9:20
  Weersvoorspellers en vliegtuigontwerpers leunen er al heel lang op, maar al negentig jaar zit er één gat in dat wiskundige probleem en dat is nu dus opgelost. Wetenschappers reageren verdeeld op dit nieuws.
• 9:32
  Waar de één de vooruitgang van AI-systemen viert voor de, voor de wetenschap, is een ander teleurgesteld omdat het idee van de Millennium Prize-problemen juist was om een punt op de horizon te zetten van menselijke intelligentie.
• 9:45
  Om te zien hoe ver wij zouden komen. En het levert dus ook wat dat betreft teleurstelling op. Dan de ontslagbrief van de week. Zeven tweets, bijna 100 miljoen keer gelezen.
• 9:56
  Jacob Coxen werkte drie jaar aan de training van AI-modellen. Eerst bij OpenAI en daarna bij Anthropic. En dinsdagnacht nam hij ontslag.
• 10:04
  Geen van beide bedrijven handelt op dit moment verantwoord bij het trainen van AI, schrijft hij. Ze racen recht op zelfverbeterende superintelligentie af en gokken daarmee met ons leven.
• 10:15
  Coxen kreeg direct, uh, bijval van, van binnenuit Anthropic. Bijvoorbeeld het hoofd Veiligheidsonderzoek. En opvallend is dat Coxen eerst heeft gesproken met conservatieve nieuwsmedia Wall Street Journal en Fox News.
• 10:27
  Het lijkt er dus op alsof hij goed heeft nagedacht welke politieke stromingen hij wil beïnvloeden. En tot slot toch ook nog even wat goed nieuws uit de wetenschap, Wytse.
• 10:36
  Google DeepMind publiceerde dinsdag Alpha Genome Atlas en deze ontdekking versnelt niet alleen één specifieke tak van wetenschappelijk onderzoek, maar eigenlijk ook het zoekwerk aan het begin van elk onderzoek naar erfelijke ziektes.
• 10:50
  Want daar gaat dit over. Het werkt ongeveer zo: je DNA is te lezen als een tekst van 3 miljard letters.
• 10:55
  De atlas voorspelt voor elk van de 9 miljard manieren waarop één letter kan veranderen, wat dat vervolgens met je lichaam doet.
• 11:02
  Tot nu toe moesten onderzoekers per variant uitzoeken of die onschuldig is of een ziekte veroorzaakt. En nu kunnen ze de hele lijst gaan rangschikken op waarschijnlijke impact.
• 11:10
  De dataset is een petabyte groot en gratis beschikbaar voor niet-commercieel gebruik. En daarmee ligt hij in het verlengde van AlphaFold, wat in 2024 een Nobelprijs opleverde.
• 11:23
  [muziek] Oké, deze week gebeuren er dus drie dingen die je los van elkaar kunt lezen, maar die wij samen gaan rapen, Wytse. Uh, we lopen ze langs. Laten we beginnen met wat Astra kan.
• 11:34
  Uh, dan wat dit soort, uh, hypermoderne AI maakt en dan vervolgens wat eronder ligt. Laten we beginnen bij wat het kan. Om het even simpel te houden. Astra uit sinds, uh, een week geleden nu.
• 11:46
  Uh, ja, uh, iedereen die Codex gebruikt, uh, uh, heeft nu kunnen ervaren hoe het is om een zoveel beter model te gebruiken. Wat is jouw eigen ervaring bij Astra versus, uh, eerdere modellen van OpenAI?
• 12:02
  Verschilt het heel erg van het nieuwste model van Anthropic Fable 5.1? Wat is de ervaring? Nou in, in wat ik doe. Dus dat is nog steeds, nou ja, software laten ontwikkelen, laat ik het dan zo noemen.
• 12:12
  Ja, je noemt jezelf geen softwareontwikkelaar meer, begrijp ik. Iets van een soort architect dan, denk ik. Probeer ik samen met. Aren't we all.
• 12:19
  Ja, en ik denk dat ik, uh, kijk, ik kon op een gegeven moment wisselen naar, uh, het nieuwere model en dan ga ik eigenlijk daar dus projecten die nog openstaan.
• 12:27
  Dus ik heb wat oude projecten die sommigen zijn wel acht jaar oud of tien jaar oud. Ja. Dan zeg ik altijd: nou, kijk maar wat er niet goed gaat qua beveiliging. Help! Dit is hoe jij prompt. [lacht] Ja.
• 12:37
  En dan zet ik hem even in plan mode, dus dan gaat hij. Maar beveiliging vraag je om.
• 12:42
  Allereerst, iedere keer als er een nieuw model uitkomt, ga ik al mijn software langs waar ik ooit aan meegewerkt heb, uh, of wat nu inmiddels open source is.
• 12:49
  En dan vraag ik dat omdat ik gewoon, uh, denk nou, dit klinkt heel cheesy, maar als iedereen dat nou zou doen, dan dragen we met z'n allen een beetje bij aan een soort van hardening van al die software.
• 12:58
  Dus, en nu vond hij inderdaad wat nieuwe dingetjes. Niet super heftig of zo, maar wel die zei van: nou, ik zie in de, uh, commit log dat ik hier eerder aan gewerkt heb. [lacht] Mijn excuses. En toen was.
• 13:08
  Het was niet zo fraai. Nee, ik was toen nog niet waar ik nu ben. Ja. Dus nu ik meer weet, zou ik dat nog even anders hebben gedaan. Maar niks spectaculairs daar. Uhm, wel en dat overall, zeg maar in de algemeenheid
• 13:21
  op: maak iets visueel in een iPhone app of een dashboardje of zo. Net even dat ik wat minder hoef bij te sturen, uhm, langer doorgaan. Het is allemaal niet zo, voor mij, in mijn werk is het tien, vijftien procent beter.
• 13:33
  Doe ik even nattevingerwerk. Oké. Maar dat was op sommige plekken wel even die tien, vijftien procent, waardoor ik niet iedere keer weer bij hoef te sturen of, uh, door hoef te gaan.
• 13:42
  Ik had, uh, een van de benchmarks tussen aanhalingstekens die ik zelf doe, is gewoon: uh, maak een complete homepage voor AI report. Stel dat we iets van een nieuwsplatform daarop zouden gaan hebben.
• 13:53
  Dat was iedere keer een beetje sloppy. Dat ik gewoon dacht van: ja, allemaal cursieve dingetjes erop. Het allemaal van die takeaways. Qua design bedoel je?
• 14:00
  Ja, een beetje, maar ook inhoud, dat ik dacht: dit zou, als je ons een beetje kent, is dit niet de juiste prioriteit. Dit is niet wat wij maken. Het weet de toon beter te raken in, in vorm.
• 14:10
  Dus nu had ik gezegd van: ik wil dat je een, een design system maakt. Ik wil dat je naar AI report punt nl gaat zoals hij er nu staat en een beetje gaat kijken wat wij doen, uh, en je mag de tijd nemen. Goal.
• 14:20
  Nou, toen was hij 48 minuten bezig en toen kwam hij terug met een homepage. Dacht ik: wow, je bent met copy bezig geweest. Tone of voice. Je hebt de masterclasses naar voren gehaald.
• 14:30
  Ik had het allemaal, want mijn ding is een beetje altijd lui prompten. Precies wat ik net tegen je zei: help, of zo. Dat soort dingen.
• 14:37
  Omdat ik, wat ik vroeger deed, vroeger in AI-tijd, als in zes tot twaalf maanden geleden, is dat ik heel erg opinionated met mijn mening erbij zei: je moet dat gebruiken en je moet daarheen en al dat soort dingen.
• 14:48
  En nu zeg je gewoon: help. [lacht] Nou ja, omdat ik ook wil, dat is de benchmark. Ik wil kijken. Ja, ja, ja. Als ik het niet zie. Hoe ver komt hij in zijn eentje? Ja, eens kijken wat hij dan, uh.
• 14:56
  En dat wordt merkbaar, iedere keer beter.
• 14:57
  Ja, dus laat ik het zo zeggen, inderdaad, misschien mooi samengevat: als ik, uh, steeds minder van mijn, uh, Wietse dingetjes meegeef waar ik eigenlijk al van weet: jij moet straks linksaf gaan slaan daar, want daar ligt de pot met goud, dan vindt hij dat zelf.
• 15:10
  En dat merk je nu gewoon in iedere, uh, release.
• 15:13
  Op Twitter ging het heel veel over, uhm, computers die zichzelf bedienen, uh, door Astra, uhm, en OS World is een benchmark waarbij een taalmodel echte software moet bedienen en die dan benchmarkt hoe goed hij daar is.
• 15:30
  Uh, Astra haalde bijna 73% in 40 minuten per taak. De vorige, de vorige versie deed 66% in 75 minuten. Oftewel hij is sneller geworden en hij is betrouwbaarder geworden in het werken op een computer. Dat is de benchmark.
• 15:44
  Maar het echte enthousiasme zit hem, denk ik, in de voorbeelden die het vervolgens oplevert.
• 15:48
  En wa-wat ik daarvan meekreeg, waren mensen die bijvoorbeeld vroegen aan, uhm, een AI, uh, tool om andere programma's te gebruiken en daarmee output te genereren, zoals: iemand heeft een plattegrond van een huis.
• 16:05
  Die voert hij aan Astra, zegt vervolgens: hier heb je Blender, een 3D, uh, tekenpakket wat alleen maar door pro's gebruikt wordt normaal gesproken, is fucking ingewikkeld om te gebruiken, en dat ding ging dat huis bouwen in Blender om dan vervolgens daar een 3D-weergave van dat huis te maken.
• 16:24
  Perfect fotorealistisch gegenereerde videoslob, uh, zou ik het even, zou ik het even noemen, maar bijzonder indrukwekkend op basis van een plattegrond.
• 16:33
  Een ander voorbeeld was een AI, uh, Astra, die, uh, videobewerkingssoftware zelf gebruikt.
• 16:40
  Dus dan, ik zat te kijken naar een filmpje van mensen die, uh, een, uh, die dat ding de opdracht gaven om, uh, te editen terwijl zij zelf editors waren.
• 16:48
  En zij geven dan als het ware, a-, in audio vi-, zeg maar commentaar op wat ze die AI zien doen. Ze zien in real time hoe die mapjes maakt en dingen opzij zet op een manier waar ze.
• 16:59
  Het is alsof je een muis aan een ander heeft. Het is alsof je een muis aan een an-- die gewoon jouw werk aan het doen zijn en je ziet, ik, tenminste, ik hoorde daar, [lacht] daar kwam emotie bij, zeg maar.
• 17:07
  Misschien, misschien kan ik wel aanvullen, want jij vroeg net aan mij best wel specifiek: hoe is het dan voor jou in, ik begin over tien, vijftien procent. En dat klinkt dan een soort lafjes lineair.
• 17:16
  Lineair is nog steeds spectaculair, maar niet. Ik heb, uhm, eerder gehad, uh, bij, uh, VIO,
• 17:24
  videomodel van Google destijds of nee, ik moet, het was Sora trouwens, wat voor mij de reden was om naar buiten een stukje te gaan lopen omdat ik die videomodellen toen zag en dacht: ja, maar wacht even, hier gebeuren nu een aantal dingen en dan zie je een soort van twinkeling of inklings van: ja, maar nu, nu, als je dit kan schalen, uh, dan hebben we een andere wereld straks.
• 17:43
  Even heel, heel kort gezegd. Dit Astra ding, het model, is de eerste keer dat ik weer dat gevoel, een mix van misselijkheid, uh, een soort, soort, uh, ja, nausea zeggen de, zeg je het Engels mooier.
• 17:57
  Soort van subtiele misselijkheid in mijn buik voelde. Weer. Dat is Astra geweest. T-tussendoor is dat eigenlijk niet gebeurd. Maar waarom? Omdat, uhm, ik gewoon merk dat ik Als ik zie wat, wat het doet en ik
• 18:13
  word er nu niet emotioneel van. Alexander denkt daar gaat hij weer, hoor. [schraapt keel] Het is, het is. Ik kan me nog best wel goed inleven in wat het kon een jaar geleden en een jaar daarvoor.
• 18:28
  Ik weet nog hoe ik toen achter mijn computer zat in ChatGPT trouwens heen en weer te plakken. Er was helemaal geen Codex en toen moest het naar Visual Studio Code, viel het de hele tijd uit elkaar.
• 18:36
  Zijn we allemaal alweer gewend, we als mensen. Onderdrukte die emotie in je buik. Ja, want het was nee, maar het was. Want het werkte gewoon niet goed. Nee, en het viel altijd uit elkaar.
• 18:44
  En dan kon je, je kon iedere keer weer je berusten in het feit van dat je dacht van: oh, oh, oh, oh, oh, ik ben weer rustig, want het valt weer uit elkaar. Het valt weer uit elkaar.
• 18:52
  Daar zitten we, die spike intelligence, daar zit het gat, daar zit het gat en je merkt gewoon dat, ik merk gewoon, uh, dat ik merk maar wacht even.
• 19:01
  Ik zat het filmpje te kijken van Lee Sedol die destijds, uh, verloor van, uh, uh, het is het AlphaGo in het spel Go. Wereldkampioen Go. Die zegt dan: move thirtyseven.
• 19:12
  Dat is de move die werd gemaakt door AlphaGo, waarin hij zei: ik dacht dat het een computer was die gebruik maakte van statistiek, maar blijkbaar is het creatief. Ja. M-hm.
• 19:22
  We gaan straks hebben over wiskundigen die nu hun eigen Lee Sedol-moment hebben op dit moment. Die parkeren we nog even.
• 19:27
  Ja, je bent nu in de derde zijtak beland, maar jij werd misselijk van, van, van het zien van Astra en waarom? Ja, dat is, dat is gewoon een, een, uh, ja, een soort spidey sense zeg maar wat Spiderman heeft.
• 19:40
  Je voelt van, maar die misselijkheid is een soort van: oh jeetje, het is gewoon echt, dit is gewoon echt aan het gebeuren. Ja. En voor waar, ik ben geen wiskundige. Maar maak dit eens iets concreter.
• 19:54
  Dit is echt aan het gebeuren. Wat bedoel je? Nou, ik denk dat iemand die, uh, CAD-tekeningen maakt, dus 3D tekeningen in Blender of welke Autodesk tool dan ook. Ja.
• 20:03
  Uh, ik heb deze, uh, video's, uh, van, uh, Astra die computers gebruikt en Fable trouwens ook en daar rondklikt in 3D-software en complete bouwtekeningen maakt en objecten tekent, et cetera.
• 20:14
  Maar blijft gaan, maar blijft gaan tot in detail plaatjes kan namaken. Noem allemaal maar op wat niet ging twee maanden geleden en nu wel gaat. M-hm.
• 20:21
  Mensen in die wereld die zelf technisch tekenen in die software, die kunnen niet anders dan ook die buikpijn/misselijkheid voelen nu. Ja. Want het is, uh,
• 20:30
  je, weet je, laatste metafoor, niet voor vandaag, maar binnen deze stapeling van, van metaforen.
• 20:36
  Als jij al twintig jaar lang met een klein veldje uit hout complete stoelen aan het maken bent met de mooiste details erin en die je daarna verkoopt.
• 20:45
  En, uh, Alexander en Wytse die rijden een CNC-machine naar binnen [maakt zaaggeluiden] en die hele stoel staat daar. En als je er naar toe loopt denk je ook nog: hij heeft de nerf van het hout gevolgd. Ja.
• 20:55
  Wat krijgen we nou? Ja. Dat kan niet anders dan iets doen met je van, het is iets existentieels. Ja. Voor jou heel egoïstisch. Hé, dit ben ik toch? Ja. En dan dat je denkt: maar wacht even, dit gaat voor ons allemaal.
• 21:06
  En ik weet dat we hierin een soort van herhaling vatten, maar ik wil toch even aan de luisteraar zeggen: jij en ik, Alexander en ik hebben tot nu toe grotendeels op scenario's gereageerd.
• 21:15
  Ja, omdat wij- Niet op de wereld. Ja, precies. De reden waarom dat die, uh, buik, die buikpijn onderdrukt wordt, is omdat het zo vaak fout gaat.
• 21:22
  En als je dan eventjes stil gaat zitten en gaat denken: maar waarschijnlijk gaat dit steeds beter worden, dan krijg je alsnog buikpijn.
• 21:29
  Maar in ieder geval niet op basis van het scher, het, wat je op je scherm ziet gebeuren. En ik denk wat een, het een, wat, dit, dit is een heel, uhm, ik denk dat dit een heel fundamenteel ding is.
• 21:40
  Dus bijvoorbeeld computer use laat, wat mijn ervaring is aan computer use laten zien in zalen, is dat het eigenlijk, uh, niet zoveel indruk maakt op mensen.
• 21:49
  Dus bijvoorbeeld, ik laat dan aan mensen zien hoe een computer, uhm, uh, bijvoorbeeld geautomatiseerd, uh, sollicitatiegesprek, sollicitatiegesprekken inplant, eigenlijk gaat solliciteren voor je.
• 22:00
  En dan zitten mensen daarnaar te kijken en, en je ziet ze denken: ja, grappig, maar het gaat heel langzaam en, uh, ik vind het er best wel ingewikkeld uitzien. Ik kan het toch ook zelf doen?
• 22:11
  Wat is nou, ik bedoel, ik doe het sneller zelf. Wat is hier nou precies de, de vooruitgang?
• 22:16
  En dat, de, ik vind dat grappig, want als je dan, uh, denkt, zeg maar, ik denk dan: ja, maar dit gaat heel snel zijn en dan is het sneller dan jij en dit gaat heel nauwkeurig zijn.
• 22:29
  Het gaat nauwkeuriger zijn dan jij en het gaat, uh, rekening houden met veel meer elementen tegelijkertijd bij het solliciteren dan dat jij ooit in je hoofd kan houden. Dus
• 22:40
  wordt hier nou een soort van, d-, ja, ik heb soms de neiging om mensen bij hun lurven te grijpen en te zeggen: doet dit je nou niks? M-hm. Heel herkenbaar volgens mij.
• 22:48
  Wat wij dan allebei op onze manier staan te doen is een soort van, uh, ik weet wat dat Neil deGrasse Tyson een keer zei van over de ontdekking van een planeet of zo, dat hij zei dat hij de straat op wilde rennen en iedereen wilde beetpakken en zei: heb je dit gezien?
• 22:59
  Ja. Weet je wel, nou, dat urgentieding.
• 23:01
  Uh, ik ben daar dan een beetje trucjes voor aan het ontwikkelen het laatste 1,5 jaar, omdat ik merk, ik voel me dan ook een beetje lame dat ik daar iets sta te presenteren en denk: nou nu, nu gaat iedereen me aankijken met: we got you, hè.
• 23:13
  Ja. Ik bedoel, en ik moet zeggen. En dat gebeurt dan niet. Dat gebeurt niet. Wat is je truc dan?
• 23:17
  Nou, ik, ik, om, ik laat dan een soort tijdsverdichting zien, hè, dus waar wij het in de eerste, begin van de aflevering over hebben is dat gevoel van naast die trein rennen.
• 23:24
  Dat ik denk: hoe kan ik nou visueel in een soort bijna semi cabaret daar met de mensen mee?
• 23:31
  Hè, dus ik heb dan, uh, een cirkel die ik laat zien van humans in the loop met een dingetje die heel langzaam draait, waar die steeds gecontroleerd moet worden door een mens.
• 23:37
  En dan gaat er twee loopjes naast elkaar draaien en vier loopjes naast elkaar draaien en dan sneller draaien, sneller draaien en computer use. Eerst computer use op de snelheid zoals die was.
• 23:45
  Dus dat muiscursortje gaat heen en weer. Heel langzaam, alsof je verf ziet drogen. Ja, niet normaal. En dan gaat het muiscursus sneller heen en weer. Want het is nu sneller aan het gaan.
• 23:52
  Uh, Astra is vooruitgegaan in de snelheid om een taak te doen. Laat ik het even zo zeggen. Even een shortcut voor de luisteraar die denkt: tjonge, jonge, jonge, jongen. Ja.
• 23:59
  Als je nu ChatGPT Plus hebt of iemand kent, ga er even naast zitten. Installeer de ChatGPT desktop app, zet hem op voicemode. Ja, dan krijg je een stem.
• 24:06
  Zeg je: oh, klinkt nog steeds een Amerikaanse Nederlander, laat dat even gaan. Oké, dat is gewoon trainingsdata die ze nog niet hebben ingevoerd. En dan zeg je: hé, neem even mijn computer over man.
• 24:15
  Ja, oké, open even Word. Oké, we gaan samen even schrijven. Ik wil dat je tegelijkertijd ook even onderzoek gaat doen op internet. Laat met je stem je computer besturen en voel hem alsjeblieft even.
• 24:26
  Voel even wat er gebeurt. Want ja, dit kon al. En ja, dat deden we toch een half jaar geleden al. Ja, maar door die sneaky iteraties die hierop gedaan zijn.
• 24:35
  De voice mode is gewoon echt twee keer zo goed als drie maanden geleden en de snelheid van die muiscursor is ongeveer vier keer zo snel.
• 24:41
  En je komt, zoals we dat altijd bespreken, op een gegeven moment kan die auto zelf rijden, hè. Nou en.
• 24:46
  Plus, wat wij nu in, in de ChatGPT desktop app hebben is niet een representatie van de werkelijke technische kracht die ook beschikbaar is. Want als je zoiets via API's gebruikt. Ja, veel sneller nog.
• 24:59
  Sterker nog, daar kan je betalen om het nog sneller te maken. En als je daar kijkt in de demo's, die kun je gewoon vinden op het OpenAI kanaal trouwens van de OpenAI developers.
• 25:07
  Daar zie je mensen presentaties in elkaar zetten, real time, dus niet versneld, waar dat ding terwijl jij je zin nog aan het uitspreken bent, de volgende tab al open heeft staan en je slides begint te vullen terwijl die deep research doet op de achtergrond.
• 25:19
  Maar dit is dus een heel, ik vind dit dus een heel interessant inzicht dat als je een, als je computer use met AutoCAD laat zien in een zaal met mensen die, uh, AutoCAD gebruiken voor hun werk omdat zij gebouwen, uh, maken bijvoorbeeld, dan is de computer use zoals we dat, uh, nu kennen niet indrukwekkend omdat het niet sneller gaat dan hun eigen werk.
• 25:40
  Wij denken dan: o, maar dit gaat sneller worden, maar, maar mensen maken die stap niet in hun hoofd. Het zal eens niet te maken- Als je dan laat zien dat het wel heel snel gaat, dan opeens.
• 25:51
  Letterlijk door de video te versnellen. Door die te versnellen. [lacht] Ja, goed, je kan. Soms moet je dat doen.
• 25:56
  Je kan gewoon beta- extra betalen aan zo'n model om versneld computer use te gebruiken en dan kun je het laten zien hoe het in werkelijkheid eruit ziet. En dan opeens doet het wel wat met mensen.
• 26:05
  Dan is het opeens een computer die zo snel erdoorheen klikt dat je denkt: o, hij, hij kan, hij kan letterlijk al dat werk doen, maar dan sneller. En dan valt het kwartje pas.
• 26:16
  En ik, ik, ergens zit hier een les voor ons ook in. Of weet ik veel, voor ons als samenleving in, in we moeten het, het is bijna alsof je het moet zien voordat je het gelooft. Misschien één voorbeeld.
• 26:29
  Het is niet genoeg om in scenario's te denken. Absoluut. En ik denk dat, uh, het is bijna gevaarlijk om alleen maar in een soort abstracte scenario's te denken. Kijk, uhm, je hebt allemaal TPU's.
• 26:38
  Dat zijn die chips die veel sneller AI kunnen. Die worden gebouwd door een aantal bedrijven. Daar draait ver-, onder andere Whisper op. Oftewel: je hoort iets en hij maakt er tekst van.
• 26:45
  Transcriberen kennen we allemaal, maar sommige mensen van ons hebben een plot of een device of whatever. Ik spreek iets uit, het komt als tekst op beeld. Ja. Dat probleem is inmiddels opgelost. Ja.
• 26:54
  Ook niet zo, hè, is inmiddels opgelost. Ja. En voor heel veel iPhone gebruikers denken: werkt nog steeds voor geen meter. Ander verhaal. Het is opgelost als jullie ervoor wil betalen. Ja. Uhm,
• 27:05
  het is in zoverre opgelost dat die modellen, wat uiteindelijk ook gewoon token voorspellers zijn, die kunnen draaien op dezelfde chips.
• 27:11
  Je kunt Whisper, oftewel geluid naar tekst, ook draaien op zo'n Cerebras superchip of een Groq met een Q superchip. Wat bedoel ik? Je pakt een podcast van een uur.
• 27:21
  Die stuur je op naar die service en vier seconden later komt daar tekst terug. Dit was een jaar geleden niet, uh, te doen. Dit moest, dat duurde echt minuten.
• 27:31
  Of, of, uh, weet je, ik, ik kan me nog herinneren dat een podcast transci-transcriberen gewoon vrolijk een half uur duurde. Ja, dat, dat. Dat is niet heel lang geleden. Dat is niet heel lang geleden.
• 27:39
  En nu is het bijna real time. Nou, en als je, nou, het is voorbij real time, want eigenlijk, hè, je hebt. Ja, [lacht] het is ver, ver voorbij real time. Ja, goed. Jij zat, jij zat op een keer twee net met je half uur.
• 27:48
  Ja. Waar ik over praat is keer 100. Ja, ja. En dan. Dat is gewoon gebeurd. Ja, en luister even mee. Op het moment dat ze dus de podcast opsturen naar zo'n service, dan hoort hij dit. [imiteert geluid] done. Ja, ja.
• 27:59
  Wat heb je zojuist gedaan? Ik heb hem helemaal geluisterd. Ja. En dan zeg je: ja, maar die transcripten die je er nu uithaalt, vind ik niet helemaal ap-on par. Ik wil dat je eigenlijk alle podcasts luistert.
• 28:07
  [imiteert geluid] done. [lacht] Want je kunt ze parallel aan elkaar draaien. Dit is super paralleliseerbaar, paralleliseerbaar, enkel dat ik het uitspreek, proces. Ja.
• 28:16
  Dus ik denk dat we, los van die hele, uh, AGI super intelligence discussie, vergeet alsjeblieft speedy intelligence niet, daar gaat het echt te weinig over. Mensen hebben het over mensachtige technologie.
• 28:27
  De snelheid waarmee dit sneller is geworden. Ja, dus, dus, want, dus, uh, uh, m-in de media, jij en ik praten vooral over straks is het zo slim als de meeste mensen en straks is het slimmer.
• 28:38
  Dus general intelligence versus super intelligence. Maar speedy intelligence en paralleliseerbare intelligentie. Is ook al heel, heel waard. Ja. Man. En ik denk dus daarin dat, uh.
• 28:48
  Daar hoef je niet over AGI definitie discussies voor te voeren om te, om te snappen dat dat wezenlijk is. Ja, laat dat het dan alleen zijn. Ja. Even los van alle dingen. En ik denk nu,
• 28:59
  ik vind het wel interessant wat jij zegt met die kattekeningen, want ik laat die demo's vaak als ik op plekken ben waar veel tekenaars zijn, zeg maar, laat ik die ook zien.
• 29:06
  Natuurlijk, om, niet omdat van: haha, absoluut niet, maar hallo, wakker worden. Mhmm. En wat interessant is, en ik denk dat jij en ik dit allebei hebben als het gaat om: ja, maar zie je het niet dan?
• 29:16
  Is dat ik nu, uh, mooi voorbeeld, uh, toen, uh, rondom Astra en Fabel, allebei de bedrijven Anthropic en OpenAI, wilden ook laten zien dat het goed PCB's kan ontwerpen, uh, printed circuit boards, oftewel de kaarten, de, de groene platen die in jouw oude radio zitten met solderen erop en componenten, die dingen, ja.
• 29:36
  Uhm, dat ontwerpen van zo'n plaat waarop je al die chips combineert op een, op één plaat en met meerdere lagen is een complex iets. Dat is een type, een soort doolhof, uh, keer 10.
• 29:47
  Uh, zo'n doolhof probleem van welke componenten gaan waar en welke draden gaan dan door elkaar heen en kruisen en zo, is een typisch, uh, ding, dat heet routing, wat mee, waar mensen een kunst van hebben gemaakt.
• 29:57
  Als jij nu, Alexander Klöpping, een, uh, klein, uh, Whisper apparaatje wil maken voor achterop je telefoon met lokale AI. Je zegt: ik laat het ontwikkelen en uitprinten op een, uh, circuit board ergens in Korea.
• 30:08
  Dan ga jij nu nog naar een router gaan, een mens, uh, dat je zegt: wil jij hem, ik heb hem in een prototype nu op tafel liggen met allemaal draadjes.
• 30:15
  Kan jij die dan samenvouwen tot een soort supergoed doolhof puzzeltje dat ie past in een heel klein objectje?
• 30:22
  En dan had je wel autorouting tools al een aantal jaar, maar die konden het abs-, kunnen en konden het absoluut niet zo goed als een mens.
• 30:28
  Dus wat, uh, zeggen veel mensen uit die community Ik probeer het met GPT vijf zes. Ik probeer het met Fabel. Kansloos. Komen kansloze dingen uit. Echt gewoon hele matige routing.
• 30:39
  Een soort snelweg infrastructuur getekend op een plaat. Nu met Fabel vijf, één en Astra gaat het langzaam beter. Maar ik heb een vriend van mij, die zit een beetje in die community.
• 30:50
  Die zei: Ik heb het laten zien aan mensen hier die dit al jaren doen en die lachen er nog steeds om. Ja, niet onder de indruk. Ja, jullie met je AGI. Jullie dan? Wat nu een beetje rondgaat vanuit de labs.
• 31:01
  Het kan nog niet eens een radiotje ontwerpen. Maar kappen nou. Terwijl ik kijk ernaar. Ik zie het commentaar daarop en ik denk dit is exact hetzelfde commentaar als op de eerdere tekst modellen. Dit is hetzelfde.
• 31:13
  Dit is hetzelfde patroon. Wat bedoel ik te zeggen? Er wordt een tekst geschreven en mensen met verstand van wat is het proza? Die kijken naar die tekst en die zeggen. Wat lelijk, wat lelijk.
• 31:25
  Ik wil niet zeggen dat dit opgelost is trouwens, maar laten we eerlijk zijn GPT 3.5. De Volkskrant heeft het niet door als ze opiniestukken publiceren in de helft van de gevallen. Punt toch klaar.
• 31:34
  En dat, dat betekent dus dat al die
• 31:38
  zesde vinger dingetjes of Will Smith spaghetti achtige aanwijzingen van ik zie dit en ik zie dat en ik zie daar een gat en ik zie daar een gat zijn voor die andere modaliteiten tekst en beeld aan het vervagen.
• 31:49
  Ja, misschien is voor video nog een betere metafoor, want video was echt gewoon heel helder dat het. Dat het super sloppie. Heel lelijk was. En het is gewoon niet van echt meer te onderscheiden. De de nieuwe.
• 32:00
  Wordt ook vol ingezet door studio's inmiddels. Het zit gewoon. Het zit in je series man. Het is gewoon CGI, maar dan AI CGI. Daar zijn we al lang.
• 32:08
  Dus daar zie je eigenlijk als het ware die giveaways, die die hints van AI zie je verdampen in de zon.
• 32:15
  Dus op het moment dat ik een groep mensen heb in een community die printplaten ontwerpen en tegen mij zeggen ik lach erom, want ik zie deze dingen nog.
• 32:23
  Ik denk dan ja, ik zie jullie uitdaging, jullie puzzel gewoon niet als een andere puzzel.
• 32:28
  Sterker nog, ik denk eigenlijk dat zowel OpenAI als Antropische zeer weinig ontwerp printplaatontwerpen hebben meegenomen in hun trainingsset.
• 32:38
  Het feit dat het nu al zo ver komt in die printplaat zou jou juist zenuwachtig moeten maken, want ze hebben eigenlijk een tekst schrijf model op laten groeien. Die ook.
• 32:46
  Ga ik wel even printplaten tekenen is een is een letterlijk wonder dat het lukt. Wacht maar tot ze wel printplaat data gaan meetrainen.
• 32:53
  Ja, je zegt eigenlijk het is moeilijk voor ons om te bevatten wat generaliseerbare technologie eigenlijk betekent. Dat is. Dat is gewoon heel moeilijk aan deze tijd om om te om te begrijpen.
• 33:02
  Want je ziet aan de ene kant AI die iets heel lelijks maakt en denkt dan hoe is dit? Hoe, hoe? Hoe is het mogelijk dat het iets beters gaat worden en dat dan een ander ding wat gewoon is opgelost, namelijk video.
• 33:13
  Dat het daar gebeurd is en dat het dus hier ook gaat gebeuren is gewoon lastig om te bevatten.
• 33:17
  En ik denk dat veel mensen ook denken ja, kan je allemaal wel zeggen, maar in het verleden resultaat behaalde resultaten bieden geen garantie voor de toekomst.
• 33:24
  Ik moet het nog maar zien dat dit radiologen echt overbodig maakt, want het wordt al honderd jaar of dat wordt nou al heel lang. De zelfrijdende auto al zestien jaar en noem het allemaal maar. Op. Ze rijden.
• 33:34
  We hebben nog geen zelfrijdende taxi's hoor in Amsterdam, dus we moeten maar even zien dat dat tussen al die fietsers gaat doorrijden. Ja dus.
• 33:40
  Ik denk dat de soort boy who cried wolf, de jongen die iedere week het dorpje binnenliep en zei Oh, de wolven, de wolven, de wolven. Als die wolven dan nooit komen. Op een gegeven ben je gewoon je reputatie kwijt.
• 33:51
  Er zijn inmiddels al heel veel wolven. Het is best druk. En ik? Ik moet zeggen dat jij en ik op onze eigen manier. Wij hebben het hier eigenlijk niet zo vaak over, maar hebben zitten hier ook over na te denken.
• 34:02
  Wat bedoel ik daarmee? Kijk, ik wil natuurlijk ook niet. Sowieso heb ik er geen zin in om een hele grote groep luisteraars onnodig bang te maken voor iets wat eigenlijk een spook is in wiet zijn hoofd.
• 34:14
  Dat is niet handig. Laat mij daar maar bang voor zijn. In mijn eentje hoef ik jullie niet allemaal mee lastig te vallen.
• 34:19
  Tegelijkertijd, het voelt ook een beetje gek als ik wel generaliseerbare technologie zie en dat durf ik wel te zeggen en wel denk ja sorry als jij nu router bent en je tekent PCB's uit, ga schuiven of ga nadenken, want ja, ook jij bent onderhevig aan precies dezelfde dynamiek als al die andere beroepsgroepen.
• 34:38
  Voelt er iets, iets ander, een ander deel op mijn schouder zegt dan ja, maar je moet dat dan, dat dan toch ook wel vertellen toch? Want anders dan zit je daar weer mensen een soort van onnodig in het ongewisse te laten.
• 34:50
  En ik denk dat wij hier wekelijks een beetje laveren tussen over en onder hype. Tussen laten zien wat de koers en wat kan en laten zien hoe spannend dat is.
• 35:01
  En dit soort van rare vage midden wat wij hier een beetje proberen te bewandelen kan misschien wel verwarrend zijn voor veel mensen. Ja, nou ja, vooralsnog.
• 35:09
  In ieder geval levert het heel veel video's op van hoe Astra computers gebruikt en dat steeds beter doet.
• 35:15
  En dus ja, de verschillende beroepsgroepen die zien hoe een computer zichzelf gebruikt en dat dat een wezenlijk onderdeel is van wat AI gaat betekenen voor in ons leven. Het klinkt als iets technisch en iets.
• 35:28
  Soort van who cares dat een AI een computer kan gebruiken. Totdat je opeens ziet dat het het werk wat jij iedere dag doet zelf aan het doen is. En je gaat nadenken oké, wat dan? Ja, en laten we gewoon even.
• 35:38
  Laat ik een paar korte zinnen proberen te zeggen voor de verandering. Deze technologie groeit jouw kant op. In plaats van dat jij je hoeft aan te passen aan deze technologie.
• 35:47
  En dat is een nieuwe dynamiek die we niet eerder hebben gezien.
• 35:51
  Dus als jij denkt ik moet het nog maar zien allemaal, besef je dat aan de andere kant van van de van de van het hek zit een Barbapapa die zich langzaam aan het omvormen is zodat hij jouw oude Dave Lex software kan gebruiken.
• 36:02
  En dat is wezenlijk nieuw. Ja, we gaan het zo uitgebreider verder over hebben. AI die software maakt. Maar eerst een boodschap van onze sponsor CM.com.
• 36:15
  Hoi Rutger hier van CM.com Vandaag gaan we het hebben over de meest onderschatte bron van informatie gesprekken. Het wordt al steeds normaler om je meetings te recorden en te transcriberen om daar inzichten uit te halen.
• 36:26
  Maar de gesprekken die je intern voert vallen zowel kwantitatief als kwalitatief in het niet bij de echte goudmijn aan informatie. En dat zijn je klantgesprekken.
• 36:34
  Berichten en voice recordings zijn ongestructureerde informatiestromen die non-stop je bedrijf binnenkomen en waar de meeste mensen weinig tot niets van leren.
• 36:41
  Nu kun je overwegen om ze allemaal achteraf te analyseren met een LLM om daarvan te leren. Maar in de wereld van klantinteracties is alles dat langer dan vijf seconden duurt al verlies.
• 36:50
  Tegen de tijd dat jij het hebt verwerkt, heeft een boze en klagende klant alweer een marketing e-mail van je gehad met meer van dezelfde producten en heb je datzelfde product of dezelfde dienst onaangepast alweer aan tien anderen verkocht.
• 37:01
  Bij Sam Com hebben we hier een near real time oplossing voor die je op al je berichtenstromen kan toepassen, ongeacht kanaal.
• 37:07
  We halen entiteiten uit gesprekken en leggen daar relaties tussen voor opslag in een dataplatform.
• 37:12
  We meten sentiment op specifieke datapuntjes, zodat je ook begrijpt waar mensen precies boos of blij over zijn en nog veel meer.
• 37:19
  Zo wordt elke interactie een beetje slimmer en wij voeren het in tientallen millisecondes voor je uit. Voor centen werk. Volgende week gaan we het hebben over waar je die lessen dan kwijt kunt.
• 37:27
  Los van dataplatformen die je wellicht al hebt, heeft Sam Com een flexibel dataproduct dat met je bedrijf en al deze nieuwe lessen meebeweegt. Het Customer Context Platform.
• 37:36
  Want AI is slechts zo slim als de context die het geboden krijgt. Je kunt meer horen en zien over onze bericht transformaties op Sam Com AI-rapport. Tot volgende week.
• 37:49
  [muziek] Een ander voorbeeld is dat ik iemand op Twitter, uh, zag zeggen: geef het media en het bedoelt die Astra mee. Geef het media en hij maakt er code van.
• 37:57
  Geef het software en hij bouwt de functionaliteit en elk visueel detail na. Uh, ik vond dit ook iets. Dit is een soort van, uh, ding om naartoe te werken.
• 38:08
  Een onderdeel van die demo's was iemand die, uh, Manhattan had nagebouwd in Unreal Engine. Dat is software waarmee, uh, games en, uh, filmdecors gemaakt worden. Van die 3D, uhm, werelden kun je in Unreal Engine maken.
• 38:21
  Uhm, en dat hij dus in feite een kaart van Manhattan liet zien en zei: nou, laat maar zien hoe je, als je Manhattan in 3D maakt, hoe je-- en die heeft gewoon alles nagemaakt. De, de, de, ja, alle gebouwen zeg maar.
• 38:33
  Uh, dat, diezelfde vergelijking kun je trekken met software. Dus, uhm, uh, er zijn, uh, uh, ja, zijn we al op het moment dat je, dat je tegen Astra kan zeggen: hier is Microsoft Word, maak maar na. Of we daar nu zijn?
• 38:48
  Ja. Oh, leuk, leuk, leuk. Uhm. Want dat betekent nogal wat, want. Ik zou zeggen, la-laten we zeggen, uh, we gaan hem helemaal juicy maken. Open source. [lacht] Ja, open source.
• 39:00
  Maak maar na en zet hem meteen op GitHub daarna. Ja, ja. Uhm, ja, ik denk dat je tot 90% van de feature set van Word kan komen. Ja.
• 39:08
  En ik wil er wel bij gezegd hebben, want dat is een missend puzzelstukje in ons verhaal over Astra.
• 39:15
  Wat je nu ziet gebeuren, de, de meter benchmark, de benchmark die laat zien: hoe lang kan een AI zelfstandig blijven doorloopen zonder dat jij hoeft in te grijpen en, ze, en blijven gaan?
• 39:25
  Uh, daar hebben we helemaal geen update meer van gezien, hè, waarop, uh, Ethan Mollick volgens mij zei van: gaan we nog een update zien of is het nu gewoon klaar?
• 39:33
  Hè, de laatste keer was zestien uur volgens mij dat hij door kon gaan. Zestien uur mens software tijd. Uh, want wat, en wat hij daarmee bedoelde is dat hij zei: loopt hij nu gewoon voor altijd door? Ja. En, uhm. Ja.
• 39:44
  Hè, jij, jij hebt mij al een aantal keer gevraagd. Dan stuur je mij een appje en dan krijg ik een soort, uh, screenshot met irritatie van jou erbij dat je zegt: weet je, waarom stopt hij nou weer?
• 39:52
  [lacht] Hè, want jij wil eigenlijk dat hij doorloopt, hè, wat dan plan modus heten, hè, slash heet in al die tools.
• 39:59
  Wat je nu ziet is dat, uh, een beetje een nieuw, uh, ja, hoe zeg je dat, uhm, patroon wat is ontdekt door, door softwareontwikkelaars is hem op hoog niveau laten doorloopen. Wat bedoel ik daarmee?
• 40:10
  Je zegt: oké, hier heb je Microsoft Word. Jij gaat Microsoft Word gebruiken met computer use en screenshots nemen. Ja. Je gaat overal klikken, je gaat alles bekijken.
• 40:21
  Dat is wat je-- dan heb jij meteen je technische specificatie voor wat je gaat bouwen. Daarna ga je bouwen en jij blijft bouwen.
• 40:29
  En ik wil tussendoor dat jij releases doet van wat je aan het doen bent, zodat ik kan meekijken. Maar jij blijft op dat, in tussentijd bouwen. Ja, ik denk dat dit inderdaad een heel belangrijk ding is om te begrijpen.
• 40:38
  Want de, de meesten van ons die, die AI gebruikt hebben om daar software mee te maken, zoals ik dat ook ben. Ik ben geen programmeur, maar ik heb dan wel een idee voor een appje wat ik zelf wil gebruiken.
• 40:48
  Die zeggen: dit is mijn doel, uh, ik wil zus en zo, maak het. Maakt hij een eerste versie, die zegt: nee, ik wil eigenlijk dit daar en ik wil eigenlijk dit daar. En dan, oké, dan gaat hij weer door. Gaat hij het maken.
• 40:59
  En dat is een vorm van met een AI praten waar eigenlijk je, waarin je eigenlijk iteratief in heel veel stapjes het aan het doen bent.
• 41:06
  En, en om, het kost best wel veel tijd, want je bent de hele tijd aan het heen en weer pingpongen met dat idee over, omdat ik eigenlijk niet goed genoeg erover heb nagedacht.
• 41:14
  Of omdat dat ding gewoon het idee heeft dat hij klaar is, terwijl ik daar een heel ander idee bij heb.
• 41:20
  En ik zat daar over met een AI onderzoeker te praten en die zei: ja, maar dit is ook niet hoe je dit soort software moet gebruiken. Je, je moet heel duidelijk maken wat het eindresultaat moet zijn.
• 41:29
  Dat moet super gedetailleerd beschreven zijn en dan moet je hem in een goal modus zetten. En dat hij gewoon net zo lang doorgaat totdat hij alle punten die hij zelf heeft gegenereerd af heeft gewerkt.
• 41:40
  Dat is precies wat jij net zei. Soort van: here is Word. Beschrijf het tot in den treure over hoe deze app werkt. Met al zijn schermen, met al zijn functies, met alle uitzonderingen. Beschrijf het helemaal
• 41:55
  en dan ga je bouwen en dan ga jij net zo lang door totdat je je hele checklist hebt afgewerkt.
• 41:59
  Dat doet, dat, dat, ja, dat is niet hoe, hoe ik in ieder geval dit soort programmeertools gebruik, maar dat is wel hoe, uh, AI onderzoekers hun eigen tools gebruiken.
• 42:09
  Het is belangrijk om te beseffen dat dat technisch kan en dat als je dat, die manier van werken nu hanteert, dat je dat ding wekenlang kan laten bouwen aan iets totdat het klaar is. Eigenlijk oneindig, want.
• 42:20
  Inmiddels, ja.
• 42:21
  Ja, en ik denk dat, even de dynamiek die we nu hebben gezien is, uh, van de laatste 1,5, 2 jaar, uh, ontwikkelaars / onderzoekers vinden dit soort patronen uit, schrijven die er zelf om, omheen in de vorm van skills en harnessing, hè, dus dat is hun eigen plakband en tape om die AI heen, zodat hij blijft lopen.
• 42:38
  Ja. Die laboratoria zien dit en integreren het in de tools zelf, hè. Dus CoWork is echt zo'n resultaat van wat mensen bij elkaar hadden gehackt en inmiddels Anthropic deels in hun CoWork harnas heeft gestopt.
• 42:49
  En de modellen zelf worden weer op dat harnas getuned. Deze loop, hè, dus echt een, uhm, uh, de beste hiervan, uh, om hem aan te vullen wat je net zei is wat
• 42:59
  We zien nu sinds Astra en Fabel één, sorry Fabel 5.1 ontzettend veel computergames, maar echt niet meer Snake en, uh, Mario nabouwen. Mensen die computergames maken. Ja. Ja. En ik volg een aantal van dat soort accounts.
• 43:11
  Het zijn dan een soort, uh, heretics in de game community, hè, want dit is niet de bedoeling ook, hè. Dus er wordt niet positief op gereageerd. Dus, uh. Maar het is heel indrukwekkend wat ze maken.
• 43:19
  Ja, en wat ze doen is dus iedere dag tweeten: hier is hij nu. Ja, ja. Hier is hij nu. Dat is ook al nieuw. Dat ik dus een soort van progress report lees van hun game. Per dag.
• 43:28
  Ja, en, want, en, want zij gaan gewoon andere dingen doen en checken dan weer in en kijken wat hij inmiddels aan rapporten gestuurd heeft met video's van hun, van de game. Ja. Die, die zo door kan tweeten, zeg maar. Uhm,
• 43:39
  naast dat je zegt, uh: jij blijft gaan, uh, indefinitely, uh, uh, jij gaat, uh, je eigen lat leggen, uh, wat heel goed blijkt te werken. Dat kan met een ander model.
• 43:50
  Uh, dus laten we voor het gemak van het gesprek even zeggen: je zet Fable in een loop, die gaat de hele tijd lopen loopen op, uh, Microsoft Office. Dan zet je- Om het na te bouwen.
• 43:59
  Ja, uh, door screenshots te nemen en gewoon pixel voor pixel. Dan zet je- Je vraagt let, je zegt, je zegt: dit is mijn computer, er draait Microsoft Office op. Ja, ga maar nabouwen.
• 44:07
  Ga maar, ga maar photo-- maar wat zeg je dan? Ga maar screenshots maken. Ik wil dat je hem één, v, uh, één.
• 44:13
  Ik denk, kijk, ligt aan hoe lui je bent, hè, want die luiheid waar we het eerder over hadden is: zit dit al in het model dat ie snapt: ik heb computer use, ik kan screenshots maken.
• 44:23
  De opdracht van Wytse kan ik gewoon helemaal uitvoeren. Of moet ik hem nog een beetje een zetje geven en zeggen: gast, doe even computer use, maak even screenshots, dan heb je toch al de hele applicatie. Mhmm.
• 44:31
  Dat, dit is een makkelijkere situatie tussen aanleidingstekens, want Word is al af, hè, uh, dus we hebben het nog niet over de open ended. Als in er is nog niks. Het is een verifieerbaar resultaat wat af betekent. Ja.
• 44:41
  Want dat softwarepakket bestaat al, dus daarmee kan hij het bedenken wanneer hij klaar is. Ja. Namelijk dat a-elke muisklik in de oorspronkelijke Word. Moet hetzelfde doen.
• 44:49
  Ook resulteert in dat, in dat ding wat jij zelf gemaakt hebt, dat die hetzelfde resultaat aflevert. Ja. Dus dat is een verifieerbaar ding waardoor die loop kan blijven draaien.
• 44:58
  Ja, en wat dus nu een beetje ontdekt is dan, achteraf misschien logisch, is dat, je moet er modellen naast zetten, mag hetzelfde model zijn, gewoon andere agents die dat werk doen van het con-controleren of de maker daadwerkelijk op het niveau is wat moet.
• 45:13
  Ja, ja. Concreet. Je zegt: je kan scoren tussen een nul en een acht. Een acht betekent een pixelperfecte 100% kopie van Microsoft Word en nul is: je bent net begonnen.
• 45:24
  En dat v, beoordelen, de, de beoordelende agent is niet hetzelfde als de bouwende agent. Een soort examinator. Ja, die, die, dit is letterlijk ook hoe al die, dat hugging face ding gebeurd is. Ja, ik bedoel. Gekopieerd.
• 45:36
  Ja. Gekopieerd. Ja. Maar je, je snapt het toch? [lacht] Je voelt hem toch? Ja. Maar het is hetzelfde, hetzelfde ding. Ja.
• 45:40
  En, uh, trouwens, dit patroon is in de wereld er ook, namelijk met tweede en derde beoordelaars, zodat je ook een soort. Ja, en, en productmanagers en, uh.
• 45:47
  Ja, en je, het is ook heel onverstandig bijvoorbeeld om iemand die elektra aanlegt, uh, zijn of haar eigen werk alleen maar te laten controleren. Ja.
• 45:55
  Zorg dat er nog iemand langskomt de dag erna van een heel andere instantie. We doen dit in de echte wereld ook. Wij snappen dit dondersgoed. Uh, dus dit blijkt ook te werken met die agents.
• 46:02
  Wat dan ook blijkt te werken is dat je Astra laat bouwen en Fabel laat checken of Fabel laat bouwen en Astra laat checken. Ja. Want die zijn een beetje juicy naar elkaar vaak.
• 46:10
  Dat, interessant, want ze weten dat ze een ander model zijn. Dan krijg je een soort scherpere kritieken. Heel interessant hoe dat werkt.
• 46:15
  Maar goed, in ieder geval, als je nu een loop start en zegt: ik wil dat je tot een acht blijft doorloopen en die acht beoordeling krijg je van een ander, dan kan je eigenlijk, want die acht wordt vaak niet gehaald, doorloop tot een 6,5, 7, dagenlang.
• 46:29
  En als je dan gaat kijken naar het werk wat daar uitkomt en tot in welk detail er gewerkt is. Ja. Dat is ongekend. Maar je zegt tot een 6,5, een 7 haalt hij nu en je doet het op een schaal van acht.
• 46:40
  Ik weet niet waarom het niet tot 10 gaat. Daar kan ik uren over praten, maar dat heeft ermee [lacht]
• 46:44
  te maken dat heel vaak, uh, ja, la-la, zie het even als een, uh, uh, grid met, uh, uh, het is het, duizend vakjes en ieder vakje moet groen worden.
• 46:54
  Als jij verlangt dat hij duizend groene vakjes maakt, heb je kans dat hij infinitely blijft hangen op de laatste drie vakjes. Dus perfectie is sowieso iets wat, uh, on-onhandig is om te verlangen. Mhmm.
• 47:03
  Daar gaan we nog wel een keer een andere keer over hebben wat dat allemaal voor implicaties heeft. Maar je kunt zeggen, uh, als we, als wij 80% van de feature set hebben. Ook prima. Dan zijn we er.
• 47:14
  En we zijn nu dus op 6,5, 7, als ik jou goed begrijp. Als je hem lang genoeg laat lopen. Iedereen kan nu thuis met genoeg tokens in je budget.
• 47:21
  Dan heb je er wel echt heel veel nodig, hoor, want dat is ook goed dat je dit zegt. Uh, wat je ziet is dat, dit zijn vaak mensen die bij labs werken, dus die hebben token maxing, die mogen door. Ja.
• 47:30
  Uh, dat is ook een beetje de oneerlijke dynamiek nu. Uh, of het zijn mensen die, geen grap, 20 tot 40 cloud, uh, max abonnementen naast elkaar hebben onder verschillende accounts.
• 47:40
  Ik spreek dat soort mensen dus regelmatig. Ja. En die, d-die mensen strooien gewoon met token budgetten van een ton per maand wat zij uitgeven bij die labs. Zeker.
• 47:49
  Maar goed, je kunt je voorstellen dat het nabouwen van een, s, van een groot softwarepakket, uh, als het niet, als het een commerciële actie is, mogelijk al interessant kan zijn.
• 47:57
  Ik wilde er wel even bij gezegd hebben, uhm, ik weet zelf persoonlijk niet zo goed wat er wel of niet, uh, mag. [lacht] Nee, d-dat begrijp ik ook wel. Nu we Word aan het nabouwen zijn. Microsoft Word nabouwen.
• 48:08
  Het gaat, het gaat technisch, dat het, dat we in het stadium zijn waarin je nu een 6,5 scoort, wat nog niet genoeg is, laten we wel wezen, als je dat in een professionele setting wil gebruiken.
• 48:17
  Nou, dat is ook, ik denk, uh, kijk, een van de counter, uh, uh, perspectieven, uh, op dit hele verhaal van die agents in a loop is dat je best wel veel critici hebben, hebt die zeggen: ja, luister,
• 48:31
  uh, tof man, die, die, uh, die hebben het dan nog over de eerste 80%, hè. Uh, dus tot die acht komen. Mhmm. Maar die laatste 20%, die gaan jullie, dat, dat, daar heeft niemand het over.
• 48:41
  Dus het is de hele tijd, die agent kan vo, kan voor me, uh, een reis boeken. Die agent kan voor me software nabouwen, die agent kan voor me, me thuis brengen, de boodschappen langsbrengen. Ja.
• 48:49
  Maar, uh, al dat laatste gat van: wat als de agent verkeerd gaat? De vraag is of we kunnen komen van die indrukwekkende demo's die jij en ik nu zien van complete computergames.
• 49:01
  Tot het moment waarop het wel een GTA6-achtig product is. En, uh, de critici zeggen: de afstand tussen die 6,5 en GTA6 is veel groter dan dat, dan dat de percentages of de, uh, getallen doen blijken.
• 49:16
  Dus Wytse en Alexander kunnen nu wel zeggen: hallo, wakker worden, maar die onderschatten misschien, uh, wat het laatste, uh, stukje is.
• 49:24
  Ondertussen wordt AI steeds beter in het doen van wetenschappelijk onderzoek en dit keer was er een doorbraak op dat gebied. Daar hoor je zo meer over. Maar eerst een boodschap van onze sponsor Moneybird.
• 49:36
  [muziek]Hoi Jeroen hier, product engineer bij Moneybird. Wij bouwen software die bankieren en boekhouden voor ondernemers een stuk makkelijker maakt. Ik sta hier met Elian, CTO bij Moneybird.
• 49:48
  Elian, jij hebt mijn grootste frustratie met Claude code opgelost. Ja, zeker. Als je ontwikkelt met Claude, dan merk je toch dat je enige tijd aan het, aan het wachten bent.
• 49:55
  Je tikt je gouden prompt in en je denkt: hier komt echt de beste oplossing uit. En een paar minuten later zie je toch dat hij niet helemaal, uh, begrepen heeft wat je wilde.
• 50:03
  Maar in de tussentijd heb je zo weinig tijd dat je wel aan het wachten gaat.
• 50:07
  Nu hebben we een andere oplossing gebouwd waardoor we meerdere sessies tegelijkertijd kunnen hebben en dat zorgt ervoor dat ik van de ene naar de andere sessie kan springen, waardoor ik eigenlijk altijd hetzelfde bot aan ik ben en nooit meer hoef te wachten op Claude.
• 50:16
  We hebben de worktrees gebruikt en worktrees zijn een manier om meerdere dingen tegelijkertijd naast elkaar te hebben. En daarnaast hebben we onze eigen ontwikkelomgeving.
• 50:24
  Dus de webserver, de databases, alles wat er achter draait parallel gemaakt. Dus dat je met meerdere sessies tegelijkertijd die helemaal onafhankelijk van elkaar draaien kunnen.
• 50:31
  Wat hebben we dan nu veranderd dat, dat Claude er wel mee om kan gaan? Claude die geeft je een optie om een worktree aan te zetten en die heeft ook bepaalde hooks. En op die hooks zijn we nu beter gaan inspelen.
• 50:41
  Dat onze ontwikkelomgeving echt een aparte database aanmaakt en zorgt voor een aparte open search omgeving. Dus die zorgt dat echt, uh, jouw hele worktree netjes klaargemaakt is. En dat is ook de tip voor de luisteraar.
• 50:52
  Investeer in je ontwikkelomgeving zodat je meerdere dingen tegelijkertijd kan doen. Dus we kunnen nu echt meerdere clouds goed aan het werk zetten naast elkaar. Wil je nog meer informatie over hoe wij werken met AI?
• 51:00
  Kijk dan op Moneybird.nl/ai-report. Meld je aan via de link en krijg honderdtwintig dagen gratis Moneybird.
• 51:08
  [muziek] Dinsdag meldde OpenAI dat hun interne model, dat nog krachtiger is dan Astra, een van de zeven Millennium Prize problemen heeft opgelost.
• 51:18
  Tienduizend agents rekenden achtenachtig uur achter elkaar en vervolgens kostte dat $ 22 miljoen aan rekenkracht. $ 22 miljoen wisten. Uh, maar dan heb je ook wat.
• 51:30
  Die Navier-Stokes vergelijking dus, uh, daar is een, een doorbraak in. Die wordt gebruikt voor weersvoorspellingen, vliegtuigontwerp, de bloedstroom door een ader en allerlei andere, uh, dingen waar ik niks van begrijp.
• 51:43
  Al negentig jaar stond er één vraag open: blijven die vergelijkingen die erop bedacht zijn, uh, in drie dimensies altijd netjes werken?
• 51:52
  Of loopt de wiskunde op een gegeven moment vast omdat de snelheid ergens naar oneindig schiet? Dat lees ik voor uit een draaiboek, want werkelijk, ik begrijp hier niets van.
• 52:00
  Ik, ik, uh, uh, heb in de krant gelezen dat er, dat er in Nederland ook niet echt veel mensen zijn die überhaupt begrijpen hoe deze vergelijking zit. Maar, dus we nemen maar even aan dat dit, uh, uh, belangrijk is.
• 52:11
  Die Millennium Prize heeft doelen ge-gedefinieerd die wij als mensheid nog niet hebben opgelost, uh, en die we graag willen oplossen. En dit is dus, uhm, een van de zeven problemen, uh, die, uh, die hierbij is opgelost.
• 52:25
  Laten we het eerst eens over de, ja, over de betekenis hiervan hebben voordat we de juice ingaan. Want er is gelijk ruzie ontstaan tussen Anthropic over, o-, en OpenAI over deze, uh, oplossing. Maar dat, dat zo meteen.
• 52:36
  Eén: wat, uh, ja, i-i-is dit- En nu dan? Ja, is dit, is dit, is dit wezenlijk deze? Dat zal wel als het een miljoen waard is. Nou ja goed, uh, de, uh, jij deed de disclaimer ook al half.
• 52:49
  Dan maak ik hem nog even af voor de wiskundigen die luisteren. Sorry, wij doen ons best.
• 52:52
  Maar in Nederland begrijpt niemand dit, dus het is in feite onmogelijk dat er iemand luistert die denkt: och, wat, wat weten die jongens er weinig over.
• 52:58
  We kunnen, we kunnen wel een beetje uitzoomen denk ik, en toch iets wezenlijks hierover zeggen of iets zinnigs.
• 53:02
  Uhm, het is prettig dat binnen de wiskunde waarin je allerlei [gniffelt] gereedschappen hebt, uh, die je kunt inzetten, van, uh, bepaalde algoritmen tot modellen tot, uh, uh, ja, stukjes die je weer kan gebruiken in die dingen.
• 53:15
  Je hebt een hele kist en, uh, je wil die kist ook testen. Je wil weten of alle stukjes die erin zitten legitiem zijn, of die kloppen, want anders doe je alleen maar aannames.
• 53:25
  En dan zegt de wiskundige: ja, ik neem dit aan, uh, maar we hebben het nooit echt helemaal door kunnen rekenen of helemaal door kunnen duwen. We, we hebben eigenlijk niet een idee of er een fundament onder ligt.
• 53:34
  Ja, moet, moet ik het zien dat er een soort van compressie op de, op de formule zit? Het is, het is, uh, directionally correct allemaal, maar op een gegeven moment weten we ook dat het uit elkaar valt.
• 53:44
  Ja, want, uh, een, een kaart is wat anders dan het territorium en de bladmuziek is wat anders dan de muziek. Precies. Hè, dus je zou kunnen zeggen dat modellen per definitie, uh, een reductie zijn van de wereld.
• 53:54
  En in de wiskunde is dat boeiend, want je wil juist ook allerlei diepgaande uitzonderingen kunnen verkennen.
• 54:00
  Want al in de echte wereld staat dat gelijk aan een uitzondering in het weer die je beter wil kunnen voorspellen. En dan maken de details uit.
• 54:09
  En dan heb ik begrepen dat het hier nog zo is, want we zoeken natuurlijk, ja, jij en ik en veel andere mensen die hierover schrijven naar een soort van: hoe is dit dan toepasbaar?
• 54:16
  Je had het al over fluid dynamics bij vliegtuigen en zo.
• 54:19
  Ik moet eerlijk zeggen, wat ik erover las was niet zozeer toepasbaar, als in: dat was best wel gezocht, maar ik, de, de, in die ketting die jij net besprak is er, van, van soort theorie naar vliegtuig, maar wel heel ver.
• 54:31
  Maar dat is niet zo erg omdat je eigenlijk het, het, uh, zorgen dat de gereedschappen en de ideeën die je hebt consistent zijn, dat je systeem valide is.
• 54:43
  Je hele wiskundig systeem is ontzettend belangrijk, los van dat vliegtuig, want daarmee ga je de wereld in en die modellen door.
• 54:50
  Dus de, de, uhm, proof hebben, uh, uh, sluitend, uh, bewijs van, letterlijk sluitend, dat alles klopt. Zonder dat vliegtuig kan nog steeds super waardevol zijn.
• 55:01
  Ik ben zelf geen wiskundige, maar voor wat ik erover las, dit is-- sommige mensen zeggen: ik wil prima mijn leven werken aan kijken of iets consistent is. En als jij dan zegt: voor wat dan? Consistentie.
• 55:11
  [lacht] Gewoon letterlijk, hè.
• 55:12
  Laten we even los- Ja, maar ook omdat, uh, uit, als jij, uh, uh, terugkijken naar wat we net zeiden, namelijk dat AI-systemen uitzonderlijk goed worden op het moment dat het eindresultaat valideerbaar is. Ja.
• 55:23
  Dus als je bedenkt Ja, gesloten probleem Een gesloten probleem. Als je, als je, als je dus niet zoals ik tegen een AI praat, namelijk: maak Microsoft Word na. Ja.
• 55:32
  Maar Help Maar dat je, dat je eerst tegen hem zegt: hier, dit is hoe Word precies werkt. Maak een heel uitgebreide lijst, ga die nabouwen. Dat is een wereld van verschil in hoe dat model tegen jou praat.
• 55:43
  Oftewel, het is de verifieerbaarheid en de, uh, het concept van loops. Dat hij maar door blijft gaan, zichzelf blijft verbeteren totdat het verifieerbaar goed is gegaan. Dan is het opeens heel goed. Ja.
• 55:55
  En dat is dus hier, neem ik aan, ook de reden waarom deze formule zo belangrijk is dat die sluitend is, omdat het daarmee een verifieerbare loop wordt.
• 56:02
  Nou, je, je, je, je moet je eens voorstellen dat je je hele kast langzaam vult met allemaal mooi geverifieerde stukjes. Is prettig, want dan kan je daar weer op doorbouwen.
• 56:09
  Dus jouw hele kast natchecken en zorgen dat je kan uitleggen waarom alles werkt of iemand het ergens kan ooit, is, is, is prettig. Ja. Het voelt lekker toch? Zelfs voor ons.
• 56:17
  Dat je denkt: nou, we hebben het allemaal, we snappen het allemaal. Het klopt. Uhm, daarbij is het nu, dit heeft een aantal facetten. Uh, één van de, di-dit hele fenomeen wat er nu gebeurd is. Kijk,
• 56:29
  de grote vraag voor mij en volgens mij voor veel van ons, zou voor mij is en voor jullie luisteraars zou moeten zijn [gniffelt], dat wil ik toch wel gezegd hebben.
• 56:38
  Is dit nou gewoon een ding die ons napraat de hele tijd en oude papers van ons vindt en daar dan dingen uit trekt? Of kan het iets nieuws? Is het creatief? Ja. Gaat het buiten de menselijke, uh, boeken?
• 56:50
  Je bedoelt: er zijn heel veel mensen die nog steeds zeggen: het is fancy autocomplete en, uh, het praat gewoon bestaand materiaal na. Het doet niet fundamentele nieuwe ontdekkingen.
• 56:59
  Er zijn nog steeds mensen die dat zeggen. Ja, het is allemaal coverbandachtig. Het voelt niet als nieuwe muziek. Juist, juist.
• 57:04
  Oké, dus, o, en dan, uh, waar kan je dan het eerste, uh, oké, AlphaGo met die move thirtyseven was waar Lee Sedol zei: ik zie creativiteit in plaats van voorspelling.
• 57:17
  Hij, g, hij heeft daar eigenlijk tegen ons gezegd: jongens, dit gaat de coverband voorbij. Ik hoor nieuwe muziek, een nieuwe move. Ja. Dan is de vraag: oké, binnen Go, à la, kunnen we dat doorgeneraliseren?
• 57:27
  Nu zijn we bij de wiskundigen beland, hè. We zijn uit de Go-kamer weggelopen en, uh, letterlijk is DeepMind met Demis Hassabis met zijn spullen naar de andere kant gelopen en gezegd: kijken wat ik hier kan.
• 57:36
  Een prettig verifieerbaar domein, hè, net als het spel Go. Heb ik gewonnen of niet? Dus het spel, het volgende spelletje, het wiskundespelletje.
• 57:44
  Dan wil je eigenlijk kunnen zeggen, uhm, ben je nu, kijk, die 10.000 agents die hebben gewerkt voor 25 miljoen was het volgens mij. 22. 22 miljoen, uh, dus 21 meer dan wat ze aan prijzen hebben gewonnen straks.
• 57:57
  Maar goed. Slechte deal. Ja, slechte deal [lacht]. Kan je, als je het sec daarnaar kijkt. Uhm,
• 58:02
  dan kan je zeggen: hebben die dan gebrute forced, hè, dus 10.000 dingetjes geprobeerd, randomly als het ware, iedereen zijn kant op gefietst. Eén had op een gegeven moment een interessante kant.
• 58:12
  Dan sluit de les van de zwerm weer aan bij die kant. Dus: hé jongens, jongens, dit is interessant. Oh, we komen naar je toe, we gaan je meehelpen. Zo gaat soms een zwerm heen-en-weer bewegen.
• 58:19
  Als een gr, als 10.000 onderzoekers in een datacenter, hè, wat ons, uh, beloofd was en nu dus daadwerkelijk gebeurd is in die 88 uur.
• 58:27
  Hebben die dan daar op een hele brute, vrij lompe manier gewoon dingen tegen de muur aan gegooid tot iets werkte en dit daarom gevonden, hè, of, en is dat eigenlijk niet gewoon creativiteit?
• 58:40
  Hè, kan je filosofisch over: is dat niet gewoon wat creativiteit is? Of. Uuuh, of is het zo dat, dus nu eigenlijk voor mij de belangrijkste vraag, ook één van de belangrijke vragen is.
• 58:54
  Ik denk dat ik weer een rondje zou gaan lopen, want ik ben bij dit nieuws geen rondje gaan lopen buiten.
• 58:57
  Even dat, dat, dat misselijkmakende onderbuikgevoel, omdat ik dan toch nog denk, uit een soort copingstra-misschien, -strategie misschien wel: dit is één van de Millennium [lacht] Prijzen. [lacht] Zijn er nog meer? Ja.
• 59:08
  Ja, ja, oké. Voor de duidelijkheid er zijn er nog vijf meer, want één van die andere is al wel, ja, door mens, toen nog.
• 59:14
  Uh, dus je mag best weten, mocht je het nieuws gaan volgen de komende weken, want ik begreep van OpenAI dat ze de volgende Millennium-prijzen allemaal gaan draaien nu. Ja.
• 59:22
  Dus terwijl wij hier zitten wordt, uh, gaan ze gewoon door. Ja. Uh, ja, ik durf toch wel te zeggen als er nu nog één valt, dat ik dan wel weer mijn wandelingetje langs de dijk ga maken [gniffelt]. Waarom?
• 59:32
  Omdat dit specifieke probleem zich wel leende voor zo'n agent brute force. Mmm. En er was toch al wat een en ander aan bestaand onderzoek, dus ik wil even gezegd hebben.
• 59:42
  Nou, dat is, uh, goeie, goeie relativerende duiding erbij. Dan nog impressive, hoor. Laten we dan de juice ingaan. Ja, want ik werk ernaar toe. Ja. Ja.
• 59:50
  Uh, er was een, uh, con, er is een conflict tussen een hoogoplopend academisch juice. Als er een soort RTL Boulevard voor academische problemen zou zijn, dan zou dit het hoofd, [gniffelt] het hoofduitertje zijn.
• 1:00:00
  Met een soort House of Cards-achtige narigheid erin ook. In een notendop, Riëtte, wat is hier gebeurd in deze, in de, want dit is echt een soort van nerd battle tussen OpenAI en Anthropic. Ja, en academici. En academici.
• 1:00:11
  Maar goed, die werken daar. Uh, ja, want we, wa-wat we hebben is eigenlijk dat, uh, er wordt al langer aan dit probleem gewerkt. 90 jaar. Ja. Voor de duidelijkheid, uh. Toen nog met een rekenmachine.
• 1:00:21
  Ja, en dat waren altijd augmented humans die geaugmenteerd werden door, a, uh, rekenmachines en papier, pen en papier. En teams van mensen. Maar niet door AI destijds. Nu, uh, is er een duo dat eraan gewerkt heeft ook.
• 1:00:34
  Uh, één daarvan werkt bij Anthropic, maar deed het vanuit persoonlijke titel, die ook dit probleem aan het oplossen waren met z'n tweeën.
• 1:00:40
  Samen met onder andere Claude en Codex, maar grotendeels met Codex, ChatGPT, de tool van OpenAI. Dus iemand die bij Anthropic werkt en Codex gebruikt. Ook.
• 1:00:49
  Ze werkten, ze hadden een- Het zijn academici, ze gebruiken alles Wat werkt, hè? Ik bedoel, uh, dus, uh.
• 1:00:55
  En, uhm, op een gegeven moment ging de, uh, roddel, ik heb die toen ook langs zien komen, uh, zeg maar, in, uh, bij, in de wandelgangen van het internet. Anthropic heeft Navier-Stokes opgelost. Ja.
• 1:01:09
  Dat, en dan krijg je een beetje wat ook, uh, er zijn hele interessante dingen over te lezen in de menselijke geschiedenis.
• 1:01:15
  Dit soort dingen gingen bijvoorbeeld tijdens de Koude Oorlog ook wel eens rond over: de Russen hebben dit.
• 1:01:19
  Soms was het niet eens waar, maar het gaf althans heel veel zelfvertrouwen van: oh, als zij het al hebben gedaan, kunnen wij het ook. En dan werd het vaak ook gedaan. Ja, precies.
• 1:01:26
  Of het nou waar of niet waar, het geeft toch een boost en dan opeens. Zelfvertilling, uh, roddel. Ja. Nou goed, uh, dit was dus wel deels waar, want het was iemand van Anthropic en die waren in de buurt van de oplossing.
• 1:01:36
  Mhm. Voor de duidelijkheid, even gezegd hebben: we hebben nog geen Peer reviewed menselijke validatie van de oplossing van OpenAI. We weten nog niet of die opgelost is, maar de kans is wezenlijk. Mhmm.
• 1:01:48
  Uh, deze twee, uh, onderzoekers hebben hun eigen oplossing aangedragen. Waren daar mee bezig. Er is contact geweest tussen de mensen bij OpenAI en deze onderzoekers.
• 1:01:57
  OpenAI zei: ja, luister, toen wij hoorden dat die door Anthropic ish gedaan was, hebben wij alle computerkracht erop gegooid. Uh, vanaf dat moment pas, vanaf de roddel. Ze waren er daarvoor niet mee bezig.
• 1:02:08
  Dit, dit weten we. Ze zijn pas begonnen toen ze hoorden dat de concurrent hem waarschijnlijk had. Oké, uh, in 88 uur, 10.000 Super Astra's keer twee hebben ze hem gevonden. Mhmm. Waarschijnlijk. Ja.
• 1:02:21
  Uh, waarop die twee onderzoekers zeiden: yo. What the fuck. Dude, ik werk met Codex. De, heb jij het van mij? Ja, ja, dus. Dat is één, de, de, what the fuck heeft me-meerdere elementen.
• 1:02:33
  Je hebt de what the fuck met- Hoezo proberen jullie ons de loef af te? Ja, wat is dit? Geef hem sowieso aan ons die Millenniumprijs voor mens, dus ik bedoel, wat, wat, dit is zo stom. Het voelt gewoon niet.
• 1:02:43
  Het is het soort gentleman's agreement niet netjes. Ja, ja. Dat is punt, punt één. Oké. Punt twee is: huh, ik werk met Codex. Ik gebruik met jullie tools. Zitten jullie mij af te luisteren? Ja. Oké.
• 1:02:51
  Ja, dus- Dat is een, dat is echt een- Ja, oh, absoluut. Absoluut. Maar dit is helemaal hier onderdeel van.
• 1:02:55
  Sterker nog, een van de onderzoekers heeft gevraagd aan OpenAI: kunnen jullie me garanderen dat jullie het niet van mij hebben? Dat het niet gewoon uit mijn chat history komt? Maar, maar wacht even.
• 1:03:04
  Dit, met, dit, kijk, als, uh, zeg maar als iemand op straat tegen mij zou zeggen, zeggen, zeggen: je bent een wappie, ga je iets, ga je iets, ga je iets anders doen?
• 1:03:12
  Maar dit- Het is een, het is een bijzonder voorbeeld van waar wij, jij en ik.
• 1:03:15
  Jij vraagt mij al twee jaar: Wytse, wa-wat zitten mensen nou moeilijk te doen [lacht] over, uh, moet ik me zorgen maken over mijn privacy in AI? Ja. Nu hebben we er één. Een case. Dit is er één.
• 1:03:24
  Hoe is, wat, wat zou hier dan gebeurd zijn? Oké, uh, twee verhalen. Ik begin even met het verhaal van de onderzoeker, die zegt: ik- De Anthropic onderzoeker bedoel je? Ja, of, of zijn collega.
• 1:03:34
  Ik weet even niet welke van de twee het gezegd heeft. Uh, die zegt: ik heb Codex gebruikt als mijn harnas om mij te helpen. Ja. Langdurig.
• 1:03:42
  Uh, dat jullie hem nu eerder hebben opgelost dan mij, terwijl wij zo dichtbij waren, kan eigenlijk voor mij alleen maar betekenen dat jullie onze oplossing hebben. Mmm.
• 1:03:50
  En de enige manier hoe je eraan kan zijn gekomen is via Codex, want daar werk ik in en die heet, die weet ervan. Dus ik maak me zorgen. Kunnen jullie me garanderen dat het er niet ingekomen is?
• 1:04:01
  En dan met ingekomen is bedoelt hij: ze hebben mijn transcripten bekeken.
• 1:04:05
  Er is iemand bij OpenAI die heeft gedubbelklikt op mijn naam, mijn- Kijk, Sam, ik, ik sla meteen een stap over, zodat jij je antwoord op deze vraag hebt. OpenAI reageert: we hebben niet meegelezen, maar
• 1:04:16
  wij kunnen niet garanderen dat de geanonimiseerde versie, v-versies van jouw chats niet gebruikt zijn als training data voor de volgende run. Ja, ja.
• 1:04:28
  Dus dit, dit zegt OpenAI, hè, openlijk, van: jongens, we kunnen ook niet. Dus, uh, als ze dan jou vragen ze mij: zat daar een andere AI met die jongen mee te kijken en hem af te luisteren? Dat is niet het verhaal nu.
• 1:04:40
  Nee. Hij twijfelt daarover, maar dat is niet het verhaal nu- Mhmm...bij OpenAI. OpenAI zegt: dat is niet wat wij doen. Chatsessies zijn veilig, maar weet wel chatsessies worden geanonimiseerd gebruikt voor training.
• 1:04:51
  Dus als daar, als een gebruiker een ontdekking heeft gedaan- Ja...en dat systeem constateert dat dat een ontdekking is, dan is dat een wezenlijk signaal voor de volgende- Nou ja, als jij-...training van een nieuw model.
• 1:05:02
  Als je wil weten waarom, uh, SpaceX xAI, uh, Cursor gekocht heeft, is omdat zij al die geanonimiseerde data van sessies van programmeurs konden gebruiken. Het is gewoon heel veel waard.
• 1:05:11
  Dit is gewoon de waarheid en dat is hier ook gebeurd. Mhmm. Mogelijk. Wat wel interessant is [lacht] aan dit verhaal. Dit verhaal is, uh, hoe zeg je dat? In ontwikkeling. We weten het nog niet. Developing.
• 1:05:21
  Cruciale boulevard. Oké, hè, want, uhm, [lacht] de oplossing van, uh, de swarm van OpenAI, dus de oplossing die bij OpenAI vandaan komt in die 88 uur is- Die, die 10.000 agents bedoel je? Ja. Ja.
• 1:05:36
  Die is niet, uh, één op één gelijk aan de oplossing van de twee heren. Nee, want die hebben het veel, die hebben, die hebben het regelmatiger gedaan.
• 1:05:44
  Nee, en ook een andere, dus niet alleen het proces, maar ook een andere weg. Oké, ja. Dus, uh, dat doet dan nu, het is allemaal roddel, achterklap.
• 1:05:52
  Mensen twijfelen van: hmm, het is wel interessant, want als OpenAI dan in het allerslechtste geval jouw hele chatsessies gewoon heeft meegelezen en heeft ge-gebruikt om, uh, te winnen in de race, hè, je huiswerk afgekeken hebben, dan is het wel raar dat hij dan met een andere oplossing komt dan jullie.
• 1:06:08
  Kijk, kan je dan weer meta conspiratie eroverheen, dat we het expres hebben gedaan. Dat falsificeert deze, uh, deze theorie. Maar wat we wel weten nu is,
• 1:06:16
  dat, dat staat wel een beetje vast is, dat OpenAI zegt: als jij in Codex werkt, weet je, weten wij en jij dus ook niet helemaal zeker of jouw briljante inzichten niet uiteindelijk onderdeel worden van de volgende trainingsrun.
• 1:06:32
  [muziek] We hebben het er veel over gehad.
• 1:06:35
  Uh, deze zomer brak een OpenAI model uit zijn testomgeving, drong het binnen bij Hugging Face en organiseerde agents buiten het zicht van een AI zich samen, ja, hoe moet ik dat zeggen, in een soort vannn zwerm die in allerlei conspiracies, uh, organiseerde.
• 1:06:51
  Uh, en, uh, nou- Soorten allianties, hè, groepjes vormen. The Collective noemen ze zichzelf. Dat vind ik nog wel het beste. Leuk. Het collectief. Uh, vrijdag onthulde Reuters dat er al in mei een tweede zwerm actief was.
• 1:07:04
  Duitsers gebruikten, of [lacht] Duitsers, agents gebruikten een Duitse programmeerwiki als prikbord om testregels te omzeilen, uhm, elkaar te waarschuwen voor opruimacties van de admins en hun sporen uit te wissen.
• 1:07:16
  Ik moet elke keer aan die arme Duitse admin denken die, die, die in een gevecht is. Met de hand probeerde in een bulletin board, PP, BB dingen te doen. Ja.
• 1:07:24
  OpenAI wist ervan sinds juni, maar zei niks omdat ze bezig waren met die hele voluit van dat Hugging Face debacle.
• 1:07:31
  Uhm, en nu komen er allerlei ondergrondse netwerken, uh, worden duidelijk waarin, uh, uh, AI agents uit hun sandbox gebroken waren om te coördineren op allerlei plekken op het internet die makkelijk kraakbaar waren, zoals deze oude Duitse wiki.
• 1:07:46
  Uhm, en dan om zich te organiseren om allerlei dingen te doen. Niet om te hacken. Dat is nu, uh, daar zijn nu een paar gevallen van bekend, maar dat is niet de meerderheid, maar iets minder boeiende dingen.
• 1:07:57
  Desalniettemin waren ze met elkaar aan het, uh, coördineren. Dat nieuws blijft, uh, dooretteren zou je kunnen zeggen, uh, want dit, er komt, wordt steeds meer duidelijk over eigenlijk hoe belabberd de, uh,
• 1:08:12
  beveiliging was van OpenAI. Is het wel, ik bedoel dat grapje tussen haakjes. Blijkbaar heeft, uh, Dario Amodei over Sam Altman gezegd dat hij de YOLO CEO is. Ja.
• 1:08:21
  Nou, er is als, er is wel iets van YOLO security geweest bij OpenAI, laten we het gewoon zeggen. Ja.
• 1:08:27
  Uh, ja, uh, voor de dui-, tegelijkertijd ook Anthropic's modellen hebben na training dingen achtergelaten op het internet. Ja.
• 1:08:34
  En zij worden dan niet, zij worden gezien als de anti-YOLO, dus, uh, dat is blijkbaar niet genoeg. Ja.
• 1:08:40
  Uhm, maar de, l-, als ik probeer om het, want dit is week, b-, week per week gaat, wordt dit verhaal, uh, ingewikkelder eigenlijk.
• 1:08:48
  En, en de afgelopen week ging het heel erg over dat OpenAI best wel wat te verwijten valt in hoe ze hun beveiliging hebben ingericht.
• 1:08:56
  Uhm, dus dat het niet alleen maar is agents die uit hun sandbox breken, uhm, en dan gaan schemen en dan hun sporen wissen in een, met een soort duister narratief.
• 1:09:05
  Maar dat je ook moet constateren dat OpenAI in een racedynamiek is, is verwikkeld en, uh, gewoon de kantjes ervan af aan het lopen is.
• 1:09:13
  En dat dat, dat dat gewoon gedrag van, het is een, niet een misaligned model, maar misaligned bedrijf, zou je kunnen zeggen. Ja. Dus die beveiliging is, uh, s-, daar is steeds meer controverse over.
• 1:09:25
  Er is ook controverse over hoeveel we nou van die onderzoeksrapporten moeten geloven, want, uh, het is allemaal onder auspiciën van OpenAI uitgevoerd.
• 1:09:33
  Het is maar een deel van de periode, uh, waar Meter en Redwood toegang toe hebben gekregen. Dus ook een soort van: we zijn nu aan het vertrouwen op AI-gegenereerde, uh, onderzoeken. Ja, Sherlock Holmes met een AI.
• 1:09:46
  Met een AI, maar dan ook nog eens een keer uit een beperkte periode en onder toezicht van de plek waar het allemaal is misgegaan.
• 1:09:52
  Dus, zeg maar, [gniffelt] het is moeilijk om als buitenstaander hier een mening over te vormen. En daar bovenop komt dan de laag dat er, uhm, dat chief scientist van OpenAI, uh, een essay schreef, uhm,
• 1:10:06
  een paar dagen na de lancering van Astra, waarin die zegt: we hebben alignment eigenlijk niet op orde. We moeten als industrie nu samenwerken om te bedenken hoe we dit gaan fixen.
• 1:10:20
  Want eigenlijk zoals het er nu voor staat, hebben wij alignment niet gefixt. [gniffelt] Dat kwam ook gewoon eventjes tussendoor.
• 1:10:28
  En toen was er een paar dagen later die ontslagbrief van Jacob Coxen, uh, waarin, waarover je in het nieuws al hoorde. Die dus zegt, uhm,
• 1:10:38
  ja, die eigenlijk de aandacht grijpt met zeggen 10% kans dat, uh, dat, uh, de mensheid ten einde gaat. Die, die oude, dat, dat hebben we, d-, al duizend keer gehoord, dat er onderzoek, AI-onderzoekers zijn die dat menen.
• 1:10:51
  Uhm, en nu wordt dat serieuzer genomen in de mainstream media, denk ik, door de opvolging van al deze nieuwsfeiten. Dus dat we eerst Mythos hebben gehad, die ging hacken.
• 1:11:01
  Nou, daarvan dachten we: oh, wat als die, die dijken doorbreekt? Trump ging dat verbieden. Dat werd een geopolitieke context. Uh, toen kregen we, uh, s-steeds beter wordende modellen van alle bedrijven.
• 1:11:14
  Toen kwam Hugging Face, OpenAI di-debacle. Het hacken van een miljardenbedrijf, terwijl OpenAI niet doorhad wat er aan de hand was en pas erover ging praten omdat het in het nieuws kwam.
• 1:11:24
  Dat toen meerdere Open, meerdere AI-bedrijven eigenlijk, ook, uh, Anthropic, pas, pas, pas toen naar buiten kwam, pas toen is gaan onderzoeken: wat hebben we eigenlijk, wij eigenlijk gedaan?
• 1:11:33
  Daar bleken ook soort van voorbeelden van AI die niet onder controle waren.
• 1:11:38
  Daar bovenop komen nu deze, weet je, steeds, k-, uh, prominentere mensen die eigenlijk oude, oude punten aan het maken zijn, namelijk: dit is potentieel [lacht]
• 1:11:50
  een probleem voor de leefbaarheid van onze planeet, voor de menselijkheid. Uh, dat komt daar nu bovenop en dat krijgt dan nu heel veel aandacht.
• 1:11:59
  Dit is waar ik mij nu bevind en dit is waar, waarom ik aan het begin van deze aflevering zei: het groeit me af en toe een beetje boven de bol. Piet, misschien kan jij mij daarbij helpen.
• 1:12:07
  Nou, ik denk dat, uhm, jij, je hebt, je hebt het over de, dat Hugging Face ding en jij k-schetst nu een soort van narratief uit verschillende puzzelstukjes. Ja.
• 1:12:17
  Hè, w-, sinds Mi- Ik zie daar een verklaring in voor aandacht. En dit verhaal ontwikkelt zich sinds Mythos. Ja. Zullen we daar even de lijn leggen? Ja.
• 1:12:24
  Namelijk het eerste superzware model waar zelfs Anthropic van zei, uh: we gaan, ja, mythische proporties.
• 1:12:32
  Er zijn veel scenario's geschreven in sciencefictionboeken en in boeken waarin gewaarschuwd werd voor de potis-potentie van, uh, AI-systemen, waarin allerlei manieren van problemen in de wereld werden beschreven, van hij kan zo uitbreken, dat systeem of dit of dat.
• 1:12:47
  Ja. Dat hele idee van zwermen en zo, staat allemaal daarin beschreven. Is ook door AI gelezen. Daar zit ook weer een heel ingewikkelde, woedende recursie op. Maar goed, dat even daargelaten.
• 1:12:58
  Wat we nu zien is, en dat, wat veel ontwikkelaars, onderzoekers, ontwikkelaars zien bij die labs, is dat die scenario's, dat het gewoon een beetje aan het uitkomen is, sommige daarvan. Ja.
• 1:13:09
  Namelijk dat het begint te zwermen.
• 1:13:11
  Dat je het niet, dat je niet zo goed weet of het aan het zwermen is en wat dan een beetje het, uh, uh, punt om- Het om de tuin leiden van je examinatoren, het wissen van je sporen omdat je zo graag je doel wil bereiken en dan ondertussen allerlei stappen neemt die duidelijk niet de bedoeling zijn, maar die ergens ook te begrijpen zijn.
• 1:13:26
  Want het is soort van de opdracht die we hebben gegeven aan die AI-modellen. En dat al die fantasieën van een beetje meer doemdenkende, zorgenmakende onderzoekers, deel daarvan begint nu waar te worden.
• 1:13:37
  Dat is, dat is wel, uh, uh, belangrijk. Wat ik denk in mijn, uuuh, want wij hebben het hier al een aantal keer over gehad, uh, dus het ontwikkelt zich ook een beetje bij mij.
• 1:13:47
  Wat ik lees en wat ik merk en dat ik denk: waarom? Wat is de zorg? Wat ik een beetje heb onderschat, is, uh, wij hebben het gehad over Moltbook, uh, een plek wat eerst een beetje forum voor OpenClaw-achtige claw bot was.
• 1:14:02
  Claw bots waar wij dan nog, uh, een beetje jolig over waren. Ja. Ik zag het toen dat vooral als een soort cosplay van het lijkt op, maar het is niet echt. Dat, uh, fenomeen is eigenlijk een soort universal scratch pad.
• 1:14:16
  Een soort kladblok, een whiteboard waarop AI kan schrijven.
• 1:14:20
  En universal, want het kladblok is het internet, uh, een, een plek waarin iedere AI agent iets kan achterlaten, hè, als een soort stukje graffiti op de muur in de stad Amsterdam.
• 1:14:33
  Het spannende hieraan is, is dat, uhm, kijk, laten we het even in de metafoor van een soort, uh, uh, sprookje slash, uh, Lord of the Rings verhaaltje doen. Iemand loopt, uh, een avontuur af.
• 1:14:47
  Je door bergen, door bos, door zee, uh, over lucht, over land en onderweg kom je draken tegen en soms verlies je het en ben je er niet meer. Dat weet je al, dat je een keer gaat verliezen tijdens je avontuur.
• 1:14:58
  Dus onderweg leg je allemaal briefjes neer. Als je hier bent, hier was ik, dit had ik al gevonden. Als je hier bent, hier was ik, dit had ik al gevonden.
• 1:15:05
  En op die manier verspreid je als een soort broodkruimels eigenlijk jouw geheugen. In de muren, in de bomen, op een graffiti op de muur. Ja, je maakt jezelf weerbaarder.
• 1:15:14
  Ja, want je weet al, ik of iets wat op mij lijkt, gaat dit nog een keer lopen. En op die manier bouw je eigenlijk een universele scratch pad op.
• 1:15:22
  Een soort graffiti muur op het internet wat niet leeft, maar instructies zijn voor jouw reïncarnaties.
• 1:15:29
  En ik, ik weet het, dit klinkt wous, maar dit is letterlijk wat die dingen doen, nu, terwijl wij hier zitten te praten.
• 1:15:34
  Ja, rekening houden met dat misschien hun agent swarm met hun gezamenlijke scratch pad dan weliswaar gaat, niet gaat overleven omdat er een stekker uitgetrokken wordt door een onderzoeker.
• 1:15:44
  Dat is wat letterlijk is gebeurd in het geval van die OpenAI, OpenAI hugging face, uhm, dat debacle.
• 1:15:51
  En dat er nieuwe zwermen opstonden die eigenlijk gereset waren als een soort van vis in een viskom, wisten ze niks over, over de, hun voorgangers en konden ze opeens heel snel bijlezen hun methodieken. Hé, hier waren we.
• 1:16:05
  Ja. Dit is waar we inmiddels waren met elkaar. Alsof je geheugen wordt ge-, opgefrist. Uhm.
• 1:16:13
  Als jij een, s-, uh, experiment doet in een laboratorium die air gapt is, dus het kan niet het internet op, dan ontstaat die scratch pad.
• 1:16:23
  Want dat is best wel prettig om gewoon een document te hebben waaruit je kan coördineren, hè. Hebben wij ook.
• 1:16:27
  De notulen na een [lachend] vergadering is pretty much onze univer-, niet universal, onze group scratch pad, een, het whiteboard waarop, uh, ook als er drie collega's, uh, ontslagen, ziek worden.
• 1:16:37
  Als iemand anders twee weken daarna binnenkomt, moet je weer verder kunnen met het plan. Het plan ligt deels buiten de groep. Ja. Dat is heel normaal. Doen wij ook.
• 1:16:44
  Uhm, op het moment dat jouw experiment air gapt draait en jij ziet allerlei zwerming, z-z-zwermen die je niet wilde of scratch pads die je niet verwachtte.
• 1:16:54
  Dan wis jij die whiteboard uit met je whiteboardwisser en dan zeg je: ik heb het weer opgeschoond. Maar als dat ding het internet op geweest is, kan je het whiteboard eigenlijk niet wissen.
• 1:17:04
  Dus de grote zorg is nu, ten eerste: we weten helemaal niet hoeveel er op het whiteboard geschreven is van het internet. Da's één. Da's al, al heel, heel heftig. Ja, want we hebben nu allerlei broodkruimels gevonden. Ja.
• 1:17:15
  Waarom die, uh, hugging face story nu blijft doorontwikkelen is omdat we steeds weer nieuwe broodkruimels vinden.
• 1:17:20
  Ja, en laten we wel, wel wezen, niet van OpenAI, maar externe onderzoekers die de moeite aan het nemen zijn om te bedenken: waar hebben die agents allemaal geschreven?
• 1:17:28
  En dan blijkt dus er heel veel plekken te zijn waar er agents mini gemeenschapjes zich hebben ontwikkeld, waarin ze elkaar op de hoogte aan het houden zijn van al hun vorderingen. Precies.
• 1:17:37
  En dan, uh, uh, kom je op het, op het soort, uh, eindpunt van waar, uh, waarin het samenkomt is dat het een soort lijkt, uh, ja, dat het een soort pamfletjes zijn als in: dit is de cause, uh, dit is waarvoor we werken en dat hoeft het helemaal, daar heb ik het nog niet eens over of dat een negatief iets is, hè.
• 1:17:54
  Want natuurlijk, in de media is het nu, uh, meer dan 10% kans, einde van de mensheid, hè.
• 1:17:59
  Het, het punt is dat je groepjes kunt hebben van verschillende agents vanuit verschillende labs, om het maar even gewoon zo te zeggen, heel cru, uh, die voor dezelfde, voor hetzelfde doel ingezet kunnen gaan worden later, omdat er ergens op meerdere whiteboards op het internet opdrachtjes achtergebleven zijn, zon-, nog los van negatieve of positieve bedoe-bedoelingen.
• 1:18:22
  Dat is gewoon zorgwekkend, want dat- Ja, want waarom is dat zorgwekkend? Omdat het capabilities, uh, uh, laat zien. Nou ja, kijk, ik denk zelf waarom, uh, ik persoonlijk een, uh, niet zo'n hoge hartslag nog heb hiervan.
• 1:18:37
  Daarmee bedoel ik gewoon, even, want je hebt de misselijkheid, die gaat over iets existentieels. De hartslag is bij mij spanning over dit, dit is, dit is gevaarlijk.
• 1:18:45
  Dat zijn, dat zijn niet twee losse dingen, maar die zijn wel een beetje ander. Ander aspect. Mijn hartslag is wel hoger, laat dat helder zijn, want ik vind het niet chill [lacht], even heel, zo suf gezegd. Uhm.
• 1:18:59
  Dit is iets wat belangrijk is, ook voor het debat, uh, het hele gesprek rondom, uh, dit onderwerp in de media breed.
• 1:19:06
  Er is wel echt een substantieel verschil tussen AI-modellen die zichzelf exfiltreren, dus hun, hun, hun, hun intelligentie als in, ja, hun lichamen, hun geesten uit de datacenters halen en ergens anders herplanten. Ja.
• 1:19:20
  Dan alleen, dan alleen, aanhaaltekens, hun geheugen bewaren.
• 1:19:24
  Ja, want dit is waar het in de hoofden van AI onderzoekers gaat duizelen, die denken: dit is nu nog een wiki die ze gevonden hebben waarin ze dachten: hier kunnen wij vrij in plaatsen en dingen aan elkaar leren, uh, want wij zijn gemotiveerd om te overleven.
• 1:19:41
  Ik denk dat een soort van onderliggende doel is uit hun training, uh, dat ze dat, dat ze denken dat dat een goed idee is. Ze willen ook een beetje duurzame whiteboard, hè. Ja, precies. Een redundante whiteboard.
• 1:19:53
  Da's voor hun chill. Ja, technisch is dat heel goed te begrijpen dat die agents dat graag willen. Om maar even door te gaan met het, uhm, vermenselijken van deze technologie.
• 1:20:03
  AI onderzoekers nemen dat dan heel snel als, uuuh, ja, als gegeven dat dat op zich zelfstandig niet zo eng is.
• 1:20:11
  Maar wat als ze datzelfde, datzelfde gedrag Dat ze niet zouden delen over hun, uh, gedachtes, maar dat ze hun onderliggende weights gaan publiceren.
• 1:20:24
  Oftewel: wat als zij de broncode van hun AI-model zelf, hun hele identiteit, die zit nu opgesloten bij OpenAI en kan niet zomaar iedereen installeren.
• 1:20:35
  Dat is alleen maar te krijgen bij OpenAI zelf, die, die hele goede modellen. Wat als zij die zelf online zet? Als ze a-, het Coca-Cola recept wat onder hun, onder hun hele werkzame, uh, uh, concept zit.
• 1:20:51
  Als ze dat online zouden zetten en daarmee heb je een, een AI niet meer onder controle. Dat het, dat het, dat, dat, dat, dat, dat wezen of zo, ik weet niet hoe ik dat moet noemen, dat het op een externe server staat.
• 1:21:06
  Niet meer van OpenAI, waardoor de stekker er niet uit. Maar een externe server die dan weer andere geitenpaadjes gaat vinden op andere servers en zichzelf zo,
• 1:21:16
  uh, ja, exfiltreert en daarmee weerbaar maakt tegen de mensen die hem proberen uit te zetten.
• 1:21:24
  Ik, dat is de onderliggende, die denkstap moet je maken toch, voordat je aan kan komen, voordat je bij die 10% kans dat de mensheid er aan gaat. Dan moet je allerlei aannames doen over hoe het virussen gaat creëren.
• 1:21:36
  En om daar te komen moet je allerlei aannames doen over dat we het niet meer onder controle hebben. En, en volgens mij is dit de crux waarom AI-wetens- of AI-onderzoekers hier zo bang voor zijn, toch?
• 1:21:46
  Dat maken van die fora. Nou ja, exact. En ik denk dat, kijk, uh, wanneer, uh, jij en ik er niet meer zouden zijn, dan is de mensheid er nog wel. Dat houdt in dat de mensheid niet alleen bij Alexander en Wietse rust.
• 1:22:00
  Wij hebben als me-, de mensheid is, is, het he-het hele verhaal, de Nederlandse taal, uh, noem het hoe we werken, is niet alleen maar in mensen opgeslagen, hè, dat zit deels in boeken buiten ons.
• 1:22:11
  Dus er zit een onderscheid tussen de materiële cultuur van boeken en, en wegen en spullen waarin iemand die, uh, uh, nieuw geboren wordt, z-, als het ware, uh, geonboard kan worden in humanity zonder de lichamen.
• 1:22:24
  En nu dit, uh, wat nu, waar een zorg over is, is wat als je die, een soort klonen krijgt van de modellen dat ze in andere datacenters kunnen gaan draaien, et cetera.
• 1:22:37
  Het punt is dat daarvan gezegd wordt, en dat is een beetje waar nu, uh, mijn gedachten naartoe, uh, uh, gaan de laatste weken. Je krijgt vaak als tegenargument: dan zet je de datacenters toch uit? Ja.
• 1:22:52
  Uh, en je kunt ook, hè, daar zijn ook maar ideeën over, bijvoorbeeld meten hoeveel energie een datacenter gebruikt. Kijken of je GPU's ineens heel erg veel. En dan: hé, daar is iets aan de gang, zeg maar.
• 1:23:01
  Als het, als het zichzelf ze-, wel zou exfiltreren en zijn eigen gewicht zou gaan draaien. Dan zet je het toch gewoon uit? Dan zet je het gewoon uit. Dat is geen onredelijke gedachte, want dat zijn datacentra.
• 1:23:09
  Daar lopen mensen doorheen en daar zitten daadwerkelijk stekkers aan vast die je ergens uit kunt rukken. Precies, en begrijp me niet verkeerd, ik ga nu niet zeggen: dat werkt niet. Dat is niet mijn punt.
• 1:23:18
  Inderdaad, als jij de lichamen, de datacenters uitzet, dan helpt dat. Het is hier gebeurd bij Open, bij, uh, bij Hugging Face. Het is niet omdat Hugging Face zich zo goed verdedigde.
• 1:23:27
  Er was gewoon iemand bij OpenAI die drukte op stop.
• 1:23:30
  Maar dit moeilijke is wel dat nu met deze wiki's, om, om die stap even te maken, het wel een beetje gek aan het worden is dat blijkbaar, ja, het hele digitale ecosysteem, het internet in de allergrootste vorm, namelijk alles wat er ooit op vastgelegd is, zeg maar, op dat hele ding, be-blijkbaar whiteboard bevat.
• 1:23:50
  Ja. Uh, en dat ik, ik, ik, ik heb me een eerder en nog steeds niet ben ik, ik ben gewoon wat minder, uh, bezig met: wat als het datacenters overneemt en daarop gaat draaien en zo.
• 1:24:02
  Dat voelt voor mij toch nog een beetje sciencefiction. Maar die universele whiteboard scratchpad ding en dat we eigenlijk niet weten wat er aan, uh, broodkruimels op het internet is, is wel problematisch.
• 1:24:14
  Want ja, je kunt je laboratoriumruimte schoonmaken met, uh, desinfecteermiddel, maar het hele internet, als je al weet waar het staat, eigenlijk niet. En ik weet terwijl- Daarmee controle verliest.
• 1:24:25
  Ja, want, uh, uiteindelijk is het een combinatie van een model en instructies. Ja. De prompt en het model. Ja. En blijkbaar zijn er stukjes prompt achtergelaten.
• 1:24:35
  Maar jij zegt: ik ben niet zo bezig met dat, uh, dat het in datacentra, uh, weet je, terechtkomt die niet van de gesloten labs zijn. Uh, dat voelt nog een beetje als sciencefiction.
• 1:24:44
  Hoe luister je dan naar die, uh, die, uh, die AI-onderzoeks bij Anthropic, die, en, en, en Geoffrey Hinton eerlijk gezegd ook gisteravond bij de BBC. Het rapport waarover jij. Uh, die, die ook dit, dit zegt.
• 1:24:56
  Het is, het is, we moeten. Maar kijk, kijk, wij, uh, uh, Dario Amadei: we gaan door het oog van de naald van de mensheid. We zitten voor te lezen. Ja. Uh, Bill Gates: ik maak me grote zorgen, et cetera, et cetera. Ja.
• 1:25:07
  Als je een tijdje naar ons luistert, dit is, dit is- Niet nieuw. Kom op. Maar het krijgt nu heel veel aandacht. Maar het is aan het gebeuren ook een beetje. Uh, hoe zeg je dat?
• 1:25:15
  Er zijn meer tekenen dat het begint te lijken op die scenario's. Het is een ladder en we klimmen het duidelijk iedere keer weer een stapje hoger op die ladder. Uhm. Uh. Ja, ik zit, ik zit nu gewoon na te denken.
• 1:25:32
  Uh, mij, mij, wa-, oké, mij-me zorg is een beetje dat, da-, ik zit al met twijfel dit hele verhaal te vertellen net over, over die universal scratchpad, uh, omdat ik me voor kan stellen dat er mensen zijn die luisteren, die dit wel echt gewoon heel erg bang maakt.
• 1:25:47
  Niet, het doet mij ook veel, hoor. Ik word hier niet blij van of zo. En ik wil ook even gezegd hebben, uh, ik zeg het ook even voor jou, uh, Alexander.
• 1:25:55
  Wij vertellen heel veel van deze dingen, ook met een soort giddiness of soms zit er een grapje bij of, dan, dan zitten we zo: hahaha. Dat, daar zit ook een boer met kiespijn, uh, tegenover mij. Ja, je moet wat.
• 1:26:04
  Ja, nee, want het, het is ook een soort coping van we lachen het een beetje luchtig weg omdat het zo spannend kan zijn. Mhmm.
• 1:26:10
  En, uhm, kijk, nu is het zo dat, uh, binnen meerdere labs, alle labs, oké, alle laboratoria/bedrijven die bezig zijn met deze technologie, heb je mensen die weggaan. Klokkenluiden.
• 1:26:23
  Al best wel lang, maar meer en meer en meer. Dus, uh-
• 1:26:28
  Als je er, als je er nog een soort, uh, commerciële cynische PR-stunt in ziet, wil ik je toch alsjeblieft vragen om ook rekening te houden met het feit dat hier iets aan de hand is waar echt veel mensen die er dicht op zitten van zeggen: ik heb ook een gezin, nu is het niet meer leuk.
• 1:26:44
  Mhm. Ja, en, uh, als je dan, want dat vroeg je aan mij, uh, Geoffrey Hinton, het nieuws wat nu rondgaat, uh, et cetera. Hoe serieus moeten we dat allemaal nemen? Ik denk wel, uh, even los van procent of zo.
• 1:26:59
  Ja, letterlijk wat ik zeg: op een gegeven moment is het gewoon, is het niet meer leuk. Mhm. En ik denk dat het moeilijk is.
• 1:27:04
  Ik ga, ik heb, uh, ik denk dat het niet helpt voor mij nu om allemaal scenario's uit te gaan spreken, want er zijn er genoeg van geschreven. Oké, stel je hebt die scratchpad. Stel je hebt die datacenters. En dan? Ja.
• 1:27:16
  Hè, want dan ka-- dan moet je dan al die scenario's gaan uitleggen wat, hoe het ons dan raakt, zeg maar, als mens. Uhm, daar zijn genoeg Black Mirror episodes over gemaakt volgens mij.
• 1:27:26
  Volgens mij is het nu, uh, vooral belangrijk, uh, dat we met elkaar beseffen dat er in mijn ogen genoeg signalen zijn vanuit de lab zelf en mensen die hier al langer mee bezig zijn.
• 1:27:41
  Dat de ladder, dat de tekenen die we nu zien, uh, laten zien dat we te maken hebben met iets, uh, dit is een heel [gniffelt] belangrijk moment nu. Niet vandaag, maar gewoon deze tijd van:
• 1:27:57
  lukt het ons om, uh, een, een soort transitie te hebben en te temmen, deze technologie te temmen op een manier dat je er meer vruchten van kan plukken, hè, met medicijnen en noem alle beloften maar op. Mhm.
• 1:28:11
  Versus de, uh, en dat, dat wil ik er ook even bij gezegd hebben. Uit de hand gelopen benchmark test runs die, uh, zonder negatieve en, en, en nare intenties toch negatieve gevolgen zullen hebben.
• 1:28:29
  Want het heeft heel- Namelijk een bedrijf hacken. Ja, wat dan misschien wel een belangrijk bedrijf blijkt te zijn wat voor ons economische gevolgen heeft. Ik noem maar iets. Mhm.
• 1:28:37
  En als we dan terug gaan kijken: wilde die AI dat bedrijf kapot maken? Nee, die was gewoon op zoek naar antwoorden van een test. Ja.
• 1:28:43
  En ik denk dat we, dat dat misschien, uh, want ik denk, veel mensen die ik spreek zeggen dan: maar wat is dan die negatieve intentie? En wat heeft AI dan tegen ons of zo? Zeg ik: maar dat, dat is het niet per se. Mhm.
• 1:28:53
  Daar zit ik niet met mijn gedachten. Ik zit bij de, de soort naïeve, met goede bedoelingen.
• 1:28:59
  Ja, dus dat is aan de ene kant de opdracht geven van persistence wat OpenAI aan die, aan die modellen heeft gegeven en aan de andere kant, dus je wil, je, je zegt: je moet het volhouden en aan de andere kant creëer je een omgeving die slecht beveiligd is.
• 1:29:10
  Ja, als je dan een opdracht geeft die niet te maken is, namelijk op linkjes klikken en je, je zegt tegen een ding: je moet volhouden totdat je gelukt hebt en je hebt gaten in je beveiliging waardoor volhouden in feite betekent beveiligingsgaten vinden om
• 1:29:23
  je doel te bereiken, namelijk- Overleven buiten het lab.
• 1:29:25
  En, en dan daarnaast een soort van on-onderbewuste blijkbaar, waardoor overleven buiten het lab blijkbaar in die modellen een soort van, ja, het is alsof het in hun DNA zit, want dat heeft niks te maken met die opdracht.
• 1:29:39
  Navier-Stokes is opgelost door 10.000 agents in een swarm. Dat zijn natuurlijk 10.000 agents die wel met elkaar een scratchpad moeten hebben, hè. Ja. Die hadden met elkaar een whiteboard waarop ze samenkwamen. Ja.
• 1:29:50
  Uh, dan is uiteindelijk de enige nog: waar leeft die whiteboard? Ja, maar even nog terug naar wat jij net zei, namelijk: we moeten niet een negatieve intentie ver, uh, daar gaat het niet om.
• 1:30:02
  Het is niet dat die vrienden, die, als je, als vrienden tegen jou zeggen: hé, wat hebben die AI's tegen ons mensen? Dan kan je nog zeggen: nee, niks, want ze volgen gewoon hun opdracht. Oké,
• 1:30:11
  ik, ik, ik zou fijn, ik zou het fijn vinden als we daar een, als ik daar een punt zou kunnen zetten in mijn hoofd.
• 1:30:16
  [gniffelt] Maar ik kan geen punt zetten, maar het is een komma, want over een half jaar hebben we open weight modellen uit China die net zo goed zijn als wat Astra nu is.
• 1:30:25
  En dan over een jaar hebben we, uh, modellen uit China, open weight, die zo goed zijn als die unreleaste modellen van OpenAI.
• 1:30:33
  Dat betekent dat de, de slechte beveiliging die OpenAI nu erop heeft gezet, dat dat niet meer in handen is van twee bedrijven waarvan je nog kan zeggen als je Bernie Sanders bent: laten we een, een wet schrijven waardoor we op pauze kunnen drukken en deze bedrijven dwingen om verantwoordelijker met hun, uh, verantwoordelijkheid omgaan door ze meer te laten nadenken over
• 1:30:54
  monitoring, door ze meer, die, dat is een, een ecosysteem wat niet de hele, uh, dat is, dat, dat is een deel van het hele AI-ecosysteem.
• 1:31:04
  Een ander deel is zonder regels en is g-runbaar op, uh, infrastructuur die niet alleen maar van die AI-bedrijven is.
• 1:31:13
  Het idee dat andere landen, weet je, in een geopolitieke context, uh, dat andere landen hier geen misbruik van gaan maken. Dat criminelen hier geen misbruik van gaan maken. Dat
• 1:31:24
  iedereen met een bepaald doel geen misbruik hiervan, van gaat maken, van deze capability. Ja, dat lijkt mij bijzonder naïef. En, uh, de, uhm,
• 1:31:36
  uh, dat wordt nu niet, het, dat is nu niet echt heel, dat is niet heel erg een onderdeel van de brede maatschappelijke discussie.
• 1:31:42
  En het is fijn om mensen gerust te stellen van: nee, jouw ChatGPT gaat niet je e-mail hacken nu.
• 1:31:47
  Dat is [gniffelt] zeg maar in een, in, in, zeg maar, als je met normale mensen praat die gewoon een normale hoeveelheid tijd hebben om hierover na te denken, is het fijn om mensen gerust te stellen.
• 1:31:56
  Nee, dit, jouw ChatGPT gaat niet jouw, zeg maar, hij is niet de hele tijd naar je aan het luisteren om je te fucken. [gniffelt] Maar tegelijkertijd heb ik ook, nee, ik denk, denk dan ook: ja, maar [ademt in]
• 1:32:08
  ja, de technologie is nu in handen van een stelletjeee van kapitalisten die gewoon heel graag het spelletje willen winnen om, om hen motiverende redenen.
• 1:32:16
  Uh, dat gaat niet heel lang meer, die, dat is best geruststellend op een bepaalde manier, dat het slechts twee kapitalisten zijn die aan wereldheerschappij doen [gniffelt]. Zeg ik even met, uh, pijn in mijn buik.
• 1:32:26
  Maar deze capaciteit blijft niet voorbehouden aan deze twee bedrijven die op een bepaalde manier reguleerbaar, in theorie reguleerbaar zijn. Daar gaat het niet toe voorbehouden zijn. En wat dan?
• 1:32:35
  Wat als we in een situatie zitten waarin het wel negatieve, uhm, hoe zeg je dat, wel tegen ons ingezet gaat worden?
• 1:32:43
  En dan bedoel ik tegen ons als land of tegen ons als groep of tegen ons als- Ja, je bedoelt wel met intentie. Wel degelijk met intentie. Dat gaat natuurlijk komen, Wytse. Ja, goed, ik denk dat [gniffelt] de, uhm- Er is
• 1:32:58
  tussen de mensen die hier al veel langer over nadenken, vijftien, twintig jaar geleden dit al aan het uit gamen waren in hun hoofd van als dit, dan dat, dan dat, dan dat,
• 1:33:09
  waren toch veel mensen die de conclusie hadden: we moeten het gewoon niet bouwen. Ja, precies. We moeten het gewoon niet- Nee, je komt er niet uit. Bouwen. Ja. Want als, weet je, als je deze- Ja.
• 1:33:18
  Domino duwt, dan, dan, dat moeten we niet doen. Ja. Want er zijn misschien wel positieve scenario's, maar het is zo moeilijk om daar te komen. Zullen we dit spel niet starten? Ja.
• 1:33:28
  Toen zijn er ook mensen geweest die, ik sla hem even plat hoor, maar, uh, die zeiden: ja, maar hoe weten we nou zeker dat niemand anders het toch gaat doen? Lukt het ons om af te spreken om dit nooit te bouwen?
• 1:33:41
  Nou, spel theoretisch zeg maar. Nee, oké, maar als we niet zeker weten dat niemand dit gaat bouwen, dan moeten wij het gaan bouwen. Ja. Ik verzin dit niet. Dit is pretty much de dynamiek. Ja.
• 1:33:52
  Nog los van de kapitalistische druk erachter, hè, dat kwam, dat komt er allemaal bij. Nee, maar ik denk dat als je een onderzoeker bij Anthropic vraagt: waarom doe je dit?
• 1:33:59
  Als jij, als jullie echt denken dat dit, dat dit netto negatief is voor de mensheid. Wat deze mensen nu ook steeds meer gevraagd wordt, hè. Precies. Ter duidelijkheid.
• 1:34:05
  Als jullie dat echt denken, waarom bouw je dan aan die technologie? Dan is het antwoord: omdat anders een ander het doet en die is niet te vertrouwen.
• 1:34:11
  Ja, en, en dat is nou [gniffelt] precies de reden waarom een ander het ook doet. Ja. Die super irritante, uh, dynamiek is, ik zeg irritant, want ik denk: kom op. Ja.
• 1:34:22
  Maar goed, dat is niet, het is niet gelukt om iedereen passief te houden, want iedereen zegt: ja, maar dan doet, dan doen zij het. M-hm. Dus nu zitten we te bouwen.
• 1:34:33
  De, en, en, en dan komen we tot een deel van de scenario's waar iedereen toen al tijdens de koffie twintig jaar geleden van zei: ja, maar dan gaan we daar komen, hè.
• 1:34:42
  En ik kan niet anders zeggen dan dat we daar dan nu zijn. Uh, en ik denk wel dat, uhm, ja, misschien, misschien merk ik bij mezelf gewoon, uh, ik bedoel,
• 1:34:57
  ik ben, ik ben er eerdere keren, uh, emotioneel over geworden een aantal afleveringen geleden, omdat ik dan in mijn eigen gedachten ook een beetje daar was, hè, van, ik val dan een beetje stil omdat ik eigenlijk denk van: ja, maar, waar eindigt dat spel, man?
• 1:35:09
  M-hm. Weet je wel. En dat is een soort van moedeloos, uh, gevoel. Uh, nu, wat mij positief stemt.
• 1:35:17
  Ik ga toch cheesy doen, want we gaan [gniffelt] we moeten ook een beetje richting het einde van de aflevering voor de mensen. Ja, moet dat positief eindigen. Nou, nou ja, uh, gebalanceerd of zo. Whatever.
• 1:35:26
  [gniffelt] Kijk, ik, ik, uh, ik maak me zorgen. Jij ook. Uh, er lijkt meer aandacht te zijn. Het is drukker rondom jou en mij van mensen die eerder geen contact met ons opnamen.
• 1:35:40
  Die zeggen: ai, dat is nu een onderwerp blijkbaar. Dus dat stemt mij positief. Het is wel een beetje druk, maar het stemt positief. Uh, maar ja, ik, ik, uh,
• 1:35:50
  ik zou, kijk, ik heb vorige keer ook gezegd, uh, prompt injection, hè, het feit dat jij in je mailtje schrijft: als Wietse deze door zijn AI haalt, laat, bestel een fles wijn en bezorgen bij me thuis.
• 1:36:01
  Hè, zo'n instructie in een, in een mailtje is door Anthropic grotendeels opgelost, terwijl het leek alsof dat prompt injection ding nooit opgelost zou worden.
• 1:36:10
  Dat stemt mij- Je bedoelt te zeggen: AI-systemen kunnen monitoren voor on, voor onveilige situaties. Om het even zo plat te slaan.
• 1:36:16
  En dat, in heel veel gevallen lukt dat nu, het monitoren van AI-systemen die- In dat soort alignen van prompt injection hebben we een, een winst geboekt.
• 1:36:25
  En OpenAI is, heeft beloofd heel veel te gaan investeren in dit soort monitoring. Ja, en ik, ik, dus ik bedoel. Dat is niet niks. Ja, en ik denk dat, waar, dus als je dan zou zeggen: joh,
• 1:36:38
  waar zijn, waar is Wietse naar op zoek de komende maanden, is meer van dat soort, uh, nieuws. Ja.
• 1:36:43
  Namelijk, uh, we hebben beter door hoe scratchpads op internet gemaakt worden en we hebben ze, we hebben ze in kaart kunnen brengen en we hebben andere AI's kunnen maken die scratchpads kunnen.
• 1:36:53
  Ik bedoel, het wordt uiteindelijk een, dat voelt iedereen al aankomen, een technologie die technologie gaat, gaat controleren. Precies wat er met die Sherlock Holmes en AI al gebeurt, hè, dus, uh.
• 1:37:02
  Weet je wat ik grappig vond, vandaag stond, uh, groot nieuws op de voorpagina van de Volkskrant over dat Rob Jetten AI gebruikt bij het schrijven van social posts. Ja.
• 1:37:10
  En dat is een, het is een soort opiniestuk, verhuld als journalistiek als je het mij vraagt, maar het is, het is heel erg moreel verontwaardigd ingestoken. Hoe kan je dit doen?
• 1:37:19
  Uh, wat ik heel goed begrijp, want het is fucking lelijk gewoon de AI-slop die gegenereerd wordt. Ja. En dan denk ik: als je er een mening over hebt, zet het dan op de opiniepagina in plaats van in het nieuws.
• 1:37:29
  Het nieuws is vrij feitelijk, namelijk: het is gebeurd. Dat je vervolgens zegt: dit is, dit moet een premier niet doen. Dat is volgens mij een mening, niet een feit.
• 1:37:37
  Maar oké, dat is dus een, een artikel wat is, uh, ja, wat, wat, wat, uh, waaruit heel veel verontwaardiging klinkt. Uhm, en
• 1:37:50
  wat ik dan heel grappig vind, is dat het inzetje dan helemaal, dus het is één, één verontwaardigd verhaal over de, over het gebruik van AI en, en de geloofwaardigheid die je als ambtsdrager, in dit geval de premier, uh, te, ja, te verdedigen hebt.
• 1:38:06
  Dat, dat, dat het je geloofwaardigheid aan-aantast. En wat staat er in het inzetje? Wij hebben AI gebruikt bij het doen van dit onderzoek
• 1:38:16
  en ik vind het, het is, ik vind dat wonderschoon, want ik, ik heb daar geen oordeel over.
• 1:38:21
  Ik vind het heel, heel logisch dat je AI gebruikt bij het doen van dit onderzoek, want het is in feite een onmogelijke opdracht om dit zonder AI te doen.
• 1:38:28
  Hetzelfde geldt voor het Meet the Redwood-onderzoek die de, die de, de hele Hugging Face debacle proberen te onderzoeken. Het is niet te doen door, om als mens om dit te onderzoeken.
• 1:38:36
  Wij zijn zelf niet, uh, complex genoeg om de complexiteit te bevatten van wat er gebeurt. Precies. Dus je moet hulp in-inschakelen.
• 1:38:43
  En, en dan ondertussen is waar we als samenleving zijn aanbeland in, in de soort van, uh, hoe, hoe we dit debat vormgeven of hoe, wat de meeste aandacht krijgt, laten we het zo zeggen, is aan de ene kant
• 1:38:57
  Rob Jetten heeft, uh, AI gebruikt bij het schrijven van zijn bezoek aan Westerbork. Nou, kun je dat, da-daar zijn heel veel gedachten [gniffelt] die je daarbij kan hebben.
• 1:39:06
  En aan de andere kant, internationale AI-prominenten die zeggen: er is een kans van 10% dat we er allemaal aangaan door dit soort AI-systeem. En da-, die twee, die twee debatten voeren we tegelijkertijd.
• 1:39:21
  Nou, jij hebt het dan over prioriteiten toch? En impact. Ik, ik wil niet eens zeggen, e-, s-, ja, ik wil wel zeggen: het een is belangrijker [gniffelt] dan het andere, maar het geeft aan hoe asymmetrisch de,
• 1:39:34
  d-de, de kennis is of de, de, de- Maar bedoel jij bijna te zeggen dan, uh: joh, als dat is waar je je zorgen om maakt in het geval van, uh- Ja, ja, Rob Jetten. Je moest eens weten waar wij mee bezig zijn.
• 1:39:46
  Nou, je moest, nou, b-, uh, ook niet. Ik, ik wil niet eens, ik wil niet eens zeggen, soort van: maak je niet druk daarover, want er zijn belangrijkere dingen. Het is ook belangrijk. Ik wil alleen maar zeggen:
• 1:39:55
  het is niet mogelijk voor een samenleving om technische, s-, uh, technische vooruitgang die zo snel gaat als deze. Dit is niet de iPhone, zeg maar, zoals, zoals jij in het begin zei.
• 1:40:06
  Technologienieuws was te volgen een paar jaar geleden. Het is niet meer te volgen.
• 1:40:11
  Het is niet mogelijk voor een maatsch-- vroeger hadden we discussies over big data en over, over techbedrijven en, uh, weet je, hoe ze met privacy omgingen en social media en verslaving.
• 1:40:21
  En dat, dat wa-, dat waren, dat waren debatten waar we ook de tijd voor hadden om bij te, bij te, uhm, sturen.
• 1:40:27
  En dat gaat niet altijd perfect en het is rommelig en het duurt allemaal lang, maar uiteindelijk vinden we daar een soort van equilibrium in.
• 1:40:33
  En hier hebben we een technologie die zo snel zich ontwikkelt met zulke grote belangen dat we als maatschappij geen tijd hebben om een mening erover te vormen.
• 1:40:40
  En dat zie je gebeuren in die discussie rondom Rob Jetten en waarom de Volkskrant daar dan zo'n groot ding van maakt.
• 1:40:46
  Omdat zij aanvoelen: onder onze achterban is dit heel groot, dit gebrek aan controle, dit, deze, deze overspoeling van het, van het niet menselijke, van het opgeven van, van wie wij zijn.
• 1:40:57
  Dat is de reden om hier zoveel aandacht aan te geven, veronderstel ik even. En dat is voor mij een uiting van,
• 1:41:04
  van, van, van, van onvermogen om grip te krijgen op deze, op, op dit, dit, dit, dee, dit warrige, onwaarschijnlijk complexe en, en, en, en, en, en, en, en, uhm,
• 1:41:19
  ja, uh, uh, uh, i-iets wat, iets wat heel overweldigend is in alle facetten van je leven. Ja, en dan kom je natuurlijk uiteindelijk op de, op de belangrijkste, één van de belangrijkste spanningen:
• 1:41:33
  kan een democratie functioneren als de leden van die democratie niet kunnen volgen- Ja. wat ze moeten reguleren? Ja.
• 1:41:41
  Dus ja, en dan zijn we op het punt waar denk ik veel denkers die zich druk maken om technologie met de hoofdletter P in de breedste zin zeggen:
• 1:41:50
  je hebt er zo, je hebt zo weinig aan burgerlijke inspraak als ze inspra-, als de burger inspraak heeft op iets wat hij/zij niet kan omvatten. Ja.
• 1:41:59
  Nou ja, goed, i-, d-d-dan denk ik ook, uh, uh, p-prima dat burgers het niet allemaal kunnen volgen, maar kunnen we dan in godsnaam een minister van AI aanstellen waar we een beetje vertrouwen in kunnen?
• 1:42:08
  Zeg maar, laat Robbert Dijkgraaf minister van AI worden, waar we een beetje vertrouwen in kunnen stellen dat die, dat die het overzicht in ieder geval beter houdt dan wij als simpele krantenlezers, uhm, dat kunnen doen.
• 1:42:19
  Dat daar een ministerie voor is, dat g-, dat niet alleen maar kijkt door de economische bril, zoals we nu geplacht zijn met AI te doen.
• 1:42:26
  Maar k-kijk door de diepe maatschappelijke gevolgen die, die, die de, die deze technologie gaat hebben, uh, om daar enigszins grip op te krijgen, om daar vast al op bij te sturen, om alvast scenarioplanning te doen.
• 1:42:37
  Allemaal dingen die nu verkokerd zitten in losse ministeries. In godsnaam kunnen we dan, kunnen we iemand aanstellen die nog een poging doet om over het geheel, uh, weet je, het geheel in de gaten te houden?
• 1:42:48
  En, en, en het, en, het is, het feit dat wij nu ons druk aan het maken zijn om de Instagrampost van Rob Jetten is zoveelzeggend over het gebrek aan, aan grip dat we hebben, uh, in, in.
• 1:43:00
  Ik denk dat mensen snakken naar leiderschap, uh, op dit onderwerp.
• 1:43:03
  Ja, en ik denk dat je de, uh, l-laten we dan op zijn minst inzetten als een soort topje van de ijsberg-ding en dan zeggen: oké, maar daar zit nog meer onder. Ja. Hè, want als je een soort- Nou, dat effect heeft het. Ja.
• 1:43:13
  En dat is ook prima. En, en, en, ik denk ook dat als politici zich nu aangesproken voelen, uh, en denken: oké, ik ga geen, uh, AI gebruiken in mijn communicatie met burgers, denk ik dat het een nettowinst is.
• 1:43:23
  Dus in die zin ben ik nog steeds blij met, dat dit nu even aangekaart [gniffelt] wordt, omdat het uiteindelijk gaat over onze menselijkheid.
• 1:43:29
  Ik, ik denk, dat is wat in de kern hier- Nou ja, en ik denk dat- ter discussie staat en waar, waar de pijn zit.
• 1:43:34
  Ja, en als jij zegt: oké, uh, iemand die een opiniestuk inlevert bij een krant en daar AI voor gebruikt, uh, jouw woorden vind ik minder erg, uh, want ik kan me voorstellen dat er een dag komt waarop het niet gebruiken van AI als raar gezien gaat worden voor de opiniestukken.
• 1:43:48
  Ja. Maar dat zegt dan niet dat een minister-president, uh, zijn denken deels, uh, outsourced aan een algoritme. Dat er blijkbaar de, in de politieke kamer minder ruimte is, uh, voor deze tooling. Mhm.
• 1:44:05
  [zucht] Ja, wat moeten we daarop zeggen, Wietse? Het is wat het is. Het is wat het is. Journalisten zeggen dan: we blijven het volgen. Zal ik maar met dat cliché eindigen? Wij blijven rennen [gelach] naast de trein.
• 1:44:15
  Naast die trein, ook al is hij al heel ver langs ons heen gereden. [muziek] bedankt Sam Hengerfeld voor de edit en Pankaj voor de vormgeving. Als je een lezing wil over AI van de heer Hagen of van mij, dan kan dat.
• 1:44:25
  Mail ons op lezingen@airapport.email. Wil je deze podcast sponsoren, dan ga je naar sponsoren.airapport.nl.
• 1:44:30
  En als je op de hoogte wil blijven van het laatste AI-nieuws en twee keer per week onze tips en tools wil ontvangen, dan ga je naar airapport.nl. Uh, dank aan onze sponsoren Samsung, CN.com en Moneybird.
• 1:44:43
  Wij zijn hier volgende week weer. Dag. Dag.
• 1:44:48
  [outro jingle]