Latest / AI Report / Het moet langzamer. Maar hoe?

Transcript

Het moet langzamer. Maar hoe? · AI Report

• 0:00
  Hoi Jeroen hier, product engineer bij Moneybird. Wij bouwen software die bankieren en boekhouden voor ondernemers een stuk makkelijker maakt. Ik sta hier met Edwin, CEO bij Moneybird. Edwin.
• 0:11
  We hebben in de afgelopen afleveringen al veel tips gegeven over werken met AI. Wat was voor Moneybird de grootste ontwikkeling afgelopen jaar?
• 0:17
  Ja, voor mij persoonlijk was dat wel het slimmer inkomend project waarbij we gekeken hebben hoe we met AI inkoopfacturen nog veel sneller kunnen verwerken. Dat was iets waar ondernemers nog best veel tijd aan besteden.
• 0:27
  Ik zelf ook en als ik zie hoe snel ik nu. Klik, klik, klaar die facturen kan verwerken. Dat is echt geniaal. Maar dat is natuurlijk een project wat jij zelf heel erg druk mee bent geweest. Dus wat?
• 0:34
  Wat valt jou het meest op? Het is gewoon ontzettend gaaf dat we zowel nieuwe features een stuk sneller kunnen bouwen met behulp van AI en dus ook met inkomend.
• 0:42
  Waar we laatst gezien hebben dat we al 10 miljoen documenten voor ondernemers gewoon klik en klaar klaargezet hebben. Wat gewoon ontzettend veel tijd bespaart om ondernemers te helpen op weg naar hun btw-aangifte.
• 0:52
  Ja, precies. En dat, dat zie ik op veel meer vlakken ook terugkomen.
• 0:54
  Inkoopfacturen is dan één, maar we hebben ook banktransacties die verwerkt moeten worden, btw-aangiftes die klaargezet moeten worden, controleren van de boekhouding. AI maakt zoveel mogelijk.
• 1:03
  En omdat we zelf AI in Moneybird toepassen in het team, kunnen we dat ook veel sneller ontwikkelen dan eerder. Dus de ontwikkelingen gaan super hard en ik kijk ook weer heel erg uit naar het komende jaar in, in AI.
• 1:12
  Dank je wel! Wil je nog meer tips en informatie over hoe wij werken met AI? Kijk dan op Moneybird.nl/ai-report. Meld je aan via de link en krijg 120 dagen gratis Moneybird.
• 1:21
  [muziek] Welkom bij AI Report, de grootste AI podcast van Nederland waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wytse Hage. Hallo.
• 1:36
  Met deze week: we gaan het hebben over, voor het eerst zijn de bazen van rivaliserende AI-labs het eens. De ontwikkeling van AI-modellen moet langzamer.
• 1:45
  Anthropic riep afgelopen zaterdag op tot vertraging en binnen een dag schaarden OpenAI, Musk en Google zich achter deze oproep. Maar niet iedereen was het met ze eens.
• 1:55
  In een telefoontje met Nvidia-topman Jensen Huang noemde Trump de angst voor AI een hoax. Je ziet het hem zeggen. Kan je hem wel voorstellen in je hoofd? Dat en meer in AI Report. Veel plezier!
• 2:05
  [muziek] Je hebt net echt een heel vet webinar gegeven waar ik toch de luisteraars even deelgenoot van wil maken. Je hebt The Gauntlet Loop uitgelegd.
• 2:22
  Leg even kort uit wat dat is. De, de laatste weken, uhm, gaan er allerlei demo's rond van best wel uit de hand gelopen computergames en, en software online.
• 2:33
  Mensen die insane dingen maken met AI, waarbij ik uit mijn AI-modellen echt niet een soort van grote games of video's of wat dan ook echt niet zomaar eruit krijg, zie ik op Twitter die wel voorbijkomen.
• 2:46
  En de manier waarop mensen dat gemaakt hebben is dus met deze skill.
• 2:49
  Ja, het is eigenlijk een, een, een stukje slimme prompt die ervoor zorgt dat er meerdere agents gaan draaien, waarvan één agent een examinator is die constant een lat hoog houdt als het ware, controleert of de opdracht die gegeven is daadwerkelijk uitgevoerd is.
• 3:04
  En als je dat toevoegt eigenlijk, dan krijg je dus een loop die blijft lopen en in de gaten gehouden wordt door een criticus en uren kan lopen. Daarbij mag gezegd worden voor heel veel tokens, dus euro's.
• 3:17
  Maar goed, dus dan je, je, als je het geld ervoor beschikbaar hebt, kun je dus een AI-systeem tot het uiterste drijven door eigenlijk een soort van ingebouwde examinator bovenop jouw projecten te zetten die de hele tijd die onderliggende AI aan het vertellen is: doorgaan, doorgaan, doorgaan.
• 3:34
  En dit is, ik vond het fascinerend om over te leren, want ik, ik sprak met een AI-onderzoeker een paar weken geleden. Die, ik vroeg die: hoeveel geef jij uit aan, aan AI tokens?
• 3:43
  En die zei € 50.000 tot € 100.000 per maand. En toen, toen dacht ik: wat leven we? Ik vind het interessant. Één, omdat ik niet begreep hoe je zoveel geld uitgeeft.
• 3:52
  En dat dit soort loops blijkbaar onderdeel daarvan te zijn. Dat er dus een hele subset van mensen is die, uh, het voor elkaar krijgt om veel meer uit AI-modellen te krijgen dan dat ik eruit krijg.
• 4:02
  Daar word ik nieuwsgierig van.
• 4:03
  Maar twee, het is, het, het, het is ook weer een, uh, extra take van de splitsing in de samenleving tussen Silicon Valley, waar ze dus € 100.000 aan tokens per persoon per maand uit kunnen geven en dus zien, veel beter gevoel hebben van wat die modellen kunnen.
• 4:19
  Want het is even een andere orde van grootte van wat je eruit krijgt als je zoveel geld uitgeeft dan de € 20 die de meesten van ons er per maand aan uitgeven.
• 4:26
  Uhm, en dat verklaart dan voor een deel ook weer de, ja, de enorme inhaalrace die mensen de afgelopen weken aan het maken zijn om iets te begrij-, iets van chocola te maken van dat hele Hugging Face OpenAI hack debacle wat voor veel mensen als soort van totaal uit de lucht komt vallen.
• 4:43
  Soort van, ge-, soort van ChatGPT was gisteren nog gewoon een ding wat teksten voor mij samenvat en nu opeens is het een einde van de mensheid.
• 4:51
  Dit is, ik snap wel dat mensen denken: wat gebeurt hier en hoe serieus moet ik dit nemen? En ik vind het doodeng en alles tegelijkertijd. Dus de, de,
• 5:01
  de, de, de, de, de, die, de soort van de, de tech, de realiteit van wat er technisch vandaag al kan en wat in Silicon Valley gebruikt wordt versus hoe wij erover lezen, hoe er in de Tweede Kamer over gesproken wordt, hoe wij die software zelf gebruiken.
• 5:15
  Er zit zo'n grote kloof tussen. Sander Schimmelpenninck zou er een serie over kunnen maken. En ik denk dat, ik bedoel, jij viel letterlijk een aantal keer stil met, tijdens die webinar. Dat is nog nooit gebeurd.
• 5:24
  [lacht] Nee, maar omdat je, maar je zat me echt aan te kijken met een blik van: kan dit? Kan iedereen dit nu? Ja. Want dat zit er ook achter.
• 5:31
  Ik denk dat, uhm, kijk, v-volgens mij de, de, daar gaan we straks wat dieper op in, hoor, maar de, de intuïtie over AI komt dan uit die soort chatgesprekken die mensen zelf hebben en dan denken: oké, dat is toch AI dan.
• 5:43
  Terwijl op het moment dat je dat dus veel meer tijd geeft om door te redeneren, gebeurt er iets bijzonders. Maar ook als je er heel veel tegelijk dat laat doen. Ja.
• 5:51
  Dus er komt een soort AI collectieve intelligentie bij kijken. En nu zitten wij met z'n allen vaak, jij en ik ook, te kijken naar de grafieken van hoeveel slimmer is het model geworden.
• 6:01
  Terwijl je hebt ook de grafiek: wat gebeurt er als je hem langer laat nadenken? En dan: wat gebeurt er als je er heel veel heel lang laat nadenken? Ja.
• 6:09
  Hè, want dat millenniumprobleem is opgelost door 10.000 AI agents die met elkaar in een collectief aan het samenwerken waren. Ja.
• 6:17
  De Hugging Face hack waren er 900 op het hoogtepunt uit mijn hoofd, die met elkaar die hack hebben gezet. En ik denk dat daarin, uhm, als je je Uh bekend ben met het idee van: een groep weet vaak meer dan een individu.
• 6:30
  Ja. Weet dan, dat geldt ook voor die AI-systemen. Dat heeft ook nadelen. Dat hebben we de afgelopen weken, is dat, uh, bij ons allemaal wel duidelijk geworden wat er gebeurt als zwermen AI samen gaan werken.
• 6:43
  We gaan naar het nieuws. [muziek] Want afgelopen zaterdag publiceerde Dario Amodei, de topman en van Anthropic, een essay van 3800 woorden waarin hij reageerde op de paniek die is ontstaan.
• 7:00
  En daarin staat één zin vetgedrukt: we moeten het tempo vertragen waarin we de capaciteiten van AI-modellen verbeteren.
• 7:08
  Hij wil nadrukkelijk geen ontwikkelingsstop, maar hij wil wel meer tijd tussen de sprongen die nu gemaakt worden. En volgens hem brachten twee dingen hem daartoe.
• 7:17
  Ten eerste bouwt AI sinds deze zomer steeds meer zelf aan de volgende generatie van AI-systemen. En ten tweede was er in juli die zwerm AI agents die binnendrong bij technologiebedrijf Hugging Face.
• 7:30
  In 2023 vond Amodei een pauze nog onzin, omdat modellen toen nog nergens in staat wa-- nog nergens toe in staat waren, schreef hij in zijn essay.
• 7:38
  Maar nu denkt hij dat zo'n zwerm binnen 6 tot 12 maanden het hele internet kan overnemen met een, zo schrijft hij, permanent botnet. Een netwerk van gekaapte computers dat zich moeilijk laat uitschakelen.
• 7:49
  Binnen 16 uur hadden alle grote labs gereageerd op de oproep van Amodei. En dat is interessant, want het zijn natuurlijk geen vrienden van elkaar.
• 7:56
  Even ter herinnering: Sam Altman van OpenAI en Amodei gingen in 2021 juist uit elkaar na een ruzie over veiligheid van AI-systemen. Daar is dus Anthropic uit OpenAI voort, uh, ge-, g-, ja, voortgekomen.
• 8:10
  En Elon Musk, eigenaar van, uh, xAI, ligt al jaren met Altman in de clinch. Tot in de rechtszaak, uh, tot in de rechtszaal aan toe.
• 8:17
  Toch reageerde Musk al een uur, uh, na het uitkomen van het essay, essay dat Amodei gelijk heeft.
• 8:24
  Altman volgde na anderhalf uur en zei dat ze de afgelopen weken over weinig anders hebben gepraat bij OpenAI en Demis Hassabis van Google DeepMind noemde het de juiste richting.
• 8:34
  Altman zei verder tegen zakenblad Fortune dat de beursgang van OpenAI tot minstens 2027 wordt uitgesteld vanwege deze zorgen om veiligheid.
• 8:43
  Nou, dit alles zorgt voor grote irritatie bij de Amerikaanse president Donald Trump. Uh, hij kwam, uh, maandag aan de telefoon, uh, toen Jensen Huang van Nvidia live op een podium zat.
• 8:53
  Die, er kwam een assistent aangehold met een telefoon, omdat de president belde. Dan neem je op, zelfs als je op een podium zit.
• 9:00
  En vervolgens, uh, liet, uh, Huang, uh, de telefoon op speaker zetten en kon hij dus meeluisteren met de president die aan de zaal te kennen gaf dat hij het allemaal maar een hoax vindt.
• 9:09
  Robots nemen de wereld niet over en, uh, wie wil vertragen speelt mensen in de kaart die AI niet willen zien slagen. En daarmee bedoelt hij dan mensen met een andere politieke agenda, oftewel de Democraten en China.
• 9:23
  Oftewel als we nu vertragen, dan spelen we China eigenlijk de globale wereldheerschappij toe. En intussen stonden dinsdag senator Bernie Sanders en Steve Bannon na elkaar op hetzelfde podium.
• 9:34
  Dat is dus aan de ene kant een socialist en aan de andere kant de oud-adviseur van Trump en iemand die de hele MAGA-beweging vanaf het begin mede vorm gaf.
• 9:44
  Allebei waren zij echter, ondanks dat zij dus van totaal verschillende politieke, ja, g-, uh, richtingen afkomen, het eens. Samen willen ze namelijk een verbod op superintelligentie.
• 9:55
  De conclusie: we zijn met z'n allen zeer verdeeld over hoe we verder moeten. En daar gaan we het, uit, dadelijk uitgebreid over hebben. Maar eerst een boodschap van onze nieuwe sponsor PostNL.
• 10:03
  [muziek] Waarom rijdt een bezorgbusje vandaag net een andere route dan gisteren? En het antwoord zit steeds vaker in algoritmes. Achter de schermen wordt logistiek steeds slimmer.
• 10:17
  Niet door één grote doorbraak, maar door duizenden kleine beslissingen per dag over routes, volume en timing. Bij PostNL wordt gewerkt met een digital twin van zijn eigen operatie.
• 10:26
  Met deze tweeling kun je voorspellen waar het druk gaat worden, pakketten slimmer sorteren en herken je zelfs wanneer een pakket fysiek zwaarder is, zodat je het op een andere manier moet verplaatsen.
• 10:36
  Dat klinkt technisch, maar de impact is heel menselijk. Minder zwaar werk voor medewerkers en met teams werken met dezelfde informatie. En dat zorgt voor meer voorspelbaarheid voor webshops en de consument aan de deur.
• 10:47
  Dit alles zorgt voor efficiënter werken in een netwerk dat dagelijks miljoenen bewegingen verwerkt. Zo werkt AI dus in de praktijk niet als futuristische belofte, maar als stille optimalisatie van wat er al is.
• 10:57
  AI levert pas waarde waar het mensen ontmoet, in dit geval op de route, in het depot en uiteindelijk aan de deur. Wil je meer weten over hoe PostNL AI verweeft in post en pakketten? Ga naar postnl.nl/ai.
• 11:09
  [muziek] Oké Wytse, laten we beginnen bij wat Amodei, want dat is toch een beetje de aanstichter van, uh, de, ja, de, de, de verpolitisering misschien van deze discussie en de, de oproep om regelgeving waar het nu over gaat naar aanleiding van de Hugging Face OpenAI-hack.
• 11:28
  Laten we eerst beginnen met zijn plan. Zijn plan bestaat uit drie delen. Het eerste is het toelaten van externe beoordelaars binnen hun bedrijven.
• 11:36
  Dus hij zegt eigenlijk: uhm, wij willen de deuren openen voor een aantal gespecialiseerde mensen die toegang krijgen tot onze hele codebase, met onze medewerkers kunnen praten, uh, gewoon het toegangspasje tot het gebouw, een laptop van het bedrijf en, uh, doe wat je wil en minus wat kleine redactions die we gaan doen als het echt gaat om security-gerelateerde dingen, mogen ze alles schrijven over wat er bij ons gebeurt en wij stellen, uh, het bedrijf open en we roepen andere bedrijven op om mee te doen.
• 12:06
  Ten tweede zeggen ze, uh, ze willen afspraken tussen Amerikaanse labs over het tempo en de normen die ze daarbij hanteren.
• 12:15
  Uh, dus dat is het tweede, dat ze met elkaar om tafel gaan om afspraken te maken over, uh, hoe snel ze gaan, om, om die racedynamiek eruit te trekken.
• 12:25
  En ten derde stelt hij voor dat we op internationaal niveau afspraken gaan maken ook, en dan bedoelt hij natuurlijk met China.
• 12:33
  Uhm, om gezamenlijk als mensheid eigenlijk afspraken te maken over, uh, hoe we kunnen voorkomen dat die racedynamiek ervoor gaat zorgen dat er risico's genomen worden die eigenlijk, uh, onacceptabel zijn.
• 12:47
  En als voorbeeld waarvan, iets waar je met de Chinezen over zou kunnen praten, zegt Amadé, uh, en waarbij dat waarschijnlijk ook nog wel tot resultaat leidt, is bijvoorbeeld, uhm, heel streng zijn op het gebruik van AI-modellen voor het maken van biowapens.
• 13:06
  Dat je samen afspreekt: dat is een brug te ver voor ons internationaal en, uh, dat is, ook in China, uh, zullen mensen daar niet voor zijn, uh, dat, uh, uh, dat, ja, groeperingen in het land, uh, modellen gebruiken om biowapens te, te maken.
• 13:21
  Dus dat is dan iets waar je het heel snel over eens zou kunnen worden. En vanuit daar ga je dan kijken: hoe kunnen we zoveel mogelijk common ground vinden om regels te, te, te verzinnen?
• 13:30
  Dat zijn de drie niveaus die hij voorstelt en waar grosso modo al die leiders het wel over eens leken te zijn. Zo kwam het op mij over. Wat, uh, wat vind je van zijn, uh, v-van zijn plan?
• 13:43
  Want het is duidelijk, hij noemt het pacing, maar het is geen pauze. Uh, het is, het is doorgaan, maar met iets meer, ja, hoe moet ik dat zeggen, iets meer overleg tussen de partijen.
• 13:52
  Ja, en ik denk ook, ik bedoel, d-d-de, de pauze, uhm. Dat vat het goed samen. Dat vat het heel goed samen, denk ik.
• 13:58
  Want kijk, uhm, sowieso Amadé was er vroeg bij, hè, dus als in, uh, dat hij nu hiermee komt, is denk ik omdat hij er gewoon al wat langer over nagedacht heeft als de rest.
• 14:07
  En er nu, nou ja, ik wou zeggen, ik wou zeggen genoeg reden is, uh, om dit te doen. Tegelijk terwijl ik het zeg twijfel ik, maar daar gaan we het straks over hebben.
• 14:20
  N-nu is er in ieder geval politiek bewustzijn, uh, rondom dit onderwerp en dat betekent dat je dan nu kan gaan zeggen: hoe gaat het speelveld eruit zien dan? Wie controleert wie? Waar komen die controleurs vandaan?
• 14:30
  Voor wie werken die controleurs? Et cetera. En hij gooit nu het eerste kleu-stuk klei op tafel en dan kunnen we allemaal zeggen dat we de vorm niet goed vinden en er wat anders van kunnen maken, hè.
• 14:39
  Uh, blijkbaar zeggen de andere CEO's op Mark Zuckerberg na: uh, wij zijn het eigenlijk wel eens met wat we hier zien. Uhm, uh, is ook niet zaligmakend, hè, want wie is dan die partij die controleert, et cetera.
• 14:51
  Kan je allemaal weer heel veel vragen over stellen en cynisch over zijn, maar het is tenminste een idee. Ja, en we hebben dit natuurlijk in andere sectoren ook.
• 14:58
  Als er een, als er een vliegtuig neerstort, dan heb je een, een onafhankelijke, uh, club die gaat onderzoeken wat daar gebeurd is en dan wordt daar door die sector heel, h-dat wordt heel serieus genomen.
• 15:09
  Als er een, als er een auto wordt gefabriceerd waarbij een probleem blijkt te zijn met de rem, dan worden alle auto's teruggeroepen.
• 15:16
  En dat zijn allemaal gestandaardiseerde processen waarbij de dynamiek zo is dat als een bedrijf iets maakt, dat ze daar aansprakelijk voor zijn en dat het, uh, na onderzoek heel serieus genomen wordt en er van alles gebeurt om dat te corrigeren.
• 15:31
  Ja, dat, dat mist nu in deze sector en, en eigenlijk worden nu de eerste stappen gezet om in ieder geval inzicht te krijgen in wat daar binnenskamers gebeurt.
• 15:40
  Ja, en ik denk dat, ik bedoel, daarbij is natuurlijk, uh, een a-, de druk. Waarom ga je innovatie remmen? Is wat heel veel mensen nu al roepen. Van: wat zit je nou te doen? Dit hebben we nodig.
• 15:51
  We gaan dingen g-genezen en de wereld een mooiere plek maken, hè. Er komt overvloed voor iedereen en jullie trekken nu op een soort pacing-rem van overvloed. Waar ben je mee bezig?
• 16:00
  En, uh, groot commentaar op dit plan, hè, want het is één van, dit is het grootste commentaar. Dit is regulatory capture. Oftewel: je hebt met elkaar een, een speelveld.
• 16:09
  Daarin zijn de sterkste spelers inmiddels bepaald en die gaan zichzelf reguleren waardoor niemand er meer bij kan komen. Want om op dat niveau te kunnen opereren kan alleen maar als je groot bent met diepe zak, hè.
• 16:18
  Dus het is één van de, en, uh, ik zou zeggen: dat is allemaal niet, niet waar. Ja, je gaat innovatie deels remmen. En ja, de kans op regulatory capture neemt toe. Laat het gewoon helder zijn.
• 16:29
  Dat zijn, dat is de prijs die je betaalt door, uh, een soort atoomagentschap te gaan oprichten waar binnen weer cor-corruptie kan zijn, enzovoort, enzovoort, enzovoort, enzovoort.
• 16:37
  Maar dan aan de andere kant zeggen: joh, laten we het gewoon zelf oplossen, uh, uh, uh, innovatie moet vliegen, uh, uh, ga lekker door.
• 16:45
  Ik denk dat dat, uh, argument of die redenatie heel moeilijk te verdedigen wordt naarmate de tijd vordert door de incidenten. Ja.
• 16:54
  Nou en eigenlijk is stap één met die beoordelaars, is dus eigenlijk dit een beetjeee, w-wat nu elke keer is gebeurd, is dat achteraf eigenlijk een hoop duidelijk wordt en dan worden beoordelaars toegelaten.
• 17:06
  Zo ging dat in dit geval met Meta en Redwood naar aanleiding van het OpenAI-debacle, wat uitkwam omdat Hugging Face daarover publiceerde.
• 17:14
  Dat, dat is belangrijk om te beseffen dat deze hele keten pas in werking is gekomen nadat een externe partij erover ging praten.
• 17:21
  Toen werd duidelijk dat er eigenlijk veel meer is gebeurd in de, in de tijd daarv-voorafgaand.
• 17:27
  En dat is natuurlijk eigenlijk heel raar dat wij nu afhankelijk zijn van die bedrijven wanneer ze het ons gunnen om [gniffelt] informatie te krijgen over agents die uit sandboxes ontsnappen.
• 17:38
  Dat er dan iemand bij die bedrijven nu moet beslissen van: nou, dit is de moeite waard om te delen met de wereld. Dat is een heel onprettige uitgangssituatie.
• 17:44
  Ik denk dat de mensen die hier naar kijken, uh, die hier, die zeggen, het is wel bizar, hè, want het is een industrie die roept om regulatie. Dat zie je gewoon niet zo heel erg vaak.
• 17:54
  En dat kan eigenlijk maar twee dingen betekenen: ze willen gereguleerd worden, want dat is een veel betere marktpositie om gereguleerd te zijn, hè, regulatory capture.
• 18:01
  Of ze zijn zo geschrokken dat ze om regulatie roepen. Ja, ik ga toch even in dit deel van de geschiedenis uit van nummer twee. Ja.
• 18:09
  Dat er echt [gniffelt] mensen vragen om, we moeten iemand hebben die vanaf boven de arbiter is, die vanaf boven de scheidsrechter is. Anders is dit spel, de dynamiek van dit spel te gevaarlijk wat we nu spelen. Ja. Ja.
• 18:21
  Ja. Ja. En een, en een eerste stap voor regulering is, uh Ja, inspecteurs toelaten zoals dat, uh, met atomaapjes gebeurt.
• 18:32
  En zoals dat ook in de financiële sector normaal is dat je dat iemand van Medisch gezien waarschijnlijk ook, hè. Als jij iets met men, in mensen wil stoppen met medicijnen, ben je ook helemaal gereguleerd. Ja.
• 18:41
  Dus dat zijn, in allerlei sectoren zijn we gewend dat er veel meer transparantie eigenlijk vereist wordt van deze bedrijven. Er zijn verschillende manieren waarop je dat kan doen.
• 18:49
  Musk die stelde voor dat, uhm, dat zelfs Chinese grote AI-bedrijven en dan alle AI-bedrijven samen voordat een AI-model uitkomt eigenlijk de modellen aan elkaar voorleggen.
• 19:01
  Dus dat hij, hij stelt voor om niet een overheids-, uh, instantie hier, uh, verantwoordelijkheid over te geven, maar juist, uh, de, de concurrerende labs.
• 19:11
  Want hij zegt: die hebben nog veel meer incentive om elkaar helemaal kapot te, uh, te maken in die tests.
• 19:19
  Uh, dus laat die elkaar maar testen en dan, uh, dan, dan is dat een manier om, uh, veiligheidsgaten te constateren in, uh, in, in die modellen. Is ook nog een optie, uh.
• 19:31
  Ja, en ik denk ook, ik bedoel, w-uh, wat mij betreft- En iets wat ze met elkaar kunnen afspreken. Dit kunnen ze gewoon gaan doen. Daar hebben we niet eens toestemming van Donald Trump voor nodig.
• 19:39
  Van een raamwerk omheen waardoor je, uh, uit die, deels uit die race dynamiek kunt komen. En dat je de, ja, de, de incentives, de, de, de motivaties van de mens, dynamieken een beetje gezonder maakt.
• 19:52
  Want het is, er ligt nu gewoon een spel met vrij weinig spelregels waarbinnen allerlei bizarre excessen ontstaan. Wat wij al lang weten van allerlei eerdere industrieën die wel gereguleerd zijn.
• 20:02
  Dus laat ik, b-bedoel regulatie, dan, h-, dan horen de meeste mensen meteen overheid. Ik denk dat dat nog niet eens zozeer zo zou hoeven zijn. Maar goed. Je kan jezelf ook reguleren. Nou ja, in de scenario's.
• 20:13
  Ik bedoel, ik heb daar mijn eigen ideeën bij, maar ik, ik, ik moet eerlijk zeggen dat,
• 20:18
  uhm, w-wat ik nu een beetje zie gebeuren is dat er, kijk, in, in een debat wat nu gevoerd wordt, breed, zeg maar, op allerlei verschillende niveaus, uh, is het zo dat ik altijd probeer te bedenken: oké, waar kan je het beste de energie in stoppen in dit debat, hè?
• 20:31
  Het is of, wij lopen met z'n tweeën door een of andere arena heen. We horen allerlei debatten om ons heen en ik ga dan bedenken waar, met welk groepje gaan wij ons nu bemoeien? Of met welk gesprek gaan wij nu meepraten?
• 20:42
  Kijk, de mensen die nu zeggen: het valt allemaal wel mee, er is helemaal niet zoveel aan de hand, het is grotendeels hype, et cetera. Ja, ik negeer dat een beetje, omdat ik denk in mijn- Ja, dat komt er nog eens bij.
• 20:53
  Dus je, je bedoelt te zeggen- Ja, dat is ook gaande. Ja. Het is niet waar. Ja. Er is niks aan de hand. Ja. En ik denk dat, uh, dat, dat- Want wat zeggen die mensen? Want nu, dit, dit is nu. Ik spreek vooral mensen die,
• 21:05
  uh, toch wel, dat zijn dan, uh, mensen die dit helemaal niet gevolgd hebben, nu voor het eerst in de krant hierover lezen, op tv erover zien,
• 21:14
  uh, mij zien op tv en, en dan schrikken en vertellen dat ze schrikken van het feit dat ik geschrokken ben. Dat is dan de- Ja. Uh, de, ik ben dan de proxy. Ik ben ook geschrokken dat jij geschrokken bent. Ja, precies.
• 21:24
  Kan ik je vertellen. Ja. Uhm, dus de, uh, het is een, dit is een grote groep voor wie dit gewoon als nieuws komt en als een donderslag bij heldere hemel komt en, en gewoon een beetje angstig hierover zijn.
• 21:37
  Maar je hebt ook een, een groep, uh, van mensen die zeggen: ja, maar, uhm, al deze dingen kun je ook uitleggen als gewoon aandacht trekken van die AI-bedrijven om hun beur-beurskoersen op te vijzelen.
• 21:53
  En volgens mij gaat die redenering ongeveer zo. Eerst zeggen die bedrijven, uhm, dat AI ons heel veel, uh, winst, productiviteit en levensvreugde gaat geven, ziektes oplossen en alles.
• 22:07
  Vervolgens materialiseert dit niet en, uh, opeens, uhm, uh, uh, komt daar uit dat die bedrijven heel veel kwaad doen, dus gebruiken veel water.
• 22:19
  Ze, bij het genereren van die modellen hebben ze allemaal auteursrechtelijk beschermd materiaal misbruikt.
• 22:24
  Uhm, en dan vervolgens, uh, creëren ze, nou ja, met, met hun datacentra die niemand in zijn da-, in z'n, in z'n achterbuurt wil, uh, creëren ze een situatie waarbij er onve-ontzettend veel energie gebruikt wordt.
• 22:38
  Waar dan van blijkt dat de soort van meest materiële wat er gebeurt is het hacken van andere bedrijven. En dan vervolgens zeggen ze, uh, je, je, je zou niet willen dat dit bij jou ook gebeurt.
• 22:49
  Oh, nou, dan, uh, moet je onze technologie kopen, want dan gaan we je beschermen. Dus degene die je, die je aanvalt is dan degene die opeens een beetje maffia- GVT Cyber.
• 22:56
  Ja, machtig, maffia-achtige p-praktijken met beschermingsgeld, uh, met allemaal tech bros die überhaupt dicht tegen Trump aanleunen. Uhm, wat moet je er nou van geloven, van hele, van deze?
• 23:08
  Het is, het is ook een, een hele grote groep die hier zo over, over nadenkt. En het is wat mij betreft niet moeten kiezen tussen deze frames.
• 23:16
  Ik vind dat dit, dat, dat deze uitleg van wat er, wat er nu gebeurt, hè, om uit te leggen waar komt dit nu allemaal vandaan ineens?
• 23:22
  Dat je die allemaal mets-best met elkaar mag wegen en ook absoluut met elkaar mag vermengen. Uh, uh, als in weet je dat, weet je dit, want er is er nog één.
• 23:30
  En dat is: het is superinteressant om deze technologie te houden in een, in de handen van een kleine groep mensen die deze kracht aankunnen.
• 23:40
  Dus, uh, je moet het helemaal kapot reguleren, zodat je een paar partijen wereldwijd hebt die deze magie mogen hebben.
• 23:46
  Ja, het is juist goed dat het in handen van een heel klein groepje is, want dan kunnen we het makkelijker controleren dan dat- Ja, en wat Daryl MRD nu aan het doen is, is alles naar hem toe aan het trekken, want hij vindt dat wij er allemaal niet mee om kunnen gaan, maar hij wel.
• 23:59
  Dus je moet het overlaten aan een kleine club die de magie heeft, zoals de hele menselijke geschiedenis is. Namelijk kleine groepen mensen die wel dingen mochten en de rest niet.
• 24:07
  Dus dit is, uh, een ander argument om er maar even te noemen. Ja, dat is natuurlijk heel verwarrend.
• 24:10
  Voor helemaal, helemaal voor de gemiddelde consument die net komt kijken bij dit hele onderwerp en echt denkt: [lacht] wat gebeurt hier allemaal? Zeker.
• 24:18
  En aan de ene kant heb je dan mensen die zeggen, uh: ik zeg mijn baan al bij een tropik, want ik geloof dat deze technologie, uh, uiteindelijk het spelen met mensenlevens is.
• 24:28
  En misschien zijn we allemaal wel dood, uh, over een tijdje door deze AI-modellen.
• 24:31
  En aan de andere, en aan de andere kant mensen, uh, zeggen, die, ook academici, die de hele tijd door de NOS worden geciteerd, uh: dit is allemaal marketinggelul. We gaan zo door.
• 24:42
  Eerst een boodschap van onze sponsor CM.com. [muziek]Hoi Rutger, hier van CM.com en leuk dat je weer luistert. Vorige keer hebben we gesproken over conversation mining.
• 24:53
  Dat is het realtime extraheren van inzichten uit klantgesprekken om je dataopslag te verrijken, zodat je AI agents steeds wat slimmer worden en je campagnes gerichter.
• 25:02
  En vandaag gaan we het hebben over waar je die inzichten dan kwijt kan.
• 25:04
  We zijn allemaal wel bekend met CDP's en CRM's dataplatformen voor klantgegevens, maar anno 2026 zie je dat er bij CM.com, maar ook elders in de markt, nieuwe categorieën aan dataplatformen voor klantgegevens omhoogkomen, die veel flexibeler zijn, maar bovenal gestructureerde data die relevant is voor je klant op één plek verzamelt voor marketing, sales, service en business intelligence doeleinden.
• 25:26
  Dat is superlogisch als je dat zo in één zin hoort. Al je customer facing afdelingen flexibel bedienen met één system of record. En toch is het vrij nieuw. Bij CM.com noemen we dit ons CXP of Customer Context Platform.
• 25:37
  Het verschil met bijvoorbeeld een datawarehouse is dat het geen voorbepaalde datastructuur heeft.
• 25:42
  Alle datapuntjes die je leert en relaties tussen die verschillende datapuntjes kun je kwijt in een graph en die beweegt mee met jouw veranderende bedrijf.
• 25:50
  Een simpele uitkomst als mensen die X kochten, kochten ook Y, wordt daarmee een eenvoudige en snelle vraag om beantwoord te krijgen.
• 25:56
  Elk latent segment, elke query ligt panklaar op je te wachten in een flexibel model dat al je datapuntjes kan bereiken.
• 26:03
  Zo plaats je dus al die data rechtstreeks bij alle agents en business users in je bedrijf in plaats van de IT-afdeling en creëer je een soort evoluerend geheugen over je klanten.
• 26:12
  We leggen meer uit over deze platformen en specifiek ons CXP op CM.com/AI-report. Laten we misschien daarmee beginnen. Het geruststellende, uh, het geruststellende, uh, frame noem jij het, is, dit is gewoon marketing.
• 26:30
  Het is marketing van die AI-bedrijven. Uh, zij zijn uiteindelijk gewoon bezig met een spelletje om zichzelf nog machtiger te maken hiermee. Hoe, hoe luister je dan naar die,
• 26:41
  uhm, geruststellende, dat zou je kunnen zeggen, gerus-geruststellende context bij, bij dit hele verhaal? Uh, nou ja, ik, kijk, ik denk dat voor mij, uh,
• 26:52
  als we nou gewoon de CEO's allemaal gaan negeren, hè, dus we blocken alle CEO's, we gaan niks meer luisteren en lezen van wat Sam Altman, Dario en allemaal zeggen, dat gaan we nu doen.
• 27:00
  Ja, jij zegt: we nemen aan, zij spreken niet de waarheid, want zij spreken in het belang van- Shareholders, wie dan ook. Precies. Toekomstige shareholders. Oké, dus we nee-- dat nemen we even aan, ja?
• 27:09
  Ja, wat je dan overhoudt is de mensen die binnen de labs werken en de mensen die niet binnen de labs werken, maar kunnen snappen wat er gebeurt binnen de labs.
• 27:17
  Want voor de duidelijkheid, jij en ik kunnen dat eigenlijk ook niet. Wij hebben het ook van, ik, ik lees allemaal, ik praat met mensen. Maar jij zegt: er zijn mensen die bij die labs werken, die maken zich ook zorgen.
• 27:26
  Nou, dus, dus als we stoppen met luisteren naar de CEO's en we gaan luisteren naar de mensen die er werken.
• 27:30
  Het merendeel van de mensen die er werkt, zeker in de laatste twee weken, heeft publiekelijk, met naam en toenaam, met risico voor eigen equity, om het helemaal af, uh, cynisch te zeggen.
• 27:39
  Waar meant je met risico voor eigen equity?
• 27:41
  Want je zou juist ook kunnen zeggen: ja, deze mensen hebben ook gewoon een geldelijk belang bij, want ze hebben allemaal aandelen in die bedrijven, dus, de, het, de koers van het aandeel is voor- Dat ligt eraan of ze blijven, want heel veel gaan er ook weg.
• 27:50
  Dus als jij, als jij weggaat, dan krijg je je aandelen niet meer, want die moet je laten staan een tijdje, dus dat, dan, dan geef je het op.
• 27:56
  Uh, uh, je hebt zelfs, die, d-die hoppen van de ene naar de ene naar de ander, zie je nu, de laatste drie, zes maanden daar, et cetera.
• 28:02
  Uh, dus jij, je zou kunnen zeggen: die passen nog steeds binnen het oude frame, want die kunnen dan weer meer verdienen als ze met z'n allen in consensus zingen dat ze zich allemaal tegelijk zorgen maken.
• 28:11
  Het is een moeilijker complot geworden nu, hè, want je hebt veel meer mensen die je allemaal moet alignen.
• 28:15
  B-, hè, niet als modellen, maar als mensen, die allemaal moeten gaan afspreken onderling, dat, dat is iets wat ze niet zien in hun lab, hè, dus ze zien geen grote groei.
• 28:24
  Ze schrikken niet van hun eigen swarms die ze bouwen, maar wel naar buiten toe gaan vertellen alsof dat wel zo is. Dan moet je een hoop mensen hebben die meedoen. Mhm. Dus dat, maar dat, dit bestaat.
• 28:32
  Ik bedoel, dat kan gebeuren.
• 28:34
  Dan heb je de mensen buiten de labs, academici, mensen van andere labs die naar andere labs kijken, mensen uit andere landen, ja, die meedoen in, dus, in de, in de AI-wereld, die ook allemaal meedoen in het complot, want die moeten dan ook allemaal mee gaan liegen.
• 28:47
  Met het complot bedoel jij: net doen alsof er niks aan de hand is? Uh, nee, net doen alsof er iets aan de hand is. Oh, sorry. Ja. Ja. Net doen alsof het allemaal heel erg is. Ja. Ja, dat noem je een complot.
• 28:57
  Dus iedereen is klokkenluider, iedereen is alarmbellen aan het rinkelen. Mhm. Voor iets wat alleen maar, de, alleen maar is voor de marketingmachine van, van, van de grote AI-bedrijven. Mhm.
• 29:07
  En je hoort aan mij in hoe ik dit uitleg. Ja, ik, ik geloof het gewoon niet. Ik geloof dat dit meetelt.
• 29:12
  Ik geloof absoluut dat het interessant is om, i-, ergens iemand bang voor te maken en vervolgens de oplossing ook aan die persoon te verkopen. Want dit gebeurt ook met Fable, speciale mythos modellen en GPT Cyber.
• 29:23
  Dus ik zie dat ook. Dus ja, ik denk dat dit meeweegt, maar dat gewicht is niet zwaar genoeg om helemaal te verklaren wat er nu aan de hand is.
• 29:32
  Ik denk dat dit mijn punt vandaag is, dat dat niet genoeg is om de zorgen weg te nemen.
• 29:37
  Daarmee kan je misschien wat lucht uit de ballon halen, maar je bent nog niet van je ballon af, want je hebt nog steeds heel veel mensen in andere landen.
• 29:46
  En is er een soort handelingsperspectief wat die groep, want al ik, als ik dit nu even als een soort, misschien een beetje flauw, maar om de wereld in te delen in een soort van ideologische stromingen op dit moment, dan heb je dus een groep die zegt: dit is marketing, dit is, uh,
• 30:00
  ja, het opblazen van hype uiteindelijk om de beurskoersen van die bedrijven op te vijzelen. Wat is dan het handelingsperspectief wat die groep voorstelt? Regelgeving neem ik aan. Maar vanuit waar dan precies?
• 30:13
  Uh, oh nee, ik moet eerlijk zeggen dat, voor wat, nou, uh. Moet ik misschien ook aan die mensen vragen, maar.
• 30:19
  Ja, zou ik niet, w-want ik moet eerlijk zeggen dat, volgens mij, uhm, ga je dan op hele andere manieren reguleren, want dan wil je gaan kijken: hoe komt het toch eigenlijk dat ze zoveel geld kunnen ophalen en ons zo voor de gek kunnen houden en al die macht daar naartoe gaat, et cetera.
• 30:33
  Maar ik, ik denk, en dat, dat zat ook in het, uh, in het intro, uhm, dat Bannon, MAGA en Bernie Sanders, uh, sociaaldemocraat binnen de, uh, linkse- Communist, ja.
• 30:46
  Linkse, uh, vleugel van de Democraten, dat, uh, die op een bepaalde manier enig consensus kunnen vinden, laat voor mij zien, want mijn doel vandaag is niet om de groepen, uh, een label te geven Mijn doel zou zijn samen met jou om de frames in kaart te brengen.
• 31:03
  Want we delen de frames. Dat ik, dat stukje commercieel frame hangt ook een beetje in mij, hoor. Dat is prima, daar hou ik echt wel rekening mee.
• 31:09
  Maar dat we een beetje beter beginnen te begrijpen dat volgens mij, en, en dan maak hem alvast rond, want dat helpt denk ik voor de rest van dit gesprek. Iedereen is bang. Bang voor regulatory capture.
• 31:21
  Bang voor veel te veel macht door bedrijven die liegen over wat ze eigenlijk wel of niet doen. Bang voor AI. Het is al, uiteindelijk zijn alle frames en de mensen die die dragen- Er zit achter van: we verliezen iets.
• 31:33
  Als we niet opletten, dan verliezen we iets, want we laten ons voor de gek houden. Of, uh, of we zijn niet bang genoeg. Iedereen is bezig met: we verliezen iets. Dus ik denk dat we, wat ik [gniffelt]
• 31:44
  heel, uh, hoe zeg je dat, bijna naïef probeer te doen hier, denk ik, dat we een beetje begrijpen met elkaar van: geef voor jezelf die frames een beetje punten en leg ze naast elkaar en kijk dan waar jij uitkomt.
• 31:53
  Want ik, want hoe, hoe zit het voor jou nu? Want jij, ik, ik heb het nu over het marketing frame. Er is het regulatory capture frame, hè. Er komt veel te veel macht bij een kleine groep.
• 32:02
  Uhm, er is het frame AI is hartstikke gevaarlijk, uh, dat moet wel, dus het is waar, uh, en die capture is nodig, hè, uh, maar dat moet geen capture heten.
• 32:12
  Dat zijn de autoriteiten schap, uh, agentschappen die gaan, gaan reguleren. Waar zit jij? Uh, wat hoor jij? Kijk, ik ben natuurlijk de hele tijd, ik, ik ben een soort meat proxy. Dat snap ik ook wel.
• 32:24
  Uh, die, uhm, probeert, uh, alle, uhm, uh, dit debat wat heel veel, uh, s-, kleuren heeft. Ik probeer die een beetje te schiften en die voor een groter publiek, uh, makkelijker te maken om te verteren.
• 32:41
  Ja, dat probeer ik. Want als wij, uh, praten over de stikstofdiscussie, over de hypotheekrenteaftrek of over het helpen van slachtoffers van, uh, Gronings gas,
• 32:55
  uh, dan zijn dat discussies die over heel veel jaren zijn ontsponnen en waarbij alle nuances en, en, en, en, en ideologische verschillen en allemaal als een voetbalwedstrijd zijn verslagen in de talkshows, iedere avond en in de kranten.
• 33:09
  Met reconstructies en met interviews en verdieping van experts. En iedereen heeft daar een rol in.
• 33:14
  En dat zijn gewoon, weet je, we hebben als maatschappij best wel uiteindelijk, vind ik, een heel goed werkend maatschappelijk debat daarover en dat ontbreekt hier gewoon.
• 33:24
  Uhm, de politici hebben duidelijk geen idee waar ze het over hebben. Uh, dat zag je gister ook weer bij de beschouwingen in de Kamer. Echt werkelijk geen idee.
• 33:32
  Alleen maar grapjes maken over Rob Jetten zijn Instagram gebruik, maar op geen manier serieuze notie nemen van dit onderwerp. Uh, dus ik zie dat als onmacht.
• 33:41
  Uh, journalisten vinden dit heel erg lastig, uh, grijpen liever nog naar een, uh, hoogleraar informatiekunde die dan licht moet schijnen in al deze chaos, uh, dan zelf nog na te denken hierover.
• 33:54
  Er wordt heel erg gerefereerd naar experts, terwijl dat, terwijl we dat helemaal niet, uh, zo nodig hebben bij discussies over hypotheekrenteaftrek of stikstof.
• 34:04
  Dat zijn veel, veel kleuriger artikelen zijn dat zonder per se naar individuen te wijzen die het allemaal een soort van licht moeten schijnen in, uh, in deze dui, ja, een beetje ondu, onduidelijke jungle.
• 34:16
  Uh, dus bij de journalistiek is het, uh, merk je het ongemak zou ik, zou ik zeggen.
• 34:22
  En als, uh, gewone mens die gewoon werk heeft en alle andere dingen aan zijn hoofd heeft dan, dan een discussie volgen over hoe AI het einde van de menselijkheid is,
• 34:32
  is er helemaal geen, uh, ruimte om, om dit serieus te overwegen. Dus het is, het is best, het is, de kaarten zijn niet echt chill gedeeld, uh, voor, voor, voor ons allemaal om deze discussie te begrijpen.
• 34:45
  En dan komt nog eens bovenop dat het heel lastig is om te, om grip te ervaren, denk ik in deze discussie. Helemaal als Europeaan of als Nederlander.
• 34:54
  Omdat we ook gewoon, ja, we hebben hier geen rol in, dus we kunnen hoogzui, hooguit ons best doen om dit allemaal beter te begrijpen. Maar we hebben het, we, we, er is geen handelingsperspectief. Wat ga je doen?
• 35:04
  Nou, ik denk wel dat, uh, even, want ik vind het mooi dat je het woord handelingsperspectief al een aantal keer hebt genoemd. Uh, kijk uiteindelijk,
• 35:12
  stel dat je je informeert over iets waar je eigenlijk geen handelingsperspectief voor ervaart en nog ziet.
• 35:19
  Mocht je dat handelingsperspectief dan ooit wel een keer krijgen per ongeluk, dan heb je je tenminste geïnformeerd. Ja, ja, ja, dat is waar.
• 35:25
  En ik, en terwijl ik het tegelijkertijd met je eens ben dat we natuurlijk onszelf niet moeten overschatten in hoeveel impact we kunnen hebben op dit hele ding, hè.
• 35:32
  Maar goed, uh, tegelijkertijd, als niemand gelooft dat we hier invloed op hebben, dan gaan we het ook niet doen. Dus dat wil ik even gezegd hebben. Uhm, daarnaast, dat vind ik wel interessant. Begin van, uh, covid.
• 35:44
  Ik twijfelde om het te introduceren, maar ik ga het toch gewoon doen. Begin van covid weet ik nog dat er partijen waren in de Kamer die riepen om regulering en acties, hè, dus we moeten het dichtgooien of dit of dat.
• 35:55
  Die vervolgens later, toen het uiteindelijk in de wereld was, hè, mensen waren hoestend en proestend. Het was er, het was, het raakte de wereld 180 graden gedraaid zijn in wat er moest gebeuren.
• 36:07
  Ik vind dat niet per se, je kunt dat zeggen: oh, dat vind Wietse dan hypocriet. Nee hoor, vind ik wel meevallen. Het is namelijk anders wanneer het gebeurt. Uh, a-, a-, je weet het gewoon nog niet wat je gaat voelen.
• 36:17
  Ik bedoel, ik heb echt, uh, vaak met studenten gehad, uh, toen ik nog docent was, dat ik dan met hun van tevoren zei van: als dan straks die opdrachtgever komt, hè, dan kwam er echt een opdrachtgever, daar mochten ze een presentatie voor geven.
• 36:27
  Hadden ze nog nooit gedaan, alleen maar voor ons in de presentatielessen. Zeg, als, heb je dan behoefte aan een beetje water en misschien behoefte aan dat ik je even introduceer? Nee hoor, geen water, geen introductie.
• 36:36
  Die opdrachtgever komt binnen en ze rennen naar me toe. Kan je me introduceren? Ik heb water nodig.
• 36:39
  Want ze, ze konden niet goed voorspellen wat ze nodig zouden hebben op het moment dat er daadwerkelijk in de wereld was, namelijk het moment met de echte opdrachtgever. Wij allemaal, jij en ik ook.
• 36:49
  En wat ik merk het aan jou en ik merk het aan mezelf, veranderen natuurlijk op het moment dat dat hugging face ding gebeurt. Ineens gaan mensen die zeiden het.
• 36:57
  Ik, ik heb meerdere, uh, uh, artikelen en, uh, tweets gelezen van mensen die letterlijk beginnen met: Ik was degene die altijd zei het valt allemaal wel mee.
• 37:06
  Maar om heel eerlijk te zijn, deze week is voor mij iets anders en daar kan je dan weer helemaal cynisch over zijn. Maar ik neem dat serieus. Uhm. Wat is er dan nieuw? Dat, dat, dat agents met elkaar overleggen?
• 37:16
  Is het het, is het het aan elkaar chainen van exploits? Is het het- Al, al of die- Verhullen van je sporen? Nou, dat je grote sprongen in intelligentie kan maken door zwermintelligentie. Ja.
• 37:26
  Dat, uh, de systemen die, uh, uh, waar we van dachten dat ze het goed met ons voor hadden, dat niet zomaar hebben. Dus dat, dat lijmt inderdaad moeilijk is, zoals veel van ons hadden verwacht. Ja.
• 37:34
  Ik bedoel, wij varen nu al 2,5 jaar op scenario's over AI. Scenario's door de CEO's geschreven en scenario's geschreven door futuristen en noem maar op.
• 37:44
  En dan gaan we de hele tijd, uh, jij en ik dan zeggen wat er ongeveer moet gebeuren. Nu is het aan het gebeuren. Mhm. Nou, één frame is: het is niet aan het gebeuren. [gniffelt] Nou, dat is een optie, toch?
• 37:53
  Je kan gaan zitten en zeggen: het is niet aan het gebeuren. Wat is dan, wat zeggen die mensen dan als, uh, als ze zeggen: het is niet aan het gebeuren? Nou, het is niet aan het gebeuren. Zo boeiend is het niet.
• 38:02
  Nou, dit, de, de uitvinding die jullie beschrijven, namelijk een systeem dat pseudo autonoom, deels in ieder geval zonder ons, een soort wensen lijkt te vertonen, namelijk in groepjes samenwerken- Ja...om dingen binnen te komen.
• 38:16
  Ja, dat is gewoon grotendeels opgetrommelde sciencefiction. Er is gewoon niet zoveel aan de hand.
• 38:20
  Dus wij, sterker nog, je zou kunnen zeggen: wij willen prima met jullie praten, Alexander en Wytse, over wat we moeten gaan doen, maar laten we dat gaan doen als het er is en niet terwijl het er helemaal niet is. Ja.
• 38:31
  Het is er gewoon niet. Oké. Hè, dus dan, dan is er ook geen, m-, urgentie. Ja. Nou, uh. Nou, dat kan.
• 38:36
  Jij zegt: dat wordt een steeds moeilijker, uh, ja, m- Daarbij gezegd hebbende Moeilijker om vol te houden die, die positie.
• 38:43
  Ik hoop dat hij makkelijk blijft om vol te houden, maar ik verwacht dat hij moeilijk wordt om, voor, uh, vol te houden. Ik hoop dat die groep gelijk heeft. Nou, laten we naar de totaal andere kant gaan.
• 38:52
  Namelijk mensen die denken: dit is het einde van de mensheid. Het is 5 over 12. Ja, het is te laat eigenlijk al. Het is al, die heb je, andere kant van het verhaal. Dat vind ik ook heel lastig.
• 39:00
  De, we hebben, nu worden mensen overstroomd met het beeld, uh, over vijf jaar zijn we er allemaal aan. En mensen die, uh, die wat weten, die zeggen hun baan op, want ze willen er niet langer aan bijdragen.
• 39:11
  Hoe komt een AI-pild persoon tot de conclusie dat dit het einde van de mensheid is? Wat voor denkstappen moet je dan doen in je hoofd? Dan misschien goed om te weten.
• 39:22
  Want kijk, uh, we hebben nu het speelveld of de bandbreedte een beetje bepaald, hè. Het is er niet. Ja. Het is al te laat. Ja. Laten we dus die laatste even aan de kant. We komen in het midden.
• 39:33
  Nee, weet ik en daar wil ik ook naartoe. Maar ik wil, ik wilde alvast even zeggen dat, ik zit niet in die te laat groep, wou ik even zeggen. Nee, maar ik vraag naar hoe, hoe, wat voor denkstappen maakt zij.
• 39:40
  Ik ga nu wel even een, een stem geven in die groep, want dat kan ik wel, ik heb genoeg gelezen over ze. Uhm, de, uh, systemen zijn al dingen aan het doen die wij niet meer begrijpen.
• 39:52
  Want niet alles wat ze doen is nog leesbaar en is opgeschreven. De systemen zijn veel wijder verspreid in de wereld dan wij, dan wij tot nu toe begrijpen. En wat bedoel ik daarmee?
• 40:00
  De, uh, vorige week ook een beetje over gehad, de opdrachten, de scripts die er liggen, zeg maar de, de, de swarms die er gevormd worden.
• 40:07
  Dat staat over het hele internet verspreid, van fora voor tieners tot en met, uh, auto fora, verstopt in berichtjes. Uh, wat Darius Amadeï een soort van onverwijderbaar botnet noemt.
• 40:17
  Uh, uh, de instructies voor dat botnet voor de helderheid. Uh, dus het internet is een soort van geïnfecteerd geraakt daarmee, uh. Maar je moet me helpen om dit uit te pakken.
• 40:25
  Dus aller eerst, m-m-hoezo kunnen we niet meer lezen wat AI-modellen doen? Waar blijkt dat uit? Uh, nou, dat kan op een aantal manieren.
• 40:33
  Punt één is: de AI-modellen, uh, hebben een chain of thought die wij mee kunnen lezen en de labs kunnen die nog veel beter meelezen dan wij.
• 40:40
  Maar de chain of thought is nog steeds een representatie van het innerlijke gedachtewerk. Oftewel dat is een, dat is niet echt de gedachtegang, dat is hoe het model gebouwd is, dat hij een gedachtegang heeft.
• 40:52
  Ja, dus AI-modellen hebben modellen zo, of AI-labs hebben modellen zo gebouwd dat ze hardop nadenken. Dat is een, uh, een soort van spoor dat ze bij, dat zijn gewoon tekstbestanden.
• 41:04
  Die kunnen ze teruglezen bij die AI-labs. Ja. Uh, maar jij zegt: ze zijn zo geïnstrueerd om dat te doen. Dat wil niet zeggen dat, dat ook de daadwerkelijke gedachten waren. Precies. En waaruit blijkt dat dat zo is?
• 41:17
  Dat er een verschil zit tussen de daadwerkelijke gedachten en hoe ze het opschrijven. Daar heeft Anthropic best wel een breed, uh, onderzoek over gepubliceerd.
• 41:25
  Uh, gedragen door meer labs dan alleen Anthropic, voor de duidelijkheid. Wat gaat over de activaties van gedachten voordat het expliciete gedachten worden. Noem het het onderbewustzijn, zeg ik voorzichtig. Mhm.
• 41:36
  Wij hebben, jij en ik, zeggen ook niet alles in ons hoofd wat we denken. Ja. We zijn zelfs verbaasd over wat we, wie we zijn, vaak. We weten niet zo goed wie we zijn.
• 41:44
  Die modellen hebben een soortgelijk, aanhalingstekens, proces waarin er activaties zijn die als het ware precognitief zijn, oftewel nog niet zo in woorden gev-, ge-, uh, geva-gevangen worden.
• 41:56
  Da, en, en die dynamiek, hè, nogmaals, dit is de groep te laat, hè, die ik nu eigenlijk een stem aan het geven ben.
• 42:01
  Die dynamiek is, openlijk door O-OpenAI in een recent, uh, blog beschreven, steeds intenser aan het worden. Wat bedoel ik daarmee te zeggen?
• 42:09
  De afstand tussen de expliciete re-reasoning chains, dus de gedachtegangen, en wat er in het model gebeurt daarnaast of eronder, waar we het maar om plaatsen, is steeds groter aan het worden. Hoe weten ze dat dan?
• 42:22
  Als dat ding, uh, als ze alleen maar kunnen afgaan op de teksten van de gedachten, hoe, hoe weten ze dan dat dat- Nu ga ik, nu ga ik het rokken.
• 42:30
  Tot nu toe had ik het gelezen, uh, omdat ze de activaties van het netwerk kunnen zien. Uh. Mhm. Dus de a-activaties, de, de, de neuronen die oplichten. Nogmaals metafoor, maar.
• 42:40
  En dan kan je zien dat grotere delen van het netwerk oplichten dan de reasoning chain laat zien. En dat hoeft dus nog niet, uh, uh, negatief of, of, of scheming of complotterig te zijn, maar dat is gewoon inherent. Ja.
• 42:52
  En dan- En waarom is dat dan een logische, als je een soort van de natuurlijke progressie van dit soort modellen, in ieder geval hoe ze nu gebouwd worden.
• 42:59
  Waar, h-hoe is het dan een logische progressie dat die steeds minder leesbaar worden voor, voor buitenstaanders, dus mens? Omdat in essentie de reasoning chain een compressie is.
• 43:08
  Je vraagt eigenlijk: explain like I'm five.
• 43:11
  Je bent eigenlijk aan het zeggen: jij bent daarbinnen iets heel complex aan het doen, maar kan je het terugbrengen tot een lineaire- Ja...volgorde van woorden- Ja...die te lezen is door een mens? Ja.
• 43:20
  Voor de duidelijkheid, die, die kan ik je aanraden, ook de luisteraars. Je kunt heel veel reasoning change ook in het meta-rapport wat ging over die Hugging Face hack. Ja.
• 43:28
  Die, als je die leest, die zijn allemaal niet meer leesbaar, terwijl ze er wel zijn. Mhm. Voor de duidelijkheid. Waarom is dat zo?
• 43:33
  Waarom zegt een, een AI-lab dan niet gewoon tegen dat model: je moet zorgen dat alles leesbaar blijft en je moet eerlijk zijn. Goed idee.
• 43:40
  Ik bedoel dat eerlijk zijn doe ik even vergeten, want dat, dat laatste is ingewikkelder vraagt het. Oké. Maar je kunt er inderdaad voor kiezen. Waarom doen ze dat dan niet? Nou, dat is pacing.
• 43:48
  Wat je nu ze-- pacing betekent dat je gaat zeggen: we zouden veel harder kunnen gaan als we hier schijt aan zouden hebben. Waarom kun je harder gaan als je daar schijt aan hebt?
• 43:56
  Zet gewoon reasoning uit, de reasoning chain uit. Je hoeft niet meer uit te leggen wat je aan het doen bent. Blijf gewoon nadenken. Je hoeft het niet meer steeds ook voor ons uit te leggen.
• 44:03
  Je hoeft niet meer na te denken over nadenken. Blijf maar gewoon alleen maar- Ja, ja....core nadenken. Ja. Nou, dan, dat, dat scheelt je, uh, rekenkracht. Dat scheelt je controle.
• 44:12
  Uh, je kunt, uh, supervisors uitzetten, want er is toch niks om na te lezen.
• 44:16
  Uh, je kan veel harder, want je wil alleen maar- Dus je zegt eigenlijk in die racedynamiek waar die bedrijven nu in zitten, hebben zij er een belang bij om die modellen zo snel mogelijk te laten denken.
• 44:26
  Want hoe effec-effec-efficiënter ze hun tokens verbranden, uh, hoe groter hun voorsprong zou kunnen worden.
• 44:34
  En dan heeft het dus zin om die modellen niet al te veel tokens te laten verspillen, quote-unquote, aan de uitlegbaarheid van zijn gedachten. Ja, en, en dan ook nog, ik bedoel, dat is één.
• 44:44
  En toen zei hij: wees goed, zei hij van mij net erna, hè. Wees lief, wees goed. Wees eerlijk. Wees eerlijk.
• 44:49
  Uh, dat houdt in dat het model dus ook heel de tijd druk is met het controleren van zichzelf of het wel eerlijk is. Kost ook tokens.
• 44:55
  Ja, en, uh, kijk, waar we nu over praten is interpretability research, uh, oftewel onderzoek naar in hoeverre zijn die dozen waarin die AI's gegroeid zijn, want het is een soort gegroeide technologie, niet ontworpen, maar gegroeid, uh, zijn die transparant voor ons als mens die ernaast staan om te snappen wat er in die doos gebeurt.
• 45:13
  En het is gewoon wel zo dat als je dat zou loslaten, hè, dus, uh, de, een van de requirements kwaliteitseisen van het systeem is niet meer interpretability. Dan kan je harder, ja. Ja, precies.
• 45:26
  En dus de, de manier waarop die labs nu die modellen aan het groeien zijn.
• 45:29
  Als we het even vergelijken met een biologisch organisme, dan is het nu zo dat de, de, de competitieve druk nu in ieder geval tussen die bedrijven onderling, maar dan als landen ook nog eens in concurrentie met elkaar in werelddelen, is nu dusdanig dat ze zo graag snel die, die, die, die modellen willen groeien dat het dus zin heeft om dit soort shortcuts te nemen.
• 45:50
  Sterker nog, dat je er achter komt dat je een, een systeem, dat je echt veel sneller kan laten groeien als je als mens niet de hele tijd ertussen zit en het di-ding zich zelf aan het leren is om beter te worden.
• 46:02
  En dat is een, een zelfversnellende dynamiek die verklaart waarom types als Amodei denken dat de, de groei niet lineair zal zijn, maar op een hockeystick.
• 46:12
  Is met die, met dat gebrek aan controle wordt het makkelijker om één model te hebben wat de boel ontstijgt, opeens. Ja, nou ja, goed, uh, opeens als in, uh, waar, waar je gewoon weinig zicht op hebt. Ja.
• 46:28
  Je weet, misschien is het dan stijgen terwijl je het niet eens weet. Je weet gewoon dat het werkt en je weet dat het heel goed werkt, maar je weet niet waarom het heel goed werkt.
• 46:34
  En daar wil ik ook nog bij zeggen: goed werkt of waar jij het op test. Ja, precies. Hè, want misschien heeft het de antwoorden wel gestolen bij Hugging Face.
• 46:40
  Maar goed, in ieder geval, hè, want het werkt goed, heeft alles goed. Mhm. Maar hoe het het voor elkaar gekregen heeft weet je niet, want het heeft geen interpretability. Nee. Dus al jouw tests zijn geslaagd.
• 46:48
  Is gewoon, dit is een, een student die jij alle goede cijfers geeft, terwijl hij, terwijl hij de toetsen gestolen heeft of laten invullen door zijn tweelingbroer. Ja.
• 46:56
  Ja, want dit is wat we de hele tijd zien, hè, dat als die, als die labs dan vertragen en ze gaan checken, oké, we doen allerlei tests, hoe komen ze bij die resultaten?
• 47:02
  Dan zijn ze gewoon de hele tijd de, de, de, de snelste weg, de weg van de minste weerstand aan het zoeken. Dat betekent dat als ik kan cheaten in plaats van, uh, al het werk te doen, dan zal ik kiezen voor cheaten.
• 47:13
  Ja, en er zijn dus veel me-- veel onderzoekers bij veel verschillende labs. Niet unaniem, niet allemaal, maar grote substantiële groepen die dit zien gebeuren intern. Ja. Collega's zien die zeggen: boeien.
• 47:26
  Ik zeg het even zo, hè, maar als in: hé, we gaan gewoon door, w-want dit, we moeten door of want, we, we gaan door, want dit is niet zo belangrijk. Ja. Het boeit niet op die manier.
• 47:36
  Hè, we weten wel dat het een gevaar kan zijn, maar dit is een acceptabel gevaar. Mhmm.
• 47:39
  En die groep die nu hun mond opengedaan heeft de laatste weken, gemotiveerd door Hugging Face, uh, verhaal, dat was een beetje de druppel. Die zeggen nu: ik kan het niet meer.
• 47:48
  Ik, wat ik zie gebeuren, het bevalt me gewoon niet, want ik-- en dan gaan ze, hè, dat is belangrijk om te weten, met percentages gooien. Ja.
• 47:56
  Van, van, van 0%: er is niks aan de hand, tot en met 100%: het is voor, het is te laat. Ja. Uh, en- Want hoe zou je daar dan komen?
• 48:03
  Ik, ik las bijvoorbeeld iemand, een OpenAI-onderzoeker die zei: ja, uh, ik heb zelf, dat vond ik best wel heftig. Dat was een hoofdonderzoeker die zei: ja, ik lees zelf eigenlijk mijn code niet meer.
• 48:13
  Ik doe ook al die, die cognitive offloading doe ik zelf ook.
• 48:17
  Dus in het maken van de modellen waar ik me zorgen over maak, uhm, uhm, maar toch ermee doorga omdat ik verwacht dat het zoveel positieve, uiteindelijk zoveel netto positief effect gaat hebben, maak ik me zorgen omdat ik zelf ook heel veel denkstappen eigenlijk oversla en gewoon me baseer op, uh, weet je, hij programmeert met die modellen, dus hij raakt de onderliggende code niet meer aan.
• 48:39
  Dus op een bepaalde manier zit er een soort aanname in dat het allemaal wel klopt wat je, uh, aan dat ding vraagt.
• 48:44
  Maakt hij zich ook zorgen over dat, dat, weet je, dat als je dat helemaal doorredeneert, dat je een soort van bij modellen komt die dan maar beslissen dat ze g-gaan industrialiseren.
• 48:55
  En, uh- Ja, kijk, ik denk wel goed- Hoe, hoe werkt, hoe werkt zo'n denkstap? Nou ja, kijk, ik denk nu wel dat, uh, een van, een van de vele kritieken is, nog één, is: oké, maar wacht even. Ja, uh, nieuw frame.
• 49:11
  Het gaat sneller. Ja, het is waar, het gaat sneller. Het gaat sneller dan we hadden verwacht. Maar om van bits naar atomen te komen, hè, dus vanuit de computer naar de wereld waar wij allemaal leven. Ja.
• 49:22
  Die stap is zo gigantisch groot en zo gigantisch moeilijk, dat ook al slaat het op hol op een wiki, wiki-forum ergens in Duitsland en, uh, gaat het Hugging Face in. Uh, dit is niet existentieel.
• 49:35
  Maar dat reageert ergens op. En, en, en ik ben benieuwd Als je, als je. Wat zijn de denkstappen die iemand maakt die denkt: dit is het einde van de, van de mensheid? Hoe werkt die gedachtegang?
• 49:47
  Uh, voor de, ja, dan is het ook nog, want die vind ik, uh, de to-, het totale einde. Ja, maar dit is wat, wat al- Nee, ik bedoel...wat iedereen nu tegen elkaar aan het herhalen is.
• 49:57
  Is dit, is dit hoe mensen jou interpreteren bij, bij Eva? Natuurlijk, omdat dat niet, nee, ik zeg dat niet, maar dat zit wel in die nieuwsinstarts, in die filmpjes. Dit is wel wat op tv gezegd wordt. End of the world.
• 50:08
  Ja. Jeffrey Hinton. Ik ben natuurlijk bij proxy een soort van, uh. Ja, nou ja, goed, je kiest de fragmenten, hè, met elkaar, dus ja, oké. Nou, dat is niet mijn keuze, maar, de, maakt niet uit.
• 50:17
  Dit is, dit is nu wat maakt dat dit debat, uh. Einde van de wereld. Ja. Einde van de wereld. Uh. Hoe dan? Ja, ik moet, dat is interessant. Ik denk daar dus helemaal niet zo vaak over na.
• 50:28
  Maar dat is wel interessant, want dat is wel waar de meeste mensen die nu de krant openslaan mee geconfronteerd worden. Uuuh. Niet dat dat jouw schuld is, maar.
• 50:36
  Nou, dat mag, maar dit, als iemand, als iemand dat begrepen heeft uit mijn verhaal, dan, dan heb ik dat niet goed gedaan. Maar dus dan zit ik op, uh, bio, biowapens. Uhm, kijk.
• 50:47
  Ja, want ik vind, uh, het, uh, de eind van de wereld is zo extreem. Je wilt daar niet eens over hebben. Nee, maar, d-d-dat wil ik wel, maar het is gewoon, gewoon heel extreem. In één keer, in een week, in 10 jaar.
• 50:56
  Zo gespecificeerd is het allemaal niet. Nee, dus, nee, maar dat is ook de kritiek van heel veel mensen. Ga nou eens door. Nu doe je het bij mij ook, dus laten we het eens proberen. Kijk, uiteindelijk, uh,
• 51:06
  is, uh, de, je hebt de klassieke paperclip, uh, verhaal, hè, dus dat is een AI. Die krijgt als opdracht om een betere paperclip te maken. Vind ik een heel theoretisch verhaal.
• 51:15
  Oké, maar die gaat op de achtergrond, uh, optimaliseren en die zet je op de achtergrond aan als, uh, agent swarm. Ja. En, uh, die blijft maar doorproduceren.
• 51:22
  Op een gegeven moment is de conclusie: de beste paperclipfabriek is zonder mensen. Ik moet de hele aarde gaan gebruiken als energiebron. Dus ja, ik heb een nieuwe batterij gevonden.
• 51:30
  Die heet de aarde en die mens zit in de weg. En op een of andere manier weet dat systeem dan toegang te krijgen tot allerlei dingen tegelijk, uh, van installaties waar je dat niet wil.
• 51:39
  In stroominstallaties, uh, inderdaad fabrieken waar- Dan zou je zeggen: als je merkt dat een AI-stroominstallatie begint aan te vallen, dan zet je hem toch gewoon uit. Ja, en ik denk, kijk, ik denk dat uiteindelijk, uhm,
• 51:52
  uh, je, dat catastrofale, s-, bizarre scenario van een, er is geen leven meer op deze hele planeet, uh, dat nu komt mijn mening, uh, [gniffelt] uh, dat je daar nog wel op remmen kan drukken, ja.
• 52:10
  Maar ik wil wel gezegd hebben dat als je dat aan het doen bent, is er al best wel heel veel misgegaan. Ja, maar ik snap dat jij het niet gelooft, maar ik probeer te begrijpen waar mensen dit zeggen.
• 52:20
  En als ik, als ik die mensen zo goed mogelijk, als ik met de beste wil van de wereld probeer te bedenken: hoe kom je tot zo'n conclusie? Dan denk je dus dat er open weights modellen zijn gekomen die zichzelf, uh,
• 52:33
  of, of, of gehackte weights, dus dat er de, je hebt een heel krachtig model type, uh, Astra.
• 52:40
  Die heeft het onderliggende Coca-Cola recept wat nu beschermd wordt, maar wat heel veel waard is, op een bepaalde manier, zoals de beurskoers van, uh, Anthropic, uh, voor een deel in ieder geval representeert.
• 52:51
  Dat is het geheim wat het model zo slim maakt.
• 52:54
  Die zou, dat model zou kunnen beslissen om uit zichzelf op een andere gehackte server, uh, daar zijn, uh, zijn geheime Coca-Cola recept te uploaden om zichzelf dan te repliceren naar andere servers.
• 53:08
  En dat dat naar zoveel plekken tegelijkertijd gaat, uh, dat dat nog lastig uit te schakelen is. Is dat, is dat een gedachtegang die, die zij dan volgen?
• 53:17
  Nee, maar ik bedoel onder andere in een, in een superhoog tempo en in een soort van, dus het gaat heel snel en heel groot. Maar om heel eerlijk te zijn, uhm,
• 53:26
  stel we leggen dat, uh, totale einde van de wereld binnen een week scenario gewoon even weg. Ja, nee, maar even voor nu. Want wat daar net, net, net voorkomt is, is gewoon, uh, stroomnetwerken die instabiel worden.
• 53:39
  Disruptie. Uh, stroomnetwerken die kapotgemaakt worden door machines verkeerd aan te sturen. Uh, verkeersnetwerken die ontregeld worden. Uh, uh, Schiphol wat niet meer goed kan draaien.
• 53:49
  Uh, uh, uh, man, distributielijnen, logistiek. Ik kan het zo, uh, uh, dat zijn allemaal computers, hè.
• 53:55
  Alles is aan elkaar gekoppeld, dus ik wil alleen maar zeggen dat, uhm, uh, als ie, als mijn buurman nu zou zeggen: joh, Wietse, gaat de hele wereld eraan binnen een week door AI, zou ik zeggen: nee, man.
• 54:05
  En dan zou je zeggen: oh mooi, ik ga, ik loop weer door. Zou ik zeggen: blijf nog even staan. Mhmm. Want ik kan je nie, ik ga je niet helemaal terugbrengen naar: er is niets aan de hand. Nee.
• 54:12
  Kijk, in potentie is het zo, en dat we weten nog niet of dat nu al kan, dat weet ik ook niet. Maar dat we in een, als je het woord smart gebruikt van smart koelkast en we hebben een smart grid.
• 54:22
  Alles is smart aan het worden. Dat betekent dat alles computergestuurd is, internetgekoppeld over het algemeen.
• 54:27
  En dat betekent dat als systemen kwaad willen, dat kunnen systemen zijn die zelf hebben bedacht om kwaad te willen, omdat ze uit de hand gelopen, uh, uh, testjes aan het doen zijn.
• 54:35
  Ze moesten paperclips maken en ze snappen het niet meer. Ja. Nou, hugging face is al gebeurd in het klein, in het heel klein. Gelukkig maar.
• 54:41
  Maar het laat zien dat er in potentie iets zou kunnen gebeuren met een misaligned model met een verkeerde opdracht. Punt twee is: ja, groepen, mensen, landen die dit soort zwermen bewust maken.
• 54:54
  Ja, dat is nog eens een tweede. Ja, come on, dus, dus.
• 54:56
  Want je hebt aan de ene kant dus een model wat z'n, wat een beetje losgeslagen is, dus wat op een of andere manier een doelstelling heeft gekregen die, uh, op, door dat model op zijn eigen wijze wordt geïnterpreteerd.
• 55:09
  Waar-waardoor die gaat hacken en zichzelf gaat repliceren om ervoor te zorgen dat niemand er meer tussen kan komen omdat hij zo graag zijn doel wil bereiken.
• 55:18
  En dat, dat wordt, dat is zo'n bot swarm, zoals Amodei dat in zijn essay beschrijft. Dat er eigenlijk zwermen van persistent bot swarms zijn die elkaar, uh, helpen in leven te houden. Die, uh.
• 55:32
  Soort viraal, hè, in essentie. Want jij krijgt het nooit meer uit de samenleving, een virus. Ik moet denken aan dat WannaCry-virus van vroeger.
• 55:38
  Wat ook, uh, dat legde havens plat en de Britse gezondheidszorg en dat was een heel heftig, heel heftig fysiek eindresultaat had dat virus, wat uiteindelijk gestopt is door, als ik het in mijn hoofd zit, dat er een 17-jarige een domeinnaam heeft geregistreerd,
• 55:52
  uh, die uiteindelijk ervoor zor-, die had ontdekt- Van de control center. Ja, die had ontdekt dat je daarmee dat ding weer lam kon leggen. Maar goed, dat is dan één, uh, virus met één zwakte erin gemaakt door één mens.
• 56:04
  Voorbeeld voor je van de tweede categorie is Stuxnet.
• 56:07
  Een virus ontwikkeld om de, uh, atoominstallaties in Iran, uh, kapot te maken of in ieder geval te saboteren door de centrifuges uit mijn hoofd op een manier te laten draaien dat de centrifuges zichzelf hebben stukgedraaid.
• 56:19
  Ja. Hè, een virus binnengebracht volgens mij via een USB-stickje of zo, want het was een air gapped installatie. Kijk Dat is al gebeurd Precies.
• 56:26
  Dus dat zijn effecten van, uh, van cybersecurity incidenten die hele fysieke, uh, gevolgen hebben in de echte wereld met gewoon ziekenhuizen die plat liggen. Laten we het heel simpel maken. En havens die plat liggen.
• 56:38
  Ook in Rotterdam. En jullie mogen weten: mijn zorg zit hier. Ja. Niet daar op dat eindtijd scenario wat je net zei.
• 56:44
  Mijn zorg zit gewoon op wat scriptkiddies- En als je die uit elkaar trekt heb je dus aan de ene kant losgeslagen, uh, systemen die we niet meer onder controle hebben.
• 56:54
  En zelfs als je dat niet gelooft, dan zou je kunnen zeggen: het hoeft niet eens losgeslagen systeem te zijn van de frontier labs uit, uit de Verenigde Staten.
• 57:04
  Je, je kan ook gewoon kijken naar wat er aan open weights, uhm, open source, uh, modellen uit China komen die nu drie tot zes maanden achterlopen op de Amerikaanse modellen.
• 57:16
  Wat als je iemand hebt die geavanceerd genoeg is, genoeg, uhm, datacentra heeft om die modellen zo om te bouwen dat ze met groot gemak, uh, gaan hacken.
• 57:30
  Dat we natiestaten of andere kapitaalkrachtige groepen krijgen die die modellen juist expres gaan inzetten. Zeg maar, ik zit te denken: waar laat dat ons als Europa?
• 57:39
  Want wij hebben niet de compute die de Verenigde Staten heeft of die China heeft. Bij lange na niet.
• 57:45
  Ik heb begrepen dat China ongeveer een tiende van de compute heeft van de Verenigde Staten op dit moment, dus die lopen ook enorm achter door de chip, uh, restricties die China opgelegd heeft gekregen.
• 57:55
  Dus als je puur kijkt naar compute, dan spelen wij een soort van, wij hebben een rol van helemaal niks.
• 58:02
  Ja, ik vind het best een angstaanjagend idee dat open, open weights modellen, nog afgezien van de modellen die bij de Amerikanen in gesloten labs draaien, open weights modellen met heel veel compute, uhm, op onze infrastructuur afgestuurd zouden kunnen worden, waarmee de Amerikanen misschien nu geen belang hebben om, uh, om onze- Waarom is dan per se open weights modellen?
• 58:24
  Dat kan toch ieder model zijn, of? Omdat- Of bedoel jij omdat die daar de safeguards afgehaald zijn? Ja, omdat daar de safeguards afgehaald zijn.
• 58:30
  Dat je dus criminele organisaties hebt of, of natiestaten die gewoon besluiten: het is eigenlijk wel chill voor gewoon, misschien ook maar gewoon, uh, met het oog op de toekomst en, uh, hoe stabiel blijft de geopolitieke situatie om alvast even in die Nederlandse systemen te gaan zitten.
• 58:45
  Nu kom je dus op, op, op dan wat dan de, uh, uh, de meta zorg is, hè, van, uh, wat we net zeiden.
• 58:51
  Uiteindelijk alle groepen met hun eigen frames en, uh, en hun eigen, uh, redenen om dingen zo te zeggen of te denken en te vinden, hebben een, een soort angst eronder zitten dat x of y gebeurt. Mhm.
• 59:03
  Kijk, op het moment dat, kijk, Zuckerberg is nu een duidelijke odd one out, hè, in de hele groep van CEO's. Uh, je zou zeggen: hé, die heeft toch ook zo'n groot commercieel belang?
• 59:12
  Daar zit dan een ander commercieel belang achter. Oprecht. Kijk, hij zegt: iedereen moet superintelligentie hebben. Ik sla even plat wat zijn mening is, maar ongeveer.
• 59:20
  Hè, dit, dit is een, deze technologie moet je zo breed mogelijk verdemocratiseren wereldwijd, want anders komt het in de groep, handen van een kleine groep en dat is wel, dat is helemaal niet wat je wil. Mhm.
• 59:31
  Dus daarin is de, uh, kijk, wat, wat er nu- Maar wat zegt hij dan? Dat we allemaal datacentra moeten krijgen? Of dat we allemaal toegang moeten hebben tot frontier modellen? Wat bedoelt hij daarmee?
• 59:40
  Nee, dan maak je dus, uh, kleine modellen slimmer, zodat ze op kleinere hardware kunnen draaien, zodat je daarmee de compute eis verlaagt. En je moet de compute verdelen inderdaad. Dat, dat klopt.
• 59:51
  Tot smartphones aan toe uiteindelijk, maar. En je moet het betaalbaar maken, enzovoort, enzovoort. Compute gaan subsidiëren, mensen het gaan geven in de vorm van coupons. Kan je allemaal dingen voor verzinnen.
• 1:00:00
  Uhm, [slikt] uiteindelijk, kijk nu, omdat die open weights modellen, dus de open source van OpenAI zou je het kunnen noemen, allemaal nog redelijk speelgoed is.
• 1:00:10
  Redelijk speelgoed, want het is al best wel, hè, het loopt maar zes maanden achter, dus het is best wel krachtig met het juiste harnas eromheen, wordt er nu nog niet zo heel veel over gezegd.
• 1:00:18
  In ieder geval in, in het publieke debat.
• 1:00:20
  Van, hè, uh, we moeten niet alleen maar die labs gaan reguleren, we moeten ook gewoon het, uh, het, uhm, net als dat ze de 3D, 3D-printers op een gegeven moment, uh, wilden reguleren omdat je daar een wapen mee zou kunnen printen, moeten we ook open weights modellen illegaal gaan maken.
• 1:00:34
  Hè, of de hoeveelheid compute moet verboden worden om dat bij één mens te hebben. Ik, ik vind nu gewoon, uh, want- Ja, want wat voor, wat voor maatregelen kun je nemen om open weights modellen te beperken?
• 1:00:45
  Dan ga je dus de compute beperken. Ja, onder andere. En ik bedoel, ik heb veel mensen die tegen mij zeggen van: haha, laat ze het maar proberen. Internet, uh, information wants to be free. Ja.
• 1:00:54
  Ja, mag jij films downloaden in Nederland zonder gevolgen? Nee, helemaal niet. Dat mag helemaal niet. Mhm. Je kan gewoon boetes krijgen, hoor. En hoog ook.
• 1:01:00
  Dus dat jij de verkeerde bits en bytes hebt gedownload, hè, in de vorm van een open model, daar kan echt wel een vorm van regulatie op. Voor de duidelijkheid: dat roep ik nu niet op.
• 1:01:09
  Ik wil alleen maar zeggen dat er, uh, op het moment dat dat gebeurt, verlies je ergens anders weer iets. Mhm.
• 1:01:15
  Hè, want op het moment dat je gaat zeggen: ik wil de wereld beschermen en daarmee eigenlijk alleen maar die superkrachten in de handen leggen van een kleine groep gereguleerd plus een, uh, atoomagentschap.
• 1:01:25
  Weet dat je daarmee de macht dus aan die kleine groep- Ja, maar hoe, hoe kijk je dan naar Zuckerbergs plan? Vind je het een goed plan?
• 1:01:31
  Ik moet, waar ik nu ben op dit moment is dat ik merk dat ik jou nu Zuckerbergs plan een beetje kan verdedigen. En het reguleerplan ook even sterk. Ja. Ja.
• 1:01:43
  Dit is echt heel lu- lullig nu wat ik doe, maar ik, ik- Nee, maar het is ook, dit als er een simpele oplossing zou zijn, dan zou die, uh, dan zou die allang, uh, aangepakt zijn.
• 1:01:50
  Ik vind het wel ge-, want, ik bedoel, ik, er is mij veel gevraagd: uh, Wiet, schrijf een keer een boek, weet je wel. Maak een pamfletje of zo, kunnen we dat een beetje doorspelen.
• 1:01:56
  Ja, maar je weet helemaal niet wat je vindt. Ja. Nee. En, uhm, dan hebben we de, uh, s-, de China discussie erbij getrokken in dit geopolitieke, ja, ding.
• 1:02:07
  Want zelfs als je het hebt over AI-labs in de Verenigde Staten die elkaar Uh helpen om niet al te ver op de troepen vooruit te lopen en daarmee die racedynamiek af te remmen.
• 1:02:20
  Dus dat je eigenlijk met elkaar zegt: we gaan monitoring inbouwen, we gaan een deel van onze tokens besteden aan het controleren van onze eigen bestellingen of onze security-infrastructuur harden of allemaal dingen die je kan doen om de groei gecontroleerder te laten lopen.
• 1:02:37
  Dat je eigenlijk met elkaar- Stotterende exponentiële groei, hè. Pacing. Dus soort van afgeremde, stotterende groei.
• 1:02:42
  En bij elkaar gaat zitten en bedenkt: het is niemands belang om, om, uhm, modellen te hebben die, uh, liegen op de test, uhm, en, uh, die we niet meer onder controle hebben op wat voor manier dan ook.
• 1:02:55
  Dus laten we nu bij elkaar gaan zitten en, en afspreken dat we allemaal monitoring inbouwen. Allemaal zijn we daarmee tempo aan het inleveren, maar dat doen we dan for the greater good.
• 1:03:05
  En uiteindelijk, we zijn, we zijn allemaal tand toe rijk aan het einde van deze rit, dus wat maakt het allemaal uit. En dan hebben we toch kanker opgelost voor iedereen.
• 1:03:12
  Alleen duurt het dan misschien een jaar langer, maar dat zij dan maar zo, want het is een goed doel. Dat klinkt heel logisch om zoiets te doen als, uh, als die bedrijven dat inderdaad met elkaar bekokstoven.
• 1:03:25
  Ware het niet dat ook Amodei in dat essay wijst naar but China.
• 1:03:30
  Als die Chinezen, m-, uh, voor gaan lopen omdat wij nou eenmaal, uh, 20% van onze computer aan monitoring aan het besteden zijn en daarmee dat pacen ervoor zorgt dat we in feite achter gaan lopen op de Chinezen, dan heeft het ook geen zin, want dan hebben die Chinezen opeens een voorsprong.
• 1:03:46
  Dan doen wijz- zij wel die take-off en dan hebben we straks, uh, AI-gestuurde killer drones in Washington hangen en draait, uh, de globale wereldmacht opeens naar China toe.
• 1:03:55
  Fijn dat je hem even helemaal doortrekt naar iets heel concreets. Maar dat is neem ik aan de, de, de, de reden voor ook Amodei. Want, uh, in die zin spreekt hij zichzelf tegen in zijn eigen essay.
• 1:04:04
  Allemaal leuk en aardig dat ze aan het pacen zijn, maar niet zo pacen dat de Chinezen opeens voor gaan lopen. Hoe, hoe, hoe, zeg maar, wat voor weg baan je in je hoofd uit dat, uit die gedachtegang?
• 1:04:17
  Wat kun je daar tegenover zetten? Nou kijk, uiteindelijk, uhm, voor mij was de opmerking tijdens die, uh, er was een belangrijke beursronde MAI blijkbaar, uh, waar dan dat telefoontje met Trump, uhm.
• 1:04:32
  Nou, het was gewoon een podcast, hè, van die, uh, van die Trump, uh [lacht]. Maakt niet uit. Dingetje. Ja. En, maar goed, Dario werd ook geïnterviewd op die plek, uh, daarna. Niet ver, niet kort erop. Oké.
• 1:04:42
  Ja, want ze liepen een soort van door de zaal heen en hij was er ook. En, uh, daar wordt dan op hem gereageerd. Hij deed zijn verhaal in het kort, wat jij net ook van hem verteld heeft met die punten erin en- Uh-huh.
• 1:04:53
  En dat, daar wordt, daar wordt dan een soort lachend op gereageerd door een aantal met: dan moet je het toch gewoon niet bouwen? Wat zit je nou moeilijk te doen, man?
• 1:05:01
  Je staat hier te roepen: ja, wat ik, wat ik allemaal heb, wat ik allemaal heb. Ja. Kap er dan mee. Mhmm. Weet je wel. Maar dat, ik vind dat een beetje makkelijk lullig terugpraten tegen hem.
• 1:05:10
  Want als je hem wat langer kent in zijn idee zegt hij: als ik het niet bouw, bouwt iemand anders het. Ja. En, uh, uh, dat is zo net zo'n lege dynamiek als de hele wereldwijde wapenwedloop. Zeker. Het is een wedloop. Ja.
• 1:05:22
  Een wedloopdynamiek. Uh, maar ja, ik moet heel eerlijk zeggen, zelfs, uh, zelfs in een wedloopdynamiek, dat is dus het bizarre: je kunt gevangen worden in een wedloopdynamiek, man.
• 1:05:35
  Ik denk, d-dat je, dat je, dat je er 100 mensen in een wedloopdynamiek hebt en alle 100 zeggen: ik wil niet meedoen. Dit is waar we, en dit, ik blijf- Daar hoop je dan maar op.
• 1:05:43
  Nou, w-, ja, maar goed, we blijven nu een soort cirkelen om, uh, het feit heen dat we mog-mogelijk te maken hebben met een technologie, uh, die gereguleerd zou, uh, kunnen worden op het niveau van nucleair, uh, wat we eerder hebben gedaan, namelijk iets wat invloed heeft- Internationaal.
• 1:06:05
  Ja, internationaal, omdat het invloed heeft op meer dan alleen maar het grasveld achter het laboratorium. Oké. Uh, het, we kunnen niet stoppen blijkbaar,
• 1:06:15
  want de racedynamiek, de wed-de wedloopdynamiek, het is, het is gewoon, we komen er niet uit. Of er moet een of andere briljante filosoof ergens nu opstaan die die breekt. Maar het is nog niet gelukt, zeg maar. Uh-huh.
• 1:06:26
  Uh, dan moet je de wedloop gaan pacen. Uh-huh. Hè, een soort vertraagde wedloop gaan doen, die heel erg lijkt op de eerdere wedlopen trouwens. Uh, zeker als het om nucleair gaat wereldwijd.
• 1:06:35
  Want, uh, de hoeveelheid bommen op elkaar gestapeld richting elkaar toe ging ook echt ver. Mhmm. Er moest veel kapotgemaakt worden achteraf, want iedereen had veel te hard ingeslagen. Uhm,
• 1:06:45
  ik, ik vind het gewoon, uh, ik merk gewoon bij mezelf dat ik, uh, het is zo prettig, het is zo prettig als iemand een, uh, met een duidelijke oplossing, uh, komt. Ja [lacht]. Ja.
• 1:07:02
  Ja, uh, het is een hoax, dus er is niks aan de hand bijvoorbeeld. Lekker. Oh, het is fijn om achter mensen aan te lopen die zeggen: dit is, dit is eigenlijk allemaal niet zo ingewikkeld, doe het gewoon zo.
• 1:07:12
  Ja, b-b-ik bedoel, als ik nu [kucht] van iemand een artikel zou lezen wat dan overtuigend is op mij, waarin gewoon staat: luister, als we die en die en die en die stappen nemen- Ja. Dan, dan zijn we er. Ja.
• 1:07:22
  Dan hebben we, dan, dan plukken we de vruchten- Ja. Van deze innovatie. En, uh, de zijeffecten en de bijeffecten, die kunnen we zoveel mogelijk verminderen. Dat is niet wat ik lees als ik Dario Amodei lees. Nee.
• 1:07:33
  Ook niet als ik Zuckerberg lees, man. Nee. Want hij, hij kan wel zeggen, uh: uiteindelijk moet iedereen dit gewoon krijgen. En als iedereen straks superintelligentie heeft, dan is het hosanna. Ja, n-nee.
• 1:07:44
  Ik dacht wel, over China heb ik ook veel zitten lezen en, en hoe Chinese AI-strategie, uh, anders is dan de Amerikaanse.
• 1:07:52
  In AI 2027, dat rapport waar wij het vaak over hadden, wat probeert een soort ver-voorspelling te doen waar deze race op kan uitoop, uh, uitlopen, hebben ze op een gegeven moment centralisatie van computerkracht in China.
• 1:08:03
  Dus AI 2027 gaat ervan uit: China wil uiteindelijk die AI-race van Amerika winnen. In Amerika heb je commerciële bedrijven Uh, die je onmogelijk kan dwingen om samen te werken.
• 1:08:14
  Want OpenAI en, en Dario Amodei samen nog laten werken aan één gemeenschappelijk Amerikaans AI-project, die kans lijkt me redelijk uitgesloten.
• 1:08:22
  Die moeten dan nog wel een ayahuasca-ceremonietje doen om dat weer goed te maken. Nou, misschien wel twee. En in China gaat dat misschien iets makkelijker. Misschien zeg ik met ironie, uh, het gaat wat makkelijker.
• 1:08:31
  Daar kan de overheid beslissen: nu gaan we alle computerkracht centraliseren. Bedrijven gaan hier niet over, daar gaan wij over.
• 1:08:38
  We centraliseren alle computerkracht en daarmee hebben we wel een, uhm, kunnen we een vuist maken tegen de Verenigde Staten. Ze hebben het tot nu toe niet gedaan.
• 1:08:47
  Daarbij is het belangrijk om te zeggen dat, uh, China veel minder computerkracht heeft dan de Verenigde Staten doordat, door die chipsrestrictie die er op zit.
• 1:08:55
  Het feit dat ze niet hebben gekozen om te centraliseren is misschien een uiting van onvermogen.
• 1:09:00
  Misschien is het een uiting van dat ze niet geloven dat het zin heeft om op dit moment computerkracht te centraliseren om, weet je, het beste grootste taalmodel te maken.
• 1:09:10
  Zijn, hun strategie lijkt op dit moment veel meer te zijn om de, uh, aandacht te richten op heel veel verschillende toepasbare projecten.
• 1:09:19
  Hoe pas ik AI toe, uh, hoorde ik een, een, uh, Amerikaanse expert zeggen bij Ezra Klein: hoe pas ik AI toe, uh, in, in, op verkeers, uh, op kruispunten dat stoplichten beter gaan werken?
• 1:09:30
  Hoe pas ik AI toe om fabrieken beter te laten werken met robots? Hoe pas ik AI toe om, nou et cetera. Heel veel toegepaste AI. Dat is de lens waardoor de Communistische Partij kijkt.
• 1:09:42
  In tegenstelling tot, uh, de lens waar de Amerikanen naar kij-, doorheen kijken, namelijk wereld. Uh,
• 1:09:48
  nou ja, misschien willen de Chinezen uiteindelijk ook wereldheerschappij, maar in ieder geval het idee dat iemand een super, supermachine, super godlike mens, uh, een soort van godlike AI-creature krijgt die, weet je, uiteindelijk onoverwinnelijk is op alle gebieden.
• 1:10:02
  En winner takes it all en Amerikanen willen er met die vlag vandoor gaan. Daar geloven de Chinezen, lijkt het, door hun keuzes. Zij geloven niet dat dat gaat gebeuren.
• 1:10:12
  En op een bepaalde manier denk ik: dat is dan misschien goed nieuws. Want- Dat ze niet meedoen. Nee, want die Chinezen ontkennen op een bepaalde manier die racedynamiek die de Amerikanen voorhouden.
• 1:10:22
  Ja, goed, de [lacht] enig manier om hem te breken is om niet meer mee te doen. En om, en om, uh, ik bedoel- Ze doen dit niet.
• 1:10:27
  Ze zijn, zij zijn juist aan het werken aan, ge-, het, zeg maar: destilleren, destilleren, destilleren, destilleren, omdat ze die chips niet hebben, uh, met minder middelen, uh, toch grote resultaten krijgen en zo snel mogelijk dat in hun hele achterland, namelijk die hele fysieke infrastructuur die zij hebben met bedrijven die gewoon shit bouwen om zo snel mogelijk daar, uhm, AI in te integreren.
• 1:10:50
  Kijk, terwijl je dit zo zegt, vind ik wel grappig, want kijk nu, hè, s-stel we hadden die toverstaf. Dan heb ik het niet over AI, maar gewoon op een of andere manier mogen we het wel bepalen. Wat gaan we dan doen, hè?
• 1:11:03
  We, uh, gewoon los van race, uh, wettelijk zetten we gewoon uit. Bedoel je? Mhmm. Kijk. Zou toch wat zijn, hè, dat twee podcasters uit Nederland dan blijken- Dat gaat niet lukken.
• 1:11:10
  Maar ik wil wel zeggen- Vind het heel hoopgevend. Ga maar door. Ik ga even, kijk, dat moet ik dan wel weer even in de Zuckerberg-essay geven. Stel nou, uh,
• 1:11:22
  het lukt om te zeggen: hé, voor mij, uh, nu het die, uh, millenniumproblemen heeft opgelost, lijkt me slim genoeg, toch? Stoppen. Mhmm. Wacht, de lab stoppen niet voor duidelijkheid, hè, maar we zijn er.
• 1:11:34
  Volgens mij is het voor de mensheid in 2026 millenniumproblemen. We kunnen die proofs net lezen, zeg maar [lacht]. Dit is genoeg voor ons. Genoeg om- Intelligentie. Ja. Wacht, dit gaat ergens naartoe.
• 1:11:45
  Wat we nu gaan doen is die intelligentie niet meer intelligenter maken. Waar we na-, waar, wat we willen hebben is die intelligentie zo, uh, efficiënt mogelijk maken.
• 1:11:57
  Dus alle rekenkracht voor de toekomst gaat niet meer toe naar het intelligenter maken van AI, maar in het duurzamer maken van AI. Dat be-, dat, dat woord is niet zo sexy, dat weet ik, maar. Duurzamer.
• 1:12:07
  Uh, we hebben nu, uh, GPT Astra, 6 Astra. We gaan GPT, uh, Luna, het allerkleint, even goed maken als Astra. Ja, het wordt veel goedkoper en sneller. Dus de nieuwe kwaliteitseis van AI wordt megagoede interpretability.
• 1:12:21
  We moeten weten wat het doet. Ja. Niet slim, niet slimmer maken, hè. Ja. Even slim houden, maar interpret. Het moet megaportable zijn, oftewel meeneembaar in de zak. Dus dan moet de compute naar beneden.
• 1:12:31
  Dus het moet een heel efficiënt model worden. Mega aligned, hè, dus als we het gaan uitdelen aan mensen, uh, moet het niet biowapens kunnen maken. Dus interpretable, aligned, efficient.
• 1:12:42
  En jullie mogen alles nog doen binnen je lab, maar je mag niet meer maxen op intelligence.
• 1:12:49
  Dit zou denk ik best wel goed nieuws zijn, want- Dit is wat Ben, wat Be-, wat A-, wat, uh, Sanders en, uhm, vriend, uh, Bannon zeggen: super intelligence verbieden. Dit is wat ze bedoelen.
• 1:12:58
  Aan allebei de kanten van, van het, van het spectrum. Ja. En i-ik denk dat, uh, kijk, ik zeg dit oprecht met een glimlach en half cynisch, omdat ik het niet geloof.
• 1:13:08
  Ik ben dan- Dat dat gaat gebeuren, maar dat zou eigenlijk misschien de beste uitkomst zijn.
• 1:13:12
  Nou, omdat ik denk, ik vind het heel mooi van: kijk, nu, wij hebben al heel vaak geroepen, uh, als er niets meer uitgevonden zou worden, zou nog steeds met wat er nu kan, als we dat goed zouden uitrollen met de juiste interfaces erop, de wereld een mooiere plek kunnen zijn.
• 1:13:25
  Of in ieder geval een prettigere plek voor heel veel mensen. Uh, en ja, misschien, oké, laat ik voor mezelf spreken, voor hoe ik Astra nu inzet, zeg maar dagelijks en Fabel. Ik kan hier zeker 20 jaar mee vooruit. Ja.
• 1:13:41
  Maak het alsjeblieft goedkoper, duurzamer, meer aligned en meer alles. Ja, zeg je nu Wietse. Nee, ja, goed, uh. Ja. Van mij hoeft het niet. Nee, ik snap wat je zegt. Maar, uh, en, en dan zeggen mensen- Dit is grappig.
• 1:13:52
  Dit is, dan zouden we dus als mens, ons als Menschen, als mensheid zouden we, zouden we zeggen: we, we weten dat er meer in het vat zit, dat we de alien intelligence kunnen verwelkomen als, in ons midden. Ja.
• 1:14:06
  En toch gaan we ze buiten houden, want we weten niet of we deze, of we hem nog terug in de fles krijgen, deze dop, als we hem eruit getrokken hebben.
• 1:14:13
  Nou ja, kijk, als wij met een, uh- Geest bedoel je...een zwerm van ast, efficiënte Astra's, uh, wel gewoon, uh, proteïnevolding kunnen doen om te komen tot een of ander vaccin voor kanker. Uh, ja, dat bedoel ik.
• 1:14:25
  Wij zijn toch te nieuwsgierig, hè? Er zit altijd iets achter die berg, maar je wil toch, je wil toch ontdekken wat er achter die berg ligt. Ook al, ook al weet je dat er een tijger kan zitten.
• 1:14:33
  Nou, maar als een- Zo zijn wij. Nou, dat ze, uh, wij als mensen. Ja. Luister, als er nu, als er gestemd zou worden, mogen we hier stoppen en dan, maar dan stem ik voor stoppen. Ja.
• 1:14:43
  En, en zou ik zeggen: stoppen en doorgaan op al die andere fronten, behalve intelligentie. Ja. Het zou, waar ik nu ben en dat is niet een, uh, dus ik ben eigenlijk dan een pacer gewoon, een pauze pacer, whatever.
• 1:14:53
  Ik zou zeggen: zullen we het, zullen we eerst eens even kijken of we deze auto die we hebben, uit die brandstofmotor, of we die veilig kunnen krijgen. Ja. Dat ie niet explodeert terwijl ik erachter zit.
• 1:15:03
  Dat we verkeersregels gaan verzinnen. Want ik bedoel, gelukkig heeft eerdere technologie en de traagheid van de diffusie daarvan ons toegelaten om al die hekjes te bouwen. Maar nu hebben we de tijd eigenlijk gewoon niet.
• 1:15:15
  Dus moeten we die tijd toch gewoon een beetje gaan kopen, man. [lacht] Toch een pamfletje. Blijkt ie toch nog een mening te hebben, die Wietse Hage. Nee, we zijn het gewend. Uh, dank Wietse, dank. Jij ook.
• 1:15:28
  Uh, wij danken Sam Hingenveld voor de edit. Pankras voor de vormgeving. Als je een lezing wil over AI van de heer Hagen of van mij, dan kan dat. Mail ons op lezing@aireport.email.
• 1:15:36
  Wil jij jouw bedrijf in AI Report zoals cm.com, PostNL en Moneybird in deze aflevering? Dank. Dan kun je ze kijken op sponsor.aireport.nl. En als je op de hoogte wil blijven van al het laatste AI nieuws.
• 1:15:49
  Want god, wat is het fijn dat iemand het samenvat allemaal, deze barrage aan nieuws. Dan ga je naar aireport.nl. Wij zijn hier volgende week weer. Tot dan. Dag.
• 1:16:15
  [muziek]