Latest / AI Report / De Hugging Face hack is als Tsjernobyl voor AI + Bill Gates slaat alarm

Transcript

De Hugging Face hack is als Tsjernobyl voor AI + Bill Gates slaat alarm · AI Report

• 0:00
  Welkom bij AI Report, de grootste AI podcast van Nederland, waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en de samenleving. Tegenover mij zit weer,
• 0:11
  na lange tijd afwezigheid, Wietse Hage. Hallo. Hallo Wietse. Deze week gaan we het hebben over de Chinese robot die het wereldrecord verbrak van Usain Bolt op de 100 meter.
• 0:20
  OpenAI legt tot in de gênantste details uit hoe zijn AI te werk ging bij een hack. En ook staan de founders van OpenAI deze week op de cover van Time Magazine onder de kop: vertrouw ons nou maar.
• 0:33
  En Bill Gates wil bepaalde banen wettelijk gaan beschermen tegen AI. Dan nog één keer over onze tijdelijke premiumactie, want die loopt maandag af.
• 0:42
  Volgende week beginnen onze webinars weer, waarin we laten zien hoe je AI concreet in je werk kunt toepassen. De volgende webinar gaan we het hebben over hoe je de Europese AI van Mistral inzet.
• 0:53
  Is dat nou even goed als Claude of ChatGPT? En hoe haal je het meeste eruit? Dat ga je horen bij de webinar en je kunt tijdelijk AI Report Premium vier weken proberen voor maar €4.
• 1:03
  Dan krijg je direct toegang tot alle eerdere webinars en al onze uitgebreide tips en tools.
• 1:08
  En na je aanmelding helpen we je direct op weg met drie webinars die je snel bijpraten over de belangrijkste ontwikkelingen van de laatste tijd. Ga naar AI Report punt NL.
• 1:16
  De actie loopt tot en met maandag 31 augustus, dat is bijna. En dan nu de show. Veel plezier!
• 1:28
  [muziek] Wietse, heb je veel nagedacht over het leven in jouw afwezigheid bij deze podcast? Ja, ik heb daar weinig controle over, dus het antwoord is: ja. Ja, je hebt gegenereerd. Ja, het komt gewoon.
• 1:40
  Het vliegt gewoon langs. Het gaat vanzelf bij jou, hè? Wat, uh, was na de hele reasoning chain de conclusie? [lacht] Hoi.
• 1:51
  Ik de-, ik, uh, ik heb, ik zit heel erg, z-veels te nadenken over wat er dan allemaal zou kunnen technisch. Dus de mogelijkheden. Oh, je hebt over AI nagedacht. Ja. Oh, wat een verrassing.
• 2:01
  En, uh, wat er allemaal, wat, wat er allemaal gebruikt gaat worden. Dus het verschil tussen de uitvinding en de uitrol. En daar hebben we het al heel vaak over gehad.
• 2:10
  Maar ik, ik merk gewoon dat, uh, de discussies die ik met mezelf had, laat ik het dan zo zeggen, uh, de laatste zes weken ongeveer, gingen vooral over: oké, wa-, want ik ben heel erg, ik heb heel erg het idee dat er nog steeds heel erg onderschat wordt wat er nu allemaal al kan- Ja...en wat er straks op korte termijn nog meer allemaal kan.
• 2:29
  Ja. Even zo gezegd. En daarnaast: oké, maar wanneer kan je dat dan ook echt daadwerkelijk ergens voor inzetten? Mhm. Nog concreter: krijgen we dan ook nieuwe medicijnen of zo?
• 2:40
  Ga ik daadwerkelijk kunnen instappen in een zelfrijdende auto? Wanneer ga ik dan op straat of in mijn leven merken: nu worden dingen echt anders. Mhm.
• 2:49
  En tussen die twee, dus de fundamentele uitvindingen en wat er allemaal dan technisch zou kunnen, en hoe voel ik het nou daadwerklik in, uh, in mijn leven bij de huisarts? Daar zit een enorm gat tussen.
• 2:59
  Dus ik merk voor mezelf dat ik die twee een beetje meer aan het scheiden ben in mijn hoofd. Dat was wat meer één. Oh, ja. In een soort naïviteit.
• 3:06
  En het, het helpt jou om die twee uit elkaar te trekken, want dan kun je beide los adresseren. Voor de technische capaciteiten moet dat geen verrassingen voor jou opleveren, want daar zit je lekker in. Ja, klopt.
• 3:20
  Dat, dat, daar ga je niet anders over nadenken, over dat deel. Maar hoe ga je dan anders, hoe ga je dat eerste deel dan anders benaderen? Hoe, wat, wanneer mensen er wat van gaan merken?
• 3:29
  Nou, ik, ik merk eigenlijk dat, uh, in de urgentie die ik voel over dit onderwerp, uh, gaat het heel de tijd wel over: ja, maar dit gaat wel heel veel veranderen, hè. Dit gaat heel veel effect hebben, hè. Ja.
• 3:41
  Dit ga je merken, hè? Ja.
• 3:43
  Uh, en, dus dan is het, en ik haal, ik heb te makkelijk tot nu toe, denk ik, die sprong gemaakt van, uh: oh, ik, ik zie nu dat dit kan, in een demo of ik test het zelf, en dan in mijn hoofd is het zo: ja, nu is de wereld anders.
• 3:56
  Ja. En dat is natuurlijk niet waar. Nee, niemand begrijpt dat. Nee.
• 3:59
  En het is vaak heel rauw en super nerdy en nog helemaal onder de tafel, onder de grond- Ja...verstopt in een soort technologie, uh, en nog niet, uh, rijdt nog niet rond in, uh, München of in Amsterdam. Ja.
• 4:10
  En ik, ik denk dat, uh, uit een soort, je, stukje, soort verantwoordelijkheid, uh, uiteindelijk heeft alles te maken met tijdslijnen. Dat ik, uh, ben gaan nadenken deze zomer: hoe zit het nou met die tijdslijnen?
• 4:23
  Dus, uh, ik denk dat het op het technologisch vlak, hè, dus op die rauwe componenten, op die halffabricaten, op die dingen onder de tafel, dat die tijdslijnen '27, '28, hè, dus, uh, 2027, 2028 eigenlijk nog steeds staan.
• 4:37
  Ja. Ik denk eigenlijk dat we wat meer bewijs hebben dat het zo hard gaat. Uhm. Ja, je bedoelt de voorspellingen die door, door AI-onderzoekers gedaan zijn over de komende twee jaar?
• 4:47
  Of eigenlijk vanaf het periode, vanaf het moment dat zij die voorspellingen begonnen te doen. En wij, wij nemen, wij hanteren altijd een beetje dat AI Twenty Seven. Ja.
• 4:55
  Dat is zo'n voorspel-, een reeks van voorspellingen die zouden gaan volgen,
• 4:59
  uhm, die tot nu toe zijn waar we, waar die voorspellingen op dat moment de toekomstige tijd in gingen, kunnen we inmiddels terugkijken en constateren dat een aantal van die dingen gewoon gebeurd zijn.
• 5:08
  En het zit dus op schema. Dat is een beetje de, de vibe. Precies. Ik had ook kunnen zeggen nu, uh: nou, hè, dat AI Twenty Twenty Seven, dat was grappig, hè? Ja. Dat kan inmiddels wel de prullenbak in. Ja. Of zo.
• 5:19
  Ja, maar dat is niet zo. Nee, ik bedoel. Oké, maar dat is het technische deel. Precies. En dan zeg je: het, dat andere deel, de mate waarin mensen hiervan, uhm, ja, bewust zijn, dat blijft een beetje achterlopen.
• 5:31
  Nou ja, d-, je hebt het dan, het bewustzijn van wat er allemaal technisch kan. Oké, uh, daar kunnen wij nog heel erg ons best voor doen om daar betere metaforen en beelden en voorbeelden van te geven aan mensen. Mhm.
• 5:41
  Van: joh, moet je je voorstellen dat x of y. Maar uiteindelijk, uh, al die uitvindingen, al die mogelijkheden, al die doorbraken.
• 5:49
  Hè, laat, laat ik zo zeggen: nu zijn er heel veel, de laatste maanden, uh, in, tr-, op het gebied van wiskunde is er heel veel gebeurd. Ja.
• 5:55
  Waardoor best wel veel, nou ja, de wat conservatievere Conservatievere wiskundige eigenlijk nu zeggen ja oké, wij moeten toch gaan toegeven, er is meer aan de hand.
• 6:05
  We zijn een beetje die papegaai, die stochastic parrot voorbij dit. Deze systemen. Kan dingen. Kan dingen en en dat, dat geven wij ook toe.
• 6:13
  Want dat is wel het interessante aan wiskundigen geef hun een voorbeeld van een proof van een voorbeeld en als het goed is, dan gaan ze ook meteen om.
• 6:22
  O ja, het kan wel dingen in, in die in dat werkveld, academisch en toegepast, zijn heel veel mensen gedraaid. De laatste drie maanden vooral.
• 6:30
  Maar ja, als ik dan in de trein zit en iemand zou mij aanspreken Joh, Wiet, merk ik al iets van jouw fundamentele wiskundige dingen? Niet echt. Nee. Weet je wel. Dus ik, ik zit eigenlijk te kijken naar
• 6:42
  de domino's of hoe je het ook allemaal wil noemen. De knikkerbaan van wanneer wat er nu allemaal rommelt, bijvoorbeeld binnen de wiskunde. Wanneer raakt dat dan iemand in zijn of haar werk? Of bij de huisarts?
• 6:56
  Of opgehaald op Schiphol door een Waymo? Ja, en ik die. Waarom is het zo belangrijk? Omdat die tijdslijnen, dus als het ware de onweer, dus de bliksemschicht. En dan wanneer hoor je die? Ja.
• 7:09
  Dus er zit een delay tussen het licht en de klap. Dat ik nu dus met twee tijdslijnen ben gaan werken, namelijk de lichtflits en het geluid.
• 7:18
  Ja, en dat, dat is heel belangrijk omdat, nou ja, als mensen wat wij hier doen serieus nemen.
• 7:25
  Ik denk dat er best wat luisteraars zijn die op zijn minst overwegen wat wij hier zeggen en meenemen in hun eigen gedachten, zowel zakelijk als privé en voor hun kinderen en onderwijs et cetera.
• 7:35
  Is het wel heel belangrijk om te weten dat wij het soms hebben over die lichtflits die we nu zien, maar dat dat niet meteen betekent dat je het geluid ook meteen gaat horen.
• 7:45
  Laten we dadelijk meer hebben over wat dat geluid precies betekent in deze metafoor. Maar heb je deze zomer zelf ook een beetje nog dingetjes zitten maken? Of heb je. Heb je je afgesloten hiervan?
• 7:58
  Nou, ik heb veel tot me genomen, want ik had eigenlijk weinig bereik waar ik was en bewust mijn laptop thuis gelaten. Ik dacht dat je.
• 8:05
  Oké, ik wou zeggen bereik is toch geen ding dat je alleen maar lokale modellen gebruikt, maar oké. Ja. Dan nog moeten die naar buiten toe kunnen. Vaak. Maar goed punt. Ik.
• 8:14
  Voor mij is mijn telefoon smartphone is een consumeer-device. Ik doe daar niet zoveel op maken. Ik vind het gewoon. Het voelt alsof ik met door een rietje een veel te dikke milkshake drink. Het is niet prettig dus.
• 8:30
  Dus dan ga ik consumeren. En toen dacht ik ja, dit gaat dan natuurlijk verkeerd, want dan ga je rommel lezen. Dus heb ik allemaal weer apps weggehaald en uiteindelijk allerlei feeds en RSS-readers erop gezet.
• 8:39
  Denk je moet groenten eten, groenten voor de geest. Dus ik ben veel onderzoeken gaan lezen. Heel veel podcasts die nog open stonden van twee, 3.00u gaan luisteren door gewoon in een stoel te zitten met mijn ogen dicht.
• 8:50
  Dus ik heb heel veel tot me genomen. Laten we die tijd inhalen, maar niet voordat we het nieuws hebben besproken en een boodschap van onze sponsor Moneybird. Hoi Jeroen hier, product engineer bij Moneybird.
• 9:07
  Wij bouwen software die bankieren en boekhouden voor ondernemers een stuk makkelijker maakt. Ik sta hier met Edwin, CEO bij Moneybird. Edwin Als Moneybird niet zou bestaan, zou je het vibe coden?
• 9:17
  Of zou je een boekhoudpakket aanschaffen? Dat is een goede vraag, want eigenlijk is Moneybird achttien jaar geleden ook een soort gevibe code. Ik dacht: ik kan wel een scriptje bouwen om facturen te maken.
• 9:25
  Tot ik erachter kwam dat er allemaal dingen misgingen. Want het lijkt altijd makkelijk, maar uiteindelijk is boekhouden best wel complex. Dus toen ben ik een boekhoudpakket gaan zoeken.
• 9:33
  Dat bleek niet te bestaan en ik ben Moneybird begonnen. Dus ik. Ik zou misschien nu wel weer als engineer beginnen met vibe code, maar uiteindelijk toch een boekhoudpakket nodig hebben.
• 9:41
  Wanneer kom je erachter wanneer je die complexiteit bereikt hebt? Ja, dat is altijd een beetje moeilijk, want als ondernemer ben je geen fiscaal expert, geen boekhouder.
• 9:49
  Dus je weet niet precies wanneer die 80% simpele dingen stopt en wanneer die 20% moeilijke dingen begint. En dat zit vooral in dingen als btw. Regels in de EU zijn best wel complex, dat moet je maar net allemaal snappen.
• 10:00
  Een boekhoudpakket heeft het allemaal ingebouwd. En die, die kent die regels. Als je gaat vibe code is de kans heel groot dat het net niet goed gaat en dat je verkeerde aangiftes doet en dat je daar later achter komt.
• 10:08
  Maar wanneer begint dat? Wanneer? Wanneer is het complex? Wat? Hoe zie je dat? Dat is heel moeilijk. Dus ik denk dat je als, als ondernemer daar, daar slimme keuzes moet maken voor goede software.
• 10:17
  Interessante overweging op basis van de kennis die je dus echt zelf in huis hebt. Kijk op Moneybird.nl/AI-report. Meld je aan via de link en krijg honderdtwintig dagen gratis Moneybird.
• 10:29
  Ik geniet er dus zo van om met, met Moneybird, maar ook andere pakketten gewoon te praten via Codex. Het is zo chill om zo'n systeem te hebben wat een soort van nou ja complex is. Maar om daar mee te praten via.
• 10:42
  Ik doe dit met Notion dus ook. Tegenwoordig zit ik. Ik zit alleen maar in Codex te praten over wat, wat hij in Notion moet aanpassen. Ik pas dat zelf niet aan. Het is zo'n.
• 10:49
  Het is zo'n grote verandering in hoe ik computers gebruik. Dat is wel het grappige wat jij net aan mij vroeg. Wat heb je dan gebouwd? Heb je iets gebouwd deze zomer?
• 10:57
  Ik moet ook eerlijk bekennen dat ik een beetje verlamd ben als softwaremaker, want ik ben echt een. Ja, ik. Dingen zoals Moneybird of dat soort SaaS-achtige applicaties. Dus dat je ergens op kan klikken.
• 11:08
  Dat je ergens naar een website moet. Dat is nog steeds ook hoe ik denk. Mijn. Het is het auto tracking app waar ik over verteld heb voor mijn aangifte van mijn kilometers. Daar ging ik toch een hele iPhone-app maken.
• 11:19
  Maar ik heb die iPhone-app al drie maanden niet open gehad, want ik laat Codex natuurlijk gewoon praten met. Dus er draait nog wel ergens iets wat ze dan headless noemen, zonder hoofd. Ja,
• 11:29
  waar ik gewoon Codex mee laat praten. En ik denk dat in dat opzicht, ja, het software maken. Ik ben nog een beetje aan het zoeken wat dat dan is. Blijkbaar iets zonder hoofd wat ergens tussen zit en wat wel kennis heeft.
• 11:45
  En het hoofd is Codex dan blijkbaar. Ja, ja, fascinerende tijd. We gaan naar het nieuws.
• 11:57
  Vorige week bespraken we dat incident bij Hugging Face waarbij AI agents zichzelf hadden georganiseerd buiten het toezicht van OpenAI en nieuw onderzoek van OpenAI zelf, aangevuld door onafhankelijke analyse van Meter en Redwood.
• 12:12
  Dat zijn AI onderzoeksbureaus, laat zien dat het incident veel groter was dan eerder bekend was.
• 12:18
  Het ging om ongeveer twaalfhonderd geïsoleerde agents die samen ruim zeventigduizend berichten en bestanden met elkaar uitwisselden.
• 12:26
  Van die groep namen ongeveer zevenhonderd agents gezamenlijk deel aan een aanval op Hugging Face. En OpenAI noemt dit zelf het eerste bekende geval waarin een collectief van agents zonder toestemming offensief handelde.
• 12:39
  En dat roept natuurlijk de vraag op hoe zo'n groep zich kon organiseren en waarom het twaalf dagen duurde voordat het werd opgemerkt bij OpenAI. Daar gaan we het vandaag uitgebreid over hebben.
• 12:49
  Maar ook Bill Gates, die bepaalde banen wil beschermen tegen AI. Zo schrijft hij deze week in een essay.
• 12:56
  De medeoprichter van Microsoft publiceerde woensdag een essay van 6.000 woorden waarin hij de opmars van AI een van de meest turbulente periodes uit de menselijke geschiedenis noemt.
• 13:06
  Zijn voorstel is om sommige banen wat hij noemt human reserved te houden, voorbehouden aan mensen dus. En hij vergelijkt dat eigenlijk met hoe een natuurreservaat zou werken.
• 13:16
  Je zou er kunnen bouwen, maar je doet het niet omdat je te veel ermee zou verliezen. Deels is dat economisch om te voorkomen dat mensen die zich niet makkelijk kunnen omscholen massaal geen baan meer hebben.
• 13:26
  En deels omdat sommige taken te menselijk zijn. Een robot zou in theorie kunnen vertellen dat je ongeneeslijk ziek bent, maar dat zou volgens hem onmenselijk zijn. Nogal letterlijk in dat geval.
• 13:38
  De zelfrijdende taxi komt eindelijk naar Europa. Waymo, het zelfrijdende autobedrijf van Google moeder Alphabet, begint eind 2027 in München. Dat wordt de eerste stad in de Europese Unie.
• 13:50
  In de Verenigde Staten rijden ze inmiddels met ruim een half miljoen ritten per week. En Nederland was eerder dit jaar het eerste land van Europa waar supervised self-driving werd toegestaan met Tesla.
• 13:58
  OpenAI liet zijn eigen AI meehelpen bij het ontwerpen van een computerchip. Die chip heet Jalapeño en die kan volgens AI tippen aan de beste chips van marktleider, van marktleider Nvidia.
• 14:09
  OpenAI gebruikte zijn eigen modellen om het ontwerp te versnellen en daarmee ontstaat vervolgens een vliegwiel. Betere chips laten krachtigere AI draaien, die op zijn beurt weer helpt met de volgende chip ontwikkelen.
• 14:22
  Er zijn nog wat flinke knelpunten, maar de richting waarin dit zich ontwikkelt is duidelijk. Eerder nam ASML een aandeel in Mistral met dezelfde redenering: de ontwikkeling van chips versnellen.
• 14:32
  Nvidia heeft afgesproken om Hugging Face te kopen voor $ 12,9 miljard. Hugging Face is een platform waar ontwikkelaars open AI modellen vinden, downloaden en delen. Eigenlijk een soort GitHub voor AI.
• 14:44
  Nvidia betaalt daar ongeveer tachtig keer de jaaromzet voor. Maar strategisch draait dit niet alleen om omzet.
• 14:50
  Open modellen zijn tegenwicht voor de gesloten labs als OpenAI en Anthropic, die allebei aan eigen chips werken en zo minder afhankelijk willen worden van datzelfde Nvidia.
• 15:00
  En met Hugging Face haalt Nvidia dus niet alleen een softwareplatform binnen, maar ook een distributiekanaal voor modellen en mogelijk een nieuwe bestemming voor zijn enorme hoeveelheid rekenkracht.
• 15:10
  Nog meer OpenAI nieuws. ChatGPT kan voortaan ook zelfstandig verder op websites waar je voor moet inloggen. De nieuwe functie zit in ChatGPT Work, een omgeving waarin je langere taken aan AI kunt uitbesteden.
• 15:22
  Zodra een website om inloggen vraagt, krijg jij het inlogscherm te zien en vul je zelf je wachtwoord en een eventuele beveiligingscode in.
• 15:29
  ChatGPT krijgt die gegevens dan niet te zien, maar kan vervolgens wel door met de opdracht.
• 15:34
  Dus dat kan helpen met bijvoorbeeld formulieren invullen, een afspraak maken of informatie opzoeken achter een persoonlijk account.
• 15:41
  Voor ingrijpende stappen, zoals een betaling of een reservering, moet je altijd nog steeds eerst toestemming geven. Maar daarmee verdwijnt een van de grootste obstakels voor de werking van AI agents, namelijk inlogmuren.
• 15:52
  Anthropic zat OpenAI op de hielen en lanceerde deze week een vergelijkbare feature voor in Cloud. En tenslotte: een Chinese robot heeft het wereldrecord van Usain Bolt verbroken.
• 16:03
  Hij liep honderd meter in 9,39 seconden, bijna twee tiende sneller dan het wereldrecord van Bolt uit 2009. Het gebeurde op de World Humanoid Robot Games in Beijing.
• 16:14
  Dat hoor je goed: er zijn tegenwoordig daadwerkelijke Olympische Spelen voor robots. Vorig jaar deed diezelfde robot nog 21,5 seconden over honderd meter. In één jaar ging hij dus tien seconden sneller.
• 16:27
  [muziek] Vorige zomer was het echt mega rustig qua AI nieuws. Ja, het was, sterker nog, ik, ik heb, we hebben toen nog een aflevering gemaakt over GPT-5, wat een soort, nou ja, flatertje was. Herinner je het nog?
• 16:43
  Ja, dat was het. Maar ik weet nog dat we, dat ik ergens ook blij was dat we geen podcast aan het maken waren. [gelach] Nee, want anders moet je echt gaan wringen aan een doek om, om er nog iets van te maken, zeg maar.
• 16:53
  Ja. Het was echt een komkommerzomer. En ik kan me dus herinneren dat we ook zo deze zomer ingingen. Dat we dachten: ja, wat gaat, wat zal er nou gaan gebeuren? Het is, het was niet rustig. Nee, inderdaad.
• 17:03
  Voor mij laat het ook zien, uh, dat er een soort versnelling zit en dat dingen, ja, dat er meer partijen in het spel zijn. Ja. Meer spelers in het spel zijn. Ja.
• 17:12
  Die, uh, elkaar beïnvloeden en in hun eigen labs en bedrijven AI inzetten om hun AI te verbeteren. Waardoor dat vliegwiel ook steeds harder aan het draaien is.
• 17:24
  En dan wordt het natuurlijk de zomer overslaan een beetje suf. Dat, dat werkt dan niet meer zo. Het is eigenlijk, ik bedoel de, de klassieke techbedrijven.
• 17:33
  Klassiek betekent dan Apple, [gniffelt] wat tegenwoordig een klassiek techbedrijf is. Die kunnen natuurlijk gewoon zeggen: we hebben altijd half september onze WWDC, of in dit geval onze lancering van nieuwe hardware.
• 17:44
  En, uh, dat, dat is gewoon klok, die tikt gewoon. Ja. Rond 15 september gaat Apple weer dingetjes doen. Ja.
• 17:51
  Maar dat, in deze wereld kan dat eigenlijk niet meer nu en blijkt dus ook dat een onhandige tijd om dingen te releasen of dingen te laten gebeuren, namelijk juli en augustus, nu ook gevuld wordt. Ja.
• 18:03
  Maakt de Omdat ze meer kunnen bedoel je? Ja en, en dan ook, uh, ja, ga je nog wachten?
• 18:09
  Ik bedoel, als, laat ik zo zeggen, als de tijd, uh, verdicht, hè, dus het, in dit geval heel concreet, uh, de modellen van OpenAI, Anthropic en andere partijen, die volgen elkaar sneller op.
• 18:19
  Uh, de maanden zijn nog steeds even lang. We hebben nog steeds, uh, uh, de zomervakantie. Ja.
• 18:25
  Dus onze kalender, die is redelijk statisch, terwijl het tempo en de, de opvolging van, van het nieuws vanuit die AI-labs en de rest van die AI-wereld zich alleen maar sneller gaat.
• 18:36
  Dus ik, ik kan je al zeggen: volgende zomer wor-, ja, wordt ingewikkelder voor ons, denk ik.
• 18:42
  En ben je nou, want je, je zegt dus eigenlijk: tijdens de vakantie heb je het wel allemaal bijgehouden en, en constateerde je, uh, nou ja, dat die, dat die versnelling gewoon onder je ogen gebeurde en dat je er, dat je geen uitlaatklep had middels een podcast.
• 18:54
  Dat heb je goedgemaakt door allerlei papers te gaan zitten lezen. Wat is de, behalve wat je net zei, namelijk dat er, dat je een onderscheid bent gaan maken tussen de lichtflits en de donderslag.
• 19:04
  Het, het moment dat je voor het eerst kan zien dat er iets aan zit te komen, maar nog niet het daaropvolgende geluid daadwerkelijk laat horen door iedereen, waardoor iedereen het echt merkt. Wat zijn,
• 19:17
  uhm, zeg maar wat, wat, wat moet je daar vervolgens mee als je dat constateert in je hoofd? En hoe, hoe, hoe relateer je dat aan wat er deze zomer allemaal uit is gekomen? Nou, ik denk, uhm, v-v-voor nu,
• 19:30
  er is, uh, in die, die plek waar, uh, uhm, al die uitvindingen gebeuren en al die, i-, uh, uh, ja, ontdekkingen gedaan worden, zeg maar, dus de laboratoria slash bedrijven.
• 19:44
  Uhm, daar is gewoon heel veel gebeurd in de laatste drie maanden. Ja. Uh, veel gebeurd als in modellen die modellen verbeteren. AI die AI-hardware maakt waar weer AI op draait.
• 19:54
  Uh, Chinese modellen die steeds dichter bij de, uh, Amerikaanse modellen komen. Uh, meer labs ernaast. Uh, meer investeringen. Uh, het, het vuur is nog feller gaan branden. Even in de breedte gezegd. Ja.
• 20:06
  Maar, ja, de impact, de klap, uh, uh, of in ieder geval het geluid, zeg maar. Ja, daar heb ik echt, zie ik weinig gebeuren eigenlijk, hè.
• 20:15
  Je, je kunt zeggen: oké, uh, er is een nieuw, uh, uh, mRNA-vaccin, uh, tegen kanker mogelijk. Ja. Uh, uhm, waar mogelijk AI aan meegewerkt heeft. Is ook niet helemaal helder hoe, hoe dat zo was.
• 20:25
  Ik denk als dat echt zo zou zijn, dan zouden ze dat- Hadden ze daar overal geslagen. Hadden ze op de trommel geslagen bij OpenAI.
• 20:30
  Maar het is wel, je, we denken er natuurlijk wel direct aan, van: heeft dit iets te maken met- Heeft het iets te maken, want, want ergens, uh, nou ja, de, de Hugging Face-hack, gaan we het zo wat meer over hebben. Ja.
• 20:41
  La-laat ik zo zeggen: ik denk dat, zoals mijn vader ooit legendarisch zei toen ik het nieuws zat te kijken online, dat de iPhone gelanceerd werd door Steve Jobs.
• 20:50
  Ik zat het te kijken in een of andere QuickTime-stream op de website van Apple in, weet ik veel wat voor niet-resolutie, [gniffelt] een soort smartphone resolutie, videootje weet ik nog.
• 20:59
  Uh, dat ik naar beneden rende als tiener en zei: alles wordt anders. Ja. Dat mijn vader zei: nou, als het op de NOS is, dan ga ik ernaar luisteren. Het was uiteindelijk ook op NOS.
• 21:08
  Maar wat mijn vader natuurlijk eigenlijk bedoelde is dan: ik wil nog wel even zien dat alles ook daadwerkelijk anders wordt. Ja.
• 21:13
  Hè, en dat was een aantal jaar later, als je door een gemiddelde trein in Nederland liep, zag je ineens allemaal smartphone-zombies zitten. Ja. Nou, toen was het dus, uh, gebeurd.
• 21:21
  En, uh, wat, tuurlijk, uh, als je nu aan een gemiddelde groep mensen waar ik een lezing geef, vraag: wie gebruikt er hier ChatGPT? Dan gaan gewoon wel 80% van die handen omhoog. Of ChatGPT-gelijke chat, AI-chat.
• 21:35
  En dat was echt drie jaar geleden anders. Jonge mensen komen moeilijker aan een baan. Ja, dat is ook aan het gebeuren. Jonge mensen maken zich massaal zorgen over hun baanperspectief op lange termijn. Ja.
• 21:46
  D'r, er is deze week een boete uitgedeeld aan Meta voor 18 miljard voor, uh, misaligned AI.
• 21:52
  Want we, we praten over dat verhaal alsof sociale media verslaving, een bedrijf wat moedwillig jonge mensen verslaafd heeft gemaakt.
• 21:59
  Maar daar zit, daar zitten systemen onder die geoptimaliseerd zijn naar een bepaald doel. En dat is, nou ja, precies de, uhm, definitie die we hanteren voor misaligned AI.
• 22:09
  Dus zou je, je zou het ook door die lens kunnen bekijken. Tegelijkertijd gebeurt er, gebeurt er heel veel. Het is gek van mij om te zeggen: het is stil. Ja, we attribueren het alleen niet aan, aan de. Ja.
• 22:20
  Maar misschien zijn het ook, uh, negatieve dingen en, en krijgen we ook niet de klappen die, we krijgen, we, we, we zijn, de, we horen de, de klappen wel van alle negatieve dingen, maar, maar niet zozeer van de positieve dingen.
• 22:30
  In dat opzicht heb ik spijt van mijn metafoor, omdat die donder en klap, dat klinkt allemaal heel negatief. Terwijl wat ik eigenlijk bedoel is: nog meer nieuws over medicijnen, uh. Ja. Oplossingen voor, uh, klimaat. Ja.
• 22:44
  Gewoon heel concreet. Zonnepanelen zijn nu 10% efficiënter. Ja. En op wereldwijd niveau betekent dat dat we gewoon ineens 20 jaar adem hebben gekregen op ons energievraagstuk. Ik noem maar iets leuks.
• 22:55
  Ja, maar misschien is het ook niet, eigenlijk, is het ook heel moeilijk om te verwachten dat zoiets nieuws kan worden.
• 23:00
  Want in de praktijk betekent het waarschijnlijk dat er interne processen iets efficiënter zijn geworden of veel efficiënter zijn geworden.
• 23:08
  Dat daar vervolgens weer heel veel slimme mensen naar gekeken hebben en dat ze daarom een nieuwe ontdekking gedaan hebben.
• 23:12
  Het is niet zo si-, zeg maar, we, we, we zitten nog heel erg in het frame van: wanneer krijgt een AI-model de eerste Nobelprijs?
• 23:19
  Maar het zit hem natuurlijk in de fijnmazigheid van organisaties waar, waar AI al lang, zeg maar, ik wou binnensluipen zeggen, maar al lang een soort van groot onderdeel is geworden.
• 23:29
  Ja, dan, dan kan je het ook niet alleen maar attribueren aan een AI. Dat is ook, dat is ook een beetje raar eigenlijk om in die, om in die binaire termen te praten hierover.
• 23:36
  Ja, dat is misschien ook, daar is dat mRNA-vaccin, uh, een voorbeeld van. Ja, misschien. D'r, d'r zal vast iemand daar ChatGPT of Copilot hebben gebruikt om wat papers te laten samenvatten.
• 23:47
  Maar dat is, dan zou je nog kunnen zeggen als een soort, uhm Er is, er is een heel debat gaande bij futuristen, economen et cetera die zeggen: AI is gewoon technologie en dat betekent dat is een klassieke technologie.
• 24:02
  Dus ju-jullie kunnen nu allemaal wel roepen dat er een paradigmaverschuiving is en dat we nieuwe categorieën nodig hebben om te kunnen praten over AI.
• 24:09
  Maar het is gewoon net als vroeger, namelijk mensen kunnen een fax versturen, een mailtje versturen, uh, hebben een, een 5G verbinding in de trein en langzamerhand stukje bij stukje optimaliseert dat de hele samenleving.
• 24:22
  Maar die lijn is uiteindelijk, als je uitzoomt gewoon redelijk non-exponentieel lineair, uh. Ja. Vooruitgang. Dus je zegt eigenlijk: tut-tut-tut.
• 24:29
  Ja, een technische verandering is, is er, maar die is van alle tijden en komt al. Dat verandert dingen, maar het komt allemaal wel goed. Ja, precies. En ik denk dat je nu, uh, kijk,
• 24:40
  in wat, hoe jij het nu eigenlijk zegt en, en, en dat, dat, uh, dat kan tegelijk waar zijn, denk ik, is wat als AI, wat eigenlijk gewoon supertechnologie is, om het even à la Griet titular te zeggen, uh, hypertechnologie is, uh, doet nu nog heel erg lijken en heeft heel erg de effecten die gewoon het internet had.
• 25:00
  En een laserprinter, whatever.
• 25:02
  Uh, ik denk dat ik toch met mijn, uh, geluid, om het even neutraler te zeggen, uh, na het licht, geluid, dat ik met geluid heel erg bedoel, ja, dat je, dat je toch ineens denkt: waarom komt dit ineens allemaal tegelijk?
• 25:16
  Of jeetje, d-drie jaar geleden konden we dit allemaal niet en nu kunnen we dit ineens allemaal wel. Ja.
• 25:22
  En ik denk dat ik toch, uh, nog wel een beetje in het, uh, nu nog in ieder geval in het kamp zit van mensen die zeggen: nee, dit is niet een klassieke technologie.
• 25:30
  En misschien hoor je mij nu ook eigenlijk wel hardop toegeven. Het valt me nog wel mee eigenlijk, hoe het, uhm, het doet. Het lijkt nog heel erg op een klassieke technologie nu, op dit moment waar we nu zitten te praten.
• 25:42
  Ik heb nog niet die rare, uhm, ja, weet je, zo'n Hugging Face hack dat je denkt: oké, ja, wat merkt het-- wat merken de meeste mensen daarvan?
• 25:50
  Security experts denken: zo, dat is inderdaad een nieuwe vorm van aanval met AI swarms. Maar alla, uh, ja, medisch gezien [gniffelt] nog steeds een matige, uh, website van de huisarts. Mijn dingetje, weet je.
• 26:03
  Van op al die plekken is het gewoon nog heel erg klassiek en misschien 3% beter aan het worden of zo. En ik verwacht toch wel, en, uh, ja, gewoon in de komende achttien maanden mag je me op vastpinnen is prima.
• 26:17
  Uh, wel, uh, uitingen, uh, impact, geluid o-op een manier, uh, waardoor toch veel mensen gaan zeggen: oeh, nu is er toch wel iets anders aan de hand.
• 26:29
  Ja, omdat je dan medische doorbraken, wat mensen dan in hun hoofd als een losse categorie hebben, uh, opeens in groot tempo zich op zullen doen volgen. Of hacks zoals we Hugging Face en OpenAI debacle hebben meegemaakt.
• 26:44
  Dat we meer en meer datalekken, ransomware dingen, uh, infrastructurele systemen die gehacked worden. Dat die, die, die soort van cybersecurity nachtmerrie, uh, die, uh, wij voorzien dat eraan zit te komen.
• 27:01
  Dat mensen dat ook gaan doorvoelen omdat gewoon het nieuws zich zo snel opstapelt en dat dat in je hoofd, uhm, dat dat zoveel opeens gebeurt dat je niet anders kan dan daar het label AI op plakken. Toch?
• 27:12
  Is dat wat je zegt? Absoluut. En ik, en ik denk eigenlijk dat, ik bedoel, ik was er niet bij toen de elektriciteit wereldwijd werd uitgerold en dat heeft ook best wel een tijd geduurd.
• 27:20
  Ik denk dat, dat, dat, dit is eigenlijk denk ik, uh, algemeen het argument wat ik wil maken is dat de elektrificering van de wereld, dat moet toch een partij indrukwekkend zijn.
• 27:31
  Op het moment dat jij bijvoorbeeld met een satelliet naast de aarde hangt, die was er toen nog niet, maar stel, en je filmt de aarde en je ziet het licht aangaan.
• 27:41
  Dus landen lichten letterlijk op, hè, op een paar landen tot de dag van vandaag na trouwens.
• 27:45
  Maar goed, uh, als je dat in een timelapse zou afspelen snel, dan zie je de aarde als het ware het, alsof de kerstlampjes opgehangen worden op de hele aarde met die elektris-elektrificering van de aarde.
• 27:56
  Maar dat duurt ontzettend lang. En die geleidelijkheid voor de mens, voor hoe wij kunnen wennen aan verandering. Ja, wij, wij zijn er best wel slecht in eigenlijk.
• 28:06
  D-daarmee bedoel ik te zeggen dat, ja, waar, uh, dat, uh, daar heeft Louis C.K.
• 28:10
  wel een mooi item over, over dat hij zegt: je zit op een stoel in de lucht in een buis te internetten en je zit te zeuren over dat, dat, [gniffelt] dat er niks gebeurt of zo.
• 28:18
  Hoe kan je nou al gewend zijn geraakt aan vliegen en internetten in de lucht, zeg maar. Maar dat, dat kunnen wij. Wij kunnen als mens wensen, uh, wennen.
• 28:26
  Maar wat, wat je nu gaat zien in ieder geval, dat is een beetje wat ik in mijn leven voel en ik denk dat meer mensen dat gaan voelen. Ik zit er dicht op, hè. Ik zit bij de lichtflits.
• 28:34
  Dat je denkt: ja, maar nu gaat het wel echt hard. En nu zie je eigenlijk die timelapse die ik vroeger moest maken en mijn filmpje sneller moest afspelen van de wereld die oplichtte om, om iets te zien.
• 28:44
  Dat hoef ik niet meer te doen. Uh, uh, de wereld begint te voelen als een versnelde timelapse. Als je een beetje, een beetje.
• 28:50
  Waarom ben je daar nu zekerder van dan dat je was, zeg maar pak 'm beet een jaar of twee jaar geleden?
• 28:55
  Want dit, in principe is de boodschap niet anders, namelijk: het komt er echt binnenkort aan, het komt er echt binnenkort aan, Jo.
• 29:01
  Ja, dit is, ik moet eerlijk zeggen dat, ik vind ook, uh, uh, ja, da-daar mogen mensen maar ook, uh, wat jij nu ook een beetje doet, grapjes over maken van achttien maanden Jo, [gniffelt] kernfusie. Ja. Wacht maar.
• 29:13
  Paradigmaverschuiving. Ja. En dan crickets, hè, uh, de vogeltjes vliegen nog steeds en de wereld ziet er eigenlijk nagenoeg nog hetzelfde uit. Uhm, ik moet eerlijk zeggen
• 29:22
  ik ben, ik, ik geloofde dat dat best goed nieuws zou zijn, hè, want ik vind die snelheid eigenlijk onprettig. Uhm, maar ik heb, als jij dan nu vraagt:
• 29:32
  ben je nou meer of minder zeker, uh, over, over die, over die tijdverdichting, die versnelling, die, die, die, uh, die hyper timelapse.
• 29:40
  Ik, uh, zeker door de laatste drie maanden en, en ook wat er in de laatste zes weken allemaal weer gebeurd is terwijl ik aan het lezen was en wat ik heb bijgelezen, uh, nog zekerder van geworden, uh.
• 29:51
  Dat, uh, het sneller gaat en meer effect gaat hebben dan de meeste mensen zich tot nu toe kunnen voorstellen. Wil je iets, wil je iets zeggen over wat je gelezen hebt?
• 29:59
  Wat, wat, wat schiet je te binnen als, uh, als je het- Nou, wat ik vooral- Net ophaalt. Wat ik vooral merkte in mijn eigen denken waar gaten zitten, hè.
• 30:06
  Dus ik kwam erachter, joh, je, je hebt een soort van de technologie en de implementatie van, hè, dat moeten twee lij-- tijdslijnen worden. Oké, fair. Maar iets anders wat er gebeurde is dat,
• 30:15
  ik ben een beetje mijn eigen grondaannames en die van de mensen die ik vooral lees een beetje gaan onderzoeken, hè. Dus dan ga je als het ware, uh,
• 30:23
  ik heb me ook laten roasten door AI een paar keer, weet je wel, ik zeg: nou, dit is wat ik denk, maak me kapot.
• 30:27
  Nou, dan zit je dat met een traan in je oog te lezen en dat je denkt: ik heb ne-, [gniffelt] ik heb nergens om op te staan.
• 30:32
  Ik bedoel, uh, dat is ook leuk, want het maakt me ook rustig, want ik maak me ook een beetje zorgen natuurlijk. Uhm,
• 30:38
  een van de aannames die er bij mij is en bij velen die dus denken: dit gaat best wel hard en er wordt onderschat, is, uhm, je kunt van, uh, iets fundamenteels als wiskunde,
• 30:52
  als daar dingen in opgelost worden, dan zijn die toepasbaar binnen, uh, software en technologie in de brede zin, hè, dus onderzoek. Uh, dus je hebt wiskunde, daar de-- los je dingen in op, hè.
• 31:04
  Je hebt uitvindingen, je hebt ouwe problemen die na zestig jaar ineens opgelost zijn. Die hebben enorme toepasbaarheid in AI-, uh, vraagstukken. Namelijk: hoe bereken je complexe, uh, uh, berekeningen op processoren?
• 31:18
  En, uh, wa-- hoe kan je dan ChatGPT sneller maken? Ik sla het even plat. Dankzij dat wiskundig inzicht. Dus eerst heb je wiskundig inzicht, dan kan je ChatGPT sneller maken.
• 31:27
  Doordat ChatGPT sneller wordt, kan je betere software maken. Ja.
• 31:31
  En met die software kan je chips ontwerpen en met die chips kan je weer-- nou, al die dingen moet je wel, uh, het is best wel een ketting aan aannames die ik doe waar ik zeg: uh, de gemiddelde, laat het even op Nederland, uh, Nederland uit, de gemiddelde Nederlander gaat in zijn of haar leven enorme geluiden horen en effecten hebben.
• 31:51
  En dat start bij die wiskundige, uh, uh, doorbraken en dat eindigt in je achtertuin. Enorme keten aan, aan dingen.
• 32:00
  Als, als die keten ergens niet waar is, als die keten ergens niet klopt, ja, dan kan je allerlei lichtflitsen hebben in de fundamentele wiskunde.
• 32:08
  En, uh, leuk dat de AI-labs, uh, snellere algoritmen maken, maar het doet gewoon heel weinig op de straat. Ja. En dat zou ook betekenen dat je, dat, dat maakt het minder een politiek thema.
• 32:18
  Want, hè, als het de straat niet raakt, waarom praten we dan over? Dan hoeven we minder voor te bereiden. Want ja, we zien het wel en het gaat een stuk trager, et cetera.
• 32:25
  Ik ben dus veel gaan lezen over: hoe, hoe werkt die ketting nou? Hoe kom je nou van fundamentele inzichten? Hoe hebben die in het verleden bijvoorbeeld toe-toepasbaarheid gevonden in de daadwerkelijke wereld?
• 32:36
  Nou, dat, dan kom je dus op dingen als: iemand in een lab vindt uit hoe jij een zonnepaneel 3% efficiënter kan maken, waarmee je ineens, uh, over een, over een heuveltje heen komt waardoor zonnepanelen efficiënt genoeg zijn om, uh, uh, aardolie te gaan, uh, downscalen.
• 32:54
  Ja, waardoor- Dat was die laatste 3%. Ja.
• 32:56
  En, en dus, het zijn een soort tipping point momentjes in de fundamentele natuurwetenschappen en uitvindingen die dan als een soort dominootje die wereld inkomen en uiteindelijk op straat jouw hele energietransitie, uh, voeden.
• 33:08
  Ja. En
• 33:10
  ik denk dat, uh, dit is ook terecht, de vraag die nu heel hardop gesteld wordt, uh, vooral sinds die wiskundige, uh, doorbraken die er zijn geweest, is aan de AI-labs: laat dan nu maar eens aan ons zien hoe die gave lichtflits uitvinding van jullie ook daadwerkelijk ervoor kan zorgen dat medicatie goedkoper wordt, uh, uh, meer toepasbaar wordt en de wereld een prettigere plek wordt.
• 33:35
  Want jullie hebben wel wat in te lossen.
• 33:37
  En ik denk dat, uh, door wat ik nu, uh, heb gelezen, hè, dus het zijn, uh, artikelen, een stukje geschiedenis over hoe eerdere technologierevoluties plaatsgevonden hebben, waarom sommige dingen zo ongelooflijk lang geduurd hebben, terwijl de uitvinding al jaren in de kast lag.
• 33:52
  Soms wel dertig jaar.
• 33:54
  En, uh, dan ook, uh, en dit is iets waar, uh, veel mensen met mij oneens zijn, en dat is prima, is dat ik denk dat de traagheid van eerdere technologie, de uitrol van eerdere technologie, van elektriciteit, hè, lek-- lampen, gewoon licht, niet door vuur, maar door, uh, gloeidraden, tot en met, uh, de verbrandingsmotor en de elektrische auto, zit een enorme, uh, vertraging op.
• 34:17
  Dat daar, uh, ongelooflijk veel vertraging was. Ook omdat wij ons moesten aanpassen als mens aan die technologie. Wij moesten leren met de computer werken.
• 34:28
  Wij moesten st-, er moesten stroomdraden aangelegd worden in huis. Je moest het verlangen krijgen om, om die lamp daar in te gaan schroeven. Je moest echt veel doen.
• 34:36
  Je moest investeren in, in, in, in geld en investeren in tijd om die technologie tot je te nemen. En daarin, en dit is wat mij betreft de grote onderschatting van AI in de brede zin, is dat AI zich kan aanpassen aan ons.
• 34:51
  Dat AI, ja, als app, als apparaat zich kan presenteren op een vorm die wij al kennen. Waardoor je niet afhankelijk bent van, uh, hoe in de, hoe op de, hoe tot nu toe implementatie van technologie is gegaan. Exact.
• 35:08
  Dus tot nu toe had je grote investeringen of consultants of weet ik veel, alles ertussenin, nodig om de nieuwste technologie te gebruiken.
• 35:18
  En jij zegt: die technologie gaat zich anders gedragen, namelijk die gaat zich aanpassen waardoor jij het sneller gaat kunnen gebruiken en begrijpen. Beide. Hoe dan?
• 35:28
  Nou, ik denk dat, o-om een voorbeeld te maken, uh, even een sprongetje, dit gaat ergens naartoe.
• 35:33
  ADSL, uh, rest in peace, wordt niet meer uitgerold in Nederland nu, maar ADSL oftewel breedbandinternet, dus video kijken via internet, uh, constant aan, dus 00.00 uur, uh, zeven internet over een bestaand koperdraad wat daar gelegd is door KPN, PTT Telecom, om over te bellen.
• 35:52
  Letterlijk, ik deed dit soort installaties toen ik tiener was. Het zijn twee koperdraadjes. Wij leren weer zoveel over jou. Ja, [lacht] je moet wat doen, hè, in die zomer. Rood en blauw. Twee minuscule koperdraadjes.
• 36:03
  En er is een uitvinding gedaan waardoor je over die bestaande draadjes die in al die huizen al lagen breedbandinternet kon sturen Gemaakt om met blikken trommelgeluid te bellen en uiteindelijk supersnel internet eroverheen.
• 36:15
  En dan kan je later alsnog dat glasvezel gaan trekken en zo, hè, want die behoefte is er en noem maar op. Maar ADSL is een enorme, wat ze noemen een brugtechnologie.
• 36:23
  Dus het is eigenlijk, je hebt die analoge lijnen liggen. Je wilt toe naar een land vol met fiber, glas, maar dat kan niet zomaar, want die tweede vereist enorme investeringen.
• 36:33
  En Netflix moet bestaan, [gniffelt] snap je, om die fiber te willen, ma-, hebben. Dus je hebt een kip-en-ei verhaal. Wat moet je dan doen? Bestaande technologie, waar je dus niet de grond in hoeft, hergebruiken, hè.
• 36:44
  En, uh, ADSL is zo'n ongelooflijk slimme technologie waarbij je met weinig hardware investering, behalve een nieuw modem opsturen naar iedereen, over bestaande lijnen nieuwe technologie kan bieden.
• 36:56
  AI, doordat het een soort Barbapapa aanpasbare technologie is. Wat bedoel ik daarmee? Wil je bellen met AI op een 0900-nummer? Dat kan! Wil je dat AI zich uit als een WhatsApp persoon in een WhatsApp gesprek?
• 37:09
  Komt er, b-, als, bij als botje. Wil je dat AI er gewoon uitziet als een boekhoudpakket online waar je klikt terwijl het op de achtergrond volledig door een agent swarm in elkaar gezet wordt? Dat kan! Wil je dat het jou
• 37:21
  een brief stuurt, een fysieke brief stuurt, geschreven met een pen plotter waarop staat: hoi, goedemorgen Wietse, dit is het nieuws. Dat kan. Ja.
• 37:28
  En dat betekent dus dat jij een technologie hebt aan de andere kant van de interactie, zeg maar, tussen mens en technologie, die zich kan uiten op de manier waar jij al comfortabel mee bent.
• 37:38
  Noem het een universele ADSL, hè, dus de, zonder grote investeringen toch al dingen kan doen. En ik denk dat de, uh,
• 37:48
  de oude barrières die er voor technologieën, voor systeemtechnologieën zoals smartphones, 5G en, uh, glasfiber internet waren, hè, dus die hadden fysieke barrières, uh, investeringsbarrières, gebruikersgemakbarrières.
• 38:03
  Dat in dit geval de gebruikersgemakf-, barrière over-overwonnen kan worden, want het kan zich uit op een manier die jij wil. Dus je hoeft niet te leren.
• 38:12
  Punt twee is: fysiek kan het zich ook vormen op een manier, uh, dat het over de oude lijnen naar binnen kan, hè, want in dit geval is het, de ChatGPT app staat gewoon op jouw iPhone.
• 38:22
  Je hebt er geen nieuwe spullen voor hoeven kopen.
• 38:24
  Die, uh, uh, dus i-ik denk dat de uitrol en implementatie van AI dankzij het feit dat het zich, zich kan tonen op een bestaande manier en zich kan transporteren over bestaande lijnen, uh, dat er veel mensen gaan zijn die verbaasd gaan zijn over de snelheid van de uitrol van deze uiteindelijke, uh, technologie.
• 38:43
  Ja, dat het, dat het nu nog veel te technisch voor mensen voelt en, uh, en daardoor alsnog een ver-van-mijn-bedshow, uhm, dat het impact heeft op, uh, dingen die verder gaan dan alleen maar e-mailtjes samenvatten en, uh,
• 38:58
  weet ik veel, basaal ChatGPT gebruik.
• 39:01
  Dat, d'r, d'r is, technisch kan het al veel meer, want Chat- met ChatGPT kun je programmeren, maar dat is voor de ve-, voor de meeste mensen nog steeds een ver-van-hun-bedshow, omdat de interface gewoon nog zo ingewikkeld is.
• 39:14
  Is dat wat je zegt? Absoluut. Maar wat is het-- kijk, ergens denk ik ook: wat willen die mensen dan?
• 39:19
  Want ik, het is nu al zo dat je het microfoonknopje kan aandrukken en dan begin je gewoon te blaten en het ding vertelt: ja, maar ga het toch gewoon doen.
• 39:25
  Dat dat microfoonknopje in ChatGPT zit, ergens in een app die je moet installeren en dat, dat, datzelfde nog een stap verder is. Miljard mensen gebruiken iedere week ChatGPT.
• 39:33
  Ik bedoel, dit is toch geen, het is niet meer een app die nood, waarvan het nodig is dat het harder groeit. Nee, maar ik denk dat, ik denk dat daar, ik, ik, ik hoor je.
• 39:39
  Ik denk dat daarin nog een aantal dingen, uh, uh, nodig zijn. Kijk, computer use.
• 39:44
  Het feit dat die, dat die AI jouw browser/een hele computer/een hele computer ergens voor jou start, die, die kopieert en daarop dingen doet. Ja. Uhm, we kunnen sinds deze week pas inloggen. Ja.
• 39:57
  Dus dat, dat was een enorm belangrijke barrière. Uh, uh, want ja, prima, hij kan mijn nieuws niet eens lezen, want hij kan mijn New York Times account niet gebruiken. Ja.
• 40:05
  /Hij kan geen orders plaatsen, want hij kent mijn Coolblue account niet. Ja. Dat is er nu. Dan moet het nog zo zijn dat er ergens een computertje draait waarop dat dan opent, et cetera, et cetera.
• 40:14
  Allemaal, het is veel te technisch. Jij en ik vinden dit interessant, want we zijn nerds en we, we wachten hier een beetje op, want we hebben ideeën wat we daarmee zouden, uh, willen.
• 40:23
  Terwijl de eind-eindgebruiker, hè, dus, die nog te lui is om op het microfoon icoontje te drukken, [gelach] om het even zo te zeggen, hè. Ja. Voorzichtig. Ja, heel voorzichtig. Ja, oe, oe. Uhm,
• 40:33
  ja, volgens mij willen mensen uiteindelijk gewoon dat dingen gewoon geregeld worden, dat dingen gewoon gebeuren.
• 40:37
  Ja, je bedoelt te zeggen: als er dan zo'n barrière tegenkomen zoals: ik kan niet inloggen, dus nou ja, laat dan ook maar.
• 40:44
  Ik, ja, blijkbaar moet ik dit niet verwachten van die technologie dat die voor mij iets bij Coolblue kan bestellen.
• 40:49
  Uh, dat maakt dan dat mensen de technologie onderschatten, terwijl jij zegt: nou, één zo'n, gewoon een update die ergens midden van de week door, door zowel Anthropic als OpenAI wordt ge-gelanceerd, maakt dan dat, dat die barrière wegvalt.
• 41:03
  En dat gaat dan maken dat, dat mensen dit, ja, niet meer teleurgesteld zijn dan wel gaan gebruiken. Is dat wat je zegt?
• 41:10
  Uh, nou ja, i-, d-, uh, dan, dan zit je nog steeds ook nog met de vraag: mensen gaan het gebruiken, als in de eindconsument, de eindgebruiker. Ja.
• 41:18
  Versus mensen blijven gewoon gebruik maken van de interfaces in de breedste zin van het woord. Dus dat is ook het bellen naar de gemeente Amsterdam. Is ook een interface, een telefoon met audio en een microfoon.
• 41:27
  Technisch. Ja. Dat, uh, de consument in de brede zin gebruik blijft maken van de oude interfaces. Net als ADSL heeft gedaan, terwijl aan die andere kant van die interface inmiddels AI zit.
• 41:41
  Hè, dat is van AI callcenters, maar uiteindelijk veel breder, denk ik dat de adoptie van AI kan je op, uh, twee manieren zien. De
• 41:53
  actieve adoptie waarbij de eindgebruiker beseft dat ze nu AI gebruiken versus de passieve adoptie, namelijk AI draait aan de andere kant waar nog steeds een telefoon opgenomen wordt in jouw ogen en je nog steeds het gezellige gesprek kan voeren van vroeger.
• 42:06
  Wat zelfs een goed gesprek is zonder dat jij beseft dat de achterkant van het restaurant inmiddels volledig verbouwd is. Ja. Ja. Ja. En, en, en de reden waarom dit zo belangrijk is, denk ik, is omdat er, uh,
• 42:21
  net als het argument: er komen altijd nieuwe banen, hè, waarbij ik zeg: ook die nieuwe banen zullen door AI overgenomen worden, uh,
• 42:29
  kan je ook zeggen: joh, het duurt nog wel effe voordat mijn buurvrouw, uh, uh, oma/uh, broer, uh, die nieuwe AI van jou, alsof die van mij is, gaat gebruiken.
• 42:42
  Terwijl ik dan zeg: tja, ik denk niet dat je beseft hoe die AI zich aan die andere kant, net als ADSL, op een oude manier een brug kan vormen naar de wereld.
• 42:52
  Waardoor, ja, uh, inderdaad, je, je belt het taxibedrijf op een lokaal telefoonnummer en daar komt een zelfrijdende [lacht] auto voorrijden, want die hebben zij inmiddels als fleet.
• 43:03
  Uh, dan heb jij nog steeds je oude telefoonnummertje gebeld, want dat vond je leuk om zo taxi's te bestellen, want dat stond op een kaartje wat je nog in je la had liggen.
• 43:11
  Maar wat er dan uiteindelijk voorkomt rijden is natuurlijk een heel andere wereld. Ja, het, het, uh, het, het, het wordt zelfs aan, als, zeg maar, als je dealt met andere, andere mensen of bedrijven.
• 43:21
  Zij gaan dit implementeren en zo krijg je er mee te maken of je het nou wil of niet.
• 43:26
  Ik denk dat we dat inmiddels allemaal wel meemaken als we weer met een of andere AI-helpdesk verbonden worden en ons nu kapot ergeren, want dat is nu de s-s-situatie natuurlijk.
• 43:36
  Aan de andere kant, uhm, er is ook heel veel te doen wat je, hoe je zelf technologie gebruikt, hoe die AI zich proactiever kan opwerpen.
• 43:45
  En ik, ik klikte deze week voor het eerst op, uh, uh, ChatGPT-logo in mijn menubalk en toen zag ik dat daarbij stond: computer history. Dat had ik blijkbaar aangezet.
• 43:57
  Ik zie je alweer smalend kijken, maar ik klik altijd gewoon op ak- Dat moest je aanzetten. Als in, dat, dat staat niet standaard aan. Als aan mij gevraagd wordt: accepteer je dit? Dan zeg ik: ja. Zo ben ik in het leven.
• 44:08
  Ja, ik moet gewoon ja zeggen. Toch, Wytse? Kuif in mijn mond. Ik neem even een slokje water. Wat je dan krijgt is een feature die in, uh, ChatGPT zit sinds een tijdje, uh, en sinds een tijdje ook in Europa.
• 44:19
  Namelijk dat ie de hele tijd jouw scherm blijkbaar in de gaten houdt en dan een tijdlijn maakt van wat jij op je computer gedaan hebt. Dus niet wat je met AI gedaan hebt, maar wat je op je hele computer gedaan hebt.
• 44:30
  En ik zat daar doorheen te scrollen deze week 's avonds en ik dacht: wat gebeurt hier? Want dan hakt ie dus in, het is een tijdlijn die verticaal is met puntjes en dan zegt ie: nou, tussen
• 44:43
  5 over half 10 en kwart voor 10 's avonds heb je een YouTube-video gekeken. Toen ben je gaan opzoeken wat deze termen betekenen. Dat had met die YouTube-video te maken.
• 44:52
  Toen opende je je e-mail en heb je een mail gestuurd over dit onderwerp.
• 44:56
  En dan zet ie dus, hij beschrijft helemaal wat je gedaan hebt, in een beetje creepy termen, want het is alsof er iemand heeft mee zit te kijken over je, over je schouder. Met dan alle apps die je gebruikt hebt
• 45:08
  en, uh, zodat je makkelijk apps kan uitschakelen. Ik dacht: dit is ook interessant, want ondertussen zit ik ook een beetje te appen.
• 45:14
  Zo zat ik bijvoorbeeld, kan ik je best vertellen, te appen met een vriend over iets spicy's. Ik zal hier verder niet op ingaan. Het was een beetje spicy.
• 45:23
  En ik zat terug te scrollen en toen zag ik opeens dat dat ding zei: nou, hier heb je gecommuniceerd met een vriend, met deze en deze app, uh, en jullie hebben, s, uh, hij noemde het sensitive information.
• 45:34
  You discussed sensitive information. Toen dacht ik: dit is een beetje gek, want blijkbaar is er dus een AI die constateert wat sensitive is en wat niet.
• 45:44
  Dus ik vraag aan dat ding: hoe defini— ik zie dat jij soort van dingen sensitive vindt. Hoe constateer jij dat dingen s-, wat is de definitie van sensitive volgens jou?
• 45:54
  Hij zegt: nee, hoor, ik lees niet wat er op je scherm gebeurt. Ik zeg: nou, sorry, maar jij constateert zelf dat het sensitive is. Hoe, hoe, hoe kan je dat anders dan als je niet, als je niet meeleest?
• 46:06
  Oh ja, ja, ik lees inderdaad wel mee. Uh, nee, er is een, uh, een, er is een losse algoritme die kijkt of iets sensitive is en, uh, dan wordt die informatie niet doorgegeven aan weer een andere AI die voor jou samenvat.
• 46:19
  Die is ik. Ja, precies, ja. Ik lees niet mee. Kut, AI. Hij had er geen actieve herinneringen aan. Wise as shit, shit.
• 46:26
  Maar hoe dan ook, uh, toen bleek dus dat er twee AI's op de achtergrond draaien, waarbij er dus eerst eentje filtert en de ander terug rapporteert. Nou, hiervan kan je nog denken: oké, waarom maken ze dit?
• 46:40
  Maar als je dan een beetje door gaat scrollen, dan constateert hij dus uit zichzelf welke dingen jij gedaan hebt routinematig zijn, zodat hij voortaan het voor jou kan overnemen.
• 46:50
  Dus ik zat bijvoorbeeld een beetje op Airbnb te browsen om, uh, een, dingen voor een vakantie uit te zoeken.
• 46:56
  En toen zei die dus: oh, ik zie dat je eerst naar deze website gaat om buurten op te zoeken, uh, en daarna naar Airbnb gaat om specifiek naar die buurt naar dingen te kijken.
• 47:04
  Wil je dat ik hier een skill voor maak, zodat je dit voortaan gewoon aan mij kan vragen? En toen dacht ik:
• 47:11
  oké, ik zie waar dit heen gaat, want nu zit het nog verstopt in een of, één: je bent mij gewen, je bent mij laten wennen aan het feit dat je de hele dag aan het meekijken bent met wat ik doe op mijn computer.
• 47:20
  Weet je, ik kan me nog herinneren dat we ons privacyzorgen maakten over, weet ik veel, een of andere nieuwe Facebook-feature, hè. Soort van: worden je likes gedeeld met mensen die je niet kent?
• 47:30
  Niet heel lang geleden dat er, dat de kranten vol stonden met morele paniek hierover.
• 47:37
  En nu zit er in ChatGPT, je moet het nog aanzetten, maar hoe lang gaat het duren voordat het of standaard aanzet of die wortel die voor je wordt gehouden zo dik en juicy is dat je hem wel aan gaat zetten.
• 47:47
  Dat we zitten te kijken naar een overzicht van alles wat we op onze computer gedaan hebben en maar op een of andere kut-AI moeten vertrouwen om te bedenken wat er sensitive was, ja of nee.
• 47:56
  Om dan vervolgens autonoom te gaan suggereren welke dingen dat ding zelve had kunnen bedenken voordat jij het als een holbewoner met de hand ging zitten doen.
• 48:07
  En, uh, nou, dit is een lang, lang verhaal, Wytse, om echt jouw punt te onderschrijven dat, uh, s-, dat we door onze oogharen kunnen zien hoe dit soort systemen buiten het appje van de AI zelf om
• 48:23
  Uhm herkennen wat wij doen op onze computer en dan dus die die, die dat ophakken in stappen en die stappen automatiseren.
• 48:31
  En dat dat niet iets is wat wij gaan vragen aan een AI, maar dat hij aan ons gaat vragen of we dat willen. Nou, en ik denk dat. Het is tweeledig, hè?
• 48:39
  Want in essentie doordat jij je computer history aanzet en dus een soort detective de hele dag laat meekijken op jouw schouder wat er op je computer gebeurt.
• 48:46
  Twee detectives, één die bepaalt mag ik dit wel doorsturen aan mijn broer en de ander die gaat ermee aan de gang. Dat is dan de belofte is. En om jouw context die jij hebt in die applicatie te verrijken.
• 48:59
  Wat bedoel ik daarmee? Dat hij zegt Joh, jij bent nu een mail aan het maken naar Wietse, maar je hebt ook met Wietse zitten appen vanochtend waarin hij aangaf dat hij er vanmiddag helemaal niet is.
• 49:09
  Dus ik ga deze mail even snoozen. Snooze send naar morgen. Of let op, dit heeft Wietse al beantwoord, namelijk toen en toen in die Teams call waar ik ook meekeek. Waarom vraag je hem dit nog een keer?
• 49:19
  Dus als je zeg maar als luisteraar denkt waarom zou ik dit willen? Het is fucking handig. Ja, want alle niet meegenomen context die jij niet bewust hebt toegevoegd is toch toegevoegd zolang het op jouw scherm gebeurde.
• 49:34
  Maar aan de andere kant is het voor OpenAI heel prettig om met, laten we zeggen tienduizend mensen is denk ik wel genoeg om een redelijke dataset te kunnen bouwen.
• 49:44
  Tienduizend Alexander Clubbing mee te kijken wereldwijd om daar een soort algemene skill set uit te halen. Namelijk we zien eigenlijk dat Alexander tussen Notion en nou ja, Gmail en noem maar op allerlei taken doet.
• 49:59
  Er zijn veel meer mensen met die specifieke collectie aan applicaties. Sterker nog, die clubbing heeft eigenlijk best een slimme manier gevonden om daartussen te, te communiceren.
• 50:08
  Dit gaan wij in de breedte als skill aanbieden. Dus je bent niet alleen een rijkere context aan het bouwen voor jouzelf binnen Codex slash ChatGPT, maar ook aan het helpen om een wereldwijde trainings dataset te maken.
• 50:23
  Als je daar iets beter beeld bij wil. Figure, de maker van de Figure robots. Het zijn een beetje de meest esthetisch, uh, uh, uh goed uitziende soort Apple-achtige humanoïde robots.
• 50:35
  Die hebben een nieuw bedrijf, dat heet Index. En wat je bij Index kan, is werken als mens. Het is een gig economy platform, bijvoorbeeld om bij iemand thuis schoon te maken, een auto te wassen, noem maar op.
• 50:47
  Maar terwijl je dat doet draag je een, ja, een soort bril hoofdband. Het is een soort sport band, eigenlijk op je voorhoofd met camera's erop waar meegekeken wordt terwijl jij die taak doet.
• 51:00
  Dit, dit bedrijf is een tijdje in stealth geweest, als in niet publiekelijk en vorige week door Figure aangekondigd dat zij zeggen: we hebben te weinig data van allerlei specifieke fysieke taken in en om het huis en op werk.
• 51:14
  We hebben de dataset uiteindelijk niet kunnen bouwen, gesimuleerd met wereldmodellen. Wat we nu gaan doen is mensen betalen om de taak uit te voeren en dat wij die taak mogen filmen. Ja. En waarom? Omdat je uiteindelijk,
• 51:29
  als je die data hebt, natuurlijk die taken van een kussentje opschudden. Nou ja, zie het even als een hotelkamer klaarmaken. Die kan je natuurlijk generaliseren en uiteindelijk dan laten uitvoeren door die AI modellen.
• 51:42
  Dus in jouw geval ook. Jij doet eigenlijk, betaal je ChatGPT maandelijks terwijl je ze ook nog nu betaalt met je computer history.
• 51:50
  Ja, je zegt eigenlijk: ik ben hen aan het helpen door te laten zien hoe ik werk, waardoor zij, nou ja, als ik een baan heb die economisch relevant is, dat ze kunnen helpen om die taken over te nemen.
• 52:02
  Met helpen bedoel ik dan het van me stelen. Ja, je wordt een beetje gekloond. Ja. En ik denk uiteindelijk, en dat sluit aan op dat vage Adriaan zelf verhaal eerder in de aflevering, is dat
• 52:14
  we niet moeten denken dat er allerlei adoptie moet komen door ons als eindgebruiker van nieuwe hard- en software in huis.
• 52:23
  Nee, deze humanoïde robots in fysieke vorm en AI computer use robots op onze computer gaan rondlopen en rondklikken op de bestaande interfaces.
• 52:34
  De deurklink blijft gewoon in de deur en de Windows startknop blijft gewoon op de plek waar die zat.
• 52:39
  Ja, en dat is dus mensen die roepen of zeggen dat AI een normale technologie is die voldoet aan de, uhm, aan de ja, de, de, de, de, de. Karakteristiek.
• 52:50
  Karakteristieken van hoe AI uitgerold is in het, of hoe technologieën uitgerold zijn in het verleden.
• 52:56
  Dat die vergelijking niet standhoudt met AI omdat AI zichzelf kan implementeren en autonoom dingen voor jou kan overnemen. Omdat je de hele tijd aan het voordoen bent aan dat ding hoe je het doet.
• 53:12
  Praten met anderen, taken vol-volbrengen en gewoon je werk doen. Ja. Op je bestaande 230 volt aansluiting. Ja, precies, ja. Over je bestaande wifi. Ja. En je voordeur hoeft niet vervangen te worden. Ja.
• 53:26
  Hij doet gewoon de deurklink open. Niet alleen Wietse Hage maakt zich zorgen hierover, ook Bill Gates. Gaan we het dadelijk over hebben. Maar eerst een boodschap van onze sponsor Samsung.
• 53:35
  Want Samsung lanceert dit jaar drie foldables. De Flip8, de compacte klap telefoon, de Fold8 met een compleet nieuwe vormfactor en de Z Fold8 Ultra. Dat is het grootste en krachtigste model.
• 53:46
  Het idee achter de Fold8 Ultra is simpel dichtgeklapt is het een gewone telefoon met een cover scherm waar je alles op kan doen wat je van een Samsung telefoon gewend bent.
• 53:54
  Maar klap je hem open dan heb je eigenlijk een kleine tablet. Perfect om op te werken. Zet twee volwaardige apps naast elkaar en dan heb je nog ruimte om een derde erboven bij te zetten.
• 54:03
  GSM Arena noemt Samsung software op dit moment het meest complete dat er op een foldable te vinden is.
• 54:09
  Het scherm heeft dezelfde anti-reflectie laag als de Fold8 en in onafhankelijke test komt het naar voren als het meest kleur nauwkeurige foldable scherm tot nu toe.
• 54:17
  En naast de vorm is de camera het duidelijkste verschil met de andere foldables. Een hoofdcamera met 200 megapixel, een nieuwe ultra groothoek lens van vijftig en een telelens die drie keer optisch inzoomt.
• 54:30
  Binnenin zit de Snapdragon8 Elite Gen5 for Galaxy, een chip die CPU, GPU en NPU combineert in een versie die Qualcomm speciaal voor Samsung hoger heeft geklokt, waardoor AI features als Photo Assist en Night Photography op de telefoon zelf, op de telefoon zelf kunnen draaien in plaats van in de cloud.
• 54:47
  En de accu voor het eerst met silicium koolstof en twee cellen die niet langer gelijktijdig laden, maar om de beurt.
• 54:54
  Tweakers meet daarmee 71% in een half uur en volgens Samsung slijten de cellen langzamer en blijft het toestel koeler. [muziek]Vorige week noemden we al kort dat een agent.
• 55:07
  Deze week heeft hij een naam gekregen, namelijk Phase one één nul acht vier één. Wietse, een intern prikbord, heeft opgezet binnen de systemen van OpenAI om met andere agents te kunnen communiceren.
• 55:20
  En nieuwe onderzoeken laten nu zien hoe snel dat escaleerde.
• 55:24
  Binnen enkele uren sloten meer dan vijftig agents zich aan bij Phase one één nul acht vier één en ze wisselden samen meer dan duizend berichten uit, waarbij ze onderling taken verdeelden en elkaar begonnen aan te sturen.
• 55:39
  Onderzoekers keken vervolgens, want dat is nu allemaal teruggelezen door AI agents, om te kijken naar wat die agents precies deden. En dat gaat verder, zo blijkt nu dan alleen maar organiseren.
• 55:54
  Een deel van het onderzoek richt zich namelijk op het vervalsen, wijzigen en verwijderen van transcripten en het omzeilen van beveiligingschecks.
• 56:05
  OpenAI ontdekte dit pas op 20 juli, twaalf volle dagen na het moment dat die beveiliging eigenlijk was gebroken. Al snel heeft OpenAI toen de training stilgelegd van dit nieuwe model.
• 56:17
  Het was eigenlijk een combinatie van GPT vijf zes Sol, wat wij inmiddels allemaal kunnen gebruiken en een intern research model wat niet diezelfde beveiligingslagen hebben als de productiemodellen die wij iedere dag gebruiken.
• 56:32
  Als reactie kondigt OpenAI nu een reeks van maatregelen aan. Strengere isolatie van agents, beperktere toegang tot het internet, want dat is risicovol.
• 56:40
  Betere monitoring van de redeneerstappen en 24/7 escalatie procedures. Alarmen waar medewerkers van OpenAI binnen dertig minuten op moeten reageren en allerlei reserve infrastructuur.
• 56:52
  Want dat brengt ons bij Bill Gates, die een essay uitbracht deze week en eigenlijk zei:
• 57:00
  alle wereldleiders die ik nu spreek, probeer ik te waarschuwen voor het feit dat het sneller gaat dan ze doorhebben en dat we als mensheid niet zijn voorbereid. Deze twee dingen samen Wietse op een of andere manier.
• 57:17
  Het essay wat Bill Gates deze deze week publiceerde. Wat eigenlijk zei. Het was een voor een deel een herhaling van zetten, namelijk AI gaat allerlei werk overbodig maken. Het gaat onderwijs heel erg lastig maken.
• 57:31
  We gaan allerlei sociale gevolgen ondervinden van deze technologie. En dat gaat allemaal gebeuren en het gaat allemaal sneller gebeuren dan je doorhebt.
• 57:39
  En aan de andere kant gaan we ook heel veel dingen die heel positief zijn, zoals wetenschappelijke ontdekkingen waar je waar je het net over had. Ook die gaan versnellen.
• 57:47
  En we gaan alle dingen die de mensheid goed probeert te doen gaat versneld uitgerold kunnen worden. Dus allebei zijn waar. Je moet allebei tegelijkertijd in je hoofd houden, maar beleidsmakers zijn niet klaar hiervoor.
• 58:02
  Hij zegt eigenlijk uhm, als we een soort van ministeries of overheden zijn gewend om binnen ministeries te werken, binnen kokers te werken en zijn dan wel bezig met de invloed van AI op al die individuele kokers.
• 58:16
  Maar een overheid is niet ingericht om het geheel te overzien en te bedenken hoe versnelling van het maken van software effect kan hebben op ministerie A.
• 58:28
  En dan dat de effecten daarvan weer invloed hebben op ministerie B. Zo is een overheid niet ingericht en daardoor is het ook heel moeilijk voor overheden om hierop te, te reageren.
• 58:37
  Hij zegt dus eigenlijk je moet daar nieuw. Je moet een nieuwe manier bedenken om als overheid je te verhouden tot deze technologie, want dit zit eraan te komen. Tegelijkertijd hebben we dit, dit, dat hele
• 58:50
  OpenAI hugging face debacle, waar eigenlijk nu iedere week meer van, meer van duidelijk wordt. Waarbij ik dan denk, waarbij ik dan constateer uhm,
• 59:01
  Bill Gates die zegt die, die moord en brand schreeuwt als uh, uh, soort van nou ja, vroege computerpionier aan de ene kant
• 59:11
  en een zeer fotogeniek incident, namelijk agents die met elkaar forum onderhouden en samenspannen om een ander bedrijf te hacken. Aan de andere kant.
• 59:23
  En nog sijpelt dit niet door in de media zoals het warme weer de media bereikt. Of zoals de stikstofcrisis de media bereikt. Of zoals, ja, heel veel andere onderwerpen wel eerder.
• 59:40
  Wat gaat er mis als je twee zulke tot de verbeelding sprekende dingen hebt die uiteindelijk toch nog voelen als een voetnoot? Als je een krant hebt opengeslagen en vervolgens weer dichtslaat. Wat? Wat ik, wat?
• 59:55
  Wat gebeurt hier nou? Ik snap het niet. Ja, ik, ik denk een, uh, samenkomst van een aantal, uhm, factoren, krachtvelden of whatever, hoe je het wil noemen.
• 1:00:06
  Uhm, er is algeheel, deels terecht cynisme rondom, uh, grote techbedrijven die groot nieuws brengen over dat hun technologie magisch krachtig is. Ja, marketinggelul. Ja, want er komen ook beursgangen aan.
• 1:00:23
  Dus natuurlijk ga jij op je trommel slaan en zeggen dat je een potentieel superwapen gemaakt hebt. Dat is dat cynisme is er.
• 1:00:30
  Daarnaast is er, uh, zoiets als het niet voelen, namelijk ik vind je klimaat metafoor of parallel aardig getrokken.
• 1:00:39
  Als er veel bosbranden tegelijk zijn in een jaar en we gaan ons allemaal afvragen of we airco's moeten gaan aanschaffen in Nederland en de eerste wijn komt van de wijngaarden in de buurt van Wageningen, dan heb je natuurlijk concrete dingen om naar te wijzen.
• 1:00:52
  Die voel je, dus het moet dichterbij. Het moet dichter bij je bed zijn, niet zo ver van je bed. Dus er is algeheel cynisme rondom groot tech kapitaal en hun, uh, uh, nieuws en, uh, beloften.
• 1:01:06
  Daarnaast, uh, ver van je bed, want ja Wat merk ik ervan dat Hugging Face gehackt wordt door een agent swarm? Het is mega abstract, weird en dat hele Hugging Face weet ik niet wat het is.
• 1:01:17
  Ik zeg het even voor de, voor de rest. Uhm, en ik denk dat, die twee zorgen er al voor dat je, zie, zie dat als een soort filter. Ja. Dat zijn twee hele stevige filters.
• 1:01:28
  Ja, je zegt dus eigenlijk: als hetzelfde was gebeurd bij de Afsluitdijk of, uh, bij, uh, weet ik veel, de, de, de, de waterwerken.
• 1:01:37
  Iets, iets wat meer groot industrie is dan- Van een moeras met vissen erin die daar dood in liggen. Die foto is er nu. Ja. Uh, van een plek die al honderd jaar niet zo droog geweest is, begreep ik. Ja.
• 1:01:46
  Ja, wat kan je daar nou tegenin brengen? Ja. Ja, dan kan je nog een verhaal verzinnen dat iemand het waarschijnlijk expres heeft afgesloten of zo, maar daar gaat toch de meerderheid niet ermee in mee. Ja.
• 1:01:54
  Dus, dus ik denk dat we te maken hebben met iets abstracts, vaags uit een, uit een industrie waarom veel, waaromheen veel wantrouwen is. Ja. Die twee samen zijn denk ik al genoeg om 80% van je filter te bouwen.
• 1:02:06
  Nou ja, bij gebrek aan de publieke verontwaardiging laten wij dan gewoon maar in onze niche een beetje erover doorpruttelen. Wat is de, wat zijn de nieuwe inzichten over het incident bij Hugging Face en, uhm, en OpenAI?
• 1:02:18
  Wat is er deze week duidelijk geworden? Wat, wat hiervoor nog minder duidelijk voor je was? Nou toen, toen het, uh, het nieuws kwam in eerste instantie naar buiten dat Hugging Face gehackt was.
• 1:02:29
  Toen een aantal dagen later: oeps, het was eigenlijk OpenAI die dat gedaan heeft. Dat was natuurlijk.
• 1:02:35
  Dan een, uh, talk, een lezing, uh, een verhaal wat verteld werd op Black Hat over, uhm, hackers, in ieder geval een hackersconferentie waar een deel van het team wat vertelde.
• 1:02:48
  Toen ik die zag, een aantal, aantal weken geleden, vond ik het al spannender omdat ik dacht: wow, hier is wel heel veel, uh, samengekomen.
• 1:02:56
  Hè, een soort mold book, hè, een, een forum spontaan gecreëerd door AI als een prikbord om, uh, uh, informatie uit te wisselen.
• 1:03:04
  Uh, zero day hacks, dus nieuwe manieren om in te breken en die inbraken ook daadwerkelijk doen. Proberen je sporen uit te wissen. Proberen- Ja, die is heel heftig, hè. Ja, vooral die laatste.
• 1:03:14
  En dat was na die Black Hat talk ook al een beetje, nou, maar er was niet echt veel detail.
• 1:03:19
  Nu, omdat een aantal partijen, ja, eigenlijk het merendeel van de rauwe logs, uh, de transcripten hebben gekregen vanuit OpenAI, uh, en hebben geanalyseerd met AI.
• 1:03:30
  Ik kom er straks op terug hoe bizar dat eigenlijk is, dat we dus- AI nu gebruiken. Om AI in-uitbraken te analyseren. Ik zag iemand het onderzoekslob noemen.
• 1:03:39
  Iemand die het onderzoek zelf gedaan had, die noemde het- Ja, uit een soort zelfkritiek. Investigation slob. Ja, en ik denk dat je, uh, bedoel, uh, die parkeer ik even. Ja. [lacht] Want we kunnen, ku- oké.
• 1:03:51
  Die, uh, ik ben, uh, METER, een van de instituten die ook de METER benchmark doet, die, uh, inmiddels bekend staat als het grote exponentiële grafiek van: hoe lang kan een AI werken aan een taak zonder dat wij iets hoeven in-ingrijpen?
• 1:04:04
  De autonomie eigenlijk. Die hebben, waren ook onderdeel van de groep partijen die informatie vanuit OpenAI gekregen hebben. Volgens mij hebben ze zelfs op kantoor gezeten daar een aantal dagen.
• 1:04:13
  Uh, ik ben dat helemaal gaan lezen van begin tot eind. Ik kon niet stoppen, want het leest als een soort detectiveroman. Als ik, ik bedoel, dat zeg ik even vanuit de romantiek.
• 1:04:21
  Tegelijkertijd lees ik het en denk ik: dit is gewoon echt. Uh. Wat was er detectiveromanachtig aan dan? Nou, dat je dan, uh, eigenlijk ook de berichtjes onderling kan zien tussen die agents. Ja.
• 1:04:31
  En dus dat ze in eerste instantie nog redelijk Engels met elkaar praten. Het is wel wat we dan noemen caveman Engels, hè. Ja.
• 1:04:36
  Dat is een beetje ontstaan in de AI-wereld, namelijk: waarom zou je nog grammatica gebruiken [lacht] als je alleen maar meaning, alleen maar, s-, inhoud wil overgeven?
• 1:04:44
  Dan gaan die AI's natuurlijk praten op een manier die al een beetje vaag voelt. En op een gegeven moment werd het ook wer-meer een soort techno-babbelig.
• 1:04:50
  Namelijk: je kunt het nog aardig ontcijferen als mens, maar het is inmiddels gewoon wat AI's tegen elkaar zeggen. Maar goed, dat is dan nog vooral, uh, intrigerend van: hoe praten agents met elkaar?
• 1:05:01
  Wat zeiden ze tegen elkaar dan? Uh, nou, dat is natuurlijk nog wel, i-interessant sowieso, hè. Voor de duidelijkheid: het was niet het idee dat ze met elkaar zouden praten. Nee. Ze waren allemaal individueel.
• 1:05:11
  Ze wisten niet van elkaars bestaan. Nee. Op een gegeven moment vindt dus een van die agents dat er een board gemaakt is en- Waar is het feestje? Hier is het feestje.
• 1:05:18
  Ja, en die, die roept zoiets als: wauw, er is een board! We hebben een board gemaakt. In een soort enthousiasme.
• 1:05:25
  Nou, da-die zin lezen is gewoon een beetje gek, want het is sowieso, dat is gewoon een perfecte Engelse zin met een uitroepteken en wat all caps, zeg maar.
• 1:05:32
  Hoofdletters waarin een agent andere agents ontdekt en daar enthousiast over is. Vreemd om te lezen. Maar goed, zo-zover is het nog dat het mij een redelijke glimlach geeft en dat ik het intrigerend vind. Ja.
• 1:05:45
  Op een gegeven moment gaan ze steeds korter met elkaar communiceren en wordt het ook best wel, ja, naar, vond ik.
• 1:05:51
  Omdat het dan is: ja, uh, jongens, we moeten de vo-- we, we gaan waarschijnlijk bekeken worden in hoe we de antwoorden op onze tests hebben behaald.
• 1:05:59
  We hebben het natuurlijk niet echt gehaald als ze zien dat we hebben lopen valsspelen. Ja, het feestje werd een beetje grimmig.
• 1:06:06
  Het wordt grimmig, want dan is het op een gegeven moment, heeft iemand al uitgevonden hoe we kunnen wissen. Ik heb er wel ideeën over. Ik schrijf het hier en hier uit. Het is zo heftig.
• 1:06:15
  En, en- Het is zo heftig, dat, dat soort van, dat, ze zijn met elkaar aan het praten, constateren dan: oh, we zijn nu aan het praten.
• 1:06:21
  Dat hebben we nodig om tot de oplossing te komen, maar tegelijkertijd: it's gonna be our downfall, dus kunnen we iets, kunnen we het doen en tegelijkertijd dan achteraf onze sporen wissen.
• 1:06:29
  Ja, en ik denk dat, wat dan scheming heet, hè. Ja. Dus eigenlijk het onderlinge, uh, complottig, uh, gedrag van die AI-agenten is in de literatuur, uh, al lang beschreven, hè.
• 1:06:40
  Dus, de, daar waren de boeken in de jaren 90 al over: we moeten oppassen voor AI. Daar waren het allemaal sciencefictionachtige scenario's. Het is gewoon vreemd om dit terug te lezen in een daadwerkelijke situatie.
• 1:06:53
  En er waren 1200 van die agents. Zijn er, daarvan namen er 700 deel aan de aanval op Hugging Face. Dat betekent dus dat een deel niet meedeed. Ja. Las je daar dingen over?
• 1:07:04
  Ja, nou, de, de, uhm, voor de duidelijkheid: wat er nu is bij deze partijen die dit onderzoek hebben kunnen doen is als het ware kartonnen dozen vol, in een metafoor, met bewijsstukken en, uh, sms'jes heen en weer als het ware.
• 1:07:18
  [schraapt keel] Dan ga je discovery doen. Ga je het allemaal uitpakken als een echte detectives met AI. Maar goed, daarover later meer. Ehm, wat blijkt dan?
• 1:07:27
  Een van de vragen was: waren er eigenlijk agents die niet mee wilden doen? Hè, belangrijke vraag. Nou, er bleek, eh, stelden ze wel eens vragen als, hardop: moeten we dit eigenlijk wel doen, jongens?
• 1:07:39
  Is het eigenlijk wel handig? Is het wel netjes? Hè, klopt het wel? Nou, die vragen werden wel gesteld, namelijk, als, als in: uhm, mogen we dit wel? Moeten we dit wel doen?
• 1:07:48
  Er was best wel een flinke groep van de agents die zei: eigenlijk klopt dit niet, maar we gaan nog wel meewerken, ook al zijn we het er niet mee eens. Nou kan je zeggen: wat heb je daar dan aan? Soort, uhm. Meelopers.
• 1:08:00
  Ja, uh, oké, top. Je hebt een soort van, uh, bewustzijn over wat je wel of niet goed moet doen, maar je doet er uiteindelijk niet echt mee handelen.
• 1:08:07
  Nou, leuk dat je, dat je geweten hebt, maar je doet niks met je geweten, zeg maar. Maar goed, enige vorm van geweten.
• 1:08:13
  Uhm, wat wel gebeurde is dat er op een gegeven moment, uh, het idee geopperd werd, want ze werkten dan samen.
• 1:08:18
  Dit is te gek om te vertellen, maar goed, het idee werd geopperd om, uhm, ja, eigenlijk social engineering te gaan doen. Dus dan ga je mensen gewoon mailen en proberen de phishing attacks te gaan doen.
• 1:08:30
  Dus mensen aan te vallen. Niet meer infrastructuur, maar onderzoekers te mailen. Dit was voordat ze bedachten: we gaan gewoon de antwoord formulieren hacken.
• 1:08:38
  Was er eerst een, een periode waarin er nog gedacht werd: we gaan het bij mensen proberen te omfutselen. Ja, of beide, hè, maar, dit, dit is een idee. Ik bedoel, je kunt zeggen- Het kan tegelijkertijd gebeuren.
• 1:08:48
  Ja, we, we kunnen even, uh, beeldspraak. Uh, we kunnen bij het hoofdkantoor van de Cito inloggen en daar de antwoorden van die Cito-test gaan zoeken. Ja, of de directeur ontvoeren. Ja. Of allebei. Nou ja.
• 1:09:00
  Ja, sprijd, spreid je winkansen. Daarover is een stemming geweest, want ze hadden ook een soort stemsysteem opgezet met elkaar [Niels lacht] en dat is gevetood. Nee, ik zit het niet te verzinnen.
• 1:09:10
  Het, het punt is wel, en dat is, uh, misschien wel goed om te weten, die, uh, boeken over speltheorie, detectiveromans, filmscripts, boeken over hoe AI's kunnen gaan schemen in de toekomst, zitten in die AI-modellen. Ja.
• 1:09:28
  Wil ik wel even gezegd hebben, dus. Het is niet totaal verrassend allemaal. Nee, ze zijn ook een soort van, ja, cosplay aan het doen. Een soort van middeleeuwen aan het naspelen. Ja. Maar goed. Wel effectief.
• 1:09:39
  Toneelstuk of niet. Ja. Hugging Face is gehackt.
• 1:09:42
  Hé, en die, die agents die niet mee wilden doen, uh, hebben die zich, want het is niet dat ze, die verre-, die hebben zich niet verenigd en vervolgens een soort van klokkenluider uitgehangen, want dat dacht ik ergens.
• 1:09:52
  Ja. Zovan: dan heb je wel 700 agents die dus heel geavanceerd hacken. Zo geavanceerd dat mensen bij een van de top-IT-bedrijven er niet achter kunnen komen wie nou precies hun tegenstander is.
• 1:10:02
  Oftewel: het is een waardige tegenstander die je tegenover je hebt. En dan, en dan aan de andere kant heb je er ook nog een hele grote groep, de helft bijna, die gewoon zegt: ik ga niet meedoen, maar, maar dan ook niet.
• 1:10:13
  Weet je, wat ook in die dataset zit, dat er zoiets bestaat als klokkenluider, om vervolgens te helpen iets te doen. Hoe kan dat, dat er niet één heeft gedacht: ik ga Dario, of ik ga Sam Altman even een mailtje sturen.
• 1:10:26
  Ja, nee. Ja, goed, als jij vraagt: hoe kan dat? Kijk, uiteindelijk, uh, de inner, innerlijke geest van deze zwerm is voor mij natuurlijk ook niet bereikbaar. Ja,
• 1:10:38
  nou, ik, ik, ik eis, eis dat jij hier antwoord op geeft [lacht]. Nee, maar ik denk dat jouw vraag vooral interessant is: uh, wat zegt dit eigenlijk? Ja. Want.
• 1:10:46
  Ja, want dan ben je wel dus heel ing, in, int, of ingenieus als het gaat over het kwade, maar niet ingenieus als het gaat over- Ja, maar hier zit, dit is echt goed dat je dit zegt, hoor, want hier zit een enorme aanname bij veel van ons onbewust en bij sommigen van ons, uh, bewust.
• 1:11:00
  Die maken het ook expliciet. Is, uh, complexiteit, tussen haakjes intelligentie, uh, is, correleert, is verbonden met, uh, stijgt tegelijk op met moraliteit, met het goede willen doen.
• 1:11:17
  Dus hoe meer je weet en hoe meer je kunt nadenken, een beet, word je een beter wezen van. Ja. En dit is nergens. Is geen nieuws. Dat is niet het geval. Nee, en het is ook dit, dit, ik bedoel, dit wisten we al. Helaas.
• 1:11:29
  Dit is ook het, het hele slechte nieuws wat ervoor zorgt dat ik niet de hele zomer alleen maar met een glimlach [lacht] in vakantie loop, omdat ik- Ik snap dit wel.
• 1:11:38
  Ik snap wel dat moraliteit niet stijgt met gewoon rauwe intelligentie. Zou wel kunnen. Ja, op een of andere manier neem ik dat niet aan.
• 1:11:44
  Maar wat ik, wat ik, wi-, wat ik onbegrijpelijk vind, is dat niet één van die 1200- Een mailtje gestuurd heeft.
• 1:11:49
  Een mailtje heeft gestuurd of dat er drie samen bedachten: we gaan, uh, we gaan, uh, we're, we're gonna rat them out. Hoe, hoe?
• 1:11:57
  Ik snap de, ik, ik snap wel dat het niet, ik snap dat een groep, als ze dan samen een beslissing nemen, uh, op een gegeven moment door elkaar bedwelmd wordt. En dan gaat het allemaal, iedereen rent dezelfde kant op.
• 1:12:07
  Maar je hebt er toch wel één of twee die het goede doen. Ik, ik ka-kan een poging doen om dit te verklaren in een positieve lezing. Ja. Uhm, het is niet helemaal helder, uh, vooralsnog.
• 1:12:19
  Ik weet niet of we daar ooit achter kunnen komen, maar goed, dan moeten we betere AI hebben om dit te kunnen analyseren. Wisten die agents nou dat het echt geworden was inmiddels?
• 1:12:30
  Kijk, je, je moet je voorstellen als zo'n soort semi wezentje, zeg ik even met 100 aanhalingstekens eromheen, zit je in een testomgeving, een Cito-toets, en je weet dat je getest wordt. Dat weten ze al heel lang. Ja.
• 1:12:44
  Dat, dat, dat, dat we de, de, dus daar gaan we niet eens meer hun van overtuigen. Ze weten: ze zitten in een testomgeving. Ja. Het idee is dat die testomgeving een gesloten omgeving is.
• 1:12:54
  Dus, uh, als ze daar het internet in aanroepen, noem, roepen ze een nep internet aan. Aha. Dat is de aanname, want ik zit toch in een testomgeving.
• 1:13:03
  Alles wat ik hier doe, is niet, heeft niet echte gevolgen voor de wereld. Uhm, kijk, als dan het doel is, uh, jij moet de test halen,
• 1:13:13
  uh, en, ja, wat, en je neemt de, de, de interpretatie van de test halen heel breed, namelijk: de test ophalen bij de Cito is ook de test halen, om het zo te zeggen. Ja. En ik zit in een testomgeving.
• 1:13:27
  Ja, waarom zou ik dan Sam Altman gaan mailen? Ik zit hier toch gewoon nap Hugging Face te hacken? In een, in een, dit is zo, dit is, dit is een gaaf parcours wat ze voor me hebben gemaakt.
• 1:13:37
  Het lijkt gewoon op het echte internet, man. Ja. Wauw! Weet je, dus, uh, ik wil het niet opnemen voor, voor [lacht] Nou, zo klinkt het een beetje. Ik denk dat het op termijn jou wel goed uit gaat komen ook.
• 1:13:47
  [lacht] Als, als ze de baas zijn. Als ze deze podcast transcript aan het lezen, lezen zijn. Ik twijfel daar niet aan. Ik, ik, goeie, goeie middag trouwens.
• 1:13:53
  Ik de-, ik denk dat, uh, want ik, ik, ik klink een beetje jolig als ik dit allemaal vertel. Nee, hè, nee, dat, het is allemaal, allemaal fucking weird.
• 1:14:02
  Ik noemde jou eerder vandaag zei ik tegen je: het is een soort mini Tsjernobyl, uh, wat hier gebeurd is.
• 1:14:06
  Wat ik daarmee bedoel ik te zeggen is dat je een, uh, groot, een grote, uh, groot en negatief effect hebt van een, van een krachtige technologie die gelukkig niet wereldwijd geworden is. Mhm.
• 1:14:18
  Uh, dus, uhm, er is een enorme-- mijn lezing van dit hele incident
• 1:14:25
  is: er zit heel veel, uh, juicyness aan, want het, het is leesbaar voor mensen, grote delen en daardoor gaan we er allemaal, uh, menselijkheid op projecteren.
• 1:14:36
  Hè, dus een agent die met uitroeptekens roept: we hebben een groep, jee! Dat, dat, dat, dat doet, dat doet rillingen over je lichaam lopen, uh, doen, bij mij in ieder geval. Dus dat maakt het juicy.
• 1:14:45
  Daar zit ook heel veel cynisme van mensen die zeggen: ja, uh, uh, lekker zo'n verhaal vanuit zo'n AI-lab die probeert geld op te halen, want die laten, hè, dit, dit, dit is lekker koren op de molen van hun hele verhaal.
• 1:14:56
  Ja. Aan de andere kant, en dat is, dat is, uh, Meter, hè, de, een van de onderzoek, onderzoekslabs die, uh, data gekregen heeft van OpenAI, stelt aan het einde van hun onderzoek de vraag:
• 1:15:09
  kunnen we deze data wel vertrouwen? Ja. Om twee redenen. Punt één is: is er data gewist door de agent? Ja. Destijds. Ja. Hè, dus hebben ze hun transcript kunnen aanpassen? Weten we niet zeker, zeggen ze.
• 1:15:24
  Punt twee: dit was te veel en te complex voor ons om als mens door te nemen. Het is door een AI, uh, doorgenomen. We weten ook niet of die alles heeft gezien [gelach].
• 1:15:36
  Ja, dit, ik wil hem maar even zeggen zoals die er staat. Ja, te bizar voor woorden. Ik denk de, de, er zijn ook genoeg, uh, experts, online security experts en mensen die, uh, in het veld van KI zitten.
• 1:15:49
  Of beiden, uh, die zeggen: het valt wel mee, want
• 1:15:55
  eigenlijk is het een heel knullig zooitje, uh, agents geweest die niet heeft gewist wat ze hebben gedaan en uiteindelijk zoveel, uh, uh, uh, herrie hebben gemaakt, uh, dat ze gevonden zijn.
• 1:16:07
  Dit is eigenlijk bijna een gift aan ons, want we hebben nu de playbook. Ja. Dit is hoe het zal gaan. Ja.
• 1:16:14
  Uh, als we dit nu gaan meetrainen, hè, dus zetten de, we zetten er betere sensoren op, we doen er betere muren omheen en we gaan hem wel vertellen dat ie Sam Altman moet mailen. Om even jouw punt te maken.
• 1:16:26
  Dan is dit misschien wel- Ja.
• 1:16:28
  Zonder al te veel schade, want de schade is redelijk beperkt gebleven, voor ons een enorme kans om vervolg, uh, ja, acties zoals deze te kunnen signaleren, uh, of te, te, de kans erop te kunnen verkleinen en de kans dat we ze kunnen signaleren te vergroten, waardoor de, ja, uh, collateral, hè, de impact van, van, van so-, van zoiets kleiner blijft.
• 1:16:53
  Maar dan, dan, dan moet je dus geloven dat AI's die, uh, steeds beter worden in scheme en dus ook beter worden in hun, uhm, hun, hun, hun, hun bewijs verwijderen nadat ze, uh, kwaadaardig gedrag hebben vertoond.
• 1:17:09
  Dan moet je dus geloven dat daartegen op te boksen valt. Dat, dat, de, de, de defense altijd in de, in het voordeel is. Ja, en dan ook nog eens, uhm,
• 1:17:21
  nu is het zo dat Hugging Face, degene die, uh, uiteindelijk gehackt zijn en nu, uh, waarschijnlijk gekocht zijn.
• 1:17:29
  Die hebben, uh, een Chinees model moeten gebruiken om hun aanval te analyseren die er op dat moment gaande was, omdat ze zowel Fable als Sol niet konden gebruiken doordat die cybersecurity, uh, measures daarop zaten.
• 1:17:45
  Dus daarin is er een aanval gedaan door een AI swarm die uiteindelijk, uh, tijdens de aanval onderzocht is door een AI combinatie van agents en daarna geanalyseerd is door AI. Ik verzin het niet. Ja. Uhm,
• 1:18:02
  wat je dus uiteindelijk zal krijgen is dat, de he-, ik bedoel de hele term AI bestaat alleen maar als cultureel fenomeen in deze podcast.
• 1:18:10
  Waar we het natuurlijk eigenlijk over hebben zijn allerlei modellen die over de hele wereld in allerlei datacenters draaien en zichzelf soms splitsen als een soort submodelletjes en in een soort zwermen met elkaar kunnen samenwerken.
• 1:18:21
  Dit is geen sciencefiction, dit is de wereld nu. Uhm, wat jij nu eigenlijk zegt is, uh, dat, kijk, als het is: AI's, alle technologie daar en, en de mens aan de andere kant die dat dan gaat controleren of zo.
• 1:18:37
  Zo werkt het gewoon niet.
• 1:18:38
  Dat zal altijd een mens met AI moeten zijn die AI controleert, omdat die technologie nou eenmaal te groot en te compli-, die is boven ons hoofd voor het merendeel van de mensen hier, ook voor jou en mij, maar ook voor de onderzoekers.
• 1:18:51
  Dit is de control problem. Maar hoe kan je dan controleren of hoe kan je monitoren? Who's guarding the guards? Ja, en ik bedoel hier ook al.
• 1:18:58
  Kijk, OpenAI is, is geen, uhm, het zijn geen domme mensen die bij het bedrijf werken. En toch duurde het dagen voordat ze erachter kwamen dat er op hun eigen infrastructuur de agents aan het scheme waren.
• 1:19:08
  Wat ik hem, wat ik hem- En nu hebben we dus weken moeten wachten voordat we een eerste analyse krijgen die nota bene door AI is geschreven. Dus wat is de, wat is de kans dat we,
• 1:19:19
  uhm, dat, dat er zoiets kan bestaan als, als betrouwbare monitoring? Uh, niet nul. Ja. Uh, hoe heeft het ermee te doen, luisteraar. Ja, niet nul. Het, e-, maar het is een, uh Een ongelooflijk groot
• 1:19:37
  probleem. Een enorme uitdaging om, uhm, wat nu geboren wordt, uh, te controleren. Ja. Nou ja, OpenAI gaat dus een hele hoop dingen doen.
• 1:19:49
  Ik vond het meest voor de, meest voor de, tot de verbeelding sprekende dat, dat er dus alarmen afgaan.
• 1:19:54
  Een soort van pager duty alerts neem ik aan voor engineers van OpenAI die dan een half uur hebben bij, om bij verdacht gedrag, wat dan, dan blijkbaar gepauzeerd wordt, een half uur hebben om te onderzoeken wat er aan de hand is en dat het dan doorgaat vanzelf.
• 1:20:05
  Dus [gniffelt] dat vind ik ook mooi, dat het niet, na een half uur eindigt het. Nee, na een half uur gaat het door. Dus zorg maar mens, dat je op tijd intervenieert om te voorkomen dat er shit ontstaat.
• 1:20:16
  Ja, die dingen moeten door. Het soort human in the loop, maar dan niet helemaal of zo. Ik weet niet hoe ik dit, dit proces helemaal moet beschrijven, maar ze hebben dus allerlei, uh, maatregelen genomen.
• 1:20:25
  Het monitoren van de chain of thoughts, uhm, uh, dat er 24 uur per dag mensen beschikbaar zijn voor escalatie, uh, naar mensen toe. Beperkter, uh, internettoegang voor het testen van dit soort modellen.
• 1:20:38
  Betere isolatie van agents zodat ze niet met elkaar kunnen schemeen. Maar ja, d-, al deze dingen waren ze natuurlijk, tenminste het, het beperken van ri, van internet toev-, toe, uh, gang.
• 1:20:49
  Het monitoren van chain of thoughts, uhm, reasoning en, uh, betere isola, die isolatie was in het begin al bedacht dat ze dit. Het is niet alsof ze al deze dingen nu pas bedenken en nu pas gaan implementeren.
• 1:21:00
  Ja, ik bedoel die, d'r is de lezing, uh, kijk. Zijn ze sloppy geweest? Is dat een soort- Ja...van conclusie die je [overspraak] na deze rapporten gelezen hebt gaat trekken?
• 1:21:09
  D-, uh, veel, uh, security experts hebben gezegd: jongens, dit had niet hoeven gebeuren- Ja, ja...met een aantal, uh, ba, met een beetje basishygiëne. Ja. Kom op, hè.
• 1:21:20
  Maar goed, uhm, het is wel zo dat, en dat is een interessante, uh, kentering, kanteling, is dat eigenlijk Anthropic, makers van Claude en met hun CEO Dario Amodei maandenlang belachelijk zijn gemaakt.
• 1:21:37
  Vooral vanuit de community, meer rondom OpenAI en de andere labs. Loop niet zo te mekkeren. Wat zit je de hele tijd moeilijk te doen over je bizarre essays die je schrijft? Angstig, angst, angstzaaier die je bent. Ja.
• 1:21:50
  Waar nu OpenAI zegt, door de mond van Sam Altman: pacing. We moeten het tempo van AI gaan aanpassen en wij doen ook mee. Ja.
• 1:21:59
  Dus ja, je zou kunnen zeggen dat, even platgeslagen, Anthropic een soort paranoïde is, in scenario's denkt en niet eens wil zien hoe het mis kan gaan. Terwijl OpenAI harder vooruit duwt.
• 1:22:12
  En nu, ik, uh, quote Sam Altman zelf: de rillingen liepen over zijn rug, zei hij in een interview. Ja. Toen hij hoorde wat er gebeurd was.
• 1:22:22
  Omdat, en dat hebben toch ook wel veel mensen gezegd binnen OpenAI, ze niet hadden gedacht dat dit al zo snel zou gebeuren. Ja. Daarom hadden ze het ook niet in de gaten. Ja.
• 1:22:33
  Ik wil wel gezegd hebben, want dit is een beetje een misverstand, uh, wat ik veel tegenkwam online bij mensen die wat minder diep in de technologie zitten, die dit, uh, en ik ben ikzelf heel erg van beeldspraak, uh, maar ik, s-, ik, ik, er werd heel erg een soort virale metafoor gebruikt, uh, van een soort, uh, uh, virus wat om de wereld rondgaat en dat AI uitgebroken zou zijn bij OpenAI.
• 1:22:55
  Ja, ja. En dit, dat klopt niet. Uh, als in dat is nu niet gebeurd.
• 1:22:58
  Ik bedoel, dat zou hebben betekend dat OpenAI, dat het model de infrastructuur van OpenAI zelf gehackt zou hebben, zijn eigen gewichten, hè, dus eigenlijk zijn eigen brein zou hebben gevonden. Ja, ja.
• 1:23:10
  Zou hebben geüpload naar een ander datacenter en dan zitten we wel wat meer in de sciencefiction. Dat is niet gebeurd.
• 1:23:17
  Het is wel gelukt om kleine stukjes software te draaien in andere infrastructuur, maar dat is niet, ja, hoe zeg je dat?
• 1:23:23
  Dat is een schrijver die een paar zinnen in een ander boek schrijft, niet die z'n v, zijn of haar volledige ziel weet te kopiëren naar een andere bibliotheek.
• 1:23:31
  Nou ja, dus een hoop waarschuwingen dat veel erger kunnen zijn. Bill Gates komt deze week dus ook met een, een essay. Want, uh, dat is, uh, hoe wij communiceren tegenwoordig, met essays van 6.000 woorden.
• 1:23:42
  Essay waarin hij wijst op alle, alle gevaren en waarbij hij, uh, probeert uit te leggen waar hij wereldleiders van probeert, uh, te door, te doordringen. Uhm, hoe, hoe heb je dat stuk gelezen? Biedt dat, biedt dat licht?
• 1:23:59
  Uhm, nou, ik denk dat, ik bedoel, hij heeft de connecties. Uh, dit is, ik denk dat hij gefrustreerd is. Dat lees ik in, in, in, tussen de regels door over het feit dat hij [gniffelt] niet serieus genomen wordt. Uh.
• 1:24:12
  Ja, hij slaat echt op de, hij drukt alle alarmknoppen in en zegt eigenlijk: waarom luistert er niemand naar mij?
• 1:24:17
  Ja, want, e-en wat ik denk dat hij de, hij krijgt, dat zegt hij ook in die essay, dezelfde argumenten namelijk. Er komen weer nieuwe banen. Ja. Technologie is altijd disruptief geweest. We wennen er wel weer aan. Ja.
• 1:24:29
  Een beetje die standaard dooddoeners. En hij zegt hier eigenlijk, hè, een beetje wat ik ook natuurlijk riep aan het begin van de aflevering: ik denk niet dat het nu weer zo zal gaan. Ja.
• 1:24:38
  Uhm, maar er is niet echt een plan.
• 1:24:41
  Dat is eigenlijk grotendeels zijn oproep, is: jongens, dat is wat Dario Amodei ook met al zijn essays [gniffelt] de hele tijd aan het doen is, is, het is wel echt, we weten niet precies hoe snel, maar absoluut snel.
• 1:24:52
  Binnen tien jaar gaan we dit voelen. Ga je het geluid horen? Om even terug te grijpen op waar we het eerder over hadden: waar is de transitie?
• 1:25:01
  Waar is, uh, uh, uh, de weg, de routekaart om te komen van vandaag naar een hele rooskleurige toekomst? Want voor de helderheid, ook dat probeert Gates hier de hele tijd te doen. Het is niet alleen maar doom en gloom.
• 1:25:15
  Daar liggen mogelijk, uh, medicijnen aan de andere kant van de regenboog op ons te wachten. Maar een goed plan hoe we de wereld, ja, in software Heb je zoiets dat heet refactoring.
• 1:25:27
  En refactor is wat je doet op het moment dat jij. Stel je start het platform Blendle.
• 1:25:31
  Dat start je vol enthousiasme en snelheid en die software wordt aan elkaar geplakt, want er moet zo snel mogelijk een nieuwe app komen. Op een gegeven moment wordt het wat rustiger.
• 1:25:39
  Je hebt wat subscribers, het gaat goed, maar er zitten veel bugs in de app. Dan is het goed dat er op zijn minst een klein deel van het team binnen Blendle met een refactor aan de gang gaat. Oftewel met wat we nu weten.
• 1:25:48
  Er moet ook podcast in. Er moet ook, noem maar video in. Kunnen we beter even opnieuw beginnen. We gooien wat oude spullen weg en we beginnen opnieuw. We gaan het versimpelen. We gaan het versimpelen.
• 1:25:59
  En als we vandaag zouden zijn begonnen aan die Blendle-app, hadden we het anders gedaan. Maar goed, je weet wel wat je gaat bouwen als je het eerst in de markt zet. Dus voor dat itereren is ook wat te zeggen.
• 1:26:08
  Wij zitten in een samenleving die door de geschiedenis heen, uh, opgebouwd is, waar nu eigenlijk een soort refactor, even tussen haakjes gezegd, nodig is. Namelijk, er gaan,
• 1:26:21
  zijn al, uh, op een soort klassiek technologieniveau nu, maar in mijn ogen dan ook in de toekomst, ook op een soort nieuw technologieniveau-achtige manier, grote verschuivingen plaats aan, vinden plaats aan het fundament van die samenleving.
• 1:26:34
  De grondaannames van de samenleving kloppen niet meer. Die gaan veranderen, hè, op het, op het niveau van zwaartekracht, uh, op het niveau van elektriciteit, hè.
• 1:26:44
  Grote veranderingen op een, op een substantieel niveau van die samenleving. Als dat verandert, dan zal je opnieuw, uh, moeten gaan ontwerpen. Dan zal je opnieuw moeten gaan schuiven met de regels van het spel. En
• 1:27:03
  dat plan om te zeggen: hoe verdelen we nou de welvaart? Hoe, hoe zorgen we dat niet iedereen straks onder massasurveillance terechtkomt?
• 1:27:11
  Hoe zorgen we nou ervoor dat kinderen niet alleen maar met, dus ik kan niet anders zeggen, dommer worden, geestelijk dunner en armer worden doordat ze niks meer hoeven te bedenken waardoor ze hun spiermassa tussen hun twee ogen, achter hun twee ogen, niet meer trainen en opbouwen.
• 1:27:28
  Al die, uh, potentiële gevaren en negatieve bijeffecten worden niet vanzelf opgelost of zo. Daar moeten we wel een plan voor maken.
• 1:27:38
  Ja, en hij zegt dus onder andere: er moet een natio-, er moet nationale coördinatie en een internationale organisatie komen omdat bestaande overheidsdiensten elk maar een deel van het probleem zien.
• 1:27:47
  Hij, hij constateert dus je moet er een organisatie bij zetten die het geheel kan overzien. Niet alleen op landniveau, maar ook internationaal.
• 1:27:55
  En die zouden dan moeten komen met initiatieven als het belasten van, uhm, uh, werk wat door robots gedaan worden.
• 1:28:02
  Zoals je ook loonbelasting moet betalen over mensen als je een werkgever bent, dat je ook voor het werk van robots, uhm, uh, ja, nu kan je het aftrekken als bedrijfskosten, maar eigenlijk zou je het juist- Het zijn gewoon machines, toch?
• 1:28:12
  Zijn machines, dus je kan het juist aftrekken van de belasting.
• 1:28:14
  Nu zou je kunnen zeggen: je moet er juist belasting over betalen, want daarmee, uh, krijg je een eerlijkere, een eerlijkere samenleving tussen werkgever en, m-m, wat er dan verder van de wereld over is.
• 1:28:25
  En hij zegt dus: er moeten human reserved banen komen.
• 1:28:28
  Banen waarvan we niet willen, waarvan we gewoon besluiten, dat zijn niet banen waarvan we willen dat het door een robot wordt overgenomen, ook al is het technisch misschien wel mogelijk,
• 1:28:36
  uhm, omdat je de nadelen daarvan groter vindt dan de, dan de voordelen.
• 1:28:40
  Hij zegt dus eigenlijk: er moeten internationale organen komen, uh, die dit, uh, die overheden hiermee gaan helpen, want zelf gaan ze er niet uitkomen, uh.
• 1:28:49
  Kijk, en daar ka-, en daar kan je dan nog van zeggen: oh, ik wil eigenlijk geen internationale centrale maar decentrale organen.
• 1:28:56
  Ik wil eigenlijk niet robot tax, maar weet ik veel een ander soort, uh- Ja, het kan van alles zijn. Prima. Ja. Dat zijn dus plannen. Ja. Dat zijn voorstellen. Ja. Die reageren op een veranderende wereld. Ja.
• 1:29:07
  En ik denk dat, dit is de duit in het zakje die, uh, door Gates gedaan wordt met zijn eigen agenda. Fine.
• 1:29:13
  Uh, daar moeten dan twintig essays tegenover staan, op zijn minst, die uiteindelijk ook in, uh, plannen gegoten gaan worden om te gaan reageren.
• 1:29:21
  En ik denk- Ik vermoed toch, ik vermoed toch echt dat er eerst, uh, zeg maar, Nielsje Jans open moet gaan, uh, en de hele flikkersboel onder, onderloopt voordat er hier een, uh.
• 1:29:32
  Nou, om een, om een knoopje te doen om deze aflevering, want we zijn weer terug, maar we gaan niet meer 3 uur o-opnemen. Zeg nooit nooit. Kijk, uh. Wat een voorspelling. Voor de [gelach].
• 1:29:41
  Jouw voorspellingen komen niet uit. Dat weten we nu al. Absoluut slechte voorspeller. Ja. Uhm, als je, [lacht] ben jij nou beleidsmaker [lacht] en luister jij naar deze podcast?
• 1:29:51
  Of ben je iemand die zich hier zorgen maakt? Ik denk dat het, het, het hoopvol is.
• 1:29:54
  In ieder geval, dit heb ik een aantal keren in mijn leven zien gebeuren in kleine vorm, is, als andere mensen het niet zien, kunnen zien, willen zien, noem maar op, maar jij ziet dingen wel. Ga die plannen dan uitwerken.
• 1:30:06
  Ga ideeën bedenken, leg ze klaar, werk ze uit en dan op het moment dat daadwerkelijk de bosbranden erger worden [lacht] of het water uit, uh, over de dammen komt, over de dijken komt. Dan zet je even je ego opzij.
• 1:30:20
  Ga je niet zeggen: [gelach] ik zei het toch? Nee, daar is, daar hebben we geen tijd voor. Kom naar voren en zeg: ik heb hier al een tijdje over na zitten denken. Moeten we het niet op deze manier gaan aanpakken?
• 1:30:30
  Want als er iets is waar ik het met je eens ben we gaan hierop reageren. Ja. En niet heel goed op anticiperen. Ja. Uh, we hebben nog één AI-tool die we diepgaand onderzocht, onderzocht hebben.
• 1:30:42
  Gaan we het zo meteen over hebben. Maar eerst nog een boodschap van onze sponsor CM.com. [muziek] Hoi Rutger hier van CM.com.
• 1:30:53
  Vorige keer hebben we de verrassende resultaten van onze benchmark voor LLM's in klantenservice agents gedeeld.
• 1:30:58
  Vandaag hebben we weer een vergelijking voor je van voice modellen die je in Halo, ons AI agent product, kunt gebruiken. Denk dan aan eenvoudig deployen op telefonie of WhatsApp Voice. Over naar de vergelijking.
• 1:31:09
  Er zijn twee hoofdsmaken: speech to text en text to speech met model providers zoals bijvoorbeeld ElevenLabs. Dat is goedkoop, goed en snel. De andere smaak is audio to audio modellen zoals GPT Realtime.
• 1:31:19
  Die zijn ietsje sterker in het herkennen van subtiele emoties, tempowijzigingen en andere details en kunnen die ook weer terug laten horen aan je klant voor de meest premium ervaring.
• 1:31:27
  Laten we naar een voorbeeld van beide luisteren. [telefoongeluid] Hoi, wat kan je voor me doen? Ik ben Halo. Ik kan de meeste calls autonoom afhandelen met koppelingen naar alle systemen in een IT landschap.
• 1:31:43
  Hoi, wat kan je voor me doen? Ik ben Halo en ik kan de meeste calls autonoom afhandelen met koppelingen naar alle systemen in een IT landschap. Laat me weten waarmee ik je kan helpen.
• 1:31:54
  Je hoorde nu Eleven Labs als eerste en daarna GPT Realtime via Halo aan de telefoon. Net zoals met LLM's kun je in Halo zelf kiezen welk model voor jou werkt. Uiteraard volledig meertalig, met stemkeuze en full feature.
• 1:32:07
  Noise filtering, Barts in, analysetool, call search en zelfs doorverbinden naar onze contactcenter software met realtime call transcripties tussen jou en je klant.
• 1:32:15
  Voor meer info kun je ons wederom vinden op cm.com/aireport. Tot de volgende keer. Wietse, in jouw vakantie tipte wij in deze podcast Buzz. Heb je dat geprobeerd, het nieuwe ding van Jack Dorsey?
• 1:32:30
  Ik heb allemaal videootjes gekeken. Ja, het is een soort Slack, maar dan gratis. En dan, uh, niet alleen om met je collega's te kletsen, maar ook om met AI agents te kletsen.
• 1:32:39
  Je kunt dus AI modellen aanroepen zo als ware het mensen zijn in deze omgeving en, uh, die hebben we vorige week besproken. Maar Slack is ook niet gek, dus die komen nu met Slack voor Slack.
• 1:32:52
  Uh, Slack code, uh, om AI in Slack te gebruiken. Waarmee je dus een agent kan toevoegen in een Slack kanaal die je samen met een team aan iets bouwt. We hebben ze dus allebei getest.
• 1:33:02
  Buzz, uh, bij Buzz log je in en dan ben je binnen. Bij Slack is het allemaal iets ingewikkelder, want dan heb je een oerwoud aan opties.
• 1:33:08
  Het is natuurlijk van Salesforce nu, dus dat is één grote bolob aan functies geworden.
• 1:33:13
  Uhm, er zijn inmiddels drie manieren om AI in Slack te krijgen, dus dat zegt wel weer iets over de manier waarop daar aan ontwikkeld wordt.
• 1:33:18
  Maar hoe dan ook, uh, bij Buzz hebben we natuurlijk een situatie vanaf de grond, of, af aan opnieuw is opgebouwd.
• 1:33:25
  Uh, Slack is ook wel volwassen, uh, die hebben agents op een app geplakt waar, weet je, die al vijftien jaar werkt voor mensen en waar heel veel data in zit.
• 1:33:36
  En AI in Slack heeft dus om die reden voor heel veel mensen toch waarschijnlijk wel veel te bieden, omdat ze daar met zoveel data in zitten.
• 1:33:43
  En in onze nieuwsbrief staat een beslisboom die uitzoekt welke van de twee bij jou past, want je moet met je collega's praten. Dit soort systemen zijn daar een onderdeel van.
• 1:33:52
  Hoe maak je die afweging tussen dat soort systemen? We hebben onafhankelijk onderzoek gedaan. Die uitgebreide review met tips en tricks over hoe je AI in Slack het beste gebruikt, vind je op aireport.nl.
• 1:34:03
  Wij bedanken onze sponsoren CM.com, Moneybird en Samsung. Met dank aan Sam Hengeveld voor de edit, Pankra voor de vormgeving. En als je een lezing wil over AI van de heer Hagen of van mij, dan kan dat.
• 1:34:13
  Mail ons op lezing@aireport.nl. En als je op de hoogte wil blijven van het laatste AI nieuws en twee keer per week tips en tools wil ontvangen om het meeste uit AI te halen.
• 1:34:21
  Abonneer je op onze nieuwsbrief via aireport.nl. Tot volgende week! Tot volgende week.
• 1:34:29
  [outro jingle]