Latest / AI Report / Moeten alle Nederlanders gratis AI krijgen? + de paus blijkt een AI-nerd

Transcript

Moeten alle Nederlanders gratis AI krijgen? + de paus blijkt een AI-nerd · AI Report

0:00
Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar wij uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wytse Hagen. Hallo. En goedemiddag.
0:12
En ik ben Alexander Klöpping.
0:14
Met deze week: atheïst en Anthropic medeoprichter Chris Olah stond deze week naast de paus in het Vaticaan bij de presentatie van de eerste pauselijke brief ooit over kunstmatige intelligentie.
0:28
De drie grootste AI-bedrijven ter wereld willen dit jaar naar de beurs en samen hopen ze evenveel op te halen als de hele Amerikaanse beursmarkt in de afgelopen tien jaar bij elkaar, maar dan in twee kwartalen.
0:40
Malta wordt het eerste land ter wereld dat zijn inwoners gratis toegang geeft tot ChatGPT Plus. Voorwaarde is wel dat burgers eerst een cursus moeten volgen. En wetenschappers leren AI-modellen slapen
0:52
omdat ze daar slimmer van zouden worden. Dat en meer in AI Report. Veel plezier!
1:02
[muziek] Wytse, zolang ik deze podcast nu maak met jou, hebben wij over het idee dat we een soort van ambient AI krijgen die een beetje bijhouden hoe je je dag doorkomt, hoeveel, hoe het met je gezondheid gaat, met je lichaam gaat.
1:19
En dat dat ding dan proactief dingen zou gaan suggereren over hetgeen jij meemaakt gedurende de dag. En ik kan jou vertellen: die tijd is daar. Wat vertellen ze jou? Ik heb. Wat gebeurt er?
1:29
Ik heb dat ding van Google gekregen, die Fitbit Air. Dat is een, uh, een health tracker die je om je arm draagt en er zit geen scherm op, dus het is als een Apple Watch zonder scherm, uh, waar de tracker in zit.
1:42
Een slimme armband. Een slimme armband. Maar dit ding, en dat is op zich niet nieuw, die, die kennen we van, van, van Fitbit en Whoop heeft ook zo'n ding. Dat is ook allemaal niet nieuw.
1:52
Wat wel nieuw is, is dat dit ding mij de hele dag pushberichten aan het sturen is over [lacht] hoe het met mij gaat. En daarvoor gebruikt het AI. Het zijn AI-gegenereerde berichten van een coach die mij vertelt.
2:05
Wat staat erin dan? Ja, het is best bizar. Dus dan word ik wakker en dan zegt ie: het is, uh, het was een beetje een medium nacht voor je. Dat, uh, heb ik gezien.
2:13
Ik, uh, weet dat je vandaag wil gaan sporten, uh, maar het wordt warm vandaag, dus, uh, doe het een beetje vroeg op de dag. Als een arts die heel de nacht jou heeft zitten aankijken vanaf een stoel.
2:23
Het is echt wel grappig. Maar zitten er dingen bij dat je denkt: wow, als in heftig interessant? Nou, het idee dat je dus kan praten met dat ding.
2:31
Want ieder pushbericht is eigenlijk een soort van opening om een gesprek te voeren over ofwel hoe het is gegaan met je slaap, ofwel dat je bepaalde, weet ik veel, je bent gaan hardlopen of gaan fietsen en dan, dan heeft hij daar een mening over, over dat dat sneller of minder snel dan de vorige keer was of zo.
2:47
Uh, en zelfs kun je eten invoeren wat je gegeten hebt en dan houdt hij daar rekening mee met calorieën verbranden, weet ik veel allemaal. Ieder, ieder ding is een opening van een gesprek.
2:58
Dat is wel een fundamenteel andere ervaring dan naar een dashboardje kijken met een slaapscore of weet ik veel hoeveel stappen je hebt gezet op een dag. Dat zijn we inmiddels wel gewend.
3:07
Het is echt heel dicht bij dat idee waarvan jij eerder zei: dit gaat natuurlijk gebeuren. Het proactieve. Ja. Iets waar jij niet steeds vragen aan stelt.
3:16
En dan als je het gesprek aangaat, dus je wordt als het ware gebeten door een van deze berichtjes. Ja.
3:21
Dan is daar jouw hele lichaamscontext of in ieder geval alles wat gemeten kon worden op jouw pols aanwezig in dat gesprek. Je kan ook doorpraten. Precies. Over andere facetten van. Klopt. Je gezondheid. Ja, ja, ja.
3:31
Alles wat hij meet is beschikbaar voor die, ja, soort van chatbot of zo die er, die, die er dus in geïntegreerd zit. En die probeert je ook de hele tijd te stimuleren en je naar je doelen toe te praten. Dus als jij.
3:43
Heb jij die ingesteld? Ik heb, ik heb gezegd dat ik, uh, dat ik wil sporten een x aantal keer per week en als, als ik dan niet dat gedaan heb, dan [lacht] gaat hij me wel vertellen dat ik moet doen. Hoe lief is tie?
3:54
Is tie, is tie jou aan het oppeppen als een soort sportcoach? Of is tie ook een beetje streng? Uuuh, ik vind hem vooral stimulerend van aard. Ik heb hem daar eerlijk gezegd ook op aangesproken.
4:04
Ik dat een beetje irritant vinden. Hij, hij mag best wat, uh, wat strenger zijn, maar ik, dus, ik vind hem, hij is niet zo goed in streng zijn tot nu toe. Hij blijft wel, hij blijft volharden, dat wel. Maar vriendelijk.
4:13
Hoe lang ga je hem dragen? Ik vind het dus opvallend leuk. En ik, ik had dit niet gedacht. En het is een, kijk, ik ben sowieso een sucker voor al die meetdingetjes. Ik heb ook heel lang zo'n Whoop gehad.
4:22
Hartstikke duur ding. Dat kost iets van € 30 per maand om zo'n armband te dragen.
4:27
Dat ding van Google is veel goedkoper, uhm, dus dat is al een belangrijke reden om het, uh, te doen, dat het gewoon veel goedkoper is dan bestaande appe-- ik wil ook geen scherm om mijn arm, want ik wil geen pushberichten en weet ik veel allemaal, maar dit is voor mij wel de, ik vind het leuk om te zien hoeveel ik geslapen heb, wat mijn hartritme, variabiliteit is en dat soort dingen.
4:47
Die, die, en dat, dat je dan een model hebt waar, waarover je daar kan, mee kan praten. Ja, ik, ik, dit voelt wel weer als een stap, stapje dichterbij van hoe we AI in ons leven gaan integreren.
4:59
Je hebt een soort MCP naar je lichaam. Ja, eigenlijk wel. Waarom heb jij nog geen MCP naar je lichaam? [lacht] Gaan we het later in de aflevering over hebben. Waarom geef je niet alles aan Google, Wytse?
5:09
Dat is gewoon een belangrijke vraag. Nee, man. Hé, uh, ik ben sinds vorige week en jouw oproep om Codex te gebruiken, ben ik, uh, dat gaan doen als alternatief voor Cloud Code.
5:20
De oproep is vooral: ga eens kijken wat er allemaal kan daar. Ik zou niet zeggen dat, dat je het moet gaan doen. Nou, ieder geval heb ik dat wel geïnterpreteerd.
5:26
[lacht] Ik ben wel, je hebt mij zoals mijn Google coach gestimuleerd om dat te gaan doen. Ik heb keurig, keurig dat gevolgd en ik ben wel, uh, onder de indruk ervan.
5:36
Het is inderdaad, het is inderdaad echt anders dan Cloud Code, ondanks dat het heel veel van dezelfde dingen kan. En één ding wat me opviel is dat het veel, ma, beter geïntegreerd is tussen je telefoon en je computer.
5:49
En als je verschillende computers hebt dat die dingen op, hij, hij synct dat allemaal, dus dan is er één hoofdcomputer waar het op draait. Maar dan ondertussen kun je overal waar je bent, kun je, uh, op diezelfde.
6:00
Best wel. Sessie inloggen. Soort van, ik weet niet, in, in Cloud Code en CoWork moet je er toch nog een, je moet er best wel wat voor doen om het aan de praat te krijgen.
6:08
Terwijl het hier dan ge, ineens in je ChatGPT app een Codex knopje zit en dat je denkt: is dit nu mijn laptop? Ja, zolang die aan staat.
6:15
Ja.Dat zijn dan de laatste stap die Google al wel gemaakt heeft, maar OpenAI nog niet. Dat je Codex ook kan gebruiken in een soort cloud instance. Ja. Want je moet nu dan nog je, je computer aan hebben staan.
6:25
Dus die sync is veel beter. En ik merk dus ook dat ik op mijn telefoon veel meer sub agents aan het opspinnen ben. Dat is, uh. Jij bent nu die gast, hè? Ja, ik ben nu die guy. Ik, het spijt me.
6:33
Ik ben die, ik ben die guy geworden. Uh, dat is een, een, v-, dat verandert de ervaring dat je het op je mobiel kan doen.
6:39
Maar ook bijvoorbeeld, heel gek, maar ik merk dat ik best wel veel in de, in de Codex browser werk. Dus waar ik normaal gesproken, weet ik veel, Chrome of, uh, Arc zou gebruiken voor gewoon mijn web browse taakjes.
6:52
Weet ik veel, mijn Google Doc aan het schrijven of wat ik dan ook in de browser aan het doen ben, merk ik dat ik dat open in Codex en dat ik de hele tijd, dan heeft hij een tabje op de achtergrond in Codex en dan zeg ik: nou, ga dat maar invullen of schrijf hier maar een eerste alinea bij.
7:06
En dat is eigenlijk over, dat ik hem begin te gebruiken als browser. Die dus, die ik op pad kan sturen met allerlei taakjes, terwijl ik verderop in een document iets anders aan het doen ben. Of, heel grappig.
7:18
Het voelt wat meer als een soort achtergrond agent die je even spint.
7:21
Want ik, ik weet niet, ik heb ook, als ik dan met Codex werk, een soort van iets meer vertrouwen dat er ook iets uitkomt en dat ik er ook niet de hele tijd naar hoef te kijken.
7:29
Het is gewoon meer een soort gevoel wat ik heb bij, uh, wat je over kan laten aan zo'n sessie. Dat is voor mij wel nieuw. Ik heb echt vaker dat- Betrouwbaarder.
7:38
Ja, dat er dan ook als ik terugkom, vaak vergeet ik het, dus dan krijg ik weer een notificatie dat: oh, oh ja, dit was ik ook nog gestart. Oh, het is eigenlijk best, hij is best lang doorgegaan. Mhmm.
7:46
Ik denk dat dat- Hij gaat langer door dan Claude. Ja, want we hebben het natuurlijk én over de app, maar er zit ook gewoon een G-GPT-5 vijf daarachter is gewoon ook best wel een krachtig model.
7:55
En die twee samen, wat tot nu toe een beetje de mensen die veel met GPT-5 vijf werken dan, het is het ultra thing, dus dan geef je hem echt veel computerkracht, is dat hij veel langer volhoudt en dat hij echt doorbijt.
8:06
Je moet hem op hoog, hoog, hoog. Nu zeg jij: ga je volgende week weer zeggen dat ik, dat, dat ik heb gezegd dat jij dat moest? Ja, prima. Ook hier zou ik zeggen: je zou eens kunnen proberen [lacht] om te experimenteren.
8:15
Maakt echt uit, bedoel je? Ja. Ja, maakt wel echt uit omdat, nou, vooral die soort, dat hij volhardend is en echt wel, uhm, lang blijft proberen. Zeker als je hem ook meegeeft dat het een doel is, zeg maar. Ja.
8:25
Dus als je kan een soort slash command goal geven en dan zeggen: luister, dit is mijn einddoel en dan gaat hij niet onbeperkt, maar wel langer door, door. Ik heb dat inderdaad nu een aantal keer gedaan.
8:34
Je hebt, je kan gewoon, als je een opdracht geeft om een appie te maken, kan je, zeg maar, een alineaatje schrijven. Ja. Je kan de plan modus aanzetten en dan maakt hij er een heel plan van.
8:44
Oké, dus dan zijn er meer details en dan ben je duidelijker aan het uitwerken wat nou je plan, zodat je kan bijsturen eventueel.
8:53
Je kan een plan uitvoeren, maar er is nu ook iets nieuws en dat je dan, dan kan je zeggen: /goal en dan zet je daarna wat je wil bouwen. Wat is het, wat is het verschil met dat goal?
9:04
Heel plat gezegd is het eigenlijk alleen maar waar je normaal een prompt zou geven en zeggen: ik wil een app die dit of dat doet en dan is hij op een gegeven moment klaar.
9:13
Dat beslist hij dan zelf op een gegeven moment: ik ben klaar. Dan zeg jij: ga door. Ja. Keep going. Ja. Is dan een beetje het ding.
9:19
En als je dan zes, zeven keer keep, keep going blijft zeggen, dan wordt die app natuurlijk steeds uitgebreider. Ja. Als je goal doet en eigenlijk je doel wat meer hoog over beschrijft. Zoals?
9:30
Uhm, ik wil een app hebben die dit en dit en dit en dit kan. Uhm, en ik wil dat mensen er op deze manier enthousiast over zijn.
9:38
En ik wil dat ie multi platform is of zelfs draait op de platforms waar jij van denkt dat de gebruiker. Dus veel meer hoog over.
9:44
Dus je gaat niet meer, uh, de ingrediënten van het gerecht bepalen, maar meer het gevoel waarbij de persoon in jouw restaurant of de persoon die bij jou komt eten achter zou blijven. Oké.
9:53
En als je dan doet: goal, dan gaat hij eigenlijk tegen zichzelf zeggen: keep going. Het, eigenlijk klinkt even als iets heel sus. Het is eerder beschreven als de Ralph loop, uh, de Ralph Wiggum loop uit Simpsons.
10:03
Is het hetzelfde? Ja, het goal is eigenlijk een iets meer fancy professionele versie van, uh, keep going. Een AI die zichzelf de hele tijd vertelt: kan ik nog meer doen om aan deze opdracht te voldoen?
10:15
Oh ja, ik weet eigenlijk nog wel iets. Ik ga dit nu doen.
10:17
En je ziet dus een beetje dan online dat mensen dan zeggen: zo, hij is klaar en dan 22 uur 33 of zo, uh, omdat hun, ik moet eerlijk zeggen, mij lukt het niet om hem echt lang door te laten gaan.
10:28
Blijkbaar kan ik, ben ik toch te, de, gedetailleerd bezig en heb ik dan toch te weinig vertrouwen. Ik ben, ik heb gewoon heel erg een mening altijd. Ja.
10:35
Dus dan zeg ik: /goal, maar het doel wat ik hem geef is toch een aardappel snijden. Ja. Dus ja, dan zegt hij: klaar. Je bedoelt het is, het is te specifiek. Ja. In plaats van een droom die je moet invoeren. [lacht] Ja.
10:44
Je moet letterlijk een soort van s-, uh, grand strategy droom visie invoeren versus dit is het stukje wat je moet gaan doen.
10:52
Maar blijkbaar ben ik ook gewoon niet zo, uhm, d-dat een soort van executive zijn, dus heel erg dat hoog overzien vind ik gewoon moeilijk zelf. Ja.
11:01
Ik merk dat ik toch heel erg op het niveau van: dit is je taakje, dit is je taakje. Ik slice het toch al een beetje zelf. Ja.
11:08
Ik zat dus te denken, de, het, het is, want je, jij beschrijft inderdaad iets wat veel programmeurs denk ik meemaken dat als ze met dit soort programmeurs tools werken, dat ze, uhm,
11:19
toch gewend zijn om dingen tot in detail aan te geven over ook hoe de architectuur moet zijn en, en, en, nou ja, allemaal dingen die je gewoon g-, uit ervaring, uh, uh, meegeeft.
11:32
En ik zat te denken eigenlijk: het is een interessante tijd om een product manager te zijn.
11:37
Dat is een soort rol binnen techbedrijven van mensen die sturen programmeurs aan, hebben, zijn een soort spin in het web, bepalen de prioriteit van dingen, bepalen de scope van wat een goede functie kan zijn.
11:49
En zij krijgen eigenlijk de opdracht van een marketingafdeling of een CEO of wie dan ook om iets te gaan maken. En zij gaan dan bedenken hoe ze dat gaan maken.
11:58
En ik zat te denken: een product manager kan niks zonder een designer en een engineer normaal gesproken, maar opeens nu wel.
12:06
En ik zat te denken: is dit nu eigenlijk nu de, de perfecte, dus als jij nu product manager bent, je bent opgeleid als product manager bij Booking of weet ik veel, een of ander techbedrijf, dan ben je echt uniek geëquipeerd om nuHeel veel shit zelf te maken.
12:21
Ik zat te denken bijvoorbeeld voor kleine bedrijven. Stel je wil nu, je denkt ik wil nu. Ik heb een bedrijfje in mijn eentje of met een paar mensen en ik wil meer dingen maken.
12:31
Is dan niet nu de persoon die je moet aannemen iemand die bij een ander bedrijf ervaring heeft als productmanager, die ideeën heeft, die ongeveer een idee van scope heeft en die iets weet van AI waardoor die, uh, ja snel dingen kan maken samen met jou.
12:45
Ik heb dat wel eens beschreven gezien worden als soort. Je kan zeggen productmanager of product owner. The age of the product owner.
12:52
Dus omdat je dus op dat abstractieniveau hebt geopereerd, al die jaren waarin je niet met het aardappel snijden per se bezig was, maar een groter plaatje aan had en ook een soort smaak vooral hebt ontwikkeld voor dat grotere plaatje.
13:05
De taste, zeg maar, is dat je dat dit, dat dit gezien de tools die er nu beschikbaar zijn en niet komen, maar zijn, uhm, ja ineens ook wel een beetje bevrijd bent.
13:15
Dan zeg ik even tussen aanhalingstekens, want je bent soort van bevrijd van je collega's, maar dat is ook een soort naar.
13:20
Gaan we het later nog wel over hebben in deze aflevering, maar in essentie als het jou eigenlijk je natuur is geworden of al was om op het abstractieniveau van de product owner product manager te opereren, dan is dat nu precies het abstractieniveau waarop die scaffolds en modellen, de codexen en de cloud codes opereren.
13:39
Ik dacht moeten wij niet allemaal, allemaal productmanagers gaan aannemen om in dit bedrijf te gaan rondwandelen? Ja, als je, uh, waar je vroeger dan misschien dacht dan moeten daar ook allemaal mensen bij.
13:50
Dat je het daarbij houdt. Ja, de vraag is nu, want dat, dat zie ik dan nog niet echt.
13:54
Ik zie vooral heel veel gave MVP's en, uh, kleine startups bij ex product owners, als in product owners die werkten binnen een bedrijf en nu zeggen nu ga ik gewoon ook los ervan. Ik ga zelf nu iets starten. Met AI's.
14:06
Ja, de scope van die projecten zijn, ben ik dan nog niet helemaal van onder de indruk. Laat ik het zo zeggen. Nog klein, bedoel je?
14:11
Ja, maar, uhm, ik bedoel, ik heb wel eens een discussie gehad, uh, bij een internet agency dat we zeiden wordt dan niet, verlangen we niet eigenlijk van iedereen om product owner te worden, ook al ben je het nu nog niet?
14:21
Ja, dat zou je ook kunnen zeggen inderdaad. Worden, worden wij niet allemaal productmanagers? Want we, we zijn geen uitvoerders meer. We, we, we geven het uitvoerwerk aan de AI.
14:30
Ja, mijn, mijn persoonlijke zorg daarbij, en het komt een beetje terug uit het onderwijs wat ik gegeven heb, uh, best wel lang aan, uh, groepen, ja, softwareontwikkelaars tot en met, uh, uhm, UX-designers.
14:42
Het was allemaal heel erg in de mediatechnologie zoals het dan heet. Ja, met alle respect, niet iedere student is in staat om, want het is ook een stukje abstractie.
14:50
Het is ook, ook wat je leuk vindt, waar je, waar je hart op gaat, zeg maar. Ik weet gewoon, ik merk dat bij mezelf ook. Misschien projecteer ik ook een beetje, maar ik vind het heel gaaf om het grote plaatje te bekijken.
14:59
Maar goed, dat weet jij van mij. Je moet me soms tegenhouden om niet netwerkkabels hier door het gebouw te gaan trekken omdat ik eigenlijk dat gewoon aansluiten daarvan en die router configureren ook reuze leuk vind. Ja.
15:10
Dus ik denk dat jouw, jouw karakter is wat dichter bij die product owner manager altijd al geweest, terwijl ik veel vaker in de teams heb gezeten, uh, waar ik het een beetje naar me toe gestuurd, geschoven kreeg.
15:21
Want dit is de visie. Wietse, er moet wel uiteindelijk internet zijn in die kamer. Ja.
15:26
En ik, ik kan me allebei de rollen wel aannemen, maar ik kan me ook wel voorstellen dat het, dat het veel gevraagd is, samenlevingsbreed, om iedereen op te tillen in die, naar die, naar het hogere abstractie level van visie.
15:39
Maar het is, mochten er mensen zijn die luisteren die zeggen oh, ik heb die rol in het verleden gehad of ik heb die rol eigenlijk altijd al geambieerd, ja, dan durf ik wel te zeggen dat het een best wel interessante plek kan zijn om nu op dit moment te ook kunnen opereren.
15:53
We gaan zo naar het nieuws, maar niet voordat we eerst naar onze sponsor Rockstars luisteren. [muziek] Ja, dames en heren, een hele goedemiddag. Thijs van Team Rockstars hier.
16:04
Vandaag schuiven wij aan Mitchell Nijdam en Mitchell is een van de voorzitters, mag ik wel zeggen, van onze AI community. Dus ja, als iemand iets over AI weet, Mitch, dan ben jij het wel.
16:14
Kan jij mij eens even meenemen in hoe jij AI inzet in jouw dagelijkse werk? Ja, Thijs, de invloed van AI, uh, op het schrijven van software en mijn werk is in de afgelopen twee jaar echt heel veel veranderd.
16:25
Twee jaar geleden stonden we nog versteld dat AI een regel code kan afmaken en nu bouwen agents een hele feature. Maar ik ben eerlijk, de kwaliteit hoog houden is soms nog een uitdaging. Oké, die moet je even uitleggen.
16:35
Hoe is dat een uitdaging? Ja, ik zie wel dat de kwaliteit, uh, omhoog kan gaan naarmate je de tooling goed inzet. En dat is waar we nu ook zitten.
16:43
Dus AI kan heel veel, maar je moet het wel de juiste tools, context, MCP's, skills geven om jouw codebase te kunnen begrijpen. Maar het blijft op dit moment nog ook echt een menselijke taak om die output te reviewen.
16:55
Ja, en wat ik me voor kan stellen is voor dat reviewen heb je wel andere skills nodig dan een aantal jaar geleden als developer. Dus hoe blijf jij bij of wat doe jij met die skills?
17:04
Ja, ik probeer echt de ontwikkeling op de voet te volgen en dat is soms best lastig met hoeveel informatie eruit komt.
17:11
En bij Rockstars hebben we trainingen en hebben we een AI community waar heel veel kennis gedeeld wordt. En het belangrijkste is natuurlijk experimenteren en de AI echt toepassen op je codebase. Ja gaaf man!
17:21
Wil jij nou net als Mitchell voorop blijven lopen in de AI transitie? Dan is dit voor jou, want Team Rockstars IT breidt haar team uit met AI engineers en AI architecten. Meer weten?
17:31
Check de link in de shownotes of Team Rockstars punt nl slash AI report. Tot volgende week! [muziek] Ja, je hoorde het al even. Maandag publiceerde de paus zijn eerste encycliek. Ja, ik moest het even opzoeken.
17:48
Encycliek. Weet je wat dat is, Wietse? Uh, ja, iets van een, uh, circulaire. [lacht] Nou ja, er zijn er eerder geweest. Ik was helemaal de vriendjes ingedoken. Ik leerde weer van alles. Ja, nee, zeker.
17:58
Het is een begrip in de katholieke kerk. Het is een open brief gericht aan de één punt vier miljard katholieken wereldwijd. En deze open brief heet Magnifica Humanitas, wat zoiets betekent als prachtige menselijkheid.
18:12
Doet er allemaal niet toe. Het is de eerste pauselijke brief ooit die volledig gaat over AI. En de paus roept overheden op om AI bedrijven te reguleren en data niet uitsluitend in private handen te laten.
18:24
Ook stelt hij dat autonome wapensystemen moreel ontoelaatbaar zijn. Spicy allemaal.
18:30
We gaan het er dadelijk uitgebreid over hebben, maar alvast opvallend: naast de paus op het podium zat Chris Ula en dat is medeoprichter van Anthropic en miljardair.
18:40
UhmOella erkende in zijn toespraak dat AI bedrijven opereren binnen een systeem van prikkels dat hen ervan kan weerhouden om de juiste keuzes te maken. Spicy, ik zei het al.
18:53
De Amerikaanse president Trump heeft op het punt gestaan om een besluit te ondertekenen voor vrijwillig toezicht op nieuwe AI modellen. Een hele vrijwillig.
19:01
Vrijwillig is een belangrijk woord hier, want het was allemaal zonder juridische consequenties, zonder iets van vergunningen. Het is het kleinst denkbare stapje in de richting van enige vorm van toezicht op AI bedrijven.
19:13
Maar het was voor Elon Musk, Mark Zuckerberg en voormalig AI adviseur David Sacks te veel.
19:19
Ze belden Trump met de boodschap dat dit de concurrentiepositie van Amerika ten opzichte van China zou gaan schaden, waarop Trump het besluit om toezicht te houden weer introk.
19:29
De drie grootste AI bedrijven ter wereld, XAI, OpenAI en Anthropic kondigden de afgelopen weken plannen aan voor een beursgang dit jaar. XAI mikt op juni op een notering op de Nasdaq en hoopt $ 75 miljard op te halen.
19:41
Als dat lukt, dan zou dat de grootste beursintroductie ooit zijn. OpenAI volgt waarschijnlijk in september en Anthropic later dit jaar.
19:48
Die haast heeft allemaal duidelijke oorzaken, want AI bedrijven verbranden op dit moment geld op indrukwekkende schaal omdat ze het uitgeven aan computerkracht.
19:56
Anthropic gaf in het eerste kwartaal van dit jaar nog $0,71 aan rekenkracht uit voor elke dollar omgezet.
20:01
OpenAI verwacht de komende vier jaar $ 115 miljard te spenderen en XAI boekte vorig jaar een verlies van $ 6,3 miljard. Even wat cijfers. Een beursgang is de oplossing voor al die problemen.
20:14
Malta is het eerste land ter wereld dat zijn inwoners gratis toegang geeft tot ChatGPT Plus, de betaalde versie van de AI assistent van OpenAI, die normaal gesproken € 20 per maand kost.
20:25
Inwoners moeten eerst een korte cursus digitale AI vaardigheden afronden. Je moet er wel wat van doen. Wel wat voor doen.
20:31
Het is ontwikkeld door de universiteit van Malta, maar daarna krijgen Maltezen dus een jaar gratis toegang tot ChatGPT Plus voor niks. AI modellen hebben een fundamenteel geheugen probleem.
20:42
Hoe langer een gesprek of tekst wordt, hoe moeilijker het is om informatie van vroeger in het gesprek later nog een keer te gebruiken. Het is een vergeetachtig gebeuren.
20:52
Onderzoekers van Carnegie Mellon University en de University of Maryland ontwikkelden een oplossing die ze slaap noemen.
20:59
Het idee is dit: zodra het werkgeheugen van een model vol raakt, pauzeert het en herhaalt het zijn eigen berekeningen over de net verwerkte tekst.
21:08
En die slaapfase, die vergelijkbaar is zoals mensen slapen, zorgt ervoor dat de informatie beter wordt vastgelegd. En, uh, ja, zoals wij als mensen herinneringen consolideren, zouden AI modellen dat kunnen gaan nadoen.
21:21
En hoe meer slaap ronden, zoals wij ook ronden hebben als wij slapen, hoe beter het model presteert op complexe taken.
21:33
Wietse, vind jij dat we in Nederland ook ChatGPT moeten cadeau geven aan, aan mensen als ze een cursus hebben gedaan? Ja, je verwacht mijn antwoord natuurlijk al.
21:41
Ik zou denken iets van een waardebon doen zodat je hem uit mag geven aan welke partij dan ook. Ik vind de koppeling naar ChatGPT wat onhandig, maar. Ja, dat is een beetje een goor dealtje bedoel je met 1.000 euro.
21:51
Ik denk nou goed, maar een maandbudget of een soort van stimulus ergens kan wel interessant zijn. Ik bedoel, we hebben ook het PC Privé project gehad, lang, lang geleden.
22:00
Dit is de reden dat wij een computer hadden thuis. Het is misschien een van de meest [gniffelt] succesvolle subsidie trajecten wat mij betreft ooit in Nederland. Omdat het gewoon heel goed gelukt is. Dus, uh, een soort.
22:10
Want hoe werkt dat ook alweer? Dan krijg je een bedrag en mocht je het uitgeven bij, bij, bij een computerwinkel. Dat werd dan eigenlijk ingehouden bruto, hè, dus dan, ja, dan ging er € 1.000 van je brutosalaris af.
22:19
Wat je dan netto kon uitgeven aan een computer. Uhm. Je zegt: dat zouden we kunnen overwegen voor, voor een AI.
22:26
Nou ja, mochten de mensen luisteren zeggen: ja, hoe gaan we dan een waardebon [gniffelt] opsturen naar iedereen? Je kunt dat ook doen door het een beetje te vervlechten in zo'n regeling. Laat ik het dan zo zeggen.
22:35
Dus je geeft niet iedereen een fiets, maar je geeft iedereen korting op een fiets via salaris. Of je geeft iedere student, uh, uh, de mogelijkheid om toegang te hebben tot. Wat zou een reden zijn om dit, uh, te doen?
22:46
Uhm, nou, ik denk wel dat, a-uiteindelijk het, uhm, het is gewoon moeilijk om een, om een, om een goede mening te hebben over al deze technologie als je er gewoon niet mee werkt. Ja.
22:57
En, uh, dat, je, je moet ook een beetje.
22:59
Ik heb bijvoorbeeld veel vrienden die dan zeggen van: het was de eerste keer dat een AI model tegen hen loog, uh, omdat zij, omdat het binnen hun werkveld was wat ze bijvoorbeeld kenden. Of ze hebben iets gestudeerd. Ja.
23:10
Dus, uh, ze hadden twee, drie weken lang met AI zitten werken, welk model dan ook, en ze waren best wel onder de indruk. Uh, en ze vroegen ineens iets wat heel erg dicht bij hun eigen opleiding lag of hun werk.
23:23
En zien daar een zin staan die gewoon absoluut niet waar is. Want ze weten dat, want ze zijn expert op dat vak. Ja. En dat ze ineens denken: ho, maar wacht even, wat heb ik allemaal serieus genomen?
23:33
Wat gebeurt hier eigenlijk? Dat je geconfronteerd wordt met je eerste hallucinatie. Ja, je bedoelt te zeggen: dat is nuttig, dat we dat als, als burgers van een land allemaal een keer meemaken.
23:42
We moeten allemaal geconfronteerd worden met je eerste hallucinatie. Dat is voor natuurlijk een kind of een tiener een stuk moeilijker. Want ja, heb je al genoeg Bildung, een soort van intelligentie corpus? Nee. Nee.
23:52
Dus dan kan je je afvragen: oké, als we iedereen, als we iedereen, laten we zeggen als we meer mensen toegang geven, terwijl ze misschien normaal die toegang niet zouden kunnen betalen of alleen met de gratis modellen zouden werken die nog veel minder grond hebben en ook weer lang, minder lang kunnen nadenken.
24:07
Dat je je kan afvragen, uhm, als deze systemen een stukje van ons denken extern gaan doen, net als een hele geavanceerde rekenmachine, is het dan wel fair als het een soort gelijkheidsprincipe is, zeg maar binnen Nederland, dat de ene werkt met een, ja, met een soort matig dingetje van de Kijkshop.
24:24
Die bestaan niet meer, dus ik kan het gewoon zeggen. Ja. Uh, versus iemand die daar aankomt met een tank van een rekenmachine, zeg maar. Ja. Dus een soort, soort gelijkheidsprincipe is daarin wel.
24:32
Toch even als we dat hier nu ter plekke gaan regelen, dan zeg- Ja, wil ik even regelen nu, hè.
24:35
Ja, dan zeg jij dus: doe het als korting op je belasting en dan, hoe kun je het dan uitgeven bij een vooraf, uh, geselecteerde lijst van AI providers?
24:44
Ik vind het wel vet dat je het zo concreet maakt meteen, want dan, dan ga je ook voorbij de soort van retoriek van mij, van: ja, goed idee man. Ja, inderdaad. Oké, gaan we het doen? Gaan we nu regelen.
24:52
Maar gaan we dan ook kunnen uitgeven aan, uh, aan computerkracht voor lokale AI? Moeten we dat dan in scope maken?Ja, en kan je dan de, de machines die een soort van AI ready zijn daar meer korting op krijgen? Ja.
25:05
Uh, en kan je, uh, misschien wel zeggen. Wordt het toch weer een lastig verhaal. Ja, en dan is het, moet je dan je ID inscannen en eerst opsturen?
25:13
Uh, goed, ik, ik denk om eerlijk te zijn en ik ga een beetje een kop hout doen, maar dat zoals het fietsplan en het PC Privé project destijds Ja. er soortgelijke constructies te bedenken zijn.
25:24
Laten we gewoon eens beginnen bij Werkend Nederland, hè, want nu ik de, als ik de kinderen erbij hou in mijn hoofd, wordt het allemaal heel complex. Boven de achttien. Ja, en, uh. Laten we zeggen boven de zestien.
25:34
Ja, en dan, als ik dan denk aan het, uh, browserkeuzescherm, uh, wat er nu is, hè, als je je browser opstart of je voor het eerst een Mac of iPhone of Android, dan kan je DuckDuckGo kiezen en dat is afgedwongen door de EU uit mijn hoofd.
25:46
Dat je zou kunnen zeggen: oké, er is een soort van AI provider keuzescherm ook, waar je dan je bonnetje kan uitgeven of je korting kan krijgen en zoiets.
25:53
En als we het een beetje combineren, het is een combinatie tussen het browserkeuzescherm en het fietsplan. Dat daar misschien oprecht, ik hoop dat ik dichtbij genoeg iets concreets kom, iets, iets te maken valt.
26:03
Maar misschien ook gewoon, uh, bij open router of zo. Dat je ook, dat je dan ook die open source modellen kan kiezen. En dan houden we het wel allemaal cloud gebaseerd. Ja, ja, dat je ook niet.
26:12
Precies, want jij zei anders zijn we, dan wordt het een soort echt AI PC privé project. Ja, dat wordt allemaal veel te ingewikkeld.
26:18
Ik bedoel, ik heb een webinar gegeven over lokale, jij zat erbij soms naar mij te knipperen met je ogen. Met vriend, is het echt nodig dat we uitleggen wat quants zijn?
26:25
Ja, het is allemaal gewoon nog niet te doen, echt lokaal. Is nog een beetje prematuur. Dus, maar goed, daar komen we dan misschien volgend jaar of jaar daarop uit. Over hoe je dan ook nog dat geld kan uitgeven lokaal.
26:34
Dus we doen het nu voor alle grote cloudproviders. Zal ik nog een ingrediëntje toevoegen? Dat je dan misschien ook zou kunnen zeggen: joh, uh, laten we dan doen.
26:42
Stel dat in dat browserkeuzescherm, wat is nu een AI chatbot keuzescherm geworden is, choose your own LLM, uh, dat dan bijvoorbeeld een Mistral erbij staat. Laten we dat alsjeblieft doen. Ja.
26:52
En dat je dan ook zegt: Mistral, als je erbij wil staan, moet je het datacenter dan ook wel in Nederland zetten bijvoorbeeld. Ik, of, of. Ik vind dat je het veel te ingewikkeld maakt. Nee, maar.
26:59
Laten we maar eens beginnen met iedereen AI geven. Zeker, maar het is ook natuurlijk lekker dat we de soevereiniteit op een bepaalde manier ook een klein beetje aanmoedigen. Stimuleren. Ja.
27:09
Ja, want ik bedoel, anders krijg je Malta. With all respect. Dan zeggen die, die mensen van Mistral: dat is prima. Als jullie een stroom, uh, verbinding voor mij regelen. Parijs is ook goed.
27:18
Nou, dat is er denk ik wel, hoor. Ik denk dat Mistral wel een datacentrum in Frankrijk heeft. Ik denk, ik bedoel, Malta is niet zo groot, dat dat, [lacht] los van de bureaucratie van een kleinere plek.
27:29
Ja, laat dit maar tot een, laat dit maar een probleem worden. Het is wel een, een luxeprobleem. Oké, maar gaat dus de Nederlandse overheid gaat, uh, Grock-abonnementen subsidiëren van Elon Musk?
27:37
Hier zit jij me naartoe te duwen, hè. Ik zit. En dit is wat Wytse wil. [lacht] En volgende week zeg je dan: Wytse, ik heb gedaan wat jij wilde. Nee, man. Het AI Privé Project. U hoort het als eerste hier.
27:49
Dan nu een boodschap van onze sponsor Samsung. Een telefoon wordt steeds meer een soort persoonlijke assistent.
27:54
Hij weet wanneer je geboren bent, met wie je vanavond op date gaat, dat je stiekem aan het solliciteren bent of dat je vannacht niet lekker hebt geslapen. Maar dat schermpje is dus eigenlijk allang geen scherm meer.
28:03
Het is een soort persoonlijke ruimte. Een ding waar je leven op staat. En iedereen kent dat moment waarop dat ongemakkelijk wordt. Je laat even iemand iets zien en er appt iemand jou op precies dat moment.
28:14
Wat pikante gossip of een LinkedIn bericht van een recruiter terwijl je collega meeleest. Tot nu toe was er één oplossing, zo'n gare plastic privacy sticker over je scherm plakken.
28:25
Het probleem met die stickers is: ze zitten er altijd op. Ook als je met z'n drieën op de bank lekker een filmpje wil kijken, dan ziet niemand wat of is het super donker.
28:33
Op de S26 Ultra heeft Samsung iets gedaan wat dat probleem omdraait. In het scherm zitten twee soorten pixels, brede en smalle en met één tik schakel je ze om.
28:42
Als je ze aanzet dan is de pixel voor jou en zwart voor de buurman. Welke apps, notificaties en welke wachtwoorden, dus welke van die twee pixels gebruiken, dat bepaal je zelf. Dit is een interessante zet.
28:53
Het probleem hebben we eigenlijk zelf gemaakt. Telefoons weten steeds meer, dus er staat steeds meer op het scherm wat niet voor anderen bedoeld is. Maar het mooie is zo dat je zelf kiest wanneer je wat wil.
29:02
[muziek] Jij hoort het al, paus Leo heeft een brief uitgedaan van 42.300 woorden. De eerstelijke, de eerste pauselijke brief ooit volledig over kunstmatige intelligentie.
29:19
En hij richt zich niet alleen tot zijn 1.4 miljard gelovigen, maar nadrukkelijk ook aan alle mensen van goede wil. Daar reken ik ook ons even onder, Wytse. De paus doet dus in dat enorme stuk een aantal oproepen.
29:29
Zo zegt hij dat overheden AI moeten reguleren en voorkomen dat data uitsluitend in private handen blijft. Werknemers wier baan wordt bedreigd, verdienen bescherming en omscholing, volgens de paus.
29:41
Autonome wapensystemen zijn moreel ontoelaatbaar en kinderen moeten worden beschermd tegen AI-gegenereerde desinformatie. Maar de kern van het document is filosofischer van aard. Werk is meer dan inkomen, stelt hij.
29:54
Het is, schrijft paus Leo, een vereiste van de menselijke conditie. Een samenleving die AI gebruikt om mensen structureel te vervangen zonder alternatief, ondermijnt zichzelf.
30:04
Gaat het hele stuk over, uhm, in de, in de kern echt over werk? Of is het veel breder dan dat? Veel breder. Maar het, het hoofdstuk werk is wel flink. Ja.
30:16
Uh, omdat daar de, één van de, ik bedoel, de grootste zorg is militaire toepassingen, is mijn lezing in ieder geval.
30:22
Dat is de lezing als je dit stuk leest, is de, de militaire toepassing van AI is de grootste zorg van de paus. Ja, omdat ook, omdat er ook gesproken wordt over disarming AI. Dus, uh, hoe zeggen we dat in het Nederlands?
30:33
Ontwapenen. Ontwapenen van AI. En dan, dat pakt hij wel mooi aan, maar, uh, die, die bewaar ik nog even, is eigenlijk dat ontwapenen veel meer betekent dan alleen maar die militaire toepassing. Mhmm.
30:44
Maar het is wel zo dat hier de grootste, lees ik, de grootste urgentie met daarna arbeid. Omdat er zo'n existentieel, uh, vraagteken ontstaat voor veel van ons als we niet meer bij kunnen dragen aan die samenleving.
30:57
Ja, laten we het even schetsen.
30:58
Er was dus een bijeenkomst in het Vaticaan waar deze brief gepresenteerd, uh, werd en een opvallend feit is dat de 33-jarige medeoprichter van Anthropic, Chris Ulla, naast de paus op het podium zat.
31:10
En je ziet dus shots van de, ik heb Vatican TV zitten kijken, dat doe ik altijd, uh. Als you do. Op woensdagmiddag. En dan zie je dus die heren, uh, aan het begin van het podium zitten in een prachtig gebouw.
31:21
En dan zitten daar allemaal, ja, hoe heten die mensen, priesters?Hoe heten mensen? Mensen van die keppeltje en paarse pakkies? Nou, doet er ook verder niet toe. Helemaal vol. In die zaal zitten al die. Al die.
31:33
Al die pauselijke volgelingen zitten al. Ik ben. Of klink ik als een atheïst? Ongelooflijk. Zitten daar gewoon het allemaal aan te horen. Maar belangrijker is wat Oela daar zei her.
31:42
Hij herhaalde de claim dat de wereld zich klaar moet maken voor massale omscholing door AI.
31:47
In zijn toespraak erkende Oela dat AI bedrijven opereren binnen een systeem van prikkels dat hen kan weerhouden om de juiste beslissingen te nemen.
31:55
Denk daarbij aan commerciële druk, geopolitieke druk en de menselijke drang naar succes en erkenning. Hij vroeg daarom om stemmen van buiten te betrekken bij het beteugelen van de industrie.
32:07
Partijen zonder aandeelhouders die puur op morele gronden kunnen zeggen wat wel en niet mag. Dus de man die Claude helpt bouwen, vraagt in feite
32:16
in het Vaticaan, ten overstaande van de belangrijkste mensen van de katholieke kerk, op externe controle op zijn eigen werk. En dat in dezelfde week dat Trump de meest basale veiligheids soort van
32:29
toezicht weg wuifde omdat Elon Musk hem opbelde. En een beursgang ter grootte van tien jaar beurs. Ja, dit allemaal tegelijkertijd. En hij, hij zegt dus we moeten die externe controle hebben.
32:41
Niet omdat hij denkt dat zijn bedrijf per se zo slecht bezig is, maar omdat hij begrijpt dat goed goedbedoelende mensen binnen een systeem kunnen zitten dat hen stuurt zonder dat ze het merken.
32:50
Oftewel ook Anthropic als bedrijf wat heel erg goed probeert te doen, heeft last van die prikkels. En dan gaat het dus over verschillende zaken.
33:00
Jij noemde er al een paar autonome wapens, maar ook de rol van van AI en en werkgelegenheid. En dus ja, de menselijke conditie en, en, en of we bezig zijn om onszelf te vervangen op dit moment. Wat vond je opvallend?
33:15
Wat? Dat wat die brief stelde over werk en AI? Nou, ik denk dat de, de. Het idee dat we hier in de realiteit, in het zijn, in het leven
33:29
onderdeel willen zijn van de samenleving en het gevoel willen hebben dat we bijdragen aan. Dat als je dat wegneemt, de, de kans voor mensen om bij te dragen. Even zo gezegd dat dat.
33:39
Het ging eigenlijk letterlijk stond er een stukje in over.
33:42
Werkeloosheid is niet goed voor de mens, want het is sociaal gezien niet verstandig geweest in het verleden dat er gewoon te grote hoeveelheden mensen geen werk hadden. Dat creëert natuurlijk een oproer.
33:54
Dat gaat niet lekker, zeg maar. Dus en daar hebben mensen dan weer pijn van. Maar ook, en dat gaat natuurlijk wel een stapje verder nog.
34:00
En dit is allemaal mijn lezing natuurlijk van het geheel is dat het gewoon voor het individu onprettig is om niet bij te kunnen dragen. Dus daar kan je cynisch van lezen. Ja, het is.
34:12
Het is onhandig om op je op je reet te blijven zitten. Lui als het ware, want je moet meewerken aan het, aan het samenlevings project. En dat gaat natuurlijk in.
34:20
Vanuit een religieus aspect is dat een veel groter project dan voor mensen die verder geen religieuze achtergrond hebben.
34:26
Die zeggen misschien joh, ik, ik probeer mijn eigen hachje en die van de buren om me heen en misschien nog wat de mensen daarbuiten vind ik prettig als een soort humanist.
34:34
Maar laten we niet doen alsof het een soort super groot menselijk project is waar ik onderdeel van ben. Als je het leest vanuit de paus die schrijft wel over het The Human Project en, en, en het ongelooflijke
34:46
ja, jouw duty, ook jouw ehm, ja, het, het feit dat het wel belangrijk is dat je er ook aan bijdraagt en dat het niet goed met mensen gaat als ze niet meer kunnen bijdragen. Nou, ik kan me dus ook voorstellen dat de dat
34:58
de, de, de kerk een heel belangrijke bijdrage kan leveren aan, aan dit debat.
35:02
Omdat dit snel een debat is wat gaat over geld en over machtsverhoudingen en het inperken van macht en uiteindelijk de rol die het heeft in de economie. Maar er zit natuurlijk ook een zingevings
35:14
aspect aan, want het is normaal gesproken gebied wat voorbehouden is aan misschien opiniemakers in de krant. En hierbij is toch de belangrijkste influencer op aarde die hier mening over gaat geven.
35:25
Zat er iets tussen op dat gebied?
35:27
Over de, de filosofie achter de, de, de, de, de, de, de, de, de functie die werk nog meer heeft dan wat het doet voor de economie waar je van opkeek, wat je verbaasde of wat je op een bepaalde manier aan het denken zet.
35:40
Op een manier die je tot nu toe niet eerder hebt ervaren. Als, als we naar de tekst gaan, want ik had wat dingen onderstreept. Ik heb het 60% gelezen, zeg ik er even eerlijk bij, want dat was best veel.
35:48
In, in het geheel voorlezen voor, voor de liefhebber. Ik heb kleine stukjes gearceerd. Hier staat bijvoorbeeld Work is not simply an instrument. It expresses en enhances the dignity of our lives.
35:59
Nou, dignity is best wel een groot woord. Dan financial assistance to the poor may at times be necessary in emergencies, but it cannot become the sole response.
36:08
The sense The goal is to enable each person to live with dignity through his, his or her own work. Dus daar zit dus wat. Wat betekent dat voor het basisinkomen denk ik dan, als ik hem zo vertaal.
36:19
Tegen basisinkomen voor AI. Nou, dat is de hot take die jij er meteen. Is dit zo'n aflevering? Wytse en de paus? Ja. Nee. Nee. Maar wel om te zeggen wacht even. Je kunt wel.
36:34
Ik bedoel, als jij werk ziet als een soort ziekte die, die genezen moet worden zodat iedereen vrij is. En er is dit, dit, dit. Door het hele stuk heen gaat het ook over wat is vrijheid eigenlijk?
36:45
Want als jij bijvoorbeeld vanuit. Vanuit de technologie
36:50
zou je kunnen zeggen dat, dat de samenleving en het individu en het menselijk lichaam en het grote samenleving lichaam iets is waar ziekten in kunnen ontstaan die je moet repareren. Dus doodgaan is een probleem.
37:01
We moeten allemaal duizend worden. Iemand die medische. Alles is een fix. Als een soort, een soort technologie. De machine loopt niet lekker, olieën, de software is kapot. Bugfix.
37:12
En, en dat, dat die manier van naar de wereld kijken als een soort iets wat je kan bugfixen, iets wat je kan repareren, iets ook wat je niet alleen maar reparatie.
37:20
Ik denk dat hij dan nog dat daar de paus nog best wel in mee kan.
37:23
Maar voorbij reparatie, namelijk enhancement.Dus zeggen: de mens is niet, ook al hebben we de mens helemaal weer gerepareerd, de mens kan nog veel meer zijn, hè.
37:33
Er zit een heel stuk over transhumanisme en posthumanisme in. Jeetje. Het, het gaat best wel ver. En dat heeft dan weer te maken-- want ik wil wel even gezegd hebben, uhm,
37:42
ik dacht: ik ga dit stuk lezen en het wordt een beetje zo, uhm, ludiet, dat, dat het een soort ludietenstuk is. Dat had ik het toch een beetje verwacht, denk ik.
37:50
Een beetje naïef misschien van mij, van: uh, zet het allemaal maar uit. Mhm. We moeten terug [gniffelt]. We moeten, we moeten het niet alleen maar uitzetten, we moeten zelfs de tijd terugdraaien of zo. Mhm.
38:00
Helemaal niet, eigenlijk. Of niet helemaal niet. D-er staat in, uh: er is een rol voor technologie. Uh, technologie heeft de wereld een stuk mooier gemaakt.
38:07
Er is een rol voor entrepreneurs, er is een rol voor geld, er is een, gaat, ik bedoel, hij- Allemaal van de paus.
38:12
Ja, nou bedoel, je zou, je zou kunnen zeggen, uh, hij probeert een soort middenweg te wandelen waardoor die zo min mogelijk, of zo min, zo min mogelijk alienation bereikt, hè. Ja.
38:21
Dus dat, uh, stel dat je dit leest als iemand die zegt, uh: h-h-het, het beste wat de mensheid is overkomen in de laatste 300 jaar is kapitalisme, want daardoor is de armoede nog nooit zo snel opgelost, dankzij, even heel plat gezegd, dan kan jij nog door dit stuk heen komen.
38:36
Mhm. Dan kan jij denken: oké, ik word erkend, maar tegelijkertijd. En wat beoogt het stuk te veranderen of te bereiken, denk je? Uhm, nou, d'r zitten, zit een metafoor in van de toren van Babel.
38:49
Voor de Bijbelkenners een wat, uh, bekendere metafoor.
38:52
Hoe ik hem uit mijn jeugd ken, ik heb op een christelijke school gezeten, is het, is het bouwen van een hele hoge, uh, toren eigenlijk richting de hemel, uh, waarin we ook nog eens één taal spreken met elkaar.
39:03
Het is een soort van globalistische supertoren waarin je alles één wordt, zeg maar, centraal. En, uh, dat liep niet goed af, laat ik het zo zeggen. En, uh, daar werden we dan ook voor gestraft.
39:13
In ieder geval, zo is het Bijbelverhaal. Een alternatief op het bouwen van zo'n toren van absolute controle. Dus het gaat niet over: er moet geen controle zijn, het gaat om absolute controle.
39:23
Het gaat ook niet: er moet geen technologie zijn, maar absolute technologie, hè. Dus alles zit in, we zitten allemaal nu in een machine, zeg maar. Het, hij zegt eigenlijk: laten we nou,
39:33
het is heel, uh, best wel venijnig goed gedaan, dus positief venijnig zou ik zeggen, is dat. Kijk, de eerste, uh, mijn mening, denkfout die je zou kunnen maken is: AI is neutraal. Nee, maar wacht even.
39:44
Wat probeert het te bereiken? Pro-pro-probeert het te bereiken dat het machtsconcentratie, uh, van grote AI-bedrijven tegengaat? Ja, zeker. Is dat een- Zeker, dat is absoluut onderdeel van dit stuk. Ja.
39:54
En het gaat over, uhm, je kunt wel heel veel, uhm, kracht krijgen d-door technologie, dus mogelijkheden krijgen door technologie.
40:04
Dat geeft jou niet het recht om daarmee, met die nieuwe kracht die je hebt, ook macht uit te oefenen. Ja. Dus je hebt je kracht gecreëerd. Ja. Maar dat creëert niet automatisch het recht op macht.
40:16
Maar dat is dus een oproep aan overheden, aan Trump en aan Xi Jinping.
40:20
Nou, dit is ook, dit boei, er zit een heel stuk in ook, aan, di-, daar kwam, heb ik nog wel helemaal gelezen, dat ging over: even, laten we heel even rechtzetten sowieso wat de verhouding is tussen kerk en staat.
40:29
Dat wordt ook even, oh, voor de zekerheid, zo van: weet even, wij zijn de staat niet. Wij erkennen jullie als staat. Wij zien ook de functie van jullie als staat.
40:37
Wij zijn eigenlijk niet degene die van bovenaf dingen gaan opleggen. Maar dat betekent niet dat we ons er niet mee willen bemoeien in een soort adviserende rol, zeg ik even. Ja. Zo, zo staat het beschreven. Ja.
40:47
Waarin ook gezegd wordt: nu, uh, doordat de kracht eigenlijk, uh, bij, uh, een kleine ha-, een klein handje, uh, commerciële partijen ligt, ligt daarmee ook de macht bij dat handje commerciële partijen, dus sowieso eigenlijk bijna niet bij overheden.
41:04
Wat als het goed is, uh, een soort representatie van de mens zouden moeten zijn in een functionerende democratie wel in ieder geval. Dus dat, dat, dat is niet best. En dan is het ook nog eens, uhm,
41:15
dus het is een soort kleine groep en het is niet dat die, dat die mensen in die groep, hè, dus de, de, de mensen bij Anthropic of een Elon Musk daar niks over te zeggen zouden mogen hebben. Het gaat erom wie nog meer.
41:27
En hoe betrek je die stemmen erbij? Want, uh, bijvoorbeeld dat posthumane en transhumane, dus voorbij de mens en, uh, na de mens, uh, komt wel een beetje voort uit dat kleinere clubje.
41:39
Dat is eigenlijk hun visie voor de mensheid, zou je kunnen zeggen. Goed bedoeld, allemaal prima, maar het is niet de visie van iedereen voor de mensheid.
41:46
En probeert het stuk dan, uh, te zeggen om te voorko-, zeg maar, heeft het dan aanbevelingen om, om te voorkomen dat de macht te veel in handen komt van een klein groepje die ook nog eens een keer haar eigen ideologieën heeft over, ja, hoe, hoe, hoe wij als mensen moeten leven?
42:01
Uh, heeft het dan advies over hoe je dat bereikt, die, die machtsconcentratievermindering?
42:06
Ja, dus het, d-het idee is eigenlijk om te zeggen, en dat is, dit is een spannend, spannender stuk, zou ik zeggen, want het is een beetje: wat bedoelen, wat bedoelt hij dan precies?
42:17
Hij erkent dat de technologie en de vooruitgang, of in ieder geval de ontwikkeling, of het vooruitgang is, even daar gelaten, de ontwikkeling van technologie sneller gaat dan de ontwikkeling van onze menselijke capaciteit om daar een moreel oordeel over te kunnen voe-- los van dat we zeggen: de overheid loopt achter en de wetgever loopt achter.
42:34
Ja. Wij ook. Ja. Gewoon als individuen, zeg maar. Ja. En, uhm, zeg maar, di-, zegt ie hier: rapid technological transformation reveal how unprepared we are. En, weet je, dat soort zinnen zitten erin.
42:47
Nou dan, oké, prima, we zijn unprepared. Het gaat te snel. En nu dan, hè, jouw concrete vraag. Dan heeft hij het wel over vertragen.
42:54
En dat is natuurlijk spannend, want dan krijg je een soort: is het vertragen, is dat, is dat pauze? En dan, i-i-een soort van, want dat hebben we geprobeerd, het is ondertekend destijds zelfs door Elon Musk, hè.
43:02
Uh, daar hebben wij het nog over gehad in, uh, toen nog Poki. O-o-oké, dit is niet helemaal pauze, het is remmen. Maar hoe vertraag je dan?
43:10
En ik moet zeggen dat, of ik ben daar nog niet, maar ik zag nog niet hele duidelijke, net zoals jij heel mooi aan mij vroeg: wat is dan het, uh, uh, subsidieprogramma vanuit de overheid?
43:19
Het vertraagprogramma heb ik er nog niet uitgehaald. Nee, nee. Maar het is wel zo dat,
43:24
kijk, is dit uiteindelijk- Het is al heel wat toch, dat de, dat de paus eigenlijk zegt: we, we, k-, we kunnen deze snelheid allemaal niet aan op alle niveaus, inclusief individueel. Ja.
43:33
Laten we gewoon eens vaststellen dat dat aan de hand is. Dat is op zich, denk ik, al een, van toegevoegde waarde.
43:38
En dan vervolgens een oproep om te vertragen is, ja, hoe, dit, ik denk, uh, esZo, zo concreet je het van de, van het Vaticaan gaat krijgen.
43:46
Nou ja, misschien zit daar ook wel, daar zit wat mij betreft een aanname achter en dit is echt Wietse die dit erin leest. Voor zover ik, uh, hiervoor heb ik het aardig uit de tekst gehaald.
43:56
Wat ik interessant vind om te merken is dat, uhm, er is een vertrouwen, uh, van in het geval van de paus, uh, van een wijsheid en een soort grond van moraliteit en wat goed is, wat, wat juist is in God.
44:10
Uh, want het is, het is, laat het even duidelijk zijn. Dat is een beetje zijn ding. Dat is best wel zijn ding. [lacht] En, uh, ja, [lacht] dat zeg jij heel mooi. Ja. Uhm, maar daarmee op zijn minst ook de mens.
44:22
Wij als levende wezens die de mogelijkheid hebben om als we goed luisteren en goed stil zijn ook soms en even vertragen, dat we wijsheid hebben.
44:31
Je kan zeggen: geïnformeerd, uh, door God of geïnformeerd waar jij dat zelf wil halen als mens. Maar wat hij eigenlijk ook zegt is: die wijsheid zit niet in die computer, die wijsheid zit niet in die systemen.
44:44
Sterker nog, zo lees ik het. Die wijsheid gaat ook niet in die systemen komen. Aha. Uh, dus je zou kunnen zeggen, uh, uh, Wietse invulling.
44:55
Die systemen hebben die verbinding met God, waar hij dan deels van de wijsheid van, is er niet. Dus dit zijn eigenlijk koud calculerende op basis van statistiek systemen.
45:05
Daar zie je ook de brug naar de militaire toepassingen.
45:08
Want wij kunnen in iemands ogen zien dat hij, zij berouw heeft en vergeving geven op het slagveld, terwijl die robot gewoon zegt: zoveel poppetjes bewegen er op het-- hij had het letterlijk over nodes in a network, zeg maar.
45:20
En die nodes lopen daar en, uh, die nodes worden geanalyseerd. That's that, zeg maar.
45:25
En ik denk dat, uhm, dat er, dat die systemen eigenlijk puur optimaliserende statistieken zijn, statistische systemen zijn die uitvoeren wat ze moeten uitvoeren zonder dat ze, ja, letterlijk, kan een, kan een computer iemand vergeven?
45:43
Om het even heel erg concreet te maken. Het, het antwoord van de paus is, hoe ik hem lees: nee. En dat is dus een probleem, want daar, en daarmee zegt hij dus: thus human in the loop.
45:53
Hè, er moet een mens aan de knop zitten. En breder gezegd, niet alleen maar in die specifieke, voor iedereen heel heldere militaire toepassing. Uhu. Die human in the loop moet eigenlijk veel breder. Ja.
46:05
We moeten op veel meer plekken in de loop blijven omdat, en dat is uiteindelijk dan een belangrijke, wij met elkaar menselijkheid kunnen behouden in onze samenleving.
46:16
En het gaat eigenlijk uiteindelijk om dingen als liefde, vergeving en al die woorden waar we een soort, ja, we leven in een beetje een cynische tijd, misschien wel een beetje om moeten glimlachen of, of grimen.
46:26
Ja, dat je denkt: nou, het zal allemaal wel. Dat juist die woorden en die principes zijn d-die wij als het ware in leven houden. Ja.
46:35
En dat, ik bedoel, ik vind het sowieso, hè, m-m, het idee van moraliteit niet als wetboek of moraliteit niet als opgelegd, maar moraliteit als iets wat je moet uitvoeren, hè.
46:46
Dus alleen als iedereen zegt: dit is fout, maar niemand grijpt in als het fout gaat, dan kan je eigenlijk zeggen dat de moreel er niet is. Het, het moet levend zijn, zeg maar. En, uhm,
46:56
eigenlijk wordt hier nu, hij, best wel cynisch is de paus over alignment bijvoorbeeld, dat hij zegt: oké, nu proberen jullie die moralizing machines, staat erin, uh, da, en zeg je- Te bouwen, ja.
47:07
Ja, mor-, moral, moral machines. En dit is het antwoord van Silicon Valley. Ja, moral machines. Dus laat ons een AI bouwen om ervoor te zorgen dat die onderliggende AI moreel juist gaat handelen.
47:17
Ja, en dan, dan- Ik word de hele tijd tegengesproken als ik wil dat mijn AI illegaal boeken gaat downloaden van NS Archief. Want dan zegt ie, uh: dat is, daar ga ik niet aan meewerken.
47:24
Dit is natuurlijk ook het bruggetje met Anthropic. Ja, uiteraard. Dat is degene die tot nu toe het meest voelbaar voor de eindgebruiker dit doet en ook openlijk zegt: dit moeten wij wel doen. Ja.
47:33
Maar de paus eigenlijk zegt: ja, maar w-wie z'n mor-moraliteit dan eigenlijk? Wie z'n waarden dan? Ik bedoel, stel het zou, stel je zou een machine kunnen opvoeden tot iets wat waarde kent.
47:45
Wie behoudt dan het recht tot het opvoeden van die machine? Mhm. Uh. En dan ben je weer bij dat kleine groepje terug. Ja, en zo hangt het op zich best wel mooi aan elkaar allemaal. Best wel syntactisch.
47:54
Ja, human in the loop is ook weer een uiting van vertragen, dus ook dat is weer zo'n, zo'n web dat wordt geregen. De, waarschijnlijk zal de kapitalistische,
48:03
uh, soort van zwaartekracht de komende jaren zijn dat we juist heel veel human out the loop gaan halen, want het gaat technisch veel betrouwbaarder worden.
48:12
We gaan steeds, er gaat steeds minder gehallucineerd worden, er gaat steeds meer code autonoom geschreven kunnen worden.
48:18
Dus als wij de human in the loop houden als bedrijf zijnde, dan kiezen we er in feite voor om te vertragen of op het slagveld. En hij zegt dus eigenlijk: die keuze moet je dus maken. Ja.
48:30
Ja, ik denk ook dat dit de, uh, nu al, uh, gaande is, hè, want, uh, jij en ik, uh, in deze podcast zijn het de tijd van hypothese wel een beetje voorbij met wat er allemaal gebeurt.
48:41
Ik bedoel even de, de, de, de nieuwsreel die je [lacht] net hebt voorgelezen over, het is nu, het is gewoon nu. Ja. Dus, ja, je zou kunnen zeggen: de paus is laat. Maar goed, ik ben in ieder geval blij.
48:51
Uh, no judgement dat er [lacht], dat er een, uh, document is. Wat dus, uh, i-i-i-dit gaat bijvoorbeeld ook over selfreferential, hè. Dus ik, ik moet wel zeggen, ik heb het idee. De paus weet echt zijn shit over AI.
49:02
Ja, nee, maar dit, ik, ik zeg je eerlijk. Ik bedoel, er worden ook, er, er zijn ook rumors online van: dit is AI assisted, hè. Uh, ik bedoel, Claude heeft meegeschreven, hè, uh, dat zijn roddeltjes.
49:12
Uh, ik, ik zie een tekst dat ik denk: nou, dan weet ik niet welk, welk model het dan is, want ik, ik, er zijn zinnen.
49:16
Ik heb zoveel zitten onder, het zijn allemaal tegeltjes, hè, dus er zitten bepaalde zinnen bij, die heb ik onderstreept omdat ik denk: die ga ik even drie, vier keer, uh, uh, lezen.
49:25
Omdat het, omdat het, uh, ingewikkeld is, omdat het waardevol is. Waardevol. Ja. Dus hier, maar ook wel beide.
49:32
Want om, om je een voorbeeld te geven: het gaat over limieten op een gegeven moment dat wij, wij, goed, het is, het is moeilijk voor veel van ons om, om nog limieten te erkennen.
49:41
Uh, limieten aan onszelf als mens, limieten aan ons ecosysteem, noem het allemaal maar op. En dan staat hier: uhm, even unchecked growth can give rise to impover-impoverishment, impoverishment.
49:54
Oftewel: door onbeperkte groei ontstaat armoede.Ik lees die zin, denk ik. Oké, wacht even.
49:59
Maar vanuit een soort ecosysteem zegt hij nou, stel dat je een ecosysteem hebt waarbinnen één ding heel hard groeit en de rest daardoor geen ruimte heeft, ontstaat er een soort armoede, doorgroei en, en hier gaat het dus en het is heel de tijd aangeven van luister, innovatie kan.
50:15
Entrepreneurial spirit top! Moet je iets mee doen. Maar let alsjeblieft op dat het één van de dingen is waarop we optimaliseren als samenleving. Uh één van de factoren.
50:24
Dus jij zou kunnen zeggen ik optimaliseer mijn lichaam, ik heb mijn uh een armbandje om en daardoor heb ik al mijn key point indicators van mijn lichaam goed. Top!
50:33
Ik ga nu niet zeggen boe, quantify het zelf of zo, maar uh, bel je je vrienden? Ja, dat is meer dan je, dan je aantal stappen per dag. Dus let even op wat je aan het allemaal in je dashboard opneemt.
50:45
Laat ik het zo zeggen. Daar zit ook een ja die, die is wel vaker gedaan, maar ook hier komt hij weer terug van oké, uh, fijn dat je je GDP meet als land, dus het gaat heel de tijd ook tussen individu en, en samenleving.
50:58
Voor de duidelijkheid die toren van Babel waar ik het over had richting het einde is het: wat voor Babel toren ben jij voor jezelf eigenlijk aan het bouwen in je leven?
51:04
Nou, dus hij springt de hele tijd ook van groep naar mens. Uhm, maar hierin, hierin is het uiteindelijk uh, uh belangrijk dat als je kijkt naar uh waar we nu mee bezig zijn met elkaar. Zo begint het document eigenlijk.
51:19
We zijn aan het bouwen, maar we hebben eigenlijk niet echt een plan. Zo begint het. Het is best wel sterk van we zijn aan het bouwen. We vinden dingen interessant. Er zit heel veel kracht en macht achter.
51:30
En we zijn ook uh, proberen dingen op te lossen. Dingen, mensen moeten geen ziektes meer krijgen en ouder worden en, en mensen moeten allemaal uit armoede gehaald worden. Dat is allemaal best wel mooi ook.
51:40
Maar hebben we nu ook eigenlijk een plan met elkaar voor wat als het lukt? Als die dingen dan bijvoorbeeld gaan lukken? Wat is de, de beste versie van het antwoord daarop wat je tot nu toe hebt gelezen?
51:49
Buiten deze brief van de paus om, hoor.
51:51
Maar als je Dario Amadei leest, of als je de, de nou ja, wat waar Sam Altman allemaal loopt te oreren of, of zelfs in de wetenschap of wat, wat vind je het beste antwoord op die vraag?
52:03
Waar, waar werken ze eigenlijk naartoe, behalve het voor de hand liggende aandeelhouders maximalisatie?
52:11
Vraag, wil je een vraag van een specifiek individu of het antwoord van een specifiek individu of van de paus bijvoorbeeld? Nee. Ja, ik. Ik vraag me, ik.
52:19
Kijk, de paus die lijkt heel stellig te zeggen: we weten niet waar we naartoe bouwen en dat gevoel heb ik ook. Ik denk dat iedereen dat gevoel wel een beetje heeft.
52:26
Er wordt een vaag beeld geschetst van straks bestaat er geen kanker meer en straks is er geen energietekort meer. En straks hebben we alles in overvloed.
52:34
Maar we hebben niet echt antwoorden op de vraag over inderdaad over, over vragen die, die hier worden opgeworpen, opgeworpen als: wat is dan onze betekenis?
52:45
En wat betekent werken eigenlijk voor on-- de diepere vraag die daar achter zitten. Nou ja, je zou natuurlijk kunnen zeggen uhm,
52:52
wanneer je dit stuk leest als een uh medegelovige, uh, uh, als een aanhanger van de paus lees je een ander stuk. Uh, I-ik lees een stuk waar, ik heb een christelijke achtergrond. Ik kan best wel.
53:04
En haalt trouwens ook best wel wat cultural references aan van Tolkien bijvoorbeeld en dat soort. Er zit best wel wat meer in dan alleen maar. Echt een nerd paus. Ja, is best wel grappig.
53:12
Ja goed, ik dacht echt is dit, was dit allemaal zo leesbaar toen? Want ik vond het echt heel erg leesbaar. Uhm, [klikt met tong]
53:18
uiteindelijk gaat dat ontwapenen van AI heeft niet alleen maar te maken met: stop nou geen geweer in de hand van een humanoid, uh, bietsers worden, maar ook er zitten uhm, krachten achter.
53:32
Dat zijn niet mysterieuze krachten. Hij beschrijft ze gewoon. Het heeft te maken met optimalisatie en macht hebben en, en, en, en, en je mening doorduwen op een, vanuit een kleine groep op een grote groep.
53:42
Dat uhm, het niet gaat om uh de datacenters uitzetten of de datacenters aanvallen. Het gaat erom van wie zijn de datacenters en hoe zorgen we ervoor dat het eigenaarschap verdeeld is? Ja.
53:55
Het is, het is eigenlijk daarom misschien een beetje saai stuk. Ja, maar nu beschrijf je een basisvoorwaarde uh om grotere problemen te voorkomen. Dat begrijp ik.
54:04
Maar ik vind het een heel ins, wat je net zei over het begin, namelijk we zijn een toren aan het bouwen en we weten eigenlijk niet waar we naartoe werken. Is eigenlijk een heel interessante vraag.
54:13
Waar werken die bedrijven naartoe? Anders dan nogmaals aandeelhouders maximalisatie. Wat zeggen zij daar zelf over? Anders dan we hebben geen kanker meer en we hebben geen, uh, geen, uh, geen tekort aan energie meer.
54:26
Nou, dit heeft natuurlijk verschillende. Demis Hassabis zegt: ik ga aan AI werken.
54:31
Uhm, ik ga dat binnen Google doen en ik ga het merendeel ga ik in de, hou ik in de wetenschappelijke sfeer en brengen we niet uit als product.
54:39
Die wordt voorbijgestreefd door een OpenAI waar een onder andere Altman en Brockman uh wel naar, naar de klant, naar de consument begint te duwen met ChatGPT, waardoor AI een fenomeen wordt.
54:49
Een cultureel fenomeen waardoor Google ook mee moet gaan doen, terwijl ze eigenlijk alleen onderzoek aan het doen waren nog. In die racedynamiek. Ja, te vroeg, hè.
54:56
Dus zij, dat is, dat is, Demis Hassabis is niet blij met de tijdlijn, want dat had nog langer moeten koken, zeg maar. Hij moet een soort van onaf product, uh. Ja, die had dat in een laboratorium willen doorontwikkelen.
55:06
Ja, daar kan je ook van alles van vinden, van is dat aan hem? Hè, de paus zou misschien zelfs zeggen van: hoezo beslist Hassabis dat met zijn kleine clubje? Ja. Hè, dus dat, die werkt ook de andere kant op, die logica.
55:16
Maar goed, we, we, we, uhm. Maar dat is de racedynamiek die ontstaan is en dat heeft, dat heeft, uh, dat vindt zijn oorsprong in, in ChatGPT. Ja, dat, dat volg ik.
55:25
Ja, en ik denk dat uiteindelijk dit soort uhm, uh bewegingen uhm kunnen bestaan uit groepjes mensen.
55:33
En dat, dat zijn geen geheime genootschappen of zo, maar gewoon mensen met bepaalde intentiesUh die ze ook in interviews vertellen.
55:40
Dat je bijvoorbeeld een Demis Hassabis hebt die zegt: oké, ik wil, uh, uh, dingen gaan genezen.
55:44
Uh, ik wil de uiteindelijke laatste uitvinding doen, namelijk de synthetische wetenschapper die dan alle andere uitvinding, een soort synthetische uitvinder maken. En daarmee wordt de wereld een mooiere plek.
55:53
Want, uh, science and progress zou je kunnen zeggen. Uh, maar er zijn ook, uh, groepjes mensen die zeggen: ik vind het eigenlijk wel tof dat het Google aandeel omhoog gaat.
56:01
Of ik vind het wel prettig, uh, als ik meer macht heb.
56:05
Die groepjes sluiten zich dan ook aan en ik denk dat je dus zal merken, en ik lees dat ook een beetje terug in de interviews van mensen die in Silicon Valley, in, de journalisten die in Silicon Valley interviews doen, is dat ze mensen ontmoeten die zeggen: nee, ik doe dit echt voor de kick van de uitvinding.
56:19
Ja. Ik vind het gewoon vette wiskunde, man. Ja. Robots bouwen is vet. Ja. Oké, dan heb je mensen die zeggen: ik wil de wereld een mooiere, uh, plek maken. Mijn moeder is blind, daarom maak ik een zelfrijdende auto.
56:28
Precies. Maar ook mensen die zeggen: ja, mijn droom is om, om vermogend te zijn en daarmee een, een grotere stempel te kunnen zetten op de wereld. Of dus het Westen versus China.
56:37
Als wij dit niet doen, dan worden de Chinezen de baas. Ik ben bezig om onze, een, een nation state stevig te houden, zeg maar. Ja. Dus het is een meer politieke belang. Ja.
56:45
En uiteindelijk, deze groepjes zwermen allemaal samen. In mijn ogen- Doen allemaal code commits. Ja, en ik, ik ben zelf niet zo van de, uh, uh, complotten van kleine groepjes.
56:56
Ik geloof dat het meer een soort emergente eigenschappen zijn van, van een soort, net als vogels met elkaar.
57:01
Als je naar een vlok met birds kijkt, zeg maar, met, uh, zo'n, zo'n zwerm met vogels boven het water en dan zegt: allemaal stoppen, wie is de baas?
57:09
Zeg maar, dan komt er niet één zo'n klein vogeltje naar voren van: ik was het, ik ben Kees. Ik heb al die tijd. Dat is gewoon gelul. [lacht] Ja. Hier, waar, waar-- take me to your leader. Ja. Er is geen leader, man. Ja.
57:19
Uh, i-, i-, goed. In een V-formatie is er trouwens wel een leader, maar niet in zo'n zwerm. [lacht] Helder, fijn. Fijn dat we dit even recht mogen stellen. Sorry hoor.
57:27
Uhm, dus wat ik denk is dat we, en dat kan ook slecht nieuws zijn, hè, want als er, uh,
57:32
zeg dat het zwermachtige dynamieken zijn, maar een emergente eigenschappen zijn van allianties die spontaan en ook bewust ontstaan tussen verschillende groepen die andere ideeën hebben over waarom ze het doen, maar wel met als eindconclusie: dus we gaan AI bouwen.
57:48
Ik ga, dus, uh, uh, een, uh, uh, Amodei die zegt: ja, ik ga het bouwen, want ik heb gewoon meer vertrouwen in mijn mensen om mij heen dan de mensen waar ik nu mee werk. Mhm.
57:58
Dus ik moet het nu gaan doen, ook al wil ik het niet, hè, is dan, is dan zijn verhaal. Maar je, je zou kunnen zeggen dat je met, uh,
58:08
20 verschillende narratieven over de ratio achter de reden dat jij aan het bouwen bent aan het grote AI project of de toren zoals, uh, de toren van Babel.
58:17
De Ba- de toren wordt gebouwd en de twin-, er zijn 20 groepen aan het bouwen aan die toren en alle 20 hebben ze een ander antwoord op de vraag: waarom bouw je de toren?
58:25
Ja, maar allemaal hebben ze gemeen dat ze racedynamieken aan hun, uh, aan hun beweging ten grondslag hebben liggen. Ja, jij bedoelt- Als ik niet, dan de rest.
58:34
Ik weet niet of ze dat allemaal hebben, hoor, want je zou kunnen zeggen, uhm, iemand die bijvoorbeeld zegt: ik ben met AI bezig als superwetenschapper, want ik wil iets genezen. Hun race is tegen, uh, lijden en pijn.
58:46
Ik wil niet zeggen dat ze daarmee de betere groep zijn, maar die hebben niet dat gevoel van, die hebben zoiets: er zijn heel veel mensen die nu overlijden aan ALS. Mhm. En hoe eerder ik dat oplos, hoe beter. Ja.
58:57
Dus laten we zeggen: het zijn allemaal race dynamieken. Ja, maar goed, ook Demis Hassabis is betrokken in die race dynamiek. Dus uiteindelijk- Uiteindelijk is iedereen betrokken in die race.
59:04
Ja, het, het drijft de keuzes die gemaakt worden. Fair. En als ik het, als ik het goed begrijp is dat ook de, de
59:11
soort van interpretatie van de paus dat ondanks dat je allemaal goedbedoelende mensen hebt, ze allemaal opgeslokt worden in, in die race dynamiek. Ja, je doet een monster bouwen uit engelen. Precies.
59:20
En, en, en dan is het dus heel belangrijk om die stap te z-, die, die, die, die, die, die, die conclusie te trekken of die, die, ja, die stelling te nemen over dat we aan iets bouwen waarvan we eigenlijk niet helemaal helder hebben wat nou eigenlijk ons plan is.
59:33
Dat is best wel een soort van chilling observatie. Nou, als jij, als, als je, even, even filmisch gezien Alexander Klöpping, Wietse Hage lopen over een bouwplaats waar letterlijk een toren gebouwd wordt.
59:46
Iedereen is druk aan het werk. Wij zijn, we hebben de luxe om daar tussendoor te lopen en een beetje te filosoferen over hoe of wat. En jij vraagt aan mij: hé, Wiets, wa-waarom, uh, bouwen ze die toren eigenlijk?
59:57
En dat ik zeg: ja, eerlijk, weet ik ook niet precies, man. En dat wij allemaal interviews gaan da- doen, daar allemaal verschillende verhalen krijgen. Ja, dat is deze podcast.
1:00:05
Ja, en dan, nou, d-d-dat ongeveer hoe het gaat. Ja. En dan zeggen wij: uh, ja, maar oké, maar is het niet goed om misschien, of Wietse zegt, laat ik het voor mezelf houden: hé, moeten we niet een klein beetje afremmen?
1:00:15
Dat we eerst even een beetje gaan nadenken wat we aan het doen zijn bijvoorbeeld. En dat iedereen zegt: ja, zou ik ook wel willen. Gewoon 90% antwoord met: ik zou het ook wel willen. Ja.
1:00:22
Elon Musk zelfs: ik heb op pauze gedrukt, vriend. Ik zou het ook wel willen. Ja. Maar goed, ik ga weer even verder met mijn stenen, want de toren moet af, want anders gaat mijn buurman de toren maken.
1:00:32
En dit is, ik bedoel, ergens is het natuurlijk, uh, wat ik een beetje hoor hoe jij het nu zegt, ik ben het met je eens, een beetje creepy. Mhm. Een beetje freaky.
1:00:40
Dat je op een gegeven moment, ik bedoel, wie dwingt ons nou om die toren te bouwen? [lacht] Hè, dat, dat gevoel krijg je een beetje.
1:00:48
En ik denk dus dat dat wel ook een beetje het vogeltje is in die zwerm die zegt: wie, wie runt deze zwerm? Dat het op een gegeven moment, uh, wij zijn het allemaal, uh, want zonder die vogels is er geen zwerm.
1:01:02
Uh, maar tegelijkertijd is het heel moeilijk om het individu daar dan nog in te vinden die nog keuzes kan maken. Wat wel hoopvol is, is dat de eerdere, uhm,
1:01:12
encyclical, ik hoop dat ik het goed uitspreek, die ten tijde van de industriële revolutie geschreven werd, die dus ook ging over: wat gebeurt er eigenlijk met kinderen nu?
1:01:21
Kinderarbeid, wat, er is- Ja, en baan, baanverlies en wat dat vervolgens betekent voor mensen hun waardigheid. Dus dit, dit, dit herhaalt zich. Dit, dit tijdschrift gaat al een tijdje mee.
1:01:31
En dit, uh, is niet het volgende artikel, maar het is een herhaling van zetten op een bepaalde manier. Het is, is in een soort van een trage geschiedenisgeschreven magazine. Ja. Komt niet zo vaak uit. Ja.
1:01:39
Maar als die uitkomt, dan- Ja, is wel een big deal...zou het wat kunnen doen. Ja. Wij hebben het er nu in ieder geval over, dus dat doet het dan. Maar ja.
1:01:46
Uhm.Dat de dat werd uiteindelijk dat eerdere stuk, uh, de basis voor heel veel.
1:01:52
Niet alleen maar discussie, maar ook beleidsstukken en wetgeving, uh, en, en hoe overheden met dingen omgingen om het een soort van te stutten ook in iets meer dan alleen maar: het voelt niet goed, hè, uh, dus, uh, het geeft een soort fundament.
1:02:05
Uhm, dat zou dit stuk ook kunnen doen, uh, denk ik. Ik, we, we leven alleen in 2026, dus, uhm, ja, je, als je dan zegt: waarom is mijn, waarom is wat ik schrijf waar? Dan gaat het ook een heel stuk over, uh,
1:02:21
hoe, wat is waarheid eigenlijk? Het is echt zo lekker. Ik ga helemaal los hierop. Als, uh, beetje filosofisch kijk je natuurlijk, maar het komt erop neer dat het uiteindelijk zo is dat de paus zegt:
1:02:32
ik heb de waarheid ook niet.
1:02:34
Het enige wat ik weet is dat een wereld waar we enkel optimaliseren voor efficiëntie en doorbreken van limieten en het wegnemen van limieten, een wereld is waar weinig overblijft voor en van de mens.
1:02:51
Het hele stuk kun je lezen [lacht] op de site van de paus. Het is oprecht, nee, ik zeg het oprecht, een aanrader. Ik, ge-, ik zeg het toch, het is een aanrader.
1:02:58
Ik had niet gedacht toen wij met deze podcast begonnen, Wietse, dat wij op dit moment zouden komen, maar het voelt wel als een, voelt wel als een mijlpaal. Ja, nee, hoe dan ook, is het een mijlpaal.
1:03:09
Wij bedanken onze sponsoren Rockstars en Samsung en wij danken Sam Hengeveld voor de edit. Pankrath voor de vormgeving.
1:03:16
Als je een lied, een, uh, een, een lezing wil van Wietse wou ik zeggen, die langer of korter is dan dit document van de paus, dan kun je ons mailen op lezing@aireport.email, uh, en dan, uh, komen we bij je langs.
1:03:29
En als je op de hoogte wil blijven van het laatste AI-nieuws en twee keer per week tips en tools wil ontvangen om het meeste uit AI te halen, abonneer je dan op onze nieuwsbrief via aireport.nl. Tot volgende week.
1:03:39
Tot volgende week. [muziek]