Latest / AI Report / Veo3 vult TikTok-feeds met AI-content + Sam Altman noemt social media misaligned AI + AI-nummer haalt 750k streams | AI Report
Transcript
- 0:00Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wietse Hagen. Ik ben Alexander Klöpping.
- 0:12Deze week hebben we het over de release van Google's Veo 3. Dat is het video- en audiogeneratiemodel van Google.
- 0:19Wat zoveel wil zeggen als: je voert een prompt in, vervolgens genereert Google hyperrealistische video en brengt daar ook nog eens audio bij.
- 0:27Ook dus in het Nederlands en in, sinds deze week ook in Nederland, uh, te krijgen.
- 0:32En het noopt ons tot een discussie over wat het gaat betekenen als alle tekst, video, audio die je kan consumeren gegenereerd kan zijn door AI en je het verschil eigenlijk niet meer ziet.
- 0:44Want dat is het pad waar we op zitten op dit moment. Wat betekent dat voor de wereld? Wat betekent het voor je TikTok-feed? Wat betekent het voor je Spotify-algoritme en hoe je naar video kijkt op tv?
- 0:53En hoe zouden we eigenlijk moeten willen dat het straks is? Met respect en eerbied voor de muzikant, de schrijver en de videomaker. Dat en meer deze week in AI Report. Veel plezier!
- 1:12[muziek] Wietse, we hebben nog één aflevering voor de zomervakantie, want dan gaan we er even tussenuit. Je bedoelt, er komt er nog één.
- 1:25Er komt, dus deze aflevering en dan is er nog één van volgende week en dan is ook het webinar, dat laat ik alvast even weten aan de luisteraar. Op donderdag 10 juli is het laatste webinar van voor de vakantie.
- 1:36Weer op ons vaste lunchmoment tussen twaalf en één. Uh, daarna zijn we dus er tussenuit, uh, en dan verschijnt de volgende aflevering weer op 28 augustus.
- 1:45De nieuwsbrief blijft gewoon verschijnen, twee keer in de week, dus als je daar geen abonnement op hebt, neem dat via AI Report.email en dan kun je ook meer informatie, uh, krijgen over het webinar.
- 1:55Laten we beginnen, uh, want er is weer genoeg om over te spreken. En, uhm, alles draait een beetje rondom de lancering van Veo 3 in Nederland.
- 2:04Even als je een geheugensteuntje nodig hebt: Veo 3 is een videomodel van Google met audio-ondersteuning. Dus je voert een prompt in en dan creëert dat ding acht seconden video met geluid.
- 2:13Het is heel realistische video, uh, en dat geluid is ook nog eens, uh, supergoed. En dat is nu dus ook bereikbaar voor Nederlandse gebruikers via de Gemini-app. Je hebt wel Google AI Pro nodig.
- 2:23Dat kost €30 per maand geloof ik. Ja, volgens mij wel. Uuuh, en de eerste maand is gratis. Kun je in ieder geval proberen. Uhm, heb je het geprobeerd in het Nederlands? Ja, ik had het al eerder. Het zat op Poe.com.
- 2:35Kon je er een beetje omheen fietsen. Je hebt een beetje valsgespeeld. Ja, dus en toen merkte ik al wel van, uhm, ik bedoel, daar was het toen heel prijzig.
- 2:41Ik ga ervan uit dat je nu, kan je onbeperkt genereren binnen dat model. Of niet onbeperkt. Ik ben nog niet tegen de grenzen aangelopen.
- 2:48Maar ik had wel, uhm, een beetje één op de vijf die ik goed vond, maar die waren dan ook wel heel goed. Dat ik dat een beetje met familie en vrienden ging delen om hun te laten zien van: dit is toch wel een partij bizar.
- 2:58Ja. En dan, dan heb ik bijvoorbeeld, [schraapt keel] kan ik alvast als tip geven zodat ik heel vaak zei, uh: veel details in gezicht, anders wordt het een soort van vlakkig, wazig AI-gezicht.
- 3:09Maar je kunt hun best, want ik zat voorbeelden van anderen te kijken. Denk ik: hoe krijg je dat nou voor mekaar? En dan zag ik in hun prompt dat er dus heel de tijd met all caps stond van: high skin realism bla bla bla.
- 3:19Om maar niet dat een soort van dromerige blurry AI-effect eroverheen te hebben. Ja, ja. Dit is dus, uh, de, de, de, op, op TikTok is het gewoon merkbaar dat deze video-algoritmes nu zo goed aan het worden zijn.
- 3:33Uhm, de Kling, het, dat is een Chinees videomodel. Ja. En Veo 3 zie je nu gewoon in de feed voorbijkomen. Tenminste, in mijn algoritme. Ik kan, ik kan niet spreken voor de gemiddelde TikTok-gebruiker. Wat zie je dan?
- 3:46Nou ja, gewoon, uh, video's van rare shit die echt gemaakt zijn om de aandacht te grijpen, zoals dat op, in TikTok zit je natuurlijk in een context van dat iedere milliseconde telt, dus iedere fractie van een seconde dat je wacht met doorscrollen naar de volgende, heeft het algoritme weer iets geleerd over jouw, uh, ziel en jouw voorkeuren.
- 4:10En die makers van die video's.
- 4:12Ik heb het idee dat zij gewoon blijven genereren en op een gegeven moment is er dan iets wat, ja, blijkbaar in die eerste seconde mensen blijven hangen en dan, dan, het is, ja, het is geëngineerd om engagement op te leveren en het, het komt om die reden denk ik in mijn TikTok-feed.
- 4:28Maar het is juist niet realistisch dus. Het is heel vreemd wat je ziet. Ja, maar eerst denk je dus, het, er is wel echt soort van verwarring. Ook omdat je in TikTok zo, uh, je weet natuurlijk niet wat je gaat krijgen.
- 4:39Je bent zo, uh, bezig met dat het v-van de ene video naar de andere video flitst. En die video's zijn realistisch genoeg om het, om, om niet heel bewust te denken: het is een AI-video die ik nu ga kijken.
- 4:50Je loopt langs een boekenkast en al die kaften en tussen die kaften staan stiekem nepboeken. Ja. Maar toch, omdat ze toch gewoon in diezelfde rij staan en best wel overtuigend is. Ja.
- 4:58Moet je, doe je even een soort second take of zo. Ja. Wat ik dus ook kreeg, en dit vond ik echt opvallend, teringracistische video's die er doorheen komen. Dus er is een soort van
- 5:09dingetje nu waarbij er video's, uh, in mijn feed terechtkomen waar, nou ja, politiegew-geweld verheerlijkt wordt. Mensen, zwarte mensen worden afgebeeld als apen.
- 5:20Aziatische mensen worden geassocieerd met het eten van huisdieren. Video's over concentratiekampen.
- 5:26Allemaal echt verschrikkelijke shit die op een of andere manier niet, uh, eruit wordt gehaald door TikToks moderatie, uh, systeem. Want als je dan gaat kijken naar, ik, ik, ik zie, ik zie dat dan.
- 5:37Het heeft een soort van shockeffect. Ik blijf kijken, waardoor dat TikTok-algoritme denkt dat ik dat leuk vind en ik krijg er meer van.
- 5:43Dus ik klik door op die accounts, want ik ben ook wel een soort van: wat is dit nou weer? En dan zie je gewoon miljoenen views per, per video met dit soort, soort van racistische, ja, tropes heet het in het Engels.
- 5:55En als je dan in de comments gaat kijken is ook direct duidelijk: iedereen die in die comments reageert, uhm,Weet dondersgoed dat het, uh, dat, zeg maar, racisme is het punt. Dat zie je uit de comments.
- 6:09En, uhm, ja, dat levert engagement op. Zo cie-, even heel cynisch gezegd. En die, op een of andere manier is dat in die moderatie van TikTok, ja, uh, hij pikt het er niet uit. Misschien ook omdat er,
- 6:25er wordt de hele tijd gebruik gemaakt van metaforen, racistische metaforen. En misschien dat dat ding dat gewoon nog onvoldoende oppikt, uh, uh, uhm, dat ie zich realiseert: oh, dit interpreteren mensen als, uh.
- 6:39Ja, maar je zegt net dat ding en je bedoelt eigenlijk het modererende algoritme. Ja, ik ga ervan uit dat dat zo werkt. Geen mensen zijn. Dat denk ik. Ja, ja, ja, ja.
- 6:46En dat daar echt wel wat in zit om dit soort dingen op te pakken. Ja. Maar dit gaat er op een of andere manier omheen. Nou, dat is in ieder geval nu aan de hand.
- 6:52Wat ook gebeurt is dat ik naar virtuele influencers zit te kijken die daadwerkelijk- Staat erbij of dat voel jij? Nee, dat voel ik. Ik voel dat het Veo 3 is.
- 7:01Dus je, je, je, en, en na een ti-, ook omdat de video's die in mijn TikTok feed voorbijkomen, die met AI gegenereerd zijn, wat dus voor mijn gevoel een steeds groter deel is van mijn feed, zijn ook echt heel leuk, want ze zijn er doorheen gekomen.
- 7:16Ze zijn door die algoritmische ballotage, uh, heengekomen van engagement. Dus de video's die ik zie, die met Veo 3 gegenereerd, zijn ook allemaal of shocking of heel grappig. En die, die AI, uh, influencer video's.
- 7:31Dit is, ja, dit is een heel, dit is een heel genre van mensen die hyperrealistisch eruitzien, die zich dus gelijk gedragen als influencers.
- 7:39Het is ook helemaal gefilmd zoals een influencer het zou filmen met, met de camera zoals die zou zijn en met, met, met een influencer die praat als een influencer, die allemaal gekke shit doet.
- 7:48Dus ik zat te kijken naar bijvoorbeeld iemand die [kucht] je ziet hem vliegen boven een land, gewoon ver in de lucht.
- 7:54Een gast, uh, met allemaal ballonnen, uh, wordt ie in de lucht, uh, getild en dan zegt die gast: ik ben bezig om naar Noord-Korea te vliegen in een grasmaaier met ballonnen eraan en dan zie je hem boven [lacht].
- 8:09En dan het volgende, volgende shot is van een influencer die zegt, uh, uh: ik ga vandaag koken met plutonium. En dan zie je zo'n pan op het podium of op, op het gasfornuis staan wat groen, uh, licht.
- 8:20Of een gast die zegt: ik ga nu, uh, in deze brandende vulkaan springen. Let op: één, twee en dan zie je hem rennen en dan zie je hem in die vulk-, in die vulkaan springen.
- 8:30Maar denk je dat dit een, dat, dat deze, want ik heb, ik, ik zie dit soort dingen ook wel langskomen. Niet op TikTok, maar meer op YouTube, wat mijn platform is waar ik veel video kijk. Ja.
- 8:38En ik vind het nu, het heeft nog een soort novelty, hè, dus dat heb ik het over de leuke dingen. Een soort luchtige dingen, uh, als in koken met plutonium. Ja. Als in: het is overduidelijk fake. Het is allemaal.
- 8:48En ik merk dan van: dit zou iemand anders niet de moeite voor nemen voor deze videoalgoritme als Veo 3 om helemaal een pan met ledlampjes erin te gaan neerzetten. Nee. Dat doe je dan niet. Nee.
- 8:59En nu kan je met een beetje tekst, uh, zover komen dat je iets grappigs, uh, te pakken hebt. Ja. Uh, uhm, maar heb je niet het idee dat het ook een soort van, denk je dat dit zijn waarde behoudt?
- 9:08Want eigenlijk, ik zat te denken aan de hand van, eerst een andere vraag: hoeveel procent van jouw feed is nu, uh, ja, generated, zeg maar? Ja, ik zou nu zeggen, en dit is gewoon echt uit m'n, uh, van mijn gevoel.
- 9:21Ik zou zeggen 2%, 3%, zoiets. Oké. Maar goed, je kunt je natuurlijk voorstellen dat dat langzaam omhoog gaat en dat we uiteindelijk met 98%... Wel zeker nul iets. [lacht] Oké.
- 9:31En ik bedoel, wij hebben het hier al langer over en het kan iedereen aan zien komen. Daar hoef je niet, uh, diep in deze materie te zitten. Dat als je hele goede videoalgoritmes krijgt en dan mensen die met AI zelfs.
- 9:41Ik bedoel, dat hele verhaal met het koken met plutonium kan ook weer als script bedacht zijn door een- Ja. Hè, dat je gewoon aan een bot vraagt. Maak een engaging video.
- 9:49Ja, wat is het meeste engaging wat je zou kunnen verzinnen? Koken met plutonium, want dan heb je dus soort van de angst plus het eten plus alle, nou ja, een beetje een gemiddelde Justin Bieber clip, zeg maar.
- 9:58Die bevat ook alle kleuren die kinderen leuk vinden, zodat je een soort, uh, ja, lolly, lolly hebt als videoclip, zeg maar. Maar
- 10:05ik zit te denken: betekent dit nu dat langzaam die feeds allemaal in een soort pie chart, hè, van 2% synthetic naar 98% synthetic over een jaar of over een half jaar gaan, waardoor dus ook nu het individuen en, nou ja, misschien nog marketing agencies zijn die daar als groep mensen of als individuen geld verdienen op TikTok en alle andere social media platforms.
- 10:27Ja, omdat je uiteindelijk betaald krijgt voor viral video's. Voor mensen, de tiktokkers is het hun werk, zeg maar, die influencers. Die krijgen geld van TikTok als ze groot bereik hebben.
- 10:35Maar uiteindelijk kan je z-straks een soort van content farms hebben waar gewoon alleen maar, nou ja, een paar AI agents met twi-twee puppet masters de hele dag duizenden video's uitpoepen en A/B testen op, uh, TikTok.
- 10:47Ja, ook omdat er op TikTok geen nadeel is van 1.000 video's per minuut erop zetten. Nee, je wordt er niet voor gestraft. Nee. Nee, want ik denk in dat opzicht, uh, want zij doen niet niks met verified badges of zo.
- 10:57Dat ze zeggen: joh, dit is een echt mens die dit maakt. Waardoor je misschien een knopje kan krijgen met only real people of zo. Ik zit maar even.
- 11:02Er staat bij AI gegenereerd beeld kun je zo'n tag in beeld laten zetten zoals dat ook, bij het uploaden kun je dat aanvinken, uh, zoals ook product placement een tag is en dan staat er betaalde
- 11:12promotie, staat dan linksonder in beeld. En ze hebben ook zo'n tag voor AI gegenereerde content bevat het. Ja. Dus dat doen ze. Nee, maar ik bedoel, precies, maar dat moet je dan zelf doen. Of dat doen zij.
- 11:21Ja, dat moet de maker doen. Oké, dan kan je dan nog misschien de een en ander aan afdwingen en detecteren. Ja. Maar ik kan, ik, ik zit me gewoon hardop af te vragen, uhm, is het nu zo?
- 11:31Is dit een soort van tekenen van een nieuwe tijd waarin het merendeel van wat je op een scherm consumeert gegenereerd is door, nou ja, noem het, uh, AI troll farms in de negatieve zin. Ja.
- 11:41En positieve zin voor sommige luchtige content. En, uh, of, en of is dit iets wat nu veel aandacht krijgt omdat het allemaal- Ja, omdat de gimmick eens een nieuwe is.
- 11:52Nou, ik denk dus niet dat het, dat dit een gimmick is. Want elk, en kijk, op een bepaalde manier is TikTok een opeenstapeling van gimmicks. Dit is, je hebt, zeg maar, je hebt twee redenen om naar een video te kijken.
- 12:03Het is of noveltyOf het is herkenbaarheid. Dat zijn de twee smaken volgens mij die je, die je over het geheel kan doen.
- 12:12En novelty is dus, uh, die AI-influencers die g-, met die soort van, uh, het is een kruising van AI inf-, AI, AI, f-, het is een kruising van influencers die, dat is een categorie influencers die van die challenges doen.
- 12:25Hoe heet dit? Ja, het is gewoon een soort van influencers die challenges doen. Dat is gewoon een heel genre.
- 12:31En dat gekruist met dingen die niet echt kunnen, zoals met ballonnen boven Noord-Korea vliegen in een grasmaaier of in, met plutonium koken.
- 12:39Dat is de, de kruising van die twee dingen, dus novelty en het ding wat je herkent, maakt dat het dan, uh, eventjes heel leuk is en dat je ook eventjes, met nadruk op eventjes, die video, dat soort video heel vaak wil zien in een periode van een paar dagen.
- 12:54Net zoals TikTokkers een bepaald muziekje dan gebruiken en dat, dat wordt dan een meme.
- 12:59En dan doet iedereen, doet een bepaalde, nou weet ik veel, handeling op dat muziekje en dan doet iedereen elkaar na en dat is dan de grap.
- 13:06De, de grap is dat het, dat je met z'n allen ziet: dit is even leuk en daarna gaan we weer door met het volgende. Dus het is inherent aan dit platform dat je gimmicks hebt de hele tijd. En, uhm,
- 13:21het is natuurlijk, uh, het is heel, je, je kan de hele tijd, uh, kijken naar AI-gegenereerd beeld wat echt nieuw is.
- 13:30En de reden waarom ik denk dat dit nieuw blijft, is omdat ik nu al toch wel een tijdje naar deze AI-video's zit te kijken en merk dat ik echt legit geëntertaind ben, uh, de hele tijd en niet heel erg bezig ben met: oh, dit is AI.
- 13:43Nee, het is: wat hebben ze gemaakt met AI? Zoals ik TikTok consumeer als een mens de video heeft gemaakt. Ja, precies. Ik bedoel, dat, dat kan natuurlijk iets zeggen over
- 13:52de mens in de algemene zin en hoe weinig, uh, uh, hoe laag de lat eigenlijk ligt voor entertainment, hè. Nou ja. En ik bedoel, jij bent niet de enige. Er, er zijn heel veel mensen. Ik vind dit geen lage lat.
- 14:03Waarom is dit een lage lat? Nou ja, ik zat meer te denken: de lage lat voor-- ik bedoel, je hebt, uhm, TikTok als fenomeen- Ja...wat op zichzelf al de lat in mijn ogen niet heel hoog legt.
- 14:14Het is kort en het is een soort clickbaity, attentionbaity content met daar tussendoor sporadisch echt wel interessante dingen.
- 14:21Als in: mensen proberen in die acht seconden dat jij hun aandacht, dat jij aandacht aan ze geeft, soms iets kunstigs te doen of zo. Mhmm. Maar goed, voor de rest is het, voelt het voor mij heel erg als snacken.
- 14:29Maar goed, ik eet ook wel eens chocola, dus het, het is- Nee, het is geen, uh, Hitchcock wat je zegt. En, uhm, ik bedoel, ik zit gewoon te denken:
- 14:37er, er zijn al heel veel vragen te stellen bij TikTok als medium, als we het even een medium noemen. Dus short form video, uh, highly addictive met een algoritme erachter wat traint op jou, een soort specifiek ding. Ja.
- 14:47En- Misaligned AI, als je het Sam Altman vraagt. Precies. Dus da-, het was niet zo dat in mijn hoofd wist van: ah, nu door al die AI generated stuff gaat TikTok verloren of zo.
- 14:58In mijn hoofd is het van: nee, TikTok was, had ik persoonlijk al heel veel vraagtekens bij wat dat voor net good for humanity is, zeg maar. Los van de leuke dansjes en ik zie ook echt wel dat er een hoop lol is daar.
- 15:09En we mogen ook lol hebben, hoor. Mhmm. Ik ben niet zo streng, maar ik heb ook het idee dat nu,
- 15:15uh, ja, ik, voor mij, er zat ook iets, wat merk ik nu in dit gesprek bij mij dat ik dacht: nou, voor, het was i-, het was wel leuk voor TikTok dat dan iedereen met een smartphone daar een soort van gedemocratiseerd, uh, tussen aanhalingstekens, uh, content op kon maken- Ja...en viraal kon gaan met een dansje of een dingetje.
- 15:34Ja. En dat het dan ook nog een beetje, uh, regionaal is allemaal, hè, want TikToks per land zijn een beetje anders aan de hand van wat daar dan viral gaat.
- 15:41Ik vond het ook wel een soort van, de, de, de meest positieve lezing die ik kan bedenken van TikTok in zijn mooiste vorm was: oh, er gaat iets viraal waardoor we allemaal in een klein dorpje leven en iedereen elkaars dansje na gaat doen en kijk eens wat leuk.
- 15:53Ja, een soort global village-idee. Ja, dat wa-, ik zeg het met moeite nu, maar, maar- Maar dat was ooit, ooit was dit zo.
- 15:59Zeker toen in de tijd van Musical.ly en zo had dat iets meer wholesomeness, om dat woord even te gebruiken, dan het inmiddels heeft. Ja.
- 16:05Alleen het voelt voor mij nu dat, uh, het wel de, de, de verslavende en, en in mijn ogen toch ook wel soort van snackige, snoepige kwaliteit van, uh, of ja, kwaliteit is een beetje gek woord, maar karaktereigenschap van TikTok nu niet minder wordt door al deze generated.
- 16:25Omdat je eigenlijk het algoritme wat, uh, selecteert. Mhmm. Daar koppel je een algoritme aan wat genereert. Ja. Hè, en het was al heel erg dat influencers donders goed doorhadden wat werkte, hè, dus het is niet nieuw.
- 16:37We gedroegen ons al naar het algoritme. Ja, maar dit is nog een soort hyper state daarvan. Maar dit is waarom, laten we er induiken.
- 16:45Want Sam Altman noemt dus social media in, uh, een blogpost gezellig als een voorbeeld van misaligned AI. En ik vind het een heel grappige, grappige manier om naar social media te kijken.
- 16:57Want misalign-alignment gaat over, uh: gedraagt de AI zich naar menselijke waarden? Gaat, is een, als een, e-een AI die aligned is, gaat je niet helpen met het overvallen van een bank als je erom vraagt.
- 17:10Uhm, uhm, nou, ik, Anthropic, ik, ik was dit draaiboek aan het maken en het ging over het ma-, het genereren van die, uh, racistische video's waar ik het net over had.
- 17:21En dan vraag ik hem om een nieuwsartikel samen te vatten en dan weigert hij om dat nieuws samen, artikel samen te vatten omdat het over racistische dingen gaat. Ja. En daar ga ik niet aan beginnen.
- 17:28Dat is alignment in de praktijk en dus soms dat het te ver gaat. Want ik vind dat hij alsnog dat stuk moet samenvatten. Maar oké.
- 17:36Sam Altman zegt: als het over misalignment gaat, dan, dan gaat dat vaak over, uh, nou ja, uh, hacken, AI die op eigen houtje, uhm, uh, ja, de soort van regels overtreedt die wij als mensen wel aanhouden meestal, of in ieder geval waarvan we willen dat de meeste mensen zich aan die regels houden.
- 17:56En social media is over het algemeen niet, valt niet in die categorie. En ik vind het een briljante reframing van wat Sam Altman heeft gedaan door Sam, door social media misaligned AI te noemen.
- 18:06Want hij zegtD-dit is een vorm van, uhm, uh, het, uh, wat, wat, wat de AI, de AI heeft de instructie gekregen om eigenlijk je lange termijn-, uh, beloningssysteem te laten overrulen door de korte termijn.
- 18:22Dus op lange termijn ben je niet blij door social media en op korte termijn ben je blijer, want je hebt even een dopamine shot en iedereen herkent dat, die, die TikTok er even bij wil pakken en dan erin blijft hangen.
- 18:35Dus dat, dat, het is het, het hacken van je hersenen, dat is eigenlijk wat hij zegt. En het algoritme is zo ingesteld en het werkt. En, uh, ja, wat jij zegt over de,
- 18:47uh, de, de, als, als er dan algoritmes zijn die die beelden gaan produceren en de algoritmes er zijn die die beelden kiezen en die twee kunnen gaan samenwerken, dan heb je helemaal een shitshow van hier, van hier tot Tokio.
- 19:00Ik denk ook dat wat,
- 19:02wat het zo sterk maakt, in ieder geval in, in het soort reframen van social media als misaligned AI, is omdat die AI, wat vroeger dan algoritme heette, hè, in de, in de volksmond ook wel, omdat het dan ging over de Meta of Facebook algoritme of het TikTok algoritme.
- 19:17Ja, mijn algoritme, mijn feed, mijn for you feed. Het is allemaal hetzelfde.
- 19:20Maar omdat die uiting daar was, de feed en niet-- kijk, als je nu een, uh, met een taalmodel gaat praten, stel dat je voor het allereerst van je leven met een taalmodel gaat praten en jij zegt: hoi, hoe is het?
- 19:31En dat ding zegt terug: zo, dat is een domme vraag, zeg, gaan we zo beginnen? Dat is het eerste wat ie zegt, hè, dat jij denkt: wow, wat gebeurt hier?
- 19:38Omdat, uh, eigenlijk er uit onderzoek gebleken is dat jou beledigen de hele tijd, dat werkt. Dan ga je aan, hè, dan word je geklikt. Dan ga je lekker terug typen.
- 19:45Want het hele doel van die AI is op de achtergrond: zorg dat mensen zo lang mogelijk die tab openhouden. En blijven praten. Engagement verhogen. Ja, en, en, en zelfs een soort van rage bait, hè.
- 19:56Dus een soort van dat jij boos wordt en gepakt wordt door je woede. Dat werkt goed. Dus iedere chatbot begint met jou beledigen en, en tegen je zeggen: overtuig mij maar met je domme kop, of zo. Echt heel naar.
- 20:05En dan, dan zouden wij zeggen: wow, wow, wow, wow, hoe is deze AI, hè, wat dan ineens zo heet, ingesteld?
- 20:12Omdat het algoritme zich uit als een soort pseudo-mens naar jou, waardoor het veel logischer is dat je zegt: kan die wat vriendelijker ingesteld worden of kan ik hem zelf ergens aanpassen?
- 20:23Het is dan heel helder voor je wat er gebeurt als iets ingesteld staat op een manier die niet prettig is.
- 20:28Maar als die AI in de vorm van een algoritme zich uit als een, de keuze in video's die jij voorgeschoteld krijgt, is veel moeilijk, moeilijker om te begrijpen- Ja...dat er met jou gecommuniceerd wordt in feedvorm. Mhmm.
- 20:40En ik denk dat tot, tot zo'n metafoor waarin Sam Altman ineens zegt: maar al die dingen waren toch ook al die tijd al AI? Die hebben toch ook eigenlijk een soort system prompt?
- 20:49Die hebben toch ook eigenlijk een soort opdracht?
- 20:52En dat we onze intuïtie voor de mensen die al wel met taalmodellen veel interacteren, die we daar hebben van: ja, inderdaad, misaligned AI is weird, want dan gaat hij me g-, slechte tips geven, naar tegen doen, et cetera.
- 21:02Mhmm. En je weet zelfs hoe je zelf een beetje een AI kan alignen, een beetje alignen tussen aanhalingstekens, namelijk je prompt aanpassen, sturing aan geven.
- 21:11Die controle heb je nooit zo erg gevoeld over jouw TikTok/YouTube.
- 21:15Jij misschien wel, omdat je denkt: ik ga vlug voorbij allemaal troep scrollen in de hoop dat ik dan blijf hangen op goede dingen en dan manipuleer ik op afstand het TikTok algoritme.
- 21:23Ik denk dat iedereen dit op een bepaalde manier doet.
- 21:25Dat je het idee hebt dat je op die manier je algoritme een beetje kan bijschaven, maar er zit altijd, dit is een soort van snel, snel denkend brein en een kort denkend brein.
- 21:34Prima dat dit af en toe ge-ge-gebeurt met het langzaam denkende brein, maar meestal zit je gewoon in het snel denkende brein.
- 21:41Maar moet je je voorstellen dat je in TikTok naar settings kon gaan waar jouw system prompt staat, die ook nog eens pu-, dus ten eerste zie je dan- Ja, dat zou behoorlijk awkward zijn.
- 21:48Ja, dan zie je ten eerste wat hij gevormd heeft aan de hand van jou, hè, want je hebt hem dus ingevuld, die system prompt, zonder te typen. Juist. Maar door te sliden. Stap één: je, wauw, hier staat een prompt, zeg maar.
- 21:57[lacht] Ja, dit is echt belangrijk om te beseffen. Ja. Dat er is over jou een system prompt geschreven. Absoluut. Je hebt er geen toegang tot. Ja. En hij verandert de hele tijd.
- 22:05Maar er is een Chinees bedrijf wat heeft besloten wat jou in de ziel raakt. Ja. En die zin mag jij niet zien. Precies. En dat, en dit wisten we al, maar hadden we, we hadden nooit zo'n mooie metafoor als system prompt.
- 22:17Ja. Voor de mensen die dat [lacht] begrijpen in hun taalmodel, van: uh, in YouTube staat ergens ook een system prompt. Ja. Zeg maar in, in het midden, in Spotify is ook ergens een system prompt van jou, zeg maar.
- 22:28Ja, en misschien is het ook hiervoor, dat je, we zijn gewend dat Discover Weekly op Spotify muziek voor je uitkiest. We zijn gewend dat YouTube een for you page heeft op de homepage.
- 22:38Uhm, maar we weten pas sinds taalmodellen dat er ook woorden aangegeven kunnen worden.
- 22:43Kijk, bij Discover Weekly is het gewoon waarschijnlijk een tabel met cijfertjes over, nou ja, hij heeft een beetje geleerd van dit, van dit.
- 22:49Even voor de nerds die luisteren nu, die denken: huh, nee joh, er is helemaal geen system prompt in TikTok.
- 22:54Wij gaan heel ver met die metafoor, maar het is prima te bouwen om te zeggen: kan jij een tekstuele representatie maken- Precies...van de voorkeuren van de heer Klupping in TikTok? Precies. Natuurlijk.
- 23:03Als TikTok dit zou willen, zou dit- Kunnen ze even vibe coden. Precies. Ja. [lacht] Ja. Dat is niet zo spannend, hoor. Ja, maar dan zouden ze dat in tekst kunnen weergeven.
- 23:10En de reden, de, de, de reden om het niet te doen en ook om gebruikers niet de mogelijkheid te geven om het aan te passen, is dat het gewoon waarschijnlijk de hele mirage die het nu is, de for you feed, namelijk dat het iets is wat bijna magisch op je scherm verschijnt.
- 23:25Uhm, ja, wat het gevoel geeft dat je echt thuis bent. Dat je, als je de TikTok app opent: nu ga ik me even achterover leunen en helemaal me laven aan de, aan het vermaak.
- 23:36Ik denk dat het opeens heel ongemakkelijk wordt als je weet, uh, ja, wat er in de machinekamer eigenlijk gefabriceerd wordt voor je.
- 23:44Maar zit niet in, uh, misschien is het mega-naïef, hoor, maar zou, zou dit niet gewoon bij wet wel moeten kunnen? Ja. Want moeten we niet ook de regionale system prompt op zijn minst kunnen zien?
- 23:55Want laten we nou niet doen alsof alle landen dezelfde system prompt hebben. Dat is ook logisch, hè. Dat is niet eens negatief of complot wat ik nu zeg. Mhmm. Volgens mij moet je je aan andere wetten houden.
- 24:03Cultuurverschillen.
- 24:05Ze hebben in China op een gegeven moment gewoon besloten, een paar jaar geleden: die dopaminecultuur die aan het ontstaan is, dat gaan wij niet doen in ChinaGewoon al die apps die het dopaminesysteem proberen te hacken, die zijn verboden.
- 24:18Dat hebben ze gewoon landsbreed besloten. Dat zouden wij in Europa ook kunnen en moeten besluiten. Ja, en wij zitten nu inmiddels VO3 generated, uh. Maar dit is en daarom. Ja, precies.
- 24:30En ik denk ook ja, laten we erin gaan. Want hoe, hoe erg gaat dit, gaat dit worden? Want het is natuurlijk de, ja, het is nu 2% dan in mijn feed, maar God weet wat het bij een ander is. Misschien dat er al mensen zijn.
- 24:42Weet je, ik, al, al meer dan een jaar zijn de meest gelezen artikelen op Facebook, uh, voor een lange tijd was dit waar van die Shrimp Jezus plaatjes.
- 24:53Ik weet niet of je deze meme kent, maar dat zijn allerlei stilstaande plaatjes van Jezus, samengesteld uit shrimp. Hoe noem je dit? Garnalen. Garnalen Jezus [lacht]. Ja.
- 25:07En als je dit nog nooit gezien hebt, het is precies hoe je het in je hoofd nu hebt, het plaatje. En dat ging heel erg hard op Facebook. Zo hard dat het de meest, uh, bekeken posts ter wereld, uh, waren.
- 25:21Shrimp Jezus, je houdt het niet voor mogelijk, maar dat is wat het meest gedeeld was. En stiekem is dus in sommige funneltjes is dit al zo dat het, dat het, ja, alom vertegenwoordigd is om naar AI slop te kijken.
- 25:37En, uhm, ja, nu VO3 uitgekomen, daar ook nog audio bij is gekomen, is de barrier to entry om ook zelf dingen te gaan maken is weer een stuk lager geworden. Uhm, en
- 25:52er is al, is, is heel groot belang om, om met weinig middelen engaging video te maken die je snel kan doortesten.
- 26:00Want laten we wel wezen, als jij een YouTuber bent en je gaat hier ergens op een brug staan om een filmpje op te nemen, dan kan jij misschien, uh, wel denken: ik, inmiddels snap ik hoe TikTok werkt.
- 26:11Ik ga een filmpje opnemen met een goede hoek aan het begin en dan ga ik, weet je, mensen in die eerste zin een beetje shockeren zodat ze blijven hangen.
- 26:17En dan, uh, ga ik weer iets geks doen zoals MrBeast engagement editing doet. Gewoon werkelijk geen shot duurt langer dan seconde, omdat ze de hele tijd bezig zijn om je aandacht er, erbij te houden.
- 26:28Maar dat zijn mensen die geprobeerd hebben de lessen te inte, te, te, ja, te internaliseren van het algoritme wat bepaalt wat de eyeballs geeft.
- 26:39Ja, ze draaien een soort van algoritme op een menselijk substraat en proberen daar een soort algoritmisch te handelen als influencer.
- 26:45En dat is natuurlijk gemankeerd, want als mens doe je maar een interpretatie, uhm, dus daar gaat al, weet je, dat is een soort van abstractielaag al. En daarnaast ben je gewoon gebonden aan de, het element tijd.
- 26:58Je kan maar x video's per dag opnemen op een brug waarbij je een hoek wel 20 keer opnieuw kan opnemen. Maar ja, het blijft, uh, de beperkte, de tijd blijft, blijft beperkt.
- 27:08Nou, als je dan opeens, als je een algoritme hebt wat gewoon maar één ding wil en dat is zoveel mogelijk engagement in zijn, in zijn misalign prompt.
- 27:15En je moet als YouTuber op een brug die 20 video's per dag kan opnemen concurreren met een of andere farm in, in Amerika die 2.000 video's per uur aan het uitscheiten is, dat algoritme ingooit. Succes met daarmee.
- 27:29Ja, en dan er nog vanuit gaan, ervan uitgaan dat als je nu zou zeggen als je een soort probeert een duidelijke lijn te trekken tussen het algoritme cureert, de mens creëert.
- 27:40Dus het TikTok algoritme cureert menselijke content. Laten we ervan uitgaan dat dat even zo is voor dit verhaal. Dat is dus al niet meer zo, maar goed. Dus, en die curatie zorgt al stiekem voor creatie.
- 27:52Want mensen die creëren beginnen door te krijgen hoe je moet, gecureerd moet worden. Dus het was nooit schoon, zeg maar.
- 27:59Dus de content was eigenlijk al, was al niet heel sec gescheiden van het curatieproces, was jouw punt toen je zei dat mensen zich eigenlijk al stiekem aan het algoritme aan het houden waren.
- 28:09Nu gaat eigenlijk de intelligentie of de rekenkracht achter het cureren gaat ook creëren, hè, in de versie in eerste instantie in scripts schrijven voor mensen om uit te voeren, waardoor ze een soort toneelstuk gaan spelen als een acteur met een door AI geschreven script.
- 28:23Daar waren we waarschijnlijk ook al. Waarschijnlijk waren het merendeel van de menselijke concepten op TikTok al AI gegenereerde concepten.
- 28:29En dan op een gegeven moment is het: kunnen we dan niet net zo goed die hele influencer generaten, waardoor dus het curatie- en creatieproces eigenlijk één worden? Dan zitten wij hier nog te filosoferen over click farms.
- 28:40Waarom zou TikTok die click farms er niet tussenuit optimaliseren? Dat ze het zelf doen bedoel je? Tuurlijk.
- 28:45Uiteindelijk kan je dan net zo goed zeggen: we hebben toch die datacenters staan die de hele dag staan te rekenen op curatie, laat ze ook maar rekenen op kee-, uh, creatie en heb je een soort closed loop. Ja, ja.
- 28:56Ja, en je ziet het ze dus ook doen in, uh, je ziet het ze zelf al doen in hun advertentietooling. Dus ze hebben een soort van, Google heeft AdWords, uh, Meta heeft Business Suite.
- 29:07Ze hebben, al die grote techbedrijven hebben een soort van advertentiewebsite waar als jij een adverteerder bent, kun je je reclame daarop aanmaken.
- 29:15En lange tijd was het dus het uploaden van een filmpje of dat je een plaatje uploadde als een banner, uh, als we het over iets langer terug hebben.
- 29:23Maar die, die assets, zoals dat dan heet, die, die marketingmaterialen, die moest je zelf maken. Nou, al heel snel kwamen er allerlei tooltjes die dat met AI gingen maken.
- 29:32Dus dan kon je met AI een bannertje maken of met AI een, een, weet ik veel, een titeltje of een muziekje maken voor.
- 29:39En, uh, langzaam maar zeker, uh, kruipt dat allemaal in die advertentietooling, want daar hebben ze dat het eerste, want daar wordt het geld verdiend.
- 29:47Dus dat is een soort van kanarie in de koolmijn, zou je kunnen zeggen.
- 29:51En wat YouTube heeft gelanceerd is een, een hele reeks aan AI influencers die je dus als adverteerderKan inzetten op TikTok om voor jou reclame te maken.
- 30:03Dus wat je dan kan doen is dan kun je een script, uhm, uh, st-, uh, sturen aan dat ding. Of je zegt gewoon waar het ongeveer over moet gaan.
- 30:10Of je uploadt een plaatje van het product wat jij hebt en dan genereert dat ding video van een, van een in-, van een AI influencer die jouw product vasthoudt en dan over dat product aan het praten is.
- 30:23En dan heeft het allerlei voordelen dat een AI influencer is in plaats van een echte influencer. Want je moet je voorstellen als je een echte influencer wil inhuren als bedrijf, dat is echt een kutwerk.
- 30:31Dan moet je naar een influencer agency gaan. Daar moet je een contract mee afsluiten. Die influencer moet dan op bepaalde, uh, die moet zich aan afspraken houden over hoe ze dan over het product praten.
- 30:42Er gaat van alles mis. Nou, helemaal gedoe om dat met mensen te doen.
- 30:46Terwijl een AI influencer die doet keurig wat je zegt en spreekt alle talen ter wereld, dus dat, je campagne is gelijk op schaal internationaal en je kan zoveel video's genereren dat je kan, dat je effectief kan testen met betaald bereik op TikTok.
- 31:01En jij zegt nog je testen, maar dat is natuurlijk prima allemaal geautomatiseerd, hè. Ik bedoel, waarom moet ik dat testen? Right.
- 31:06Dus waar je, waar je naartoe gaat is dat je gewoon zegt: dit is het product, uuuh, kijk maar even tegen TikTok, dit is het product wat ik verkoop.
- 31:14Kijk maar welke influencer erbij hoort, welke kleur haar erbij past, hoe lang de video moet zijn, of het op locatie moet zijn, wat voor camera er gebruikt moet worden.
- 31:21Ja, ik, waarschijnlijk binnen nu en een jaar zijn we bij een situatie waar dat allemaal op schaal, uh, gemaakt wordt voor je, dan automatisch getest wordt en de video's die jij als gebruiker te zien krijgt niet alleen, uhm, aan jou aangepast zijn qua haarkleur, wat dan ook voor jou werkt, uhm, maar ook waarbij het algoritme al getest heeft, uh, welke video's voor de grootste groepen mensen goed werken.
- 31:47En dan denk ik eigenlijk dat, er is een a-, een aantal vragen. Eén vraag, die ga ik even parkeren voor later in de aflevering wat mij betreft is, uh, laten we eerst de grote vraag stellen: so what? Mhmm.
- 32:00Gewoon op alles wat we net hebben gezegd, waar ik allemaal, uh, onderbuikgevoelens bij heb. Ja. Maar zeg eens: so what? Een van de so what terug, uh, reacties daarop is: hoe zit het met de bron van deze content?
- 32:11En daarbij, daarmee bedoel ik: is het door een mens gemaakt of is het door een algoritme gemaakt? Daar kunnen we vragen over stellen, maar die vind ik nog even, uh, minder belangrijk.
- 32:20Ik zit vooral na te denken over, uh, op het moment dat je de influencers, laat ik het gewoon even, uh, dat is niet per se een groep mensen waar iedereen even enthousiast over is.
- 32:30Maar als je die er allemaal tussenuit gaat snijden, dus de mensen zeg maar.
- 32:33Dus, uh, laten we zeggen op TikTok, uhm, 90% van alle reclame die ingekocht wordt, hè, dat is een toekomstscenario, mogelijk, wordt ingekocht bij virtuele influencers. Mhmm.
- 32:45Da-, dan, dan sterft er natuurlijk een heel stuk economie af daar. Met makers die als influencers een stukje geld verdienden per maand aan influencer zijn. Ja.
- 32:55De hele monetization van het zijn van een influencer verdwijnt eigenlijk. Uh, ja, wordt, wordt moeilijker. Ja.
- 33:01Ja, want ik denk, want ik denk dat heel veel mensen misschien denken: uhm, dit is een probleem, hè, op die so what question over heel veel synthetische content in de feeds.
- 33:11Dit is een probleem, want er is een probleem met synthetische content. Kunnen we het straks over hebben.
- 33:15Ik denk dat ook nog onderschat wordt dat op het moment dat je eigenlijk een hele, ja, makerseconomie, uh, verdwijnt. Die is nog jong, hoor, dat begrijp ik.
- 33:24Die hebben we pas kort, maar toch is die dan ineens weg als die platforms die loop gaan sluiten en gewoon gaan zeggen: Ja.
- 33:30Adverteerders kunnen eigenlijk direct aankloppen bij YouTube, TikTok en noem alle platforms maar op. Wij doen daar geautomatiseerd campagnes draaien en creëren, cureren en automatiseren en A/B-testen. Ja.
- 33:41En jij hoeft nooit meer in contact met een influencer en wij ook niet. Ja. En ik, ik, ik zie, ik, eigenlijk stel ik je de vraag van: hoe kijk jij naar die, uh, de economie van de maker erachter?
- 33:53Dat geldt natuurlijk ook voor ons op een bepaalde manier in ons podcastbestaan en bla, bla, bla.
- 33:57Ja, maar ik denk dat op TikTok, uh, uh, en op heel veel social media vinden we het al heel lang heel normaal dat wij allemaal gratis produceren voor het systeem.
- 34:06Dus mensen uploaden video's gratis omdat ze een andere transactie doen dan, dan een monetaire. Het is aandacht wat ze krijgen en dat, dat is blijkbaar ook al waardevol genoeg.
- 34:18En dan kom je op een gegeven moment op een niveau dat je denkt: er is een markt en anderen zijn bereid om mij te betalen voor de aandacht die ik genereer. Oké, maar dat is wel een subset van de, van de gebruikers.
- 34:32TikTok zou prima overleven als mensen niet meer betaald zouden krijgen voor het maken van content.
- 34:37Ja, jij bedoelt dat er genoeg mensen op TikTok zitten die goed gaan op de likes zonder dat ze die likes ooit in euro's omzetten. Iedereen is, is tegenwoordig een soort van micro celebrity.
- 34:46En dat is niet omdat je geld krijgt, dat is omdat je, uh, aandacht krijgt van andere mensen.
- 34:51En wordt dan daarin, laten we even zeggen dat je niet zenuwachtig wordt als influencer van het feit dat je niet meer kunt verdienen, want dat deed je al niet. Niet op die manier.
- 35:00Niet, niet per se met product placement bijvoorbeeld. Precies, hè, met, met advertorials en noem ze allemaal maar op. Ja. Flesjes water en zo. Ja.
- 35:07Maar die, oké, daar, dat deed je, dat deed je al niet of dat vond je al niet belangrijk. Je deed voor de aandacht, zeg maar. Ja. Uhm, maar dan, dan ben je, ga je nu concurreren met, uh, virtuele influencers.
- 35:19Heb je ook nog een probleem, bedoel je? Nee, ik bedoel, d-er is maar zoveel uur in een dag, hè, dus.
- 35:23Maar dan kom je bij de vraag, soort van: hoe, hoe vol gaat jouw timeline zijn met AI-gegenereerde content en kun je als mens daar nog tegen concurreren?
- 35:31En ik vind het interessant om TikTok, om het te versmallen tot TikTok, want het is gewoon een- Het hypermedium. Ja. Daar gebeurt, alle andere dingen zijn een soort iets minder nare versies van TikTok. Ja.
- 35:40Ja, sorry, [lacht] maar TikTok is wel het summum van- Nou, en je, de, de, dus de loopUh dus bijvoorbeeld het boeken vak zal ook veranderen en televisie zal ook veranderen en radio zal ook allemaal veranderen.
- 35:50Maar de de feedbackloop bij TikTok is zo kort dat je direct, zeg maar, het is gewoon het is secondenwerk, terwijl een boek maken en je kan, straks krijgen we allemaal AI uitgever van boeken ongetwijfeld, maar voordat een boek op de markt komt, het gedrukt is.
- 36:06La la la. Dit is gewoon, daar gaan weken, maanden overheen. TikTok leent zich heel erg om als eerst heel erg veel invloed te gaan voelen en dat gebeurt ook al. Precies.
- 36:14Van al die, uh, re-realtime gegenereerde synthetische supercontent. Ja. Met super bedoel ik super engaging, super verslavend, super op maat gemaakt.
- 36:25Super bizar ook, namelijk de gekste dingen gebeuren daarin die jij, je, je, om met ballonnen boven iets wat lijkt op Noord-Korea te gaan hangen, dan ben je wel even aan het produceren geweest, vroeger. Ja, ja, dat was.
- 36:36En nu is het een prompt. Een gedoetje geweest. Ja, prompt away, zeg maar. Juist. Maar denk je dan dat, uhm, want ik zit nu zelf te denken: kijk, op het moment dat jij,
- 36:44stel dat je een meet en greet doet, hè, dus je bent een influencer. Je hoeft er niet van te leven, dus je hebt geen stress, maar je vindt die aandacht wel leuk.
- 36:51En op een gegeven moment merk je: ik krijg steeds minder aandacht. Is het dan nog een soort mode?
- 36:55Is het dan nog een soort, uh, uniek selling, onderscheidend vermogen om te zeggen: maar ik doe ook meets en meet en greets. Want ik bedoel. Ja.
- 37:04Ik bedoel, hoe, hoe vecht jij je dan met je soort menselijkheid nog die feed in als je dat wilt? Ik denk ja, ik denk dat dat supermoeilijk is.
- 37:13En ik denk dat, uh, weet je, voor muzikanten die lange tijd hun geld verdienden met het verkopen van cd's en dat dat op een gegeven moment verdween en dat het ging naar meet en greets, of een concert, ander, ander soort, andere vorm van een meet en greet.
- 37:27Uh. Meet en greet met live geluid. Het is heel oneerbiedig gezegd. Nee, ik hoor je. Maar goed.
- 37:31Maar het is een soort van, het verschuift gewoon, d-de, waar je het geld mee verdient, verschuift naar een ander deel van het hele circus.
- 37:40En bij influencers vind ik dat een stuk moeilijker om te bedenken waar dan het geld naartoe, waar, waar je dan het geld mee kan verdienen.
- 37:45Want dit is wel de kern van de za— Ik zou niet zo heel snel zien wat dan de, wat het, wat is het concert wat voor Frans Bauer het concert is? Wat is dat voor Mr. Beast? Daarom noem ik letterlijk een meet en greet.
- 37:56Want dat is wat ze doen. Ja. Hè, natuurlijk. Ja, misschien moeten ze gaan zingen. Dat zou kunnen. Weet ik niet. Nou nee, dan moeten er dus andere soort vormen van carrières overheen gebouwd worden. Ja.
- 38:04Om te zorgen dat je naar, zoals de bankzitters op festivals kunt gaan staan, uh, om daar gezien te worden, zeg maar.
- 38:10Maar hier zit een aanname onder, namelijk dat een heel aanzienlijk deel van TikTok feeds gevuld gaat worden met AI. En hoe ver denk je dat dit zal gaan?
- 38:19En is er dan nog, is er binnen TikTok, wat een subset is van alle media die we consumeren, want het is short form video en misaligned AI, dus dat is gewoon, weet je, dit is niet alle, alles wat we aan informatie consumeren zal ooit TikTok zijn, ho-hopelijk.
- 38:35Uhm, maar het is wel een aanzienlijk deel voor jonge mensen. Wat, wat denk je wat het percentage zal zijn over twee jaar?
- 38:42Nou kijk, als ik het aan jou vraag, hè, als jij, als ik nu vraag: jouw feed is, probeer het even in te leven, 100% synthetisch. Mhmm.
- 38:50Er is een dag waarop jij aan het einde denkt: ik heb vandaag, misschien kan je het zelfs zien in de TikTok app, even voor, uh, voor het argument. Ja. Vandaag heb jij 100% synthetische content ervaren. Ja.
- 39:00En jij was entertaind, hè. Ja. Dat zeg je, dat voel jij dan. Ja. Is dat voor jou dan een probleem? V, en dan heb ik het niet over een probleem van alles wat ik net benoemde erachter, maar voor jou als consument.
- 39:11Nee, als ik maar vermaakt ben. Ja. Ik moet o-, ja, ik we-, weet je, ik weet ook niet meer welke comments van trollenfarms zijn.
- 39:22Weet je, soms dan zit ik op TikTok en dan zit ik opeens naar een of andere pro-Russische influencer te kijken. Of iets over de annexatie van Taiwan.
- 39:30Nou, je weet gewoon als je filmpjes kijkt over Taiwan, die gaan over de annexatie van Taiwan door China. Die hele comment sectie staat vol met: Taiwan is part of China. Helemaal vol.
- 39:41Ja, ik geloof niet dat dat mensen zijn. Ik weet het niet, maar dus er is al een ele-e-element van mij wat gewoon, ik hou ergens al rekening ermee dat het AI gegenereerd en het doet niet zo heel veel.
- 39:53A, als het grappig is, is het grappig. Als het opwindend is, is het opwindend. Uh, ja, ik. Maar is, is dan, is het dan eigenlijk voor jou hoe jij TikTok al die tijd al hebt ervaren als een, als een soort goedkope kroket?
- 40:08Ja. Dat was, dat was nooit meer dan karton voor jou. Nee, ja, een kroket duurt niet zo lang om op te eten, maar TikTok trekt over het algemeen toch wel een paar uur van de tijd van mensen hun leven per dag weg.
- 40:20Uh, dus het is vrij lang. Het is meer een XXL kroket. Maar, uh [lacht]. Frikandellen hebben ze extra lang. XXL frikandel is het. Uhm, en nee, ik denk dat, weet je, als ik kijk, Shrimp Jesus was twee jaar geleden.
- 40:35We zijn nu bij VO3.
- 40:36Dat is beeld wat nog steeds te herkennen is als AI, maar waarbij mensen voor het eerst echt creatieve dingen kunnen doen met productiekwaliteit die hoog is, met audio geïntegreerd, waardoor het echt een kleine narratieve boog heeft binnen acht seconden.
- 40:48En mensen die die video's ook nog eens aan elkaar gaan editen, kunnen er ook nog eens een soort van serieuzere dingen van maken met meerdere camerastandpunten, et cetera. Je kan echt best wel veel nu.
- 40:58Ja, als we van Shrimp Jesus een jaar geleden naar nu dit zijn, waar zijn we dan over een jaar wie weet.
- 41:03Nou, dan durf ik mijn hand wel in het vuur te steken dat we dan video hebben waarbij je gewoon kan prompten en het niet te onderscheiden is van echt.
- 41:08En dat is nu, mijn hele TikTok ervaring is niet gebaseerd op mensen die echt bestaan. Ik weet helemaal niet of die mensen echt bestaan. Nee, maar precies, maar dan, dan denk ik dat het wel interessant is.
- 41:16Ik bedoel, stel nou dat jij, hoeveel tijd per dag besteed jij op TikTok gemiddeld? Nou, dat gaat bij mij eerlijk gezegd in golven heen en weer. Maar op een maand? Op een maand? Als je het per dag zou gaan uit, uh,
- 41:29hebben we het over uren. Slechte maand denk ik een half uur per dag. Oké, dus je, jij hebt een half uurtje per dag TikTok en in dat half uurtje zit jij die XL frikandel lekker te snacken. Ja.
- 41:39Dat heb je altijd al gezien als, als plastic en troep en piepschuim. Uh, meer was het voor jou niet, maar je was entertained. Nou, weet ik niet. Ja, het is ook gewoon.
- 41:47Als ik het woord troep gebruik, denk jij dan: zou ik niet lachen? Ja, precies. Het is ook, uh. Goede frikandel.Ja, ja. Ja, oké Ja, ja.
- 41:55Dus dan zit jij dat half uurtje en dan ze-, en dan zeg ik: binnen dat half uurtje wordt, wordt die, wordt alles synthetisch en dan zeg jij: oké, is oké. Toch?
- 42:02Als in jij- Ik denk gewoon dat ik het verschil niet meer ga zien. Dus jij hebt daar geen probleem mee. En het is als er maar gelachen wordt of als het maar doet wat je- Als het mij maar engaged met die misaligned AI.
- 42:12Maar de rest van de dag doe jij andere dingen dan TikTok. Ja. Dus laten we, en ik gebruik even mijn gradatie voor mezelf persoonlijk, dan gaan we naar YouTube toe, hè.
- 42:20Dus voor mij, ik heb zelf geen TikTok, want ik kan daar niet mee omgaan. Ik heb een keer één, één middag, toen dacht ik: dit kan jij niet. Weg. Ja, als in: dit kan ik niet aan, want dit is te goed.
- 42:29Het gaat geen half uurtje blijven. Nee, precies. Het is gewoon kattenkruid. Het is gewoon zelfbescherming. Ik ga in die hele bak kattenkruid kom ik niet meer uit. Dus dat gaan we niet doen. YouTube durf ik net aan.
- 42:36Dan kan ik nog aan mezelf uitleggen dat het [lacht] inhoudelijk is of zo, maar nu wordt die, uh, dat is dan het half uurtje TikTok en dan, uh, stel dat dan een ander deel van de tijd is andere mediaconsumptie, hè, waarvan het meest hoogstaand, even intuïtief zou zijn, jij hier op een, uh, op een bank in Amsterdam met de Volkskrant of welke krant je ook graag leest, NRC.
- 42:55En dan zit jij daar, uh, met een, dan zit jij dat lekker te lezen daar. Soort van, je bent weer media aan het consumeren, maar nu dan, nou, wat dan een iets hogere media mag heten.
- 43:05Kijk, al die verschillende momenten op een dag dat jij media consumeert, waar een half uurtje TikTok bij zit, w-wat al grotendeels entertainment was, dus jij hebt er minder last van dat jouw entertainment synthetisch is.
- 43:15Geldt dat dan automatisch ook voor al die andere media die jij op een dag consumeert?
- 43:19Of zeg jij: als mijn hele krant gegenereerd is, ik trek hem even helemaal naar de andere kant van het spectrum, een krant speciaal voor jou.
- 43:27Zeg jij: ja, als het inhoudelijk goed is en het informeert mij en er staan geen leugens in, heb ik daar ook niet zo'n moeite mee.
- 43:35Uhm, kijk, i-ik denk dat voor iedereen het anders is waarom je een abonnement hebt op een krant. En, uhm, een van de meest populaire categorieën in de krant zijn de columns.
- 43:49En ik denk niet dat columns gelezen worden omdat ze door echte mensen geschreven zijn per se.
- 43:56Uh, ik denk dat columns gelezen worden omdat ze grappig zijn, omdat ze raken aan de actualiteit, omdat ze op een bepaalde manier het wereldbeeld draaien of juist weten te verwoorden wat je al vindt op een veel eloquenter manier dan je zelf kan uiten.
- 44:10En dat is de eigenlijke reden om dan een columnist te volgen en daar fan van te worden. En dat, dat dat reden is om een krant te nemen.
- 44:18Voor andere mensen is een krant, is het gevoel hebben dat je bij een groep hoort, dus dat je het gevoel hebt dat je, dat je een Rotterdammer bent of dat je een Nederlander bent.
- 44:27Of, uh, dat je leest over dingen die een soort van de gezamenlijke ervaring, uh, bepalen. En daar is een, daar is nieuwslezen een voorwaarde voor, anders kun je, heb je niks om rond de waterput over te babbelen.
- 44:41Uhm, en weer een andere categorie mensen wil juist, uhm, artikelen over, uh, ja, helpen om het leven te navigeren. Dus slimmer leven. Weten hoe je moet omgaan met buikpijn, hoe je, hoe je kan beginnen met hardlopen.
- 44:56Hele categorieën aan servicejournalistiek. Het zijn allemaal losse delen die samen een krant vormen. Het is eigenlijk een heel raar product als ik er zo over praat, want het bestaat uit heel veel delen.
- 45:05En dat maakt dus gelijk ook waarom ik denk dat al die delen aangevallen kunnen worden. Net zoals vroeger de krant geld verdiende aan Marktplaats, advertenties. Dat was gewoon onderdeel van de krant.
- 45:16Kon je, wat is het, zoekertjes of hoe heette dat? Weet ik veel, maar hebben kleine stukjes tekst. Nou, daar kwam Marktplaats. Toen waren die kleine stukjes tekst weg, was dat businessmodel weg.
- 45:24Zo ze, dat is, zo is de krant al leeggevroten over tijd, omdat alle elementen die businessmodel waren van de krant langzaam opgegaan zijn in een soort van apps die specialis-, die gespecialiseerd zijn voor dat specifieke ding en dus beter daarin zijn dan de krant.
- 45:39Uh, vroeger kon je ook een huis kopen via de krant. [lacht] Nou, ook weg.
- 45:43Uh, zo denk ik ook dat, dat met, uh, de optelsom die een krant is aan inhoud, dat je die ook allemaal individueel kan gaan aanvallen en dat dus columnisten, weet je, die, die doen iets met jou.
- 45:55Ik denk columnisten is het dichtstbijzijnde in wat de krant heeft als wat TikTok is, namelijk het speelt in op je diepste, ja, emoties. Meer dan een nieuwsverhaal, uh, want dat mag in een column.
- 46:08Ja, ik denk dat een machine daar, [zucht] ik denk dat de kans vrij groot is dat de machine daar over een paar jaar beter in gaat zijn dan, dan, dan de mens, omdat je daar
- 46:21dezelfde technologie van die misaligned AI kan gebruiken om een betere co-, beter als in beter klikkend, meer engagement opleverende column kan laten genereren dan dat Sander Schimmelpenninck, die een column moet schrijven die voor 1 miljoen mensen leuk moet zijn.
- 46:36Ja, dat, dat, v-, probeer maar eens te concurreren met het algoritme die precies weet wat jouw system prompt is.
- 46:43De AI die precies weet wat jouw system prompt is en hoe je jou nog bozer kan krijgen dan dat je al wordt van een column van Sander Schimmelpenninck.
- 46:50Want dat, de system prompt van de column van Sander Schimmelpenninck moet voor 1 miljoen mensen opgaan, dus hij is per definitie niet zo, uh, goed denk ik als.
- 47:00Dus, uhm, kijk, betekent dat dan dat je nieuws kan gaan, dat al het nieuws gegenereerd gaat worden door AI? Nou ja, er moet een verslaggever ergens heen.
- 47:09Er moet, uh, weet je, je moet, je, als je, als jij, als, als, als jij wil weten wat er in een stad gebeurt en dat is onderdeel van het businessmodel, dan moet, dan moet je als uitgever een journalist ergens heen sturen die dat gaat optekenen.
- 47:22Oké, ik, ik denk ook dat, dat zal blijven bestaan. Dat je als journalist getuige moet zijn van allerlei, uh, uh, dingen die je dan vervolgens opschrijft.
- 47:33Maar ik denk wat, wat het gevolg, zeg maar, ik denk niet meer dat de journalist het artikel gaat typen wat jij gaat lezen.
- 47:39Wat jij gaat lezen is door een AI geschreven met behulp van de basisbestanddelen die de journalist heeft ingevoerd in een database.
- 47:47En vervolgens is de, het artikel wat daaruit is gekomen is aan jou aangepast op basis van jouw system prompt.
- 47:53En, uh, ik kan me niet voorstellen dat de Volkskrant-app nog gaat concurreren, gaat kunnen concurreren metApps die dingen schrijven, nieuws schrijven die voor dat voor jou ge, geoptimaliseerd is.
- 48:08Dat ik, ik snap gewoon niet hoe, hoe je, dat is, hoe je daar nog mee gaat kunnen concurreren. Want hoe zie je dat dan? Kijk, ik zit nu te lezen. Ik had, uh, de Belgische Elle, zeg maar.
- 48:16Dat is natuurlijk geen krant, maar een, uh, een magazine. Die had stiekem, staat er dan in de headline, uh, artikelen geplaatst van nepjournalisten. Die hadden dat gewoon gedaan en dat stond in de Belgische Elle.
- 48:26En dat waren verzonnen journalisten namen met verzonnen inhoud. Als in: dat was wel inhoud, m-m-maar dat was allemaal niet ergens gezien door een mens, zeg maar. Dus n-nepjournalisten. Ja. Nou, nu is hun, uh, reactie.
- 48:38De, uh, ten eerste: dit gebeurt niet in de Nederlandse Elle, wordt meteen gezegd, hè. Dus: oh sorry, sorry, sorry en, uh, we gaan ernaar kijken.
- 48:45We, we zijn nog aan het experimenteren, dus het is niet: we gaan het niet meer doen, hè, want we zijn. Mooi. Hè, want a-als het ware zie ik me dat dan zo'n beetje voor me dat nu op
- 48:54alle deuren van iedereen die, die tekst maakt, zeg maar. Laat ik het dan even zo zeggen. Nog even los van video en audio, wordt op de deur geklopt door AI, zeg maar.
- 49:01Dat duwt als het ware naar binnen, dat klopt op de ramen en dat wil overal naar binnen nu. Mhm. Hè, en er wordt dan op heel veel plekken tegengehouden. Er schrijven mensen intern beleid. Het komt er bij ons niet in.
- 49:10Je mag het niet gebruiken. En a-, en dan, en soms zeggen ze: nou, als je het, als je het gebruikt mag je het zo gebruiken, et cetera, et cetera.
- 49:16Maar de druk en de kwaliteit ook van die AI neemt toe, terwijl de druk om het te gebruiken ook toeneemt. Mhm. Uh, is dit, z-zitten we nu in een soort van tijdelijke,
- 49:26uuuuh, soort van, uh, window in de geschiedenis, zeg maar, van een soort ongemak over het gebruik van AI in media. En heb je. Omdat het nog niet goed genoeg is, bedoel je?
- 49:37Want het punt hierbij natuurlijk is dat dit ding in die Belgische, in het Belgische tijdschrift was v-voor een heel groot deel verzon, die boeken die, die ging recenseren. Ja, hallucineren.
- 49:46Typische waarom ChatGPT slecht is. Ja, waarschijnlijk gebruikt het GPT 3,5 als ik dit zo goed begrijp, maar, uh, dat, dat was gewoon slecht. Waar, uh, waar dat ding mee kwam en er zat blijkbaar ook geen human in de loop.
- 49:58Dus ja, w-wat ben je dan aan het doen? En daarom is er zoveel ophef over.
- 50:02Ik denk als dit een samenwerking was geweest tussen machine en de mens, waarbij een mens er nog even overheen gaat, had geen haan, geen haan naar gekraaid, hoor.
- 50:09Ja, dat is dus de vraag of, want ik heb hier wel wat gesprekken over gehad met mensen om mij heen, dat ik om een beetje te voelen waar zit die weerstand? Of waar zit je nare gevoel erbij?
- 50:17Of je, of de nasmaak met AI generated content in de brede zin. Muziek, tekst, beeld, noem het allemaal maar op. Uh, schilderijen, uh, tot en met het ontwerpen van nieuwe auto's. Ik bedoel, het kan inmiddels een hoop, hè.
- 50:29Ja. Veel meer nog dan een stukje tekst aan elkaar plakken. Uhm, nou, dan krijg ik dingen terug als: zelfs als het beter is dan wat wij maken. Ja, zelfs als het beter is, is het nog een probleem, want het is broodroof.
- 50:40Hè, dus er is een hele economie gebouwd op dat mensen dit als werk doen. En zolang we daar geen oplossing voor hebben, is het broodroof. Op zich legitiem argument, denk ik.
- 50:49Zelfs de TikTok influencer ging ik net nog verdedigen. Zeker. Met het argument, hè, broodroof van de TikTok influencer. Ja.
- 50:54Nou, dan zou je kunnen zeggen: we stellen een, alsof dat zo makkelijk is, maar goed, we stellen een algemeen, uh, basisinkomen in. Universeel basisinkomen. Het is geen broodroof meer. Mhm.
- 51:04Dan is er nog steeds een groep die zegt: zelfs als het geen broodroof is, zelfs als het beter is, vind ik eigenlijk dat mensen die content moeten maken.
- 51:11Ik vind het gewoon heel erg belangrijk dat wat ik tot me neem, dat het uit een ziel komt van een levend wezen en niet uit een machine. Ja. Dat is een soort van laatste. Sure. Uh, uh, uh. En waar zit jij dan?
- 51:22Zeg je: voor mij is het een kwaliteitsvraagstuk. Broodroofvraagstuk. Zielsvraagstuk. Ja, ik denk heel erg van het, van de media uiting afhangt.
- 51:27Dus bijvoorbeeld als je het hebt over de reden waarom Elle, uh, dit niet kan maken is omdat er nog een zweem van journalistiek overheen hangt.
- 51:37Dus het tijdschrift Elle is van oudsher een mediamerk waar nog respect voor was. Weet je, in de jaren 90 was dat een titel waar, waar iedereen bij wilde horen.
- 51:46En nou, wat is het, hoe, wat is met al die mediabedrijven gebeurd? Die titels, die hebben nog waarde. Maar ondertussen is het bedrijf helemaal uitgekleed omdat er geen geld meer binnenkomt.
- 51:56Adverteerders willen niet meer betalen om in de Elle te staan. Niet meer zoals in de jaren 90. Maar dat merk is nog steeds wat waard. Dat merk staat voor iets. Dat is betrouwbaarheid.
- 52:06Er staat ook, mensen hebben gewoon een verwachting bij dat merk. En ik denk dat merken nog steeds heel belangrijk zullen zijn in, uh, media van de toekomst.
- 52:15Maar als je het hebt over journalistiek, dan is merk iets wat staat voor betrouwbaarheid. Het staat ook voor vermaak. Want als je de Telegraaf gaat lezen, weet je ook dat je vermaakt gaat worden.
- 52:24Het staat ook voor een bepaald wereldbeeld met wie je je identificeert. Mer-merk is gewoon, dat blijft belangrijk.
- 52:29Dus dat system prompt moet zich heel erg gaan gedragen naar de verwachting die mensen hebben bij dat merk, want anders dan werkt het niet meer. En je kan dus ook niet, uh, gaan liegen in Volkskrantstukjes.
- 52:40Dan gaan mensen veel bozer worden dan dat je gaat liegen, weet ik veel, een of andere Redditpost waar de verwachting toch al heel erg laag ligt.
- 52:49Ik zeg dit allemaal omdat het nogal uitmaakt wat de verwachting is die mensen hebben ergens bij.
- 52:55En als jouw verwachting is dat jij, uh, iets gaat lezen van een schrijver die met een ganzenveer een boek heeft volgepend en dat dat voor jou bijdraagt aan jouw ervaring om het werk te lezen, dan is daar markt voor.
- 53:11Dus als er, uh, weet je, net zoals mensen, uh, geld uitgeven aan lp's, ondanks dat het allemaal niet meer hoeft. Of dat we op vakantie gaan terwijl we ook een VR-bril kunnen opzetten. Of ik weet niet.
- 53:23Er zijn natuurlijk allerlei ervaringen die we op een of andere manier kunnen vervangen door een goedkoop digitaal alternatief.
- 53:30Uhm, zijn er heel veel momenten waarop we daar niet voor kiezen omdat we een bepaalde verwachting hebben bij dat mediagebruik.
- 53:37En daarvan, daar kan bij horen dat je weet dat de auteur een mens is en noeste arbeid heeft verricht. En ik weet zeker dat dit een hele grote markt gaat zijn.
- 53:47Dat neemt niet weg dat er ook heel veel mensen zijn die het geen enkel probleem gaan vinden om naar muziek te luisteren op de achtergrond uit Spotify.
- 53:55Waarbij we komen uit een tijd waar mensen een cd gingen luisteren, alle liedjes op de cd stuk voor stuk op volgorde gingen luisteren, weet je, en daarna was het klaar. Zet je een andere cd in de cd-speler.
- 54:07Toen kwamen de playlistsToen kwamen, uh, algoritmische playlists met Discover Weekly.
- 54:13Als jij mij nu zou vertellen dat Spotify in het geheim Discover Weekly, mijn Discover Weekly feed voor de helft gegenereerd zou hebben met AI al het afgelopen jaar, uh, en dat ze me dat niet verteld zouden hebben, zou het me op zich niks verbazen.
- 54:27En ik ken die bands niet. Daarom zit het in Discover Weekly. Het is allemaal nieuwe muziek. Het is voor mij uitgekozen, dus ik ben gewoon tevreden op het moment dat dat ding mij muziek, ge-, uh, levert die ik leuk vind.
- 54:38Maar is er media voor jou in de breedste zin waarvan jij wel verlangt dat het door mensen gegenereerd of gecreëerd is? Dat heb jij sowieso niet. Het gaat jou meer om wat het met je doet dan wie het heeft gemaakt. Uhm,
- 54:53ja, ik denk, ik denk dat het echt, dat het, zeg maar, als jouw verwachting van media is dat je een gezamenlijke ervaring hebt, uhm, dan, uh, w-, zoals een voetbalwe-, een WK voetbalwedstrijd van het Nederlands elftal.
- 55:06Dat slaat nergens op om daar verschillende wedstrijden v-, aan verschillende individuen voor te schotelen.
- 55:11Maar ik denk wel dat het zo gaat zijn dat, weet je, alle reclame die op tv, die dan langs het veld te zien is, uh, vervangen gaat worden voor jou. Of dat, uhm, [klikt met tong] weet ik veel.
- 55:22Uh, uhm, als je naar het nieuws zit te kijken, het, het Achtuurjournaal, dan is er een belang bij dat iedereen ongeveer een gedeelde ervaring heeft.
- 55:32Want je wil, Achtuurjournaal bestaat bij de gratie van dat meerdere mensen dit bekijken op hetzelfde moment, uh, op dezelfde dag in ieder geval.
- 55:40Het hele punt van het Achtuurjournaal is ergens dat je er morgen met collega's over kan praten. Snap je? Want anders, anders kunnen mensen wel nu punten gaan kijken, gaan lezen.
- 55:50Ik denk dat, uh, het consumeren van media in de breedste zin allerlei effecten kan hebben. Bijvoorbeeld wij gaan samen naar Daft Punk. Ja.
- 55:59Twee gasten met een helm op- Ja...die achter een draaitafel staan en voor mij niet eens live. Durf ik even niet te beweren. Ja.
- 56:04Staan wij daar samen, hebben we een dikke avond, terwijl die gasten gewoon niet eens die gasten zijn [lacht]. Nee. En die cd-speler zit niet aangesloten. Ja, ja. Mooie, positieve ervaring. Nog steeds een leuke avond. Ja.
- 56:13We hebben met elkaar in een zaal gestaan. Ja. Maar ik denk wel dat, uhm, er zit denk ik misschien een stukje transparantie bij voor mij. Kijk, als ik naar Gorillaz ga, wat ook een soort productband is.
- 56:25Daar zitten allemaal goede muzikanten achter, maar als ze optreden is het een hologram, want het zijn cartoons. Ja. Net als, net als, uh, Koreaanse hologramartiesten in de AFAS, zeg maar. Dat is er allemaal al. Ja.
- 56:34Uhm, maar op een of andere manier. Kijk, ik ga niemand tegenhouden in het kiezen voor die ervaring. Dat ik zeg: je mag niet daarheen. Hoezo niet? Het is nep. Dat is niet aan mij, dat moet je zelf weten.
- 56:44Maar weet waar je naartoe gaat. En als jij dat kan waarderen, doe je ding. Als in: da- dat is niet aan mij. Maar ik denk dat het al, dat het een beetje misgaat op het moment dat er over gelogen wordt.
- 56:53Hè, dus dat die helm afgaat achter de schermen en daar zitten die gasten niet in. Terwijl zij beloven altijd aan ons van Daft Punk dat ze wel daar staan.
- 57:00Zou ik zelf niet leuk vinden, want dan voel ik me toch een beetje voor de gek gehouden.
- 57:03Ik merk dat ik er last van heb op het moment dat, uh, ik het NOS Journaal kijk en achteraf blijkt dat de redactie agents waren en de video's- Ik denk als jij naar, naar. Maar kijk naar een gemiddeld reality tv-programma.
- 57:16Weet je, tv-makers weten dat iedere seconde van reality tv fake is. Als je eenmaal weet hoe die worst gemaakt wordt, is het niet superleuk meer om naar te kijken.
- 57:26Ja, uh, de meeste mensen weten niet dat het allemaal fake is. Dus ja, en met zijn allen kijken ze ernaar. Nee, dus ik, ik bedoel. Dus die spel moet je niet verbreken.
- 57:33Ja, maar ik denk dat jouw algehele punt, dat we ons niet moeten verbazen dat een groot deel van onze samenleving, laten we even [lacht] maar van Nederland voor hier, uh, uh, synthetische content gaat consumeren zonder daar al te veel over te klagen.
- 57:46Ja. Dat g-, dat zie ik wel, want je zou de bestaande content die niet door VO3 gegenereerd was ook al een hoge synthetische score kunnen geven, hè, omdat de influencer zich aanpast aan de curerende algoritme.
- 57:59Omdat de producers van de tv-shows dondersgoed weten waar de kijkcijfers zitten. Ja. Dus ja, oké. Het is al hybride. Ja, dat algoritme draaide op mensen. Ja. So what? Ja. Het was al g-geproduceerde pop, zeg maar.
- 58:09Het was al, uh, piepschuimachtige milkshake. Zodra kijkcijfers zijn, is het een.
- 58:13Maar het is wel een soort gevaarlijk vind ik, om dan te zeggen als een soort slippery slope argument, hè, van: er zat al een soort in-auti-authenticiteit in media. Dit is alleen maar een versterking daarvan.
- 58:27Laten we nou niet allemaal ineens nu problemen gaan maken. Maar laten we dan genre voor genre langsgaan. Op TikTok, wat is dan je inschatting over twee jaar?
- 58:33Hoeveel procent is dan nog, uh, mens, door mensen gemaakt in een, in een, voor, in de gemiddelde for you feed? Mijn inschatting? Ja. 2%, precies andersom zoals het nu is.
- 58:45Als in dat nog maar 2% door mensen gegenereerd is. Ja. Ja, de rest allemaal AI.
- 58:48Ja, en omdat ik denk dat het, dat het al zo ver weg geabstraheerd is van de realiteit, zo weinig connectie heeft met bijvoorbeeld nieuwswaarde.
- 58:56Als in: is er wel een journalist op stap gegaan om een nieuwsbrief, hè, om een item te maken? Dat is niet de kern van TikTok. Dat is niet TikTok. Nee. TikTok is snoepjes. Dus, uhm. Ja.
- 59:05Ja, dus, d-d-, laten we, daar gaat het gewoon helemaal saturated with synthetic content. Maar ik hoor jou zeggen: voor andere genres denk je dat dat minder opgaat. Maar muziek bijvoorbeeld.
- 59:16Nou, ik denk dat, dat muziek wat veiliger is omdat ze zich door die hele streaming revolutie, de artiesten zeg maar, al best wel hebben moeten transformeren tot, uh, zoals David Bowie het zei: ga maar vl-vlug liveshows geven, want als muziek eenmaal als water uit een, uit een muur streamt, in de jaren 90 zei hij dit, dan moet jij iets anders gaan vinden.
- 59:34Want, hè, water wordt, muziek wordt zo goedkoop als water. Nou, blijkt toch €16 per maand [lacht] te zijn geworden inmiddels. Maar goed, hè, nou ja, trouwens, dat is ongeveer wat ik voor Evides betaal, dus whatever. Ja.
- 59:44Dus het is, hij had gelijk, zeg maar. Uh, uh, muziek als water.
- 59:48Uhm, kijk, als je iemand bent die vooral veel popmuziek luistert en weinig naar liveshows gaat, dan kan jouw feed best wel ver gevuld worden met synthetische content denk ik, omdat jij, uh, er weinig last van zal hebben.
- 1:00:00Ik bedoel. Discover Weekly is ook een feed voor de helderheid. Ja, ik bedoel zeker. En dat, ik bedoel, ja, precies die feed, je, je Discover Weekly feed, hoe jij, uh, muziek aangeraden krijgt. De curatie.
- 1:00:08En de radio is op dat betreft ook een soort feed. Ja, en ik denk dus dat, uhmKijk nu, uh, op het moment dat jij en ik, daar hebben we het wel eens eerder over gehad, maar dat geldt voor muziek niet anders.
- 1:00:19Een, uh, een, een, als jij en ik een meet en greet doen, wat wij dan een, uh, uh, AI-report live noemen, dat is onze naam voor een meet en greet als AI-influencers, is dat we-- en dan moeten toegeven eigenlijk: sorry man, we zijn al 1,5 jaar eigenlijk gewoon entities van Google in Gemini 7, wat jullie allemaal nog niet kunnen gebruiken met NotebookLM 3.0.
- 1:00:38Deze podcast bestaat helemaal niet. Nee, precies. Als we dat nu zeggen dan en mensen kunnen dan niet komen, dan ten eerste zou ik als luisteraar denken: waarom heb je zo lang tegen ons gelogen?
- 1:00:46En ten tweede: ik wil eigenlijk wel naar die meet en greet. Ik baal mijn beetje dat jullie een soort van eendimensionale wezens zijn. Waar-waarom zijn jullie niet levend, zeg maar. Dus ik denk dat
- 1:00:57in media, als het dan gaat om TikTok, zolang je er w-mee weg kan komen als entiteit, whatever you are, welke klikfarm jou dan ook heeft gecreëerd, dat niemand je ooit wil ontmoeten of naar je toe wil. Ja.
- 1:01:08Dat als, als, als dat medium niet een soort fysiek beschermd is op die manier of geankerd in de realiteit.
- 1:01:13Maar, nee, als jij Spotify luistert en je hebt je Discover Weekly lijst aanstaan, denk jij dan echt bij ieder nummer wat voorbij komt: ik wil erop kunnen klikken als ik hem heel leuk vind en dan wil ik kunnen zien waar zij spelen in de wereld.
- 1:01:25En anders wil ik de muziek niet horen in mijn Discover Weekly-feed. Ik vind het oprecht, en d-daar denk ik nu voor het eerst in dit gesprek over na.
- 1:01:32Het is zo'n impliciete belofte, dat mocht mijn enthousiasme over die band uit de hand lopen, dat ik er naartoe kan. Ik zeg het je eerlijk.
- 1:01:41Ja, ik heb hier nooit over na hoeven denken tot nu toe, want het was mij een soort van altijd beloofd. Right.
- 1:01:46Te-tegelijkertijd, ik bedoel, ik luister ook, uh, uh, je, hoe heet ie, Pogo, dat is iemand die met een soort samples uit Disneyfilms de meest wauwse technomuziek maakt. Trouwens, i-i-ik kan waarschijnlijk naar Pogo toe.
- 1:01:55Of die dan zijn broertje stuurt met een helm op en zo. Dan ben ik met mijn Pogo buddies. Dat zou dus ook kunnen met synthetische content trouwens.
- 1:02:01Als we maar ergens samen kunnen komen en luisteren naar het algoritme, ben ik op zich met de Pogo muziek al blij.
- 1:02:07Maar ik moet zeggen dat overal waar ik een vocal hoor, dan denk ik mens en dan denk ik: er is een potentie voor een ontmoeting. Ja. En ik denk toch dat ik nu door hier zo met jou zit te praten, dat ik denk: ja.
- 1:02:18Toch noodzakelijk vind. Nou, als er een vinkje in Spotify komt met: make sure I can meet this artist somewhere in the future, maybe potential. Dan zou ik dat linkje, dat vinkje aanzetten, ja. Vertel over die, die band.
- 1:02:30Ja, want daar zitten we [lacht] stiekem een beetje naartoe te werken. Oké, ik was een beetje laat, uh, in de game en jij nog later, want ik liet het je net horen.
- 1:02:37We zijn allebei, uh, zeven dagen verwijderd van The Velvet Sundown. Een, uh, band d-die op Spotify staat met inmiddels 751.000 luisteraars, 751.000 luisteraars, uh, en die hebben een, uh, een hitje te pakken.
- 1:02:53Dat nummer heet, uh, Dust on the Wind en we gaan hem even luisteren. Gaan we zo meteen doen. Ja. Eerst de vrienden van Dept. [muziek] Hoi, hier marketing- en techbureau Dept.
- 1:03:04Elke week bespreken we hoe wij merken helpen in de wondere wereld van AI. En iedereen die werkt bij een grote organisatie weet hoeveel e-mails en notificaties je de hele dag krijgt.
- 1:03:14Hoe zorg je nu dat die ook echt daadwerkelijk relevant zijn en dat je er iets mee kunt doen? Daarvoor hebben we de AI Super Team Member toch, Lucas?
- 1:03:22Ja, we kennen het inderdaad allemaal, hè, de eindeloze stroom aan e-mails en notificaties omdat er bijvoorbeeld een update is in het design system of, uh, er iets in de developers portal is aangepast.
- 1:03:32Ik zie soms door de bomen het bos niet meer en daardoor lees ik ze eigenlijk allemaal niet om eerlijk te zijn. En ik ben niet de enige.
- 1:03:37Dus voor een grote organisatie zijn we aan de slag gegaan om die communicatie te stroomlijnen. Ja. Wat hebben we gedaan?
- 1:03:42We hebben een, uh, AI-tussenlaag gebouwd waar we alle communicatie opvangen die uit de systemen komt. Dus updates, uh, migraties, alles wat daar gebeurt, wat naar bepaalde groepen moet worden gecommuniceerd.
- 1:03:53En vervolgens bepalen die AI's naar wie het moet. Dus we kijken naar Slack.
- 1:03:57Vooral hebben we een integratie met Slack gemaakt en als er bijvoorbeeld een update is in design system, zorgen we dat het naar de groep met designers gaat die daar een groep hebben.
- 1:04:05En we zorgen ook dat de AI praat als een designer, dus uitlegt waarom het voor hen relevant is en wat zij ermee moeten.
- 1:04:11Mocht je dan meteen vragen hebben, dan is de AI ook nog eens in staat om de eerste level of service te bieden of je door te verwijzen naar de pagina of persoon die je verder kan helpen. Ja, oké.
- 1:04:20En wat levert dat dan daadwerkelijk op? Ja, een aantal dingen. We zien in eerste instantie dat medewerkers beter hun weg weten te vinden.
- 1:04:26We krijgen gewoon positieve feedback van mensen die zeggen: hé joh, ik ben meer op de hoogte dan dat ik hiervoor was. Ja. En misschien wel het hardste bewijs wat we zien is dat de velocity omhoog gaat.
- 1:04:33In ieder geval in development teams. Dat mensen beter weten wat er speelt, waar ze mee kunnen werken en daarmee efficiënter werken.
- 1:04:40Tot slot zien we ook dat er vrij veel interactie is met die AI waar mensen op doorvragen. We zien dus ook dat er wel degelijk vragen zijn en dat die notificaties dus niet voor niets worden gestuurd.
- 1:04:49Ook niet voordat de AI er was, uh, omdat mensen er opeens nu heel interactief mee, uh, interacteren, terwijl dat hiervoor absoluut niet het geval was. Oké, nou dank je wel.
- 1:04:58Niet afwachten, maar doen dus, want wie vandaag begint loopt straks voorop. Wil je meer weten? Ga dan naar Deptagency.com/ai-report. Tot volgende week. [muziek] Goed, daar zijn we weer.
- 1:05:13We gaan luisteren naar een stukje Dust on the Wind.
- 1:05:21[muziek] Is dit, is
- 1:05:50dit Nick? Wietse knikt. Ja, lieve luisteraar. Luister nog even.
- 1:05:54[muziek]En laat ik nou eerlijk vertellen
- 1:06:36dat ik gewoon een klein beetje kippenvel heb nu. Ja. Ik heb dit nummer gisteren voor het allereerst gehoord. Toen had ik al zoiets: oké, wow, ik vind dit wat. Dit kan iets zeggen over mijn muzikale oor, hè? Ja.
- 1:06:47Ik dacht al: dit vind ik wat. Nu hoor ik hem voor de tweede keer vandaag. Subtiel klein beetje kippenvel. Kan ook komen door de hele sfeer die we hier hebben over nepcontent.
- 1:06:56[lacht] Ik wist gisteren nog niet zeker, dit ging helemaal rond. Allerlei muziekexperts gingen de, uh, de stems, dus alle losse tracks, proberen open te maken.
- 1:07:05Je hebt dan weer AI om nummers als het ware weer op te snijden in de origin—, de gitaar, de gitaar, de vocal, de drums. De losse gitaren kan horen.
- 1:07:13De tracks te sporen en, uh, uh, één, uh, grotere, uh, het is eigenlijk helemaal viral gegaan toen echt een, uh, serieuze muziekkenner zei: ik ga dit nummer even helemaal openmaken.
- 1:07:23En eigenlijk doordat de AI die in, uh, een van de Apple, uh, AI softwarepakketten van audio zit, die kon niet goed de stems maken van dit ding. Waarop hij al zei: dan is er waarschijnlijk iets aan de hand, hè.
- 1:07:36Het feit dat hij niet open te breken is, zegt iets over hoe het gemaakt is. Het feit dat AI een nummer niet uit elkaar kan halen, zegt dat het AI is. Nou, dit is poëtisch. Gro-grotere kans.
- 1:07:46En die is toen uiteindelijk, uh, stukje voor stukje het allemaal gaan checken. Dus gisteren was nog een beetje, of eergisteren nog een beetje de mening van: nou, we weten het niet. Wat is dit?
- 1:07:54Het lijkt allemaal AI, maar we we-, het is ook best wel oké of zo. Het is, het is, het is, het klinkt een beetje Suno, maar ook als soort, of Udio, maar het klinkt ook een beetje nieuwer dan dat.
- 1:08:04Nu weten we omdat de Rolling Stone de maker heeft achterhaald dat het volledig een AI-gegenereerde band is. Het is een soort kunstproject van iemand die zei: ik ga dit gewoon proberen.
- 1:08:13Daar konden we op wachten natuurlijk. Ja. Van: hoe ver kan ik komen met een volledig synthetische band? Bedoel je- Kunnen we een hitje maken met AI? Ja. Maar is dat gelukt? Begrijp ik dat goed?
- 1:08:22Dit, je zegt: het ging rond, maar. Nou, het, het, het ging al snel viral als: is dit een AI-band? Want- Ja, ja...potverdikkie, het is stiekem best wel goed. Ja, dus die, dat is dan de gimmick.
- 1:08:34Dus we zitten ook weer in die tussenfase. Maar het is wel g-goed genoeg dat we twijfelen als we het horen. Nou, en ik merkte dus dat ik dacht van: ja, ga ik dat dan nu niet luisteren?
- 1:08:45Want ik was die tracks een beetje aan het luisteren. Dacht: ja, ik vind het [lacht] misschien ga ik dit wel liken, maar wat doet het dan met mijn Discover Weekly?
- 1:08:51Ik had ineens allemaal nieuwe gedachten over: als dit nou de eerste AI-gegenereerde muziek is die ik nog redelijk kan waarderen, wat betekent dat dan? Zijn nu de gates open?
- 1:09:02Maar vertel even, want dit is, dit is dus een band die niet echt bestaat. Gemaakt door een kunstenaar, als ik je goed begrijp. Ja, die wil, hij zegt nu in de Rolling Stone: het is een soort trolactie.
- 1:09:12Ik wil gewoon laten zien dat dit er al is en ik ben verbaasd over het feit dat het zo lang geduurd heeft. En weet je hoe die het gemaakt heeft? Suno. Dit is gewoon Suno. Ja, niet gewoon Suno. Het is Suno produced.
- 1:09:23Dus iemand die heeft Suno gepakt. Ja. En daar nog even wat menselijke saus bij van: hoe maak je dit nou echt goed goed? Ik bedoel goed goed, beter dan wat Suno kan. Oké.
- 1:09:32Want als je natuurlijk Suno pakt en dan nog dat weer in een, in een stuk software zet en dan de beste stukjes gaat cherrypicken. Ja, precies.
- 1:09:39Hè, dus dat laatste stukje menselijke werk nog doet om van een zeven naar een, nou ja, het is maar net wat je hiervan vindt, een 7,5 te gaan. Ja. Dan, uh, heb je iets waar je, uh, een beetje naar kan luisteren.
- 1:09:49En waarom ik het boeiend vind, is omdat eigenlijk waar we het eerder in de discussie over hadden,
- 1:09:54is de weerstand bij mensen omdat het slopperig is in het woord slop als in: joh, de tekst is vanille, hè, uh, de muziek is mwah, het is allemaal middelmatigheid. Zit daar je weerstand?
- 1:10:06Uh, uh, of zit je weerstand op een van die andere, uh, uh, redenen die ik net noemde, hè, broodroof versus, uh, uh, dit is niet gemaakt door een mens en dat hele idee vind ik gewoon verkeerd, hè, machinegemaakte media.
- 1:10:18Ja, want hoe reageren mensen hier dan op? Nou, d-d-best wel heavy, want de discussie is groot. Ik kan mensen aanraden om in, bij de Rolling Stone mee te lezen in de, in de comments. Gaat alle kanten op.
- 1:10:29Ja, dit, dit is natuurlijk een magazine voor muziekliefhebbers, dus het is ook wel een soort van. Ja, dus ik dacht: die ga ik lezen. Ja.
- 1:10:34Hè, want als, als er in de Rolling Stone gepraat wordt over AI-generated bands, dan hebben we een mooie discussie.
- 1:10:39Nou, daar zitten, daar zitten mensen bij die zeggen: luister, als je de gemiddelde Marvel-film bekijkt, heb je te maken met superhelden die niet bestaan. Ja.
- 1:10:47Acteurs die scripts voorlezen die ze niet zelf hebben geschreven, die in pakken rondvliegen die niet bestaan. 90% van die film is CGI achter een green screen gefilmd.
- 1:10:55Je zit gewoon te kijken naar een, een, een gemiddelde attractie in Disney. Ja, wat zie je nou? Dus als, en heel veel popmuziek is ook zo'n productie. Ja. Het is een beetje jouw argument eigenlijk, hè.
- 1:11:06Van: joh, je moest eens weten hoe synthetisch, in de brede zin van het woord synthetisch, eigenlijk heel veel media al is die jij tot je neemt. Oké. Het is allemaal al zo nep.
- 1:11:15Daaronder zeggen weer heel veel mensen, en dit is ook, dit is een beetje het kunstartument, hè, van wie het gemaakt heeft en waar hij/zij vandaan komt in hun leven. Mhmm.
- 1:11:25Hè, wat er geleefd is, wat er aan geschiedenis van een, van een mens met een backstory, met, met een origin story, hè, met lore om zich heen.
- 1:11:35Wat daar allemaal in gestopt is, dat is zo'n belangrijk deel van wat kunst en uiteindelijk dus media in bepaalde vormen is. Mhmm.
- 1:11:42Dat deze, ja, een soort van bij elkaar gegooide, uh, uh, muziek, zoals het dan genoemd wordt, hè, want Velvet Sundown is natuurlijk Velvet Underground en Dust in the Wind is, is Dust on the Wind, zei ik.
- 1:11:54Dust in the Wind. We hadden, daardoor gaf het het redelijk weg, hè, door die soort van shitty GPT 3,5 title. [lacht] Soort van: je kan beter prompten dan dat.
- 1:12:02Maar ja, een soort allegaartje van alles wat goed is, herverpakt in een soort nieuw synthetisch jasje. Maar is je punt dan: uh, als een artiest geen backstory heeft, dan gaat de kunst nooit zo goed zijn?
- 1:12:15Of is je punt: de artiest met de backstory is voor mij nodig om de muziek te kunnen waarderen? Dat. Dat laatste.
- 1:12:23Ja, ik merk dus dat het, uh, een soort vanWat je bij slop, uh, AI-gegenereerde media vaak hebt, is dat mensen zeggen: het is gewoon niet goed. Ja. Het is troep. Ja. Maar op een gegeven moment wordt het dan goed. Ja.
- 1:12:37En dit, nou ja, dit is een, laat ik het dan ook zeggen zo: ik vind het een grappig bandje voor in de auto. Laat ik hem dan even, die The Velvet Sundown.
- 1:12:44Uhm, dan, dan kan je je afvragen: oké, hoe, uh, hoog ligt de lat voor heel veel mensen wat betreft het consumeren van muziek, hè, want alles is al formuleijk en synthetisch op een bepaalde manier.
- 1:12:55Uhm, dat kan je je afvragen. Ben je niet eigenlijk teleurgesteld in wat mensen consumeren [lacht] als je eigenlijk soort boos bent hierover? Ja, zoals jouw TikTok-verhaal. Ja.
- 1:13:04Ja, uh, uhm, en/of zit je op een punt dat je zegt: maar wacht even,
- 1:13:11uh, als we de mens uit dat creatieproces laten verdwijnen, los van de kwaliteit van wat eruit kwam, zeg maar, dan gaat daar iets heel erg belangrijks verloren in onze, uh, cultuur. Ja,
- 1:13:24oké, als ik, als ik hem even mag s-, mag resumeren, dan zeggen wij dus eigenlijk: er zijn heel veel soorten media, van TikTok-filmpjes, short video tot aan Marvel-films die heel lang zijn, uhm, nieuws
- 1:13:39en andere soorten informatie tot aan muziek. Eigenlijk op al die, al die soorten, uhm, staat AI nu op dit moment in de tijd, uh, ja, op een bepaald soort van kwaliteitsmoment of zo.
- 1:13:57Of, uh, uh, als je een, een woord erop zou moeten plakken, zou het bijna zijn het moment dat je voor de gek gehouden kan worden als je, als het een nieuwe band is die in je Discover Weekly komt, zoals deze Velvet Sundown, en je zou niet doorhebben dat het AI is,
- 1:14:12uhm, geniet je er dan van? Misschien is dat dan de vraag. Soort van wil je dat cons-- be, be, soort van is het, he-heb je het door dat het AI is? En dat soort van al die dingen kun je dat zeggen.
- 1:14:24En dan eigenlijk als ik, als ik ons, als ik een soort van theorie eruit zou moeten formuleren, dan zou dat dus zijn: we zitten nu met z'n allen voor alle media, uh, uh, typen, behalve waarbij-- nou, voor alle mediatypen zitten we op het, nou, dit is eigenlijk gewoon zo.
- 1:14:39Voor alle mediatypen, alles wat we aan informatie en entertainment kunnen consumeren, komt er een moment binnen nu en twee jaar dat je het niet doorhebt.
- 1:14:50En dit is even helemaal los van de, uh, gezamenlijke ervaring of wat je verder als achtergrond weet bij makers. Of dat je weet hoe het Nederlands elftal eruit ziet.
- 1:15:00Of als je even dat helemaal los daarvan ziet, gewoon technisch wat er gemaakt kan worden, dan zijn we over een paar jaar op een moment waarop je het niet meer van een echt kan onderscheiden.
- 1:15:08Dan vervolgens is de vraag, zoals met zoveel op AI: hoe gaat het o-met diffusion? Hoe verspreidt het zich onder ons?
- 1:15:16Dat iets technisch kan, wil niet automatisch zeggen dat we het ook gaan, gaan, gaan doen, gaan, gaan willen consumeren.
- 1:15:22En dan kom je dus op een veel genuanceerder debat waarbij jij eigenlijk zegt: voor muziek denk jij, Wytse, dat het, uh, uitmaakt dat je iemand in de ogen zou kunnen aankijken als, uh, als dat- Zelfs als het maar in potentie.
- 1:15:37Zelfs in potentie. En ik denk dat, ik, ik wil nog even toevoegen, want dit is prettig dat je het zo op een rijtje zet. Ik heb veel de discussie, uh, dat ik bij mensen aangeef: wat, waar zit precies, uh, je probleem?
- 1:15:48Laten we het hebben over AI-gegenereerde muziek, hè. Dat zij zeggen: het is getraind op alle andere muziek en daarmee een vorm van diefstal. Kan je voor alle andere AI-modellen ook zeggen. Ja.
- 1:15:58Oké, maar, dus dan zeg ik: oké, we maken een nieuw model dat zichzelf muziek leert. Zou in theorie mogelijk moeten zijn. Mhm. Ik bedoel, wij hebben ooit- Een model dat getraind is op synthetische muziek.
- 1:16:08Ja, van zichzelf en zichzelf uit de grond trekt. Ik bedoel, en dan gaan we los even van de filosofische discussie of dat kan. Wij hebben het gedaan als mensheid, hè, dus het kan, maar goed.
- 1:16:16Stel we maken een algoritme die dat- Wij hebben instrumenten uitgevonden. Ja. Ja. Een, een, uh, ik bedoel, daar heb ik nog 10 andere filosofische dingen bij. Maar oké, het kan. Ja.
- 1:16:26Oké, dus, d-dus we kunnen modellen trainen die we niet hoeven trainen op alle boeken, alle muziek, alle films, et cetera, maar die zichzelf als, als een baby het allemaal leren, ja. Oké, dat is gebeurd.
- 1:16:37Dan zeggen mensen tegen mij: uh, nee, dan vind ik het nog steeds een probleem, want duurzaamheid.
- 1:16:41Dan zeg ik: we kunnen het draaien op een zonnepaneel, uh, uh, want da's ook, het duurzaamheidsargument is belangrijk voor mensen. Het is een heel zwaar proces om die muziek te maken, et cetera.
- 1:16:50Zeg ik: duurzaamheid lossen we ook op. Stel, even voor je gevoel als je hier naar luistert, uh, we draaien het op een zonnepaneel, dus de data is niet meer gestolen. Het draait op een zonnepaneel.
- 1:16:58Dan zeggen mensen tegen mij: oké, dat is allemaal prima, maar, uh, die, uh, die muziek, uh, die media die daar gegenereerd wordt, die wordt, uh, gegenereerd, uh, en het doet alsof het een mens is.
- 1:17:13En die leugen, zeg maar, hè, met die stem en dat lied wat gaat over een leven dat, want, uh, die Velvet Sundown, die lyrics, die gaan ergens over en dat is helemaal geen geleefd leven.
- 1:17:23Dus je hebt te maken met een, met een, met een leugen op een bepaalde manier. Ja. Kan je zeggen: ja, songwriter van Taylor Swift heeft Taylor ook niet zelf meegemaakt, hè.
- 1:17:29Daar zit een beetje die moeilijke, maar, dus, dus daar zit een probleem. Ik mis een stuk autici-authenticiteit. Het heeft een soort, soort leugen.
- 1:17:37En l-langzamerhand, als je al dit gaat afpellen, want ik denk dat het voor heel veel mensen echt goed is om te doen, hè, als je weerstand voelt tegen deze- Mhm. Waar zit hem dat dan in? Waar zit ie nou?
- 1:17:46En w-wat als we dat stukje van die weerstand eventjes w-weg zouden kunnen doen voor het argument? Waar zit dan uiteindelijk echt het probleem dat je ermee hebt?
- 1:17:55Want volgens mij zeg jij tegen mij: joh, zeker binnen de TikToks weer. Ik zit daar lekker voor entertainment. Who cares? Toch? Mhm. Voor jou.
- 1:18:04Uhm, en dan helemaal aan de andere kant zitten mensen die zeggen: ik wil een vinkje in Spotify, uh, dat ik gegarandeerd alleen maar human made media tot me krijg. Made by humans 100% of zoiets. Ja.
- 1:18:17Wat is dan in de metafoor is dat dan op Spotify muziek luisteren van je weet dat de band echt bestaat en uit mensen bestaat. Ik wil ze ooit kunnen, in de ogen kunnen kijken, zeg maar. Ja.
- 1:18:25En ik denk dat we dezeUh, uh, o, ik had net nog even het broodroofargument ook nog niet opzij gezet, zeg maar, hè, dat mensen zeggen: ook al is het duurzaam, ook al is het ge-, is het niet getraind op alle andere creatieve uitingen, maar heeft het zichzelf creatief gemaakt.
- 1:18:40Het speelt mee in een economie van kunstenaars in de breedste zin, hè, van journalisten noem ik dan ook even kunstenaars en, uh, en mensen die muziek maken. Iedereen is nu even kunstenaar, is maker heet het woord.
- 1:18:50Iedereen maakt. Ja. En al die makers moeten concurreren met iets waar niet mee te concurreren is. En dat maakt het gewoon oneerlijk. En daarom mag dat gewoon niet meedoen.
- 1:19:00Het is alsof je een voetbalwedstrijd aan het spelen bent waar je met al je vrienden staat en er komt een robot het, uh, uh, het veld op rennen en die schiet gewoon alleen maar als Maradona alles trillert het in. Ja.
- 1:19:08Dan wordt heel het veld gewoon boos en het publiek gaat zelfs boe roepen, denk ik. Ja. Weet je wel.
- 1:19:12Dus, uh, m-m, als je dan al die duurzame broodroof, uh, uh, het is bla bla bla allemaal opzij hebt gezet, zeg je: het is gewoon niet leuk. Het is gewoon niet eerlijk. Mhmm. Vind ik gewoon niet leuk. Mhmm.
- 1:19:21De, de game is rigged [lacht] zeg maar. En ik denk dat je al die soort van bij elkaar, wat ik nu allemaal bij mekaar raap, dat dat allemaal bij mensen door elkaar leeft nu. Ja.
- 1:19:31Als het gaat om hun intuïtieve aversie richting synthetisch AI-gegenereerde media. Mhmm. Waar jij heel, en dat vind ik wel grappig, eigenlijk ons uitdaagt en zegt: ja, doen we het niet al op een bepaalde manier?
- 1:19:44En zijn die barrières echt zo sterk? Mhmm. En wat nou als het gewoon goed is? Mhmm. Ja, en tegelijkertijd ook natuurlijk ook leven in een wereld waarin kunstenaars bestaan.
- 1:19:55Ja, dat kunnen de mensen in het centrum van Berlijn jou vertellen. Want nu ze er allemaal niet meer wonen is het een andere stad. Ja. [lacht] Ja, absoluut. Ja. Ja, en het is ook, uhm, wat maakt een mens een mens?
- 1:20:08Is de, is vorm, is, is de, ja, de verbeeldingskracht? Is het, is het zelf ontdekken van dingen? Het is de, dit, dit, dit, zolang als wij bestaan is dit wat een band schept. De dingen maken.
- 1:20:26En, uh, dat is gewoon een heel ingewikkeld ding om je toe te verhouden. Dat dat niet meer exclusief in het domein van de mens zit. Ik denk dat dat heel veel mensen gewoon heel, zeg maar, dat is,
- 1:20:42nou, in, uh, in ieder geval in, in mij levert dat heel veel verzet, levert dat heel veel verzet op. Dat is waarom ik me ertegen wil, wil verzetten. Ik wil eigenlijk niet dat het gebeurt.
- 1:20:51Maar die twee dingen kunnen tegelijkertijd waar zijn in mijn hoofd. Ik kan aan de ene kant consumeren en daarvan genieten en aan de andere kant vinden dat het eigenlijk niet zou moeten kunnen. Dat kan allebei waar zijn.
- 1:21:02Uhm, en ik denk ook dat dat, ja, uh, als het ga-, als een debat gaat over intellectueel eigendom en over broodroof en al die dingen, dan neek-- mijn, mijn veronderstelling is dat dit er eigenlijk onder zit.
- 1:21:17Over een soort van bijna existentiele twijfel over wat het is om mens te zijn. Uhm. Ja, want als het geen broodroof meer zou zijn, dan is het nog steeds aandachtsroof. Ja, precies.
- 1:21:31Hè, dus iedereen heeft eten, alles is oké. Ja. Heel erg nice. Dan nog is het oneerlijk. Ja, want je, je hebt maar zoveel uur in een dag. Ja. Dus er staan 3.000 mensen om een synthetische- Ja....kunstwerk heen. Ja.
- 1:21:41En jij staat daar alleen als mens met jouw menselijk kunstwerk en de rest staat niet bij jou. Right. Maar toch, want jij doet wel één grote aanname en dat is wel dat dus alle muziek die je
- 1:21:54consumeert of alle beelden die je ziet of wat dan ook, dat het technisch, zeg maar, stel je kent de kunstenaar niet en je zou het werk aanschouwen. Technisch,
- 1:22:09jij gaat er gewoon van uit dat alles wat een mens maakt door een computer gemaakt kan gaan worden.
- 1:22:13Ik ben heel blij dat je me deze vraag stelt, want die had ik stiekem geparkeerd, maar nu ga ik hem toch mogen beantwoorden.
- 1:22:18Kijk, uiteindelijk is de vraag: ik ben bij de band Haven geweest en de band Haven, uh, die, uh, die maken er zelf ook grapjes over. Die worden vaak aangezet tijdens leylie opgietrituelen in sauna's [beiden lachen] even.
- 1:22:29Te vaak. Dus ik was bij hun en mijn zus had mij meegenomen. Die zei: ik ken dit uit de leulie opgietrituelen [beiden lachen].
- 1:22:36Dus wij zaten daar en ik had dat grapje, ik had dat al van mijn zus gehoord en we gingen zitten en toen zeiden ze bij het derde nummer, vielen ze even stil. Wie kent ons uit [beiden lachen] al die handen.
- 1:22:46Nou ja, dat zij zijn een soort un-underground famous geworden Nederlandse band. Zoals mensen natuurlijk bekend zijn om begrafenissen. En, uh, ja. Je kunt op een gegeven moment ergens- Het is een niche.
- 1:22:54Ja, je bent viral gegaan in je niche. Nou, bij hen zijn dat de leulie opgietrituelen geweest [beiden lachen].
- 1:22:59En, uh, maar wat ik me ook nog naast deze weirdo-anekdote herinner van dat optreden is dat zij op een gegeven moment zeiden, beetje richting het einde: dit zal ook in hun script staan, hè, dit staat ook gewoon in hun tracklist.
- 1:23:10Anekdote. Ieder af-, uh. Ouch. Ja. Maar goed. Ieder concert hebben ze hetzelfde grapje.
- 1:23:14Ja, en toen zeiden ze van: wij hebben dit album, uh, la-, ons nieuwste album opgenomen en dan sluiten we ons altijd een beetje op in een soort creatief huisje of zo.
- 1:23:23Een soort weekje weg om een album, de kans op een album te vergroten. Maar zeiden ze daar ook bij:
- 1:23:29als wij dan dat opnemen, hebben we met elkaar de afspraak, twee jongens, het hoeft niet, want als we, als het moet in die, in dat weekje, dan gaat het er gewoon sowieso niet komen. Mhmm.
- 1:23:38En dan beschrij-beschrijven ze eigenlijk dat ze zeggen, en wat zij dan noemen, uh: God is in de kamer en God is dan de creatieve spirit van de creatieve kunstenaar. Mhmm. En dat zij zeggen: hij is er gewoon niet altijd.
- 1:23:51Ja. En je moet ook maar hopen dat ie het raam binnen komt vliegen. Ja. Nou, dus, en dan zeggen ze ook nog eens: dus wij, gaan ze vertellen van: nou, hè, we zijn een hele week daar. Het is zaterdagavond.
- 1:24:00Ze zitten dan op, volgens mij een waddeneiland en die boot gaat dan met Rederij Doeksen de volgende ochtend pleiten. 11.00 uur gaat ie vaak, 11.20 uur vanaf Vlieland.
- 1:24:08Dus, el-, zaterdagavond, zij hebben al die spullen en ze zeggen: het is er niet, het is niet gebeurd. Matige muziek, we gaan inpakken. Je voelt hem al aankomen. Laatste klik op de flightcase gaat dicht. Tang!
- 1:24:20En i-, en een van: effe, heel effe hoor. Bam! Heel album eruit in één nacht. Weet je wel. Want daar was God in de kamer, dat zeiden ze. Nou, en dan zeggen ze daar: we hopen dat ie er vanavond ook is. We gaan spelen.
- 1:24:31Nou, dan zat ik daar. Nou, fantastisch. Ik vind dat een hele mooie metafoor.
- 1:24:34De vraag is uiteindelijk natuurlijk heel belangrijkHebben die algoritmen, hebben die wiskundige versies van ons, hebben die surrogaatwezens toegang tot die bron? Hebben die toegang tot die fontein, whatever je het noemt.
- 1:24:50Inspiratie. Waar wij blijkbaar soms ineens als mensheid dingen uit halen die dan
- 1:24:56alles veranderen in de vorm van iets wat op een canvas staat tot en met iets wat op een elpee gezet wordt tot en met iets wat in een geniaal mooi magnus opus weggeschreven wordt. En wat denk je?
- 1:25:07Ik zie nu nog geen, uh, kijk die move 37 van, uh, AlphaGo die het spel Go speelt en daar een move maakt waarvan alle commentatoren tijdens het spel zeiden: dit is een domme move.
- 1:25:19Haha, hier zie je dat deepmind door de mand valt.
- 1:25:22Achteraf briljante move, want hij was acht moves vooruit aan het moven en de Lee Sedol, beste, uh, Go-speler ter wereld, zei achteraf: niemand heeft deze move nog ooit gedaan, want ik zou hem kennen.
- 1:25:33Dit is een teken van novelty, hè, dit is een teken van iets nieuws, van creativiteit in een algoritme. Door AI. Door AI in het geval van het spel Go,
- 1:25:42dat, uh, ik rekening hou met een move 37-achtig scenario in de andere modaliteiten buiten het spel Go namelijk muziek, schrijven et cetera.
- 1:25:53Dat zou betekenen, uh, dat waar wij van dachten dat wij een unieke toegang hebben tot waar creativiteit vandaan komt, whatever je daarvoor, ik noemde het net, uh, God, dat mag je helemaal zelf invullen wat dat betekent, dat die algoritmen op een bepaalde manier daar toch ook een soort van, uh, toegang toe hebben.
- 1:26:13Mhmm. En ik denk dat wat jij net heel mooi zei als we het hadden over de broodroof, hè, dat het existentieel is, dat we volgens mij als makers allemaal ook een beetje voelen, hè.
- 1:26:23Nog even los van al die andere legitieme vraagtekens die je kan stellen bij gestolen content, duurzaamheid, broodroof et cetera. Wauw, wat zijn we hier eigenlijk aan het bouwen?
- 1:26:34Want het lijstje wat ons mens maakt en uniek maakt vooral, is wel heel kort aan het worden nu. Mhmm. Ja. Ja, maar dat is het natuurlijk ook.
- 1:26:44Je wil het ge-, uh, de, de, het is zo, het be- het, het betekent zoveel voor de menselijke natuur dat het, dat je, dat je het liever in een rechtszaak, in een, in een, uh, in een rechtszaak bevecht, dat het allemaal niet moet mogen.
- 1:26:59Dat is, dat is gewoon makkelijker voor ons om, uh, we moeten hier iets mee [lacht] als mens. Ja, en ik denk ook dat, uh, even als metafoor.
- 1:27:08Ik zag nu je dit zo zei, zag, zie ik me eigenlijk helemaal voor me hoe een hele grote groep mensen ergens op een Malieveld-achtige plek naar een soort synthetisch kunstwerk toe rent.
- 1:27:18Of naar een artiest met een gitaar die daar, een robot met een gitaar. Laat ik het maar even zo zeggen: een robot met een gitaar die daar uithaalt en een riff speelt waar je u tegen zegt, zeg maar.
- 1:27:28Uh, de, de, hoe heten die gasten? Ik ben hun naam alweer vergeten, maar de Velvet Sundown. Mhmm. De Velvet Sundown live, hè. Mhmm. Mhmm. Namelijk de Unitary en Figure, Figure One en Asimov.
- 1:27:37Iedereen [lacht], Asimo, iedereen is daar. Ja, een hele robotband en die speelt de Velvet Sundown.
- 1:27:43En op dat grasveld staan jij en ik en wat makers en kunstenaars om ons heen en we zien ineens die hele groep daar naartoe rennen. Ja. Al die aandacht gaat daarheen. En dan ga jij daar staan en ik. En dan: broodroof,
- 1:27:59creativiteit nep. Ja. Synthetisch. Ja. En dat [lacht] terwijl die mensen rennen gewoon door. Ja.
- 1:28:05En ik denk dat er ook een soort gevoel van frustratie, machteloosheid en op een gegeven moment ook woede is van: wat, waar gaat onze aandacht nou naartoe? Ja. Zitten we niet de verkeerde kant op te kijken of zo?
- 1:28:17Snap je wat ik bedoel? Zit, zitten, wie kan er naar zoveel dingen tegelijk kijken op een dag? Ja, maar ja, je, je hebt ook tegelijkertijd, ik, waar ik me altijd maar in berust, is dat als je nou eenmaal
- 1:28:32toegang krijgt tot het system prompt en je als mens kun je bedenken wat je wilt toelaten in een, in je hoofd, in een veelheid aan content door mensen en door machine gemaakt en allerlei hybride vormen.
- 1:28:46Je bent er wel zelf bij. We zijn niet een soort van willoze weekdieren, uh, die alles maar consumeren wat in hun retina wordt geprojecteerd. Maar ja, eigenlijk zeg jij,
- 1:28:56leg ik even in je mond: er is niet per se iets mis met een algoritme. Er is iets mis met een algoritme wat je niet mag aanpassen.
- 1:29:04Ja, en ik, ik denk als, als een mens, uh, st-, eventjes stil zou gaan staan en zou bedenken: wat wil ik eigenlijk aan muziek allemaal toelaten in mijn leven?
- 1:29:14Uhm, dat je, als je die keuze bewuster maakt dan het allemaal maar tot je laat komen in een soort van, uh, de, de eindeloze tiet van, uh, Discover Weekly.
- 1:29:24Uh, in plaats daarvan, uh, bewust bedenkt wat je eigenlijk wil hebben
- 1:29:30en dat bijvoorbeeld muziek voor jou gemeenschapszin is en dat je dus alleen maar muziek wil lui-, of dat muziek voor jou troost is en dus alleen maar muziek wil hebben van mensen waarvan je weet dat ze verdriet hebben gevoeld.
- 1:29:42Of dat muziek voor jou, b-, wat dan ook, whatever moves you. Dat je dat kan expliciteren en dat je dat, dat je er recht op hebt dat je dat krijgt.
- 1:29:52En dat betekent ook dat er een, dat het makkelijker is misschien om een markt te laten bestaan voor mensen die dingen maken. Want ik-
- 1:30:00Want ik hoor ook een beetje in jouw verhaal tijdens deze aflevering dat jij een bepaald vertrouwen hebt dat er ook, uh, en ik kan daar wel in mee, hoor, uh, kranten zullen zijn- Ja...waar expliciet gezegd wordt: dit is onze redactie.
- 1:30:12Ja, ik denk dat daar markt voor is. Ja, made by humans. Ja, en es, en wij, weet je, w-w-wij, een paar jaar geleden had De Correspondent dat heel erg.
- 1:30:20Dat mensen ge-, dat mensen een soort van, de belofte van De Correspondent was heel erg: je hebt, uh, soort van, uh, mainstream media, die doen het nieuws.
- 1:30:27Maar wij doen die blik achter het nieuws, want die zegt veel meer over hoe het echt gaat in de wereld. Dus wij rapporteren niet over het weer, maar wij rapporteren over het klimaat.
- 1:30:34Nou, dat was een, dat was een, een sentiment wat een tijdje heel erg leefde onder een deel van de nieuwsconsumenten. Tienduizenden mensen hebben een abonnement genomen op dat ding.
- 1:30:44Nou, wat ik me heel goed kan voorstellen isOp het moment dat als jij, uh, journalistiek belangrijk vindt, uh, om wat voor reden dan ook, en dan vind je het ook misschien belangrijk dat er nieuwsredacties zijn waar nieuwe mens-, jonge mensen worden opgeleid om journalist te worden.
- 1:30:59Om bijvoorbeeld verslag te doen van dingen die bij jou in de buurt misgaan en dat je het belangrijk vindt dat die mensen, ja, dat werk kunnen doen. Nou, dan, dan is dat een vorm van activisme.
- 1:31:10Door dan te zeggen: ik ga dat, ik ga dit steunen met een abonnement, want ik wil dat die mens daarheen gaat en dat het ook een veel directere vorm is van,
- 1:31:20uhm, ja, media ook meehelpen financieren dan TikTok dat is, uh, of dat, uh, ja, al die, al die feeds die maar gewoon shit in onze, zonder dat we erover nadenken, engaging misaligned shit in onze oren en ogen droppen.
- 1:31:36Dat als je bewust gaat s-, nadenken over: wat wil ik eigenlijk bereiken met mijn, uh, met de euro's die ik uitgeef of de aandacht die ik geef. Ja, dat je een andere keuze maakt eigenlijk.
- 1:31:48En dat je daar dus wel echt recht op moet kunnen.
- 1:31:49Kijk, zoals de Chinezen alle dopamine verbieden, kan ook, maar ik zou op zijn minst zeggen dat wij in Europa moeten, uh, dat je, dat je, dat je k-als consument controle hebt over je system prompt voor nieuws, muziek,
- 1:32:03films, wat dan ook. Want ik denk alles gaat, alles gaat die kant op, dus laten we dit mo-, al die AI gaat zo goed zijn dat dit allemaal, weet je, technisch wordt het perfect. Dus geef ons de macht om te helpen kiezen,
- 1:32:19uhm, voor hetgeen we echt waardevol vinden. En ik denk dat ik wat ik, wat, waar ik daarbij behoefte aan heb als consument, uhm, is toch wel een soort slider.
- 1:32:31Uhm, en want je kunt natuurlijk zeggen: Cola Zero, oftewel 0% suiker. Terwijl, ik ben iemand die letterlijk in deze, in deze metafoor graag bijvoorbeeld club mate drinkt.
- 1:32:41Er zit vijf gram suiker in, niet meer 11, maar vijf. Dat ik denk: nou, wel lekker zoet, geen smerige zoetstoffen. Ik hou wel van een beetje suiker, maar we moeten niet overdrijven, hè. Ja.
- 1:32:49Dus bij de suiker slider kan ik even club mate schrijven. 5%. Top! Ja. En ik denk dat, uh, ik nu ook merk van: ja, stel dat je een lokale krant opzet, hè, voor jouw regio en we gaan zero zeggen.
- 1:33:02Mogen de junioren nou niet Grammarly gebruiken? Hè, dus p-puur spelcheck. Ja, ja. Ik bedoel, één gram suiker. Ja, een soort de, je, het is een soort van AI vrij keurmerk. Dat, uh, ja.
- 1:33:14Ja, want ik, n-, ik voel nu om me heen- Dat dat gaat gebeuren. De behoefte voor AI vrij. Ja. Ja, en dat, dus, en kan je je al afvragen: dat rode lijntje en dat blauwe lijntje in Google Docs, wat is dat dan?
- 1:33:24Maar niet, niet om een slippery slope. Nee, maar come on. Een spelcheck. Ja, dat is toch een grammetje suiker. [lacht] Ja. Half grammetje. Ja.
- 1:33:30En dan zeggen we op een gegeven moment, uh, comments in de kantlijn die jou de goede kant op duwen met je artikel en ook nog eens kritisch zijn, hè. Een AI die zegt: joh, dit kan jij beter vriend. Ja.
- 1:33:39Je werkt bij deze krant. Dan zeggen we: vijf gram. En ik merk ook in de muziek, want laten we niet, joh, er zijn natuurlijk nu allemaal bands die al samples laten genereren door AI. Ja.
- 1:33:49De autotune discussie is al een suikerdiscussie geweest. Dus daarmee wil ik nu niet zeggen: jullie moeten allemaal als luisteraars je mond houden, want autotune is ook oké.
- 1:33:57Nee, ik denk dat we gradaties aan hoeveel, hoe synthetisch, hoe erg ondersteund is jouw media? Zit je op de 100% slider? Hier kwam geen mens meer aan te pas. Of zit je aan de 0% slider? Hier kwam geen AI aan te pas.
- 1:34:11En wat zitten daar nog voor gradaties tussen?
- 1:34:13Want- Maar kijk, bij eten heb je een voedingslabel en bij dingen die je op tv kijkt staat niet bij hoeveel procent door de producent is ingefluisterd bij de reality tv sterren.
- 1:34:22Nee, eigenlijk ga je- En voor een deel willen we natuurlijk ook gewoon met ver-, met vermaak is ook de magie. En die magie moet niet verbroken worden.
- 1:34:29Je gaat niet, uh, de goochelaar gaat niet, je wil niet dat de goochelaar gaat vertellen hoe de truc werkt. Ja, op een, dit is wel mooi dat je dit, dat je dit zegt, hoor, want eigenlijk door dat de soort van
- 1:34:42mate van synthetische of, ja, en, nou ja, we willen niet eens in, in aut-, de auti-authenticiteit niet per se aan koppelen, al voelt dat wel heel logisch.
- 1:34:51De mate van gemaaktheid van media, die gaat door deze VIO3, want dat is even het cirkeltje om. We hadden het nog steeds ergens over VIO3. Allemaal naar aanleiding van. [lacht] Ja, weet je nog? Ja.
- 1:35:02Voor de mensen die er nog zijn. Leuk [lacht] dat jullie nog hangen. Ja. Uhm, dat we zeggen bij VIO3 wordt de synthetische hoeveelheid synthetische inhoud van media gigantisch hoog.
- 1:35:14Het voelt toch wel een stukje meer hoger dan wat we tot nu toe hebben gezien. Jouw punt is daarbij dat je zegt: Wytse, je moest dus weten hoe formuleik en gemaakt alles al is.
- 1:35:22En dat ik nu eigenlijk zeg: dan wil ik met terugwerkende kracht, [lacht] hè, uh, weten hoeveel suiker er in mijn drinken zat, ook al heb ik me daar vroeger nooit zorgen om gemaakt. Dank je wel Wytse, deze week.
- 1:35:35Uh, dank aan Sam Hengeveld voor de edit. Pankra voor de vormgeving. Als je een lezing wil van Wytse Hagedoorn over AI, dan kan dat, of van mij. Mail naar lezing@aireport.email.
- 1:35:47Wil je twee keer per week op de hoogte gehouden worden van het laatste AI-nieuws en tips en tools ontvangen om het meeste uit AI te halen? Abonneer je dan op onze nieuwsbrief via aireport.email.
- 1:35:56Vandaag nog beginnen met AI binnen jouw bedrijf? Dan kun je gaan naar onze vrienden van deptagency.com/aireport. Wytse Hagedoorn, ik dank jou zeer. Jij ook bedankt. En tot de volgende week. Tot volgende week.
- 1:36:08[afsluitend muziek]