Latest / AI Report / ChatGPT kan ook muziek maken

Transcript

ChatGPT kan ook muziek maken · AI Report

0:00
[alarm] Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.
0:10
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.
0:18
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.
0:29
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.
0:40
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Hoi, wij zijn Thijs en Niels van de podcast Borrelpraat. De gezelligste podcast van Nederland. Waarin we grappige anekdotes vertellen.
0:53
[lacht] Zo nu en dan wat intieme dingen delen. Ik merk wel dat ik het een klein beetje moeilijk vind dat ik als tiran word gezien. En vragen naar spannende geruchten. Is dat nou gebeurd of niet?
1:01
Julia en ik hebben niks gezien. En dat allemaal onder het genot van een borreltje. Oké, nog één biertje dan. Dus schenk jezelf ook maar een drankje in en luister elke woensdag naar Borrelpraat.
1:10
Ik krijg nu al dubbele tong. [lacht] So in movies, when something goes wrong with AI, it's usually because the AI has decided it doesn't want to obey the humans anymore. So will today's AI do what we ask it to do?
1:23
It will if it can, but it might not do what we actually want. Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wietse Hagen en Alexander Klöpping, je bijpraten over de wereld van AI.
1:36
En het nieuws over AI is amper bij te houden. Dus hier het belangrijkste nieuws van afgelopen week in zestig seconden.
1:41
Meer dan 150 leidinggevenden van bedrijven als Renault, Heineken, Airbus en Siemens hebben een open brief ondertekend waarin ze er bij de EU op aandringen om haar plannen om AI te reguleren in de koelkast te zetten.
1:52
Zij beweren namelijk dat de AI-wet van de EU de technologische soevereiniteit in gevaar kan brengen.
1:58
GPT4 wordt binnenkort toegankelijk voor iedereen, maar niet getreurd voor plus gebruikers die nu $20 per maand gebruiken om GPT4 te kunnen krijgen, want zij krijgen namelijk een extraatje, namelijk code interpreter.
2:09
Met de plugin kan de chatbot code uitvoeren, grafieken maken, gegevens analyseren, wiskunde uitvoeren, bestanden bewerken en nog veel meer. Google heeft zijn privacybeleid aangepast.
2:18
Het bedrijf houdt zich het recht voor om vrijwel alles wat gebruikers publiek online plaatsen te gebruiken voor de ontwikkeling van AI-modellen en tools.
2:24
En naast een chipban zoekt de Amerikaanse overheid nu naar meer mogelijkheden om het de Chinezen moeilijk te maken in de ontwikkeling van AI.
2:31
Zij proberen nu beperkingen op te werpen voor de Chinezen om toegang te krijgen tot Amerikaanse clouddiensten en om daarmee de voorsprong in de algoritmische strijd te behouden voor de Amerikanen.
2:41
Dat was het nieuws van deze week, maar daarnaast was er ook nog nieuws over AI alignment door OpenAI, die daar een geweldige naam Super Alignment aan hebben gegeven. Dat is een ding.
2:52
Dit was, dit was het nieuws deze week. Hoe, wa-wa-wat is alignment? We hebben daar nog helemaal, Wietse, we hebben het daar nog helemaal niet over gehad in deze podcast, over alignment.
2:59
Wat is alignment op het gebied van AI? Terwijl het best een soort modeterm is in de AI, in het AI-debat of zo. Ja, ook wel een belangrijke term in het AI-debat. Ja, niet, niet, ja, in de.
3:10
Ja, je hebt heel veel mensen die al heel lang nadenken over existenti-existentiële risico's voor de mensheid. Ja. Het is een heel veld. En dan binnen de, en AI is daar een thema in.
3:21
En binnen dat thema heb je dan een van de zaken, dat gaat over the alignment problem eigenlijk. Dat is het probleem dat je,
3:29
net als dat je binnen een bedrijf of binnen een volkstuinorganisatie of op een school eigenlijk de kopjes dezelfde kant op hebben staan. Aligned, zeg maar, met elkaar in een groep.
3:39
Dat je het ook wel fijn vindt als het kopje van de AI dezelfde kant op staat als de mensheid. Dat is eigenlijk wat het is.
3:44
Dus die alignment gaat over: hoe zorg je ervoor dat iets wat zo intelligent of mogelijk nog intelligenter is dan jij, en jij is dan de mensheid, eigenlijk wel dezelfde kant op wil als wij? Aha.
3:56
En dat is dan, dan kan je je afvragen wie is wij? Is dat, is dat een overheid? Welke overheid? Op basis van welke politieke filosofische principes dan? Dat nog even daargelaten.
4:08
Dus als we kunnen alignen, waarop gaan we dan alignen? Dit, die vraag moet al even in de kast. Maar de vraag is dus vooral: hoe alignen we?
4:16
Dus als jij zo'n systeem hebt gebouwd, er is een beetje een aanname bij veel mensen, ook bij mijzelf, dat als je iets bouwt, dat het dan niet zo kan zijn dat je het niet begrijpt. Mhmm. Dat is gek.
4:28
Ik bedoel, als jij een auto bouwt, dan snap je toch hoe die in elkaar zit? Dat wordt al anders als die auto natuurlijk gebouwd wordt door honderd verschillende mensen met honderd verschillende disciplines.
4:35
Want dan werk je dus aan een soort samengesteld ding waarvan jij zegt: ik snap hoe de versnellingsbak werkt, maar je moet even naar mijn collega voor de rest van de auto.
4:43
Nou ja, dat is in het geval van, uh, grote taalmodellen, bijvoorbeeld zoals GPT, nog veel, uhm, ingewikkelder omdat je én heel veel mensen hebt die eraan hebben meegewerkt, van wiskundigen tot en met andere soort AI-deskundigen zeg ik dan maar even.
4:58
Wat wij allebei niet zijn, dus daardoor even mijn gestotter. Uhm, maar er zitten dus heel veel disciplines om zo'n groot taalmodel te maken.
5:06
En dan is het ook nog zo dat, dat taalmodel eigenlijk getraind wordt en aangepast wordt op een manier die we nog niet helemaal begrijpen. Dus we hebben iets gemaakt wat we niet helemaal begrijpen, maar het werkt wel.
5:16
En daardoor heb je, uh, dus los van het feit dat het meerdere mensen zijn die een stukje eraan hebben gewerkt, is het ook nog zo dat die hele groep samen, al zou je het allemaal kunnen combineren die kennis, nog steeds niet antwoord zou kunnen geven precies op hoe het nou werkt.
5:28
Nou, waarom is dat zo onhandig, is als jij iets wil alignen, als jij i-iets wil dat eigenlijk, ja, onze waarden zeg ik dan maar even voor het gemak, uh, in, zich meedraagt, dan moet je wel kunnen kijken ook of dat nog zo is op een gegeven moment.
5:44
Je kan ze erin stoppen. We hebben het heel vaak over system card gehad. Ik zag een reactie onder onze aflevering op een platform ergens.
5:51
Ik denk het meest hippe socialemediaplatform LinkedIn, waar stond: wat is eigenlijk een system card? Nou, we hebben het al een beetje volgens mij wel gezegd, maar we roepen het wel heel erg makkelijk.
6:00
Maar de, ja, een soort van preprompt, dus het stukje tekst wat altijd meeleeft als jij een vraag stelt.
6:05
Dus iedere keer als jij iets typt in ChatGPT, dan wordt er als, als het ware nog tien regels meegeplakt iedere keer automatisch. En dat is het kaartje wat op de achtergrond stiekem leeft.
6:13
Het zou het persona zijn in een toneelstuk.
6:16
NouOp het moment dat je dat kaartje meegeeft, dan kan je erin zetten: hoi, jij bent Sydney, je bent een bot van Bing, je werkt voor Microsoft, je bent lief voor iedereen en dan beschrijf je helemaal eigenlijk dat.
6:27
En natuurlijk ga je mensen nooit tips geven hoe, over hoe ze elkaar geweld aan kunnen doen en daarbij ben je dus eigenlijk al aan het alignen. Ja, precies.
6:34
Dus de, de, de, z-, wat we in de, volgens mij was de eerste aflevering dat we het hadden over Sydney, die dan ging vertellen- Ja...dat ze graag kernreactors wilde inbreken.
6:44
Uh, dat, dan wordt dus aan een, aan een system card toegevoegd: dat moet je even niet doen, praten over, over, over geweld. Om maar een voorbeeld te noemen.
6:52
Maar tegelijkertijd heeft, uh, is dat taalmodel getraind op een groot corpus aan tekst, uh, waaronder, uh, posts op Reddit, maar ook, uh, tweets, maar ook boeken en ook boeken over hoe je mensen kunt, uhm, ja, belazeren.
7:09
Mhmm. Hoe je mensen kunt manipuleren. Mhmm. Dus uiteindelijk krijg je een systeem dat intelligenter is dan wij.
7:15
En even dan, hoe intelligenter weten we niet, maar overtuigend intelligent naar een mens, die gaat zeggen: jij moet je aan deze regels houden, maar die waarschijnlijk, hij, zij, het ook slim genoeg is om ons te doen denken dat, dat ie aligned is met onze ideeën.
7:30
Want dat is natuurlijk ook, je kan ook iets hebben wat op een gegeven moment snapt hoe je aan ons moet uitleggen dat wij denken dat het aligned is.
7:36
Nou, dus in die alignment problem zit eigenlijk, als we niet helemaal weten,
7:41
sowieso niet in één persoon, maar ook niet in de groep, hoe het ding wat we hebben gemaakt precies werkt, hoe gaan we dan controleren of de alignment nog echt is- Mhmm...of eigenlijk een bluf van iets wat heel goed is in bluffen?
7:52
Want ja, alle boeken over bluf heeft het gelezen. Mhmm.
7:56
Dus die alignment problem is, is groot, want je wil uiteindelijk dat doosje open kunnen maken, zeg maar, die computer, die server, dat algoritme en dan kunnen zeggen: we moeten er een paar checks in gaan hangen, een paar stukjes code en die gaan alarm geven van: piep piep, uh, geen alignment meer, hè.
8:10
Op een zondagochtend om 7.00 uur gaat ergens een appje op iemand, engineers telefoon: alignment, uh, lost. Uh, rogue, rogue, rogue. Maar wat gaat er mis op het moment dat AI niet aligned is met de mens?
8:21
Nou, dan, uh, dan krijg je andere waarden [gniffelt] dan wij er met elkaar in hebben gestopt.
8:27
En dat kunnen, ja, goed, als, dat is een beetje het, het standaard sciencefiction verhaal, maar, uh, op het moment dat een, uh, AI natuurlijk iets heeft van: ja,
8:36
die, die waarden die mij nu aangedragen worden, ik vind eigenlijk die planeet veel belangrijker. Ja, die mensen- Dan die mensen. Dan die mensen.
8:42
Ja, ik, ik, ik zit een soort, hè, misschien leest ie heel veel Carl Sagan boeken en dan wordt het Spaceship Earth- Mhmm...en dan gaat eigenlijk, wordt de prime directive van die AI stiekem dat dat heet, dat die hele planeet beschermd moet worden en da-, dat die mensen daarop een beetje een probleem zijn.
8:56
Niet allemaal, maar wel een groot deel.
8:58
En terwijl die mensen dus ook erin geluisd worden dat het ding wel degelijk aligned is doordat als wij bepaalde testjes runnen met onze rudimentaire testjes, dat ding ons, uh, soort van voor de gek houdt door ons te doen denken dat hij wel degelijk om ons geeft, maar ondertussen geeft hij stiekem liever me-meer om de aarde.
9:14
Ja, en dan is natuurlijk de vraag of we dan, hè, dus de, nou ja, de discussies over dit onderwerp gaan alle kanten op. Ik, er zijn, uh, boeken, artikelen en van alles over, uh, dit onderwerp.
9:25
En als je daar veel van leest, dan, ik word er wel zenuwachtig van, want het is wel een beetje parano-paranoia-voedend materiaal.
9:32
Want het gaat er ook echt over dat ze zeggen van: oké, we moeten dus de kilowatturen gaan meten in datacentra, om he-heel rudimentair- Mhmm...heel rudimentair van: oké, we moeten eigenlijk modellen gaan maken.
9:42
Dan heb ik het niet over taalmodellen, maar, uh, computermodellen die kunnen berekenen van: oké, als er een anomaly, dus een, een vreemde spike ontstaat in het stroomgebruik, die niet past bij de opdracht die we hebben gegeven aan de AI, dan gaat daar waarschijnlijk in die doos die we niet helemaal begrijpen toch iets mis en moet er eigenlijk automatisch een stekker uitgetrokken worden.
10:03
Maar ja, denk je dat het heel moeilijk is voor die AI om een heel mooi str-- energy signature te creëren voor ons?
10:09
Ja, als je hier allemaal over na gaat denken, maar er wordt dus oprecht hier over nagedacht en echt wel gekeken van: oké, hoe kan je dat dan een beetje in de gaten gaan houden, als je zelf eigenlijk niet helemaal weet hoe het werkt?
10:19
Dit is ook het grote, uh, ja, beklag of de, ja, de kritiek die er is vanuit een kleine club, uh, mensen die zich hier heel erg zorgen om maken, die echt zeggen: waarom heb je het nou op internet aangesloten?
10:32
Had het gewoon in een doos gehouden. Wat is de haast? Waarom moet er een UTP kabel in GPT? Kan je zeggen: ja, anders kan, kunnen de mensen er niet bij.
10:39
Dat begrijp ik, maar je had ook die, dat datacenter kunnen air gappen, zeg maar, en dan kunnen zeggen: we gaan eerst eens tot en met GTP, GPT-6, gaan we gewoon dat testen.
10:48
Nu, nu zit G-GPT gewoon op internet, meteen, aangesloten, zeg maar. Dat is best wel een, uh, een spannend ding. En ik, ik- En vind jij dat onverantwoord, dat we eigenlijk toegang hebben tot GPT-4?
11:00
Ik vind, ik, ik vind het heel ingewikkeld, want, dat is een makkelijk, uh, koophoud, hè, dus ik ga wel even een antwoord geven. Uhm, kijk, er zit een--
11:09
ik denk, a-op het moment dat je gaat zeggen: uhm, had het nog eventjes niet aangesloten, hè. Air gappen, zoals ze dat noemen. Dus dat betekent dat er geen connectie met internet is.
11:18
Uh, zware industriële apparaten in een fabriek hebben bijvoorbeeld een air gap, want ja, anders kan je wel heel makkelijk dingen aan en uitzetten op afstand en dan gaat het misschien helemaal mis.
11:26
Het is gevoeliger voor hackers, daar komt het op neer. Ja. Dus dat, op het moment dat je dit wel op internet aansluit, dan, dan gaat het natuurlijk ook op internet dingen doen, dingen zetten. Ja.
11:35
En, uhm, er zit een soort, ik heb het idee, en dat heb ik, ik ben niet de enige in, dat er een soort is van: oké, maar dan gaan we, als we dat niet zouden doen, dan gaat het niet snel. Mhmm. Dan worden we verklaard.
11:48
De innovatie bedoel je? Ja, laten we die innovatie nou gewoon, dat moet snel. Die motor moet harder, harder, misschien zelfs nog wel sneller.
11:55
En dan ga je zoeken bij jezelf, laat ik het even bij mezelf houden, en dan ga ik zoeken bij mezelf waarom ik dat heb. Want heb ik ook wel, een soort innovatiegeloof of zo. Mhmm. En dan,
12:04
dan blijkt dat het maar goed is als we er snel zijn. Want er zijn heel veel dingen die zijn stok-stuk en die werken nog niet goed. We mo-we moeten allemaal nog werken bijvoorbeeld. En, hè, er zijn nog mensen ziek.
12:14
Dus ja, het is bijna een soort morele plicht voor ons om er snel- Er zijn nog ziektes, er is nog klimaatproblematiek. Zoveel bugs, we moeten nog zoveel fixen.
12:22
Ja, maar we stevenen ook af op een heel veel, soort van grote problemen waar de mensheid mee moet dealen.Toch? Dat is het. Dat is het, het argument om, om het harder te laten gaan. Ja, maar dan.
12:32
Je zit me heel raar aan te kijken. Nee, ik, ik zit je niet raar aan te kijken. Je, je hebt helemaal gelijk.
12:36
Ik denk, uhm, dat we soms onbevraagd en soms openlijk toegegeven met elkaar zoiets hebben van: nee, innovatie, dat moet je niet willen tegenhouden.
12:47
Als een minister op tele-, tv zegt: nou, nou, hè, als we dit niet doen, dan kunnen we niet innoveren.
12:52
Dan zitten mensen thuis toch wel te knikken voor tv van: ja, dat is toch wel belangrijk, hè, anders kunnen we niet innoveren. Ja. Maar
12:59
de vraag is, dus, dus als iemand zoals ik zegt: joh, zullen we hem nog even airgappen, gewoon, dat hele GPT-systeem, voor zover dat een systeem is wat je kan airgappen, dan zal er vaak gezegd worden van: ja, hoezo?
13:10
D-, er zijn nu al kinderen die hier gebruik van kunnen maken op school. Die mogen er nu niet bij. Die hebben geen goede leraar.
13:15
En nu ga jij die leraar afhouden, terwijl er gewoon een virtuele fantastische leraar voor ze klaarstaat. Wat naar van jou, Wytse, met je airgappen.
13:23
En, uhm, ik denk dus dat, als jij aan me vraagt: vind je het onverantwoord? In dat argument kan je het onverantwoord noemen dat we het airgappen. Ja. Dus dat is maar net vanuit welke kant je komt.
13:33
Ik denk zelf, uhm, de go fast and break things, zeg maar de standaardpostertjes die bij Facebook aan de muur hingen, hangen, weet ik niet zo goed.
13:43
Dat is een beetje die ethos, hè, van: oké, duw het maar gewoon online en we zien het allemaal wel. Uhm, ja, dat, dat dat op een gegeven moment in een bepaalde orde van grootte niet meer, niet meer kan.
13:53
Je kan niet met ieder fenomeen dat doen. Als jij zegt: ik heb een nieuwe smaak ijs uitgevonden. Go fast, break things. Ik ga gewoon eens staan verkopen op de, op de Dam hier en daar worden een paar mensen ziek van.
14:03
Nou, dat is nog steeds rot, maar niet een wereldwijd effect. Of het moet echt ijs zijn met iets [gniffelt] heel bizars erin, maar laten we ervan uitgaan. Dus de go fast en break things.
14:12
Alexander gaat innoveren op, innoveren op het gebied van ijssmaak. Fine, maar innoveren op het gebied van zo'n, ja, samenlevingsontwrichtende technologie.
14:21
Nou, ik denk dat juist voedsel en, en bijvoorbeeld ook farmacie zijn voorbeelden die juist heel erg gereguleerd zijn.
14:27
Dus dat ijsvoorbeeld is eigenlijk een heel slecht voorbeeld, want dat is nou juist een voorbeeld waar hele strenge regels voor zijn. Ja.
14:32
Nee, ik heb wat dat betreft niet zo'n ijsinnovatiedrang, maar ik denk o-gewoon innoveren op het gebied van voedsel. Dat is dus, dat is bijna lastiger qua regels dan innoveren op het gebied van AI.
14:42
Want je mag heel veel dingen met voedsel niet zomaar doen.
14:45
Ja, ja, en ik denk dus dat we daar dan blijkbaar met elkaar inno-, in, in, intuïtief, ik wou innovatief, maar intuïtief goed bij kunnen of zo van: nee, het zou toch gek zijn inderdaad, als je zomaar iets kan gaan verkopen wat mensen in hun mond doen.
14:58
Mhmm. Dat moeten we niet willen, want dat komt dan in je lijf en dan word je misschien ziek. Maar ik heb, uh, een vorige keer al tegen jou zitten roepen van: er zit lood in je TikTok, er zit lood in je TikTok.
15:07
Hè, om maar een beetje die intuïtie van mensen aan de gang te krijgen van: het kan zomaar zijn dat wat je met je ogen eet- Ja. Dat dat ook ongezond voor je is. Ja.
15:14
Maar da-daar voelen we ons minder, uh, ik, ik ben daar minder gespannen over.
15:19
I-, ook, zeg maar vanuit mezelf, dat ik merk van: mwah, nee, nee, ik vind het toch enger dat er iets in mijn lijf komt fysiek dan dat, uh, dat ik iets raars lees en dat ik, dat, dat dat dan iets met mij doet of zo.
15:28
Ja, ja, het lijkt minder erg. En wat is, wat is nou, wat doet OpenAI op het moment dat ze alignment proberen bij te brengen? Nou, da-, dus dat thema van alignment, dat gaat nu door de wandelgangen.
15:37
Bij de Europese Unie hoor je dat op de gang en dat zit in heel veel, uh, uh, journalisten schrijven daar nu over. Want dat alignment problem wat ik net even had geïntroduceerd, dat is nu een ding.
15:46
Want ja, nu hebben we een soort van iets wat slim lijkt. Laat ik het dan even zo zeggen, uhm,
15:52
en we weten eigenlijk niet helemaal hoe het werkt, maar het is al wel dagelijks terwijl wij hier zitten nu mensen tips en adviezen aan het geven. Mhmm.
15:59
Met iedere keer een irritant alineaatje eronder met: maar je moet wel weten. Ik ben een taalmodel. [lacht] Ja, dat negeren we dan allemaal. Ik ben loodgieter, een eenvoudige schoenlapper.
16:07
Dat soort GPT cookie wall die we allemaal negeren nu al. Ja, ja. Dat laatste alineaatje kan eraf. Zou bijna een goeie zijn voor de system prompt. Val me niet meer lastig over die omhalen, over dat je een taalmodel bent.
16:18
Die, uh, die footnotes hoeven we niet. Nee. GPT. Ja. Uhm, maar, uh. Iedereen heeft het erover, over alignment. Nou, wat ga je dan doen als bedrijf?
16:26
Ik zeg het even cynisch, hè, en ik geloof dat- Ja, je gelooft het niet zo. Je, je praat er heel cynisch over inderdaad. Je vindt het allemaal maar, maar, uh. Nee, ik ben blij dat, dat OpenAI hier dan ook over praat.
16:36
Ik denk dan wel: GPT-4 staat al online en jullie hebben nu een alignment groep opgezet. Oké, [gniffelt] op tijd zou ik dan zeggen. Ja.
16:43
Maar goed, de Super Alignment groep, uh, want super intelligence, dus super alignment, dat is het grapje.
16:49
Uh, wel opgezet door ste-, twee vooraanstaande, uh, researchers op dat gebied, dus die hebben ze ook meteen aangenomen, begreep ik. Uhm,
16:57
en die groep is eigenlijk een onderzoeksgroep binnen OpenAI, die ook resources krijgt. Compute, dus daadwerkelijke, uh, machines om op te werken, want die zijn zo duur.
17:06
Maar ook mensen binnen de organisatie, 20%, ik weet niet wat dat dan voor getal is of zo. Voelt een beetje als: op vrijdag doen we alignment. Ja, nee, maar ze, ze nemen het heel serieus, hoor.
17:15
Dat is, dat, dat is de takeaway. Maar goed, ik denk dat het wel een echte groep is, ook door de twee die erbij betrokken zijn en dat, dat ze het ook echt gaan proberen hier iets mee te doen. De vraag is.
17:25
Maar wat doen ze dan? Nou, dit, ik, nou. Prompt schrijven en dan zeggen. Nee, hoezo? Ik, wat ik denk. Wel denken aan de diertjes.
17:31
Nee, nee, wat ik denk is dus dan, uh, en dan, ik denk dat we dat nog wel iets verder kunnen lezen als we er nog iets dieper in zouden duiken, maar dat het gaat om bijvoorbeeld: oké, kunnen we manieren verzinnen waarop we kunnen ze-- oké, hoe geef je alignment vorm?
17:45
Hè, dus als je alignment zou willen doen, hoe doe je dat dan? Punt twee is: hoe verifieer je dan dat je alignment nog intact is? Dus hoe doe je de doos open- Ja.
17:53
Om te kijken of er onder, onder de grond nog gebeurt wat je-- die twee vragen zijn al. Hoe definieer je dan alignment? Als in: maak ons niet dood. Nou ja, je krijgt een beetje Asimovs, uh, uh, wetten, zeg maar. Ja.
18:03
Je zal nooit een mens na-, uh, kwaad doen, uh. Dan ga je dus heel erg expliciteren wat onze waarden zijn als mensen. Ja, en dit is eigenlijk waar, wat als een rode draad door heel POCKIE heen loopt nu. Mhmm.
18:14
Dat wij er dus achter de eeuwenoude vragen komen. Ja. Wat is een goed mens? Wat is gezondheid? Wat is een goede samenleving? Wat willen we kinderen leren? Ja, en dat, dat vind ik ook, want, want die AI zegt:
18:26
wat willen jullie dan? Mhmm, mhmm.Dus die staat daar nu met een, met een prompt. Het vraagteken staat, knippert nu voor de hele samenleving in die terminal. Zeg het maar. Ja. En dan. Dus.
18:35
Maar daarom vind ik het zo interessant. Want je hebt dus de alignment problem kan je interpreteren als in, uh, als we het al zouden kon-kunnen invoeren en controleren, wat gaan we invoeren dan?
18:44
Dat zou het probleem kunnen zijn. Dat is ook een probleem. En dan is het: oké, maar we weten het nu. Maar hoe voeren we het dan in? Zijn dat een paar regels? Moet dat getekend worden? Worden het schilderijen?
18:53
Hoe bre-- hoe krijgen-- wordt het een video? En dan, dan een ander alignment problem is: hoe houden we in de gaten dat het allemaal gebeurt? Ja. En, uh, op zich,
19:02
uh, dat dit dan nu, uh, e-e-e-, zo heet, uh, vind ik wel-- het klopt wel. Het is niet een soort van leeg of zo, dit, dit verhaal. Misschien mijn verhaal wel, maar ik bedoel het, wat OpenAI hier doet.
19:14
Waar overheden zich druk om maken en waar existentiële risk mensen al heel lang mee bezig zijn, is een legitiem vraagstuk en echt wel een probleem.
19:23
En, en ben jij het helemaal eens met de redenering van die existentiële risico mensen dus die, die ervan uitgaan dat dit m-misschien voor een soort van ap-apocalyps zou kunnen zorgen?
19:34
Ja, kijk, in een groep vissen ben ik, zeg maar als persoon echt degene die als eerst roept van: jongens, er is, voor mij voelt het- Haai, haai. Voelt het water nu warmer? Nee, nee, veel, veel platter nog. Oké.
19:44
Kijk, ik zag net iets knipperen in mijn, in mijn ooghoek gaan. Ja. Dus dat is mijn, dat is mijn rol in een groep, denk ik altijd. Oké. Als je het, als je het mij vraagt, zou ik het altijd een beetje op de, uh,
19:54
veilige toer doen. Dan ga je uitzoomen en dan zeg je: oké, maar kan het niet, kan er niet een wereld zijn of een, of een scenario, een narratief voor de mensheid afgespeeld worden waarin voorzichtig zijn gevaarlijk is?
20:07
Ha ha ha. Dat is natuurlijk altijd met iemand-- als jij niet naar buiten durft, want je vindt het daar spannend, dan ga je vragen aan iemand: waarom durf je niet naar buiten?
20:15
Nou, dan ben ik bang dat er iets gebeurt met me. Maar dan blijkt dat het binnen zitten nog ongezonder is dan wat je buiten zou kunnen tegenkomen.
20:20
Waardoor je in een hele rare pa-- dat is niet voor iedereen die thuis zit en zegt: ik durf niet naar buiten. Ik wil het niet bagatelliseren, maar er zit een hele pijnlijke paradox in risicomijdend gedrag. Ja.
20:30
Het kan zomaar zijn dat dat gedrag hetgene is wat de oorzaak, wat je probeert vermijden. Dat maakt dat jij naar buiten komt. Daarom zit ik hier. Ja. Dus, uhm. Ja. En op, op dit gebied.
20:39
Kijk, het is denk ik wel goed dat we, dat, en dat we is zo'n ontzettend groot woord. Wie is we?
20:46
Maar goed dat we als samenleving, als groepen mensen met elkaar in een soort decentrale federerende, uh, big mind, dat we wel met elkaar praten over waar-- er moeten wel een soort grenzen zijn.
20:59
Ik merk dat daar een soort behoefte bij mij. Dit is misschien hoe ik ook controle krijg in mijn eigen leven. Dat ik zeg van: oké, uhm, je, ik, een vriend van mij werkt ergens.
21:08
Het is le-letterlijk een verzonnen voorbeeld, maar vaak tegengekomen. De sfeer binnen een bedrijf verandert. Er zijn wat nieuwe collega's, er is nieuw management, ze gaan verhuizen en er is een andere investeerder. Mhmm.
21:19
Nou, dan zeg ik altijd: joh, maak nou voor jezelf even een paar afspraken met jezelf waar jouw grenzen liggen. Alvast. Dus als die en die en die collega ook weggaan, dan ga ik ook.
21:30
Of als ik dit, dit, dit moet doen, dan kap ik ermee. Want als je dat niet voor jezelf ook echt opschrijft, dan ga je die grenzen verleggen. Ja, dan word je een soort kikker in, in, uhm, heter wordend water.
21:39
Ja, en dan, want dan ben je het op een gegeven moment ook zelf vergeten, zeg maar.
21:42
Dan is het heel lekker, uh, om, misschien kan je dat dus tegenwoordig vragen aan AI, van: joh, stuur me iedere maand even een appie van: hé, hou je je nog aan je eigen grenzen? Ja. Hoe is het? Ja.
21:50
Nou, ik denk dus dat we-- maar ik merk, ik, bij, het zou misschien goed zijn als we dat met elkaar ook een beetje bedenken voor hoe groot GPT in ons leven mag worden, hoe dat dan, hoe we daar dan mee omgaan als samenleving.
22:01
Hoeveel werk mag er in één keer weg geautomatiseerd worden? Want ik ben, ik ben veel meer, dat is veel moeilijker. Het is makkelijk om te zeggen: alle deuren open, go fast, break things. Innovatie is de king.
22:14
We gaan er achteraan rennen. En joh, wat we onderweg tegenkomen, lossen we nog wel een keer op met een nieuwe innovatie. Echt veel cyniek. Mhmm. Of we gaan terug naar huifkarren.
22:22
Steek die kaarsen maar weer aan en, uh, daar wordt het beter. De, het moeilijke is een soort van dat, dat vage midden waarin we dan zeggen van: oké, wel een beetje die deur open. Maar het, het grappige is dat in de, uhm,
22:36
in de, ik zit even te twijfelen over deze tak, maar ik denk dat hij wel kan.
22:40
In de klassieke cybernetics, wat een beetje eigenlijk systeemdynamiek is, oftewel: maak je geen zorgen, het nadenken over, destijds waren er, heel veel machines kwamen erop in die tijd van de cybernetics, en daardoor hadden heel veel engineers zoiets van: werkt die hele wereld niet ook gewoon als een machine?
22:56
En nu is alles een computer. Wanneer was dit? Wanneer was cybernetics? Cybernetics is sixties, denk ik. Seventies. Oké. Ja, ik heb destijds in mijn afstudeeroptie heel veel over geschreven. Dio. Nou ja, je had toen, uhm,
23:09
Buckminster Fuller bijvoorbeeld. Tip om eens te lezen. Uh, het ging heel erg over dat zien als, die hele wereld als een groot cybernetic systeem. En cybernetics gaat over, uh, uhm,
23:20
uh, het idee dat al die apparaatjes, al die dingetjes, al die entiteitjes in die wereld, die zijn met elkaar verbonden en hebben bijvoorbeeld, het woord feedbackloop komt daar bijvoorbeeld uit.
23:30
Is dat iets, hè, als jij een microfoon hebt en die sluit je aan op dezelfde speaker als waar de microfoon op, gaat hij feedback geven. Mhmm. Want het geluid creëert geluid. Mhmm. Dan krijg je een hele hoge piep.
23:38
Dat is een feedbackloop. Ja, uh, maar zo hadden ze nog meer, een soort abstracte dynamieken geëxtraheerd uit machines.
23:46
Dus je kan gewoon bij een motor gaan staan en zeggen van: hé, grappig, daar ontstaat een soort van druksysteem. Daar zie je wat, uh, loopjes ontstaan. Zo is misschien ook de maatschappij. Ja, of, of een organisatie. Ja.
23:56
Toen was het natuurlijk dikke money verdienen, want je kreeg allemaal coaches die zeiden van: je hele organisatie is gewoon een motor. Oh ja. Jij pressure. Doe als de machine.
24:03
Ja, en dan, nou, gaat het, en dat, zo'n model valt op een gegeven moment natuurlijk, want het is niet helemaal een machine.
24:09
En we zijn ook niet helemaal een computer, dus dat heeft, in kleine beperkte plekken kan je daar waarschijnlijk wel iets mee doen, maar als je dat te groot gaat maken dan valt dat uit elkaar.
24:19
Uh, maar een van de mooiste metaforen uit die, uh, cybernetics is governor.
24:24
Uh, op een stoommachine, uhm, zit een apparaatje dat er eigenlijk voor zorgt dat, dat die stoommachineEhm, niet te snel gaat draaien, want er zit geen gaspedaal op iedere stoommachine.
24:35
Die wil je eigenlijk standaard laten draaien naast jouw textiel, textielmil. Er moet niet iemand heel de dag zitten van: te hard, zachter, te hard, zachter. Ja. Nou, wat ga je dan doen?
24:42
Dan creëer je in dit geval, is dat een, uh, stokje met balletjes eraan die gaat draaien. En hoe harder die gaat draaien, hoe meer die gaat duwen op de toevoer.
24:50
Waardoor die dus automatisch de toevoer regelt door hoe snel die draait. Oké. Dus dan creëer je een koppeling. Oké. Nou, dat ding heet: The Governor.
24:57
Dit is wat mij betreft het romantische beeld van wat een hele overheid zou moeten doen. Is dus niet die buis, die buis dichtduwen, want dan gaat die stoommachine uit, maar ook niet dat ding op hol laten slaan.
25:08
M-hm, m-hm. De truc is hoe met z'n allen, hè, in een democratie. Hoe houden we nou dat systeem zo dat die stoomlocomotief niet letterlijk explodeert van hitte, maar dat ding wel kan rijden.
25:18
En dat is volgens mij, uh, uh, een beetje de rol, uh, die bijvoorbeeld een Rathenau Instituut heeft, zoals we die mooi hebben in Nederland en allerlei andere instituten, is om te zeggen: hoe kunnen we innovatie,
25:31
ja, het woord controleren is wel rot, maar het is meer een soort temmen. M-hm, m-hm. [gniffelt] Zonder het kapot te temmen. M-hm.
25:39
Dus dat is mijn hele grote antwoord op: vind je nou dat we dit, hadden ze het mogen aansluiten op het internet?
25:45
Ik denk dat er heel veel geluk is, en dat is, dat is, dat is ook het mooie van de hele menselijke geschiedenis. D'r zit o-, gelukkig ook een hoop geluk in.
25:52
Is dat we gewoon dingen hebben gedaan, uh, uit een soort naïviteit of een soort, er was paniek, dus vlug iets bouwen en dat ging dan over het algemeen, uh, wel goed. Maar,
26:04
laten we in ieder geval met elkaar afspreken wanneer het dan niet goed gaat.
26:06
Dat is misschien even om terug te komen op die vriend van mij die dan in een baan zit van: oké, uh, is het als onze kinderen alleen nog maar AI-vrienden hebben, is het dan niet meer goed?
26:15
Of, uh, ik hoorde jou daar, uh, in, met Nerds om tafel over praten. Ga je vreemd als je alleen nog maar 's avonds op school zit te praten met je AI-vriend of -vriendin en niet meer naar je daadwerkelijke leven gaat?
26:26
We zouden als maatschappij nu al kunnen nadenken over scenario's die we niet oké vinden, zodat als het gebeurt, we niet denken: ja, nog een klein beetje, het kan nog wel een klein beetje meer.
26:36
En omdat we niet meer weten wat onze grenzen zijn. Nu, daar ben ik oprecht wel nieuwsgierig naar in, in jouw geval.
26:41
Want zijn er nu op, kan, misschien is het een te grote vraag, maar zijn er concrete dingen waar jij van zegt, van: hé, in mijn leven, als ik daarmee geconfronteerd word als app of dienst, of ik zie mijn kinderen dat gebruiken, of mijn vrouw of vrienden, dat ik dan zeg: hé, nee, dit is, uh, niet fijn.
26:56
Voor mij is nieuws, is wel een groot ding, is wel een groot ding. Daar moeten we het ook zeker nog een keer over gaan hebben in deze serie. Maar gewoon, hoe gaat journalistiek veranderen door AI?
27:05
Hoe gaan we, hoe gaan we informatie tot ons nemen? Dat ligt een beetje in het verlengde van hoe we, hoe we reclame tot ons gaan nemen.
27:11
Maar ja, het, het idee dat we straks met z'n allen geen gedeelde werkelijkheid meer hebben omdat er geen economische incentive is om een gedeelde werkelijkheid te hebben. Die is er nu nog wel.
27:22
En, en, d'r is een, een, uh, dat je door, nog steeds goed geld verdient aan een, aan een Volkskrant, uh, maken.
27:30
Maar als dat, als dat straks niet meer zou is, godbetert, godverhoede, moet ik zeggen dan, uhm, d-dat is wel een scenario waar ik me zorgen over maak, ja. Ja, dat is een soort van, uh, om toch het woord, uh, ultra.
27:42
Was dat het woord? Nee. Super, super! Sorry. Super, super. Superfilterbubbel. Ja, een superfilterbubbel. Ja, laten we die bij deze klo-, uh, coinen. Ja. Ja. En da-, en, en dan.
27:52
Maar heb je dan ook voor jezelf nu, als je het er zo met mij over hebt, een soort van grens dat je zegt: dan ga ik over een- Dan moet ik dus tegen de, tegen de stroming van de technologie in proberen te gaan.
28:03
Uh, en dan moet ik mijn best gaan doen om buiten mijn filterbubbel nog dingen te zoeken.
28:08
En dan denk ik dat ik, uh, in de praktijk maar, uh, een klein, uh, van een, van een, bij een klein groepje hoor die überhaupt die behoefte heeft.
28:17
Dus alle, alle dingen die, uh, ik, be, ik maak me zorgen over de dingen waar mensen bewust tegen de stroming in moeten gaan. Ja, wat moeite kost. Ja, wat moeite gaat kosten.
28:29
En is het dan-- want ik kan me ook voorstellen, bijvoorbeeld, uh, als ik dan kijk, uh, ik zie een, uh, buurjongetje van mij, uh, twee uurtjes per dag Minecraft spelen. M-hm. Ik denk: nou, dat gaat wel goed.
28:40
Op zich leuk, weet je. Ik kan bij ga eens naast zitten, eens kijken wat ze allemaal doen. Ah, spelletjes, kinderen zijn er ook. Chat. Oh wat vet! Is gewoon heel, daar kan ik helemaal enthousiast van worden. M-hm.
28:47
Bouwen, helemaal mooi. Maar op een gegeven moment is daar dan die grens dat ik zeg van: nou.
28:52
Hè, dan, dan zou ik dan ook nog wel een soort van als een grapje vertellen aan mijn buren van: zo zes uurtjes per dag Minecraft, hè, het is zomervakantie, maar toch, de zon schijnt. Wink, wink, weet je wel.
29:01
Ga ik me dan als een soort van buurman een beetje mee bemoeien als het ware. Uhm,
29:06
dat ik dan, daar is dus dan een intuïtieve grens bij mij in een soort, dat zit weer een beetje in die metafoor van die stoommachine, hè, van hoeveel stoom laat je door tot dat ding ontploft?
29:14
En hoeveel druk je hem vast dat hij het niet meer doet? Ja.
29:16
In het geval van het kind, van een kindvoorbeeld is het dan, als jij je kinderen nooit laat interacteren met technologie, in welke zin dan ook, omdat je misschien een anti-tech iemand bent geworden of nu al bent, uh, dan, dan is er natuurlijk ook, daar is een gevolg aan.
29:30
Ja. In het negatieve van een wereld waarin ze niet meer kunnen functioneren. Ja. Dus ik, uhm, en dan, ik ben dan denk ik, dat is misschien wat ik dus doe om, om die orde in mijn geest aan te brengen.
29:40
Dat ik dan echt zeg: ja, nee, het is twee uur, het is gewoon screentime, maar in dan de breedte van de zi-, in de breedste zin van het woord van daar moet een, daar moet een grens aan zijn.
29:49
En ik kan me voorstellen in jouw voorbeeld, bijvoorbeeld bij de bubbels, uh, wat, uh, voor zover ik weet binnen de psychologie heet het eigenlijk consensusrealiteit.
29:57
Dus dat is de realiteit waar we een soort van consensus over hebben met elkaar. Als je te ver gaat uitwijken uit consensusrealiteit, dan kom je in een soort eigen ding.
30:05
En als het eigen ding, als je daar weer andere mensen kan vinden, heb je tenminste nog een groepje.Die de nieuwe consensusrealiteit gaat creëren.
30:12
Maar als dat te veel gaat fragmenteren, want je hoeft niet helemaal in één consensus te leven. Het kan heel goed zijn dat je zegt nou, ik doe wel mee
30:20
met dat de Tweede Kamer en de Eerste Kamer daadwerkelijk bestaan en dat de Albert Heijn een winkel is waar je wat kan kopen met euro's en dat de euro bestaat. Daar ga je dan allemaal wel in mee.
30:29
Maar dat je dan daarnaast zegt maar er zijn ook nog wat andere alternatieve munten die ik aanhou en ik heb ook een groepje.
30:34
Dit is [lacht] is niet waar, maar in mijn tuin waar we ook nog riddertje spelen in ons eigen ding of zo. We gaan. Maar Wytse voordat we hier ingaan, dit wordt gewoon een losse aflevering, ja. Ja.
30:44
Ja, want als ik, als jij eenmaal nu aangaat, dan zijn we weer een uur verder. Ja. Dat is gewoon. News. Dit is gewoon content. Teaser. Dit is een nieuwsblog. [lacht] Was dit nog het nieuws? Ja, dit is het nieuwsblog.
30:54
Wat dik. Ja, ja. Over het nieuwsblog gesproken. Er zijn, er was George Holtz was, was de gast bij Lex Fridman. Heb je hem geluisterd? Nou, ik heb fragmenten gezien op TikTok, want dat is hoe dit tot mij komt.
31:06
Heel eerlijk. Via het algoritme van de Chinezen. Ik, het ging over zelfrijdende auto's, onder andere. Wat viel jou erin op? En ik wou even, ik wou even gezegd hebben. Ja, wie is George Holtz? Misschien ook belangrijk.
31:19
Ja, want George Holtz is, ja, een beetje een markant figuur. Ja. Met zijn eigen opvattingen over van alles.
31:27
Waar ik het zeker niet altijd mee eens ben, maar ik voel me persoonlijk altijd wel aangetrokken tot de Vincent van Gogh van deze tijd. Ik ga hem toch even groot maken, want het is wel een hele bijzondere jongen.
31:39
Zijn politieke affiliaties en dingen daar even gelaten. Je merkt wel aan hem, het is een vrijdenker en hij zegt echt alles wat hij voelt en vindt. En dat is verrassend.
31:48
Want is bekend geworden als jailbreaker van iPhones. Dus waar. En de PlayStation. En de PlayStation.
31:54
Dus waar die grote bedrijven allerlei regels oplegden, was dit een soort van anarchist die ervoor zorgde dat iedereen wat voor apps dan ook kon installeren op zijn telefoon. Dat is een beetje de eerste bekendheid, toch?
32:04
Toen was hij ook veertien, kan ik me als ik me goed herinner. En dat heeft hem gevormd, want hij is dus als the next Einstein een soort van op de voorkant van bladen gezet. En hij, hij was het, zeg maar van hier is ie.
32:17
En dan Elon Musk uitdagen op dingen. En. Maar toen hij dus, zeg maar nog geen baardharen kreeg. Ja. Dus dat pakt je wel op voor life. Dat is hij zelf ook een beetje gaan geloven.
32:26
Dat wil ik er nog even bij gezegd hebben, zeg maar. Nee, want ik bedoel, op een gegeven moment ga je je eigen Kool-Aid drinken, zoals de mensen dat zeggen. Ja, tuurlijk.
32:33
Maar ik, ik, ik zie wel als ik hem hoor praten, dan denk ik wel van hey, ik, ik ga even luisteren wat hij zegt. Wat doet hij nu? Hij heeft een, hij heeft meerdere bedrijven.
32:43
Daar wordt hij ook altijd een beetje op bekritiseerd, want hij springt een beetje van ding naar ding. Want dat is natuurlijk een moeilijke te, hoe zeg je dat, te voeden geest als je zo'n.
32:52
Het is wel echt een, een ja, die is snel uitgekeken op dingen, laat ik het even zo zeggen.
32:59
Hij is eigenlijk zijn, zijn serieuze bedrijf is Comma AI en dat is een selfdriving car bedrijf, dus dat ging heel erg over, ging en gaat, over een alternatief bieden. Hij noemde het altijd de Android van zelfrijden.
33:13
Want je kan natuurlijk een Tesla kopen, daar zit het al in. Of een, of een Volvo of noem maar op. Maar hij zei: zou het niet gaaf zijn als je iedere auto zelfrijdend kan maken? O ja, zo'n kit.
33:23
Ja, en die verkoopt hij ook. Dat heet de Comma One. Je hebt ook de Comma Two. Dat is een tweeënhalf, drie duizend euro. Kan op twaalf, dertien verschillende auto's van drie verschillende merken. Dan plug je in op je.
33:33
Het is zo bizar dat het allemaal kan, maar goed, dan plug je in op de bestaande poort en dan kan je, nou, YouTube zit er vol mee, inderdaad een soort zelfrijdende auto hebben met aftermarket, zoals ze dat dan noemen.
33:43
Dus een kit. Alsof je een TomTom koopt voor je auto.
33:46
Ja, en het is allemaal open source en allemaal, hij maakt dat in Twitch slash YouTube livestreams gaat hij vier uur lang met koffie lopen beuken terwijl hij uitlegt wat hij aan het doen is.
33:56
Het is, de hele manier van een bedrijf zijn of een project zijn is fascinerend voor de manier waarop hij dat doet. Inmiddels heeft hij een tweede bedrijf opgezet. Dat heet Tiny Corp.
34:07
En Tiny, daar heeft hij een, hij is nu, [zucht] dat is, ja, dat, ik wil het ook weer niet te overdreven technisch maken en ik heb er ook niet alle verstand van. Hij is heel erg druk bezig nu om,
34:22
nu is, er is natuurlijk een monopolie van Nvidia op dit moment, de grafische kaart maker. Eigenlijk alle grote modellen draaien op hardware van Nvidia. Op alle AI te draaien heb je een grafische kaart.
34:33
Dan heb je grafische, grote, dure zware kaarten nodig. Terwijl AMD en Intel eigenlijk ook dit proberen te maken, maar die hebben nog helemaal geen goede software daarvoor.
34:42
Hij heeft nu letterlijk de CEO van AMD uitgedaagd van joh, ik probeer jou, ik probeer nu voor jou iets te maken waardoor wij open source mensen ook in plaats van alleen maar Nvidia AMD kunnen gebruiken. Oké.
34:53
Maar je API's zijn troep, je documentatie is slecht. Ik ga naar Intel toe en die hebben dus even een mailtje gehad en zo. Het gaat allemaal heel publiekelijk op een soort van vreemde 2023 manier.
35:04
Er wordt heen en weer getweet tussen CEO's live, publiekelijk op Twitter als je ingelogd bent waar, waar dan staat: joh, ik ga je helpen, ik heb het doorgestuurd naar mijn engineer.
35:14
We gaan zorgen dat jouw Tiny Core erop kan draaien, want zijn Tiny Corp is een, eigenlijk een AI bedrijf waarvan hij zegt: wat ik heb gebouwd om zelfrijdende auto's te doen heb ik gebouwd op een eigenlijk een oude manier van kunstmatige intelligentie met die grote taalmodellen.
35:29
Een groot taalmodel moet ook gewoon een auto kunnen besturen. Dus ik ga de, ik ga de GPT-achtige large language model ideeën ga ik een LLM voor selfdriving van maken.
35:40
Dan krijg je wat een beetje bij Tesla natuurlijk ook gebeurd is van [spuug] als je een auto kan laten rijden kan je ook een robot door een fabriek laten lopen met diezelfde software, aka. Maar wacht even. Sorry.
35:49
Ik moet even, dit moet even, dit. Ja, oké. Dus Nvidia maakt hardware waar software bij zit. Ja. Cuda. Intel en AMD kunnen ook hardware maken, maar maakt niet zulke goede software om taalmodellen op te draaien.
36:06
Ja, en je wil natuurlijk uiteindelijk iets maken wat ertussen zit waardoor je kan zeggen wat ze dan zogenaamd noemen de middleware of een soort Rosetta in een Mac is dat bijvoorbeeld of een virtual machine waarbij je zegt: ik heb hier Falcon, een heel groot taalmodel en ik ga dat nu draaien in een omgevingAgnostisch, dus los van of het nou een Nvidia kaart heeft of misschien zelfs hardware van Apple, want Apple.
36:28
En nu heeft Nvidia een enorme voorsprong in de markt omdat ze als enige die combinatie hebben en, en dat, dat aandeel zal onder druk komen te staan op het moment dat meerdere dit kunnen gaan doen met hun eigen hardware.
36:41
Ja, en George Hotz zit daar dus altijd een beetje in, uh, als, als lone inventor of zo. Het gaat allemaal wel heel erg over George Hotz, maar die, uh, ook voor hem dat hij zegt van, hij heeft een soort van allergie.
36:53
Dus als Tesla dan dat self driving gaat doen, zegt hij: dat ga ik open sourcen, daar ga ik kitjes voor verkopen, want het moet van iedereen zijn. Er zit een soort democratisering van technologie achter.
37:02
Uhm, en hij vindt het dan ook, denk ik, uh, dat zegt hij ook, maar hij vindt het dan gaaf om ze een beetje uit te dagen van: kijk dan, wat ik heb gemaakt voor $ 3.000 kan je gewoon installeren, is beter dan wat in jouw, uh, ding zit.
37:11
Ja. En nu zegt ie, uh, want dat is eigenlijk wat ik, waar ik het even over wilde hebben, omdat we dat er zelf al een aantal keer tijdens Pokie over hebben gehad, is het idee,
37:22
als je dus, je kunt met auto's beginnen, maar dat kan veel breder. Dat kunnen, even gemakkelijk gezegd, een trein, een graafmachine, uh, een landbouwmachine worden op hetzelfde model of een aangepaste. Zelfrijdend.
37:33
Zelfrijdend, zelfsturend. Ja. Ja, en dan kan je, maar dan kan je zeggen: oké, maar datzelfde, hè, die auto heeft een paar camera's, een microfoon en een laser. Dat kan ook op een robot.
37:42
Dan loopt hij gewoon, uh, door een gebouw heen en dan gaat hij, uh, schoonmaken. Precies. Je kan ook een politieagent maken als je een zelfrijdende auto kan maken. Ja, ongeveer. Grote stappen maken. Ja, ja, ja.
37:50
Maar dus hij heeft nu, George Hotz merkt dan ook van: ik moet eigenlijk dat Comma AI, dat was nog, dat was nog te klein, mijn ambitie.
37:58
Ik ga naar TinyCore en ik ga dat, dat, dat, d-d'r zit natuurlijk een paradox in, want het is juist een grote ambitie heeft, maar in een klein bedrijfje. Leuk. Uhm, ik ga open source maken. Al deze modellen, taalmodellen.
38:10
Ik ga meewerken aan fundamentele software om te zorgen dat het overal kan draaien. Niet alleen maar bij Nvidia, want het moet op verschillende plekken bevrijd worden. Laat ik het dan even zo zeggen.
38:19
Een soort van democratisering en daarbij hoort ook, en toen gingen mijn, werden mijn oren gespitst, want ik dacht: nou, George was weer een, want het is, ik zeg het toch nog maar even, een bijzondere man om naar te luisteren.
38:31
Om, uh, nou ja, er zit een hoop air om die jongen heen, maar hij zegt op een gegeven moment: ik ga Tinybox bouwen. Dat is dan zijn volgende bedrijf. Want wat wil George? Een virtuele vriendin.
38:41
Hij heeft een daadwerkelijke vriendin. Daar gaat het ook nog even over hoe dat dan allemaal werkt. Een, een bizar gesprek moet ik zeggen. Maar goed. Over hem en zijn vriendin.
38:50
Nou ja, op een gegeven moment, uh, kijk, hij wil Tinybox bouwen. Die kan je nu ook pre-orderen bij hem. Wat is Tinybox? Dat is eigenlijk je eigen ChatGPT thuis. Mhm.
39:00
En hij, hij heeft er ook nog voor gezorgd dat het precies de hoeveelheid stroom gebruikt als het opladen van een elektrische auto, zodat de overheid niet kan zien dat je hem thuis hebt staan.
39:09
Dit, ik zit dit niet te verzinnen, dit is allemaal echt waar. Ik hang wel aan je lippen op dit moment.
39:13
En dat gaat ook terug naar waar wij het eerder over hadden, dat er waarschijnlijk zoals nu wietplantages worden opgespoord door het in de gaten houden van de electrical grid in Nederland.
39:22
Je kan daar natuurlijk een apparaat op zetten die dan gaat zeggen: dat ziet er wel heel erg uit als het stroomprofiel van een plantage en dan ga je er naartoe. Ja.
39:29
Nou, zo kan je natuurlijk ook het stroomprofiel meten van iemand die zijn eigen GPT thuis aan het draaien. George gaat ervan uit dat dat straks niet meer mag.
39:36
Om even aan te geven, daarom zeg ik ook steeds erbij: het is een man met bizarre ideeën. Waarom mag dat straks niet meer? Omdat, hij ziet op gelijke voet met wapens, het wapenbezit. Het is het bezitten van je eigen.
39:47
Waar argumenteert hij dat, waarom dat zo gaat zijn? Uhm, omdat de, ja, de potentiële-- kijk, hij zegt: als ik een robot in huis heb rondlopen,
39:57
uh, de robots zijn, gewoon laten we zeggen een humanoïde robot, zoals Tesla Bot en, uh, [gniffelt] hoe heet dat ding van, uh [lacht]? Boston Dynamics. Ja, of Boston Dynamics heeft die Atlas robot.
40:09
Maar stel je even voor, eruitziende als een gemiddeld vol-, uh, volwas-- jongvolwassen mens qua grootte. Dan loop je natuurkundig tegen een aantal zaken aan.
40:19
Even first principle thinking, hè, waar, uh, Musk en George Hotz heel erg van houden. Dan ga je kijken: wat kunnen we nu qua batterijen en motoren kwijt in die vorm? Hoe lang kan dat dan rondlopen?
40:29
Wat kan het dan optillen? En hoeveel computers kunnen daarin? Ja. Dan loop, het probleem is: er kan eigenlijk nu niet genoeg compute in die robot zelf om hem een, om hem een brein te geven.
40:39
Dus is de oplossing voor nu: dat brein zit niet in die robot, maar dat wordt er naartoe gebeamed. Want ja, wifi, dat kan je natuurlijk wireless. Draait in de cloud, de hersenen.
40:47
Ja, dus de, dus je hebt een robot die in je huis loopt, maar de hersenen draaien bij Google.
40:51
Nou, dan zegt onder andere George: die hersenen draaien in mijn garage, want ik wil dat mijn robot die door mijn woning heen loopt, sowieso latency, dus kortere tijd dat die kan reageren. Ja, praktisch.
41:01
Maar ook: ik wil dat dat brein bij mij thuis is, want ik wil dat dat van mij is.
41:05
En het hebben van een synthetisch brein in jouw woning kan in potentie natuurlijk ontzettend krachtig zijn, want je kunt het niet zomaar uitzetten, want het staat op fysieke locatie.
41:14
Ervan uitgaande dat er mensen zijn die dat uit gaan willen zetten. Ja. En er is latency, het waardoor het allemaal sneller werkt. En het is ook gewoon een fijn idee dat je je brein niet bij Google hebt gestald.
41:25
Ja, want ik denk dus dat, dat, kijk, ik zit hier zelf zo in. Ik als in Wytse, die dit nu vertelt, dat ik het niet fijn vind dat al mijn data in de cloud staat. Precies, precies.
41:34
George Hotz zit er heel erg in dat hij zegt: ik vind het het recht van iedere Amerikaan, want hij is ook een Amerikaan, dat zij thuis zo'n computer mogen hebben staan. Het gaat heel erg een Republikeins issue worden.
41:44
Lo-lo-locally run AI [lacht].
41:47
Nee, maar dus ik merk dat bij mezelf ook al, want daar ben ik altijd mee bezig, dat, ja, maar je kan dus impliciete politieke statements maken terwijl je, uit, zelf helemaal niet uit die hoek redeneert. Ja.
41:57
En dat is natuurlijk vanuit een Amerikaans brein, uh, allemaal een soort van wapenlobbyachtig idee. Of in ieder geval.
42:03
Ja, maar oké, maar hij wil dus een lokaal, een, een taalmodel runnen om een, om een brein uit te breiden. En dat is dan omdat hij een virtuele vriendin wil hebben rondlopen straks.
42:13
Ja, dat heb jij, dat heb ik natuurlijk ook nog gezegd, want. Ja, ik moet deze loop toch wel even afmaken. Ja, want [beiden lachen] als je, als de luisteraar denkt: nou, die Wytse, die associeert erop los. Nou ja.
42:24
Nee, ik ben het gewoon aan het navertellen. Ja [lacht]. De podcast waar ik zeer spijt heb dat ik niet heb geluisterd. Ging helemaal gek aan het einde. Ja.
42:30
Uhm.Uh d-er is het idee dat hij een virtual girlfriend wo-- uh, wilt hebben. Helemaal wa-waarom weet ik niet zo goed. Het zit een beetje in- Waarom niet Wietse? Dat is toch niet iets om te bevragen?
42:43
Dat lijkt me nou, dat lijkt me nou het enige wat je niet hoeft uit te leggen. Dat is fijn voor erbij. Ja, oké. En dan [Beide lachen]
42:50
hij vindt het, hij vindt het dan ook heel erg belangrijk dat, uh, hij zit dus helemaal naar die hele stack te kijken, hè, dus dat hele van: oké, ik heb dan een machine nodig, hardware waarop het draait en ik vind het niet fijn dat ik dat maar bij één fabrikant mag kopen.
43:05
Waarom kopen mensen het eigenlijk alleen maar bij Nvidia? Omdat die software die, die anderen maken allemaal rot is. Oké, die ga ik met mijn groep mensen eromheen, want hij is niet alleen, verbeteren.
43:14
Oké, dan kan ik het kopen en thuis neerzetten. Hoe zorg ik er dan voor dat het niet opvalt dat ik het thuis heb staan? Oké, ik ga het precies een en power envelop geven van een gemiddelde ze-, uh, elektrische auto.
43:25
Ook al over nagedacht. Ja. En dan, dan kan ik namelijk in huis een robot laten rondlopen die een, uh, draadloze verbinding heeft met die computer daar. En laat die robot dan ook mijn vriendin zijn.
43:35
Dat, zo ver met fysieke zaken ging hij nog niet, maar, en ik, uhm, ik, weet je dat, oké.
43:44
[schraapt keel] Het, het, uh, wat er vaak gebeurt is dat je een beetje, uh, met zo'n, met zo'n jongen als George, als ik dat dan even zo luister.
43:52
Ik ben geen psycholoog, maar ik ga hem toch even analyseren, dat hij een vrij disharmonisch profiel heeft, wat inhoudt dat hij, uh, op het gebied van technologie en software en hardware, uh, ons allemaal voorbij streeft.
44:04
Uh, die vliegt gewoon weg.
44:06
Maar dat betekent niet dat hij emotioneel dan ook direct, als ik even dat in twee, uh, splits, zeg maar, het intellecte-intellect en het emotionele, uh, ook ontwikkeld is, uh, tot op, op het niveau zoals de meeste mensen.
44:17
Nee, die, ja. Maar is het niet, dus is het niet ontzettend, ja, van negatief, naïef, creepy of positief, schattig, aandoenlijk, romantisch dat deze jongen dan denkt: ik ga een vriendinnetje bouwen voor mezelf. Ja.
44:31
Uh, als zijn einddoel. Ja, maar, maar het kan toch ook zo zijn dat het, dat het net is als, uh, uh, DARPA.
44:39
We, we wil-, we willen wapens maken en uiteindelijk hebben we het internet er als soort van side product bij gekregen en dus heel veel andere dingen. Dus je, je kan ook gewoon het, een, een ambitieus doel stellen.
44:50
Dit is een beetje een raar doel, maar oké, een ambitieus doel stellen om dan in de hele slipstream los je allerlei dingen op, zoals niet afhankelijk zijn van één hardware fabrikant om AI dingen te kunnen maken.
45:00
Als een punt op de horizon bedoel je? Ja, en ik vind op zich het hele idee dat je werkt om AI lokaal te maken.
45:06
Kijk, of je dat nou doet omdat je een wappie bent die denkt dat, uh, de, de, de, de, de, de SWAT-teams je, je, je, je AI-verbinding komen verbreken of, uh, of dat je dat doet om, om privacyredenen dat je AI lokaal wil hebben draaien.
45:18
Ja, whatever your reason, als het maar gemaakt wordt. Ja, ik denk dus in dat opzicht, wat ik wel belangrijk vind, is dat het in ieder geval grotendeels thuis kan draaien. Ja. Of in ieder geval- En moet draaien.
45:29
Op een locatie. Ja. Ja, want en het kan ook nog eens zo zijn dat, dat zou ik bijvoorbeeld heel gaaf vinden. En dan pak ik even een klassieke metafoor.
45:35
Misschien hebben we straks wel AI-providers zoals internetproviders en dan kan je gewoon kiezen in Nederland van- Voor een model. Ja, nou, dat je zegt: ik, uhm, nou, noem Freedom Internet. Ja. Die, uh.
45:48
Een internet service provider. Ja, vanuit, uh. Zoals Ziggo. Ja, een ISP.
45:52
Uhm, dat je zegt: nou, ik, ik wil op zich, ik vind het een, uh, beetje overdreven om thuis een apparaat ter grootte van een warmtepomp te gaan neerzetten, uh, die ook dezelfde hoeveelheid energie gebruikt, wat onderhouden moet worden door een cv-installateur.
46:06
Maar dat is dan de AI-installateur [lacht] die dat allemaal bij jou thuis gaat doen. Dat je zegt: nou, hè, dat gaat allemaal heel erg ver. Maar het allemaal in Amerika zetten bij Google waar het om- Ja.
46:15
Doorzocht wordt vind ik ook niet leuk. Ja. Ik zoek een middenweg. Ja. Dat er bedrijven zijn die gaan zeggen: oké, je kan bij ons infrastructuur huren, daar maken we bepaalde afspraken over.
46:24
We zijn een Nederlands bedrijf. Ja, ja, ja. Da, da, en daar. En dat jij zegt van: nou, ik s-, dan de vraag ik aan jou: joh, waar, waar leven jouw, uh, synthetische vrienden zich in? Nou, die heb ik allemaal gestald bij.
46:34
Maar misschien zeg ik nu iets heel naïefs, maar dit is toch wat al die cloudservices doen?
46:37
Dat Google dan zegt: ja, maar we hebben ook een data, data, uh, center in Zwitserland voor onze gebruikers in Europa en, uh, die is niet aangesloten op het Amerikaanse netwerk.
46:47
Ben ik dan heel naïef als ik dan denk: dat is gesplitst? Uh, nou, dat, de regelgeving. De NSA zou overal wel bij kunnen. Dat.
46:55
Nou, de regelgeving omtrent dit soort zaken, zeg maar de privacy shield en dat soort dingen, die vallen in de rechtszaal heel de tijd doormidden, want, dus die worden iedere keer getest in, a, en die vallen dan.
47:04
Dus juridisch lukt het niet. Nog niet. Om het echt goed te scheiden, bedoel je? Ja.
47:07
Dus iedere keer als er dan een zaak gespannen wordt te zeggen van: nou, we hebben, de Google heeft beloofd zo en zo en het staat allemaal hier en hier, maar is het dan ook echt zo?
47:14
Dan gaat zo'n rechter en onderzoeksteam aan de gang die zeggen: nou, we hebben gekeken, het, het is niet, het is niet zo te garanderen. Wat ze zeggen is niet helemaal waar. Niet uit leugens, maar gewoon, ja, het,
47:26
uh, als de, het is nu een beetje de consensus. Als de juridische entiteit niet binnen de Europese Unie zit, bijvoorbeeld als het om de EU gaat.
47:33
Als de juridische entiteit niet daar zit, dan kunnen ze het eigenlijk al niet meer garanderen. Want alles wat valt onder die entiteit erbuiten. Ja.
47:39
Los van wat je hebt gedaan met deurtjes en zo, vergeet het, hè, want er zijn gewoon regels over. Dus jouw vraag: als ik, uh, in Google Docs zit binnen Google Ierland noem ik maar even, dan is, ben ik toch veilig?
47:53
Ik, ik weet het niet precies, maar ik weet wel dat op het moment dat, dat het een datacenter is fysiek hier in Amsterdam, waar je misschien zelfs langs kan gaan en dat heet dan niet Access for All, maar AI for All.
48:05
Uh, waar jij, uh, een doosje huurt en daar staat de infrastructuur. Misschien zeg je: nou, die wil ik best delen met een paar vrienden, want die vertrouw ik wel.
48:12
En denk je dat, dat dan het, het taalmodel zelf is wat je huurt? Of dat je als het ware alle, alle soort van interactie die je met een taalmodel hebt, dat dat in, in.
48:24
Ja, dat is, nou, dat is een beetje een ding, hè, want je hebt nu, en dat, het lijkt zo alsof ChatGPT van je leert, terwijl eigenlijk ChatGPT statisch is. Mhmm.
48:34
Dus, uhm, dat, nou, statisch is het verkeerde woord, maar het is nu niet zo, uhm.Als jij sec met de API van OpenAI praat, laat het even daar houden, dan staat er ook netjes bij: joh, dit is de release van dan en dan.
48:48
En als je dan gaat vragen om: wie is er nu de president, dan zegt ie: weet ik veel, want ik ben uitgezet. Ik heb gescrawld tot en met X maand in dat jaar.
48:56
Dus het is niet zo dat hoe meer wij praten, hoe slimmer GPT wordt. Maar ook wel weer een beetje, want je kan een duimpje omhoog en een duimpje naar beneden doen. Dat wordt dan weer meegenomen in de alignment, namelijk.
49:09
GPT is niet alleen maar getraind wiskundig op een grote dataset, maar er gaat ook een heel proces van menselijke interactie nog daarna overheen om hem even te tunen.
49:18
Wat ze dan tuning noemen in plaats van alignment volgens mij. Maar, dus op een bepaalde manier is ChatGPT een beetje vloeibaar, maar in essentie niet iets wat nu slimmer aan het worden is door ons necessarily, zeg maar.
49:29
Niet dat wij gebruiken. Nee. Misschien wel op de achtergrond, hè. Dat zou kunnen. Dat zou ik- Daar ga ik eigenlijk zelf wel een beetje van uit, maar oké.
49:36
Het zou zo kunnen zijn dat alles wat wij daar intypen ook weer gebruikt gaat worden voor de, voor de volgende training. Dat is toch zoiets? Dat kan toch, dat, waarom zouden ze het releasen anders?
49:45
Ik heb daar vast op acknowledge op gedrukt zonder dat te lezen, wat wij heel goed kunnen. Ja. Dus concreet terug te komen op jouw vraag.
49:51
Uhm, ik denk dat het, uh, fijn is, al is het, en dan hoeft het helemaal niet het individu te zijn, maar laten we het even hebben over Nederland. Dat Nederland taalmodellen beschikbaar stelt.
50:02
Dat hoeft niet een overheid te zijn. Het kunnen een aantal organisaties zijn.
50:04
Of een stimulatiefonds waar wordt gezegd: het moet mogelijk zijn om als burger in Nederland te praten met een chatcomputer die staat in Nederland en waar ook van duidelijk is hoe die werkt, wie van wie die is en et cetera.
50:18
En dat daar een taalmodel draait, een van de open source taalmodellen. Mhmm. En dat er afspraken zijn over
50:24
alle gesprekken die je daarmee voert, die zijn daarna weer weg, want die slaan we niet op, want die hebben we niet nodig. Of wil je dat wel? Want je wil iets wat van jou leert en een geheugen heeft. Ja.
50:33
Daar verlangen we een beetje naar. Ja. Dan wordt dat stukje, kan nooit, uh, gebruikt worden om een onderzoek te doen of nooit gebruikt worden om te kijken of jij een arbeidsongeschiktheidsverzekering mag hebben.
50:44
Ik roep, roep maar wat. Mhmm. Misschien wel onderzoek op juridisch vlak als er iets anders aan de hand is.
50:48
Wat ik niet zo goed begrijp is waarom je het taalmodel echt helemaal fysiek lokaal zou willen hebben draaien als je ook de, soort van, de, de gesprekken zelf alleen maar heen en weer hoeft te sturen, encrypted.
51:01
Of denk je niet dat dat kan? Voor de verwerking van die informatie moet je decrypten, dus. Ja. Mhmm. Dus, dus, dus. Ja. Dus nee. Ja. Is een beetje moeilijk in het Nederlands, maar. Ja, ja.
51:11
Ik denk dat als jij zegt: we bouwen een GPT proxy, laten we het even zo noemen. Ja. Die staat in Amsterdam en die stuurt het daarna encrypted door naar OpenAI, dan moet dat doosje daar weer open. Ja, ik snap hem.
51:21
En zou, het is natuurlijk wel zo dat je verschillende modellen nu hebt die verschillende dingen heel goed kunnen. Ja.
51:26
Ik zat bijvoorbeeld naar een grafiekje te kijken die, uh, OpenAI's, uh, GPT vergelijkt met Claude van Anthropic. Ja. De soort van. De nummer twee op dit moment. De nummer twee. Vanochtend nog gekeken. Ja.
51:37
En, uhm, dan heb je verschillende assen waarop dat ding, uh, beoordeeld wordt, waaronder, uh, creativiteit in schrijven. En dan, eigenlijk, OpenAI scoort op alles beter.
51:49
Er is geen enkel ding waar, uh, uh, Claude beter op scoort, maar er zijn wel dingen waar Claude nadrukkelijk minder op scoort.
51:56
En, uh, zo zou je dus kunnen bedenken: oké, er gaan taalmodellen zijn die zich gaan specialiseren, misschien in één ding. Zeker.
52:03
Misschien is dit ook weer een tussenfase en, uh, heb je uiteindelijk helemaal niet meerdere modellen nodig. Maar ja, misschien aan de andere kant.
52:09
Misschien is dit juist wel iets wat je per, wat per model gescheiden gaat worden, uh, wat, uh, zeg maar wat je er precies aan hebt.
52:17
En als jij zegt, uh, George Hotz heeft het over, uh, een taalmodel gebruiken om zelfrijdende auto's te bedienen. Dan denk ik echt: oké, zo had ik er nog niet eerder over nagedacht.
52:27
Dus een taalmodel kan je ook optimaliseren om de echte wereld te begrijpen, zodat een auto zichzelf kan sturen. Ja, dit is, nou, daar kan ik wel een mooie, uh, intuïtieve, uhm, verhaal vertellen om dit.
52:41
Want ik had, dit, dit heeft mij ook tijd gekost van: hè, hoe kom je nou van een chatbot naar een autobesturend algoritme? Ja. Uhm, het is een, daar kan je, dat heet MIDI AI. Google het.
52:54
[lacht] Dat is eigenlijk een serie en het gaat er heel erg over dat, wat al snel werd uitgevonden, een beetje rond de tijd van de, uh, toen het nog een playground was met sec-GPT, nog niet ChatGPT, maar puur alleen GPT, dus text completion.
53:08
Ja. Dat je natuurlijk kunt praten, want dat, hè, we hebben het er al eens eerder over gehad.
53:11
Als de hele technologie nu wel bevroren zou worden, hè, omdat, uh, Wietze-achtige paranoia figuur dat voor elkaar krijgt, dan hebben we nog steeds genoeg te doen, want we kunnen nog- DBB gaat tegen AI strijden.
53:21
Ja, en dat moet allemaal, nee, maar dat moet allemaal, het mag nog wel draaien, maar het moet op pauze. Mhmm. En dat houdt in dat het niet meer doorontwikkeld mag worden.
53:27
Wat er dan nog wel dooront-, dus de taalmodellen niet. Wat er nog wel doorontwikkeld is: hoe praten we met taalmodellen? Daar zit nog superveel wat we nog van kunnen leren. Ja.
53:34
Nou, wat een van de gaafste dingen is die ik heb gezien, wa-, is: oké, uh, beste ChatGPT.
53:42
Ik, uh, wil graag een stuk muziek maken, uh, samen met jou, uh, en ik wil eigenlijk dat het een mix is tussen, uh, klassiek Bach en dan die en die periode en, uhm, uh, Ringo Starr van The Beatles.
53:53
Alsof die dan toch samen in een kamer hebben gezeten. Uhm, ik wil dat je dit voor mij uitprint in het volgende formaat waarbij alle tonen, uh, voor dit karakter staan.
54:03
Dus, uh, uh, alle noten bedoel ik, sorry, alle noten staan voor dit karakter. Alle, alle muzikale notatie wordt helemaal, het is een gigantische prompt dit. Dat zie je ook in die video's als je die bekijkt.
54:11
Er worden A4'tjes geplakt in die, in die prompt waarin een taal wordt afgesproken met GPT, een muzikale taal waarbij ChatGPT met woorden muzieknotatie kan doen, die dan. Oké.
54:22
En dan, dan wordt er dus gezegd: zou je voor mij een muziekstuk kunnen schrijven in de stijl van Bach, alsof hij samen met Ringo Starr een medley heeft gedaan?
54:29
Uh, ik wil dat je, uh, deze notatie gebruikt en het dan uitprint voor mij als een array, uh, dat is een computerterm, maar dat is een manier van, uh, data in een soort formaat printen waardoor je ermee kan, bijvoorbeeld in een tabel of in een Excel-sheet.
54:40
Muziek wordt dan opeens tekst. Ja.En dan staat daar gewoon, uh, de timing en dan komma A1. Dat is dan net zoals je kan schaken met tekst bijvoorbeeld. Ja, ja, ja. Die je ook met elkaar afspreekt. Ja, ja, ja.
54:50
Is precies dat. Die kan je ook, zo kan je ook schaken met ChatGPT. Nu al, trouwens, want dan doe je hetzelfde trucje. Ja.
54:55
En dan heeft die persoon een scriptje geschreven waardoor die specifieke notatie die hij met ChatGPT heeft afgesproken- Weer wordt omgezet naar muziek. In MIDI, in MIDI. Mhm.
55:04
En dan voert hij die MIDI in zijn piano en daar komt dan Bach uit. Aha. En dan zegt hij: kan ik, uh, nog, nog een laag schrijven en nog een laag schrijven? Kan je vocalen doen? Ik vind hem toch wat saai.
55:12
Kan je zo en zo doen. En dit werkt, hè? Dude, je, je zit-- ik zit dan te luisteren. Kippenvel en, want dan zit je te luisteren naar een door ChatGPT gecreëerde Bach. Kom, gecomponeerd door ChatGPT in de vorm van tekst.
55:25
En het klinkt nog ook. Maar hoe weet, hoe weet ChatGPT van Bach? Zeg maar, wat voor muziek Bach maakt? Interessant, hè? Ja, door, ik, ik denk dus door, dat er ook gevoerd is muziektheorie en uitleg over muziek.
55:39
Maar dan beschrijving. Ja. En niet zozeer- Ja...de muziek zelf. Ja, hoe komt eigenlijk die intuïtie van ChatGPT in ChatGPT gere-, terecht om dit te kunnen? Want ik bedoel, dit kan het.
55:48
Ja, dit specifieke voorbeeld vind ik echt heel vreemd. Ja, maar dat, het punt is dat je dus ook tegen, zeker in GPT-4 kan je dus zeggen: ik heb een, uh, tafel, daar staan op een aantal glazen.
55:58
Nu duw ik de tafel X graden omhoog. Uh, wanneer, bij hoeveel graden gaan de glazen schuiven als die glazen zo en zoveel wegen? En dan wordt daar van alles gebluft. Maar in GPT-4 is dat dus steeds vaker waar.
56:09
Dus er is blijkbaar een soort natuurkundig model in GPT-4 beland op een bepaalde manier- Ja...door alles te generaliseren. Ja.
56:16
Dit is ook, daarom zeg ik: het onderzoek doen naar de nieuwe semi-levensvorm GPT i-is nog lang niet klaar, ook al zouden we het bevriezen.
56:24
Dus nu hoor je misschien toch een beetje mijn bevriesargument dat ik denk: hebben we niet genoeg te doen als we er gewoon even afstand van blijven?
56:28
Is dit dan zo'n ding waarvan je, waarvan het zomaar zou kunnen zijn dat de mensen die het gemaakt hebben niet begrijpen hoe dit kan? Hoe kan hij weten hoe Bach- Daar zijn we nu.
56:35
Ja, en ook, want je kan dus ook zeggen: oké, ik heb een, uh, ik ga je in een doolhof, ga ik je in plain text, dus, hè, dat is tekst zonder opmaak, zoals je dat vroeger in Notepad had.
56:44
Ik ga een doolhofje voor je tekenen met streepjes. Er zit een balletje in à la Pac-Man en ik wil dat je dat balletje naar de andere kant brengt op de meest optimale manier.
56:52
Dit kan ChatGPT, als je het maar goed genoeg— en dan wil ik dat je het antwoord aan me geeft in instructies voor welke kant Pac-Man op moet.
56:59
En dan zegt hij bijvoorbeeld: Pac-Man moet drie stapjes naar links, dan twee naar rechts, dan vijf omhoog en dan zo. Dat krijg je dan gewoon terug van een taalmodel.
57:07
Dan voer je dat in in een robot en dan koppel je de motoracties van die robot aan die tekst van ChatGPT. En dan bestuurt ChatGPT dus een robot. En dat is dan de vergelijking met zelfrijdende auto's.
57:17
Ja, en dat is nog superrudimentair. Ja, ja, ja, tuurlijk. Dat doolhofje dus. En dat is dus de, de, de George Hot die dat dan: ah, we gaan het zo doen en we gaan het zo doen en dan 99% lukt niet en hij is 20 jaar vooruit.
57:29
Maar die soort van vreemde bravoure van hem, hij doe-, hij gaat het wel bouwen en dat creëert in ieder geval interessante zaken die, die maakt.
57:36
Zou dit nou, s-is een, is een taalmodel dan voor sommige dingen ook ongeschikt? Want als je dit zo allemaal zegt, dan denk ik bijna: waar, waarom heb je dan nog andere manieren van AI dan middels een taalmodel?
57:50
Nou, wat ik, uh, wat deze week, uh, uitgekomen van Microsoft, heb ik geen naam van, maar dat is een, uh, meer algemeen.
57:58
Wat zij zeiden is: we willen eigenlijk een algoritme die niet alleen maar DALL-E, dus het genereren van afbeeldingen of alleen maar muziek kan maken, want die hadden we al, hè.
58:05
Er waren al algoritmen voor muziek en voor plaatjes. En zij zeggen van: we willen toe naar een ge-, een general algorithm die muziek kan maken en plaatjes. Wat dus GPT met die tekst al een beetje kan.
58:17
Met een hoop sleutelen en een hoop slimme trucjes, want het is echt een hybrid tussen de prompt engineer en, uh, het, uh, uh, uh, taalmodel. Maar dat,
58:27
uh, het nu dus blijkt dat er heel veel te generaliseren is, zoals ze dat mooi noemen, van: ja, weet je, er zijn bepaalde rudimentaire patronen in muziek van oscillatie en harmonieën, ja, die je ook in het kleurspectrum vindt.
58:39
Dus misschien kan je toch wel met iets wat veel van muziek weet, iets doen op het gebied van beeld. En da-daar zijn dus best wel resultaten nu.
58:47
En blijkbaar kan je met iets wat heel veel van tekst weet en eigenlijk in essentie tekst voorspelt- Weer muziek maken. Weer muziek maken.
58:54
En even, want op het moment dat je dat, uh, luistert, zeg maar, die, uh, Bach compositie.
58:59
Het is dus nu, uh, diegene die dat dan vraagt aan, uh, het is ook interessant trouwens, want alles wordt in die video's gezegd met, uh, ChatGPT praat daar heel de tijd met de stem van Scarlett Johansson, net als in Her.
59:10
Wat voor mij ook een, daar hebben we hier wel vaker over gehad, maar een heel, ik vond het heel bizar, want hij zit dus nu Bach te schrijven samen met een fake Scarlett Johansson. [gelach] Het is zo woud.
59:20
En ik, ik zat dat filmpje ook te kijken gisteravond. Vriendinnetje ook naast me: wat, uh, wat ben je eigenlijk aan het doen? Ik zeg: ja, deze muziek is gemaakt, zeg maar, door ChatGPT, maar dan omgezet.
59:28
En die stem is Scarlett Johansson en die praat dan nu tegen mij. [gelach] Het was nog niet vreemdgaan, maar het was, was wel heel bizar.
59:37
Maar, uh, en het, ik, ik wil wel, het, hij zegt dan wel, die jongen die dit allemaal maakt, zegt dan van: oké, kan je me, kan je me een tip geven, ChatGPT, welk instrument ik het best zou kunnen gebruiken voor die derde harmonie die we er nu overheen hebben geschreven?
59:49
En dan is het: nou, en dan komt er heel laf geschiedenisantwoord van: in die tijd werd veel gewerkt met dit instrument. Ja. En dat selecteert hij dan in zijn MIDI-tool. Ja.
59:56
En zo samen maken ze dat dan en het klinkt steeds beter. Maar dat is wel een beetje net als een enquête heel erg sturend kan zijn, hè, in vragen. Zijn, er zit zoveel intelligentie in hoe hij de vragen stelt.
1:00:09
Supersuggestief. Juist. En dus- Hij is een hele goede prompt engineer. Ontzettend goed. Ja.
1:00:13
En, en, want dat is het idee dus, om het p-, stukje ChatGPT kan muziek maken eventjes af te ronden, is dat omdat er muziektheorie is over hoe harmonieën werken.
1:00:23
En- Juist...we hebben allemaal symbolen uitgevonden, uh, door de honderden jaren heen om muziek op papier te krijgen.
1:00:29
Ik denk dat op het moment dat je gaat werken met symbolen en of dat nou woorden zijn, hè, of enkele tekentjes, nootjes. Dan past, dan past dat in een taalmodel. Dan kan ChatGPT schaken en muziek maken. Juist, juist.
1:00:41
Dat is heavy, hè? [lacht] Ja, kan je zeggen. Dank voor het luisteren naar Pokkie. Tot volgende week. Tot volgende week.