Latest / AI Report / 'Manhattan Project' voor AI + ChatGPT voor $20k + Mac Studio draait AI lokaal | AI Report

Transcript

'Manhattan Project' voor AI + ChatGPT voor $20k + Mac Studio draait AI lokaal | AI Report · AI Report

0:00
Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wietse Hagen en ik ben Alexander Klöpping.
0:12
Amerikaanse congresleden willen een Manhattan Project voor AI lanceren, oftewel de AI-race nog gekker maken. Maar gisteren werd er aan de noodrem getrokken.
0:22
Voormalig Google-topman Eric Schmidt waarschuwt dat een agressieve race naar superintelligentie met China precies het tegenovergestelde effect kan hebben van wat we willen, namelijk juist meer spanningen en meer cyberaanvallen.
0:34
En we bespreken zijn alternatieve oplossing. Ondertussen lekten plannen van OpenAI uit om een nieuwe versie van ChatGPT te lanceren voor, hou je vast, $ 20.000 per maand.
0:47
Wij bespreken of bedrijven en universiteiten hier nou echt winst mee zouden kunnen boeken.
0:51
En Apple speelt ondertussen een opvallend spel door hun nieuwe Mac Studio aan te prijzen als een powerhouse voor het lokaal draaien van AI-modellen.
0:59
Dus geen clouddiensten die je per maand moet betalen, maar gewoon rekenkracht in eigen handen. Dat en meer bij AI Report. Veel plezier!
1:17
[muziek] Wietse, wat ik heel grappig vind, is dat, uh, jij zo gefrustreerd bent over de aandacht die Sesame krijgt. Even voor de helderheid, luisteraar, want Wietse gaat ervan uit dat u allemaal weet wat Ses-Sesame is.
1:31
En ik weet heus wel dat er een deel van u is die zit te denken: wat is dat? Sesame is een, uuuh, ja, een, een project, een bedrijf, uh, die een voicemodel maakt met twee stemmen in een demo.
1:42
Die kun je proberen en dat is wat het zo leuk maakt.
1:45
En die stemmen, die hebben meer emotie in zich, twijfelen meer, laten meer pauzes vallen en zijn dus menselijker dan OpenAI's Advanced Voice Mode, waar we tot nu toe het meest van onder de indruk waren.
1:56
En ik vind het zo grappig aan jou, Wietse, dat jij dan zegt: Jezus, ik wil het niet eens meer laten horen. Ik ben, I'm so beyond this. [lacht] Ja, nou ja.
2:04
Jij, jij ergert je aan de mate van, en van, uh, van aandacht en enthousiasme die mensen hierover hebben. Waar zit hem dat in? Het is niet per se.
2:12
Ik denk: ja, misschien is het wel een soort ergeren, maar ik mer-, ik merk dan, uhm, kijk, wij zitten hier met z'n tweeën, uh, uh, allemaal voice assistants te testen. Al veel te lang met allemaal voorbeelden.
2:22
En dan zeggen we: ja, de film Her, de film Her. Het is nu hier. Het is nu hier. Ja. Volgens mij hadden wij het over, hebben we het al heel lang over latency. Ja, latency maar naar beneden. Maar deze heeft lage latency.
2:33
Ja, en dan. Je kunt het proberen trouwens, luisteraar, als je denkt: waar gaat het over? Sesame.com en dan ga je naar demo. Probeer het even. Zet de podcast op pauze. Pro-probeer het. Het is echt heel leuk.
2:41
Maar sorry, latency. Ja. En dus de latency. Da, da, da. Nou uiteindelijk, kijk, dit is dat Sesame-ding, want ik zie, die, die gaat dan viral op TikTok, Shorts, whatever.
2:50
Daar zie ik hem allemaal langskomen en dan zit ik daar weer als die Radiohead-fan te mekkeren van: [Alexander lacht] kom je er nu achter dat die muziek dik is? Want maanden geleden stond het al in de nieuwsbrief.
3:00
Nou ja, het stond, het stond al in de nieuwsbrief.
3:02
Wij hebben het er heel, wij hebben een soort momentje met elkaar gehad van: we hebben letterlijk Advanced Voice Mode in de studio gehad die meeging doen in onze gesprekken en jij hebt het op tv ook een aantal keer gedaan.
3:12
Waardoor ik denk: nu zijn we er toch wel een soort van voorbij die uncanny valley van: je kunt praten met AI. En dan komt die Sesame uit. En er zijn, denk ik, twee dingen,
3:23
want ik ben natuurlijk gaan analyseren: waarom gebeurt, waarom breekt dit nu die mainstream in? Hè, want het is ook een soort DeepSeek-momentje.
3:29
Toen zat ik ook een beetje te mekkeren van: o, ja, uh, het is het, uh, uh, dat nadenken van zo'n AI en dat je mee kan lezen in die gedachtegang.
3:37
Dat bleek vooral te zijn: het komt uit China, het is een gratis app en ik kan het gedachteproces zien. En die drie dingen samen doen het ineens doorbreken.
3:45
Nou, Sesame is ook: je hoeft geen account aan te maken, je opent die website op je mobiel en je kan gaan kletsen. Ja, precies. Ja. En dit lijkt, dit lijkt misschien een heel klein, maar- Cruciaal. Het is cruciaal.
3:55
En hij is toch wel een 10, 10% beter nog dan Advanced Voice Mode, waardoor je in al die, want ik ben op een gegeven moment ook maar een beetje door die reels en TikTok-dingen heen gaan scrollen van al die influencers die hier een ding van maken en het een beetje deels overhypen.
4:09
Maar goed, er worden gesprekken gevoerd waar ik ook van denk: heel, een beetje de helft van het gesprek gaat over die grens heen van een soort: zit ik hier nou gewoon te bellen met iemand? Moet ik gaan ophangen?
4:21
Ik word zenuwachtig. Het is spannend. Je ziet ook veel mensen bellen en daarna zo: huh, hallo, uh, uh, ja, hoi, ja, sorry, ik, ik dacht.
4:27
Weet je, die ra-raken in een soort paniek als ze die demo gaan doen, omdat ze denken: ik ben toch een beetje, uhm. Het is te echt. Ja, ik word een beetje verlegen. Ja.
4:36
En ik denk dat die, uh, uh, ik, mijn, wat je bij mij voelt, is een, uh, verbazing dat ik ten eerste denk: man, ik ben disconnected als nerd. Ik zit veel te diep hierin. Ja.
4:47
En punt twee: ik kan heel slecht voorspellen- Ja...wat het dan is dat het opgepakt doet worden en het echt die wereld ingaat, de brede zin buiten onze bubbel.
4:57
Nou ja, laten we de taakomschrijving die we hebben niet uitbreiden naar, uh, begrijpen wat er allemaal speelt in de, soort van, in, in de mainstream. Dit is juist de, de niche. Laten we die vooral omarmen, zou ik zeggen.
5:07
En maak jezelf niet te moeilijk, Wietse. Hè, het is ook gewoon leuk. Probeer het gewoon uit. Zeg tegen mensen dat ze [gniffelt] het leuk kunnen proberen. Het is hartstikke grappig.
5:16
Het is gewoon ook een goede naam, Sesame. Ja, en daarnaast, je bent gewoon de fan die er al eerder bij was en daarna een beetje blasé kan doen. Dat is ook, uh, dat is ook leuk. Hè?
5:25
Goed, uh, we gaan door naar het nieuws, Wietse, want er was, uh, een tijdje geleden een Amerikaanse congrescommissie die, uh, zei dat er een Manhattan-achtige inspanning gedaan moest worden om superintelligentie te ontwikkelen.
5:38
Dat was, uh, dat kreeg veel media-aandacht.
5:40
En natuurlijk, The Manhattan Project is het atoomprogramma uit de jaren veertig van Amerika, uh, met massale overheidssteun en heel veel, het, het zegt vooral iets over de grootte van een project, de grootte die het kan hebben.
5:52
En, uh, onlangs was de Amerikaanse minister van Energie, stond naast OpenAI-baas Greg Brockman voor een supercomputer te poseren en de boodschap daar was glashelder: Amerika moet China verslaan in de AI-oorlog.
6:06
Nu, en dan bedoel ik gisteren, waren er drie grote namen uit de Amerikaanse techwereld die alarm slaan over deze strategie.
6:13
Voormalig Google-topman Eric Schmidt, Scale AI-directeur Alexander Wang, die ik opeens echt overal zie.Nou, interessant is dat hoe dat gaat, hè? Ja.
6:21
Die kiezen er dan waarschijnlijk gewoon voor om- Ja, naar voren te stappen. Ja. Ja, nou dat, dat lukt aardig.
6:25
En iemand van het Center for AI Safety waarschuwt dat zo'n agressieve aanpak, namelijk, ja, gewoon wereldheerschappij voor Amerika op het gebied van AI, uh, nastreven en daar de Amerikaanse, ja, middelen voor vrijmaken, dat dat juist gevaarlijk is.
6:40
Ze hebben een beleidsdocument geopenbaard. Is iets van 37 pagina's, best overzichtelijk.
6:44
En daarin stellen zij dat Amerika streven naar alleen haar heerschappij over superintelligente AI juist tot harde tegenreacties van China kan leiden, zoals grote cyberaanvallen en met grote internationale spanningen als gevolg.
6:57
En wat die auteurs eigenlijk zeggen is: als Amerika denkt dat China rustig zal toekijken terwijl de VS een superintelligent AI-wapen ontwikkelt, zijn ze naïef.
7:07
Een race naar dit soort superintelligentie zal alleen maar leiden tot gevaarlijke tegenreacties. Je begint met een ambitie om een superwapen te bouwen en je eindigt met een wereldwijde crisis en toenemende spanningen.
7:17
Al deze dus rustgevende pdf. Schmidt en zijn medeauteurs vergelijken de situatie met de kernwapenwedloop tijdens de Koude Oorlog. Uh, en dus dat je voorzichtig moet zijn met het nastreven van dominantie.
7:28
En zij stellen een alternatief voor.
7:29
Zij zeggen [schraapt keel] in plaats van een wapenwedloop waar Amerika dus gaat proberen om voorop te lopen, stellen zij een concept voor van mutual assured AI malfunction, met een kleine knipoog naar hoe we natuurlijk over atoomwapens praten, waarbij landen de capaciteit ontwikkelen om gevaarlijke AI-projecten van tegenstanders uit te schakelen voordat deze een bedreiging vormen.
7:52
Wat een tijden zijn we beland, Wietse. Blijf erbij. Ze pleiten voor een, uh, ze pleiten voor een verschuiving van wie ontwikkelt als eerste superintelligentie naar een meer defensieve aanpak.
8:01
En concreet adviseren ze om een sterk, uhm, cyberdefensie arsenaal op te bouwen om gevaarlijke AI-systemen proactief uit te schakelen. Oké, toegang tot geavanceerde AI-chips voor rivaliserende landen te beperken.
8:15
Dat blijft een, uh, belangrijk idee.
8:17
Uhm, uhm, Anthropic CEO was dit deze week in een podcast ook weer aan het herhalen hoe belangrijk dat is om China op achterstand te houden en controle te houden over open source AI-modellen die misbruikt kunnen worden.
8:27
Dus een sterke stelling daarover nemen. Ze zien een, uh, ze zien zichzelf als een middenweg tussen twee extremen in het, in die, die twee extreme kampen in dit debat.
8:36
De doomers aan de ene kant, die denken dat AI-ontwikkeling gewoon op pauze gezet moet worden om ca-ca-catastrofes te voorkomen en aan de andere kant de, zo noemen zij, de struisvogels.
8:45
Dat is dus Trump en consorten, uh, die voluit gas willen geven zonder na te denken over de gevaren.
8:52
Uhm, maar zij zeggen dus Amerika moet superintelligentie niet benaderen als een wapenwedloop, maar als een, uh, ja, een uitdaging die gezamenlijk internationale samenwerking vereist en dus proactief shit uitschakelen van anderen op het moment [gniffelt] dat het uit de hand lijkt te lopen.
9:07
Was getekend Eric Schmidt en Alexander Wang. Doet me denken aan de, een beetje aan de film Arrival. Zo'n sciencefictionfilm. Ja. En dan komen ze, komen ze van buiten, zeg maar, aliens.
9:16
En dan wordt er in eerste instantie samengewerkt en dan ineens helemaal niet meer tussen alle wereldmachten en dan ineens weer wel. Uhm, ja, daar moest ik even aan denken.
9:25
Ja, als in- Nou ja, je kunt allemaal natuurlijk zeggen: we gaan allemaal binnen zitten en niet meer, uh, met elkaar overleggen.
9:33
Terwijl, ja, dit is heel idealistisch, hoor, maar het zou zo mooi zijn als al die laboratoria gewoon met elkaar samenwerken. Ja. Een soort International Space Station. Maar goed. Ja. Arrival.
9:42
Het is een soort van naïef, het zei de, uh, Anthropic CEO, naïef om te verwachten dat, uhm, uh, China zich in gaat houden.
9:51
Nee, ik denk dat in dat opzicht, uh, al die vergelijkingen met Manhattan Projects et cetera, die jij natuurlijk al benoemt en waar nu zo'n wink naar gedaan wordt met die mutual assured malfunction, als ik het goed hoor, hè.
10:02
Uhm, ja, een ingewikkelde. Ja, nou daar houdt maar even op. Kijk maar even wat je ermee doet.
10:08
Volgens een recent artikel in Information zou OpenAI's meest geavanceerde AI-systeem, uh, een soort agent die op PhD onderzoeksniveau werk voor jou zou kunnen gaan doen, uh, het luttele bedrag van $ 20.000 per maand moeten gaan kosten.
10:21
Zij voorspellen dus dat OpenAI binnenkort met een versie van ChatGPT uitkomt die [gniffelt] $ 20.000 per maand gaat kosten.
10:28
Het idee daarvan is dat dit, uh, soort van top, deze topklasse AI zou dan complexe wetenschappelijke vraagstukken moeten kunnen oplossen.
10:35
Vergelijkbaar met hoe onderzoekers nu het O1-model al gebruiken voor onderzoek naar kernfusie. Dit is waar OpenAI in persberichten altijd mee schermt.
10:42
En dit is dus de, ze willen de, de duurste tool voor $ 20.000 beschikbaar gaan stellen. Geloof je dat ze nu al, soort van, dat ze modellen hebben die dat waard gaan zijn? Nou, da-dat is de vraag. Maar omdat we nu,
10:57
blijkbaar wordt er heel veel intelligentie gewonnen of heel veel intelligentie gecreëerd op het moment dat je die modellen meer tijd geeft om na te denken. Ja, precies. En dus, hè, dat deep research in het plusplan.
11:09
Volgens mij mag je één researchvraag per dag stellen of zo. En in het superproplan van $ 200 mag je 25 researchvragen stellen uit mijn hoofd.
11:17
Dat is allemaal, zeg, en dan zegt OpenAI daar nog eens bij: zelfs in dat proplan van $ 200 per maand maken we verlies, hè, is, is dan de claim, uh, want het is gewoon heel veel dure rekenkracht op de achtergrond, uh, die op het moment dat jij aan het researchen bent, kan niet iemand anders tegelijk ook researchen op dat deel van het datacenter.
11:35
Dat kan natuurlijk wel, maar niet op jouw deel. Dus je houdt iets bezet en dat kost geld. Als je dan natuurlijk zou zeggen: oké, maar nu heb jij een team researchers.
11:43
Misschien heb je wel een projectmanager die researchers aanstuurt, hè, in dat hele agentic ding. Dus een, een, je hebt een soort supervisor, uh, deep researcher en die stuurt dan een paar junior researchers aan.
11:55
Allemaal AI, hè. Ja, dit is hoe jij verwacht dat dit gaat werken. Nou ja, kan het. Je praat met de supervisor en die stuurt weer andere agents aan.
12:00
Ja, en, uh, op, uiteindelijk ben je, net als bij een pizzarestaurant wat, uh, grotendeels meel en olie is en warmte uit de oven. [lacht] Ja, en de tijd van iemand om hem erin en eruit te stoppen. Ja.
12:10
Uh, bij, ook bij een OpenAI zit je gewoon met de, de basale grondstoffen, namelijk, hè, de chips, de energie hebben we het al heel vaak over gehad.
12:17
Maar het wekt natuurlijk ook de verwachting dat het $ 20.000 waard gaat zijn- Exact...voor gebruikers.
12:22
En ik denk dus dat zij die, de, de inschatting maken, uh, dat je als jijSec naar je budgetten kijkt en je HR spreadsheet erbij pakt waarop de uren staan en de budgetten die jij aan bijvoorbeeld research uitgeeft binnen jouw onderzoeksinstituut of gewoon jouw bedrijf.
12:39
Dat je dan gaat kijken. Ja goed, daar gaat, uh, weet ik veel, 20k in per maand. Ja. Ik. Wat er gebeurt er als ik daar, uh, een keer, uh, een maandje OpenAI budgetten?
12:47
Nou, ik zag vooral, want ik zat natuurlijk ook een beetje Reddit te scrollen en op X op, uh, als reacties op deze, op deze aankondiging.
12:54
Het is een gerucht voor de helderheid tot zover en het, het past in een breder kader waarin, eh, OpenAI dus van het is nu $ 20 per maand en $ 200 per maand.
13:03
Daarnaast ook een plan gaat neerzetten voor 2.000, 10.000 en $ 20.000 per maand. Dat is het gerucht wat The Information, uh, de wereld in heeft geholpen. Maar
13:13
er was een hoop hoongelach over het idee dat je $ 20.000 gaat uit-uitgeven aan, ja, iets wat PhD onderzoeksniveau heeft, terwijl je voor dat geld ook daadwerkelijke PhD's kunt inhuren. Nee, tuurlijk, tuurlijk.
13:26
Dus ik denk dat, volgens mij, uh, hoe het een beetje werkt met dit soort nieuws, want het is niet, het is een gerucht, maar wel een gerucht via, uh, officiële kanalen.
13:34
Dat ik denk: dit is ook een beetje het water testen van- Van OpenAI die bij The Information wat lekt. Ja, dat snap ik. Ja, want wat kan er, hè? Uhm, we gaan eens kijken hoe je. De reactie was niet heel positief iets, hè.
13:44
Nee, dus dan, wat je dan doet is dan zeggen: oh, niet 20.000, maar 2.000, hè. Zo werkt het dan, denk ik. Uhm, maar het, het uitvinden. Ik heb hier ook best wel discussie al over.
13:54
Uh, niet over die maandbedragen, maar wel dat ik bijvoorbeeld zeg van: ja, ik was, uhm, een beetje met Claude aan het praten en, uh, ja, eind van de dag zag ik dat $ 70 in, uh, in, in één dag, uh, in mijn, uh.
14:05
Ik, ik gebruik dan een open router, dus dan kan ik, zie ik gewoon. Nee, jij betaalt per AI-request. Exact. Dus ik zie gewoon, uh, dat bedrag en dan log ik in, denk ik: oeh, weer $ 70 vandaag.
14:14
Dit is niet een of andere wow, iets, uh, die flex het even. Nee, ik ben die dag aan het programmeren geweest en ik denk: ja, 2.00u eraf. Ik heb een bepaald uurtarief. Ah, oké, jij denkt gewoon: dat is prima.
14:23
Maar als, ik bedoel, als je als ondernemer kijkt naar die bedragen en dan denkt: ja, die, dat zijn bedrijfskosten die ik maak en ik kan ook een, uh, tussen een speed pedelec fiets kopen waardoor ik twee keer zo snel op het station ben.
14:33
Scheelt me ook 10 minuten. Ja, het is heel, uh, basaal, maar o-als je op die manier kijkt naar dit soort investeringen, dan zijn, uh, 2.000 per maand.
14:42
Ik bedoel, begrijp me niet verkeerd, ik ga dat echt niet zomaar afsluiten. Maar op een hoger niveau binnen een organisatie waar jij met getallen werkt die al veel groter zijn dan, uh, wat je voor Netflix betaalt.
14:52
Het is een beetje een ding. Je, w-, je, je kijkt hier naar denk ik als consument, uh, die € 3 voor NPO+ neerlegt [lacht] en dan denk je: 2.000 ben je niet goed.
15:00
Maar als je dit op management level vanuit een groter bedrijf gaat bekijken, heb je al dat soort kostenposten.
15:05
Er zit wel een belofte in dat je meer waar voor je geld gaat krijgen dan dat je daadwerkelijk acht PhD's inhuurt.
15:12
Ja, en da-, en nou goed, daarbij zou je dan kunnen zeggen: uhm, stel even voor het gemak van de discussie, het is exact even duur, hè, dus je kunt mensen inhuren of, en dan, dan krijg je, dat zijn een beetje de discussies die ik om me heen hoor.
15:27
Ja, maar goed, die AI die ik dan bij OpenAI, hè, die nog niet bestaat, maar stel dat die bestaat, inhuur. Ja, die doet het wel 24/7. Ja.
15:36
Daar zitten wel een aantal niet-menselijke aspecten aan die ik wel prettig vind dat die er niet aan zitten. Ja.
15:41
Hè, dus ik denk het gesprek: uh, gaan er straks serieuze maandsalarissen neergelegd worden voor abonnementen bij AI-bedrijven, uh, AI-bedrijven?
15:51
Ja, nou, niet binnen een jaar, maar sluit het niet uit, want je moet er niet naar kijken alsof het een NPO+ abonnement. Nee, dat snap ik ook wel. Het is, het zou een besparing moeten zijn.
16:01
Ja, ik zag Ethan Mollick, uh, op, uh, op X over de, de gedachte dat wat, wat er zou gebeuren. Dit gaat natuurlijk over steeds, steeds intelligentere modellen.
16:10
Maar wat is nou het moment dat het echt superintelligentie is? Het is natuurlijk ook best wel een vage grens.
16:15
Hij zegt: en als je $ 20.000 per maand vraagt voor iets, daar zit, daar zit wel een soort pretentie in, in wat je dan kan waarmaken aan, aan menselijke intelligentie waar het op gebouwd.
16:26
Hij zegt: als je nou echt de eerste bent met superintelligentie, dan ga je niet een abonnement voor $ 20.000 per maand verkopen. Dan ga je hem laten beleggen op de aandelenmarkt.
16:36
Dan ga je met die duizenden superintelligente breinen geld verdienen voordat iemand doorheeft wat er gebeurt.
16:42
Maar waarom zou je je, waarom zou je je geheime wapen delen, zegt ie, als je er eerst stinkend rijk van kunt worden door alle markten te verslaan?
16:48
Nou, lo-los van het feit dat je natuurlijk gaat zeggen als je, hè, stel dat Anthropic, OpenAI, een van die frontier labs op een punt komt, ergens in de komende jaren, waarop zij merken: hmm, deze agent die we nu zelf hebben gecreëerd intern, kunnen we eigenlijk gewoon aannemen binnen Anthropic.
17:04
Dan ga ik ervan uit dat hij daar gaat werken. Ja, precies, ja. En, en dan gaat werken aan nog betere software. Ja. Maar ik denk wel dat het interessant is, uh, als je hier dan, uh, uh, naar die bedragen kijkt.
17:16
Het is ook nog eens zo dat OpenAI kan wel zeggen, uh, voor, voor, nou zeg $ 2.000, uh, heb je één agent, hè, per maand. Dan ga je er ook maar vanuit dat andere partijen dat niet kunnen aanbieden voor de helft. Ja.
17:29
Want dat is natuurlijk ook nu nog een beetje de vraag. OpenAI kan wel met de grootste bedragen blijven strooien, maar als er straks een- Enig meer. Exact. Google, uh, zet de aanval in op Perplexity.
17:40
Ze hebben een nieuwe AI mode gelanceerd in Search en dat zal niet direct tot enthousiasme leiden bij de meeste mensen, want de eerste experimenten met AI in Google Search zijn, laten we zeggen, bijzonder teleurstellend.
17:52
Uhm, maar ze zijn nu echt Perplexity compleet achternagegaan en dat ziet er best interessant uit.
17:58
Ik gebruik Perplexity zelf eerlijk gezegd best wel vaak, omdat het me, uh, veel tijd scheelt ten opzichte van Google en tegelijkertijd beter is dan bijvoorbeeld de, uh, searchfunctie in ChatGPT.
18:09
Uhm, en wat ze doen is totaal identiek aan Perplexity, namelijk een langere query waarbij in feite, uhm, Google dan de zoekvraag ophakt in een aantal delen.
18:21
Al die pagina's leest die, die vervolgens uit die zoekresultaten komen en dat dan vervolgens in één overlappende tekst samenvatGoogle doet ook een extra stap, namelijk dat ze interfaces aanpassen op basis van informatie die gevraagd wordt.
18:34
Dus bijvoorbeeld als jij producten met elkaar gaat vergelijken en dat is een extra pré die Google heeft bovenop Perplexity, want ze hebben hun knowledge graph en real time productinformatie die Google Shopping mogelijk maakt, waarbij ze dus heel veel data hebben over dingen die mensen kunnen kopen, waardoor ze ook, ja, weet je wel, van die overzichtjes kunnen maken.
18:53
Dat als je niet weet welke laptop je moet kopen, dat je gewoon kan vragen: ik ben Wytse. Ik doe vooral, uh, dit en dit en dit. Ge-, zeg even welke laptop ik moet hebben.
19:01
En dat je keurig van die, zo'n tabel krijgt met, uh, plaatjes erbij en alles wat Perplexity nog maar zeer beperkt doet en waar Google, uh, potentieel een voorsprong heeft.
19:09
Het is, uuuuh, Perplexity is natuurlijk voor iedereen beschikbaar, maar deze functie wordt natuurlijk weer in stapjes uitgerold.
19:18
Ik weet niet waarom, maar dit gaat eerst naar Google One AI Premium abonnees in de VS, Wytse, dus. Ik denk dat ze een beetje bang zijn, man. Zou dat het zijn?
19:27
Nou ja, ze hebben natuurlijk wel eerder, wat je al zei, dingen uitgerold. Zomaar midden in de— Ik bedoel, het is ook een tabje. Je hebt gewoon nu images tab en shopping tab en AI tabje.
19:36
Dat hadden ze misschien destijds ook al moeten zeggen van: joh, je, dit is gewoon de Google die jij gewend bent. Ja, ja. Maar we hebben nu een nieuw cool tabje: AI. Ja. Noem het allemaal experimenteel. Ja, precies.
19:45
Maar goed, ze draaien nu met terugwerkende kracht naar een soort- Voorzichtigheid. Ja, en ik denk, wat ik nu, terwijl ik jou zo hoor over die Perplexity-achtige rich, rich results, zeg maar.
19:55
Dus als je op een recept zoekt, dan krijg je iets wat je makkelijk kan koken. Met grote letters, dat je snapt hoeveel gram suiker er in je taart moet.
20:01
Dat ik wel me afvraag, uh, Google doet nu al in de oude klassieke non-AI Google. Als jij een rekensom intypt, krijg je een kleine calculator widget als result. Die staat dan bovenin een klein calculatortje.
20:13
Dat ik altijd al dacht: hé, voe-, of voetbaluitslagen krijg je ook in een soort rich- Vlaggetjes. Uh, ja, helemaal cute. Ja. Dus ik zit nu wel te denken, aansluitend op wat jij al een, uh, aantal maanden roept.
20:25
Je, nu, je kunt nu, ik pak even een paar snelle stappen, hoor, maar
20:29
je, wa-wat wij voor ons zien is dat je niet meer apps opent de hele tijd of widgets gebruikt, maar dat je een vraag hebt die je gepresenteerd krijgt in een perfecte visualisatie die bij jouw vraag hoort.
20:41
Dus als je het weer vraagt, krijg je een hoe een weer app eruit zou zien. Soort van superrijk, zeg maar.
20:47
En dat calculatortje van Google, die vlaggetjes en wat Perplexity is, zijn al heel erg aan het zoeken naar: hoe geef je dat dan weer?
20:54
En ik ben dus heel erg benieuwd of Google nu de stap gaat maken om te zeggen: maar als jij op zoek bent naar een recept, waarom tonen we hem jou niet à la NotebookLM- Ja.
21:05
In een recept met iemand die jou erdoorheen neemt in audio. Ja. Hè, waarom zouden Google zoekresultaten niet on demand, just in time, rich applicatie-achtige widgets worden- Ja. In plaats van stukjes tekst onder elkaar?
21:18
Ja. En ja, ik zou zeggen: als wij het in Cursor in één minuut kunnen bouwen, kan- Dan moet Google het ook kunnen. Check. Ja. Ja. Nou, ik denk, ik denk ook de hele tijd: wat is de mode van Perplexity nog?
21:30
Want als dit er is, ja, dan ga ik echt wel eerder Google gebruiken dan Perplexity. Dat is toch een beetje omdat het moet, Perplexity. Nou ja, ik, ik, ik had, ik las nog wel een leuke take over die Comet.
21:39
Hun browser die Perplexity heeft aangekondigd. Die gaan zelf een browser maken. Oké. En toen was het, was het grapje een beetje: ieder, ieder Silicon, iedere Silicon Valley unicorn eindigt als webbrowser.
21:51
[lacht] Hè, want, want die merkt van: ja, we moeten- Op dat niveau controle hebben. En wij, uh, en ik denk dat, uh, uh, Perplexity ook aan het zoeken is van: hoe kom ik voorbij een gratis research lab voor Google zijn?
22:03
Ja, ja, ja. Ik ben heel benieuwd. Succes daarmee. [muziek] Apple bracht een nieuwe Mac Studio uit deze week, uh, die dankzij, uh, de hoeveelheid werkgeheugen die flink is opgepompt bijzonder geschikt is.
22:16
Zo, zo, zo verkopen ze hem niet, toch? Maar, a, a- Jawel. Bijzonder geschikt als run AI at home computer. Echt? Zegt ze gewoon. Dit is dus het nieuws. Wat een nerdy shit. Ja, dus sterker nog. Oké, dit.
22:27
Ik zit dus al heel lang te kijken van: oké, hoeveel VRAM heeft ie? Hoeveel VRAM heeft ie? Wat de meeste mensen in de Apple Store in Amsterdam niet vragen. Nee. Hoe zit het eigenlijk met mijn unified RAM voor mijn LLM's?
22:36
[lacht] Denk ik niet, weet je wel. Nee. Maar tot nu toe is, oké, in de, uh, de home AI lab community is de Mac Studio, zeker als je hem een beetje betaalbaar kan krijgen, de bestaande Mac Studio- Ja.
22:48
Is een be, een redelijk populaire optie om thuis een beetje zware modellen te draaien. Maar dat is allemaal niet omdat Apple dat ooit zo bedacht heeft. Dat is een soort bijvangst van de architectuur van Apple.
22:59
Dat is, uh, dat is een geluk. Die waren al populair, ondanks dat Apple er niet mee te koop liep.
23:03
En daar werd altijd in de community gezegd: ja, dit is, ik bedoel, Apple heeft de iPhone mini stopgezet omdat die markt te klein was voor een kleine iPhone. Ja. Apple is echt niet geïnteresseerd in de thuis-LLM-markt.
23:14
Mensen die Llama 3.1 goed willen draaien thuis. Ja. Ja. Blijkt dus van wel. Ja. Uh, want wat, uh, gebeurt er? De Mac Studio komt uit. Daar zit 512 gigabyte, uh, uh, unified RAM in.
23:25
Nou, dat is, iedereen die met, uh, modellen thuis bezig is denkt: zo, uh, wat is dan de bandbreedte daarvan?
23:30
En het is een stuk goedkoper dan zes Nvidia kaarten aan elkaar koppelen in een of andere mining rig, uh, thuis die, uh, 1.000 watt gebruikt of zo [lacht] terwijl die draait.
23:39
Dus daar, daar was al meteen enthousiasme van: hé, maar dit is, dit is niet voor video, v, uh, prosumers, hè.
23:47
Apple zit normaal met die Mac Studio gaan ze alleen maar filmpjes laten zien van mensen die met hele dure grote Red camera's, uh, uh, weddingvideo's schieten. En dan: kijk, nu kan je heel snel renderen.
23:56
Nee, Apple zet op de website: joh, dit is de, uh, Apple Intelligence Mac Studio. Oké, zo verkopen ze het dan. Die wordt erop geplakt. Maar we hebben Llama 3.1. [lacht] Ja, precies. Staat gewoon in de press release.
24:07
Hebben we erop gedraaid, het aantal tokens dat ie kan. Hè, dus er wordt helemaal eigenlijk wel omarmd van: joh, wij zien jullie. Ja. Ik voel me wel een beetje gezien nu. Ja. Ja. Ja. [lacht] Wij zien jullie.
24:17
Sterker nog, wij gaan jullie noemen in press releases. En ik vind het een, uh, uh, een grappige move omdat ik dan denk: oké, jullie branden hem Apple Intelligence. Ja. Hè, de AI van Apple. Tuurlijk, dat moet.
24:28
Terwijl ze in essentie niet zo heel veel te bieden hebben. Nee, je kunt emojis maken. Wat is de benchmark? Llama van Meta. Ja. Hè, dat, dat zegt ook genoeg. Ja. Het is niet een benchmark met hun eigen modellen.
24:39
Uhm, waarom vind ik dit nieuws?
24:40
Ik vind hetBoeiend om te zien dat een, een bedrijf als Apple, die het liefst zo min mogelijk geheugen mee levert en echt jou uitknijpt op je iPhone tot de max zodat zij goede marges houden.
24:53
Nu eigenlijk een Mac Studio uitbrengen die grotendeels, uh, uh, zijn, uh, uh, bestaansrecht af, uh, kan lenen aan, uh, uh, taalmodellen, uh, draaien.
25:04
Waardoor ik denk ook omdat framework met hun framework Desktop en Nvidia met hun digits.
25:10
Je bedoelt er zijn alternatieve bedrijven die nu dit soort hardware waarbij alles in één verpakking wordt geleverd waardoor je lokale AI modellen kan draaien. Dat Apple zich gaat meten in die concurrentiestrijd.
25:20
Het is bijzonder vroeg voor Apple in een hele kleine, rare, nog niet gevalideerde markt. Ja. Waarin nu letterlijk als reactie op die Mac Studio wordt gezegd: oh wow, het is op zich de prijs van vier digits.
25:32
Er wordt al in digits gesproken als, als, als price unit van Nvidia. Het is gewoon veel goedkoper dan dingen die Nvidia. Hij is competitief.
25:39
En even voor de mensen die luisteren denken oh, ik ga eens kijken wat Wietse dan bedoelt. € 10.000. Dus € 10.000 is een hartstikke dure computer.
25:47
Maar goed, dat zijn een beetje die, die, daar kan je DeepSeek R1 op draaien thuis. Vet! Best een dingetje. Vet.
25:54
Straks gaan we het hebben over, uh, GPT vier en een half die OpenAI vorig, vorige week heeft gelanceerd, maar waar wij toch nog even bij stil moeten staan. Er is veel gedoe over.
26:04
Voordat we dat gaan doen even wat administratie. Volgende week is ons webinar.
26:09
Dat is donderdag 13 maart tijdens lunchtijd en dat is de kans, uh, voor jou als luisteraar om vragen te stellen aan, uh, aan Wietse en aan mij als je dat wil. Uhm, over alle manieren waarop je AI, uh, wil gebruiken.
26:24
Normaal gesproken praten wij naar jou en dit keer kun je terugpraten. Als je daar bij wil zijn. Uh, met alle plezier en van harte welkom. Uh, dan kan dat. 13 maart van twaalf tot één.
26:35
Dus, uh, met je bento box voor de, voor het scherm zullen we maar zeggen.
26:39
Als je je vandaag aanmeldt, dan krijg je én toegang tot het webinar én twee keer per week de beste tips en tools, uh, om AI te gebruiken in je inbox. Dat is AI report punt email slash webinar.
26:50
En dan gaan we nu naar Marjan en Lucas van Dept over hoe je AI kan inzetten voor jouw merk. [muziek] Hi, ik ben Marjan van marketing- en techbureau Dept.
27:00
Elke week praat ik met mijn collega Lucas over hoe wij merken helpen in de wondere wereld van AI. Deze week return based marketing. Want we weten allemaal dat retouren een groot probleem zijn in commerce.
27:11
Lucas, hoe helpen wij bedrijven hiermee? Ja, we hebben een AI model ontwikkeld dat in staat is om proactief te voorspellen welke orders worden teruggestuurd.
27:19
En dit stelt ons in staat om marketinguitingen en campagnes te optimaliseren, de klantreis te verbeteren en daarmee retouren te verminderen. Hoe helpen we bedrijven hiermee?
27:29
Ja, we hebben een AI model ontwikkeld die in staat is om real time te voorspellen of een order of een deel van een order geretourneerd wordt.
27:35
Dit stelt e-commerce bedrijven in staat om de klantreis te verbeteren en marketingcampagnes te optimaliseren en daarmee het aantal retouren te verminderen. Hoe werkt het dan precies?
27:44
Nou, door vooraf te voorspellen welk deel van een order wordt geretourneerd, kunnen we de echte omzet per order bepalen en dit stelt ons in staat om meer te investeren in klanten die minder retourneren.
27:54
We kunnen zelfs zo ver gaan dat we klanten uitsluiten van bepaalde campagnes omdat we het risico dat ze het product retourneren te groot is. Daarnaast kunnen we ook de website en de app personaliseren.
28:03
Dus als klanten bij een product kijken van we denken: oeh, de kans is te groot dat ze het retourneren.
28:07
Kunnen we bijvoorbeeld andere producten voorstellen of net die extra informatie geven die misschien nodig is om de juiste keuze te maken. Oké, hé, en waarom is dit dan zo belangrijk?
28:16
Het bespaart marketingkosten, hè, uh, uiteraard heel belangrijk. Het maakt de klantreis beter, want je hoeft niet meer naar het postkantoor om een product te retourneren, uh, wat niet goed blijkt te zijn.
28:24
Maar ik denk minstens net zo belangrijk, uh, is dat er veel minder pakketjes worden geretourneerd, wat heel goed is voor het milieu. Yes. Eens. Nou dank Lucas.
28:32
Niet afwachten maar doen dus, want wie vandaag begint loopt straks voorop. Ga naar Dept agency dot com slash AI report als je meer wil weten. Tot volgende week.
28:45
[muziek] OpenAI heeft vorige week GPT vier en een half gelanceerd. Die uitrol is nu helemaal, uh, voltooid en je kan als je plus abonnee bent voor $ 20 per maand, uh, dat ding proberen.
28:56
Het is het grootste model van OpenAI tot nu toe, met enorme rekenkracht die daarvoor gebruikt is. Het model kost ongeveer dertig keer meer voor input en vijftien keer meer voor output vergeleken met GPT 4o.
29:08
En door die hoge kosten twijfelt OpenAI überhaupt of ze het model langdurig via hun API zullen gaan aanbieden, kondigen ze al aan.
29:14
En ondanks de hoge kosten beweert OpenAI dat het nieuwe model veel diepere wereldkennis heeft, hogere emotionele intelligentie bezit en minder fouten produceert.
29:24
Toch zijn de reacties gemengd, want je hoort al dit is een gemengd beeld qua energieverbruik. En wat hij dan kan? Hij kan veel, maar, uhm, ondanks dat, uh, mensen bijvoorbeeld op Reddit.
29:37
Ik zag een arts, uh, die zei: het is een wezenlijke verbetering voor praktisch werk wat ik doe, zijn anderen diep teleurgesteld in dat het niet heel veel beter presteert dan concurrenten als DeepSeek en Anthropic.
29:47
En het roept een belangrijke vraag op: is het tijdperk van pre-training over?
29:51
En dat wil zeggen met de steeds hogere kosten van trainen van grotere modellen en relatief bescheiden verbeteringen die dit op lijkt te leveren, moeten we ons gaan afvragen of deze aanpak op lange termijn wel houdbaar is.
30:03
En gelukkig is daar ons licht in bange dagen om belangrijke vragen te beantwoorden als: is het tijdperk van pre-training over? Dames en heren, Wietse Hagen. Hallo. Wat zeg je ervan? Nou.
30:15
[lacht] Ik heb het even opgepompt. Je had zo'n, het was zo'n abstracte vraag die jij in het draaiboek had gezet. Maar ik heb mijn best gedaan. Heel goed gedaan. Er missen nog pauken en violen, maar. Ja, oké, kom maar.
30:26
Wij hebben geen beeld hierbij, maar ik zit hier dus met een T-shirt aan waarop staat: pre-training is so over. [lacht] Dat moeten we serieus wel in een webwinkel gaan verkopen. Pre-training.
30:36
Er zijn ongeveer drie mensen die dat grappig vinden, maar die gaan het wel heel grappig vinden. Uhm, in, in even het pre-training, post training verhaal. Ja.
30:44
Pre-training is een hele grote bak geld tegen een datacenter aangooien waar dan heel veel energie verstookt wordt, maandenlang. Om een gigantisch brood te bakken, namelijk jouw base model GPT vier en een half.
30:58
Uh, en dan tijdens het dat bakken kan je even kijken hoe het met hem gaat. Heb je al een beetje een idee.Ja, je kan hem af en toe uit de oven halen en hem checken. Even checken, dat scheelt al.
31:08
Dat, dat is denk ik voor, uh, OpenAI, uh, spannend geweest. Want iedere keer als zij hem eruit haalden was het meh. Want we zitten nu eigenlijk met een, kan ik je alvast vertellen, het 4.5 model is meh.
31:22
Het is eigenlijk, hè, de hypothese was, uh, die ons een beetje wijsgemaakt werd als, als, als, nou ja, techneuten die hiermee bezig waren. Je hebt een scaling hypothesis.
31:31
De hypothese dat als je maar genoeg blijft schalen van al die data, je moet er meer computers tegenaan gooien, meer data, meer tijd en dan komt daar een brood uit jongen, die loopt zelf de winkel uit. Dat wordt hem.
31:43
En, uh, uh, daardoor ontstond, e-, is er ook zoveel hype rondom, joh, het, het blijft maar beter worden iedere keer als we er meer data en tijd en energie tegenaan gooien.
31:54
Nu blijkt eigenlijk dat op het, uh, trainen van zo'n model, als je dat heel lang in de oven laat zitten, dat je toch tegen een plafond aanloopt.
32:02
Er is gewoon een plafond gevonden wat je kan doen door energie te stoppen in het blijven pre-trainen. Dus dat is voordat jij het model gaat inzetten naar de eindgebruiker. Ja. En, uh, dat wist OpenAI al.
32:15
Dit is, dit, dit kan ik zelf wel een beetje, durf ik wel in te vullen.
32:19
OpenAI haalt in het laatste 1,5 jaar, want ze zijn al een tijd bezig, want de knowledge cut off, hè, dus hoe de feiten die over nu, over onze tijd, die GPT 4,5 weet is uit, als ik het goed heb gelezen, eind 2023.
32:34
Uh, dus dat ding ligt al even in de oven. Mhmm. Die kan je geen vragen stellen over wat er in de laatste tijd allemaal gebeurd is.
32:41
Dat betekent dat OpenAI al heel lang voor heel veel geld geprobeerd heeft om waarschijnlijk GPT5 te maken. Die bleek niet GPT5 waardig qua versienummer.
32:52
In de tussentijd terwijl, ik ben nu een beetje aan het invullen, dit kan je online zelf een beetje nazoeken in hoeverre deze- Daar vertrouwen we jou op.
32:58
Oké, ik ga, ik doe even mijn best om, om, om terug te halen wat er gebeurd is eigenlijk. OpenAI heeft dat ding een aantal keer uit de oven getrokken in de laatste 1,5 jaar en het was gewoon niet zo spectaculair.
33:09
En dan weet je eigenlijk al, kan je wel langer laten zitten, maar dat is niet over een maand ineens veel beter. Gelukkig was daar binnen het hele, uh, uh, onderzoeks, uh,
33:17
uh, uh, de, de, alle mensen die wetenschappelijk bezig zijn binnen de labs, publiek en privé, het idee van reasoning, namelijk post training. Oftewel je kunt nog veel meer doen nadat je het brood hebt gebakken.
33:29
Je kunt als mensen de vraag stellen dat ding langer laten nadenken, hè, wat die reasoning models nu doen.
33:34
Je kunt met reinforcement learning dat brood wat je hebt gebakken nog, uh, aanpassen, een betere stem geven, wat trucjes leren. Dat doe je nadat je hem hebt getraind. Mhmm.
33:45
Dus je moet eigenlijk zo zien: je kunt, uh, tijd en geld steken in het voorbakken. Uh, dan kan je tijd en geld steken in, uh, de tussenfase voordat je hem op je website zet, zeg maar.
33:57
Dus dan ga je hem, uh, uh, ja, reinforce met allerlei wensen, wensen die je hebt voor wiskunde, programmeren, uh, schrijven, noem maar op, hè. Daardoor krijg je een beetje die verschillende sausjes van modellen.
34:08
En vervolgens, als die eenmaal in jouw datacenter staat, kan je daar zeggen: je krijgt gewoon meer tijd om na te denken. En trouwens, bij, uh, het post trainen heb ik er ook, uh, nadenken in getraind.
34:19
Dat kan je op verschillende plekken doen. Dus er waren gelukkig heel veel andere plekken waar je nog winst kon behalen.
34:26
Maar eigenlijk is op de plek van het pre-trainen en daar maar gewoon zo lang mogelijk laten liggen in de oven is eigenlijk voorbij. Ja.
34:33
Dus jouw, jouw vraag die jij heel mooi, dank je wel, net voorlas, hè, is het, is het over? Dat is niet meer de plek waarop we winst gaan behalen.
34:41
Ja, best een fundamenteel punt, want al lang speculeren we daar gaat het plateauen. Ja. En, en daar ging het, heel vaak ging het over die, over die pre-training tijd.
34:51
Soort van: kun je dat brood langer in de oven blijven zitten? Zijn er, zijn er signalen, want dat is dan de hele tijd de vraag, dat dit niet schaalt met energiegebruik. En daar was heel lang discussie over.
35:03
En nu is dus eigenlijk gewoon het antwoord: nee, het schaalt niet met energiegebruik. Precies, want- Daar zijn we nu. Ja, want wat is er gebeurd? Uh, Grok met een K. Daar is Grok 3 gelanceerd.
35:12
Nou, daar is de allergrootste datacenter kolossals ter wereld tegenaan gegooid. Wat komt daar uit? Iets wat zich kan meten aan o1. Huh?
35:19
Daar moest toch iets nog veel ga-- toen wisten we het eigenlijk al een beetje van hmm, hè. En, uh, nou, Anthropic heeft nu 3.7 uitgebracht. Niet 4.0 Opus, is er niet. Het is weer een stukje verderop.
35:31
Dus we zien uit al die labs tekenen dat er geen heel speciaal brood meer langdurig pre-training gebakken kan worden.
35:38
Maar wat is het geluk een beetje voor [gniffelt] al die partijen daar, want ze hebben ons best wel wat beloofd, hè. Er werd gespeculeerd vanuit Anthropic, vanuit OpenAI. Wacht maar wat er na GPT4 komt.
35:49
Wat kregen we toen? o1. Dat was al een maffe, me-, uh, move. Ja. Waarom niet GPT5? Ja. En toen bleek: nou, wij zijn eigenlijk inmiddels al een ander paradigma ingestapt. Ja, we zijn heel anders gaan koken.
36:01
Ja, [lacht] want eigenlijk hadden wij al lang gezien: we moeten met nieuwe dingen gaan bre-, we moeten nieuwe dingen gaan brengen.
36:07
En nu is het boeiende, je zei net al, 4,5 van OpenAI, GPT 4,5, die wat mij betreft 4.1 had mogen heten voor wat het eigenlijk doet. Omdat het zo kut is.
36:15
Ja, als je ziet wat ze hebben geïnvesteerd, noemen ze hem liever vijf. Ja. Het geld is vijf. Ja, ja, ja, ja. De staat is, uh, 4.1.
36:22
Uhm, is dat ze nu eigenlijk alsnog maar uitbrengen van: joh, dit, dit hebben we eigenlijk ook getraind. Met schaamrood op de kaken. Ja, ja, want de aankondiging van OpenAI is ook echt laf.
36:31
Van: ja, waarschijnlijk gaan we hem ook uitzetten later, want hij is hartstikke duur. [lacht] Ja, het is echt een raar ding. Heel wonderlijk. Ja. Ja, en ik bedoel
36:39
het, het i-, uh, het is dus een, een, uh, ja, ik, ik las het mooi in een artikel van iemand die zei: ja, zij hebben echt een gift uit de hemel gehad met dat reasoning. Ja.
36:48
Al die partijen, want- Anders waren ze fucked geweest. Nou, dan hadden wij hier nu een heel ander gesprek gehad. Maar toch even, want we hebben het ook over DeepSeek gehad in het verleden.
36:54
Over de, de, de mate waarin je eigenlijk, nou ja, als ik het heel, heel erg plat sla, uh, uh, slimmer het brood kan bakken waardoor je het voor een stuk goedkoper, uh, kan doen. Ja.
37:03
Uh, dat heeft van alles te maken met de manier hoe die reasoning capaciteit gebruikt worden.Ehm, is, is het, maar tijdens die, uh, aandelencrashes hadden mensen het erover.
37:15
Ja, maar dit gaat er niet voor zorgen dat mensen minder in AI-bedrijven gaan investeren, want het is de combinatie van reasoning en, uh, ja, alsnog opschalen met de nieuwste chips en met meer computerkracht.
37:28
Wat, wat wij in het Westen meer hebben dan dat de Chinezen hebben. Dat we alsnog, we gaan het heus wel gebruiken, die computerkracht die we allemaal aan het maken zijn. Geloof jij dat dan?
37:37
Nou, ik denk dat, uh, wat heel beetje raar is nog steeds, is dat toen DeepSeek uitkwam, dat die Nvidia-aandelen daalden.
37:46
Ik bedoel, er zijn allerlei systemische redenen voor waarom dat toen gebeurd is, maar in essentie was het: we hebben niet, het heeft geen zin meer om heel veel computerkracht aan te gooien tegen het bakken.
37:57
We moeten heel veel computerkracht gaan aangooien tegen het moment van consumeren. Ja, precies. Veel meer computers. Oké. Hè, dus, daar, b-ik bedoel, dat, het nieuws daar was: nog veel meer Nvidia-chips nodig.
38:10
Maar dan bij output in plaats van bij input. En, en ik bedoel, het is gunstiger als bedrijf om zoveel mogelijk uit te moeten geven bij input, bij trainen dan bij output. Sure. Want, ja.
38:19
Hoef je maar één keer uit te geven. Ja. Hoe meer gebruikers je hebt, hoe meer Nvidia-kaarten je moet kopen. Ja. Goed nieuws- Mhmm...voor degene die ze levert. Voor Nvidia, ja. Toch?
38:26
Dat is, dat is, ik vind eigenlijk, het, het einde van het pre-training paradigm is wat in mijn hoofd dan g-goed nieuws voor Nvidia eigenlijk. Ja.
38:33
Uh, was het niet dat je dat outputten van die dingen niet per se op Nvidia-kaarten hoeft te doen.
38:38
Dus daar zit een beetje het, hè, je kunt veel meer andere chips en hardware gebruiken om jouw modellen als je ze eenmaal gebakken hebt op te draaien. Dus ergens snap ik hem een beetje. En is dit nu de nieuwe tijd?
38:50
Dat we gewoon, uh, dat ze, dat ze die sne-die modellen relatief sneller kunnen maken, maar dat wij als eindgebruiker langer naar een, naar een spinnende cursor zitten te kijken voordat we antwoord krijgen op onze vragen.
39:01
Nou ja, nu, kijk, GPT-5 komt er dan alsnog aan. Is aangekondigd door OpenAI of in ieder geval een beetje gelekt. Wat is het idee?
39:09
GPT-5 wordt een hybride tussen eigenlijk o3 en de- Is niet gelekt, hoor, hebben ze gewoon aangekondigd. Ja, oké, het is zelfs gezegd. Top. Een, uh, een lek via een blog is geen lek meer, maar.
39:18
Je kunt de bronnen gewoon geruststellen. Dit komt gewoon op Twitter. Oké, top. Uhm, GPT-5 moet dan een soort ensemble worden die dat allemaal automatisch voor je doet.
39:26
En net als de meeste mensen, als ik nu aan jou vraag, uh, uh: wat is de hoofdstad van Nederland? Dan antwoord je dat meteen.
39:33
Terwijl als ik aan jou vraag: wat is de beste strategie om een, uh, een jonge onderneming te runnen, dan ga je zeggen: ik mail je vanavond wel. Of misschien heb je al antwoord na een paar minuten.
39:41
En- Want dan geeft hij het door aan een deep re-, deep se-, deep research-achtige functionaliteit.
39:45
Ja, dus je wilt uiteindelijk gewoon één inputveld hebben of één speakertje, microfoontje waar je tegen praat en niet zelf hoeven na te denken- Over het model...welk model moet ik en welke strategie? Ja.
39:55
Hè, maar dat is eigenlijk niet de GPT-5 die ik destijds in mijn hoofd had. Nee. Ik denk: dat is een continuatie van eerdere, uh- Gewoon een ding wat krachtiger is. Dan kan je je afvragen: doet dat ertoe? Ja.
40:07
Doet het er uiteindelijk toe? Want ik heb bepaalde, als leek, hè, als ik even als leek ernaar kijk. Ja, ik denk gewoon: vijf is slimmer dan vier.
40:16
En als ik er dan als nerd naast ga staan en ga zeggen: ja, vijf is wel slimmer dan vier, maar eigenlijk op de achtergrond: so what? Dus ergens kan ik die dan ook, uh, uh loslaten.
40:26
Ik denk wat ik een heel interessant iets vind en daarom vind ik het leuk om het over 4,5 te hebben, is, uh, eigenlijk is daar nu al in de geschiedenis van, uh, AI Frontier Labs en taalmodellen iets interessants gebeurd.
40:41
Namelijk: ze hebben op een, op een dienblad aangeboden gekregen een oplossing om door te kunnen schalen op een manier waardoor voor de eindgebruiker AI steeds slimmer wordt, terwijl wat ze daarvoor hebben moeten doen niet is wat ze eigenlijk voorheen hadden, uh, bedacht.
40:56
Hè, we gaan tijd en geld steken in pre-training en dan gaan we vanzelf doorschalen naar iets superslims. Nee, we hebben eigenlijk allemaal andere trucjes uit de kast moeten halen om toch door te kunnen schalen. Ja.
41:07
En dat, ja, ik vind dat wel een interessant gegeven. Want nu is de vraag: oké, bij de vol-- stel dat het reasoning, uh, paradigm of, of, of die truc als het ware tegen een plafond aan loopt.
41:18
Krijgen ze dan steeds weer [schraapt keel] - Hebben we dan nog iets anders in de achterzak?
41:22
Ja, worden er dan steeds weer nieuwe, uh, uh, dingen uitgevonden en kan je op die manier doorschalen naar, hè, wat nog steeds door, uh, Darius Amaei van Anthropic wordt beweerd: een, een intelligentie die gelijkstaat of zelfs voorbij een gemiddelde werknemer van een bedrijf gaat.
41:38
En ondertussen kwam Alibaba deze week ook weer met een nieuw model uit. Dat heeft nog de brillantere, die zijn nog beter in namen verzinnen dan Amerikaanse AI-labs. QWQ-32B. Ja. Uh, en die gebruikt weinig VRAM.
41:51
Dat zeggen ze dan.
41:52
En gebruikt maar één GPU, terwijl DeepSeek voor de, uh, vergelijking, die, het aantal VRAM, uh, wat het gebruikt is gedeeld door 100 gegaan of zo, iets minder, maar echt veel efficiënter geworden en het aantal GPU's dat hij nodig heeft is, uh, met ze-, factor 16 naar beneden gegaan.
42:10
Oftewel: veel minder capaciteit terwijl de, de, uhm, benchmarks hoger scoren of gelijkwaardig scoren. Oftewel: het is weer, uh, efficiënter geworden in hetzelfde eindresultaat behalen als, uh.
42:25
Maar dat gaat over, dat gaat over die, die kleine modellen aan de voorkant. Uh, dus dit lijkt dat te ondersteunen, dat daar de grote winsten op dit moment gehaald worden.
42:35
Nou ja, de grote vraag is: hoe groot, hoe, hoe, hoe rijk moet jouw base model zijn? En voor de luisteraar, wat er nu gebeurt, is dat die, die labs hebben een base model, hè. DeepSeek had 4, V3, daar is R1 uitgekomen.
42:49
Uh, Claude heeft 3.7 en dan Thinking wordt daar gebaseerd op eerdere Claude. En, uh, OpenAI heeft o1 bijvoorbeeld gebouwd op GPT-4.
42:57
Dus je hebt een basismodel gemaakt op de oude manier en daar kan, die kan je gebruiken als, uh, hoofdingrediënt in je volgende model- Juist...die ook reasoning heeft. Dus het hebben van 4,5 bijvoorbeeld is ook boeiend.
43:08
Mogelijk is- Ja, ja...4,5 nu de basis van o3. Ja, ja. Hè, dus, want die za-, die hadden zij al een tijdje liggen. Wij krijgen hem nu toevallig even te zien en zien dat het niet zo spannend is.
43:18
Maar, uh, zeer waarschijnlijk is o3 een gevolg van 4,5.Het is dus ook niet per se onzinnig geweest om dat ding helemaal te trainen voor al dat geld.
43:26
Maar nu rijst eigenlijk de vraag en wat jij nu net even tussen neus en lippen door noemt, is, uh, de benchmarks die Alibaba naar buiten heeft gebracht. Daar zeggen ze eigenlijk in: joh,
43:39
die DeepSeek R1 waar je een Mac Studio van € 10.000 voor nodig hebt, die hebben wij draaien op een Mac Studio van € 3.000. Letterlijk, hè? Ja. Uh, en, uh, de benchmarks die zij gekozen hebben, maar fine. Ja.
43:50
Die scoren gelijk of zelfs een beetje hoger. Op zich niet zo heel gek, uh, als jij, uh, beseft dat wat waar zij op getest hebben is grotendeels logica, dus wiskunde en programmeren.
44:02
Dat is niet, uh, wanneer is Lodewijk de, uh, de Vierde geboren? Nee. Hè, dus dat is niet een, een zip met Wikipedia erin, maar, uh, allemaal programmeer logica chains, zeg maar.
44:11
Heel veel wiskunde huiswerk waarmee je met een paar sl-slimme wiskunde acties duizenden sommen op kan lossen. Dus dat die modellen steeds kleiner worden en slim blijven op dat soort logica is heel goed te begrijpen.
44:23
Maar de grote vraag is nu: joh, is het sowieso nog wel zinvol om al die data in die modellen te hebben?
44:30
Is het niet gewoon veel verstandiger om een super lean, super slim qua logica, uh, uh, model te hebben die heel goed op de hoogte is van wat het model niet weet, hè? Dus die gaat niet hallucineren. Die gaat niet beweren.
44:44
Die gaat zeggen: luister, ik ben Llama 4 van Facebook. Ik kan draaien op een recent Android toestel, hè, acht, 8 miljard parameters.
44:52
Ik weet nagenoeg niks, maar wat ik wel heel goed weet is wat ik wel en niet weet en hoe ik aan die informatie moet komen. En als ik wat nodig heb, dan vraag ik jou om een boek.
45:00
Dan vraag ik jou om toegang tot Google en dan vraag ik jou om toegang tot Wikipedia. Het zijn fascinerende tijden waarin, uh, kleine modellen gemaakt worden.
45:09
Amerikaanse congresleden praten over een Manhattan-achtig project waarmee ze de oorlog willen aangaan met China.
45:15
Andere Amerikanen die zeggen dat je dat niet moet doen, dat je elkaar juist kapot moet maken met cyberweapons. OpenAI, die $ 20.000 vraagt voor haar nieuwste AI. En zo kun je nog wel doorgaan.
45:26
Laten we zeggen dat het nuttig is dat we hier met elkaar over praten, Wytse, en het is ook nuttig dat u hier naar heeft geluisterd, lieve luisteraar. Wij danken Sam Hingenveld voor de edit, Pankra voor de vormgeving.
45:34
Als je een lezing wil van Wytse over AI of van mij kan dat. Mail ons op lezingen@aireport.email.
45:40
Als je op de hoogte wil blijven van het laatste AI-nieuws, twee keer per week tips en tools wil ontvangen om het meeste uit AI te halen. Abonneer je op onze nieuwsbrief via aireport.email.
45:49
En wil je vandaag nog beginnen met AI binnen jouw bedrijf? Ga dan naar deptagency.com/aireport, want zij kunnen je helpen. Alle linkjes zijn te vinden in de shownotes. Tot volgende week!
46:03
[muziek]