Latest / Tech Update | BNR / Meta en Apple werken samen aan lokaal draaiend AI-model op Mac Studio

Transcript

Meta en Apple werken samen aan lokaal draaiend AI-model op Mac Studio · Tech Update | BNR

• 0:00
  Speaker 1: En zo komen wij bij Stijn Goossens. Goedemorgen. Meestal op
• 0:04
  Speaker 1: vrijdag rond dit tijdstip. Stijn, goedemorgen inderdaad. Leuk om er
• 0:06
  Speaker 1: weer te zijn hoor. Google gaat weer meer linkjes naar
• 0:09
  Speaker 1: websites laten zien... in hun AI-zoekresultaten.
• 0:13
  Speaker 2: Gaan
• 0:13
  Speaker 1: we weer
• 0:13
  Speaker 2: blauwe linkjes en doorklikken? Zo voelt het een beetje inderdaad
• 0:15
  Speaker 2: door deze aankondigingen. Ze zijn natuurlijk steeds meer AI-overviews gaan
• 0:19
  Speaker 2: laten zien. Dus als je een vraag stelt aan Google...
• 0:22
  Speaker 2: krijg je eerst een antwoord van AI en daarna pas
• 0:25
  Speaker 2: blauwe linkjes... Maar nu moeten er dus weer meer van
• 0:27
  Speaker 2: die blauwe linkjes... in die AI-zoekresultaten gaan komen. En ook
• 0:32
  Speaker 2: komen er dan ook echt normale linkjes... op een meer
• 0:34
  Speaker 2: prominente plek, dus boven het AI-antwoord. Wel een soort van
• 0:37
  Speaker 2: door AI-genereerd. Stel, je zoekt bijvoorbeeld naar een nieuwe podcast
• 0:42
  Speaker 2: over ASML van BNR. Ja, ons ASML. Dan krijg je
• 0:46
  Speaker 2: direct een linkje naar die podcastpagina ons ASML... in plaats
• 0:51
  Speaker 2: van eerst een antwoord van Google... Met ASML zo lang,
• 0:55
  Speaker 2: zo oud. Dat soort dingen. En er komen dus ook
• 0:58
  Speaker 2: meer klikbare venstertjes. Die linken naar nieuwsartikelen. Over een specifiek onderwerp.
• 1:02
  Speaker 2: Bijvoorbeeld over ASML.
• 1:04
  Speaker 1: Maar waarom is dat? Want Google ging juist af van
• 1:07
  Speaker 1: de linkjes.
• 1:08
  Speaker 2: Het lijkt erop dat ze toch een beetje luistert naar
• 1:10
  Speaker 2: de kritiek. Want ze hebben de afgelopen tijd veel kritiek
• 1:12
  Speaker 2: gehad over deze AI-overviews. Dat ze toch daarmee het verkeer
• 1:17
  Speaker 2: naar de normale websites zouden dwarsbomen. Daarmee zagen ook veel
• 1:22
  Speaker 2: Amerikaanse websites hun verkeer afnemen door deze AI-overviews. En nu
• 1:27
  Speaker 2: lijkt het er toch een beetje weer naar terug te balanceren.
• 1:30
  Speaker 2: Toch kijken hoe kunnen we dat verkeer versterken. En mensen
• 1:33
  Speaker 2: toch meer naar die normale websites toe krijgen. Maar dat
• 1:36
  Speaker 2: zeggen ze er niet expliciet bij. Dus ze hebben gewoon gezegd.
• 1:38
  Speaker 2: We gaan het verbeteren. We gaan een betere ervaring bieden.
• 1:43
  Speaker 2: Ik vind het wel een goede verandering. Want ik denk
• 1:46
  Speaker 2: dat die AI overview's. Waren ook niet altijd even accuraat
• 1:50
  Speaker 2: in hun antwoord. En dan is het toch fijn als
• 1:51
  Speaker 2: je wat sneller door gaat klikken. Naar normale websites. Waar
• 1:55
  Speaker 2: de informatie hopelijk wel goed staat. We zullen eens kijken
• 1:57
  Speaker 2: hier bij de.
• 1:58
  Speaker 1: Product owners bij BNR of die zien dat het verkeer
• 2:01
  Speaker 1: naar de site weer toeneemt. Dan gaan Meta en Apple samenwerken.
• 2:07
  Speaker 1: Het is een
• 2:07
  Speaker 2: soort chipnaam dan, hè? Ja, Metal. Of Meppel. Meta.
• 2:11
  Speaker 1: Die gaan samenwerken om geavanceerde AI-modellen naar de gebruiker te brengen.
• 2:15
  Speaker 1: En dat is best een onverwachte samenwerking, deze twee techreuzes.
• 2:18
  Speaker 2: Ja, want die twee bedrijven, Apple en Meta, gaan de
• 2:21
  Speaker 2: afgelopen jaren eigenlijk helemaal niet zo goed samen door één deur.
• 2:24
  Speaker 2: Ze hadden vaak oneenigheid over privacy van gebruikers. Apple dwarsboomde
• 2:27
  Speaker 2: meerdere keren het verdienmodel van Meta, namelijk headtracking van gebruikers.
• 2:32
  Speaker 2: Maar gisteravond kondigden ze dus een samenwerking aan. Het nieuwe
• 2:35
  Speaker 2: open-weight AI-model van Meta kan namelijk extra goed draaien op
• 2:39
  Speaker 2: de krachtigste Mac-computers van Apple, de MacStudio. Jullie spraken er
• 2:44
  Speaker 2: vanochtend ook al over met onze tech-commentator Ben van den Burg.
• 2:46
  Speaker 2: Die vindt dit ook een interessante samenwerking.
• 2:48
  Speaker 3: Het is voor Meta echt het meest gunstige. Want kijk,
• 2:52
  Speaker 3: zij maken die openwetsmodellen. Ging niet goed, nu is het
• 2:57
  Speaker 3: Muse en Muse Spark. Dus dat gaat nu beter. Nu
• 3:00
  Speaker 3: komen ze achter elkaar uit met die modellen. En Apple
• 3:03
  Speaker 3: zit ook al jaren te klooien met Siri, met Apple Intelligence.
• 3:07
  Speaker 3: Dus voor Apple is het van, we laten nu even zien...
• 3:10
  Speaker 3: die hele goede modellen draaien op ons fantastische hardware. Dus
• 3:13
  Speaker 3: voor beide is het een goede deal. Maar dat ze
• 3:16
  Speaker 3: bij elkaar komen is wel bijzonder. Oké
• 3:18
  Speaker 1: dus groot nieuws voor de tech-nerds. Ik zeg dat met liefde,
• 3:20
  Speaker 1: want ik ben het zelf ook. Maar stel je bent
• 3:21
  Speaker 1: dat niet en je hoort het nu. Wat moet je
• 3:24
  Speaker 1: hier dan mee? Wat kan je daarmee met zo'n AI-model
• 3:26
  Speaker 1: op je Mac? Moet ik dat willen? Wat is het?
• 3:28
  Speaker 2: Nou ja, ik kom er zo op of je hier
• 3:30
  Speaker 2: überhaupt iets mee kan op je eigen Mac-computer. Maar even
• 3:32
  Speaker 2: kort uitleg, het gaat dus over een open-weight-model. Dat betekent
• 3:35
  Speaker 2: eigenlijk dat je als gebruiker zelf de parameters kan aanpassen
• 3:38
  Speaker 2: van zo'n AI-model. Wat zijn de parameters? Dat zijn eigenlijk
• 3:41
  Speaker 2: hoe het AI-model antwoord geeft op jouw vragen. En hoe
• 3:44
  Speaker 2: het karakter een beetje ervan is om het iets te
• 3:47
  Speaker 2: menselijk te maken. En om eigenlijk helemaal naar je eigen
• 3:50
  Speaker 2: wensen af te stellen. En de hele boel draait dus
• 3:53
  Speaker 2: op een Mac. Dus niet op datacenters van Meta zelf.
• 3:57
  Speaker 2: En daarmee is zo'n Mac eigenlijk een soort persoonlijk datacenter.
• 4:00
  Speaker 2: En dat maakt het dus anders dan het gebruik van
• 4:02
  Speaker 2: Cloud en ChatGPT. Want dat draait allemaal op de datacenters
• 4:05
  Speaker 2: van die bedrijven. Meta kan dus ook niet zomaar bepalen
• 4:08
  Speaker 2: hoe het werkt. En die heeft alleen de basis gegenereerd.
• 4:13
  Speaker 2: Het is dan ook niet een klein simpel modelletje. Want
• 4:16
  Speaker 2: je kan al langer open source modellen op je eigen
• 4:18
  Speaker 2: Mac draaien. Maar deze zijn echt flink krachtiger. Deze is
• 4:23
  Speaker 2: zo zwaar, dit AI-model, dat je Apples zwaarste MacStudio-computer nodig hebt.
• 4:27
  Speaker 2: Die kostte vanaf 10.000 dollar. En dan ben je halverwege,
• 4:31
  Speaker 2: want dan heb je dus twee van die Macs nodig
• 4:33
  Speaker 2: om dit model te laten draaien. Dus je bent minimaal
• 4:36
  Speaker 2: 20.000 dollar kwijt om dit überhaupt te laten werken.
• 4:38
  Speaker 1: En waarom is dat zo zwaar? Dan kan ik er
• 4:40
  Speaker 1: ook hele bijzondere dingen mee hebben. Blijkbaar, denk ik,
• 4:42
  Speaker 2: of
• 4:42
  Speaker 1: niet
• 4:42
  Speaker 2: Nou ja, in principe zou je hier dus een heel
• 4:44
  Speaker 2: eigen AI-experiment op kunnen laten draaien op zo'n AI-model. Je
• 4:48
  Speaker 2: kan je eigen AI-assistent bouwen. Jij hebt bijvoorbeeld Muse zelf
• 4:52
  Speaker 2: nog wel eens gebruikt toen je buiten de EU was.
• 4:54
  Speaker 2: Zo'n Muse is een eigen AI-agent die alles voor je
• 4:57
  Speaker 2: doet op het internet. Maar dat draait nu op de
• 4:59
  Speaker 2: computers van Meta zelf. Dit kan je dus op je
• 5:02
  Speaker 2: eigen computer laten draaien. Maar dit is natuurlijk het begin.
• 5:04
  Speaker 2: Dit wordt allemaal steeds goedkoper. De komende tijd steeds beter
• 5:07
  Speaker 2: gaat dit draaien. En dan zou het interessant kunnen zijn
• 5:10
  Speaker 2: in de toekomst voor gebruikers zoals wij. Voor nu is
• 5:13
  Speaker 2: het vooral voor de ontwikkelaars die met AI experimenteren en
• 5:17
  Speaker 2: het liefst hiermee bouwen. En uiteindelijk ben je dan vooral
• 5:22
  Speaker 2: 20.000 dollar aan Apple aan het betalen. En dat is
• 5:25
  Speaker 2: dan weer interessant voor Apple zelf. Zo meteen om
• 5:27
  Speaker 1: tien uur is het. En nou iets voor tien uur trouwens.
• 5:29
  Speaker 1: Om tien uur is het big five. Maar tien voor
• 5:31
  Speaker 1: tien de schaal van hebben. Wat gaan
• 5:33
  Speaker 2: we testen? Ja, ik heb een mango mee. Of het
• 5:35
  Speaker 2: ziet eruit als een mango qua formaat. En het heeft
• 5:38
  Speaker 2: een eigen ademhaling. En dat moet je dan helpen met kalmeren.
• 5:42
  Speaker 2: Het is een soort
• 5:43
  Speaker 1: doorontwikkeling van het product.
• 5:44
  Speaker 2: Het is niet wat slaap. Het is een somnox, maar
• 5:48
  Speaker 2: een nieuwe somnox. En zo groot als een mango. Zo
• 5:51
  Speaker 2: groot als een mango, inderdaad. En dan ga ik zo
• 5:52
  Speaker 2: uitleggen waarom ze hem zo klein gemaakt hebben. Want normaal
• 5:55
  Speaker 2: is hij groot als een knuffelbeer. Als een knuffelbeer, inderdaad.
• 5:58
  Speaker 2: Het is een stuk kleiner. Nieuwe ontwikkeling. En dan ga
• 6:00
  Speaker 2: ik zo uitleggen waar die dan voor bedoeld is. Stijn Goossens, dankjewel.