Latest / Tech Update | BNR / AI-model Claude 'leidt' nu al kwart van R&D-werk bij Anthropic

Transcript

AI-model Claude 'leidt' nu al kwart van R&D-werk bij Anthropic · Tech Update | BNR

• 0:00
  Speaker 1: Tech-update. Tech-update, of eigenlijk vandaag de AI-update met Stijn Goossens. Stijn,
• 0:05
  Speaker 1: goedemorgen
• 0:05
  Speaker 1: Goedemorgen
• 0:08
  Speaker 1: We gaan beginnen bij Antropic. Heeft een voorstel gedaan voor
• 0:10
  Speaker 1: hoe je de snelheid van AI-ontwikkeling zou kunnen meten. Dat
• 0:14
  Speaker 1: is misschien relevant, omdat er steeds vaker een oproep is
• 0:16
  Speaker 1: om dat een beetje af te remmen, die ontwikkeling.
• 0:18
  Speaker 2: Ja, en waarom moeten we het afremmen? Nou, omdat AI-agents
• 0:22
  Speaker 1: volgens
• 0:22
  Speaker 2: onderzoekers zelf... De mensheid kunnen uitroeien, inderdaad. Daar gaat het
• 0:25
  Speaker 2: natuurlijk de laatste weken heel veel over. Veel nieuws geweest.
• 0:29
  Speaker 2: Entropic zelf heeft ook gezegd, wij willen graag afremmen. Dario Amadei,
• 0:34
  Speaker 2: de CEO van Entropic, heeft een heel voorstel geschreven... over
• 0:38
  Speaker 2: hoe dat er dan ongeveer uit moet komen te zien.
• 0:40
  Speaker 2: Daar kwam wel kritiek op, want er stond eigenlijk heel
• 0:42
  Speaker 2: weinig in... over hoe dat dan echt uit moest pakken. Nou,
• 0:45
  Speaker 2: daar is nu een soort reactie op... En Tropic komt
• 0:48
  Speaker 2: met een plan waarop je dus kan meten... hoe ver
• 0:53
  Speaker 2: AI-bedrijven zijn en hoe snel ze eigenlijk vorderen met de AI-ontwikkeling.
• 0:56
  Speaker 2: En dat gaat op basis van drie aspecten die je
• 0:58
  Speaker 2: dan kan meten. Heel kort gezegd veiligheid, controle en rekenkracht.
• 1:03
  Speaker 2: Maar ik ga er even wat dieper in duiken. De
• 1:06
  Speaker 2: eerste is volgens Tropic... We moeten beter bij AI-bedrijven kunnen meten...
• 1:10
  Speaker 2: wat de maat is waarin AI nou zelf al meebouwt...
• 1:13
  Speaker 2: aan de volgende versie van zichzelf. Want dat is ook
• 1:15
  Speaker 2: waar veel onderzoekers bang voor zijn. Dat er uiteindelijk een
• 1:18
  Speaker 2: AI-model is... dat zichzelf gewoon helemaal autonoom kan doorontwikkelen. En
• 1:23
  Speaker 2: dan heb je helemaal geen controle meer. Punt twee is
• 1:26
  Speaker 2: in hoeverre het AI-lab kan overzien en ingrijpen... bij de
• 1:30
  Speaker 2: acties van AI-agents. En dan vooral in de interne systemen.
• 1:33
  Speaker 2: Want als het op... je eigen computer staat, dan kan
• 1:36
  Speaker 2: je er natuurlijk niet zoveel meer mee. En het derde
• 1:38
  Speaker 2: is wat er allemaal aan rekenkracht dan wordt gebruikt... om
• 1:41
  Speaker 2: die AI-modellen te ontwikkelen. Volgens Anthropic moeten externe partijen uiteindelijk...
• 1:45
  Speaker 2: die drie maatstaven gaan gebruiken om te toetsen bij andere AI-labs...
• 1:49
  Speaker 2: hoe ver ze zijn. Om een goed beeld ook te
• 1:51
  Speaker 2: krijgen van die ontwikkeling. En of het dan ook vertraagt.
• 1:55
  Speaker 2: Want het idee is, we zien nu dan hoe ver
• 1:57
  Speaker 2: ze zijn. En als het dan over een maand minder
• 1:59
  Speaker 2: langzaam vordert... dan de maanden daarvoor ging, dan vertraagt het dus.
• 2:03
  Speaker 2: Dus dat is natuurlijk een beetje het idee. Ook zou
• 2:06
  Speaker 2: elke AI-ontwikkelaar zelf deze metingen ook al moeten kunnen uitvoeren.
• 2:10
  Speaker 2: Uiteindelijk is het natuurlijk een voorstel van Anthropic zelf. Dus
• 2:12
  Speaker 2: een beetje wc-eend die zichzelf meet. Maar het is een
• 2:16
  Speaker 2: startpunt en het moet vooral door een onafhankelijk orgaan gedaan worden.
• 2:21
  Speaker 2: De vraag is ja, met Trumps huidige positie, die zegt
• 2:23
  Speaker 2: het is allemaal een hoax. Of dat ook echt gaat gebeuren.
• 2:26
  Speaker 2: En Anthropic heeft ook gelijk hun eigen systeem losgelaten op
• 2:29
  Speaker 2: hoe ze zelf werken. ontwikkelen. En, wat komt daar dan uit?
• 2:31
  Speaker 2: Er komen wel interessante dingen uit. Ze geven nu een
• 2:33
  Speaker 2: beetje de open kaart daarin. Het meest opmerkelijke cijfer dat
• 2:38
  Speaker 2: ik vond was 26%. Dat is namelijk het aantal in
• 2:42
  Speaker 2: het R & D- werk... dat AI zelf de boel leidt.
• 2:46
  Speaker 2: Dus 26% van het R & D- werk binnen OpenAI... wordt
• 2:50
  Speaker 2: geleid door Cloud, door hun eigen AI. En dat is
• 2:54
  Speaker 2: eigenlijk level 4 van de 5... Die ze zelf zeggen,
• 2:56
  Speaker 2: want je hebt ook nog de hoogste level, dat is
• 2:58
  Speaker 2: helemaal autonoom. In dit geval wordt het geleid, maar ze
• 3:00
  Speaker 2: doen het niet helemaal autonoom. De mens is er nog
• 3:02
  Speaker 2: wel bij betrokken. En dit zijn dan cijfers uit augustus.
• 3:05
  Speaker 2: Dus het zou best kunnen dat het nu ineens 50% is,
• 3:07
  Speaker 2: dat weten we dus niet. Ze onthulden verder nog dat
• 3:10
  Speaker 2: ze in augustus zo'n 30.000 AI-agents tegelijk aan het werk
• 3:14
  Speaker 2: hadden op zo'n R & D- afdeling. Dat zijn gewoon 30.000
• 3:17
  Speaker 2: onderzoekers als het ware aan het werk. En dat zo'n 6%
• 3:20
  Speaker 2: van hun rekenkracht naar veiligheid gaat. Zorgen dat AI ook
• 3:25
  Speaker 2: veilig is. Vond dat dan niet zo heel erg veel.
• 3:27
  Speaker 2: Dus de vraag is of dat dan meer kan worden.
• 3:29
  Speaker 2: De vraag is verder ook hoe betrouwbaar dit cijfer dan is.
• 3:32
  Speaker 2: Want ze brengen het zelf naar buiten. En of het
• 3:35
  Speaker 2: ook genoeg is om een AI-bedrijf echt te kunnen reguleren.
• 3:39
  Speaker 2: Of dat er nog andere metingen nodig zijn. Ik denk
• 3:41
  Speaker 2: dat dit debat verder doorgevoerd gaat worden. Het is in
• 3:43
  Speaker 2: ieder geval een voorstel van Entropic.
• 3:44
  Speaker 1: Daarover gesproken, OpenAI zou gehackt zijn in de afgelopen maanden
• 3:49
  Speaker 1: met AI-tools van Anthropic. Is de AI-oorlog hier begonnen en
• 3:53
  Speaker 1: gaan de agents van deze bedrijven elkaar nu doodmaken in
• 3:56
  Speaker 1: plaats van de mensheid? Want daar zou ik dan wel
• 3:57
  Speaker 1: voorstander van zijn. Liever elkaar bestrijden dan mij, maar goed, ja.
• 4:01
  Speaker 2: Nou, ik ga het toch even uit de lucht halen. Nee,
• 4:03
  Speaker 2: het valt allemaal mee, gelukkig. Het klinkt natuurlijk heel heftig. Nee,
• 4:07
  Speaker 2: er zijn wel AI-tools van, maar dat is door een
• 4:10
  Speaker 2: ander onderzoeksbureau gedaan, eigenlijk een soort hackbedrijfje. En dat hackbedrijfje
• 4:14
  Speaker 2: had geen kwade bedoelingen, gelukkig. Het doel van het hackbedrijf
• 4:17
  Speaker 2: was om juist de kwetsbaarheden in de systemen van OpenAI
• 4:21
  Speaker 2: bloot te leggen. Maar toevallig is dit wel gebeurd, maar
• 4:24
  Speaker 2: twee weken nadat OpenAI zelf Hugging Face hackte. Daar hebben
• 4:28
  Speaker 2: we het ook actief over gehad, met duizend AI-agents tegelijk. Nou,
• 4:31
  Speaker 2: dit keer waren het geen AI-agents die zelf iets deden.
• 4:33
  Speaker 2: Het was een cybersecuritybedrijfje, Hacktron AI. En zij vonden met
• 4:37
  Speaker 2: AI dus een lek in het community-forum van OpenAI. En
• 4:41
  Speaker 2: ze wisten zo toegang te krijgen tot het chat-GBT-account van
• 4:43
  Speaker 2: een medewerker van OpenAI. En via die weg ook weer
• 4:46
  Speaker 2: tot interne code van het bedrijf. Het bedrijf daarachter kreeg
• 4:49
  Speaker 2: uiteindelijk 6500 dollar beloning aan geld van OpenAI. En dan
• 4:56
  Speaker 2: denk je, beloning? Je hebt het gehackt. Hoe zit dat dan?
• 4:59
  Speaker 2: Dat heet dan bountybuck. Dus daar krijgen bedrijven een beloning
• 5:03
  Speaker 2: als ze hun kwetsbaarheid vinden. Dus eigenlijk was het heel
• 5:06
  Speaker 2: goed dat dat gebeurde. Toch ook, laat dit wel een
• 5:08
  Speaker 2: beetje zien. AI-tools spelen een hele belangrijke rol in hacks.
• 5:11
  Speaker 2: Dat gebeurt bijna dagelijks nu. En OpenAI had zijn veiligheid
• 5:15
  Speaker 2: dus niet helemaal op orde. En dat is waar nu
• 5:17
  Speaker 2: de Amerikaanse media toch wel een beetje zorgen over maken.
• 5:20
  Speaker 2: Zeker rond nu de huidige gevoeligheid van die AI-ontwikkelingen... is
• 5:23
  Speaker 2: het niet bepaald marketing voor een bedrijf als OpenAI... dat
• 5:26
  Speaker 2: het zelf gehackt kan worden.
• 5:27
  Speaker 1: Vrijdag, tien voor tien, schaal van hebben. Wat gaan we testen?
• 5:29
  Speaker 2: Vandaag, ja, leuk. Nou, houdt u er een beetje van lezen?
• 5:33
  Speaker 1: Ja hoor, op z'n tijd
• 5:34
  Speaker 2: Leuk, leuk, leuk. Elke avond. Kleine nuance, ik wat minder.
• 5:37
  Speaker 2: Maar ik heb het de afgelopen week wel wat meer gedaan.
• 5:39
  Speaker 2: We hebben namelijk, ik heb een e-reader getest. En dan
• 5:42
  Speaker 2: denk je, e-reader saai. Maar dit is de e-reader.
• 5:45
  Speaker 3: Die is heel klein
• 5:45
  Speaker 3: Dat is een speelkaart. Dat is een beetje een creditcard formaat. Ja,
• 5:48
  Speaker 3: gewoon
• 5:49
  Speaker 2: een
• 5:49
  Speaker 3: speelkaart dit.
• 5:49
  Speaker 2: En er staat een foto van een koe op. Ja,
• 5:51
  Speaker 2: daar vertel ik zo nog meer over. Omdat er een
• 5:52
  Speaker 2: foto van een koe op deze e-reader staat. En ik
• 5:54
  Speaker 2: vertel ook of dit de moeite waard is om te kopen.
• 5:56
  Speaker 2: Maar
• 5:56
  Speaker 3: hier wil je niet op lezen. Nou, dat
• 5:58
  Speaker 2: weet ik niet. Dat
• 5:59
  Speaker 3: wil je toch niet? Dat weet je niet. Dan gaan
• 6:00
  Speaker 3: we zo... 10 voor 10, Bas.
• 6:01
  Speaker 2: We
• 6:01
  Speaker 3: moeten nog twee uur wachten. Nou. Je kunt het ook
• 6:05
  Speaker 3: nu wel doen. Geef maar vast hier. Ik ga vast
• 6:06
  Speaker 1: lezen. Oké, maar niet vertellen nog, hè. 10 voor 10
• 6:09
  Speaker 1: in de schaal. Dankjewel, Stijn.