Latest / Tech Update | BNR / Nvidia steekt 250 miljoen dollar in onderzoek naar AI-veiligheid

Transcript

Nvidia steekt 250 miljoen dollar in onderzoek naar AI-veiligheid · Tech Update | BNR

• 0:03
  Speaker 1: Moeten er maatregelen worden genomen om AI veiliger te maken...
• 0:06
  Speaker 1: waarschuwt de topman van Google DeepMind. Daarom is tech-redacteur Rozan
• 0:10
  Speaker 1: Peters hier. Tenminste, om dat verder naartoe te lichten natuurlijk, Rozan.
• 0:15
  Speaker 1: Waar komen zijn opmerkingen vandaan? Wat zegt hij precies?
• 0:17
  Speaker 2: Hij heeft dus aangegeven dat hij eigenlijk zegt... binnen één
• 0:21
  Speaker 2: tot twee jaar, dan kunnen eigenlijk pas echt... grote incidenten
• 0:26
  Speaker 2: veroorzaakt worden... als overheden en bedrijven geen maatregelen nemen. Dus
• 0:31
  Speaker 2: eigenlijk zegt hij, we schrikken nu al best wel vaak...
• 0:33
  Speaker 2: van de dingen die kunnen gebeuren... omdat die technologie zo
• 0:36
  Speaker 2: krachtig wordt. Maar hij zegt, over één of twee jaar...
• 0:39
  Speaker 2: dan is die technologie pas krachtig. En dan zijn de
• 0:43
  Speaker 2: incidenten dus ook nog veel groter. En dit gaat dus
• 0:46
  Speaker 2: om Demis Hassabis. Hij is dus de topman bij het
• 0:49
  Speaker 2: onderzoeksinstituut van Google... En waarschuwt dus nu eigenlijk opnieuw... nadat
• 0:56
  Speaker 2: er dus al verschillende topmannen zijn geweest... die ook waarschuwen.
• 1:00
  Speaker 1: Ja, en er is dus nog tijd om het allerergste
• 1:03
  Speaker 1: te voorkomen. Wat stelt hij voor
• 1:05
  Speaker 2: Ja, er wordt natuurlijk wel vaker geopperd... dat er meer
• 1:08
  Speaker 2: wet en regelgeving moet komen. En hij zegt dus, nou ja...
• 1:11
  Speaker 2: Er zou misschien gewoon een soort wereldwijde standaard moeten zijn.
• 1:15
  Speaker 2: Maar goed, als er dan zo'n standaard komt... dan is
• 1:19
  Speaker 2: flexibiliteit en nuance ook heel erg belangrijk. Want het blijft
• 1:23
  Speaker 2: natuurlijk een topman van een groot big tech bedrijf. Dus
• 1:26
  Speaker 2: hij zegt ook, we willen natuurlijk niet dat innovatie geremd wordt...
• 1:30
  Speaker 2: Dat kan niet. En ook bij Microsoft. Dat ze maandag
• 1:33
  Speaker 2: nog in de techupdate vertelt. Dat die CEO daar ook zegt.
• 1:36
  Speaker 2: We willen regels. We willen eigenlijk gewoon een ingebouwde noodrem.
• 1:41
  Speaker 2: Dat we wel gewoon lekker kunnen experimenteren. Dat we dingen
• 1:44
  Speaker 2: kunnen blijven doen. Maar dat dan ingrijpen wel altijd mogelijk blijft.
• 1:48
  Speaker 2: En dat is natuurlijk... Een goed punt
• 1:50
  Speaker 1: Ingrijpen door hen zelf? Ja, dus dat
• 1:53
  Speaker 2: je altijd... Dus als
• 1:54
  Speaker 1: je gewoon
• 1:54
  Speaker 2: aan het experimenteren bent met die AI-agents... dat je wel
• 1:57
  Speaker 2: altijd kan zeggen... jij wordt nu uitgeschakeld.
• 1:59
  Speaker 1: We gaan even
• 2:00
  Speaker 2: terug naar de onderzoekstafel... en even kijken van... oké, waarom
• 2:05
  Speaker 2: gaat dit nou mis?
• 2:06
  Speaker 1: In dat kader, NVIDIA heeft toegezegd miljoenen te gaan investeren
• 2:10
  Speaker 1: in AI-veiligheid.
• 2:11
  Speaker 2: Miljoenen maar, dat is niet zoveel. Ik denk in dit
• 2:15
  Speaker 2: geval dat je wel blij kan zijn dat, behalve dat
• 2:17
  Speaker 2: we allemaal roepen dat er iets moet gebeuren, dat er
• 2:19
  Speaker 2: dan ook wel middelen beschikbaar gesteld worden. Want het gaat
• 2:23
  Speaker 2: hier dus om 250 miljoen dollar in de vorm van
• 2:27
  Speaker 2: producten en diensten van NVIDIA. Dat gaat naar het Verenigd Koninkrijk,
• 2:32
  Speaker 2: want dat is eigenlijk het land wat het leidende land
• 2:36
  Speaker 2: probeert te zijn op het gebied van AI-beveiliging. En die
• 2:41
  Speaker 2: investering komt dus uitgesmeerd over vijf jaar. En dan kan
• 2:46
  Speaker 2: het Verenigd Koninkrijk dus onderzoek gaan doen naar de veiligheid
• 2:49
  Speaker 2: van dit soort krachtige AI-agents door ze dus ook. goed
• 2:53
  Speaker 2: te kunnen draaien, want dan heb je ook de producten...
• 2:56
  Speaker 2: en de diensten nodig. Maar koopt Nvidia dan niet gewoon af,
• 3:00
  Speaker 2: dit hele veiligheidsverhaal? Hier hebben jullie 250 miljoen, Groot-Brittannië, zet
• 3:04
  Speaker 2: hem op. Ze doen het natuurlijk niet zonder belangen, dat
• 3:07
  Speaker 2: is absoluut niet zo. Absoluut waar. Maar goed, de hoop
• 3:10
  Speaker 2: is vooral dat deze Britse onderzoekers... dus uiteindelijk wel kunnen
• 3:14
  Speaker 2: bijdragen aan veiligere technologie... en ook echt wel concrete oplossingen
• 3:18
  Speaker 2: voor de toekomst en voor de wetenschap... waar wel gewoon
• 3:21
  Speaker 2: natuurlijk de hele wereld van kan profiteren. En dan kan
• 3:23
  Speaker 2: NVIDIA natuurlijk profiteren van die producten... die ontzettend handig zijn
• 3:28
  Speaker 2: om deze agents op te draaien. Goh, ja, precies. En
• 3:31
  Speaker 2: dat is het belang.
• 3:32
  Speaker 1: Zo werkt ontwikkelingshulp altijd.
• 3:33
  Speaker 2: Dat is waar
• 3:35
  Speaker 1: Dankjewel, Rozan Peters.